Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
MODULATION DEVICE AND METHOD, ARTIFICIAL SYNAPSE COMPRISING SAID MODULATION DEVICE, SHORT-TERM PLASTICITY METHOD IN AN ARTIFICIAL NEURAL NETWORK COMPRISING SAID ARTIFICIAL SYNAPSE
Document Type and Number:
WIPO Patent Application WO/2018/100325
Kind Code:
A1
Abstract:
An aspect of the invention concerns a modulation device (11) comprising: - at least one memristive device (Mr1), and - a control block (Ct1), the modulation device (11) having an equivalent conductance yi(t) produced by the at least one memristive device (Mr1) and the control block (Ct1) having means to: - receive a clock signal (clk) and perform a first modification of the equivalent conductance yi(t) upon receipt of each clock signal (clk), - receive an input voltage pulse (Vin) and perform a second modification of the equivalent conductance yi(t) upon receipt of each input voltage pulse (Vin), the first and second modifications being in opposite directions.

Inventors:
WERNER THILO (FR)
BICHLER OLIVIER (FR)
VIANELLO ELISA (FR)
YVERT BLAISE (FR)
Application Number:
PCT/FR2017/053364
Publication Date:
June 07, 2018
Filing Date:
December 04, 2017
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
COMMISSARIAT ENERGIE ATOMIQUE (FR)
INST NAT SANTE RECH MED (FR)
International Classes:
G06N3/04; G06N3/063; G06N3/08
Other References:
P. GIORGIO ET AL: "Stochastic neuron design using conductive bridge RAM", PROCEEDINGS OF THE 2013 IEEE/ACM INTERNATIONAL SYMPOSIUM ON NANOSCALE ARCHITECTURES (NANOARCH'13), 15 July 2013 (2013-07-15), pages 95 - 100, XP032498569, DOI: 10.1109/NanoArch.2013.6623051
T. WERNER ET AL: "Spiking neural networks based on OxRAM synapses for real-time unsupervised spike sorting", FRONTIERS IN NEUROSCIENCE, vol. 10, 474, 3 November 2016 (2016-11-03), XP055342017, DOI: 10.3389/fnins.2016.00474
M. SURI ET AL: "Bio-inspired stochastic computing using binary CBRAM synapses", IEEE TRANSACTIONS ON ELECTRON DEVICES, vol. 60, no. 7, 4 June 2013 (2013-06-04), pages 2402 - 2409, XP011515274, DOI: 10.1109/TED.2013.2263000
O. BICHLER ET AL: "Visual pattern extraction using energy-efficient 2-PCM synapse neuromorphic architecture", IEEE TRANSACTIONS ON ELECTRON DEVICES, vol. 59, no. 8, 17 May 2012 (2012-05-17), pages 2206 - 2214, XP011453738, DOI: 10.1109/TED.2012.2197951
E. CHICCA ET AL: "Neuromorphic electronic circuits for building autonomous cognitive systems", PROCEEDINGS OF THE IEEE, vol. 102, no. 9, 1 May 2014 (2014-05-01), pages 1367 - 1388, XP011556825, DOI: 10.1109/JPROC.2014.2313954
T. WERNER ET AL: "Experimental demonstration of short and long term synaptic plasticity using OxRAM multi k-bit arrays for reliable detection in highly noisy input data", PROCEEDINGS OF THE 2016 IEEE INTERNATIONAL ELECTRON DEVICES MEETING (IEDM'16), 3 December 2016 (2016-12-03), XP033054995, DOI: 10.1109/IEDM.2016.7838433
D. GARBIN ET AL.: "Variability-tolerant convolutional neural network for pattern récognition applications based on OxRAM synapses", IEDM, 2014
T. WERNER ET AL.: "Real-time decoding of brain activity by embedded Spiking Neural Networks using OxRAM synapses", ISCAS, 2016
M. SURI ET AL.: "Phase change memory as synapse for ultra-dense neuromorphic systems : application to complex visual pattern extraction", IEDM, 2011
O. BICHLER ET AL.: "Visual pattern extraction using energy-efficient ''2-PCM Synapse'' neuromorphic architecture", TED, 2012
Attorney, Agent or Firm:
GROUPEMENT CAMUS LEBKIRI (FR)
Download PDF:
Claims:
REVENDICATIONS

1 . Dispositif (1 1 ) de modulation comportant :

- au moins un dispositif memristif (Mr1 , Mr2), et

- un bloc de contrôle (Ct1 ),

le dispositif de modulation (1 1 ) ayant une conductance équivalente y,(t) réalisée par le au moins un dispositif memristif (Mr1 , Mr2) et le bloc de contrôle (Ct1 ) ayant des moyens pour :

- recevoir un signal d'horloge (clk) et réaliser une première modification de la conductance équivalente y,(t) à la réception de chaque signal d'horloge (clk),

- recevoir une impulsion de tension d'entrée (Vin) et réaliser une deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion de tension d'entrée (Vin),

les première et deuxième modifications étant de sens opposé.

2. Dispositif (1 1 ) de modulation selon la revendication précédente caractérisé en ce que la première modification en valeur absolue est strictement inférieure à la deuxième modification en valeur absolue.

3. Dispositif (1 1 ) de modulation selon l'une quelconque des revendications précédentes caractérisé en ce que :

- les moyens du bloc de contrôle (Ct1 ) pour réaliser la première modification de la conductance équivalente y,(t) comprennent des moyens pour émettre une impulsion d'un premier type à destination du au moins un dispositif memristif (Mr1 , Mr2), et

- les moyens du bloc de contrôle (Ct1 ) pour réaliser la deuxième modification de la conductance équivalente y,(t) comprennent des moyens pour émettre une impulsion d'un deuxième type à destination du au moins un dispositif memristif (Mr1 , Mr2).

4. Dispositif (1 1 ) de modulation selon l'une quelconque des revendications précédentes caractérisé en ce que le au moins un dispositif memristif (Mr1 , Mr2) est un dispositif CBRAM ou un dispositif OxRAM.

5. Dispositif (1 1 ) de modulation selon l'une quelconque des revendications précédentes caractérisé en ce qu'il comporte une pluralité de dispositifs memristifs (Mr1 , Mr2) réalisant la conductance équivalente y,(t) et en ce que les moyens du bloc de contrôle (Ct1 ) pour réaliser les première et deuxième modifications de la conductance équivalente y,(t) comprennent des moyens pour recevoir une consigne d'un générateur de nombres pseudo-aléatoires (PRNG).

6. Dispositif (1 1 ) de modulation selon l'une quelconque des revendications précédentes caractérisé en ce qu'il comporte une pluralité de dispositifs memristifs (Mr1 , Mr2) réalisant la conductance équivalente y,(t) et en ce que les moyens du bloc de contrôle (Ct1 ) pour réaliser les première et deuxième modifications de la conductance équivalente y,(t) comprennent des moyens pour émettre des impulsions à destination de la pluralité de dispositifs memristifs (Mr1 , Mr2) de manière que la pluralité de dispositifs memristifs (Mr1 , Mr2) se place dans un mode de fonctionnement particulier dans lequel ils ont une stochasticité interne, lesdites impulsions étant déterminées en choisissant une combinaison des paramètres suivants :

- largeur d'impulsion,

- temps de montée et de descente de l'impulsion,

- amplitude de l'impulsion.

7. Synapse artificielle (1 ) comportant un dispositif de modulation (1 1 ) selon l'une quelconque des revendications précédentes.

8. Réseau de neurones artificiels comportant au moins un premier neurone artificiel apte à émettre une impulsion de tension d'entrée (Vin) et connecté à un deuxième neurone artificiel par une synapse artificielle (1 ) selon la revendication précédente.

9. Procédé de modulation au moyen d'un dispositif de modulation (1 1 ) selon l'une quelconque des revendications 1 à 6, comportant les étapes suivantes :

- le bloc de contrôle (Ct1 ) réalise la première modification de la conductance équivalente y,(t) à la réception de chaque signal d'horloge (clk) ;

- le bloc de contrôle (Ct1 ) réalise la deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion de tension d'entrée (Vin).

10. Procédé de plasticité à court terme dans un réseau de neurones artificiels selon la revendication 8, comportant les étapes suivantes :

- le bloc de contrôle (Ct1 ) réalise la première modification de la conductance équivalente y,(t) à la réception de chaque signal d'horloge (clk) ;

- le bloc de contrôle (Ct1 ) réalise la deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion de tension d'entrée (Vin) émise par le premier neurone artificiel.

Description:
DISPOSITIF ET PROCEDE DE MODULATION, SYNAPSE ARTIFICIELLE COMPORTANT LEDIT DISPOSITIF DE MODULATION, PROCEDE DE PLASTICITE A COURT TERME DANS UN RESEAU DE NEURONES ARTIFICIELS COMPORTANT LADITE SYNAPSE ARTIFICIELLE

DOMAINE TECHNIQUE DE L'INVENTION

Le domaine technique de l'invention est celui des réseaux de neurones artificiels, ou circuits neuromorphiques. La présente invention concerne un dispositif et un procédé de modulation, ainsi qu'une synapse artificielle comportant ledit dispositif de modulation et un procédé de plasticité à court terme dans un réseau de neurones artificiels comportant ladite synapse artificielle. Un domaine d'application de la présente invention est notamment le traitement du signal, par exemple le traitement d'images ou le traitement de signaux neuronaux.

ARRIERE-PLAN TECHNOLOGIQUE DE L'INVENTION

D'une manière générale, un réseau de neurones artificiels comporte une pluralité de neurones artificiels et une pluralité de synapses artificielles. Chaque synapse artificielle assure une connexion entre deux neurones artificiels. Chaque neurone artificiel est connecté à une pluralité d'autres neurones artificiels. Chaque synapse artificielle présente typiquement une conductance électriquement réglable et un poids synaptique proportionnel à sa conductance. Chaque neurone artificiel présente typiquement un potentiel, également appelé potentiel de membrane ou potentiel transmembranaire. Lorsqu'une synapse artificielle transmet une impulsion à un neurone artificiel, le potentiel du neurone artificiel est modifié en fonction du poids synaptique de la synapse artificielle. Par exemple, dans le cas d'une synapse artificielle excitatrice, plus le poids synaptique est important, plus le potentiel du neurone artificiel augmente. Au contraire, dans le cas d'une synapse artificielle inhibitrice, plus le poids synaptique est important, plus le potentiel du neurone artificiel diminue. Si l'on considère une synapse artificielle donnée, connectant un premier neurone artificiel à un deuxième neurone artificiel, on entend par « impulsion présynaptique » une impulsion émise par le premier neurone artificiel et transmise par ladite synapse artificielle au deuxième neurone artificiel, et on entend par « impulsion postsynaptique » une impulsion émise par le deuxième neurone artificiel. Dans ce cas, le premier neurone artificiel est également appelé neurone présynaptique, et le deuxième neurone artificiel est également appelé neurone postsynaptique.

Plusieurs études se sont attachées à implémenter un mécanisme de plasticité à long terme LTP (de l'anglais « long term plasticity ») pour les synapses artificielles. Selon ce mécanisme, le poids synaptique d'une synapse artificielle est modifié en fonction des impulsions émises par le neurone postsynaptique :

- si, peu avant l'émission de l'impulsion postsynaptique, le neurone présynaptique a émis une impulsion, alors le poids synaptique de la synapse artificielle augmente ;

- sinon, le poids synaptique de la synapse artificielle diminue.

Un tel mécanisme contribue en effet à permettre un apprentissage non-supervisé du réseau de neurones artificiels. On entend généralement par « apprentissage » le fait que le réseau de neurones artificiels apprend à traiter différents types de motifs d'entrée, en convergeant vers un état final propre à chaque type de motif d'entrée. Un apprentissage est dit « non-supervisé » lorsque le réseau de neurones artificiels, à partir d'un motif qui lui est présenté, n'est pas forcé de converger vers un état final précis mais est laissé libre de converger vers n'importe quel état final. Les articles intitulés « Variability-tolerant convolutional neural network for pattern récognition applications based on OxRAM synapses » (D. Garbin et al., IEDM 2014) et « Real-time decoding of brain activity by embedded Spiking Neural Networks using OxRAM synapses » (T. Werner et al., ISCAS 2016) ont par exemple décrit l'implémentation d'un mécanisme de plasticité à long terme LTP pour des synapses artificielles réalisées au moyen de mémoires résistives non- volatiles ayant chacune uniquement deux états résistifs distincts. Les articles intitulés « Phase change memory as synapse for ultra-dense neuromorphic Systems : application to complex visual pattern extraction » (M. Suri et al., IEDM 201 1 ) et « Visual pattern extraction using energy-efficient "2-PCM Synapse" neuromorphic architecture » (O. Bichler et al., TED 2012) ont quant à eux décrit l'implémentation d'un mécanisme de plasticité à long terme LTP pour des synapses artificielles réalisées au moyen de mémoires résistives non-volatiles ayant chacune au moins trois états résistifs distincts.

Les réseaux de neurones artificiels connus sont toutefois sensibles au bruit. Ils ont en effet tendance, lorsque les motifs d'entrée sont bruités, à « apprendre du bruit », ce qui dégrade leurs performances.

RESUME DE L'INVENTION

L'invention contribue avantageusement à permettre un apprentissage non- supervisé d'un réseau de neurones artificiels tout en améliorant la robustesse au bruit dudit réseau de neurones artificiels.

Un premier aspect de l'invention concerne un dispositif de modulation comportant :

- au moins un dispositif memristif, et

- un bloc de contrôle,

le dispositif de modulation ayant une conductance équivalente y,(t) réalisée par le au moins un dispositif memristif, et le bloc de contrôle ayant des moyens pour :

- recevoir un signal d'horloge et réaliser une première modification de la conductance équivalente y,(t) à la réception de chaque signal d'horloge, - recevoir une impulsion de tension d'entrée et réaliser une deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion de tension d'entrée,

les première et deuxième modifications étant de sens opposé. L'au moins un dispositif memristif et le bloc de contrôle du dispositif de modulation sont connectés entre eux de sorte que le bloc de contrôle est configuré pour modifier la conductance équivalente de l'au moins un dispositif memristif. Le bloc de contrôle a une première entrée configurée pour recevoir un premier type de signal et une deuxième entrée configurée pour recevoir un deuxième type de signal : le premier type de signal est un signal d'horloge et le deuxième type de signal est une impulsion de tension d'entrée. Les moyens du bloc de contrôle modifient une valeur de conductance équivalente yj(t) en fonction des premier et deuxième types de signaux reçus sur les première et deuxième entrées du bloc de contrôle. Le dispositif de modulation selon le premier aspect de l'invention est avantageusement apte à implémenter un mécanisme de plasticité à court terme STP (de l'anglais « Short Term Plasticity »).

Outre les caractéristiques qui viennent d'être évoquées dans le paragraphe précédent, le dispositif de modulation selon le premier aspect de l'invention peut présenter une ou plusieurs caractéristiques complémentaires parmi les suivantes, considérées individuellement ou selon toutes les combinaisons techniquement possibles :

- La première modification en valeur absolue est préférentiellement strictement inférieure à la deuxième modification en valeur absolue.

- Les moyens du bloc de contrôle pour réaliser la première modification de la conductance équivalente yj(t) comprennent des moyens pour émettre une impulsion d'un premier type à destination du au moins un dispositif memristif, et les moyens du bloc de contrôle pour réaliser la deuxième modification de la conductance équivalente y s (t) comprennent des moyens pour émettre une impulsion d'un deuxième type à destination du au moins un dispositif memristif. Le bloc de contrôle n'est ainsi apte à émettre que deux types distincts d'impulsions, ce qui simplifie l'électronique associée.

- Le au moins un dispositif memristif est préférentiellement un dispositif CBRAM ou un dispositif OxRAM. - Le dispositif de modulation comporte une pluralité de dispositifs memristifs réalisant la conductance équivalente y s (t) et les moyens du bloc de contrôle pour réaliser les première et deuxième modifications de la conductance équivalente y,(t) comprennent des moyens pour recevoir une consigne d'un générateur de nombres pseudo-aléatoires.

- Le dispositif de modulation comporte une pluralité de dispositifs memristifs réalisant la conductance équivalente y,(t) et les moyens du bloc de contrôle pour réaliser les première et deuxième modifications de la conductance équivalente yj(t) comprennent des moyens pour émettre des impulsions à destination de la pluralité de dispositifs memristifs de manière que la pluralité de dispositifs memristifs se place dans un mode de fonctionnement particulier dans lequel ils ont une stochasticité interne, lesdites impulsions étant déterminées en choisissant une combinaison des paramètres suivants :

o largeur d'impulsion,

o temps de montée et de descente de l'impulsion,

o amplitude de l'impulsion.

Un deuxième aspect de l'invention concerne une synapse artificielle comportant un dispositif de modulation selon l'une quelconque des revendications précédentes. Un troisième aspect de l'invention concerne un réseau de neurones artificiels comportant au moins un premier neurone artificiel apte à émettre une impulsion de tension d'entrée et connecté à un deuxième neurone artificiel par une synapse artificielle selon le deuxième aspect de l'invention. Un quatrième aspect de l'invention concerne un procédé de modulation au moyen d'un dispositif de modulation selon le premier aspect de l'invention, le procédé comportant les étapes suivantes : - le bloc de contrôle réalise la première modification de la conductance équivalente y s (t) à la réception de chaque signal d'horloge ;

- le bloc de contrôle réalise la deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion de tension d'entrée.

Un cinquième aspect de l'invention concerne un procédé de plasticité à court terme dans un réseau de neurones artificiels selon le troisième aspect de l'invention, le procédé comportant les étapes suivantes :

- le bloc de contrôle réalise la première modification de la conductance équivalente y,(t) à la réception de chaque signal d'horloge ;

- le bloc de contrôle réalise la deuxième modification de la conductance équivalente y s (t) à la réception de chaque impulsion de tension d'entrée émise par le premier neurone artificiel. L'invention et ses différentes applications seront mieux comprises à la lecture de la description qui suit et à l'examen des figures qui l'accompagnent.

BREVE DESCRIPTION DES FIGURES

Les figures sont présentées à titre indicatif et nullement limitatif de l'invention.

- La figure 1 a montre un dispositif de modulation selon un premier mode de réalisation de l'invention.

- La figure 1 b montre un dispositif de modulation selon un deuxième mode de réalisation de l'invention.

- La figure 2a montre une implémentation particulière du dispositif de modulation de la figure 1 a.

- La figure 2b montre une implémentation particulière du dispositif de modulation de la figure 1 b.

- La figure 3 illustre un procédé de modulation au moyen d'un dispositif de modulation selon l'un des modes de réalisation de l'invention.

- La figure 4a montre une synapse artificielle comportant un dispositif de modulation selon l'un des modes de réalisation de l'invention ainsi qu'un deuxième dispositif de modulation. - La figure 4b montre une implémentation particulière de la synapse artificielle de la figure 2a.

- La figure 5a montre une représentation schématique d'un réseau de neurones artificiels comportant des première, deuxième et troisième couches de neurones artificiels.

- La figure 5b montre un exemple de connexion des première et deuxième couches du réseau de neurones artificiels de la figure 5a, au moyen de synapses artificielles selon la figure 2a.

DESCRIPTION DETAILLEE D'AU MOINS UN MODE DE REALISATION DE L'INVENTION

Sauf précision contraire, un même élément apparaissant sur des figures différentes présente une référence unique. Les figures 1 a et 1 b montrent respectivement un dispositif de modulation 1 1 selon des premier et deuxième modes de réalisation. Elles sont décrites conjointement. Le dispositif de modulation 1 1 selon l'un quelconque des modes de réalisation comporte un bloc de contrôle Ct1 apte à :

- recevoir un signal d'horloge clk, et

- recevoir une impulsion de tension d'entrée V in .

Contrairement à l'impulsion de tension d'entrée V in , le signal d'horloge clk a une fréquence moyenne fixée. Le signal d'horloge clk peut être régulier ou aléatoire, par exemple selon une loi de Poisson. Le dispositif de modulation 1 1 selon l'un quelconque des modes de réalisation présente une conductance équivalente y,(t). Selon le premier de réalisation, le dispositif de modulation 1 1 comporte un unique dispositif memristif Mr1 et la conductance équivalente y s (t) est réalisée par cet unique dispositif memristif Mr1 . Selon le premier mode de réalisation, l'unique dispositif memristif Mr1 est préférentiellement de type multivalué, c'est-à-dire qu'il a au moins trois états résistifs distincts. Dans le cadre de la présente invention, les termes « multivalué » et « analogique » sont indifféremment employés. Un tel dispositif multivalué est par exemple une combinaison de deux mémoires résistives à changement de phase PCRAM. Selon le deuxième mode de réalisation, le dispositif de modulation 1 1 comporte des premier et deuxième dispositifs memristifs Mr1 , Mr2, qui réalisent la conductance équivalente y,(t). Selon le deuxième mode de réalisation, chaque dispositif memristif est préférentiellement de type binaire, c'est-à-dire n'ayant chacun que deux états résistifs distincts. De tels dispositifs binaires sont par exemple des mémoires résistives OxRAM ou des mémoires résistives CBRAM. Selon une alternative non illustrée, le dispositif de modulation 1 1 pourrait comporter trois dispositif memristifs ou plus, qui réaliseraient la conductance équivalente y,(t).

Un dispositif memristif est un composant électronique à deux terminaux qui se comporte comme une résistance ou une conductance, dont la valeur change dynamiquement avec l'application d'un courant ou d'une tension à ses bornes. Un dispositif de ce type peut être caractérisé par les équations suivantes :

i = G. v

dG où G est la conductance du dispositif qui relie son courant d'entrée i à la tension à ses bornes v. Des dispositifs memristifs sont par exemple :

- les dispositifs RRAM (de l'anglais « Résistive Random Access Memory »), parmi lesquels les dispositifs CBRAM (de l'anglais « Conductive-Bridging RAM) et les dispositifs OxRAM (de l'anglais « Oxide résistive RAM ») ;

- les dispositifs PCRAM (de l'anglais « Phase-Change RAM ») ;

- les dispositifs M RAM (de l'anglais « Magnetic RAM »).

Chaque dispositif memristif du dispositif de modulation 1 1 est préférentiellement un dispositif CBRAM ou un dispositif OxRAM.

Selon l'un quelconque des modes de réalisation, le bloc de contrôle Ct1 est apte à :

- réaliser une première modification de la conductance équivalente y s (t) à la réception de chaque signal d'horloge clk, et - réaliser une deuxième modification de la conductance équivalente y,(t) à la réception de chaque impulsion d'entrée V in.

Les première et deuxième modifications sont de sens opposé. Deux cas particuliers sont donc possibles :

- soit la première modification est une augmentation de la conductance équivalente et la deuxième modification est une diminution de la conductance équivalente ;

- soit la première modification est une diminution de la conductance équivalente et la deuxième modification est une augmentation de la conductance équivalente.

La première modification qui a lieu à chaque signal d'horloge clk est préférentiellement strictement inférieure, en valeur absolue, à la deuxième modification qui a lieu à chaque impulsion d'entrée V in .

Selon l'un quelconque des modes de réalisation, le bloc de contrôle Ct1 est avantageusement apte à :

- émettre une impulsion d'un premier type à destination de chaque dispositif memristif afin de réaliser la première modification de la conductance équivalente y j (t) , et

- émettre une impulsion d'un deuxième type à destination de chaque dispositif memristif afin de réaliser la deuxième modification de la conductance équivalente y s (t).

Le bloc de contrôle Ct1 n'émet ainsi que deux types distincts d'impulsions électriques de programmation. Chaque première modification de la conductance équivalente y s (t) est obtenue grâce à une ou plusieurs impulsions du premier type, et chaque deuxième modification de la conductance équivalente y s (t) est obtenue grâce à une ou plusieurs impulsions du deuxième type. Chaque impulsion du premier type présente notamment une même première durée et une même première amplitude. Chaque impulsion du deuxième type présente notamment une même deuxième durée et une même deuxième amplitude. On permet ainsi que l'électronique associée au bloc de contrôle Ct1 soit particulièrement simple.

Selon le deuxième mode de réalisation, le bloc de contrôle Ct1 réalise avantageusement les première et deuxième modifications de la conductance équivalente y s (t) via une consigne qu'il reçoit d'un générateur de nombres pseudoaléatoires PRNG. Les moyens du bloc de contrôle Ct1 pour réaliser les première et deuxième modifications de la conductance équivalente yj(t) comprennent donc avantageusement des moyens pour recevoir une consigne d'un générateur de nombres pseudo-aléatoires PNRG. Le bloc de contrôle Ct1 peut comporter le générateur de nombres pseudo-aléatoires PNRG, ou bien le générateur de nombres pseudo-aléatoires PNRG peut être séparé du bloc de contrôle Ct1 .

La figure 2a montre un exemple d'implémentation du dispositif de modulation 1 1 selon le premier mode de réalisation de l'invention. Selon cet exemple, le dispositif de modulation 1 1 comporte un unique dispositif memristif Mr1 de type multivalué.

La figure 2b montre un exemple d'implémentation du dispositif de modulation 1 1 selon le deuxième mode de réalisation de l'invention. Selon cet exemple, le dispositif de modulation 1 1 comporte une pluralité de dispositifs memristifs Mr1 , Mr2, MrN de type binaire. Chaque mémoire résistive binaire est typiquement agencée en série avec un transistor. Alternativement, le dispositif de modulation 1 1 pourrait comporter une pluralité de dispositifs memristifs de type multivalué. Le dispositif de modulation 1 1 selon l'un quelconque des modes de réalisation présente un premier mode, dit « mode lecture » et un deuxième mode, dit « mode écriture ». Le mode lecture est un mode durant lequel la conductance équivalente y,(t) ne peut pas être modifiée, à la différence du mode écriture. Quand le bloc de contrôle Ct1 du dispositif de modulation 1 1 reçoit un signal d'horloge clk, il génère en mode écriture au moins une première impulsion de tension d'écriture qui réalise la première modification de la conductance équivalente y s (t) . Quand le bloc de contrôle Ct1 du dispositif de modulation 1 1 reçoit une impulsion de tension d'entrée V in , il génère en mode lecture une impulsion de tension de lecture qui se propage à travers chaque dispositif memristif, et il génère en mode écriture au moins une deuxième impulsion de tension d'écriture qui réalise la deuxième modification de la conductance équivalente y,(t).

La figure 3 illustre un procédé de modulation au moyen du dispositif de modulation 1 1 selon l'un quelconque des modes de réalisation, dans le premier cas particulier où :

- la première modification de la conductance équivalente yi (t) , qui est réalisée à la réception de chaque signal d'horloge clk, est une augmentation de la conductance équivalente y s (t), et

- la deuxième modification de la conductance équivalente y s (t) , qui est réalisée à la réception de chaque impulsion de tension d'entrée V in , est une diminution de la conductance équivalente y,(t).

En l'absence de toute impulsion de tension d'entrée V in , la conductance équivalente y s (t) du dispositif de modulation 1 1 passe typiquement de sa valeur minimale y m in à sa valeur maximale y ma x dans un temps de relaxation proportionnel à T d , grâce aux premières impulsions de tension d'écriture 201 émises à la réception de chaque signal d'horloge clk. Deux signaux d'horloge consécutifs sont typiquement séparés par une durée ΔΤ. Dès que le dispositif de modulation 1 1 reçoit une impulsion de tension d'entrée V in , sa conductance équivalente y,(t) diminue grâce à une ou plusieurs deuxièmes impulsions de tension d'écriture 202. La diminution de la conductance équivalente y s (t) , et donc les caractéristiques de la ou des deuxièmes impulsions de tension d'écriture 202, sont fonction d'un coefficient de diminution f D et du temps de relaxation T d . Le coefficient de diminution f D est tel que : 0 < f D < 1 - Chaque deuxième impulsion de tension d'écriture 202 présente une certaine durée d202, et chaque première impulsion de tension d'écriture 201 présente une certaine durée d201 , telles que :

d201 < T D

d202 < T D

d201 < ΔΓ < T D

d202 < ΔΓ < T D La durée ΔΤ peut typiquement être de l'ordre du temps de relaxation T d divisé par le nombre d'états résistifs du dispositif de modulation 1 1 .

Lorsque le dispositif de modulation 1 1 est réalisé à partir de plusieurs dispositifs memristifs :

- le coefficient de diminution f D est typiquement défini par la probabilité de RESET PRESET du dispositif de modulation 1 1 , qui est elle-même réglée grâce à l'amplitude des deuxièmes impulsions de tension d'écriture 202 ou grâce à un générateur de nombres aléatoires PN RG ;

- le temps de relaxation T d est typiquement défini par la probabilité de SET PSET du dispositif de modulation 1 1 , qui est elle-même réglée grâce à l'amplitude des premières impulsions de tension d'écriture 201 ou grâce à un générateur de nombres aléatoires PN RG.

Lorsque le premier élément résistif 1 1 est réalisé à partir d'un unique dispositif memristif multivalué :

- le coefficient de diminution f D est typiquement défini par l'amplitude et/ou la durée d202 des deuxièmes impulsions de tension d'écriture 202 ;

- le temps de relaxation T d est typiquement défini par l'amplitude et/ou la durée d201 des premières impulsions de tension d'écriture 201 . La figure 4a montre une synapse artificielle 1 comportant un dispositif de modulation 1 1 selon l'un des premier ou deuxième modes de réalisation de l'invention, et un deuxième dispositif de modulation 12. La synapse artificielle 1 présente :

- un premier terminal Ti apte à être connecté à un premier neurone artificiel i, également appelé neurone présynaptique i ou neurone d'entrée i, et

- un deuxième terminal Tj apte à être connecté à un deuxième neurone artificiel j, également appelé neurone postsynaptique j ou neurone de sortie j. Un neurone artificiel est un composant actif, qui est appelé - « neurone d'entrée » ou « neurone présynaptique » lorsqu'il est connecté en aval d'une synapse artificielle, et

- « neurone de sortie » ou « neurone postsynaptique » lorsqu'il est connecté en amont d'une synapse artificielle.

Selon la quantité de synapses artificielles connectées à lui et leur agencement, un neurone artificiel peut présenter simultanément une ou plusieurs fonctions de neurone d'entrée, et une ou plusieurs fonctions de neurone de sortie. Alternativement, un neurone artificiel peut ne présenter qu'une ou plusieurs fonctions de neurone d'entrée, ou une ou plusieurs fonctions de neurone de sortie. Les neurones artificiels peuvent être actifs ou inactifs : un neurone artificiel est actif lorsqu'à l'instant considéré, il émet une impulsion. La durée de son état « actif » peut être prédéterminée.

Le dispositif de modulation 1 1 peut recevoir en entrée un signal d'horloge clk d'une part, et une impulsion de tension d'entrée V in , émise par le neurone présynaptique i, d'autre part. Le dispositif de modulation 1 1 peut émettre en sortie une impulsion de courant ISTP, qui est transmise au neurone postsynaptique j. Au sein de la synapse artificielle 1 , le dispositif de modulation 1 1 réalise avantageusement un mécanisme de plasticité à court terme STP, selon lequel la conductance équivalente yi(t) varie :

- en fonction d'une activité du neurone présynaptique i, c'est-à-dire en fonction des impulsions de tension d'entrée V in émises par le neurone présynaptique i, et

- en fonction des signaux d'horloge régulièrement reçus.

Les impulsions de tension V in émises par le neurone présynaptique i sont également appelées « impulsions présynaptiques ». Les impulsions présynaptiques sont typiquement toutes de même durée et de même amplitude.

Le deuxième dispositif de modulation 1 2 peut recevoir en entrée une impulsion de tension V L TP, et émettre en sortie une impulsion de courant Ut- Le deuxième dispositif de modulation 1 2 présente une conductance équivalente w variable et réalise avantageusement un mécanisme de plasticité à long terme LTP, selon lequel la deuxième conductance équivalente w varie en fonction d'une activité du neurone postsynaptique j et d'une chronologie entre l'activité du neurone postsynaptique j et l'activité du neurone présynaptique i. Autrement dit, la conductance équivalente w du deuxième dispositif de modulation 1 2 varie en fonction des impulsions de tension émises par le neurone postsynaptique j, également appelées « impulsions postsynaptiques », et en fonction des instants d'émission des impulsions postsynaptiques relativement aux instants d'émission des impulsions présynaptiques. Les impulsions postsynaptiques sont typiquement toutes de même durée et de même amplitude.

Le deuxième dispositif de modulation 1 2 peut comporter un ou plusieurs dispositifs memristif de type binaire, ou alternativement un ou plusieurs dispositifs memristifs de type multivalué. Un convertisseur courant-tension 1 5 connecte la sortie du dispositif de modulation 1 1 à l'entrée du deuxième dispositif de modulation 1 2. Le convertisseur courant-tension 1 5 convertit l'impulsion de courant ISTP en l'impulsion de tension V L TP- La figure 4b montre une implémentation particulière du convertisseur courant- tension 1 5 de la synapse artificielle 1 , selon laquelle le convertisseur courant- tension 1 5 comporte :

- un élément résistif 1 3 de conductance y max fixe, et

- un amplificateur opérationnel 14. La conductance y ma x de l'élément résistif 13 est préférentiellement sensiblement égale à la conductance maximale possible pour la conductance équivalente y,(t) du dispositif de modulation 1 1 .

L'amplificateur opérationnel 14 présente une branche d'entrée négative, une branche d'entrée positive et une branche de sortie. La branche d'entrée positive est reliée à la masse. La branche d'entrée négative est reliée au dispositif de modulation 1 1 . La branche de sortie est reliée au deuxième dispositif de modulation 1 2. La branche d'entrée négative et la branche de sortie sont connectées entre elles via l'élément résistif 1 3.

Le circuit électrique de la synapse artificielle 1 est ainsi tel qu'un courant l ou t(t) mesuré en sortie du deuxième dispositif de modulation 1 2 s'exprime, en fonction d'une tension V L Tp(t) en entrée du deuxième élément résistif 1 2 :

( = V LTP (t) x Wij

La tension V L Tp(t) en entrée du deuxième élément résistif 12 s'exprime quant à elle :

V LTP (t) = -V in x ^- smax

On obtient une modulation de la conductance équivalente w du deuxième dispositif de modulation 1 2 par la conductance équivalente yi(t) du dispositif de modulation 1 1 . Autrement dit, la synapse artificielle 1 permet avantageusement une modulation d'un mécanisme à long terme LTP par un mécanisme à court terme STP.

Le dispositif de modulation 1 1 et le deuxième dispositif de modulation 1 2 d'une même synapse artificielle 1 utilisent préférentiellement tous les deux une même technologie memristive. Par exemple, si le dispositif de modulation 1 1 utilise des dispositifs memristifs de type CBRAM, le ou les dispositifs memristifs du deuxième dispositif de modulation 1 2 sont de préférence également de type CBRAM.

La figure 5a montre schématiquement un réseau de neurones artificiels, comportant :

- une première couche comprenant des neurones artificiels à i 4 ,

- une deuxième couche comprenant des neurones artificiels ji à j 3 et

- une troisième couche comprenant des neurones artificiels \^ et l 2.

Chaque connexion entre deux neurones artificiels est réalisée au moyen d'une synapse artificielle 1 , telle que précédemment décrite. Alternativement, seulement une partie des connexions entre neurones artificiels pourrait être réalisée au moyen de synapses artificielles 1 .

Dans l'exemple de la figure 5a, chaque neurone artificiel de la première couche est connecté à tous les neurones artificiels de la deuxième couche, et chaque neurone artificiel de la deuxième couche est connecté à tous les neurones artificiels de la troisième couche. Alternativement, chaque neurone artificiel de la première couche pourrait n'être connecté qu'à une partie des neurones artificiels de la deuxième couche et/ou chaque neurone artificiel de la deuxième couche pourrait n'être connecté qu'à une partie des neurones artificiels de la troisième couche. Dans l'exemple de la figure 5a, le réseau comporte trois couches, mais alternativement le réseau pourrait comporter uniquement deux couches, ou bien quatre couches ou plus. Dans l'exemple de la figure 5a, chaque couche comporte une pluralité de neurones artificiels, mais alternativement au moins une couche pourrait ne comporter qu'un seul neurone artificiel.

La figure 5b montre en particulier un exemple de circuit électrique connectant chaque neurone artificiel i de la première couche à chaque neurone artificiel j de la deuxième couche, au moyen d'une pluralité de synapses artificielles 1 selon un aspect de l'invention. Dans l'exemple de la figure 5b, la première couche comporte N neurones artificiels i et la deuxième couche comporte M neurones artificiels j. Le circuit électrique comporte autant de dispositifs de modulation 1 1 que de neurones artificiels i dans la première couche, c'est-à-dire N dispositifs de modulation 1 1 dans l'exemple de la figure 5b. Le circuit électrique comporte autant de convertisseurs courant-tension 15 que de dispositifs de modulation 1 1 , c'est-à-dire N convertisseurs courant-tension 15 dans l'exemple de la figure 5b. Le circuit électrique comporte autant de deuxièmes dispositifs de modulation 12 que de connexions synaptiques, c'est-à-dire N x M deuxièmes dispositifs de modulation 12 dans l'exemple de la figure 5b où chaque neurone artificiel i de la première couche est connecté à chaque neurone artificiel j de la deuxième couche. Chaque neurone artificiel i de la première couche est ainsi connecté à chaque neurone artificiel j de la deuxième couche via une synapse artificielle 1 comportant un dispositif de modulation 1 1 , un convertisseur courant-tension 15 et un deuxième dispositif de modulation 12. Chaque dispositif de modulation 1 1 peut être commun à plusieurs synapses artificielles 1 : dans l'exemple de la figure 5b, chaque dispositif de modulation 1 1 est commun à M synapses artificielles. En revanche, chaque deuxième dispositif de modulation 12 est propre à une seule synapse artificielle 1 . Dans une implémentation matricielle comme celle de la figure 5b, un dispositif de sélection (non représenté) permet d'accéder individuellement à chaque deuxième dispositif de modulation 12.




 
Previous Patent: SUSPENSION OF CERIUM OXIDE

Next Patent: LOUDSPEAKER DIAPHRAGM