Nowa technologia działania sieci neuronowych

Naukowcy z Wydziału Fizyki UW oraz Polskiej Akademii Nauk wykorzystali fotony do stworzenia pulsującego neuronu, czyli podstawowego elementu przyszłego fotonicznego procesora sieci neuronowych. Tzw. układy neuromorficzne, czyli naśladujące działaniem biologiczny mózg, nad którymi pracują badacze, są przyszłością sztucznej inteligencji. Wyniki badań zespołu zostały opublikowane w „Laser and Photonics Review”.

Mózgi ssaków są jednymi z najbardziej złożonych, a zarazem wydajnych systemów na świecie. Już w latach 90. XX wieku naukowcy zajmujący się neurobiologią wykazali, że pojedynczy obszar kory mózgowej makaków jest w stanie analizować i klasyfikować wzorce wzrokowe w ciągu zaledwie 30 milisekund, mimo iż każdy z neuronów uczestniczących w tym procesie w tym samym czasie wysyła mniej niż trzy komunikaty w postaci impulsów elektrycznych. Jest to możliwe dzięki dużej liczbie synaps (połączeń między neuronami) w sieci neuronowej mózgu makaka.

Ludzki mózg jest jeszcze bardziej skomplikowany. Składa się ze 100 miliardów neuronów, z których każdy tworzy średnio kilka tysięcy połączeń z innymi komórkami nerwowymi. Tworzy to sieć złożoną z około 100 bilionów połączeń, dzięki której nasz mózg – zdolny do jednoczesnego rozpoznawania, rozumowania, sterowania ruchem – wykonuje biliony operacji na sekundę, zużywając zaledwie 20–25 watów mocy. Dla porównania, konwencjonalne procesory zużywają dziesięć razy więcej mocy, aby rozpoznać zaledwie tysiąc różnych rodzajów obiektów. Ta różnica i wyjątkowa wydajność mózgu wynikają m.in. z biochemii neuronów, architektury połączeń nerwowych oraz biofizyki neuronowych algorytmów obliczeniowych.

Komputer jak ludzki mózg

Konwencjonalne systemy komputerowe mogą nie sprostać rosnącemu zapotrzebowaniu na większą moc obliczeniową przy jednoczesnym zwiększaniu efektywności energetycznej. Rozwiązaniem problemu mogą być sieci neuromorficzne, które naśladują działaniem biologiczny mózg. Są one przyszłością sztucznej inteligencji, pozwalając na zdecydowanie szybsze i efektywniejsze przetwarzanie informacji w takich zadaniach jak np. rozpoznawanie obrazów.

Naukowcy z Wydziału Fizyki UW oraz Polskiej Akademii Nauk w pracy opublikowanej w „Laser and Photonics Review” zaproponowali wykorzystanie fotonów w sposób umożliwiający tworzenie pulsujących sieci neuronowych. Dr Krzysztof Tyszka z Wydziału Fizyki UW podkreśla, że systemy fotoniczne zapewniają komunikację z prędkością światła, niskie straty i niskie zużycie energii. Zaletą fotonów jest to, że ich propagacja odbywa się praktycznie bez strat energii. – Niestety w związku z tym, że oddziałują one ze sobą w sposób relatywnie słaby, trudno wykorzystać je do wykonywania operacji obliczeniowych w sposób analogiczny do układów elektronicznych – mówi naukowiec. Dlatego badacze postanowili sięgnąć po rozwiązanie, w którym fotony silnie oddziałują z cząstkami o bardzo małej masie, zwanymi ekscytonami. – Silne oddziaływanie uzyskuje się, umieszczając fotony oraz ekscytony razem w optycznej mikrownęce. Zabieg ten wymusza cykliczną wymianę energii między nimi. Ten rodzaj synergii jest tak trwały, że fizycy określają go mianem kwazicząstki, zwanej w skrócie polarytonem – wyjaśnia dr hab. Barbara Piętka, prof. ucz. z Laboratorium Polarytonowego Wydziału Fizyki UW.

Polarytony mają wyjątkowe właściwości. W odpowiednich warunkach mogą ulegać przejściu w stan skupienia, zwany kondensatem Bosego-Einsteina. W takim stanie, wcześniej niezależne, liczne polarytony stają się nierozróżnialne. – Opierając się na naszym ostatnim eksperymencie, jako pierwsi zauważyliśmy, że kiedy polarytony są wzbudzane za pomocą impulsów laserowych, emitują impulsy światła przypominające pulsowanie neuronów biologicznych – opisuje prace Magdalena Furman, doktorantka zaangażowana w badania w Laboratorium Polarytonowym. – Efekt ten jest bezpośrednio związany ze zjawiskiem kondensacji Bosego-Einsteina, które albo hamuje, albo wzmacnia emisję impulsów – dodaje.

Jak połączyć neurony w sieć?

Dr Andrzej Opala i prof. Michał Matuszewski z Instytutu Fizyki PAN opracowali model teoretyczny łączący badania nad polarytonami z modelem neuronu LIF (ang. Leaky Integrate-and-Fire). Aktualnie naukowcy pracują nad rozwiązaniem problemu skalowalności, czyli połączenia wielu neuronów w sieć.

Obecnie sieci neuronowe wykorzystują warstwy połączonych ze sobą neuronów, które wyzwalają impulsy na podstawie przypisanej do każdego połączenia ważności (w opisie matematycznym mówimy o „wagach”). W odróżnieniu od tego typu rozwiązań, w optycznej sieci neuronowej opisanej w czasopiśmie „Laser and Photonics Review” neurony są wyzwalane (czyli stają się aktywne) w odpowiedzi na ciąg impulsów, które mogą mieć różną intensywność i różne odstępy czasowe. Tak jak w przypadku neuronów biologicznych pobudzanych impulsami elektrycznymi, istnieje pewien próg, powyżej którego ciąg impulsów docierających do neuronu uruchamia sygnał, który będzie przekazywany dalej. Polarytony pozwalają na naśladowanie układu biologicznego, gdyż dopiero pobudzenie odpowiednią liczbą fotonów, powyżej pewnego progu, prowadzi do powstania kondensatu Bosego-Einsteina, a w efekcie do emisji kilkudziesięciopikosekundowego impulsu światła będącego sygnałem dla kolejnego neuronu.

Nowe materiały do tworzenia próbek badawczych

Próbka, która pozwoliła naukowcom na uwięzienie fotonów i obserwację kondensatu polarytonów ekscytonowych, została zsyntetyzowana na Wydziale Fizyki UW, w grupie prof. Wojciecha Pacuskiego. Naukowcy ułożyli atomy różnego rodzaju kryształów półprzewodnikowych warstwa po warstwie w procesie epitaksji z wiązki molekularnej, tworząc prototypowy neuron fotoniczny. Do uzyskania stanu kondensatu Bosego-Einsteina wymagana była temperatura czterech kelwinów, osiągana w ciekłym helu. – Naszym kolejnym celem jest przeniesienie eksperymentu z warunków kriogenicznych do temperatury pokojowej – mówi dr hab. Jacek Szczytko, prof. ucz. z Wydziału Fizyki UW. – Potrzebne są badania nad nowymi materiałami, które pozwolą na uzyskanie kondensatów Bosego-Einsteina także w wysokich temperaturach. W Laboratorium Polarytonowym pracujemy nie tylko nad takimi substancjami, badamy też możliwość sterowania kierunkiem emitowanych fotonów – dodaje naukowiec.

Aby neurony fotoniczne połączyły się w sieć, muszą być w stanie przesyłać sobie nawzajem sygnały. Najlepiej byłoby, gdyby kierunek przesyłu, czyli schemat połączeń, mógł być łatwo zmieniany w zależności od potrzeb. – W badaniach nad układami neuromorficznymi naukowcy wciąż napotykają nowe wyzwania. Nasz nowy pomysł na odtworzenie pulsowania neuronów biologicznych w domenie optycznej może posłużyć do stworzenia sieci, a potem układu neuromorficznego, w którym informacje przesyłane są o rzędy wielkości szybciej i w sposób bardziej efektywny energetycznie w porównaniu do dotychczasowych rozwiązań – podsumowuje dr Krzysztof Tyszka.