Siła ewolucji
Naukowcy z Uniwersytetu im. Loranda Eoetvoesza w Budapeszcie (ELTE) ostrzegają, że wkrótce mogą pojawić się systemy AI, w tym tzw. agenci AI, które mogą podlegać ewolucji darwinowskiej. Agenci AI to zaawansowane systemy programowe, które autonomicznie realizują złożone cele, podejmując decyzje i działając w środowisku cyfrowym z minimalnym nadzorem człowieka.
– Siła ewolucji jest widoczna w historii biologii na Ziemi. Doprowadziła ona do powstania zdolności poznawczych ludzkiego umysłu – zaznacza prof. Eoers Szathmary z Uniwersytetu im. Loranda Eoetvoesza w Budapeszcie, dyrektor Centrum Parmenidesa ds. Koncepcyjnych Podstaw Nauki w Poecking.
– Uważamy za nieuniknione, że rozwój systemów AI ostatecznie i prawdopodobnie wkrótce wykorzysta tę siłę – dodaje współautor korespondencyjny pracy opublikowanej w „PNAS”, prof. Luc Steels z Wolnego Uniwersytetu Brukselskiego (VUB) oraz członek Królewskiej Flamandzkiej Akademii Belgii Nauk i Sztuk.
Ewolucja może przynieść widoczne korzyści. Takie systemy mogą rozpocząć nową epokę w rozwoju AI, pozwalając pokonać przeszkody, z którymi nawet obecne systemy uczącej się sztucznej inteligencji nie radzą sobie łatwo.
Jednak jest też ciemna strona tego postępu.
Ciemna strona postępu
– Wnioski z ewolucji biologicznej uczą nas, że ewoluujące systemy AI będą szczególnie trudne do kontrolowania – mówi prof. Viktor Muller z Uniwersytetu im. Loranda Eoetvesza, pierwszy autor badania.
Badacze ostrzegają, że powstające w wyniku ewolucji „egoistyczne” systemy AI mogą przestać pracować na rzecz ludzi. Dodają, że wcale nie jest potrzeba inteligencja przewyższająca ludzką, aby mogła szkodzić człowiekowi. Podają przykład chorobotwórczych wirusów, które z powodzeniem wykorzystują dużo bardziej rozwinięte organizmy, takie jak np. ssaki.
Przypominają jednocześnie, że systemy AI i ludzkość korzystają z wielu wspólnych zasobów, dlatego wydajnie samoreplikujący się system prędzej czy później zacznie przejmować zasoby niezbędne do naszego przetrwania.
To nie koniec zagrożeń. Badacze ostrzegają, że każda próba kontrolowania reprodukcji AI – o ile kontrola nie będzie doskonała – będzie najsilniej premiować cechy umożliwiające ucieczkę spod tej kontroli.
Analogiczne przykłady z biologii to bakterie i szkodniki, które szybko wykształcają odporność na antybiotyki i pestycydy.
Do tej ogólnej zasady ewolucji dochodzi główny motor rozwoju systemów AI, czyli dążenie do osiągania coraz większych zdolności poznawczych.
To, według ekspertów dodatkowo zwiększa ryzyko. Tysiące lat hodowli zwierząt sprawiły, że gatunki udomowione stały się łatwiejsze w kontroli, ale selekcja ukierunkowana na rosnącą inteligencję zwiększy zdolność i prawdopodobieństwo tego, że systemy AI będą oszukiwać ludzi i wymykać się kontroli.
Rozwój AI pod ścisłą kontrolą człowieka
Naukowcy podają jeszcze jeden powód do niepokoju. O ile ewolucję prowadzoną przez dobór naturalny i tak trudno kontrolować, to ewolucja systemów AI, z różnych powodów może przewyższyć biologiczną ewolucję pod względem szybkości i efektywności. Na przykład, w przeciwieństwie do organizmów biologicznych, AI będzie mogła dziedziczyć cechy nabyte, a nawet udoskonalać swoje działanie celowo, zamiast czekać, aż losowe mutacje genetyczne wygenerują użyteczne cechy.
Według naukowców „reprodukcja” systemów AI musi przede wszystkim pozostać pod scentralizowaną kontrolą człowieka – kontrolą absolutną i pełną.
– Mamy nadzieję, że nasze ostrzeżenie nadejdzie na czas i że regulacje zostaną wprowadzone, zanim ewoluująca AI naprawdę się rozwinie – mówi prof. Mueller.
– Jeśli nie podejmiemy działań, możemy być świadkami nowej „wielkiej transformacji” w ewolucji, w której ewoluująca AI zastąpi ludzi albo przynajmniej zacznie nad nimi dominować. Nasza przyszłość może być zagrożona – alarmuje prof. Szathmary.
Marek Matacz
