AI przejmie kontrolę nad światem? Prof. Marciniak: Nie przesadzajmy. Dużo w tym marketingu

Maciej Bąk, naTemat.pl: Do realizacji scenariusza którego filmu science fiction obecnie zmierzamy? "Terminator"? Któryś epizod "Czarnego lustra"? A może "Matrix"?

prof. Marcin Marciniak: Odpowiedź brzmi: żadnego z powyższych. Naprawdę nie przesadzajmy. Na tę chwilę wyposażyliśmy się w nowe narzędzia. Oczywiście wokół nich pojawia się wiele alarmujących doniesień, które mają nami wstrząsnąć.

Słyszymy na przykład, że AI już niedługo przejmie kontrolę nad światem, że wkrótce powstaną komputery kwantowe, które złamią wszelkie szyfry, że nasze dane w ogóle nie są już bezpieczne, że jesteśmy obserwowani i inwigilowani ze wszystkich stron oraz że właściwie na nic nie mamy wpływu…

…i może nie brałbym wszystkich tych ostrzeżeń na poważnie, gdyby nie to, że część z nich pada z ust osób, które same tworzą najnowocześniejsze systemy AI!

To prawda. Gdybyśmy jednak uważniej przyjrzeli się momentom, w których pojawiają się te ostrzeżenia, moglibyśmy dostrzec pewną korelację. Zazwyczaj pojawiają się one wtedy, gdy jedna z firm zapowiada premierę nowego produktu, na przykład modelu językowego. Oczywiście każdy kolejny model jest coraz lepszy, ma coraz więcej możliwości i wykonuje coraz bardziej skomplikowane zadania.

Faktycznie byliśmy ostatnio świadkami premiery nowego modelu GPT-6 Astra. Widziałem też bardzo efektowną reklamę, jakby żywcem wyjętą z "Czarnego lustra": ludzie stali przed wielkim ekranem, wydawali polecenia głosowe, a on robił za nich wszystko.

Tak jest. Jeżeli więc przyjrzymy się tym pełnym ostrzeżeń wystąpieniom skorelowanym z wprowadzaniem na rynek kolejnych modeli, to człowiek sceptyczny, taki jak ja, powinien się zastanowić, czy jest to przypadek, czy może sprytnie pomyślana akcja marketingowa. Oczywiście nie oznacza to, że nie doceniam możliwości tych modeli ani nie rozumiem zagrożeń, które mogą stwarzać, ale przestrzegałbym przed zbyt dosłownym traktowaniem takich czarnych wizji.

Na razie nie potwierdzono, że takie modele mogą przejąć kontrolę nad światem. Znamy jeden przypadek z lipca 2026 roku, gdy podczas wewnętrznych testów cyberbezpieczeństwa agenci OpenAI obeszli ograniczenia środowiska, uzyskali niezamierzony dostęp do internetu oraz naruszyli elementy infrastruktury OpenAI i systemy Hugging Face. Testy prowadzono w środowisku o ograniczonych zabezpieczeniach, ale część działań agentów wykroczyła poza zakres przydzielonych im zadań.

Nie była to zatem sytuacja, w której model po prostu wykonał dokładnie polecenie testerów i sam się zatrzymał. Agenci znaleźli nieprzewidziane luki, porozumiewali się niedozwolonymi kanałami i podejmowali działania wykraczające poza cel testów. Aktywność została przerwana dopiero po wykryciu incydentu przez systemy monitoringu i interwencji zespołu bezpieczeństwa.

Czyli agenci wykroczyli poza oczekiwania testerów…

Wykroczyli poza oczekiwania, ale nie oznacza to, że przejęli kontrolę. Operatorzy mogli ostatecznie przerwać testy, jednak nie wszystkie działania agentów zostały natychmiast wykryte ani utrzymane w założonym zakresie.

Cały czas mogliśmy wyciągnąć wtyczkę?

Ostatecznie tak, ale incydent pokazał, że reakcja nie zawsze jest natychmiastowa. Rozumiem więc, że człowiek, który słyszy wyłącznie takie niepokojące informacje płynące z mediów masowych, może się przestraszyć i wyciągać daleko idące wnioski. Moim zdaniem nie jest to jednak jeszcze moment, w którym powinniśmy zacząć się bać. Do apokaliptycznych teorii podchodzę dość sceptycznie.

Ostatnie słowa szefa firmy Anthropic, Daria Amodeia, o tym, że AI może przejąć kontrolę nad internetem, idą w parze z apelami o nałożenie pewnych ograniczeń, które spowolniłyby rozwój AI. Słychać głosy, że tak naprawdę jest to próba eliminacji konkurencji. Czy oznacza to, że mamy do czynienia z zasłoną dymną dla rozgrywki wielkich korporacji ponad naszymi głowami?

Zdecydowanie mogę przychylić się do takiej interpretacji tych działań. Spójrzmy: rozwój nowych technologii co do zasady nigdy nie podlegał szczególnej kontroli. Weźmy rewolucję przemysłową, która dokonała się w XIX wieku. Czy ktoś z góry wyznaczył kierunek jej rozwoju?

Powstała maszyna parowa, a potem narzędzia i maszyny przemysłowe, dzięki którym można było wdrożyć masową produkcję. Nie było tak, że ktoś zaplanował cały ten proces. A przecież również wtedy pojawiało się wiele głosów sceptycznych, mówiących między innymi o tym, że ludzie stracą pracę. Podobnie było z pociągami - także wielu ludzi się ich bało, a jednak powstały i są z nami do dziś.

Wydaje mi się, że w XXI wieku rozwój nowych technologii również będzie postępował niezależnie od tego, co będziemy mówili. Oczywiście jako ludzie możemy starać się go ukierunkować i wskazywać, na co należy kłaść nacisk. Można też wprowadzać regulacje. Nie przeceniałbym jednak ich roli, ponieważ natura tego procesu sprawia, że wymyka się on bardzo restrykcyjnym ograniczeniom.

Dzisiejszy układ sił na świecie jest specyficzny. W 2026 roku - może poza chybotliwą Unią Europejską - nie czujemy, że w pokoju są dorośli, którzy powiedzą: hola, hola, zatrzymajmy się. Mamy Donalda Trumpa w Stanach Zjednoczonych, rozpędzone Chiny oraz nieobliczalną i pełną najgorszych intencji Rosję. To może dawać powody do niepokoju.

Nowe technologie - celowo nie ograniczam się wyłącznie do AI - są również narzędziem polityki. Ich posiadanie zapewnia przewagę w różnych rozgrywkach geopolitycznych. To także sprawia, że próby globalnego ograniczenia rozwoju sztucznej inteligencji, na przykład do wybranych dziedzin, są z założenia bezowocne.

Posiadanie tych narzędzi leży bowiem w żywotnym interesie zarówno wielkich państw, jak i wielkich koncernów, które w zasadzie same stają się podmiotami rozgrywek geopolitycznych. Czy gigantów technologicznych nie należałoby już uznać za równorzędnych graczy na arenie międzynarodowej, porównywalnych z państwami średniej wielkości?

Co dla matematyka oznacza ogłoszenie przez OpenAI, że przy wsparciu AI rozwiązano jeden z tzw. problemów milenijnych — problem Naviera–Stokesa — przy czym wynik jest obecnie analizowany przez środowisko matematyczne? To dobra czy zła informacja?

Na pierwszy rzut oka trudno się nie zastanawiać nad sensownością swojej pracy, skoro praktycznie żyję z rozwiązywania problemów matematycznych. Jeżeli będą to za mnie robić maszyny, to chyba powinienem już się pakować. Tyle dobrego, że powoli zbliżam się do wieku emerytalnego. Ale mówiąc serio: na miejscu matematyków jeszcze nie pakowałbym walizek. Dlaczego? Może podam przykład.

Jednym z wielkich, wciąż otwartych problemów matematycznych jest hipoteza Riemanna. Głosi ona, że wszystkie nietrywialne miejsca zerowe funkcji dzeta Riemanna mają część rzeczywistą równą 1/2, czyli leżą na tak zwanej prostej krytycznej. Nie wiemy, czy hipoteza jest prawdziwa, choć przemawiają za nią liczne obliczenia numeryczne i wyniki cząstkowe.

Na obecnym etapie trudno powiedzieć, czy AI byłaby w stanie ją udowodnić. Gdyby zaś hipoteza była fałszywa, sztuczna inteligencja mogłaby pomóc odnaleźć kontrprzykład, czyli nietrywialne miejsce zerowe poza prostą krytyczną.

Obecnie systemy AI szczególnie dobrze radzą sobie z przeszukiwaniem przestrzeni możliwych konstrukcji i kontrprzykładów, chociaż potrafią też wspierać tworzenie oraz formalną weryfikację dowodów. Nie wiadomo jeszcze, gdzie leżą trwałe granice tych możliwości.

W przypadku problemu Naviera–Stokesa AI wygenerowała rozstrzygnięcie negatywne, lecz nadal był to złożony dowód matematyczny, a nie proste znalezienie kontrprzykładu. Można więc stwierdzić, że AI świetnie sobie radzi z falsyfikacją hipotez, chociaż nie można sprowadzać roli AI wyłącznie do tego.

Czyli sztuczna inteligencja może być zarówno narzędziem do falsyfikacji, jak i do konstruowania oraz weryfikacji dowodów?

Tak, choć w przypadku najtrudniejszych twierdzeń nadal spodziewam się zasadniczej roli człowieka. Dowód może jednak powstać przy znaczącym wsparciu AI albo w systemie łączącym pracę modeli, formalizację i weryfikację komputerową. Sam już używam tych narzędzi, na przykład do wyszukiwania literatury.

Pracuję obecnie nad otwartym problemem, na razie bez sukcesu, ale w pewnym momencie zacząłem rozmawiać z modelem językowym i poprosiłem go o wyszukanie wszystkich prac, które mogą dotyczyć tego problemu.

A kim są agenci AI, o których była mowa w tych złowrogich opisach dotyczących rzekomego przejęcia przez nich kontroli? Czy nie powinno nas martwić to, że ze sobą rozmawiają?

Agenci AI to systemy, które wykorzystują model do samodzielnego planowania kolejnych kroków, używania narzędzi i realizacji wyznaczonego celu w określonych granicach. Kiedy rozmawiamy ze zwykłym modelem językowym, zadajemy mu pytania — czyli formułujemy tak zwane prompty - a on na nie reaguje. Agent może natomiast działać wieloetapowo: oceniać wyniki pośrednie, dobierać źródła i narzędzia oraz decydować o kolejnych czynnościach.

Cykliczny przegląd uruchamiany w każdy piątek może być zwykłą automatyzacją. Staje się zadaniem agentowym, gdy system samodzielnie wyszukuje publikacje, ocenia ich znaczenie i przygotowuje podsumowanie. Nic strasznego. Nazwa jest troszkę…

…jak z "Matrixa"! Od razu staje mi przed oczami agent Smith — i to w wersji zwielokrotnionej.

Generalnie w świecie nauki mamy sporo frajdy z wymyślania ciekawych nazw. Na przykład w dziedzinie, którą się zajmuję, czyli teorii kwantowej, pojawia się pojęcie wyroczni kwantowej. Brzmi znajomo, prawda? Ktoś, kto je usłyszy, może stwierdzić: matko, co tam się dzieje?! Termin brzmi tajemniczo, choć oznacza precyzyjnie zdefiniowaną operację, swoistą czarną skrzynkę, do której algorytm kwantowy kieruje zapytania.

Jeśli chodzi o komunikację między agentami, mogę poprosić jednego z nich o przygotowanie przeglądu, a innego - by wcześniej wykonał pracę wstępną, na przykład wyodrębnił z całego internetu wszystkie publikacje dotyczące interesującej mnie tematyki. Kolejny agent może ocenić, które z nich są najważniejsze, i tak dalej. Kiedy rozłożymy takie współdziałanie na czynniki pierwsze, nie brzmi ono już groźnie.

Oczywiście podczas prac nad problemem milenijnym sieć zależności była zapewne bardziej skomplikowana, ale jeśli chodzi o samą nazwę, nie ma się czym przejmować. Gdyby ktoś nazwał tych agentów procedurami, nie brzmiałoby to tak sensacyjnie.

Staram się pytać językiem popkultury, więc nawiążę do jeszcze innego filmu science fiction. W "Baw się dobrze i przeżyj" sztuczna inteligencja nie musiała się nawet specjalnie męczyć z ludzkością - po prostu uzależniła ludzi od telefonów, pokazując im coraz większy bałagan na ekranach. Może właśnie tutaj powinniśmy się bardziej mieć na baczności?

Zgadzam się, że mamy tu do czynienia z zagrożeniem. Już dziś regularnie używamy modeli językowych do generowania różnych tekstów. Jeśli mamy napisać podanie, prościej jest poprosić czatbota: "Sformułuj mi podanie, tylko zaznacz to i to albo zrób to tak czy tak". Pojawia się jednak ryzyko ujednolicania stylu i ograniczania naturalnej różnorodności języka pod wpływem treści generowanych przez modele.

Pamiętamy, że istniała staropolszczyzna, w której prawdopodobnie nie potrafilibyśmy się dziś porozumieć, ponieważ język stale ewoluuje. Tymczasem modele uczą się również na tekstach wygenerowanych przez inne systemy AI. Jeśli takie treści ponownie trafiają do danych treningowych, powstaje sprzężenie zwrotne, które może wzmacniać najczęstsze wzorce, homogenizować styl, a przy niekontrolowanym wykorzystaniu treści syntetycznych także obniżać jakość danych.

Nie oznacza to zatrzymania ewolucji języka, ale może ją ukierunkować i ograniczać różnorodność. To jeden z przykładów na to, jak sztuczna inteligencja może realnie wpłynąć na nasze życie.