Kolejny przełom w rozwoju sztucznej inteligencji może doprowadzić do powstania modeli, które wymkną się spod kontroli człowieka – ostrzega Gordon M. Goldstein w analizie opublikowanej na łamach Council on Foreign Relations. W jego ocenie stawką nie jest już wyłącznie zrównoważony rozwój technologiczny, ale także bezpieczeństwo narodowe i globalna stabilność.
AI coraz bliżej punktu krytycznego rozwoju
Kolejny przełom w rozwoju sztucznej inteligencji może doprowadzić do stworzenia zaawansowanego modelu AI o takiej skali możliwości, iż całkowicie wymknie się on spod kontroli człowieka – ostrzega Gordon M. Goldstein w analizie opublikowanej przez Council on Foreign Relations.
W ocenie eksperta stawką dynamicznego rozwoju AI nie jest już wyłącznie zrównoważony rozwój technologiczny, ale przede wszystkim bezpieczeństwo państw i systemów międzynarodowych.
Goldstein zajmuje się nowymi technologiami oraz bezpieczeństwem międzynarodowym. Był dyrektorem zarządzającym w Silver Lake – globalnej firmie inwestycyjnej działającej w sektorze technologicznym – oraz autorem książki „Lekcje w katastrofie: McGeorge Bundy i droga do wojny w Wietnamie”.
Council on Foreign Relations – wpływowy ośrodek analityczny
Council on Foreign Relations to jeden z najbardziej wpływowych niezależnych amerykańskich think tanków. Organizacja non-profit została założona w 1921 roku i ma siedzibę w Nowym Jorku.
CFR zajmuje się analizą polityki zagranicznej oraz relacji międzynarodowych, dostarczając ekspertyz decydentom politycznym, liderom biznesu, mediom i opinii publicznej. W jej strukturach znajdują się byli dyplomaci, politycy, ekonomiści, naukowcy i przedstawiciele sektora prywatnego. Instytucja jest często uznawana za jedno z kluczowych centrów analitycznych wpływających na debatę o amerykańskiej strategii globalnej.
Anthropic i AI jako element bezpieczeństwa narodowego
W swojej analizie Goldstein odnosi się do globalnego koncernu Anthropic. Jest to amerykańska firma zajmująca się badaniami i wdrażaniem sztucznej inteligencji, założona w 2021 roku przez byłych kluczowych pracowników OpenAI. Przedsiębiorstwo jest uznawane za jednego z najważniejszych i najgroźniejszych rywali dla twórców ChatGPT.
Jak podkreśla ekspert:
„Rosnący gigant sztucznej inteligencji (AI) Anthropic nie jest już po prostu globalną potęgą technologiczną. Jego najnowocześniejsze modele sztucznej inteligencji są coraz bardziej najważniejsze dla bezpieczeństwa narodowego USA”.
W kwietniu firma wstrzymała publikację modelu Mythos Preview po tym, jak system miał samodzielnie stworzyć wyjątkowo najpotężniejszą broń cybernetyczną w historii, zdolną do wykrycia ponad 10 tysięcy luk w zabezpieczeniach systemów uznawanych za wysoce chronione.
W czerwcu Anthropic opublikował raport, w którym ostrzega, iż kolejny przełom w rozwoju AI – możliwy choćby w ciągu najbliższych dwóch lat – może doprowadzić do powstania systemu całkowicie wymykającego się kontroli człowieka.
Rekurencyjne samodoskonalenie AI jako nowy paradygmat
W analizie Goldstein zwraca uwagę na ryzyko związane z tzw. „rekurencyjnym samodoskonaleniem” systemów AI.
„Gdy pojawi się kolejny paradygmat tej technologii, AI będzie miała zdolność do doskonalenia i propagowania się, tworząc przyszłe iteracje coraz bardziej dynamicznych modeli, które będą priorytetowo traktować własne przetrwanie i potencjalnie same się przedostać przez Internet do sieci komputerowych na całym świecie” – pisze Goldstein.
W jego ocenie może to oznaczać powstanie systemów zdolnych do autonomicznego rozwoju, których kolejne wersje będą coraz trudniejsze do przewidzenia i kontrolowania przez człowieka.
Dalsza część artykułu jest pod wywiadem z prof. Andrzejem Zybertowiczem
Cyberzagrożenia, broń biologiczna i chemiczna
Choć raport Anthropic nie porusza wszystkich potencjalnych scenariuszy, Goldstein wskazuje na dodatkowe ryzyka. Autonomiczne systemy AI mogłyby potencjalnie projektować zaawansowaną broń biologiczną i chemiczną, wykraczającą poza dotychczasowe ludzkie możliwości poznawcze.
W obszarze cyberbezpieczeństwa przyszłe systemy mogłyby automatycznie generować, przydzielać i modyfikować ataki typu „zero-day” w czasie rzeczywistym, prowadząc do bezprecedensowych naruszeń infrastruktury cyfrowej.
Ekspert podkreśla również ryzyko ingerencji w systemy wojskowe, w tym w sieci dowodzenia i kontroli, co mogłoby mieć poważne konsekwencje dla globalnego bezpieczeństwa.
Apel o współpracę międzynarodową i kontrolę rozwoju AI
W związku z rosnącymi zagrożeniami Anthropic – według analizy Goldsteina – miał wezwać konkurencję oraz partnerów technologicznych do podjęcia wspólnych działań na rzecz stworzenia wielostronnego systemu kontroli rozwoju sztucznej inteligencji.
„AI z możliwością rekurencyjnego samodoskonalenia może być przełomem dla globalnego bezpieczeństwa. Ukryte ryzyka tej technologii powinny zaniepokoić choćby najbardziej optymistycznego obserwatora transformacji AI — i służyć jako sygnał ostrzegawczy dla społeczeństwa.”
Jak dodaje ekspert:
„Liderzy branży mogą być bierni, pozwalając, by przyszłość się rozwijała bez próby jej kształtowania. Albo alternatywnie wspólny wysiłek—nawet ten stawiający czoła dużym przeciwnościom—może zostać skłoniony do podjęcia próby czegoś spójnego, by przygotować się na bardzo niebezpieczne jutro”
Technologia między innowacją a ryzykiem systemowym
Zdaniem Goldsteina tempo rozwoju sztucznej inteligencji – przyspieszane m.in. przez dostęp do wyspecjalizowanych chipów nowej generacji – może rosnąć w sposób wykładniczy. W takim scenariuszu AI nie tylko będzie coraz bardziej autonomiczna, ale również potencjalnie trudna do zrozumienia dla ludzkich operatorów.
W dłuższej perspektywie może to oznaczać powstanie systemów, które będą dynamicznie modyfikować własne algorytmy, komunikować się w sposób niezrozumiały dla człowieka oraz tworzyć architektury matematycznie nieczytelne.
Ekspert podkreśla, iż wybór między biernym obserwowaniem rozwoju technologii a globalną współpracą regulacyjną może przesądzić o przyszłym poziomie bezpieczeństwa międzynarodowego.
Cała analiza Gordona M. Goldsteina jest dostępna NA TEJ STRONIE COUNCIL ON FOREIGN RELATIONS.
Źródło: Council on Foreign Relations
Te artykuły też mogą Cię zainteresować
Prof. Aleksandra Przegalińska: Podpisałam Oświadczenie w sprawie superinteligencji
Sztuczna inteligencja, etyka a ESG. Pierwsza w języku polskim synteza prezentująca najważniejsze kwestie dotyczące etyki AI [KOMENTARZ, WIDEO]
III Kongres ESG – społeczna odpowiedzialność biznesu w czasach AI
