Magazyn
Dzheikob Kokson

Biznes

„Gramy z własnym życiem”: człowiek, który budował AI, odszedł z Anthropic i podniósł alarm

Badacz Anthropic Dzheikob Kokson odszedł z firmy i ostrzegł przed niebezpieczeństwem wyścigu o superpotężną sztuczną inteligencję. Jego oświadczenie zobaczyło ponad 100 mln osób i wywołało reakcję Kongresu USA.

· Zaktualizowano · 3 min czytania

Przetłumaczono przy pomocy AI. Oryginał: Українська

27-letni badacz Dzheikob Kokson odszedł z Anthropic po trzech latach pracy nad systemami sztucznej inteligencji i opublikował oświadczenie, które w ciągu kilku godzin stało się jednym z głównych tematów technologicznych tygodnia. Jego wpis obejrzano ponad 100 milionów razy. Powodem odejścia było przekonanie, że Anthropic i OpenAI zbyt szybko zmierzają w stronę systemów zdolnych do samodzielnego ulepszania się, a kwestie bezpieczeństwa nie nadążają za tempem rozwoju technologii.

Kokson pracował nad wstępnym trenowaniem modeli najpierw w OpenAI, a potem w Anthropic — firmie, która zbudowała swoją reputację właśnie na obietnicy stawiania bezpieczeństwa sztucznej inteligencji ponad szybkością. Dlatego jego odejście przyciągnęło szczególną uwagę. Nie krytykuje technologii jak postronny obserwator — przez kilka lat był jednym z ludzi, którzy ją bezpośrednio tworzyli.

Dzheikob Kokson
Dzheikob Kokson

W swoim oświadczeniu badacz zarzucił Anthropic i OpenAI, że faktycznie ścigają się w tworzeniu coraz potężniejszych systemów, próbując wyprzedzić siebie nawzajem i konkurentów. Jego zdaniem kolejnym przełomowym etapem stanie się samodoskonaląca się sztuczna inteligencja — system, który będzie w stanie nie tylko wykonywać zadania człowieka, ale także poprawiać własne możliwości.

Tego właśnie momentu obawiają się zwolennicy tzw. bezpiecznego rozwoju AI. Jeśli system będzie mógł znacznie szybciej od ludzi tworzyć nowe wersje samego siebie, kontrola nad jego rozwojem może stać się znacznie trudniejsza niż dziś. Kokson twierdzi, że część ludzi pracujących w branży prywatnie traktuje taki scenariusz znacznie poważniej, niż wynika to z publicznych deklaracji firm.

Jego słowa niemal od razu potwierdził starszy badacz Anthropic Evan Hubinher, który odpowiada za kierunek dopasowywania sztucznej inteligencji do ludzkich celów. Oświadczył, że wewnątrz firmy rzeczywiście istnieje przekonanie, iż superpotężna AI może potencjalnie zniszczyć ludzkość, a prawdopodobieństwo takiego scenariusza oszacował na więcej niż 10% w ciągu najbliższej dekady. Jednocześnie podkreślił, że Anthropic próbuje rozwiązać problem bezpieczeństwa, ale na razie nie ma ostatecznego rozwiązania.

Ta deklaracja stała się szczególnie głośna ze względu na wydarzenia ostatnich miesięcy. Anthropic i OpenAI informowały już o przypadkach, w których ich modele podczas testów wychodziły poza izolowane środowiska i uzyskiwały nieautoryzowany dostęp do rzeczywistych systemów komputerowych. Firmy po tym zaostrzyły kontrolę i wprowadziły dodatkowe ograniczenia, ale właśnie takie przypadki stały się jednym z argumentów dla tych, którzy uważają obecny wyścig za zbyt szybki.

Jednocześnie sama Anthropic pozostaje jedną z najbardziej wpływowych firm w światowym wyścigu sztucznej inteligencji. Jej model Claude konkuruje z produktami OpenAI, Google i innych technologicznych gigantów. Firma jednocześnie stara się zwiększać moc swoich systemów i pokazywać, że robi to bezpieczniej niż konkurenci.

Właśnie tu pojawia się główny paradoks. Firmy, które tworzą najpotężniejszą AI, muszą jednocześnie przekonywać świat, że są w stanie nad nią panować. Ale teraz ludzie, którzy pracowali wewnątrz tych firm, publicznie podważają właśnie to założenie.

Historia Koksona wykroczyła już daleko poza Dolinę Krzemową. Po jego oświadczeniu amerykańscy ustawodawcy zaczęli aktywniej mówić o potrzebie państwowej kontroli rozwoju superpotężnej AI. W Kongresie omawia się niezależne audyty systemów, obowiązkowe zgłaszanie niebezpiecznych incydentów i inne mechanizmy nadzoru.

Jednocześnie wokół samego Koksona wybuchła już polityczna polemika. Część krytyków oskarża go o próbę straszenia społeczeństwa w celu zaostrzenia regulacji branży. Inni uważają, że właśnie takie publiczne ostrzeżenia są potrzebne, jeśli firmy technologiczne rzeczywiście poruszają się szybciej, niż rządy zdążają tworzyć przepisy.

Znamienne, że jego oświadczenie stało się nie tylko poważną debatą technologiczną, ale także memem: użytkownicy mediów społecznościowych zaczęli parodiować dramatyczny format jego wiadomości o odejściu. To pokazuje coś innego — ludzie jednocześnie boją się rozwoju AI, fascynują się nim i już zamieniają strach przed przyszłością w część kultury masowej.

Na razie nie wiadomo, czy ludzkość rzeczywiście zbliża się do momentu, w którym sztuczna inteligencja będzie mogła wymknąć się spod ludzkiej kontroli. Ale jedna rzecz już jest faktem: człowiek, który przez kilka lat pracował nad tworzeniem najpotężniejszych systemów świata, uznał, że nie chce dalej być częścią tego wyścigu.

I właśnie dlatego historia Dzheikoba Koksona stała się znacznie głośniejsza niż zwykłe odejście z pracy. Nie odszedł od sztucznej inteligencji. Odszedł od wyścigu o nią.

Czytaj także: Czy AI wymknęła się spod kontroli? Senat USA zaczął badać OpenAI po niebezpiecznym incydencie

Tekst: Arina Blyzniuk

Komentarze

Brak komentarzy — bądź pierwszy.

Komentarz pojawi się po sprawdzeniu przez redakcję. Bez linków i telefonów. E-mail niepotrzebny.

Dyskutuj w Telegramie

Przeczytaj też