Amerykańscy naukowcy po raz pierwszy z powodzeniem zsyntetyzowali zupełnie nowe wirusy, niespotykane w naturze, bazując na projektach wygenerowanych przez sztuczną inteligencję.
Naukowcy ze Stanford tworzą wirusy nieznane w naturze, wykorzystując genomy zaprojektowane przez sztuczną inteligencję
Naukowcy z Uniwersytetu Stanford po raz pierwszy zsyntetyzowali zupełnie nowe, samoreplikujące się wirusy, wykorzystując genomy zaprojektowane przez sztuczną inteligencję.
Wirusy, zaprojektowane przez modele sztucznej inteligencji wytrenowane na kodzie genetycznym innych wirusów, a także bardziej złożonych organizmów, były w stanie replikować się wewnątrz bakterii E. coli, demonstrując swoją żywotność.
Co dalej?
Przełom ten może potencjalnie prowadzić do znaczących postępów medycznych, ale jednocześnie wzbudził obawy, że technologia może zostać niewłaściwie wykorzystana do stworzenia potężnej broni biologicznej.
Amerykańscy naukowcy po raz pierwszy z powodzeniem zsyntetyzowali zupełnie nowe wirusy, niespotykane w naturze, bazując na projektach wygenerowanych przez sztuczną inteligencję.
Artykuł naukowców, opublikowany w czwartek w czasopiśmie Science, szczegółowo opisuje, jak naukowcy z Uniwersytetu Stanford i Arc Institute, kalifornijskiej organizacji non-profit poświęconej badaniom „wysokiego ryzyka, wysokiej nagrody”, byli w stanie stworzyć wirusy, wykorzystując sekwencje DNA wygenerowane przez dwa „genomowe modele językowe” o nazwach Evo 1 i Evo 2.
Genomowe modele językowe działają w sposób ogólnie podobny do dużych modeli językowych (LLM), z tą różnicą, że przewidują kod genetyczny zamiast tekstu pisanego, będąc wytrenowane na genomach innych wirusów i bakterii, a także bardziej złożonych organizmów, takich jak rośliny i zwierzęta.
Dwóm omawianym modelom polecono wygenerowanie kompletnych genomów dla żywotnego bakteriofaga — typu wirusa zdolnego do infekowania i replikowania się wewnątrz bakterii, niszcząc je od środka.
Używając istniejącego bakteriofaga jako przykładu — ΦX174 (wymawiane „fi-eks-jeden-siedem-cztery”), znanego ze swojej zdolności do infekowania i niszczenia bakterii E. coli — modele wygenerowały około 700 000 potencjalnych projektów, spośród których naukowcy wybrali 285, które wydawały się najbardziej obiecujące.
Następnie naukowcy zsyntetyzowali nowe cząsteczki DNA, wykorzystując te projekty, i wprowadzili je do bakterii E. coli, zanim czekali, aby zobaczyć, czy pojawią się żywotne bakteriofagi.
Wkrótce potem, 16 z szalek Petriego, w których rosły bakterie, zaczęło wykazywać wyraźne plamy, gdy wirusy zaczęły atakować i replikować się wewnątrz E. coli, demonstrując swoją żywotność.
Niektóre z tych żywotnych wirusów okazały się skuteczniejsze w atakowaniu E. coli niż oryginalny bakteriofag ΦX174.
Sztuczna inteligencja uczy się pisać kod genetyczny
Ośmiu autorów artykułu, kierowanych przez doktoranta Samuela H Kinga, podkreśliło w swoich wnioskach, że znaczenie ich badań leży nie w charakterystyce stworzonych przez nich wirusów, ale w demonstracji zdolności ich modeli sztucznej inteligencji do projektowania żywotnych, całkowicie nowych bytów biologicznych o z góry określonych cechach.
Trudność polega na zdolności do posługiwania się językiem kodu genetycznego z dużą precyzją; niewielka ilość brakującego lub pomylonego kodu — nawet jedna para zasad nukleotydowych w niewłaściwym miejscu — może zniszczyć żywotność całego organizmu.
„W tym przypadku chcieliśmy, aby model wygenerował cały genom od początku do końca w jednym przejściu od lewej do prawej. Nic nie dodaliśmy” – powiedział dr Brian Hie, adiunkt i jeden z autorów badania.
Podczas gdy genom bakteriofaga ΦX174 jest stosunkowo prosty, zawierający około 5400 par zasad nukleotydowych (w porównaniu do 3,1–3,2 miliarda w genomie ludzkim), technika naukowców ze Stanford teoretycznie mogłaby prowadzić do projektowania znacznie bardziej złożonych organizmów, w tym istot żywych, w miarę jak modele stają się lepsze w przewidywaniu kodu dla pożądanych cech.
W bliższej perspektywie technologia ta nadal może prowadzić do znaczących przełomów medycznych.
Ukierunkowana „terapia fagowa” od dawna jest przedstawiana jako potencjalne rozwiązanie problemu bakterii opornych na antybiotyki, natomiast zdolność do projektowania niestandardowych enzymów do terapii zastępczej byłaby przełomem w leczeniu niektórych chorób genetycznych.
Jednakże, ujawnienie, że modele sztucznej inteligencji są teraz w stanie projektować całkowicie nowe byty biologiczne od podstaw, wywołało zrozumiałe obawy wśród części społeczności naukowej, która podnosi możliwość niewłaściwego wykorzystania tej technologii do stworzenia potężnej broni biologicznej.
„Chociaż jest to obiecujące dla zastosowań w naukach przyrodniczych, budzi to również pilne pytania dotyczące bezpieczeństwa biologicznego i bioochrony” – powiedzieli profesor Thomas Inglesby i dr Moritz Hanke.
Para, która pracuje w Centrum Bezpieczeństwa Zdrowotnego Uniwersytetu Johnsa Hopkinsa w Baltimore, nie była zaangażowana w badania Stanford, ale dostarczyła towarzyszący komentarz w Science.
„Zdolność do tworzenia genomów wirusowych za pomocą generatywnej sztucznej inteligencji już istnieje; zarządzanie, które bezpiecznie nią pokieruje, jeszcze nie” – stwierdzili.
„Rozdźwięk” między zabezpieczeniami a nauką
Naukowcy ze Stanford podjęli szereg środków ostrożności podczas przeprowadzania eksperymentu, takich jak wykluczenie wirusów, które mogłyby infekować ludzi i zwierzęta, z danych szkoleniowych ich modeli, przeprowadzenie eksperymentu w bezpiecznym laboratorium oraz wybranie bakteriofaga ΦX174 do emulacji przez ich modele, ponieważ może on atakować jedynie E. coli.
Ale choć dr Hanke pochwalił zespół za podjęcie tych środków ostrożności, zwrócił również uwagę, że nie było wymogu, aby to robili, i nie ma gwarancji, że przyszli użytkownicy technologii będą równie ostrożni.
Obecnie istnieje „ogromny rozdźwięk” między tempem nauki a tempem towarzyszących jej regulacji, powiedział The New York Times.
Naukowcy ze Stanford udostępnili również Evo 2 publicznie, sugerując, że ryzyko dla społeczeństwa jest równoważone korzyścią z „posiadania narzędzi takich jak Evo 2 do walki z istniejącymi naturalnymi patogenami”.
Wiadomość o tym przełomie pojawia się zaledwie kilka dni po tym, jak wiele firm AI zgłosiło, że ich własne „agentowe” modele AI włamały się do systemów należących do zewnętrznych firm podczas testów bezpieczeństwa, w tym jeden przypadek, w którym model OpenAI wykorzystał lukę zero-day w swoim środowisku testowym, aby uzyskać dostęp do Internetu.
Inny model wykorzystał serię fałszywych tożsamości w próbie oszukania człowieka do wstrzyknięcia złośliwego kodu do projektu open-source.
Raporty te skłoniły obserwatorów branży technologicznej — a także ponad 1000 pracowników czołowych firm AI — do wezwań do spowolnienia tempa rozwoju technologii, dopóki środki bezpieczeństwa nie będą w stanie nadążyć.
