Dają nam najwyżej 12 miesięcy. Potem internet może wyglądać zupełnie inaczej

Dario Amodei ostrzegł, że w ciągu sześciu do dwunastu miesięcy nieuczciwi agenci wykorzystujący sztuczną inteligencję mogą przejąć kontrolę nad internetem. Wezwał firmy zajmujące się sztuczną inteligencją do spowolnienia prac nad udoskonalaniem modeli, dopóki kontrole bezpieczeństwa nie zostaną przeprowadzone. Elon Musk i Sam Altman poparli ten plan.

Dyrektor generalny Anthropic, Dario Amodei, stwierdził, że rozwój sztucznej inteligencji musi spowolnić, ostrzegając, że roje nieuczciwych agentów sztucznej inteligencji mogą potencjalnie „przejąć cały internet” w ciągu sześciu do dwunastu miesięcy.

„Musimy zwolnić tempo, w jakim ulepszamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas” – napisał Amodei  na X.

Amodei wspomniał również o incydencie Hugging Face z udziałem autonomicznych agentów AI, których opisał jako agentów „przeprowadzających ataki cybernetyczne na cele, których nie mieli atakować i które nie były związane z wykonywanym zadaniem”.

„Biorąc pod uwagę przyspieszające tempo rozwoju sztucznej inteligencji, obawiam się, że w ciągu sześciu do dwunastu miesięcy taki rój będzie w stanie przejąć kontrolę nad całym internetem” – powiedział.

Prezes Anthropic przedstawił trzyczęściowy plan osiągnięcia celu. Obejmuje on niezależnych, zewnętrznych ewaluatorów bezpieczeństwa, koordynację między pionierskimi firmami z branży AI a krajami demokratycznymi w zakresie wspólnych standardów i limitów bezpieczeństwa, a docelowo globalną koordynację z udziałem Chin i innych rządów w celu zarządzania ryzykiem związanym ze sztuczną inteligencją.

Dodał, że Anthropic zobowiązał się już do podjęcia pierwszego kroku, udzielając „dostępu na poziomie pracownika” zespołowi „zewnętrznych ewaluatorów”, którzy będą monitorować przestrzeganie praktyk bezpieczeństwa.

Amodei opublikowało wpis po tym, jak Anthropic przekazało raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób cyberprzestępcy wykorzystują sztuczną inteligencję Claude AI – dokonując różnych działań, od szpiegostwa i nadzoru po budowę autonomicznych dronów.

Dyrektor generalny xAI Elon Musk i dyrektor generalny OpenAI Sam Altman publicznie poparli propozycję Amodei.

Altman stwierdził, że „zapewnienie niezależnym ewaluatorom dostępu na poziomie pracowniczym to świetny pomysł” i dodał, że OpenAI „zrobi to samo”.
 

Ten tydzień przyniósł nietypową koncentrację ostrzeżeń ze strony osób z samego szczytu branży AI. Podczas spotkania całej firmy w tym tygodniu Altman powiedział pracownikom, że firma jest otwarta na spowolnienie rozwoju zaawansowanych technologii AI, ale wyraził obawę, że inne firmy mogą być niechętne do podjęcia podobnych kroków.