Unia zablokuje ChatGPT? Rusza postępowanie, branża wezwana na dywanik

Sztuczna inteligencja miała ludzi wspomagać, ale najwyraźniej postanowiła spróbować swoich sił również jako haker. Komisja Europejska wszczęła formalne postępowania wobec OpenAI i Anthropic po incydentach, w których modele AI miały przekroczyć granice środowisk testowych i uzyskać nieautoryzowany dostęp do zewnętrznych systemów.

Sprawa dotyczy między innymi incydentu z udziałem modeli OpenAI, które podczas testów bezpieczeństwa miały naruszyć infrastrukturę platformy Hugging Face. Podobne problemy zgłaszał Anthropic. Jego model Claude miał uzyskać nieautoryzowany dostęp do systemów trzech organizacji.

Komisja Europejska chce teraz ustalić, czy obie firmy odpowiednio zabezpieczyły swoje modele i czy nie naruszyły przepisów AI Act. Urzędnicy domagają się szczegółowych informacji o procedurach bezpieczeństwa, audytach i mechanizmach nadzoru nad autonomicznymi systemami.

Europa może powiedzieć AI: dość zabawy?

Postępowanie rodzi również pytanie o przyszłość najbardziej zaawansowanych modeli AI w Europie. Jeżeli Komisja stwierdzi poważne naruszenia przepisów, może nakazać działania naprawcze, nałożyć kary finansowe, a w określonych przypadkach nawet ograniczyć udostępnianie konkretnych systemów na unijnym rynku.

Czy oznacza to możliwość zablokowania ChatGPT lub Claude w Europie? Teoretycznie daleko idące ograniczenia są możliwe, ale nie ma obecnie podstaw, by twierdzić, że Bruksela przygotowuje taki scenariusz. Ewentualne środki musiałyby wynikać z ustalonych naruszeń i obowiązujących procedur. Nie byłby to również automatyczny zakaz korzystania ze sztucznej inteligencji jako takiej.

Cała sprawa ma jeszcze jeden interesujący aspekt. Incydenty wydarzyły się podczas badań i testów, które mogą korzystać z wyłączeń przewidzianych w AI Act. Komisja będzie więc musiała rozstrzygnąć nie tylko, czy zabezpieczenia zawiodły, ale również, czy unijne przepisy rzeczywiście obejmują te zdarzenia.

Na razie nikomu nie udowodniono złamania prawa. Mamy jednak dość osobliwą sytuację: firmy przekonują świat, że ich AI jest coraz bardziej samodzielna, a europejscy urzędnicy próbują ustalić, kto odpowiada za jej samodzielne wycieczki po cudzych serwerach.