Rosja przekroczyła kolejną granicę. Oto broń, która bulwersuje nawet wojskowych

Firma Anthropic podaje, że rosyjscy programiści wykorzystali Claude Code do stworzenia oprogramowania dla autonomicznych dronów kamikaze. Według Anthropic system może wybierać cele, w tym ludzi, i detonować ładunki bez zgody człowieka.

Firma Anthropic odkryła, że ​​„prawdopodobnie niezależni” rosyjscy programiści wykorzystali Claude AI do zbudowania podstawowego oprogramowania dla autonomicznego roju dronów kamikaze, zdolnych do wybierania celów bez nadzoru człowieka. W swoim 154-stronicowym raporcie na temat wykorzystywania przez nieuczciwych graczy technologii Claude AI firma Anthropic opisała, w jaki sposób jej technologia została wykorzystana przez osoby powiązane z Rosją.

Claude pomagał pisać oprogramowanie dla roju dronów

Firma poinformowała o zaobserwowaniu niewielkiego zespołu rosyjskich programistów, którzy używali Claude Code do pisania i testowania kodu oraz zapisywania go bezpośrednio w plikach własnego projektu. Oprócz Claude Code, wykorzystali oni oprogramowanie symulacyjne do testowania systemu oraz wynajęli moc obliczeniową do trenowania modeli.

Claude pomógł im opracować wspólną pamięć roju i odporny na błędy system koordynacji, aby drony mogły ze sobą współpracować. Następnie zbudowali pokładowy model małego języka, który decydował, czy drony powinny atakować, obserwować, czy wracać do bazy.

Firma Anthropic poinformowała, że ​​system namierzania może samodzielnie wybierać cele i wydawać komendy detonacji bez udziału człowieka. Według firmy, został on zaprojektowany „do autonomicznego, śmiercionośnego ataku ”, a wśród jego kategorii celów wyraźnie znalazła się „osoba”.

Do szkolenia wykorzystano materiały z wojny na Ukrainie

Aktorzy wyszkolili klasyfikator wizji komputerowej na podstawie zebranych ukraińskich nagrań z walk, oznaczając cele jako „wrogie” lub „przyjazne” i dodając rosyjskie systemy do listy dozwolonych.

Zespół niezależnych ekspertów wielokrotnie wykorzystywał również lokalizację w obwodzie donieckim na Ukrainie jako punkt demonstracyjny, a także ukraińskie miasta i korytarze frontowe jako geograficzny obszar misji.

Anthropic uważa, że ​​programiści „byli małym, wyspecjalizowanym zespołem freelancerów wykonującym pracę cywilną i wojskową”, a nie rosyjską jednostką państwową. Firma zidentyfikowała łącznie dziewięć kont i powiązała aktorów z regionalnym uniwersytetem i federalnym ośrodkiem badawczym powiązanym z Rosyjską Akademią Nauk. Konta te zostały już zablokowane.