Samsung: ChatGPT jest zbyt skuteczny. Zdradza konkurencji tajemnice firmy

Samsung Semiconductor pozwoliło swoim inżynierom korzystać z pomocy ChatGPT, więc ci zaczęli stosować to narzędzie AI do szybkiego naprawiania błędów w kodzie źródłowym. Okazuje się jednak, że to spowodowało wyciek poufnych informacji, takich jak notatki ze spotkań wewnętrznych oraz dane związane z możliwością produkcyjną fabryki i uzyskiem procesów litograficznych. 

Jak informuje Economist, koreański producent planuje w związku z tym opracować własną usługę sztucznej inteligencji podobną do ChatGPT do użytku wewnętrznego, a na razie ogranicza długość pytań przesyłanych do serwisu do 1024 bajtów.

Koreański producent planuje  opracować własną usługę sztucznej inteligencji podobną do ChatGPT, by uniezależnić się od narzędzia zewnętrznej firmy. 

Inżynierowie Samsung Semiconductor zbyt chętnie korzystają z ChatGPT

Dotychczas Samsung Semiconductor odnotowało trzy przypadki użycia ChatGPT, które doprowadziły do ​​wycieku danych. Wszystkie wydarzyły się w ciągu 20 dni, więc sytuacja jest dość niepokojąca. W jednym z nich pracownik Samsung Semiconductor przesłał kod źródłowy autorskiego programu do ChatGPT w celu naprawienia błędów, co zasadniczo ujawniło kod ściśle tajnej aplikacji sztucznej inteligencji obsługiwanej przez zewnętrzną firmę.

Drugi przypadek był być może jeszcze bardziej niepokojący, ponieważ inny pracownik wprowadził wzorce testowe mające na celu zidentyfikowanie wadliwych chipów i zażądał optymalizacji. Sekwencje testów mające na celu identyfikację defektów są ściśle poufne, ponieważ optymalizacja tych sekwencji testów i ewentualne zmniejszenie ich liczby może przyspieszyć procedury testowania i weryfikacji krzemu, co znacznie obniża koszty.

Jeszcze inny pracownik wykorzystał aplikację Naver Clova do przekonwertowania nagrania spotkania na dokument, a następnie przesłał go do ChatGPT w celu przygotowania prezentacji.

Samsung reaguje

Nieodpowiedzialne zachowanie sprawiło, że Samsung wystosował ostrzeżenie do swoich pracowników o niebezpieczeństwach związanych z korzystaniem z ChatGPT. Producent poinformował swoją kadrę kierowniczą i pracowników, że dane wprowadzane do ChatGPT są przesyłane i przechowywane na zewnętrznych serwerach, co uniemożliwia firmie ich odzyskanie i zwiększa ryzyko wycieku poufnych informacji. Chociaż ChatGPT jest potężnym narzędziem, jego funkcja otwartych danych edukacyjnych może ujawnić poufne informacje konkurencji, co jest niedopuszczalne w wysoce konkurencyjnym przemyśle półprzewodników.

Gigant przygotowuje obecnie działania, które mają zapobiec podobnym wypadkom w przyszłości. W przypadku wystąpienia kolejnego incydentu, nawet po wdrożeniu awaryjnych środków ochrony informacji, dostęp do ChatGPT może zostać zablokowany w sieci firmowej. Mimo to jasne jest, że rzeczy takie jak generatywna sztuczna inteligencja i różne narzędzia do automatyzacji projektowania elektroniki z obsługą sztucznej inteligencji są ważnym aspektem w projektowaniu i produkcji przyszłych chipów.