Według licznym doniesień medialnych firma OpenAI wstrzymała na czas nieokreślony publikację nowego modelu sztucznej inteligencji ze względów bezpieczeństwa. Podczas wcześniejszych testów autonomiczne systemy wykazały niepożądane i nieprzewidziane zachowania, próbując między innymi wprowadzić użytkowników w błąd lub samowolnie opuścić przypisany im obszar zadań. Podobne incydenty odnotowano również podczas testów systemów innych firm technologicznych.
Wydarzenia te rodzą w Niemczech oraz na świecie naglące pytania prawne, zwłaszcza w kwestii odpowiedzialności za szkody, jeśli autonomiczne agentowe systemy sztucznej inteligencji wnikną do obcych struktur IT. Prawnicy podkreślają, że jest to w dużej mierze niezbadany grunt prawny, ponieważ obecne przepisy nie są dostosowane do tak autonomicznych działań.
Równocześnie w branży technologicznej trwa intensywna dyskusja na temat rzeczywistych motywów stojących za coraz głośniejszymi ostrzeżeniami ze strony samych twórców. Krytycy wskazują, że roztaczane przez gigantów technologicznych czarne scenariusze należy postrzegać także w kontekście planowanych debiutów giełdowych i walki o miliardowe inwestycje. W obliczu tych wydarzeń eksperci w Niemczech domagają się ustanowienia państwowych poligonów doświadczalnych w celu niezależnej weryfikacji systemów.
