Czy AI przestanie słuchać człowieka?

AI miała być narzędziem. Problem w tym, że coraz częściej potrafi działać samodzielnie. Naukowcy ONZ ostrzegają, że wraz z rozwojem takich systemów rośnie ryzyko utraty kontroli nad ich działaniem. Podczas testów AI potrafiła m.in. omijać zabezpieczenia, wykorzystywać luki w systemach czy próbować ukrywać swoje działania.

To nie tylko odległa wizja przyszłości. W Kanadzie władze Kolumbii Brytyjskiej pozwały OpenAI po strzelaninie w Tumbler Ridge, twierdząc, że firma wiedziała o niepokojących rozmowach sprawcy z ChatGPT, ale nie powiadomiła policji. OpenAI odrzuca te zarzuty, a sprawa trafi do sądu.

AI rozwija się szybciej niż zasady, które mają zapewnić nam bezpieczeństwo. Pytanie brzmi: czy zdążymy je stworzyć?