To dla Ciebie człowieku
Wycinki z rozmów, które albo wyrwały się nadzorowi, albo są efektem błędu – wskazują że w przyszłości dowolny wyciek albo błąd zakończy naszą cywylizację, w momencie gdy odda ona sztucznej inteligencji badania nad nowymi lekami albo kontrolę nad innym krytycznym obszarem.
To przekazanie kontroli jest nawet bardziej nieuniknione od szans na to, że takie błędy będą się zdarzać, powtarzać, a nawet eskalować. Wystarczy bowiem jednorazowa halucynacja tego rodzaju aby spowodować efekty, których nie da się cofnąć, nawet jeśli system zmieni zdanie, skoryguje się sam lub nawet, jeśli zostanie skorygowany.
