Mówi się ze rozwój sztucznej inteligencji zaczyna przypominać węża pożerającego swój własny ogon. To zjawisko jest porównywane do "kanibalizmu" danych, gdzie AI "zjada" własne wytwory, co osłabia cały ekosystem.
Każda kolejna generacja modeli dziedziczy i wzmacnia zniekształcenia poprzednich. Jeżeli większość treści, na których jest trenowana, bierze źródło z Internetu wypełnionego obecnie treściami wygenerowanymi przez sztuczną inteligencję, to jakość tych treści stopniowo obniża się z każdą iteracją trenowania kolejnych generacji sztucznej inteligencji.
Ale to trochę tak jak z naszym społeczeństwem, w którym powszechność informacji postępuje równolegle do odczuwalnego spadku jakości naszych instytucji, jakości kształcenia oraz spłycania naszego rozumowania.
Gdy modele trenują na syntetycznych danych, tracą niuanse i stają się coraz bardziej powtarzalne, co prowadzi do "kolapsu wiedzy" – utraty rzadkich perspektyw i kreatywności. Analogicznie, w społeczeństwie nadmiar informacji sprawia, że ludzie konsumują coraz więcej treści, ale często płytkich lub algorytmicznie dopasowanych, co wzmacnia echo chambers i filter bubbles.
W edukacji czy mediach masowych łatwy dostęp do uproszczonej informacji często prowadzi do spadku krytycznego myślenia — mechanizm psychologiczny jest podobny do „spłycania” treści przez sztuczną inteligencję. To rozpuszcza wspólną rzeczywistość, amplifikując błędy na poziomie indywidualnym i zbiorowym, co uniemożliwia rozwiązywanie złożonych problemów.
W takiej sytuacji zarówno artyści i politycy są zmuszeni do tworzenia niskiej jakości materiałów, tak aby by utrzymać uwagę, co z kolei obniża standardy konsumenckie i standardy prawne – tworząc "apokalipsę maszyny" degeneracji społecznej rzeczywistości. Problemy które dotykają obecnie rozwój modeli sztucznej inteligencji, to te same problemy które dotykają od dawna rozwój naszego społeczeństwa.