Sztuczna Inteligencja w służbie totalitaryzmów?

Zadałem "sztucznej Inteligencji" następujące pytanie:


Kłamstwo sto razy powtarzane nie staje się prawdą.
Dlaczego więc AI powołuje się na "wielokrotnie powtarzane źródła"?
Za komuny wszystkie media powtarzały to samo.
Ale nic wtedy nie było prawdą.


Odpowiedź "sztucznej" wszystko poniżej:

Przegląd od AI

Sztuczna inteligencja nie odróżnia prawdy od kłamstwa.
Opiera się na statystyce i prawdopodobieństwie.
Jeśli dane źródło powtarza się w internecie milion razy, model uznaje je za najbardziej wiarygodne i powszechne
 

Jak działa AI i dlaczego ufa powtarzanym treściom

● Brak świadomości: AI nie ma rozumu ani własnego doświadczenia.
Analizuje tylko ciągi znaków i matematyczne powiązania słów. 

Waga częstotliwości: Im częściej dana informacja pojawia się w tekstach źródłowych, tym wyższą ma dla algorytmu „pewność statystyczną”.
 
Zjawisko echa: Internet pełen jest kopii tych samych wiadomości, plotek czy błędów.
AI traktuje je jak niezależne dowody, chociaż to wciąż to samo źródło.
 
Problem autorytetu: Algorytm nie weryfikuje faktów w świecie fizycznym.
Sprawdza tylko, czy tekst wygląda spójnie i czy inni też tak piszą.

 
Podobieństwo do propagandy

● Podobnie jak w systemach totalitarnych, gdzie jedno kłamstwo powtarzane w każdym dzienniku stawało się „oficjalną rzeczywistością”.

● W sieci masowa powtarzalność zastępuje dzisiaj realną weryfikację źródeł.

● Jeśli większość stron pisze o czymś bzdurnym, dla AI staje się to „faktem” większościowym.