💣 Jak AI zniszczy samo siebie 💥

"Eksperci szacują, że nawet 90 procent treści online może być syntetycznie wygenerowane do 2026 roku" - ostrzegał raport, dodając, że media syntetyczne "odnoszą się do mediów generowanych lub manipulowanych przy użyciu sztucznej inteligencji".

Źródło: Europol

3 konsekwencje, które już teraz możemy (prze)widzieć:

1) Gdy AI zaczyna uczyć się od AI

Dane używane do trenowania dużych modeli językowych pochodzą ze źródeł stworzonych przez ludzi - książek, artykułów, zdjęć itd. Jednak gdy coraz więcej ludzi używa AI do tworzenia treści, pojawia się pytanie: co się stanie, gdy modele AI zaczną trenować na treściach wygenerowanych właśnie przez samo AI?

Grupa badaczy z Wielkiej Brytanii i Kanady uważa, że efekty są jednoznacznie negatywne i prowadzą do powstania pętli i załamania modelu językowego. "Z czasem błędy w generowanych danych kumulują się i w końcu zmuszają modele uczące się na tych danych do jeszcze bardziej błędnego postrzegania rzeczywistości" - uważają naukowcy. Tym samym kopie kopii AI prowadziłyby do degradacji jakości generowanych odpowiedzi. Ilia Shumailov, jeden z badaczy, dodaje: "Byliśmy zaskoczeni, gdy zaobserwowaliśmy, jak szybko modele się załamują: mogą szybko zapomnieć większość oryginalnych danych, z których się początkowo uczyły".

2) Reklamy vs farmy treści

Chatboty AI są używane do generowania treści, które wypełniają strony niskiej jakości. Ponad 140 dużych marek (wiele z listy Fortune 500) płaci za reklamy na takich stronach, według raportu NewsGuard. Setki reklam pojawia się na stronach wypełnionych treścią generowaną przez AI poprzez zautomatyzowane kampanie. "Programmatic jest głównym źródłem przychodu dla tego typu stron" - mówi Lorenzo Arvanitis, analityk NewsGuard.

Takie farmy treści zyskały na sile dzięki rozwojowi narzędzi AI.

Jedna strona oznaczona przez NewsGuard generowała ponad 1200 artykułów dziennie!

Większość reklam, które trafiają na takie spamerskie strony, jest serwowana przez Google. Technologiczny gigant, którego przychody z reklam wyniosły 168 miliardów dolarów w 2022 roku, odpowiada, że przestrzega ścisłych zasad i reklamy nie pojawiają się na stronach ze spamem lub duplikowaną treścią. Jednak wygląda na to, że obecnie generatory treści wygrywają z takimi ograniczeniami.

3) Fałszywi użytkownicy = fałszywa ocena

IRL to aplikacja, która miała pomagać odkrywać lokalne wydarzenia i nawiązywać kontakty. Według zarządu miała mieć 20 milionów użytkowników i udało się jej zebrać aż 200 milionów dolarów od inwestorów. Problem jest taki, że okazało się, że aż 95% użytkowników to fałszywe konta lub boty. Po wyjściu tych faktów na światło dzienne firma zostanie zamknięta i ma zwrócić kapitał akcjonariuszom. Wątpliwości co do rzeczywistej liczby użytkowników zgłosili kilka miesięcy wcześniej pracownicy IRL.