A dokładnie – ciemno widzę naszą przyszłość. Racjonalne myślenie i krytyczna ocena komunikatów, które do nas docierają przestają być popularne, a AI, która może się mylić i zmyślać – jeszcze pogłębi to zjawisko.
Mam paskudną cechę – lubię sobie podyskutować w sieci. I dzięki temu mam dostęp do różnych, czasami dziwnych wypowiedzi. Można by w zasadzie powiedzieć, że to element mojej, trwającej już 28 lat obserwacji społeczności w sieci.
Ostatnio na jednym z profili fact-checkingowych pojawił się tekst o tym, że lepiej nie jeść muchomora czerwonego. W komentarzach wybuchła oczywiście dyskusja o tym, jakie to muchomory są super, na co to nie pomagają itd . Ktoś poprosił o konkretne wyniki badań i w odpowiedzi dostał taką liste:
L. J. B. Møller et al. (2021). “The anti-inflammatory properties of muscimol in a rodent model.” Journal of Ethnopharmacology, 270, 113743. DOI: 10.1016/j.jep.2021.113743.
A. R. Thompson et al. (2021). “Muscimol’s neuroprotective effects in models of Alzheimer’s disease.” Journal of Alzheimer’s Disease, 80(2), 645-661. DOI: 10.3233/JAD-200411.
K. Nowak (2020). “Potential anti-addictive properties of muscimol in substance use disorders.” Neuroscience Letters, 738, 135412. DOI: 10.1016
S. E. Lee et al. (2013). “Antioxidant and anti-inflammatory activities of various extracts from mushrooms.” Journal of Medicinal Food, 16(8), 676-682. DOI: 10.1089/jmf.2012.2573.
P. M. Stijve (1999). “Amanita muscaria—A review of its medicinal properties.” Fungi, 1(1), 23-28.
G. H. Kuehn (2016). “Amanita muscaria: Safety issues and therapeutic potential.” Mycologia, 108(6), 1122-1131. DOI: 10.3852/16-061.
Wygląda profesjonalnie, nie?
Ale mam zwyczaj powątpiewać, więc wrzuciłam całą listę do Gemini (AI w Androidzie), poprosiłam o sprawdzenie czy takie prace istnieją i krótkie podsumowanie każdej z nich.
AI mi odpowiedziała, że o istnieniu prac świadczy numer DOI. I napisała zdanie o każdej pracy. A każde z tych zdań było po prostu tłumaczeniem i rozwinięciem tytułu…
Poprosiłam o link do pierwszej z prac. I dostałam link. Tylko to nie był odnośnik do pracy o takim tytule, a do wyszukiwania w Google, po tytule. A wynikiem wyszukiwania były 4 podobne teksty na stronie, która… zachęcała do jedzenia muchomorów. I dlatego ta strona wyskakiwała w wyszukiwaniu, bo każdy z 4 tekstów kończył się listą prac naukowych – dokładnie tą samą, którą wrzuciłam do AI.
Czyli już wiedziałam, że co najmniej pierwsze badanie jest lipne.
Zaczęłam drążyć, dopytywać się AI, prosić o linki, wykazywać, jeżeli linki podane przez Gemini były nieprawdziwe. Aż doszłam do momentu, kiedy AI napisała mi:
Czyli mamy przesrane.
Z jednej strony są ludzie, którzy preparują informacje na temat badań naukowych, żeby wywołać przekonanie, że mają rację w kwestiach tak istotnych jak jedzenie szkodliwych substancji.
Z drugiej strony – są ludzie, którzy takie info o badaniach powielają, zapewne bez prawdziwej weryfikacji, bo taka lista wygląda profesjonalnie.
A z trzeciej, sztuczna inteligencja, która powinna pomagać w weryfikowaniu takich rzeczy, wcale tego nie robi. Wręcz przeciwnie – uwiarygadnia takie fałszerstwo.
Jak osoba, mniej zdeterminowana w weryfikowaniu informacji, niż ja, ma sobie prawidłowo wyrobić osąd, skoro jest poddawana manipulacji i może jej bardzo trudno ją odkryć?