Wieder diese KI. Ich hätte dennoch Verständnis dafür, dass die KI nicht in der Lage ist zu erkennen, dass es sich nicht um eine echte Studie handelt, sondern dass dies mit Absicht gemacht wird, um sie zu testen. Aber die Tatsache, dass selbst Wissenschaftler die Quellen nicht mehr lesen und der KI blind vertrauen, ist ein Mist. Das ist einfach nicht gut und es sollte bald etwas dagegen unternommen werden.
TL;DR Für eine fiktive Krankheit wurde eine fiktive Studie erstellt und die KI übernahm diese als real. Und selbst Wissenschaftler hielten es dank der KI für selbstverständlich.
https://ct24.ceskatelevize.cz/clanek/veda/ai-skocily-na-falesne-studie-sirily-varovani-pred-neexistujici-nemoci-372404
Von MakTaKo
4 Kommentare
Jako vědec ti můžu garantovat, že AI jede a jede. Pokud se dnešní bakalářky a diplomky začnou později kontrolovat na použití AI, tak bude polovina studentů bez titulu. Články v prestižních žurnálech? Občas citace neexistují (AI ti napíše odstavec textu, dá tam několik citací, akorát ty citace neexistují, model prostě „ví“ že vědeckej článek tam ty čísílka v textu a něco na konci v citacích má!).
V laborce? AI. Software? AI. Hardware? AI. Je hrozně návykové ji používat a často to může dopadnout blbě. Já jsem třeba dostatečně slušnej, že nezapnu AI skript na sdíleném disku bez toho abych se podíval řádek po řádku co dělá, ale příhody „oj, chtěl jsem po AI analýzu a ona mi vymazala data“ jsou časté.
AI udělá z lidí debily.
To je jako s wikipedií. Už když jsme na základce dělali projekty, tak jsme měli wikipedii jako zdroj zakázanou, ale uvedenou literaturu jsme mohli použít. S AI je to stejné. Je spíš použitelná k lepšímu vyhledávají zdrojů informací (protože Google má 1. stránku plnou sponzorových kravin), než aby byla samotným zdrojem.
Ve vědě AI je a bude neskutečně silný nástroj, protože článků je dnes takové množství, že to člověk reálně přečíst nezvládne ani náhodou, a mít nástroj, kam vědec napíše co hledá, a ono mu to najde největší shody a nemusí ty články všechny prohlížet. Je to samozřejmě něco za něco, člověk tak nějak přichází o možnost se naučit něco nového náhodou, nebo dostat nový nápad, ale na druhou stranu, vědci jsou tak zavalení prací, že podle mě většina z nich to stejně přijme.