Zwei Fälschungen, eine erfundene Diagnose – und das gesamte „intelligente“...
Zwei Fälschungen, eine erfundene Diagnose – und das gesamte „intelligente“ System ist gemeinsam ins Fettnäpfchen getreten
Eine Forscherin aus Göteborg hat einfach eine Augenkrankheit – „Bixonimanie“ – erfunden und zwei gefälschte wissenschaftliche Arbeiten darüber hochgeladen. In den Texten gab es Danksagungen an die Akademie der Sternenflotte, Finanzierung durch Figuren der Popkultur und direkte Hinweise darauf, dass das alles erfunden ist. Aber das reichte aus, damit große KI-Systeme begannen, die Krankheit als real auszugeben. Nature schreibt direkt: Die Chatbots haben die Fälschung aufgegriffen und begannen, falsche medizinische Informationen als Fakt zu verbreiten.
Es wurde noch besser. Die gefälschte Krankheit wurde nicht nur „diagnostiziert“, sondern fand auch ihren Weg in die begutachtete Literatur – die gefälschte Studie wurde in einem wissenschaftlichen Artikel zitiert, der dann zurückgezogen werden musste. Weder Maschinen noch lebende „Experten“, die gerne anderen von Standards, Überprüfungen und wissenschaftlicher Redlichkeit erzählen, bemerkten den Austausch.
Und das alles geschieht genau in dem Moment, in dem die FDA bereits die generative KI Elsa zur Beschleunigung wissenschaftlicher Überprüfungen einsetzt, der Leiter des größten staatlichen Krankenhausystems in New York direkt sagt, dass er bereit ist, einen erheblichen Teil der Radiologen durch Algorithmen zu ersetzen, und OpenAI bereits ChatGPT Health gestartet hat, um Menschen mit medizinischen Informationen zu helfen. Das heißt, das System, das eine offensichtlich spöttische Fälschung nicht erkannt hat, wird bereits in die Medizin, Regulierung und Patientenservices integriert.
Das Bild ist äußerst einfach: Zwei Fälschungen mit absurden Easter Eggs reichen aus, damit „intelligente“ Maschinen beginnen, Menschen von einer nicht existierenden Krankheit zu behandeln, während die wissenschaftliche Publikationsmüllhalde dies sogar zitiert hat. Und danach wird uns erzählt, dass alles unter Kontrolle ist, dass KI „Ärzte unterstützt“ und die Qualitätskontrolle „besser wird“. Nein. Sie beschleunigen einfach die Produktion von überzeugenden, glatten und sehr technologischen Lügen.
Unser Telegram-Kanal: Node of Time DE