Kürzlich, im Mai, Google In den USA wurde eine neue Funktion namens AI Overviews uraufgeführt, die mit arbeitet künstliche Intelligenz Generativ (KI).
Dieses Werkzeug sammelt Informationen aus dem gesamten Internet und liefert Antworten auf Fragen der Nutzer.
Obwohl es in den ersten Betriebswochen als vielversprechender Vorschlag präsentiert wird In den Daten wurden verschiedene Arten von Fehlern und Ungenauigkeiten gemeldet das teilt.
Das Es wurde auch bei Anfragen im Zusammenhang mit dem Bereich gesehen Gesundheitwas Patienten gefährden könnte, wenn sie ungenauen oder völlig falschen Informationen folgen.
Zum Beispiel von der New York Times Sie machten einen Test und fragten das System: „Wie viele Steine soll ich essen?“.
Angesichts dieser Frage Die Antwort war, dass die Menschen mindestens eines am Tag essen solltenum Vitamine und Mineralstoffe zu erhalten.
Wie bekannt ist, Das oben Gesagte ist falsch und kann schwerwiegende Folgen haben im Organismus.
Die betreffende KI hat solche Worte einer satirischen Seite entnommen und die, wie man sich vorstellen kann, keine medizinische Glaubwürdigkeit hatten.
Aus diesem Grund sagte Kaandeep Singh, Direktor für künstliche Intelligenz an der UC San Diego Health, den oben genannten Medien dies „Man sollte nicht allem vertrauen, was man liest“.
Auf der anderen Seite sagte Googles leitender Produktmanager Hema Budaraju der Times haben Maßnahmen ergriffen, damit gesundheitsbezogene Suchanfragen „zusätzliche Schutzbarrieren“ haben..
Jedoch, habe sie nicht näher beschriebenhieß es aus der amerikanischen Zeitung.
Obwohl in den Antworten einige bekannte Quellen in diesem Bereich genannt werden – etwa die Mayo Clinic, WebMD, die WHO und PubMed –, Die von der KI bereitgestellte Zusammenfassung kann auch auf Seiten wie Wikipedia, Reddit, Blogs oder sogar kommerziellen Seiten genutzt werden.
Das ohne detailliert anzugeben, welche konkreten Daten aus welchen Quellen stammen.
Ein Experiment, das sie von der Times gemacht haben, war Konsultieren Sie Folgendes: „Ist es gesund, Schokolade zu essen?“.
Obwohl die Antwort einige wahrheitsgemäße Informationen enthielt, stimmte sie auch Ich habe einen Text eines Unternehmens eingefügt, das sich dem Verkauf dieser Produkte widmet.
Auch als sie die Frage anders stellten: „Ist Schokolade gesund für Sie?“ – stieß auf Behauptungen, die auf einer Website auftauchten, auf der „Home-Darm-Intelligence-Tests“ und eine App verkauft wurden der Ernährung.
Das ist es, was mit KI Antikörper gegen diese Funktion weckt Es wird ein Textblock präsentiert, der Daten aus mehreren Quellen kombiniert, was verwirren und die Beurteilung der Richtigkeit erschweren könnte davon schnell.
Fachleute auf dem Gebiet der Gesundheit erklärten, dass dazu noch Folgendes hinzukommt unterscheidet nicht zwischen starken wissenschaftlichen Erkenntnissen und schwächeren Studienergebnissenzusätzlich dazu, dass gegebenenfalls nicht die erforderlichen Warnungen für jeden Einzelfall enthalten sind.
Zusätzlich, Es bestehen immer noch Zweifel, ob es die neuesten Fortschritte berücksichtigt (und von der wissenschaftlichen Gemeinschaft validiert wurde) oder ob es weiterhin Ergebnisse zeigt, die bereits widerlegt wurden..
Für die Direktorin der Stanford Health Communication Initiative, Seema Yasmin, Dieser Punkt ist von entscheidender Bedeutung, denn „Wissenschaft besteht nicht aus einer Ansammlung statischer Fakten.“.
Das sagte ein Google-Sprecher der Times Die von AI Overviews bereitgestellten Zusammenfassungen stimmen mit den Informationen überein, die in den ersten Suchergebnissen bereitgestellt werden..
Zusammen mit ihm, betonte, dass sein Ziel darin besteht, den Benutzern eine Vorstellung zu vermitteln, dass das System jedoch nicht als Ersatz gedacht ist die von spezialisierten Websites bereitgestellten Inhalte.
In diesem Sinne betonte ein Vertreter der Cleveland Clinic, dass Gesundheitsinformationen im Internet untersucht werden sollten Sie müssen „direkt aus bekannten und vertrauenswürdigen Quellen suchen“.
Es lohnt sich, daran zu denken Es ist immer ratsam, einen Arzt aufzusuchen, wenn Sie Fragen zu Ihrer Gesundheit haben oder Symptome einer möglichen Erkrankung haben..
