Close Menu
    DE

    KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

    Share.
    View 14 Comments

    14 Kommentare

    4. TV4ELP on

      Wenn daraus ein wirkliches Urteil wird und auch in den nächsten X INstanzen überlebt führt es einfach dazu, dass man keine KI Overview mehr hat. Oder einfach nur ein weiteres Popup bekommt in dem man bestätigt, dass man ja nur Fiktive Antworten bekommt und selber haftet.

    6. Honest_Relation4095 on

      Ähnlich könnte man ja bei Beleidigungen oder Bedrohungen im Internet einfach behaupten, man habe diese nicht selbst erstellt, sondern durch AI und sie wurden nur im eigenen Namen gepostet.

    7. Embarrassed-Arachnid on

      Das geht schon einmal in die richtige Richtung.

      In der Overview stehen öfter Aussagen, die in den Quellen exakt gegenteilig drinstehen. Das geht einfach überhaupt nicht. Ich hatte mehrfach diesen Fall, wo ich gehofft hatte, dass die Aussage korrekt ist. Leider war das eine blanke Halluzination von Google.

      Dazu kommt noch, dass immer mehr Menschen bei der Suche bei dieser Overview hängen bleiben und die Aussagen unkritisch übernehmen. Es gab ja die Meldungen, dass der Traffic bei den entsprechenden Seiten enorm zurückgegangen ist, weil die Leute nicht auf die Links klicken.

    8. PoroBraum on

      Zusammenfassung:

      > Interessant ist vor allem, wie das Gericht die Entscheidung begründet. Wenn der AI Overview Antworten generiert, ist Google kein neutraler Vermittler von Informationen mehr. Aussagen werden mit der KI-Technologie des Unternehmens erzeugt, dementsprechend ist Google als Betreiber verantwortlich.

      > Google selbst argumentiert, Nutzer könnten anhand der Quellen selbst prüfen, ob Inhalte korrekt sind. Ebenso wäre bekannt, dass per KI generierte Inhalte fehleranfällig sind. Beim Landgericht München hatte der Konzern mit dieser Verteidigung aber keinen Erfolg.

      > Interessant ist noch: Laut dem Urteil ist die einstweilige Verfügung nicht auf das Gebiet der Bundesrepublik Deutschland beschränkt, sondern gilt international.

    11. Eazykiller on

      Ich hoffe in der Rechtsprechung setzt sich so langsam durch, dass Firmen zu 100% haften für das was ihre Chatbots erzählen. Auch trotz irgendwelchen Haftungsausschlüssen und Disclaimern. Entweder man hat die Technologie vernünftig unter Kontrolle (was bei LLMs ja gar nicht mal so einfach ist) oder man lässt es nicht auf Kunden los.

    12. L00klikea on

      Was ein furchtbar Innovationsfeindlicher Schwachsinn, sowas kann es nur hier geben…

    13. OrangeDit on

      Das ist immer ein guter Test. Frage KI nach etwas, mit dem du dich auskennst. Bei 5 Fakten stimmen 4 und 1 ist bullshit.

    14. muehsam on

      > eine Empfehlung für Steine essen

      Hat das eine KI geschrieben? Wie können die mit so unheimlich vielen Trainingsdaten noch so fundamentale Grammatikfehler machen?

    Leave A Reply