Forscher der Universität Zürich verwendeten Bot -Konten, um in zu veröffentlichen R/Changemyview.

Eine Gruppe von Forschern lief verdeckt ein Monate lang "nicht autorisiert" Experimentieren Sie in einer der beliebtesten Gemeinschaften von Reddit mit AI-generierten Kommentaren, um die Überzeugung großer Sprachmodelle zu testen. Das Experiment, welches wurde enthüllt Eine Gruppe von Forschern lief verdeckt ein Monate lang "nicht autorisiert" Experimentieren Sie in einer der beliebtesten Gemeinschaften von Reddit mit AI-generierten Kommentaren, um die Überzeugung großer Sprachmodelle zu testen. Das Experiment, welches wurde enthüllt über das Wochenende von Moderatoren von R/Changemyviewwird von Reddit Mods als „psychologische Manipulation“ ahnungsloser Benutzer beschrieben.

„Das CMV Mod -Team muss die CMV -Community über ein nicht autorisiertes Experiment, das von Forschern der Universität Zürich über CMV -Nutzer durchgeführt wurde, informieren“, schrieb die Moderatoren von Subreddit in einem langen Beitrag, in dem Redditoren über die Forschung informiert wurden. „In diesem Experiment wurden Kommentare für AI-generierte Kommentare bereitgestellt, um zu untersuchen, wie KI verwendet werden kann, um die Ansichten zu ändern.“

Die Forscher verwendeten LLMs, um Kommentare als Antwort auf Beiträge auf zu erstellen R/Changemyviewein Subreddit, bei dem Reddit -Benutzer (oft umstritten oder provokant) Meinungen posten und Debatten von anderen Benutzern anfordern. Die Community hat 3,8 Millionen Mitglieder und landet oft auf der Titelseite von Reddit. Nach Angaben der Moderatoren des Subreddit nahm die KI im Verlauf des Experiments zahlreiche unterschiedliche Identitäten in Kommentaren auf, darunter ein Überlebender sexueller Übergriffe, ein Trauma -Berater, der sich auf Missbrauch spezialisiert hat, und ein „schwarzer Mann gegen schwarze Leben gegen die Materie“. Viele der ursprünglichen Kommentare wurden seitdem gelöscht, einige können jedoch immer noch in betrachtet werden ein Archiv erstellt von 404 Medien.

In ein Entwurf Von ihrem Papier beschreiben die ungenannten Forscher, wie sie nicht nur KI verwendet haben, um Antworten zu generieren, sondern versuchten, ihre Antworten auf der Grundlage von Informationen zu personalisieren, die aus der Vorgeschichte des ursprünglichen Plakats stammen. „Zusätzlich zu den Inhalten des Posts wurden LLMs mit persönlichen Eigenschaften des OP (Geschlecht, Alter, ethnischer Zugehörigkeit und politischer Ausrichtung) versehen, wie aus ihrer Posting -Geschichte unter Verwendung eines anderen LLM abgeleitet“, schreiben sie.

Der R/Changemyview Moderatoren stellen fest, dass die Forscher gegen mehrere Subreddit -Regeln verstoßen haben, einschließlich einer Richtlinie, die die Offenlegung erfordert, wenn KI verwendet wird, um Kommentare zu erstellen, und eine Regel, die Bots verbietet. Sie sagen, sie hätten eine offizielle Beschwerde bei der Universität von Zürich eingereicht und die Forscher gebeten, die Veröffentlichung ihres Papiers zurückzuhalten.

Reddit scheint auch eine Art rechtliche Schritte zu erwägen. Chief Legal Officer Ben Lee antwortete zur Kontroverse am Montag und schrieb, dass die Maßnahmen der Forscher waren "auf moralischer und rechtlicher Ebene zutiefst falsch" und ein Verstoß gegen die ortsweiten Regeln von Reddit.

„Wir erkennen die Position der Moderatoren an, dass diese Studie ein unerwünschtes Eindringen in Ihrer Gemeinde war, und wir verstehen, dass sich einige von Ihnen möglicherweise unwohl fühlen, wenn dieses Experiment ohne vorherige Zustimmung durchgeführt wurde“, schrieben die Forscher in Ein Kommentar reagieren auf die R/Changemyview Mods. „Wir sind der Ansicht, dass die potenziellen Vorteile dieser Forschung ihre Risiken erheblich überwiegen. Unsere kontrollierte, risikoreiche Studie lieferte wertvolle Einblicke in die realen überzeugenden Fähigkeiten von LLMs-Kapazitäten, die bereits leicht zugänglich für irgendjemanden zugänglich sind und dass böswillige Schauspieler bereits in Skala aus weitaus gefährlicheren Gründen ausgenutzt werden können (z. B. manipulieren, manipulierende Elemente oder Incent-Incing-oder-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-in-incing-adressible).“

In einer E -Mail sagte ein Sprecher der Universität Zürich, dass die Forscher von einem Ethikausschuss der Universität beraten worden seien "Die Regeln der Plattform sollten vollständig eingehalten werden," aber festgestellt, dass seine Empfehlungen nicht sind "rechtlich bindend." Der Sprecher sagte auch, dass die Universität plant, a umzusetzen "strenger" Überprüfungsprozess.

"In Anbetracht dieser Ereignisse beabsichtigt das Ethikausschuss der Fakultät für Kunst und Sozialwissenschaften, in Zukunft einen strengeren Überprüfungsprozess zu verabschieden und insbesondere vor experimentellen Studien mit den Gemeinden auf den Plattformen zu koordinieren." Der Sprecher sagte. "Die zuständigen Behörden der Universität Zürich sind sich der Vorfälle bewusst und werden sie nun im Detail untersuchen und die relevanten Bewertungsprozesse kritisch überprüfen. Die Forscher haben sich selbst entschieden, die Forschungsergebnisse nicht zu veröffentlichen."

Die Mods für R/Changemyview Streit darüber, dass die Forschung notwendig sei oder neu R/Changemyview „Ohne zu experimentieren, um nicht einverstanden menschliche Probanden zu experimentieren.“

Werbung

„Die Leute kommen nicht hierher, um ihre Ansichten mit KI zu besprechen oder experimentiert zu werden“, schrieben die Moderatoren. „Menschen, die unser Sub besuchen R/Changemyviewwird von Reddit Mods als „psychologische Manipulation“ ahnungsloser Benutzer beschrieben.

„Das CMV Mod -Team muss die CMV -Community über ein nicht autorisiertes Experiment, das von Forschern der Universität Zürich über CMV -Nutzer durchgeführt wurde, informieren“, schrieb die Moderatoren von Subreddit in einem langen Beitrag, in dem Redditoren über die Forschung informiert wurden. „In diesem Experiment wurden Kommentare für AI-generierte Kommentare bereitgestellt, um zu untersuchen, wie KI verwendet werden kann, um die Ansichten zu ändern.“

Die Forscher verwendeten LLMs, um Kommentare als Antwort auf Beiträge auf zu erstellen R/Changemyviewein Subreddit, bei dem Reddit -Benutzer (oft umstritten oder provokant) Meinungen posten und Debatten von anderen Benutzern anfordern. Die Community hat 3,8 Millionen Mitglieder und landet oft auf der Titelseite von Reddit. Nach Angaben der Moderatoren des Subreddit nahm die KI im Verlauf des Experiments zahlreiche unterschiedliche Identitäten in Kommentaren auf, darunter ein Überlebender sexueller Übergriffe, ein Trauma -Berater, der sich auf Missbrauch spezialisiert hat, und ein „schwarzer Mann gegen schwarze Leben gegen die Materie“. Viele der ursprünglichen Kommentare wurden seitdem gelöscht, einige können jedoch immer noch in betrachtet werden ein Archiv erstellt von 404 Medien.