Erinnerung daran, wie „eine ehrliche Person nichts zu befürchten“ hat

Rab Superdatabase und Polizei sehnt sich nach künstlichen Intelligenz-detaillierten Maschinen sind sehr relevant Artikel von wie "Die ehrliche Person hat nichts zu befürchten"Zu. Kein ganzer Artikel, aber einige Auszüge:

Der „Täter“ des Geschehens war die von Fujitsu in Auftrag gegebene Horizon -Datenbank, die regelmäßig das Postamt der finanziellen Mängel der Postämter informierte. Die Struktur des britischen Postsystems basiert auf Subunternehmern von natürlichen Personen, die einen Vertrag mit dem Postamt unterzeichnen, um ein örtliches Büro zu eröffnen. Im Rahmen des Vertrags ist der Leiter des Postamtes persönlich für das Fehlen eines Defizits verantwortlich. Das neue Computersystem begann solche Mängel in Hunderten und dann in Tausenden von Büros zu erkennen.

Das Computersystem begann, Mängel in Hunderten und dann in Tausenden von Büros zu erkennen.

Das Problem ist, dass es in den meisten Fällen keinen Mangel gab. Von Anfang an beklagten sich die Postbeamten darüber, dass Horizon falsch arbeitete, aber nicht angehört habe.

Dann, als fast 15 Jahre später etwas zu schlüpfen begann:

Nach den Enthüllungen von Computer Weekly stieg der Druck, die Anschuldigungen gegen sich selbst zu untersuchen. Im Jahr 2013 wurde eine von der Postagentur in Auftrag gegebene Prüfung abgeschlossen, in der festgestellt wurde, dass Dutzende von Postämtern aufgrund von zwei zu diesem Zeitpunkt identifizierten Softwarefehlern zu Unrecht ein Defizit vorgeworfen wurden. Es gab keinen Strafverfahren, aber teilweise mussten die Büros den „fehlenden“ Betrag stornieren. Im nächsten internen Bericht, der 2015 veröffentlicht wurde, waren die Schätzungen noch härter und stellten fest, dass das mutmaßliche Defizit in den meisten Fällen das Ergebnis eines Softwarefehlers war. Dabei stellten die Reporter fest, dass Fehler vermieden werden könnten, wenn das Postamt im geringsten Interesse daran war, sie zu vermeiden.

Nach dem Lesen der Berichte arbeitete die Maschine jedoch weiter. Vertreter der Postagentur und Fujitsu gaben aufgrund der Berufung der Postbeamten Zeugnisse vor Gericht und bestätigten, dass die Opfer lügen. Die Verfolgung unschuldiger Menschen endete erst 2019, sechs Jahre nach dem von der Post in Auftrag gegebenen internen Bericht. Die Erstattung und Bestrafung im Zusammenhang mit den Konsequenzen beginnen gerade erst. Letzte Woche kündigte das Sonderausschuss im Abschlussbericht an, dass mindestens 13 zu Unrecht beschuldigte Postmeister sein Leben mit Selbstmord beendet haben. Diejenigen, die aus der Freiheitsstrafe entkommen waren, wurden oft von Ruf, psychologischen und familiären Problemen und finanziellen Insolvenz betroffen. Es wurden ungefähr 4.000 Menschen zu Unrecht beschuldigt.

Es gibt keinen Grund zu erwarten, dass wir gewissenhafter und kritischer gegenüber der Automatisierung sein würden als die Tür. Allerlei "mit künstlicher Intelligenz" Vor allem, weil sie von der Aura von Magical und Mystery umgeben sind. Wenn Ti-Mart sagte, Mari sei schuldig, dann ist sie und die Geschichte ist vorbei! Und wenn Mari versucht zu behaupten, dass dies nicht der Fall ist, ist es eher eine erschwerende Tatsache, weil "künstliche Intelligenz" Niemals verwechseln!