Die Grenzen der künstlichen Intelligenz

AI: Der Fallout der Entdeckung des MIT Media Lab-Forschers Joy Buolamwini, dass die Gesichtserkennung dunkelhäutige Gesichter nicht genau sieht.

Shalini Kantayya zielt auf die sehr menschlichen Grenzen der Fähigkeiten von Künstliche Intelligenz (AI) in ihrem faktenreichen, gut informierten und stark weiblichen Film.

Unterstützt von Frauen machen Filme und unterstützt unter anderem von der Sundance Institut, Codierte Vorspannung stützt sich auf eine Besetzung von hauptsächlich weiblichen Charakteren, hauptsächlich Autoren und Akademikern, die alle Experten für die gefährlichen, antidemokratischen Vorurteile von Cover und Werbung sind AI um weitere Anwendungsbeispiele zu finden.

Wenn Sie nach Gründen suchen, warum Sie sich dem Kriechen widersetzen sollten Totalitarismus dauert ebenfalls 3 Jahre. Das erste Jahr ist das sog. Internet Von allem ist dies ein guter Ausgangspunkt mit einer Bibliographie, die Sie für viele Monate offline halten könnte.

Coded Bias, ein Film von Shalini Kantayya-still1-MTR
Coded Bias, ein Film von Shalini Kantayya

Versteckte Vorurteile

Die Hauptheldin des Films ist Joy Buolamwini, eine junge schwarze Doktorandin am Medienlabor des Massachusetts Institute of Technology (MIT).

Der helle und selbstbewusste Buolamwini, der frühreifen Intellekt mit einem Talent für die Erfindung affektiver Rap-Poesie verbindet, versteht, wie gründlich die KI kompromittiert wird, wenn während eines Forschungsprojekts, das auf Gesichtserkennung beruht, Benutzern einer App ermöglicht wird, sich verschiedene Online-Masken und Unmasken zu geben Eine beunruhigende Tatsache: Die Gesichtserkennungs-Apps der großen Technologieunternehmen erkennen in einem erstaunlich hohen Prozentsatz der Fälle keine schwarzen Gesichter, insbesondere keine weiblichen schwarzen Gesichter.

Was anfangs ein irritierendes technisches Problem bei ihrer Suche nach einer gedankenlos unterhaltsamen kleinen App war, wird bald zu einer ernsthaften Untersuchung der verborgenen Vorurteile von a Technologie das ist in den meisten Ländern bereits allgegenwärtig.

Als Buolamwini beginnt, nach Antworten zu suchen, trifft sie Frauen, die bereits begonnen haben, die heimtückische Natur der KI zu verstehen, einschließlich der ehemaligen Cathy O'Neil Wall Street Beraterin (die behauptet, sie sei ohne Kenntnisse der Finanzdienstleistungsbranche eingestellt worden, aber einfach, weil sie gut darin war, mathematische Rätsel zu lösen).

Wenn Sie nach Gründen suchen, warum Sie sich dem schleichenden Totalitarismus des Internets von allem widersetzen sollten, dann ist dies ein guter Ausgangspunkt

O'Neil, eine engagierte Frau mit einer tollen Linie in himmelblauen Designer-Haarschnitten, ist ein bekennender Geek, der als 14-Jährige im Sommercamp eine Offenbarung hatte und erkannte, dass sie den Zauberwürfel im Handumdrehen lösen konnte ihre Finger.

Buolamwini trifft sie in Cambridge, Massachusetts, bei einer Signierstunde von Waffen der mathematischen Zerstörung - Wie Big Data die Ungleichheit erhöht und die Demokratie bedrohtund ist inspiriert, genauer zu untersuchen, warum KI eine solche Bedrohung darstellt (nicht zuletzt, weil sie zu unbeobachtetem Lernen fähig ist und praktisch eine «Black Box» ist).

Sie ist sich bereits bewusst, dass «die Vergangenheit in unseren Alogrithmen verweilt» - zu sehen, wie die unbewusste Tendenz der Gründer der KI (weiß, männlich, Mittelklasse) in den 1950er Jahren am Dartmouth College die unbewusste Tendenz in den verwendeten Datensätzen hervorgebracht hat seitdem KI einrichten.

O'Neil ist in ihrer Sicht der KI charakteristisch durchsetzungsfähig: «An Algorithmus verwendet historische Informationen, um Vorhersagen über die Zukunft zu treffen; Das Problem ist, dass es nur darum geht, wem der verdammte Code gehört. Die Leute, denen es gehört, setzen es dann bei anderen Leuten ein. Es gibt keine Symmetrie, keine Möglichkeit für Leute, die keine Kreditkarten erhalten haben, es gegen das Kreditkartensystem zu verwenden. es gibt keine Rechenschaftspflicht. »

Soviel zu den kommerziellen Anwendungen von KI - die gewöhnlichen Menschen großen Schaden zufügen können, ohne jemals zur Rechenschaft gezogen zu werden: Bis zu 4 Millionen Menschen verloren 2008 während der Subprime-Krise in den USA ihr Zuhause als Algorithmen, die zukünftige Chancen vorhersagten Standard wurden verwendet, um Zwangsvollstreckungsbescheide herauszugeben.

Ein Experte in den Filmnotizen war "das größte Auslöschen des schwarzen Reichtums in der Geschichte der USA" und fügte hinzu, dass die "Tyrannei dieser Art von Diskriminierungspraktiken undurchsichtig geworden ist".

Mit einem gelegentlichen Verweis auf HAL 9000 wird der allsehende Computer in Stanley Kubricks 2001: A Space Odyssey - und Debussys eindringliche Clare de Lune, die Kubrick so großartig eingesetzt hat, dass der Film sich auf düsterere Missbräuche und Missbräuche der KI konzentriert.

Coded Bias, ein Film von Shalini Kantayya-still2-MTR
Coded Bias, ein Film von Shalini Kantayya

Big Brother Uhr

In London hat die Metropolitan Police - ohne behördliche Aufsicht - zufällige Gesichtserkennungstechnologien auf Straßenebene unter Verwendung nicht gekennzeichneter Transporter getestet (außer stolz auf Logos und anscheinend ohne eine Spur von Ironie mit der Aufschrift «Metropolitan Police. Total Policing»).

Hier Bürgerrechtsgruppe Big Brother Uhr ist unterwegs, um der Abdeckung entgegenzuwirken ÜberwachungPassanten mitteilen, dass sie ohne ihre Erlaubnis von einem Gesichtserkennungssystem gefilmt werden. Ein Mann, der sein Gesicht verbirgt, während er am Van vorbeigeht, wird von der Polizei herausgefordert und mit einer Geldstrafe vor Ort belegt (vermutlich wegen unsozialen Verhaltens, einer der wenigen leicht zu verhängenden Geldstrafen, die die Polizei verhängen kann). dank der britischen Entscheidung Tory Regierung, die rechtsradikalste in der Geschichte des Landes.)

Ein Mann, der sein Gesicht verbirgt, während er am Van vorbeigeht, wird von der Polizei herausgefordert und mit einer Geldstrafe vor Ort belegt

Big Brother Watch führte eine Informationsfreiheitskampagne durch und stellte fest, dass 98% der gefundenen Übereinstimmungen mit kriminellen Verdächtigen «eine unschuldige Person fälschlicherweise als gesuchte Person abgleichen».

«Ihr biometrisches Gesicht in einer Polizeidatenbank zu haben, ist wie Ihren Fingerabdruck oder Ihre DNA zu haben, und wir haben spezielle Gesetze dazu», sagt ein Aktivist von Big Brother Watch. «Die Polizei kann nicht einfach Ihre Fingerabdrücke oder DNA nehmen ... Aber in diesem seltsamen System, das wir haben, können sie jedermanns biometrisches Foto aufnehmen und es in einer Polizeidatenbank aufbewahren. Die Polizei hat in Großbritannien begonnen, Gesichtserkennungstechnologien einzusetzen, da keine Rechtsgrundlage vorliegt. »

Coded Bias, ein Film von Shalini Kantayya-still3-MTR
Coded Bias, ein Film von Shalini Kantayya

Die chinesische Erfahrung

Der Film taucht in die chinesische Erfahrung ein - wo Gesichtserkennung ein allgegenwärtiges Werkzeug von ist Kommunistische Partei soziale Kontrolle, und viele Menschen haben sich bereits domestiziert - und ziehen den Vergleich mit den USA, wobei sie dies zumindest in beobachten Chinaist die Regierung offen für das, was sie tut; In Amerika wird die meiste KI- und Gesichtserkennung immer noch unter dem Radar betrieben.

Es sind nicht alle schlechten Nachrichten. Information ist Macht und Buolamwinis Algorithmische Gerechtigkeitsliga hat einige Erfolge erzielt: am 10. Juni 2020, Amazon kündigte eine einjährige Pause für die Verwendung der Gesichtserkennungstechnologie durch die Polizei an, und im Juni dieses Jahres führte der US-Gesetzgeber Gesetze ein, um die Verwendung der Gesichtserkennung durch den Bund zu verbieten.

Es gibt jedoch noch keine US-Bundesregulierung für Algorithmen und keine politischen Maßnahmen in Großbritannien gegen den Einsatz der heimtückischen antidemokratischen Technologie durch die Met.

LIEBER LESER.
Was ist mit Abonnement, für vollen Zugriff und 2-3 Druckexemplare pro Jahr per Post?
(Modern Times Review ist eine gemeinnützige Organisation und freut sich sehr über die Unterstützung unserer Leser.) 

Nick Holdsworthhttp://nickholdsworth.net/
Unser regelmäßiger Kritiker. Journalist, Schriftsteller, Autor. Arbeitet hauptsächlich aus Mittel- und Osteuropa und Russland.
Visions du Réel gibt den Empfänger des Ehrenpreises 2022 bekanntVisions du Réel feiert den legendären italienischen Regisseur, Drehbuchautor und Produzenten #Marco Bellocchio# mit seinem Ehrenpreis. Der...
FIFDH gibt Einzelheiten des Seminars Impact Filmmaking For Human Rights 2022 bekanntDas #FIFDH, das führende Human Rights Film Festival im Herzen von #Genf, hat für sein Impact Days Industry Programme...
WATCH DOCS Belarus kehrt mit dem Online-Festival 2022 zurückDas #Human Rights# Filmfestival WATCH DOCS Belarus kehrt zurück und wird unter dem Namen HUMAN RIGHTS EXTREMIST stattfinden. Alle...
ARBEIT: All-In (R: Volkan Üce)Eine neue Welt bunter Bikinis und intensiver Ansprüche eröffnet sich zwei schüchternen jungen Männern, die in einem All-Inclusive-Hotel an der türkischen Riviera arbeiten.
IDENTITY: Travesti Odyssee (Regie: Nicolas Videla)Die letzten Tage von Chiles radikalem Cabaret Travesía Travesti, verwoben mit tagelangen Protesten, zeigen, wie wichtig es ist, dass die Trans-Community aufsteht, um ihre eigenen Geschichten zu erzählen.
BEIRUT: Beirut: Auge des Sturms (R: Mai Masri)Vier progressive Frauen dokumentieren die Aufstände von Beirut 2019 bis zum Ausbruch von Covid-19.
GERECHTIGKEIT: Der ewige Gefangene (Regie: Alex Gibney)Zwanzig Jahre später wurde der erste hochrangige Häftling in Guantánamo Bay noch nie eines Verbrechens angeklagt oder durfte seine Inhaftierung anfechten.
SYRIEN: Unser Gedächtnis gehört uns (R: Rami Farah)Wie überlebt man in Kriegszeiten? Durch Vergessen oder Erinnern...?
UMGEBUNG: Meduse (Regie: Chloé Malcotti)Wie belgische Chemieunternehmen einem italienischen Küstendorf Wohlstand und Umweltverschmutzung brachten.
- Werbung -

Mehr interessante Produkte:VERBINDUNG
Ihnen empfohlen

X