Vertrauen in Künstliche Intelligenz

[Wisnchefa]

... yo , ... "die Utopie" der Computer versprach' uns al'das , was Du hier beschreibs't' , ...

... & drum glaubte auch ich "früher" an - das - Prinzip - "Kompetenz" , ...
... & eben drum auch an - das - Prinzip - "Arbeit" :
... also zwischen mir & Konsumprodukten zu unterscheiden ...
... & drum auch zwischen Technik & Narrativ ...

... aber inzwischen schein'e EDV "so" populär' ...
... daß's letztlich nur - noch - dem - "Konsum" - Axiom unterläge :
... PC's also primär "als Kollegen" zu sehen ...
... statt als ( objektives ) "Ziel" ...
... & drum eben ( teleologisch ) eben nur Verbraucher zu sein ( können ) ...
... & drum schein'e's Marketing der EDV auch nicht mehr "utopisch" ...
... sondern konservativ :
... denn inzwischen scheine sich "die" Informatik zu'm "autonomen Factor" ( "der" Wirtschaft ) entwickelt zu haben ...
... & drum sei also ( letztlich "nur" noch ) "Konsum" das Ziel ...

... "der" Technik ...

 

[THATSme]

Solche Tools wie COMPAS sind meiner Meinung nach von mit Vorurteilen behafteten Menschen ersonnene Instrumente, die diese Vorurteile aufgrund der programmierten Parameter bestätigen. Wären sie von einer KI meines Verstehens erstellt, würden die Eingriffe in die Urteilsfindung viel radikaler ausfallen. Nämlich von einer übergeordneten, jedoch einfältigen Warte aus geprägt. Nur einer, aus sich selbst, quasi inzestuös, gezeugten Wahrheit. Dieses Wahrheitsverständnis könnte aber nur einer ursprünglichen, von fühlenden Menschen oktroyierten Programmierung entspringen.

Ich würde nicht einmal unterstellen, dass die Menschen die das Programm fütterten vorurteilsbehaftet sind. Sie geben ja nur die vorhandenen Daten ein.
Aus diesen Daten werden Wahrscheinlichkeiten und Korrelationen berechnet/abgeleitet.
Das führt dann zu falschen Ergebnissen. Darin liegt die Krux.
Denn aus der Korrelation wird dann ein Kausalzusammenhang hergestellt und das ist absolut fatal.

Cum hoc ergo propter hoc – Wikipedia

de.wikipedia.org

Das widerspricht auch allen wissenschaftlichen Grundprinzipien.

Am Beispiel COMPAS wird das sehr deutlich.

COMPAS | www.virtuelmachines.com

www.virtuelmachines.com

Es zeigte sich, dass das Computerprogramm für afroamerikanische Täter signifikant häufiger – bis zu doppelt so oft! – eine hohe Rückfallwahrscheinlichkeit berechnete als für “weiße” Täter. Und dies auch in Fällen, in denen die Afroamerikaner Ersttäter waren, während die “weißen” Täter für frühere kriminelle Taten schon viele Jahre im Gefängnis abgebüßt hatten. (ProPublica-Studie von 2016)

Es kennt nämlich den Wohnort des Täters (und der früheren Täter aus den Trainingsdaten), es kennt die Schulkarrieren, es kennt die Schulen, es kennt die Eltern und Geschwister und ihre gegebenenfalls kriminelle Vergangenheit, ihren Drogenkonsum und so weiter. Und frühere Täter aus der Nachbarschaft des aktuellen Täters oder aus ähnlichen, ebenfalls überwiegend von Afroamerikanern bewohnten Milieus wurden eben wesentlich häufiger rückfällig als solche aus anderen, aus “weißen” Vierteln oder Bezirken.

Wie kommt also das Programm zu seinen Ergebnissen?

Nicht etwa dadurch, dass es den Menschen selbst beurteilt. Sondern als Schlussfolgerung aus dem, was dessen Nachbarn (mit – aufgrund der realen Wohnsituation in den USA – zumeist gleicher Hautfarbe) früher getan haben.

Darum bleibe ich dabei, eine KI ist nur so gut, wie seine Datengrundlage und deren Fähigkeit diese Datengrundlage entsprechend auszuwerten.

Denn KI ist und bleibt - zumindest zunächst - ein binäres System 0 und 1. Eventuell könnten Quantencomputer da gewisse Abhilfe schaffen, bzw. dieses "Determinismusproblem" abmildern. Das ist aber hochkomplex und mathematisch anspruchsvoll. Ich habe mich damit nicht intensiv befasst und bin daher auch etwas überfordert, das alles ganz zu verstehen.

Quantencomputer – Wikipedia

de.wikipedia.org

Church-Turing-These – Wikipedia

de.wikipedia.org

Diese Church-Turing-These ist auch Bestandteil der Definition von KI, die im Grunde noch gar nicht geklärt ist.

Faszination KI: Was ist künstliche Intelligenz?

Das Thema „Künstliche Intelligenz“ inspiriert zu Visionen einer technisierten Welt – doch wie funktioniert KI und welche Chancen und Risiken birgt sie?

www.ionos.de

Eine Definition von künstlicher Intelligenz fiel schon immer schwer. Im Jahr 1950 entwickelte der Mathematiker Alan Turing einen Test, mit dem KI messbar werden sollte: Der „Turing-Test“ ermittelt durch eine Reihe von Fragen, ob eine Maschine noch als solche erkennbar ist. Sind die Antworten eines Computers von denen eines Menschen nicht mehr zu unterschieden, so ist der Computer „künstlich intelligent“. Doch hilft diese Definition der aktuellen KI-Technik wenig weiter, denn heute wird künstliche Intelligenz vor allem für technische Aufgabengebiete entwickelt. Dabei geht weniger darum, dass die KI menschliche Kommunikation beherrscht, sondern darum, dass sie hochspezialisierte Aufgaben effizient ausführt. Für diese Technologien verwendet man den eingeschränkten Turing-Test:

Das wäre ja die Krux, KI bedarf keiner beeinflussbaren Programmierung. Sie wird ja aus sich selbst, aus operierenden Programmen heraus geschaffen. Ohne Einfluss von außen. Deshalb künstlich.

Verstehe ich nicht. Es muss ja programmiert werden. Die KI entsteht ja nicht aus dem Nichts.

Warum soll nicht eine Software über solche Dinge entscheiden können, die ohnehin nur Formalien sind?

Weil persönliche Schicksale und aktuelle Situationen gerade nicht rein formal sind.

Dazu müsste es allerdings auch endlich mal zu dem kommen, was man uns Jahrzehnten verspricht: Dem papierlosen Büro.

So etwas wie eine Verdienstbescheinigung ensteht digital, textbasiert und als vektorielle Datei. Ein Empfänger, dem ich sie auf meinen und seinen Wunsch versende, hätte sie gern auch so. Dazwischen stehe ich, der sie auf Papier erhält, und einen Scan oder ein Foto machen darf, um sie als voluminöse Pixeldatei zu versenden, die keiner haben will.

So lange verschlüsselte Datenübertragung - vor allem bei E-Mail Kommunikation - nicht zum Standard und verpflichtend wird, sehe ich darin ein großes Problem und lehne das ab. Was Privatpersonen, Ämter und Behörden, Banken, Anwälte, Versicherungen (sogar unerlaubter Weise) so alles per unverschlüsselter E-Mail durch's Netz jagen ist erschreckend und gefundenes Fressen für Cyberkriminelle.
Von der Sicherheit der Server und dass sogar die Polizei Clouds von amazon nutzt ganz abgesehen. Das ist inakzeptabel.

TM, durchaus dafür, dass gewisse Prozesse automatisiert werden, aber was Bereiche betrifft die sich direkt auf den Menschen auswirken, da mehr als skeptisch ist

 

[Giacomo_S]

Weil persönliche Schicksale und aktuelle Situationen gerade nicht rein formal sind.

Doch, genau das sind einige Anträge an Behörden: Formalien.
Mein persönliches Schicksal wird durch diese Anträge nicht verändert, denn meine Chance darin besteht im Mittel bei 1:200 (von mir selbst digital ausgewertet, auf Grundlage von rund 600 Bewerbungen in einem Zeitraum von 5 Jahren). Allerdings benötige ich solcherart "Bewerbungen" als Beleg, um andere Zustände zu belegen und zu stabilisieren - also wenn das dann keine Formalie ist, dann wüßte ich nicht, wie man den Begriff sonst noch definieren sollte.
Dem steht sicherlich entgegen, dass man sich seitens der Verantwortlichen dann eingestehen müsste, persönliche Schicksale und aktuelle Situationen zu dem degradieren zu müssen, was sie de facto schon seit vielen Jahren sind: Formalien. Denn die Chance zur Veränderung des persönlichen Schicksales durch diesen Vorgang ist unbedeutend klein (1:200).

Aber auch inhaltlich: Ein Folgeantrag für eine unveränderte Situation, bei denen sich an den Voraussetzungen, nichts, aber auch gar nichts geändert hat und an dem echten oder vorgeblichen Rechtsanspruch auch nichts: Das ist eine reine Formalie. Er kann positiv entschieden werden, und zwar ohne dass ein Sachbearbeiter darüber meditieren muss.

Was Privatpersonen, Ämter und Behörden, Banken, Anwälte, Versicherungen (sogar unerlaubter Weise) so alles per unverschlüsselter E-Mail durch's Netz jagen ist erschreckend und gefundenes Fressen für Cyberkriminelle.

Im von mir genannten Fall - der Lohnabrechnung in Papierform - ist dies doch schon alles längst passiert, bevor es überhaupt als Ausdruck bei mir ankommt. Denn mein kleines Büro bekommt den ganzen Kram ja schließlich auch per email von einer externen Buchhaltung und nicht auf einem verschlüsseltem Stick per Boten. Im Anschluss liegen die Daten auf dem betriebseigenen Rechner herum. Das Büro ist abgeschlossen, der Zugang zum Rechner passwortgesichert; ist der Rechner meines Unternehmens aber angeschaltet, dann hängt er auch im Netz.

Viele haben Bedenken gegenüber Cloud-Systemen, denkt aber ein wenig darüber nach, dann sieht es ganz anders aus. Denn mit an Sicherheit grenzender Wahrscheinlichkeit sind die Server eines renommierten Cloud-Anbieters besser abgesichert als so ziemlich jeder Rechner eines Unternehmens. Ebenso stellt es sich mit der Qualifikation der Mitarbeiter dar: Der Betriebsrechner steht genauso im Netz, nur sitzt vor diesem Fr. Sekretärin Müller.

 

[THATSme]

Ein Folgeantrag für eine unveränderte Situation, bei denen sich an den Voraussetzungen, nichts, aber auch gar nichts geändert hat und an dem echten oder vorgeblichen Rechtsanspruch auch nichts: Das ist eine reine Formalie. Er kann positiv entschieden werden, und zwar ohne dass ein Sachbearbeiter darüber meditieren muss.

Und wieso überhaupt ein Folgeantrag auf eine Sozialwohnung? Einmal drin fliegt man da doch nicht raus? Es sei denn, die Einkommenssituation hat sich verändert. Und selbst dann, kann man idR drin bleiben, muss aber einen Zuschlag bezahlen.

dauert es sieben Monat bis ein Jahr, bis z.B. über einen Antrag auf eine Sozialwohnung entschieden ist.

Die Ämter sind überlastet und im Falle einer Neuzuweisung ist das keine Formalie. Das meinte ich damit.
Und was, wenn da ein Mensch ist mit geringeren Chancen auf dem Wohnungsmarkt und gar keine Wohnung hat?
Wenn da eine KI entscheidet wer die Wohnung bekommt, sind wir vermutlich beim selben Problem, wie es oben mit COMPAS beschrieben wurde.

Daher ist m. E. dringend zu unterscheiden, ob es sich um ohnehin automatisierte Prozesse handelt, in dem Sinne, wenn A, dann B, dann C.
Also Differenzieung da, wo reine, klar vorgegebene Prüfschemen abgearbeitet werden müssen, oder bei Verfahren, wo ein Ermessensspielraum besteht und sogar zwingend angewendet werden muss.
Beispiel Steuer.
Da gibt es die Steuertabelle. Bei Einkommen X = Steuer Y €. Das ist klar definiert. Nicht klar definiert ist aber, ob bestimmte Ausgaben anerkannt werden -> Ermessensprüfung.
Gerade im Rechtssystem haben wir nur Einzelfallentscheidungen. Und diese können nicht nach einem starren Schema abgearbeitet werden.

TM, die da wohl nicht mit dir auf einen Nenner kommt, weil es bei mir eben mehr gibt, als entweder oder

 

[THATSme]

Du merkst gar nicht, dass du dich selbst relativiertst und teilweise widersprichst?
Du merkst nicht, dass du dir da einiges zurecht biegst?

Es leuchtet mir nicht ein, was an Hormonen nicht messbar sein sollte

Sicher, es handelt sich um höchst komplexe Systeme, die aus verschiedenen Gründen "nicht messbar" sind.

Die Messung ist letztlich nur eine Visualiserung von Prozessen oder Dimensionen, die unserer Wahrnehmung nicht unmittelbar zugänglich sind) oder genauer gesagt: nicht mathematisierbar ist - das existiert auch nicht.

An der grundsätzlichen Messbarkeit ändert es nichts. Die Messbarkeit scheitert nicht als solche, sondern an der Komplexität der Fragestellung und an der Umsetzbarkeit der Messanordnung.

TM, die denkt, du solltest dich mal entscheiden

 

[Giacomo_S]

Und wieso überhaupt ein Folgeantrag auf eine Sozialwohnung? Einmal drin fliegt man da doch nicht raus? Es sei denn, die Einkommenssituation hat sich verändert. Und selbst dann, kann man idR drin bleiben, muss aber einen Zuschlag bezahlen.

Das hast Du falsch verstanden.
Zunächst stellt man einen Antrag auf eine Sozialwohnung, der muss bewilligt werden. Nach Antrag wartet man hier (München) ganz offiziell auf diese Bewilligung 7 Monate (real, derzeit: 1 Jahr). Ist der Antrag bewilligt, dann kann man sich, ausschließlich über die HP des Wohnungsamtes, um eine Sozialwohnung bewerben. Die rein statitistische Chance, aufgrund der Auswertung meiner eigenen Bewerbungen aus 5 Jahren, lag im Mittelwert bei 1:200 auf eine Wohnung - um überhaupt nur für eine Besichtigung benannt zu werden, in meinem Fall.
Die Bewilligung ist ein Jahr gültig (wurde während Corona zwischenzeitlich mal auf zwei Jahre ausgedehnt), dann hat man den sog. Folgeantrag zu stellen. Den kann man minimal 3 Monate vor Ablauf der alten Bewilligung stellen, was real bedeutet, dazwischen eine Pause von 4-9 Monaten zu haben, in denen man diesbezüglich nichts tun kann.

In 5 Jahren bewarb ich mich auf rund 600 Objekte, zeitweise über Jahre mit der maximal möglichen Frequenz, die die HP zuließ. "Benannt" wurde ich nicht ein einziges Mal. Zwischenzeitlich mehrmals mit Pausen von 7 Monaten und mehr, in denen ich mich nicht bewerben konnte, da Folgeanträge "in Bearbeitung" waren.

Es stellt sich natürlich die Frage, warum man sich überhaupt einem solchen Prozedere aussetzt, über Jahre, mit so einer lächerlichen Chance von jeweils 1:200 (im Extremfall: 1:1100), über Jahre. Jede Logik sagt einem, dass man größere Chancen hat, mal ein paar Tausend im Lotto zu gewinnen.
Tatsächlich ist es aber so, dass der Beleg meiner "Bewerbungsbestreungen" für andere Maßnahmen von Bedeutung ist - und das ist dann die Formalie.

Die Ämter sind überlastet und im Falle einer Neuzuweisung ist das keine Formalie. Das meinte ich damit.
Und was, wenn da ein Mensch ist mit geringeren Chancen auf dem Wohnungsmarkt und gar keine Wohnung hat?
Wenn da eine KI entscheidet wer die Wohnung bekommt, sind wir vermutlich beim selben Problem, wie es oben mit COMPAS beschrieben wurde.

Ich sprach nicht über die Bewilligung von Wohnungen, sondern um die Bewilligung des Anspruchs.
Die Bewilligung von Wohnungen wird bereits durch Algorithmen entschieden. Antragsteller haben eine Punktebewertung, und nach der - und anderen, nicht veröffentlichten Kriterien - werden Bewerbungen nach Listen abgearbeitet.
Nun - man mag es kaum sagen - sind ich und andere trotz der höchstmöglichen Punktebewertungen als Deutsche dennoch wieder unter ferner liefen. Denn es gibt immer andere, die weiter vorn sind: Schwerbehinderte, Alleinerziehende, Schwangere und last but not least nunmehr die ukrainischen Flüchtlinge.

 

[THATSme]

Zunächst stellt man einen Antrag auf eine Sozialwohnung, der muss bewilligt werden

Du meinst vermutlich einen Wohnberechtigungsschein. Das ist ein ganz anderes Verfahren. Der gilt immer nur 1 Jahr.
Dass man keine Sozialwohnung bekommt hat ja andere Gründe, die hinreichend bekannt sein dürften.
Es gibt zu wenige und der soz. Wohnungsbau wurde sträflichst reduziert und bestehende Wohnungen an Aktiengesellschaften und Großvermieter verscherbelt.
Beim Verscherbeln bleiben halt nur Scherben übrig, außer bei denen, die sich die Scherben vergolden lassen.

TM, überzeugt, dass unser Wirtschafts- und Finanzsystem so überhaupt nichts mehr mit sozialer Marktwirtschaft zu tun hat

 

[THATSme]

Korrektur. Mein Beitrag #25 gehört eigentlich ins Thema Homöopathie.

So ist es halt, wen keine anständige Ziertierfunktion implementiert ist und man mit mehreren offenen Tabs arbeiten muss, damit man anständig Mehrfachzitate nutzen kann.

TM, not amused

 

[Giacomo_S]

Du meinst vermutlich einen Wohnberechtigungsschein. Das ist ein ganz anderes Verfahren. Der gilt immer nur 1 Jahr.
Dass man keine Sozialwohnung bekommt hat ja andere Gründe, die hinreichend bekannt sein dürften.
Es gibt zu wenige und der soz. Wohnungsbau wurde sträflichst reduziert und bestehende Wohnungen an Aktiengesellschaften und Großvermieter verscherbelt.

Unbestritten, aber letztlich ist das ein anderes Thema, und ja: Es war der Wohnberechtigungsschein gemeint.
Aber wie kann es sein, in der heutigen Zeit, dass die "Bearbeitung" eines solchen Antrages bis zu einem Jahr dauert - ein Anliegen, auf das man einen Rechtsanspruch hat, und für das die Voraussetzungen nicht nur klar vorliegen, sondern auch relativ eng umrissen sind, gut erfassbar und vergleichsweise einfach entscheidbar - so einfach, dass es dafür nicht einmal einer "KI" im engeren Sinne bedarf, sondern nur eines einfachen, konventionell programmierten Algorithmus: Einkommen, Sozialstand, Wohnungslosigkeit, usw. usf.

So gesehen ist das eine Formalie, während die vllt. "schicksalshafte" Zuteilung von Sozialwohnungen schon längst durch Algorithmen erfolgt.

 

[THATSme]

Die korrekten Begriffe zu verwenden ist wichtig! Ein Antrag auf einen WBS ist nunmal etwas ganz anderes, als ein Antrag auf Genehmigung einer Sozialwohnung.

Die Ämter sind überlastet.
Bei der Prüfung der Zugangsvoraussetzungen ist KI m. E. tatsächlich möglich. Es gibt klare starre Vorgaben, die abgearbeitet werden können. Eventuelle unklare Ergebnisse könnten dann manuell nachgearbeitet werden.

Wenn ein Antrag zu lange dauert, reicht man einfach Untätigkeitsklage ein. Nach 6 Monaten bei einem Antrag möglich und nach 3 Monaten bei einem Widerspruch.
In Deutschland § 88 SGG

TM, mit juristischen Kenntnissen in div. Teilbereichen