Vertrauen in Künstliche Intelligenz

[Kratylos25]

Hallo an alle,

anlässlich eines Call for Papers zum Thema "Digitalisierung und Künstliche Intelligenz" würde ich gerne folgende Fragen mit euch diskutieren:

- Wie müssen wir Vertrauen in KI begreifen? Ist es ein Gefühl, eine Haltung ein Zustand? Ist Vertrauen eine Einstellung? Ist es eine Überzeugung? Eine Tugend?
- Sind digitale Technologien wie Algorithmen, die auf maschinellem Lernen beruhen, angemessene Objekte von Vertrauen?
- Wann ist Vertrauen in KI gerechtfertigt?
- Kann Vertrauen in KI überhaupt gerechtfertigt sein?

Da ich euer Denken nicht in bestimmte Bahnen lenken möchte, werde ich auf eine persönliche Einleitung verzichten und lade in diesem Sinne zum freien gemeinsamen Philosophieren ein!

- Kratylos

 

[Wisnchefa]

Hallo @Kratylos25 , ... können Computer "beurteilen" ?
... nun , m.E. können Computer "werten" ( was - wahrscheinlich - ist , ... & "was lohnt" , ... & "was - unerwartet - ist" , ... etc. ) , ...
... & drum "sei"n sie natürlich "dem Irrationalen" überlegen , ...
... & drum "glauben" ( bspw. scheinbar - sehr - viele - ) Leute "an Nietzsche" :
... denn "Mensch arbeite" :
... reduziere sich also auf - das - Äußere ...
... was - social - ist ?
... denn Computer machen - den - Rest .

... drum "stimmt" ( bspw. ) Nietzsche unter ( sog. ) "Wettbewerb's - Bedingungen" :
... denn Mensch "sei" irrational .

... "könnte" also ( bspw. ) ein Computer - etwas - unerwartetes - tun ?



... oder aber läg's letztlich nicht nur der Axiomatik zu Grunde , ...
... "was" ( bspw. ) ein Computer "wertet" ?

... denn die Axiomatik ist zugleich "Religion" :
... "fordere" also ...
... "Waren" ?



... & drum bin ich mir sicher , ... "daß" also eine - wert - neutrale - KI - "möglich" - wäre , ...
... jedoch - "nicht - lohne" , ... "sondern" im Gegenteil ( "unserem Arbeitgeber" ) seine axiomatischen Grenzen aufwiese , ...
... & drum "bestimmt" schon existiert , ... "aber" ...

 

[THATSme]

Wie müssen wir Vertrauen in KI begreifen?

Mit nicht mehr oder weniger wie wir Vertrauen in eine Software, eine programmierte Maschine oder elektronisch gesteuerten PKW haben können.

Das Vertrauen beginnt bei mir nicht da was eine KI ausmacht, sondern da was mit ihr, aus den Daten die sie sammelt und aus ihr gemacht wird.

Nach dem Prinzip. Ein Messer ist erst dann eine tödliche Waffe, wenn man es als solche benutzt. In seiner ursprünglich angedachten Funktion ist es einfach nur ein nützliches Werkzeug.

TM, die denkt dass nicht die KI die Gefahr ist, sondern der Mensch der sie benutzt

 

[Kratylos25]

Mit nicht mehr oder weniger wie wir Vertrauen in eine Software, eine programmierte Maschine oder elektronisch gesteuerten PKW haben können.

Das Vertrauen beginnt bei mir nicht da was eine KI ausmacht, sondern da was mit ihr, aus den Daten die sie sammelt und aus ihr gemacht wird.

Nach dem Prinzip. Ein Messer ist erst dann eine tödliche Waffe, wenn man es als solche benutzt. In seiner ursprünglich angedachten Funktion ist es einfach nur ein nützliches Werkzeug.

TM, die denkt dass nicht die KI die Gefahr ist, sondern der Mensch der sie benutzt

Demnach wäre es schwachsinnig, die Frage nach dem Vertrauen in KI von der Frage nach dem Vertrauen in die Proponenten der KI zu trennen, richtig? Hinsichtlich der KI selbst wäre es unpassend, von Vertrauen zu sprechen. Hier fände vielmehr der Begriff der Verlässlichkeit sinnvolle Anwendung. Das Vertrauen entpuppte sich somit als genuiner Begriff der zwischenmenschlichen Beziehungen und sollte auch hierfür reserviert werden.

 

[THATSme]

Demnach wäre es schwachsinnig, die Frage nach dem Vertrauen in KI von der Frage nach dem Vertrauen in die Proponenten der KI zu trennen, richtig?

Schwachsinnig finde ich ein hartes Wort. So sehe ich das nicht.
Ich trenne das. Weil die KI ja ein Produkt und Konstrukt von Menschen ist.

Worüber ich in deiner Eingangsfrage stolperte ist, dass du die Frage nach dem Begriff Vertrauen und dessen "Wertung" ansich stellst.

Ist Vertrauen eine Einstellung? Ist es eine Überzeugung? Eine Tugend?

Gleichzeitig in Bezug auf die KI. Ich zog mich dadurch aus der Affaire, indem ich es einfach trennte und auf die "Vertrauensfrage" nicht eingegangen bin

Hinsichtlich der KI selbst wäre es unpassend, von Vertrauen zu sprechen. Hier fände vielmehr der Begriff der Verlässlichkeit sinnvolle Anwendung.

Ich kann damit zumindest einfacher umgehen. Aber da das Werk KI untrennbar mit dem Schöpfer verbunden ist, ist ja nicht die KI per sé gut oder schlecht, oder vertrauenswürdig oder nicht, sondern der Zweck der damit verfolgt wird.
Auch nicht unerheblich ist die Transparenz. KI ist m. W. oft sog. closed Source. Bedeutet man weiß nicht, was da vor sich geht.

Ist alles offen, erübrigt sich die Frage nach dem Vertrauen, da dann alles kontrollierbar wird. Vertrauen brauche ich ja nur, wenn sich etwas meiner Kontrolle entzieht und ich es in andere Hände gebe.

Das Vertrauen entpuppte sich somit als genuiner Begriff der zwischenmenschlichen Beziehungen und sollte auch hierfür reserviert werden.

Siehe oben.
Ich persönlich für mich kann die KI nicht vom Faktor Mensch trennen. Und so lange ein Mensch mit im Spiel ist, der dann auch noch die Macht über eine Maschine hat, ist mein Vertrauen in eine Technologie zunächst gleich Null.
Wenn mir dann auch noch das nötige Wissen fehlt, was aus einer selbstlernenden Technologie so alles erwachsen kann, macht mir das zunächst mal eine gewisse Angst, bzw. Unbehagen.

Das lässt sich nur durch Transparenz beseitigen. Wobei ich hier wiederum entweder ebenfalls Vertrauen in andere Menschen haben muss, die das dann kontrollieren. Oder mich selbst in die Lage versetzen muss, die Kontrolle selbst durchführen zu können.

Sicherlich kann man grundsätzlich auch Vertrauen in eine Technologie haben. Dann, wenn sie sich bewährt hat und ich positive Erfahrungen mit ihr machte. Ich habe Vertrauen, dass ein Radio ungefährlich ist. Ich habe aber kein Vertrauen darin, dass ein AKW ungefährlich ist.

TM, eiserne Verfechterin von Transparenz bei allem was mit IT zu tun hat

 

[Waldboden]

Ich würde beim Thema KI nicht Vertrauen in Verbindung setzen, sondern Nützlichkeit. Ist KI dem Menschen wirklich nützlich und dienlich, fände ich angemessener als Fragestellung.
Ich glaube zB nicht daran, dass sich Intuition künstlich nachahmen lässt - und Vertrauen ist eine Sache der Intuition. Und wie sieht es mit der Tatsache aus, das sehr viel zwischenmenschliches Verhalten unbewusst abläuft. Wie könnte man der KI das Unterbewusstsein programmieren? Es ist unmöglich.

Ein kleiner poetischer Sprung Richtung Rilke zeigt, wieviel ungenütztes Potential im Menschen steckt:

Gib deine Schönheit immer hin
ohne rechnen und reden.
Du schweigst. Sie sagt für dich: Ich bin.
Und kommt in tausendfachem Sinn,
kommt endlich über jeden.

(Das Gedicht heißt: "Initiale")

 

[Kratylos25]

(1) Ich kann damit zumindest einfacher umgehen. Aber da das Werk KI untrennbar mit dem Schöpfer verbunden ist, ist ja nicht die KI per sé gut oder schlecht, oder vertrauenswürdig oder nicht, sondern der Zweck der damit verfolgt wird.

(2) Sicherlich kann man grundsätzlich auch Vertrauen in eine Technologie haben. Dann, wenn sie sich bewährt hat und ich positive Erfahrungen mit ihr machte. Ich habe Vertrauen, dass ein Radio ungefährlich ist. Ich habe aber kein Vertrauen darin, dass ein AKW ungefährlich ist.

ad (1): Analog zu deinem oberwähnten Messer-Beispiel handelt es sich bei KI also erst einmal um ein neutrales Werkzeug. Tatsächlich zeichnen sich die gängigen Definitionen von KI durch eine grundsätzliche Neutralität aus und haben prima facie keine Implikationen für unser Vertrauensthema. Doch gilt dies für alle Technologien und für Technik per se? Diese instrumentalistische Sicht auf Technik (Technik als neutrales Werkzeug) besticht durch die suggerierte Trennschärfe zwischen wertfreier Technik und werterschaffendem Menschen. Sie sollte uns aber nicht darüber vergessen machen, dass wir uns der Technik nicht bloß bedienen, sondern dass sie unsere Daseinsweise mitprägt (z.B. indem sie unsere Entscheidungen und Handlungen mitformt). Die Erfindung des Ultraschalls ist beispielsweise kein bloßes Werkzeug zur Beobachtung der Entwicklung des Ungeborenen, sondern hat maßgebliche Veränderungen dessen bewirkt, was man heute als "ein Kind kriegen" bezeichnet. Technologien besitzen mithin das Vermögen, unsere Daseinsweise nachhaltig zu beeinflussen und zu prägen. In dieser Hinsicht sind sie doch mehr als bloße Instrumente.

ad (2): Wenn du den Begriff "Vertrauen" in diesem Zusammenhang verwendest, verstehst du in dann analog zum zwischenmenschlichen Vertrauen, wie man es aus dem Alltag kennt? Oder gibt es wesentliche Unterschiede zwischen Vertrauen in KI und Vertrauen in Menschen? Sprich: Vertraust du deinem Radio auf die gleiche Weise wie deiner besten Freundin?

 

[Kratylos25]

(1) Ich würde beim Thema KI nicht Vertrauen in Verbindung setzen, sondern Nützlichkeit. Ist KI dem Menschen wirklich nützlich und dienlich, fände ich angemessener als Fragestellung.
(2) Ich glaube zB nicht daran, dass sich Intuition künstlich nachahmen lässt - und Vertrauen ist eine Sache der Intuition.

ad (1): Dass KI nützlich ist, steht für mich außer Frage. Wenn man sich nur einmal vor Augen führt, wie breit die Anwendungsgebiete der KI mittlerweile sind und wie sehr wir in bestimmten Gebieten auf sie angewiesen sind, kann nicht an ihrer Zweckdienlichkeit gezweifelt werden. Man besehe sich beispielsweise den Einsatz von KI in der modernen Medizin.
ad (2): Ein Stück weit hat Vertrauen sicher was mit Intuition zu tun. Ich denke da an das psychologische Urvertrauen oder an spontan vertrauenswürdig erscheinende Personen. Allerdings unterliegt Vertrauen auch gewissen "Kriterien". Man spricht zwar davon, dass man Vertrauen schenkt, aber in den meisten Fällen muss man sich sein Vertrauen doch verdienen, indem man sich in den vergangenen Erfahrungen als vertrauenswürdig erwiesen hat. Mit Schenken hat das nicht viel zu tun.

 

[THATSme]

Wenn du den Begriff "Vertrauen" in diesem Zusammenhang verwendest, verstehst du in dann analog zum zwischenmenschlichen Vertrauen, wie man es aus dem Alltag kennt? Oder gibt es wesentliche Unterschiede zwischen Vertrauen in KI und Vertrauen in Menschen? Sprich: Vertraust du deinem Radio auf die gleiche Weise wie deiner besten Freundin?

Darüber habe ich mir noch keine Gedanken gemacht. Spontan würde ich schon sagen, dass es einen Unterschied gibt. Denn ein Mensch ist keine Maschine/KI. Eine Maschine/KI funktioniert so, wie sie programmiert wurde und zwar so lange, bis sie kaputt geht, oder verändert wird.

Der Mensch ändert sich im Laufe seines Lebens. Evt. auch zum Schlechten und Vertrauen wird mitunter auch missbraucht.

Da es um selbstlernende KI geht, könnte man zwar sagen, auch diese verändert sich, aber gleichsetzen in Bezug auf Vertrauen zu Menschen würde ich es nicht.
Es ist eine andere Ebene. Die rein technische und die "metaphysische"

TM, die einfach mal abwartet, was die KI uns noch so alles bringt

 

[Waldboden]

ad (1): Dass KI nützlich ist, steht für mich außer Frage. Wenn man sich nur einmal vor Augen führt, wie breit die Anwendungsgebiete der KI mittlerweile sind und wie sehr wir in bestimmten Gebieten auf sie angewiesen sind, kann nicht an ihrer Zweckdienlichkeit gezweifelt werden. Man besehe sich beispielsweise den Einsatz von KI in der modernen Medizin.

Warum steht es außer Frage, nur weil es ihre Anwendung findet? Diese Ansicht hätte ich gerne konkreter erläutert --.

Selbst in der sogenannten "modernen Medizin" operieren immer noch die Chirurgen, und nie ein selbständig operierenden Roboter durch KI. Es gab bisher noch keinen einzigen Fall, in dem die KI ganz selbständig eine Operation durchgeführt hat -- immer war ein Mensch dahinter, der entweder observierte, eingriff, operierte, oder den Prozess unterbrach.

ad (2): Ein Stück weit hat Vertrauen sicher was mit Intuition zu tun.

Was meinst du mit "ein Stück weit"?

Ich denke da an das psychologische Urvertrauen oder an spontan vertrauenswürdig erscheinende Personen. Allerdings unterliegt Vertrauen auch gewissen "Kriterien".

Klar, man kann Menschen immer auf Kriterien "zerstückeln" -- aber das macht man bewusst -- eine holistische Wahrnehmung wird von Faktoren getriggert, die sich zumindest nicht auf den ersten Augenblick benennen lassen und die unbewusst ablaufen. Ich sehe solche Prozesse als maßgebend dafür, warum bestimmte Menschen mit anderen überhaupt in Beziehung treten. Und diese Beziehungen sind nicht minder bedeutend.

Man spricht zwar davon, dass man Vertrauen schenkt, aber in den meisten Fällen muss man sich sein Vertrauen doch verdienen, indem man sich in den vergangenen Erfahrungen als vertrauenswürdig erwiesen hat. Mit Schenken hat das nicht viel zu tun.

eine ziemlich armselige Haltung, findest du nicht?