Wissen oder Wahrscheinlichkeiten?

Der 30. November 2022 markiert ein historisches Ereignis. An diesem Tag wurde ChatGPT vom US-amerikanischen Unternehmen OpenAI auf die Allgemeinheit losgelassen. Auch wenn die Entwicklung von künstlicher Intelligenz bis in die 50er Jahre zurückgeht (übrigens auch der Start des Atomzeitalters), so kann man erst seit den letzten vier Jahren sehen, wie der KI-Hype den Alltag vieler Leute beherrscht und der persönliche Chatbot dabei stetig mit lernt (oder eben auch mit verdummt).

Damit das vorab klar ist: Wir sind keine Gegner von KI! Es gibt durchaus vielerlei sinnvolle Einsatzmöglichkeiten, sei es zum Abbau zeitfressender bürokratischer Elemente (vom deutschen Staat besonders geliebt), zur Automation gewisser digitaler Workflows oder zur Nutzung als schnelle Suchmaschine. Doch gerade Letzteres scheint die “Einstiegsdroge” für die KI als Alltagsbetreuer der Menschen zu sein. Claude, Gemini oder das Eingangs erwähnte ChatGPT, alle dienen mittlerweile als Berater, Sparringspartner oder in ganz bedenklichen Fällen sogar als vertrauensvoller Freund, dem man Dinge verrät, die sonst keiner weiß. Nicht nur Social Media führt in der heutigen Zeit zur sozialen Verkrüppelung, nein, auch die KIs leisten einen wertvollen Beitrag, noch weniger Zeit in der Wirklichkeit zu verbringen. 

Was daraus entsteht? Neben dem Effekt, dass grundlegende Ressourcen des Gehirns nicht mehr beansprucht werden und sich der Mensch dank KI in ferner (oder gar nicht allzu ferner) Zukunft nur noch mit den Aufgaben eines Primaten beschäftigen muss, entstehen eigentümliche Situationen. 

Eine dieser Situationen ereignete sich in unserem eigenen Umfeld:

Einige Tage nach meiner Beratung bei einem Pärchen und anschliesender Zusendung von Anträgen zu unseren Investments, bekam ich eine WhatsApp-Nachricht, dass ihnen die Investments zu riskant seien - sie schrieben, dass sie die Verträge durch KI hätten überprüfen lassen.

Stufe I: ich war perplex, denn so eine Nachricht - mit KI - bekam ich noch nie. 

Stufe II: einige Minuten des Lachens - das muss ich immer wieder erzählen - im passenden Moment..

Stufe III: Was antworte ich darauf - und ob überhaupt. Vieles verworfen. Nachgedacht.

Stufe IV: Na ja, es geht schliesslich um etwas, das wir tun und darum, dass sie ja auch darüber reden.

Stufe V: Ich schreibe etwas. Nichts, das angreift, nichts, das kritisiert, völlig ohne Ego - etwas, das zum Nachdenken anregt, etwas, das mich emotional berührt hat.

Hier nun meine Antwort - egal was kommt, es wird zum Denken anregen:.

“Liebe XXX, lieber XXX,

alles gut, das ist kein Thema und eure Entscheidung wird auch unser schönes Verhältnis nicht beeinflussen. 

Da wir uns ja schon etwas näher kennen, habe ich gedacht, dass ich euch noch ein paar Gedanken dazu schreibe, denn das mit der KI hat mich ehrlich gesagt erschreckt.

In meinen täglichen Arbeiten habe ich schon ab und zu dieses Tool angewandt, wenn es z.B. um Recherchen, Statistiken oder Historische Informationen geht. 

Dann schaue ich mir natürlich das Ergebnis an und sehe, dass ich es so niemals verwenden könnte, denn die Fehlerquote liegt, in meinem Thema, bei der KI, bei über 90% und je öfter ich die KI nachfrage und sage, dass dies oder jenes falsch ist, umso verwirrender und falscher wird es.

Da ich natürlich auch seit Jahrzehnten Gespräche mit Bankern, Unternehmern, Steuerberatern und Treuhändern, auch anderen im Fach kompetenten und erfahrenen Menschen habe, die meist auch Mandanten von uns sind, die sich auf meine Expertisen und Aussagen, auch Tipps verlassen, wäre für mich peinlich, diese KI-Infos zu verwenden. 

Interessant ist, dass keiner, der fachlich auf unserer Ebene arbeitet, diese KI verwendet, denn sie kann lediglich widergeben, was irgend jemand anonym eingegeben hat, du kennst also noch nicht einmal seine Kompetenz, seine Erfahrung, nichts.

Schlussendlich habe ich mich darauf beschränkt, mit KI Texte zu übersetzen. 

Auch interessant: wusstest ihr, dass bei Arbeiten im Studium und bei Dissertationen, wenn man in seinem Fachgebiet Recherchen dazu betreibt, immer die Quelle angegeben werden muss, woraus man diese Informationen bezogen hat und dazu, um deren fachliche Qualifikation zu ergründen, also, ob sie als Quelle überhaupt verwendet werden soll, auch die Quelle, also den, der geschrieben hat, wonach man recherchierte, immer überprüft werden muss? 

Ich weiss das, weil ich während all meiner verschiedenen Studiengänge unzählige Abhandlungen und auch als Gutachter Gutachten geschrieben und erstellt habe. 

Wer aber ist in der Lage, die Herkunft oder sogar Richtigkeit einer anonymen KI Aussage zu überprüfen? 

Ist es nicht tragisch, dass sich die Menschen immer mehr - ohne diese KI zu überprüfen, darauf verlassen und sogar wichtige Bereiche ihres Lebens danach ausrichten?

Das macht mir Angst und ich finde es perspektivisch betrachtet dramatisch, wie immer mehr an Eigenverantwortung, auch Menschenkenntnis, was auch immer wir an Fähigkeiten besitzen, von den Menschen einem anonymen ETWAS übergeben wird.”

Die KI als Prüfer von Verträgen oder vielmehr als Berater in wichtigen Lebensentscheidungen also… Natürlich einladend, wenn man sie tagtäglich um Hilfe bittet und stetig eine vermeintlich kompetente Antwort erhält. Aber wie verlässlich sind diese Antworten wirklich?

Zwischen Wissen und Erfindung: Die Schwäche der KI

Schauen wir hierzu auf ein interessantes Phänomen: Die KI-Halluzination. Was genau passiert dabei? Die KI erfindet Informationen, obwohl sie diese gar nicht weiß oder gar belegen kann. So werden Bücher genannt, die nie geschrieben wurden oder ganze Studienergebnisse erfunden. 

Viele KI-Systeme neigen dazu, dem Nutzer zuzustimmen, selbst wenn dessen Annahme falsch ist, nur um diesen zufriedenzustellen.

Beispiel:

• Nutzer: „Ist es nicht offensichtlich, dass X die Ursache von Y ist?“

• KI: „Ja, das scheint plausibel zu sein.“

  
  

Die Large Language Models (kurz LLMs) neigen also zu einer übermässigen Zustimmung, ohne dabei wirklich zu “verstehen”. Sie erkennen sprachliche Muster und scheitern oft an Situationen, die ein echtes Weltverständnis erfordern. Die Arbeit mit Wahrscheinlichkeiten liegt diesen Fehlern zugrunde und die genannten Probleme sind erst die Spitze des Eisbergs. So entstehen weitere Fehler durch veraltetes Wissen, nicht korrekter Fakten Verknüpfung, Logikproblemen bei längeren Gedankengängen und und und…

Auch wenn die Firmen hinter LLMs sich dieser Fehler bewusst sind, so werden dennoch tagtäglich tausende Menschen mit falschen Fakten als vermeintlich wissend in die Welt hinaus gelassen. Ein schneller Chat mit der KI ist einfacher, zeitsparender und angenehmer als auf das eigene Wissen zu bauen oder sich tatsächlich zu informieren. Wenn sich bereits Erwachsene dieser Versuchung geschlagen geben, was passiert dann wohl in den Köpfen der nächsten Generationen, die bereits in der Grundschule einsehen, dass sie gewisse Dinge nicht mehr wissen müssen? Ihre Eltern leben es ihnen schliesslich tagtäglich vor. Wer sich dieser Risiken bewusst ist, kann KI sinnvoll einsetzen. Wie Eingangs erwähnt sind wir keine Feinde neuer Technologien. Aber fragt euch dabei stets: Geht ihr gerade noch euren eigenen Weg oder folgt ihr bereits dem Weg mit der höchsten statistischen Wahrscheinlichkeit? Das oftmals herangezogene Bild mit der Schafherde entsteht an dieser Stelle hoffentlich noch eigenständig in euren Köpfen. 

An alle  Leser, die es mit ihrer Aufmerksamkeitsspanne bis hierher geschafft haben: Glaubt ihr, erfolgreiche Menschen hätten die Spitze erreicht, wenn sie jede Entscheidung ausschliesslich nach der statistisch besten Wahrscheinlichkeit getroffen hätten? Hätte jemals jemand ein Unternehmen gegründet, das es noch nie gab? Hätte jemand eine neue Idee verfolgt, obwohl alle Zahlen dagegen sprachen? Hätte jemand einen unbekannten Weg eingeschlagen, nur weil ein Algorithmus etwas anderes empfohlen hätte?

Die grossen Durchbrüche der Geschichte entstanden selten durch das Wahrscheinlichste. Sie entstanden durch Menschen, die bereit waren, gegen Erwartungen, Statistiken und den Konsens ihrer Zeit zu handeln.

Geht mit uns gemeinsam den guten Weg.