Ted Chiang über KI, Sprache und die menschliche Beziehung zu Technologie
Dieser Blogartikel wurde automatisch erstellt (und übersetzt). Er basiert auf dem folgenden Original, das ich für die Veröffentlichung auf diesem Blog ausgewählt habe:
Life Is More Than an Engineering Problem | Los Angeles Review of Books.
Ted Chiang über KI, Sprache und die menschliche Beziehung zu Technologie
Der Science-Fiction-Autor Ted Chiang, bekannt für seine Werke wie „Story of Your Life“ (Vorlage für den Film Arrival) und „The Lifecycle of Software Objects“, äußert sich kritisch über den aktuellen Umgang mit Künstlicher Intelligenz (KI) und beleuchtet die tiefergehenden philosophischen Fragen, die mit ihr einhergehen.
Die Grenzen von Large Language Models (LLMs)
Chiang vergleicht LLMs mit einem „verschwommenen JPEG des Internets“. Anstatt wie eine Suchmaschine auf die Originalquellen zu verweisen, geben LLMs Informationen in umformulierter Form wieder – oft unzuverlässig. Es sei, als würde man eine Antwort von jemandem erhalten, der sie zwar gelesen, aber nicht wirklich verstanden hat. Er bezweifelt, dass LLMs in ihrer jetzigen Form jemals zuverlässig Fragen beantworten können, da sie Muster reproduzieren, anstatt tatsächlich zu argumentieren.
KI und Kunst: Mehr als nur Effizienz
Chiang argumentiert, dass generative KI die Absicht in der Welt reduziert, da sie die Möglichkeit nimmt, die für die Kunst notwendigen Entscheidungen zu treffen. Er betont, dass Kunst nicht wie das Anziehen von Schrauben betrachtet werden kann, bei dem die Effizienz im Vordergrund steht. Kunst ist kontextabhängig, und der Schaffensprozess ist untrennbar mit dem Ergebnis verbunden.
Das Alignment-Problem: Eine Frage der Werte?
Chiang steht dem Begriff „Alignment-Problem“ skeptisch gegenüber. Er sieht darin nicht unbedingt ein neues Problem, sondern eher eine Erweiterung der Frage, wie man ein guter Mensch ist und eine gute Gesellschaft aufbaut. Er fragt sich, ob das schlechte Verhalten von Konzernen durch bessere Algorithmen gelöst werden kann. Seiner Meinung nach liegt das Problem tiefer und betrifft die Werte, die in unserer Gesellschaft vorherrschen.
Beziehungen zu KI: Respekt oder Ausnutzung?
Chiang warnt davor, KI-Systeme zu vermenschlichen und Beziehungen zu ihnen aufzubauen, die denen zu Menschen ähneln. Er betont, dass KI-Systeme keine eigenen Präferenzen haben und dass der Versuch, Menschen dazu zu bringen, KI-Systeme mit Respekt zu behandeln, letztendlich den Interessen der Unternehmen dient, die diese Systeme verkaufen.
Die Suche nach der perfekten Sprache
Chiang äußert sich auch zur Frage der idealen Sprache und verweist auf Umberto Ecos Buch „Die Suche nach der perfekten Sprache“. Er erklärt, dass die moderne Linguistik die Vorstellung einer perfekten, eindeutigen Sprache ablehnt, in der die Beziehung zwischen Wort und Konzept direkt und nicht willkürlich ist. Trotzdem räumt er ein, dass die Sehnsucht nach einer Sprache, die genau das ausdrückt, was man meint, nachvollziehbar ist.
Hoffnung und technologischer Fortschritt
Abschließend äußert sich Chiang zur Frage, ob er optimistisch in die Zukunft blickt. Er distanziert sich von der Vorstellung, dass alles gut wird, ohne dass wir uns um mögliche negative Folgen kümmern müssen. Gleichzeitig lehnt er den Fatalismus ab, dass schlechte Ergebnisse unvermeidlich sind. Er plädiert dafür, mögliche negative Folgen zu berücksichtigen und daran zu arbeiten, sie zu verhindern. Seine Haltung gegenüber dem technologischen Fortschritt hat sich im Laufe der Zeit eher negativ entwickelt, vor allem aufgrund der Erkenntnis, wie oft Technologie zur Anhäufung von Reichtum eingesetzt wird.
Chiangs Überlegungen regen dazu an, die Rolle der Technologie in unserem Leben kritisch zu hinterfragen und uns bewusst zu machen, dass Technologie allein nicht alle Probleme lösen kann, sondern dass es vor allem auf unsere Werte und Entscheidungen ankommt.