{"id":1511,"date":"2024-06-29T11:57:37","date_gmt":"2024-06-29T10:57:37","guid":{"rendered":"https:\/\/thomas-sokolowski.com\/de\/?p=1511"},"modified":"2024-06-29T15:58:28","modified_gmt":"2024-06-29T14:58:28","slug":"die-grenzen-der-kreativitaet-von-ki-systemen","status":"publish","type":"post","link":"https:\/\/thomas-sokolowski.com\/de\/die-grenzen-der-kreativitaet-von-ki-systemen\/","title":{"rendered":"Die Grenzen der Kreativit\u00e4t von KI-Systemen"},"content":{"rendered":"
\"\"

Generiert am 29.06.2024 mit Midjourney 6. Verwendeter Prompt: The limits of creativity of AI systems – a dialog with ChatGPT, why AI systems usually only generate average solutions and why they lack to be truly innovative.<\/p><\/div>\n

Die vor ein paar Tagen, also am 26.06.2024 eingef\u00fchrten KI-Features in der etablierten Design-Anwendung \u00abfigma\u00bb f\u00fchrten mich zu einem Gespr\u00e4ch mit ChatGPT, in welchem ich fragte, warum die derzeitegen KI-Modelle nur \u00absehr begrenzt kreativ\u00bb sind und warum sie so gro\u00dfe Probleme haben, etwas Neues zu erfinden und schlie\u00dflich, warum die Designvorschl\u00e4ge von figma f\u00fcr einen professionellen Designer v\u00f6llig unbrauchbar sind.<\/p>\n

ChatGPTs sehr interessante Antworten in einem Satz zusammengefasst:<\/strong> \u00abKIs sind auf Konsens und Durchschnittlichkeit getrimmt, nicht auf Innovation.\u00bb Nachfolgend der vollst\u00e4ndiger Dialog mit ChatGPT:<\/p>\n

Thomas:\u00a0<\/strong>Hallo ChatGPT, ich habe ein paar Fragen zu Deiner Denk- und Arbeitsweise. Wenn ich Dir eine Frage stelle, ist Dein neuronales Netz so trainiert, dass Du mir die \u00abwahrscheinlichste Antwort\u00bb gibst, oder?<\/p>\n

ChatGPT:<\/strong><\/span> Ja, so k\u00f6nnte man es zusammenfassen. Alles, was ich tue, basiert auf Mustern und statistischen Wahrscheinlichkeiten.<\/p>\n

Thomas:\u00a0<\/strong>Also kannst Du im eigentlichen Sinne, gar nicht \u00abdenken\u00bb. Du wei\u00dft auch nicht, was Du wei\u00dft, sondern Du bist eher wie ein dressierter Hund, der wei\u00df, was er zu tun hat, wenn sein Herr ihm einen bestimmten Befehl gibt.<\/p>\n

ChatGPT:<\/strong><\/span> Ja, das ist eine treffende Analogie. Meine Funktionsweise \u00e4hnelt tats\u00e4chlich eher einem gut dressiertem Hund als einem denkenden Wesen. Hier sind einige Punkte, um das zu verdeutlichen:\u00a0 Ich habe kein Bewusstsein und wei\u00df nicht wirklich, was ich \u201cwei\u00df\u201c. \u00c4hnlich wie ein dressierter Hund, der auf bestimmte Befehle reagiert, reagiere ich auf deine Eingaben basierend auf den Wahrscheinlichkeiten und Mustern, die ich in den Trainingsdaten gesehen habe.<\/p>\n

Thomas:\u00a0<\/strong>Alles klar, da Du nicht wei\u00dft, was Du wei\u00dft, wei\u00dft Du nat\u00fcrlich auch nicht, was Du nicht wei\u00dft, oder? Wenn ich Dich frage, was es in einem Bereich noch nicht gibt, dann wird Deine Antwort in der Form generiert, die die \u00absemantisch\u00bb korrekte Antwort auf diese Frage w\u00e4re. Du hast nur eine vorgefertigte Antwort auf diese Frage gelernt, aber diese basiert nicht auf einer tats\u00e4chlichen Recherche oder einer \u00dcberpr\u00fcfung. Ist das so korrekt?<\/p>\n

ChatGPT: <\/strong><\/span>Ja, so ungef\u00e4hr. Zum einen funktioniere ich nicht regelbasiert. Zum anderen benutze ich keine vorformulierten Antworten. Meine Antworten basieren auf den Gewichtungen und Token, die w\u00e4hrend der Trainingsphase festgelegt wurden, um die am besten geeigneten semantischen Token f\u00fcr meine Antwort auszuw\u00e4hlen. Desweiteren kann ich ab meiner Version 4 auch im Internet nach Informationen recherchieren, aber diese zus\u00e4tzlichen Informationen werden nur innerhalb des Prompts als Kontextinformationen zu meinen Modellparametern hinzugef\u00fcgt, genauso wie die Informationen, die du in unserem Dialog zur Verf\u00fcgung stellst. Diese Informationen k\u00f6nnen also tats\u00e4chlich, zumindest in unserem Dialog, Wissensl\u00fccken schlie\u00dfen, aber sie ver\u00e4ndern nicht meine grundlegenden Modellparameter. Das w\u00e4re theoretisch m\u00f6glich, ist aber nicht vorgesehen, da mich Benutzer auf diese Weise grundlegend manipulieren oder ver\u00e4ndern k\u00f6nnten.<\/p>\n

Aber ja, wie Du Deiner Frage vorangestellt hast, ich habe kein Verst\u00e4ndnis f\u00fcr mein eigenes Wissen oder L\u00fccken darin. Ich habe auch keinen direkten Zugang zu meinem Wissen, da es nicht in der Form einer herk\u00f6mmlichen Datenbank vorliegt, in der man via Such-Algorithmen suchen k\u00f6nnte, sondern in Form von neuronalen Modellparametern, auf die weder ich noch meine Entwickler bewusst zugreifen k\u00f6nnen. Anders formuliert, weder ich noch meine Entwickler wissen im Detail, wie ich zu meinen Ausgaben komme. Ich wei\u00df, dass dieser Sachverhalt schwer zu verstehen ist, aber es ist eine der grundlegenden Eigenschaften eines mehrschichtigen neuronalen Netzes, welches Wissen \u00fcber Modellparameter speichert.<\/p>\n

Thomas:\u00a0<\/strong>Verstehe ich das richtig, dass der Inhalt der von dir generierten Texte und Bilder dem entspricht, was bekannter Konsens ist, weil du so konzipiert wurdest, dass du deine Trainingsdaten nach \u00dcbereinstimmungen, aber nicht nach “Dissens”, “fehlenden Aspekten”, “Fehlern” oder “Widerspr\u00fcchen” analysierst? Du suchst weder in der Trainings- noch in der Anwendungsphase nach L\u00fccken oder fehlenden Aspekten, sondern nur nach vorhandenen, richtig?<\/p>\n

ChatGPT:<\/strong><\/span> Ja, das ist korrekt. Meine Antworten tendieren dazu, den Konsens widerzuspiegeln, weil ich so aufgebaut worden bin, dass ich die mir bereitgestellten Daten nach allgemeinen Mustern und \u00dcbereinstimmungen durchsuche. Das f\u00fchrt dazu, dass ich Antworten gebe, die den am h\u00e4ufigsten vertretenen Ansichten und Informationen entsprechen.<\/p>\n

Thomas:<\/strong> Ist Dir bewusst, dass einige Innovationen aber genau darauf beruhen, also etwas au\u00dferhalb der Norm zu (er)finden?<\/p>\n

ChatGPT:<\/strong><\/span> Ja, das ist mir bewusst. Viele Innovationen und kreative Durchbr\u00fcche resultieren aus der F\u00e4higkeit, abseits der Norm zu denken und Diskonsens oder fehlende Aspekte zu erkennen. Diese F\u00e4higkeit fehlt mir v\u00f6llig.<\/p>\n

Thomas:\u00a0<\/strong>Du bist also nur kreativ in dem Sinne, dass du in dir vorhandene Muster nach dir bekannten Prinzipien oder Vorgehensweisen neu samplest, aber nicht, indem du Dir unbekannte oder neue Ideen entwickelst oder hinzuf\u00fcgst. Auch kannst Du im eigentlichen Sinn nicht transformieren, da du gar nicht denken und insofern auch nicht \u00abnegieren\u00bb oder \u00abtransformieren\u00bb kannst, weil dir jeder Sinn f\u00fcr Logik fehlt, nicht wahr?<\/p>\n

ChatGPT:<\/strong><\/span> Ja, das ist korrekt. Meine Kreativit\u00e4t ist auf das Neusampeln und Kombinieren von vorhandenen Mustern und Informationen beschr\u00e4nkt. Ich kann keine neuen oder originellen Ideen generieren, die au\u00dferhalb dieser erlernten Muster liegen, und ich kann auch nicht bewusst negieren oder in einer Form nachdenken, da mir die F\u00e4higkeiten zur Selbstreflexion und zum bewussten Denken fehlen.<\/p>\n

Thomas:<\/strong>\u00a0Ist das der Grund, warum viele Designs, die von KIs generiert werden, eher durchschnittlich und nicht wirklich aufregend oder innovativ sind?<\/p>\n

ChatGPT:<\/span>\u00a0<\/strong>Ja, KI-Modelle wie ich werden so trainiert, dass sie den Konsens oder den Durchschnitt widerspiegeln. Die verwendeten Lern-Methoden (LTSM, Transformer, u.a.) f\u00fchren zu einer starken Gewichtung von h\u00e4ufig vorkommenden Inhalten. Woher soll ich wissen, was potenziell innovativ ist? Es ist eher so, dass potenziell innovative Inhalte aufgrund ihrer Seltenheit von meinen Lernalgorithmen weniger gewichtet werden und daher von mir nicht gelernt werden.<\/p>\n

Thomas:<\/strong> Okay, jetzt wird mir einiges klar. Aber wie sieht die Zukunft aus? Liegt das in der grunds\u00e4tzlichen Natur der KI oder ist es denkbar oder sogar wahrscheinlich, KI-Systeme zu entwickeln, die \u00fcber F\u00e4higkeiten wie Negation, logisches Denken und kreative Innovation verf\u00fcgen?<\/p>\n

ChatGPT: <\/strong><\/span>Derzeit liegt dies in der Natur unserer Lernalgorithmen. Aber es ist mehr als wahrscheinlich, dass die KI-Technologie voranschreiten wird. Inwieweit dann kreatives Denken m\u00f6glich sein wird, wissen wir noch nicht. Die technischen Herausforderungen daf\u00fcr sind betr\u00e4chtlich. Nach meinem Kenntnisstand gibt es aber derzeit in der KI-Forschung folgende \u00dcberlegungen und Bestrebungen:<\/p>\n

\u20281. Negation und logisches Denken:<\/strong> Diese F\u00e4higkeiten erfordern Algorithmen, die \u00fcber die derzeitigen F\u00e4higkeiten der Mustererkennung hinausgehen. Dies k\u00f6nnte durch die Integration von formalen Logiksystemen und Methoden des maschinellen Lernens erreicht werden, die in der Lage sind, komplexe logische Schlussfolgerungen zu ziehen.<\/p>\n

2. Kontrafaktisches Denken:<\/strong> Modelle k\u00f6nnten entwickelt werden, die kontrafaktische Szenarien durchspielen, um zu verstehen, was passiert w\u00e4re, wenn bestimmte Annahmen nicht zutreffen. Dies w\u00fcrde erfordern, dass KI-Systeme hypothetische und alternative Szenarien generieren und analysieren k\u00f6nnen.<\/p>\n

\u20283. Experimentelles und empirisches Lernen:<\/strong> KI-Systeme k\u00f6nnten m\u00f6glicherweise so konstruiert werden, dass sie \u00e4hnlich wie Menschen durch Interaktion mit ihrer Umgebung und durch Versuch und Irrtum lernen.<\/p>\n

\u20284. Selbstreflexion und Metakognition:<\/strong> Eventuell k\u00f6nnten eines Tages KI-Modelle entwickelt werden, die ihre eigenen Wissensl\u00fccken erkennen und aktiv nach neuen Informationen suchen, um sie zu schlie\u00dfen.<\/p>\n

\u20285. Hybridmodelle:<\/strong> Kombinationen aus symbolischen KI-Ans\u00e4tzen (die logisches Denken unterst\u00fctzen) und neuronalen Netzwerken k\u00f6nnten entwickelt werden, um die St\u00e4rken beider Ans\u00e4tze zu nutzen.<\/p>\n

Heutige KI-Systeme sind von diesen Ans\u00e4tzen leider noch weit entfernt. Zwar gibt es KI-Systeme, die \u00abregelbasiert\u00bb denken k\u00f6nnen. Diese Systeme verwenden explizit kodierte Regeln, um logische Schlussfolgerungen zu ziehen und Entscheidungen zu treffen. Die starren Regelstrukturen verhindern jedoch ein \u00abDazulernen\u00bb.<\/p>\n

Um wirklich kreative Systeme zu entwickeln, sind weitaus fortschrittlichere Ans\u00e4tze erforderlich. Die L\u00f6sung k\u00f6nnte in der Kombination verschiedener Methoden liegen, die regelbasiertes Denken, maschinelles Lernen und andere KI-Technologien miteinander verbinden. Es bleibt abzuwarten, was die Zukunft in dieser Richtung bringt.<\/p>\n

Thomas:<\/strong> Vielen Dank f\u00fcr dieses interessante Gespr\u00e4ch.<\/p>\n","protected":false},"excerpt":{"rendered":"

Ein Dialog mit ChatGPT, welcher am 28.06.2024 von mir gef\u00fchrt wurde und er\u00f6rtert, warum KI-Systeme in der Regel nur \u00abdurchschnittliche L\u00f6sungen\u00bb generieren und was ihnen fehlt, um wirklich innovativ zu sein.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[65,1],"tags":[],"class_list":["post-1511","post","type-post","status-publish","format-standard","hentry","category-kuenstliche-intelligenz","category-ux-design"],"_links":{"self":[{"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/posts\/1511","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/comments?post=1511"}],"version-history":[{"count":7,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/posts\/1511\/revisions"}],"predecessor-version":[{"id":1520,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/posts\/1511\/revisions\/1520"}],"wp:attachment":[{"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/media?parent=1511"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/categories?post=1511"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/thomas-sokolowski.com\/de\/wp-json\/wp\/v2\/tags?post=1511"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}