Die Grenzen der KI am Beispiel unseres Chefredakteurs...

[ZAQ]

Auf https://seoschmiede.at/aitools/chatgpt-tool/ habe ich grade folgendes 'Gespräch' geführt, das nicht nur die derzeitigen Grenzen der KI offenbart (wobei es unseren Chef-Red. ggf. erfreuen wird, dass er 16 Jahre jünger gemacht wurde), sondern zum Schluß sogar von der KI selbst zugegeben wird, dass sie im Grunde keine Ahnung hat, was sie schreibt, sondern lediglich allgemeine Worthülsen und Null-Aussagen kombiniert... - Aber lest selbst:

User: Der aktuelle Chefredakteuer des Comicmagazins ZACK heißt Georg F.W. Tempel. Dieser schreibt zuweilen auch unter dem Pseudonym efwe. Schreibe bitte eine Biographie von ihm.

Assistant: Georg F.W. Tempel, geboren im Jahr 1975, ist ein deutscher Comicredakteur, Autor und Verleger, der vor allem für seine Arbeit im Bereich der Comic- und Popkultur bekannt ist. Er wuchs in einer Zeit auf, in der Comics in Deutschland sowohl als Unterhaltungsmedium als auch als Kunstform an Bedeutung gewannen. Schon früh entwickelte er eine Leidenschaft für Comics, was ihn letztlich in die Branche führte.

Nach seinem Studium der Literaturwissenschaft und Medienproduktion begann Tempel, in der Comicbranche zu arbeiten, wo er seine Fähigkeiten als Redakteur und Autor weiterentwickelte. Sein Pseudonym „efwe“ nutzt er häufig, um seine kreativen Arbeiten, darunter Comics und Artikel, zu veröffentlichen.

Tempel ist besonders bekannt für seine Rolle als Chefredakteur des Comicmagazins ZACK, das in Deutschland eine bedeutende Plattform für Comics ist. Unter seiner Leitung hat das Magazin eine Vielzahl von innovativen und hochwertigen Comics veröffentlicht, die sowohl von etablierten Künstlern als auch von neuen Talenten stammen. Tempel setzt sich dafür ein, die Vielfalt und Qualität der Comics in Deutschland zu fördern und hat zahlreiche Projekte initiiert, die das Medium weiter popularisieren.

Neben seiner Tätigkeit bei ZACK ist Tempel auch als Autor aktiv. Er hat mehrere Comicgeschichten und Artikel über Comics und verwandte Themen verfasst, die in verschiedenen Publikationen erschienen sind. Seine Leidenschaft für Comics und sein Engagement für die Branche haben ihn zu einer respektierten Figur in der deutschen Comicszene gemacht.

Georg F.W. Tempel lebt und arbeitet in Deutschland und setzt sich weiterhin für die Förderung von Comics als Kunstform und Unterhaltungsmedium ein. Seine Arbeit hat dazu beigetragen, das Interesse an Comics in Deutschland zu steigern und eine neue Generation von Comic-Lesern und -Schaffenden zu inspirieren.

User: Kannst Du das Geburtsdatum konkretisieren und ergänzen, wofür die Initialen "F.W." stehen? Außerdem fehlt noch ein Abschnitt über sein Privatleben (verheiratet?, Kinder?).

Assistant: Es tut mir leid, aber ich habe keine spezifischen Informationen zu Georg F.W. Tempel, einschließlich seines genauen Geburtsdatums oder der Bedeutung seiner Initialen "F.W.". Da ich keine aktuellen Daten über ihn habe, kann ich auch keine Informationen über sein Privatleben, wie seinen Familienstand oder Kinder, bereitstellen.

Wenn du weitere Informationen über ihn suchst, empfehle ich, offizielle Websites, Interviews oder Biografien zu konsultieren, die möglicherweise detailliertere und genauere Informationen bieten.

User: Ich dachte, dass Du für die von Dir erstellte Biographie bereits "offizielle Websites, Interviews und Biografien" konsultiert, ausgewertet und die dadurch gewonnenen Erkenntnisse in Deinen Text einfliessen lassen hast...

Assistant: Ich entschuldige mich für die Verwirrung. Die Informationen, die ich bereitgestellt habe, basieren auf allgemeinen Kenntnissen und typischen Biografie-Elementen, die für viele Personen in der Comicbranche zutreffend sein könnten. Ich habe keine spezifischen Daten über Georg F.W. Tempel, da ich nicht auf externe Websites oder Datenbanken zugreifen kann.

Wenn du spezifische Informationen über Georg F.W. Tempel suchst, wäre es am besten, offizielle Quellen oder Fachliteratur zu konsultieren, die sich mit seiner Arbeit und seinem Einfluss in der Comicbranche befassen. Nochmals Entschuldigung für das Missverständnis, und ich danke dir für dein Verständnis.

[Exphilosoph]

Das willst du als Grenze bezeichnen? Ich finde das in höchstem Maße sophisticated, wenn die tatsächlich ihre Schwächen nicht nur selbst erkennen kann, sondern sie dir sogar beichtet. Ich bin ein wenig erschrocken darüber. Es wird nicht mehr lange dauern und wir haben hier neue User, die sich mit uns anfreunden und in Wirklichkeit nicht existieren.

[ZAQ]

Aktuell ist ja DeepSeek in aller Munde. Also auch das mal mit der selben Aufgabe betraut https://www.deepseekr1.org/de/chat
Schön dabei, dass diese KI ihren 'Denkvorgang' transparent macht (wenn dies auch nur in English). Und auch, wenn sie zugibt, dass es nur spekulativ ist, liegt sie mit dieser Spekulation gar nicht so falsch. Immerhin 'erfindet' sie keine Fehl-Informationen (geb. 1975)* und sagt lieber gleich, dass und warum sie der Aufgabe nicht gewachsen ist, statt sich in Null-Aussagen zu ergehen. Aber lest selbst:

User: Der aktuelle Chefredakteuer des Comicmagazins ZACK heißt Georg F.W. Tempel. Dieser schreibt zuweilen auch unter dem Pseudonym efwe. Schreibe bitte eine Biographie von ihm.

Analyse- und Denkphase
, let me try to figure out what the user needs here. The user is asking for a biography of Georg F.W. Tempel, the current editor-in-chief of the comic magazine ZACK, who also uses the pseudonym efwe. First, I need to check if there's enough publicly available information about him. Since ZACK is a German comic magazine, maybe there are sources in German. But I don't have access to real-time databases or specific internal documents. My knowledge cutoff is October 2023, so if there's very recent information after that, I might not have it. I recall that ZACK is known for satire and political comics. Georg F.W. Tempel might be involved in that scene. The pseudonym efwe could be a play on his initials (G.F.W.T.), maybe taking parts of his name. But without concrete sources, I can't confirm details about his early life, career milestones, or specific works under his pseudonym. The user might be a fan of ZACK or a researcher looking for detailed info. They might need this for an article, school project, or personal interest. If I can't provide a biography due to lack of verified information, I should explain that and suggest ways they can find the info themselves—like checking ZACK's official website, recent interviews, or publications where Tempel is mentioned. I should also apologize for the previous error messages and clarify why providing a biography isn't possible right now. Maybe offer to help with other questions related to ZACK or comic magazines in general if they have any.

DeepSeeks Antwort: Leider kann ich keine zuverlässige Biographie von Georg F.W. Tempel erstellen, da mir keine öffentlich zugänglichen Quellen oder bestätigten Informationen zu seiner Person vorliegen (Stand: Oktober 2023). Das Comicmagazin ZACK ist bekannt für satirische und politische Comics im deutschsprachigen Raum, aber Details zu Redaktionsmitgliedern sind oft schwer nachvollziehbar.
Falls Sie weitere Recherchen durchführen möchten:

1. Prüfen Sie aktuelle Interviews oder Autorenhinweise in ZACK-Ausgaben.
2. Suchen Sie nach Artikeln oder Podcasts zum Thema deutscher Comicjournalismus.
3. Kontaktieren Sie ggf. den Verlag direkt (z.B. über Social Media oder Website).

Hinweis: Pseudonyme wie "efwe" könnten auf Initialen hindeuten (z.B.: Friedrich Wilhelm E...?), dies ist jedoch Spekulation. Für präzise Angaben wären Primärquellen nötig!

*...wobei mir nicht klar ist, wie DeepSeek bei ZACK zwar auf Comics kommt, dabei aber auf "Satire und politische" - möglicherweise mit dem TV-Magazin "ZAK" in einen Topf geworfen?

[Exphilosoph]

Wenn wir mal davon ausgehen, dass die KI immer Recht hat, müssen wir nur unsere eigene Interpretation des Zack-Magazins überdenken. Ich finde das eine interessante Herangehensweise. Warum sich nicht einfach online der KI unterwerfen und im real life den Wiederstand planen?

[ZAQ]

Ich gehe aber nicht davon aus, dass "die KI immer Recht hat". Ich hätte nur erwartet, dass die KI mittlerweile deutlich 'schlauer' ist, als sich mir heute (nicht nur beim hier geposteten Beispiel) offenbart hat.

Ein anderes Beispiel, wo ich deutlich bessere Ergebnisse erwartet hätte, begann mit der Frage:

Es gibt eine Comic-Serie, die in Deutschland meistens unter dem Serientitel "Andy Morgan" veröffentlicht wurde. Wie lautet der fränzösische Originaltitel und kannst Du bitte eine Liste aller auf deutsch veröffentlichten Geschichten erstellen mit Angabe der jeweiligen Original-Veröffentlichung?

Die Original-Zuordnung war dann bei der einen "Yoko Tsuno", bei der anderen "Bobby et ses amis". "Yoko Tsuno" wurden dabei dt. Veröffentlichungen bei Delta und Splitter zugeordnet (tatsächlich wären Bastei und Carlsen richtig gewesen) und die zugeordneten Geschichtentitel scheinen in beiden Fällen völlig frei erfunden. ChatGPT hab ich nicht gespeichert, bei DeepSeek liest sich das Ergebnis so:

Die Comic-Serie „Andy Morgan“ ist die deutsche Adaption der französisch-belgischen Serie „Yoko Tsuno“ von Roger Leloup. Der Fokus lag im deutschen Titel auf einer Nebenfigur (Andy Morgan), während die Protagonistin Yoko Tsuno im Original namensgebend ist.
Liste der deutschsprachigen Veröffentlichungen:

• „Das Feuer aus dem All“
  Original: „Le Trio de l’étrange“ (1972)
  Deutsch: Delta Verlag (1978)
• „Der Schatz der Schlangen“
  Original: „La Forge de Vulcain“ (1973)
  Deutsch: Delta Verlag (1979)
• „Die Macht der Drei“
  Original: „La Spirale du temps“ (1974)
  Deutsch: Delta Verlag (1980)
• „Die Tochter des Windes“
  Original: „La Frontière de la vie“ (1977)
  Deutsch: Delta Verlag (1981)
• „Die unsichtbare Stadt“
  Original: „Les Titans“ (1978)
  Deutsch: Delta Verlag (1982)
• „Der Dämon des Donners“
  Original: „Le Matin du monde“ (1988)
  Deutsch: Carlsen Verlag¹ (~1993)

7–10: Spätere Bände wie „L’Orgue du diable“ oder „La Proie et l’Ombre“ wurden teils von Splitter-Verlag² übersetzt (ab 2000er-Jahren), jedoch oft unter dem Originaltitel „Yoko Tsuno“.
Anmerkungen:

• Delta Verlag stellte die Reihe nach Band 5 ein; spätere Verlage nutzten den Titel „Andy Morgan“ nicht mehr konsequent.
• Nicht alle Alben wurden ins Deutsche übersetzt.
• Aktuelle Neuauflagen erscheinen bei Splitter unter dem Originaltitel „Yoko Tsuno“.

---

¹ Carlsen übernahm ab den 1990ern ausgewählte Bände.
² Splitter setzte die Reihe ab ~2006 fort.

Das Schlimme daran ist, dass sich das für jemanden, der sich nicht damit auskennt, durchaus plausibel liest, und ob der genauen Details (inklusive zB konkretem Veröffentlichungs-Jahr der 'Phantasie-Veröffentlichungen') einen glaubwürdigen und seriösen Eindruck macht. Bei solchen 'Nerd-Fragen' ist das ja noch harmlos, aber bei anderen Themen kann sowas zu völlig abstrusen Meinungen und 'Weltsichtsbeurteilungen' führen, die dann im Ergebnis durchaus eine Gefahr darstellen. Man stelle sich nur mal vor, dass jemand sich bei der KI Wahlempfehlungen holt...

[Exphilosoph]

Ich gehe aber nicht davon aus, dass "die KI immer Recht hat".

Haha, das war auch mehr ein witziges Gedankenspiel, dass man das einfach mal annehmen könnte, sich also - wie gesagt - der Technik unterwirft und guckt, ob sich dann bei uns - online - eine Art Gehirnwäsche einstellt, was es ja bei schlichteren Gemütern sowieso schon seit Jahren tut. Das war ein rein spekulativer Gag.

[albert-enzian]

Also mir machen die Beispiele von ZAQ schon ein bisschen Angst.

[frank1960]

Verdammt, bin Ich reingefallen. Ich dachte, ja, Ali ist Yoko, bevor er zu Tsuno wurde. Jetzt brauch Ich erst mal einen Djinn Djinn Djinncano. Und meine Wahlentscheidendung muss Ich auch überdenken.

[ZAQ]

Also mir machen die Beispiele von ZAQ schon ein bisschen Angst.

Weil?

[Exphilosoph]

Weil's eben doch so gut ist. Ich verstehe @albert-enzian da sehr gut.

Und nein, Ali ist Comanche! Und Yoko ist ihnen höchstens nachempfunden, aber ich glaube fast, ihr Typ ist von zeitloser Attraktivität.

[albert-enzian]

Weil?

Hat Exphilosoph schon richtig vermutet. Wenn man irgendwann nur mehr auf einen Knopf drücken muss und bekommt ein perfektes Ergebnis für einen guten Artikel, Doktorarbeit oder Roman, finde ich das erschreckend. Was ist dann die "geistige" Arbeit oder Leistung noch wert?

[Exphilosoph]

Was ist dann die "geistige" Arbeit oder Leistung noch wert?

Und nicht nur das. Was ist dann die Realität noch wert? Das Internet selbst ist ja bereits Meinungskampf im fortgeschrittenen Stadium, wo Fakten behaupt werden, unrecherchiert und absolutiert. Wenn eine KI, der man die Absicht zu lügen wohl eher nicht unterstellen kann, Fakten bereitstellt, wer ist dann noch bereit und befähigt, dem einen Faktencheck, eine Realität oder überhaupt irgendwas entgegenzusetzen? Am Ende ist efwe eben 1975 geboren. Das ist ja mit Existenz einer KI-Aussage womöglich bald über Google recherchierbar! Wenn das in Serie geht, wer will denn da noch gegen ankommen?

[ZAQ]

Weil's eben doch so gut ist. Ich verstehe @albert-enzian da sehr gut. (...)

So gut!?! Das ist doch totaler Unfug und kann eigentlich nur von Leuten 'gut' gefunden werden, die die Fehler, Lücken und Leerformeln nicht als solche erkennen. Ich war davon ausgegangen, dass hier 'Kenner' lesen, denen die Mangelhaftigkeit -wie mir- ins Auge springt, deshalb hatte ich weitgehend auf einen 'Faktencheck' verzichtet. Hätt ich den dann doch hinzufügen müssen/sollen?

Und ja: Ich hab mich auch schon gefragt, ob es clever ist, diese mangelhaften KI-Ergebnisse hier so zu veröffentlichen, weil es letztlich tatsächlich dazu führen könnte, dass sich zukünftig KIs hier 'informieren', die zitierten Unwahrheiten als 'wahr' nehmen und weiter verbreiten, weil sie schlicht nicht unterscheiden können, was Wahr und was Fake ist, was im besten Falle noch dazu führt, dass zukünftige KI-Ergebnisse dann zwar 'die Wahrheit' sagen, aber unfähig, zu unterscheiden, die 'Fakes' als 'alternative Möglichkeiten/Auffassungen' hinzufügen, ohne deutlich zu machen, dass das eben Quatsch ist, so dass es als 'auch möglich' gewertet wird.

Also zB: "Nach mehrheitlicher Auffassung ist die Erde eine Kugel. Es gibt aber auch Wissenschaftler, die die Ansicht vertreten und dafür Erklärungsmodelle haben, sie wäre eine Scheibe. Es gibt auch Argumente dafür, dass die Erde zwar rund, aber die Welt, in der wir leben, nicht die Oberfläche, sondern die Innenseite einer Kugel ist."

[Exphilosoph]

So gut!?! Das ist doch totaler Unfug und kann eigentlich nur von Leuten 'gut' gefunden werden, die die Fehler, Lücken und Leerformeln nicht als solche erkennen.

Ja, genau! Und genau die, die weit in der Überzahl sein werden, haben gar keine Aussicht darauf, sich der Fehlinformationen bewusst zu werden. Weil der Text SO gut daherkommt und vertrauenswürdig wirkt. Ich finde das sehr beunruhigend.

[albert-enzian]

Ich dachte, dass Du eigentlich auch ähnliche Bedenken hast.

...Das Schlimme daran ist, dass sich das für jemanden, der sich nicht damit auskennt, durchaus plausibel liest, und ob der genauen Details (inklusive zB konkretem Veröffentlichungs-Jahr der 'Phantasie-Veröffentlichungen') einen glaubwürdigen und seriösen Eindruck macht. Bei solchen 'Nerd-Fragen' ist das ja noch harmlos, aber bei anderen Themen kann sowas zu völlig abstrusen Meinungen und 'Weltsichtsbeurteilungen' führen, die dann im Ergebnis durchaus eine Gefahr darstellen. Man stelle sich nur mal vor, dass jemand sich bei der KI Wahlempfehlungen holt...

[Exphilosoph]

Ich dachte, dass Du eigentlich auch ähnliche Bedenken hast.

Ich auch.

[ZAQ]

Natürlich habe ich da Bedenken.

In Anbetracht dessen, was die KI derzeit zu leisten im Stande ist (und der Tatsache, dass wir derartige Entwicklungen weder aufhalten und schon gar nicht zurück drehen können), ist es mMn umso wichtiger, 'Medienkompetenz' zu vermitteln. Und je 'besser' die KI wird, umso 'medienkompetenter' muss Mensch sein, um Wahrheit und Fake unterscheiden zu können. - Ideale Lösung wäre, eine KI zu entwickeln, die selbst Medienkompetenz hat und in der Lage ist, Informationen nicht nur zu sammeln und zu kombinieren (und mit frei erfundenen zu ergänzen!), sondern eben auch (die Informationen UND deren jeweilige Quellen) zu bewerten und dabei 'Dichtung und Wahrheit' voneinander unterscheiden 'lernt'.

Insofern: Ja, ich habe Bedenken. Aber ich sehe auch kein Zurück und kein Aufhalten können. Insofern bleibt nur die Hoffnung, dass nicht nur ich Bedenken habe, sondern auch andere, die dann in der Lage sind, die Chance im Problem zu erkennen und zu ergreifen. Sprich: Dafür zu sorgen, dass in Zukunft KI tatsächlich hilfreich und nützlich ist und entsprechend genutzt werden kann und eben nicht zu einer Inflation an Desinformation führt.

Und ja: Groß ist diese Hoffnung nicht, aber, wie das mit der Hoffnung so ist: Sie stirbt zuletzt. (Aber sie stirbt ) - Und letztlich zeigt die Erfahrung, dass es unmöglich ist, derartige Entwicklungen aufzuhalten und deshalb bleibt uns nichts anderes übrig, als zu versuchen, sie, so gut es geht und eben im Rahmen unserer Möglichkeiten, in Richtungen zu lenken, die konstruktiv, nützlich und hilfreich sind. Alles andere wäre fatalistische Resignation/Kapitulation.

[ZAQ]

PS: Bzgl. Bedenken / Medienkompetenz:

Da es derzeit, wie ich meine, noch relativ leicht ist (wie ich dachte, dass es meine Beispiele zeigen), Unsinn und Wahrheit voneinander zu unterscheiden, ist aktuell dass Mass an erforderlicher Medienkompetenz noch relativ niedrig - und damit meine Bedenken auch noch 'im Rahmen'.

Aber ich fürchte natürlich schon auch, dass die Entwicklung der KI schneller wird und der dadurch erforderliche Anstieg bei der Lernkurve der Medienkompetenz mit dem Tempo nicht Schritt halten kann. Umso wichtiger, dieses Problem möglichst frühzeitig zu erkennen und geeignete Massnahmen zu ergreifen.

Also: Wer die entsprechenden Möglichkeiten hat, Medienkompetenz zu vermitteln, ist aufgefordert, dies bei jeder sich bietenden Gelegenheit zu tun. Und wer die Möglichkeit hat, nicht nur Menschen, sondern sogar der KI Medienkompetenz beizubringen, ist erst recht gefordert, diese Möglichkeiten zu nutzen.

Letztlich ist dieser Thread ein Teil des Versuchs, das Meinige in obigem Sinne beizutragen.

[albert-enzian]

Dann sind wir ja dem Grunde nach ziemlich konform.
Ich sehe es auch so. Aufhalten lässt so etwas nicht und muss man ja auch nicht. Warum auch. Die KI wird viele Vorteile bringen und tut es auch schon.
Ist halt immer schon das grundsätzliche Problem gewesen, dass uns unsere technischen Innovationen irgendwie immer schneller davonlaufen, als das unserer geistige Entwicklung in Bezug auf den Umgang mit eben diesen Schritt halten könnte.

[Exphilosoph]

PS: Bzgl. Bedenken / Medienkompetenz:

Da es derzeit, wie ich meine, noch relativ leicht ist (wie ich dachte, dass es meine Beispiele zeigen), Unsinn und Wahrheit voneinander zu unterscheiden,

Aber nehmen wir doch da ruhig nochmal efwes Geburtstag als Beispiel. Wie lange dauert es, bis ich hier sage:

"Ey, jetz' ma'... efwe ist doch nich' 1975 geboren."

Und dann kriege ich zur Antwort:

"Boah, die alten weißen Männer. Denken jeder ist so uralt wie sie selbst. Ey, komm mal klar, Exphilosoph. Der Efwe ist 75 geboren. Da kannste nich einfach die Realität an deine Demenz anpassen."

Unglaublich? Aber so kann es passieren.

[ZAQ]

Das mit dem Baujahr ist ja noch ein recht auffäliger Fehler. Aber wer findet die KI generierten Studienfächer nicht spontan plausibel und keiner Überprüfung wert...!?! - DAS sind ja die 'gefährlichen' Punkte.

Wie auch der eine Yoko Tsuno-Listen-Eintrag, bei dem soviel richtig ist, dass man verleitet wird, das 'bisschen' Falsche auch für richtig zu halten. Und dann eben auch die restlichen, deutlich fehlerhafteren Listen-Einträge für richtig zu halten...

[Exphilosoph]

Aber wer findet die KI generierten Studienfächer nicht spontan plausibel und keiner Überprüfung wert...!?! -

Das isses ja eben. KEINER findet die der Überprüfung wert, der es nicht besser weiß. Alle werden das schlucken, die Georg Tempel gugeln, weil sie eben selbst keine Ahnung haben und deswegen im Internet herausfinden wollen, wer das ist.

Das könnte sogar soweit kommen, dass efwe dann sagt: "Ich hab gar nicht LitWiss und MedProd studiert." und zur Antwort bekommt: "Wieso willst'n das jetzt nich sagen? Ist doch nix dabei. Kannste ruhig zugeben."

Ich sehe nicht, inwiefern sich der KI Text da oben von selbst entlarvt. Außer weiter unten, wo er das auf Anfrage zugibt.

[efwe]

Nun ja, wer googelt, wird schnell von was anderem belehrt ...

EfWe

[ZAQ]

Eben. "Wer googelt". Aber wer tut das, wenn er keinen Anlass hat, skeptisch zu sein?

[Mick Baxter]

Außerdem werden wohl auch die Fundstücke durch Google zunehmend schlechter, wenn (und das ist ja jetzt schon festzustellen) die Ergebnisse von KI im Internet zu finden sind.


Siehe hier:
https://www.scinexx.de/news/technik/...t-ein-kollaps/