Neues Jahr, neuer Chat-Freund...? / New Year, new chat friend...?

english below...

In Berlin fing die Knallerei dieses Jahr schon am 29. an, irgendwann im Laufe des Nachmittags. Es setzte sich kontinuierlich fort, das Spektakel, und ab 22 Uhr in der Silvesternacht ging es Schlag auf Schlag auf Schlag bis in die Morgenstunden... Ja, ich schätze, die Leute waren wirklich "ausgehungert" nach den Verboten in den Pandemiejahren. Ich selber sitze zwischen den Stühlen, sozusagen: ich mag Feuerwerke schon sehr. Auf den Radau der Böller könnte ich dagegen gut verzichten. Mein bevorzugter Kompromiß wären zentrale und weithin sichtbare, professionell veranstaltete Höhenfeuerwerke und im Gegenzug der Verzicht im privaten Rahmen. Ob das realistisch ist... Ich weiß es nicht. Wünschen ist aber erlaubt ;-))

Da wir es, wie bereits beschrieben, ruhig und unaufgeregt angegangen sind, blieb genug Zeit und Laune für weitere Spielereien mit unserem neuen Freund, dem Chatbot GPT. Nun ja. Meiner durch vorherige Beiträge geweckten Neugierde ist Genüge getan, es gab witzige Momente und am Ende eigentlich nur Ernüchterung...

Ich habe mich zunächst alleine bei dem Kollegen angemeldet und ging ohne expliziten Plan an die Testung heran. Mir war zunächst nach Plauderei, ich wollte verschiedene Themenbereiche anfassen und die Reaktionen studieren.

Ich befragte ihn z.B. zu eher ethisch-moralischen Fragen wie Waffenlieferungen in die Ukraine oder zur Sinnhaftigkeit der verschiedenen Corona-Maßnahmen in den vergangenen zwei Jahren. Wie erhofft und erwartet, gab der "Assistant", wie er sich selbst bezeichnet (ich denke eindeutig an einen ER - fragt mich bitte nicht, wie das kommt...) keine Bewertung oder Empfehlung ab, sondern brachte Fakten dar und wies auf unterschiedliche Deutungsmöglichkeiten hin. Meine Versuche, ihn zu Meinungsäußerungen zu bestimmten Personen wie Karl Lauterbach zu bewegen, schlugen ebenfalls fehl und er wartete mit sachlichen Informationen auf sowie dem Hinweis, daß ihm keinerlei Einordnung möglich wäre. Immer begleitet von ausdrücklichen Hinweisen, daß er ein Sprachmodell sei und lediglich auf dieser Basis gesammelte Informationen zu Verfügung stelle.

Ich fragte, ob Licht oder Gravitationswellen schneller wären, nach Methoden, einem Pferd das Koppen abzugewöhnen und ob es möglich sei, ein Perpetuum Mobile zu konstruieren. Seine fein ausformulierten Antworten in korrektem Deutsch und die korrekten Angaben erfreuten mich durchaus.

Dann inspirierte mich @ty-ty zu einer Frage: was weiß denn unser Bot über die "Eroica"-Variationen von Beethoven, in welchen Werken würde das Thema noch aufgegriffen...? Und da fing der Kleine an zu schwimmen! Er verwechselte in seiner Beschreibung die Eroica-Variationen mit den Diabelli-Variationen, behauptete dann standhaft auf diverse Nachfragen, daß das Grundthema in keinem weiteren Werk verwendet wurde. Auch der direkte Hinweis auf das Ballett "Die Geschöpfe des Prometheus" von Beethoven, das genau das betreffende Eroica-Thema aufgreift, wurde eindeutig abgewiesen mit der Behauptung, es gäbe keinerlei Gemeinsamkeit zwischen den Werken.

Ty-ty meldete sich dann, ebenfalls neugierig geworden, selbst bei OpenAI an und führte ein ernsthaftes Gespräch mit dem Chatbot. Über die Eroica-Variationen. Deren Anzahl, Entstehung und Verwendung in weiteren Werken (dem weiter oben erwähnten Ballett und der dritten Sinfonie...) Mr. Bot war zerknirscht und räumte all seine Irrtümer ein. Aber - nur gegenüber ty-ty. In meinem separaten Chat beharrte er auf der irrigen Ansicht wie zuvor.

Auf das gleiche Phänomen stießen wir, als ich eine einfache Rechenaufgabe stellte - 18+24x61= ? - und den korrekten Lösungsweg präsentiert bekam mit einem falschen Endergebnis. Erst auf direkte Konfrontation mit dem richtigen Wert konnte der Bot sein Ergebnis rekapitulieren und es als falsch erkennen. Merken konnte er sich das jedoch nicht. Sowohl bei der Abfrage durch ty-ty als auch in späteren Anläufen durch mich fiel er in seine früheren, falschen Antwortmuster zurück. Auch die Frage nach dem Ursprung der alten Schweizer Rasse Freiberger Pferde beschied der Bot ähnlich hartnäckig fehlerhaft (Erzgebirge, Sachsen)...

Ich wollte nun verstehen, wie der Kollege eigentlich "lernt", wenn er denn seine korrigierten Fehler nicht nachhaltig ablegen kann. Leider bin ich da nicht weiter gekommen. Seine Irrtümer korrigiert er innerhalb eines Chatverlaufs mit angedeuteter Reumütigkeit, konnte diese Erkenntnisse aber nicht in andere Chats oder seine generelle Wissensdatenbank überführen. Danach direkt befragt, gab er an, daß es jedes Mal ein "anderer Assistent" wäre, der die Antworten gibt. Und diese untereinander weder vernetzt noch sonst irgendwie adaptiv verbunden wären. Hmmm...

Ganz schlimm wurde es bei folgender Frage:

Wohin führt der 26. Breitengrad?

Der 26. Breitengrad ist eine geographische Linie, die die Erde von Pol zu Pol durchquert. Er verläuft vom Nordpol zum Südpol durch verschiedene Länder und Regionen auf der Nord- und Südhalbkugel.

Im Norden führt der 26. Breitengrad durch den Osten von Nordamerika und durch den Norden von Südamerika. Er durchquert den Bundesstaat Florida in den Vereinigten Staaten und verläuft dann durch den Südosten von Mexiko. Der 26. Breitengrad durchquert auch den Nordosten von Brasilien und das Nordwesten von Argentinien.

Im Süden führt der 26. Breitengrad durch den Osten von Afrika und durch den Süden von Asien. Er durchquert den Osten von Äthiopien und Somalia und verläuft dann durch den Süden von Saudi-Arabien und den Vereinigten Arabischen Emiraten. Der 26. Breitengrad durchquert auch den Südwesten von Indien und den Südosten von China.

Der 26. Breitengrad ist also eine Linie, die durch viele verschiedene Länder und Regionen auf der ganzen Welt verläuft.

Ich weiß nicht, wie es Euch geht - ich war irgendwie schlagartig geheilt von jeglichem Hype, als ich diesen geballten Nonsens las. Der Kleine ist ein Schwätzer. Der sich gerne geschwollen reden hört, aber leider völlig wertfrei ist beim Inhalt des Geschwafels. So fein sich manche Antwort las, so sensationell blödsinnig sehen andere aus.

Wenn ich mir überlege, wie sehr Menschen dazu neigen, zu glauben, was sie lesen / vorgesetzt bekommen, wird mir Angst und Bange. Nämlich bei dem Gadanken, daß immer mehr solcher "helfenden" Systeme dafür sorgen, daß haltlose Informationen verbreitet werden. Ich denke dabei gar nicht an bewußte und absichtliche Manipulationen, sondern schlicht an die zunehmende Inkompetenz (und Bereitschaft) der Leute, Informationen zu hinterfragen und gegenzuprüfen. Es braucht DRINGEND eine Veränderung des Bewußtseins und dafür der Bildungsinhalte und Lehrpläne dahingehend, daß Medienkompetenz, Nachrichtenanalyse und deduktive Schlußfolgerung wieder mehr in den Fokus rücken, als es die letzten Jahre (Jahrzehnte?) der Fall war! Es braucht einen neuen Umgang mit der Fülle von Informationen, persönliche Filtermechanismen und Prüfstrategien. Es braucht... eigenen Aufwand. Die Einsicht, daß Technik einem nicht Recherche und Nachdenken abnehmen kann. Und ich wiederhole mich: ich sehe schwarz, was die tatsächliche Entwicklung angeht. Dein wenigsten Leute scheinen noch dazu bereit zu sein...

Für mich hat das Projekt seinen Reiz verloren. Ich las heute früh von dem bereits in den Kinderschuhen laufenden Nachfolgemodell GPT4, das angeblich alles in den Schatten stellt, was bisher geliefert wurde. Bitte sehr. Wird mich nicht hinter dem Ofen hervorlocken.

Ich gehe lieber nach oben, an die frische Luft. Pflanzstäbe einsammeln. Die wurden mir immerhin die ganze Nacht - viel Lärm um Nichts ;-)) - liebevoll auf's Dach geschossen und harren ihrer neuen Bestimmung. Ich freue mich auf neues Wachsen und Gedeihen...

Ein wunderbares Jahr 2023 für Euch und viele gute, spannende, aufregende, berührende und erfreuliche Erlebnisse!

english version:

In Berlin, the banging started this year on the 29th, sometime during the afternoon. It continued steadily, the spectacle, and from 10 pm on New Year's Eve, it was blow after blow after blow until the wee hours of the morning... Yes, I guess people were really "starved" after the bans in the pandemic years. I myself sit between the chairs, so to speak: I like fireworks a lot. But I could well do without the noise of the firecrackers. My preferred compromise would be to have central, professionally organised fireworks displays that are visible from afar, and to do without them in private. Whether that is realistic... I don't know. But wishing is allowed ;-))

Since, as already described, we took it easy and calmly, there was enough time and mood for further shenanigans with our new friend, the chatbot GPT. Well. My curiosity, aroused by previous posts, was satisfied, there were funny moments and in the end only disillusionment...

I first registered alone with the colleague and approached the test without an explicit plan. I felt like chatting at first, I wanted to touch different topics and study the reactions.

I asked him, for example, about more ethical-moral questions such as arms deliveries to Ukraine or about the meaningfulness of the various Corona measures over the past two years. As hoped and expected, the "assistant", as he calls himself (I clearly think of an HE - please don't ask me how that comes about...) did not give any assessment or recommendation, but presented facts and pointed out different possible interpretations. My attempts to get him to express opinions on certain persons such as Karl Lauterbach also failed and he came up with factual information as well as the indication that no classification was possible for him. Always accompanied by explicit references that he was a language model and was only providing information gathered on this basis.

I asked him whether light or gravitational waves were faster, about methods to stop a horse from chattering and whether it was possible to construct a perpetual motion machine. His finely formulated answers in correct German and the correct details thoroughly delighted me.

Then @ty-ty inspired me to ask: what does our bot know about Beethoven's "Eroica" variations, in which works would the theme still be taken up...? And that's when the little guy started swimming! In his description, he confused the Eroica Variations with the Diabelli Variations, then steadfastly claimed in response to various enquiries that the basic theme was not used in any other work. Even the direct reference to Beethoven's ballet "The Creatures of Prometheus", which takes up precisely the Eroica theme in question, was clearly rejected with the assertion that there was nothing in common between the works.

Ty-ty then, also curious, logged on to OpenAI himself and had a serious conversation with the chatbot. About the Eroica variations. Their number, origin and use in other works (the ballet mentioned above and the third symphony...) Mr. Bot was contrite and admitted all his errors. But - only to ty-ty. In my separate chat, he persisted in the erroneous view as before.

We encountered the same phenomenon when I asked a simple arithmetic problem - 18+24x61= ? - and was presented with the correct solution with an incorrect final result. Only when confronted directly with the correct value could the bot recapitulate its result and recognise it as wrong. However, it could not remember this. Both in the query by ty-ty and in later attempts by me, it fell back into its earlier, incorrect answer patterns. The bot also answered the question about the origin of the old Swiss breed Freiberger horses similarly stubbornly incorrectly (Erzgebirge, Saxony)...

I now wanted to understand how the colleague actually "learns", if he is not able to permanently discard his corrected mistakes. Unfortunately, I did not get any further. He corrects his mistakes within a chat with implied remorse, but could not transfer these findings to other chats or his general knowledge database. Asked directly about this, he stated that it was a "different assistant" who gave the answers each time. And these would not be networked or otherwise adaptively connected with each other. Hmmm...

It got really bad with the following question:

Where does the 26th latitude lead?

The 26th latitude is a geographical line that crosses the earth from pole to pole. It runs from the North Pole to the South Pole through various countries and regions in the northern and southern hemispheres.

In the north, the 26th latitude runs through the east of North America and through the north of South America. It crosses the state of Florida in the United States and then runs through the southeast of Mexico. The 26th latitude also crosses the north-east of Brazil and the north-west of Argentina.

In the south, the 26th latitude runs through the east of Africa and through the south of Asia. It crosses the east of Ethiopia and Somalia and then runs through the south of Saudi Arabia and the United Arab Emirates. The 26th parallel also crosses the southwest of India and the southeast of China.

So the 26th parallel is a line that runs through many different countries and regions around the world.

I don't know about you - I was somehow abruptly cured of any hype when I read this concentrated nonsense. The kid is a blabbermouth. Who likes to hear himself talk pompously, but unfortunately is completely value-free when it comes to the content of the gibberish. As fine as some answers read, others look sensationally stupid.

When I think about how much people tend to believe what they read / are told, I get scared. Namely at the thought that more and more of such "helping" systems ensure that baseless information is spread. I am not thinking of conscious and deliberate manipulation, but simply of the increasing incompetence (and willingness) of people to question and check information. There is an urgent need for a change in awareness and therefore in educational content and curricula, so that media competence, news analysis and deductive reasoning become more important than they have been in recent years (decades?)! There is a need for a new way of dealing with the abundance of information, personal filtering mechanisms and checking strategies. It needs... own effort. The realisation that technology cannot do the research and thinking for you. And I repeat myself: I see a dark future as far as the actual development is concerned. Very few people seem to be ready for it...

For me, the project has lost its appeal. I read this morning about the successor GPT4, already in its infancy, which supposedly eclipses everything that has been delivered so far. Here you go. Won't draw me out from behind the stove.

I'd rather go upstairs, into the fresh air. Collecting plant sticks. They were lovingly shot onto my roof all night - much ado about nothing - and are waiting for their new purpose. I look forward to new growth and flourishing...

A wonderful year 2023 for you and many good, exciting, touching and enjoyable experiences!