CONTEST- Dream Steem Contest - The Confession / Das Geständnis

For @dove11 and his ambitious task... ;-))

Deutsch im Anschluß…

The situation was getting worse! They were about 300 nautical miles away from the shore. The storm was increasing every minute, and their steamship's engines had stopped working. So the two engineers attending the engine room panicked, and both of them made a plan. They both took the only lifeboat and left the steamship, trying to find help on their own without informing anyone!

Oh no, not even the captain of the ship! Maybe he would have stopped them or at least kept a vigil on them. However, after two days of continuous sailing, they regretted their decision to leave the steamship. They wanted to help the team, but they were in trouble themselves.

As the storm was getting intense and their boat was tossing almost uncontrollably. Then suddenly it dawned on one of them, "Oh, I have one of those three doves in the boat." He immediately took out his diary from his pocket and wrote a message. He knew this artificial budgie that their captain had kept for this special purpose would probably reach the steamship. They were a little more hopeful now. So one of them started writing a message on the paper. Finally, he finished writing it and read it for the last time before sending it through their artificial dove.

The dove finds its target with the programmed certainty of a machine. The captain of the steamer, who saw her coming when he had already got the problems of the lurching and pitching ship in the storm well under control, received her with mixed feelings....

"This is nonsense!" exclaimed Sam at that point. If the artificial dove is supposed to be such a sophisticated drone that it can navigate flawlessly even in a storm, then it should also have a text input field or be able to record a voice message; the note is middle age...!" "Well," says Helen, his mother. "I guess that's a weakness in the computer game design. Developers are paying more and more attention to graphics and animation in recent years, so you can admire how lifelike those doves look, how realistic the storm and the fear of the engineers in the little boat seems." "Isn't logic more important?" "You say something there... In a computer game you can perhaps overlook that. But not in simulations and computer models. Not at all. And there, too, I have a suspicion that the limited possibilities of AI both give away opportunities and possibilities that humans would get to with their creativity and improvisational talent, their adaptability and empathy, and also do some emotional damage that is then unlikely to be repairable."

Sam was silent for a long while. He is an avowed fan of robots, chatbots and so-called intelligent systems in all areas of everyday life. But he's only a 12-year-old fan who can hear when "his" adults get upset about numerous malfunctions, wrong decisions and undesirable side effects.

"Modern technology is supposed to make our lives easier, make difficult decisions safer and protect us humans in general, isn't it?" "I guess that's the idea..." In a doubtful tone, Helen weighs her head. "I'm not sure that their use doesn't make things worse in many cases. But it's not for me to judge. What I don't understand is the insistence on this one direction in development. You can't get around this stuff any more. My bus ticket is only available as a code in a smartphone app, I can only apply online with an electronic signature, which in turn requires various ID functions that I would actually like to do without. Soon my car will only start in the morning if I haven't yet exceeded my kilometre quota for the month..." "You would like to do everything old-fashioned manually and do it directly?" "Where it can be done without much strain, yes, absolutely! I don't need to have anything facilitated as long as I am fit and mobile. For old and infirm people, these things may be helpful and welcome - even if they in particular are likely to be overwhelmed with the operation of such systems. But surely we, young and healthy people, don't need to be spared every effort!"

Sam is quiet again. He likes to think a lot about the big picture. And he tries to bring his world view into line with the computer games he is allowed to try out and evaluate as a beta tester for a large corporation before they are launched on the market. Later, he would like to develop such programmes himself. And make the world a better place. Talks with his mother, however, make it increasingly clear to him that his two dreams might not be compatible.

"The two engineers in the game were people who panicked and reacted irrationally in a dangerous situation. They should have used their skills and knowledge to stabilise the ship and make the captain's job easier. Couldn't an AI have helped them conquer their fear here?" "That's exactly the point: the two of them had all the necessary knowledge and experience to be able to assess the situation. But on top of that, there was their fear. An immediate, physical experience such as you may never have felt yourself. One of the strongest emotions of all. You can learn to control it somewhat, but a person will never be free of it. A computer cannot understand this feeling. So it can't act on it either. A chatbot may know these words and can throw out beautiful phrases about hope, love or longing, trust, courage or confidence. But it can do absolutely nothing with them. A computer game, too, naturally creates a thrill in the people in front of the screen, plays with their emotions. But it does so because it was written and programmed by humans. The system itself has no idea what's going on outside its processors..."

Sam ponders. "The game has more weak points like that. Like when the machinist runs the engines dry to increase their power. Technically, they should have caught fire, right?" "Yes, Sam. And anyway, such a big ship with so many people on board would not go to sea with only a tiny lifeboat. At least since the sinking of the Titanic, we know how important rescue technology is." "Then it's all nicely done, but not useful?"

Now Helen is silent.

"Mum, I confess that I am still very uncertain here.... I have to learn a lot and think about what kind of life I should choose. Can we play chess instead for now? Just the two of us, without any computer?" "Then go ahead and set up the pawns, I'll get us some drinks!"

Deutsche Version:

Die Situation verschlimmerte sich immer mehr! Sie waren etwa 300 Seemeilen von der Küste entfernt. Der Sturm wird von Minute zu Minute stärker, und die Maschinen des Dampfers funktionieren nicht mehr. Die beiden Ingenieure im Maschinenraum gerieten in Panik, und beide schmiedeten einen Plan. Sie nahmen beide das einzige Rettungsboot und verließen den Dampfer, um auf eigene Faust Hilfe zu suchen, ohne jemanden zu informieren!

Oh nein, nicht einmal den Kapitän des Schiffes! Vielleicht hätte er sie aufgehalten oder sie zumindest im Auge behalten. Doch nach zwei Tagen ununterbrochener Fahrt bereuten sie ihre Entscheidung, das Schiff zu verlassen. Sie wollten der Mannschaft helfen, aber sie waren selbst in Schwierigkeiten.

Der Sturm wurde immer heftiger und ihr Boot schwankte fast unkontrollierbar. Da dämmerte es einem von ihnen plötzlich: "Oh, ich habe eine der drei Tauben im Boot." Sofort holte er sein Tagebuch aus der Tasche und schrieb eine Nachricht. Er wusste, dass dieser künstliche Wellensittich, den ihr Kapitän für diesen speziellen Zweck aufbewahrt hatte, den Dampfer wahrscheinlich erreichen würde. Sie waren jetzt ein wenig hoffnungsvoller. Also begann einer von ihnen, eine Nachricht auf das Papier zu schreiben. Schließlich schrieb er sie fertig und las sie ein letztes Mal, bevor er sie durch ihre künstliche Taube schickte.

Die Taube findet mit der programmierten Sicherheit einer Maschine ihr Ziel. Der Kapitän des Dampfers, der sie kommen sah, als er die Probleme des schlingernden und stampfenden Schiffs im Sturm bereits gut unter Kontrolle gebracht hatte, empfing sie mit gemischten Gefühlen…

„Das ist doch Blödsinn!“ rief Sam an der Stelle. Wenn die künstliche Taube eine so hoch entwickelte Drohne sein soll, daß sie sogar im Sturm fehlerfrei navigieren kann, dann sollte sie auch ein Texteingabefeld haben oder eine Sprachnachricht aufnehmen können; der Zettel ist doch Mittelalter…!“ „Na ja“ meint Helen, seine Mutter. „Das ist wohl eine Schwäche im Design des Computerspiels. Die Entwickler kümmern sich in den letzten Jahren immer mehr um die grafische Darstellung und um die Animation, da kann man schon bewundern, wie lebensecht diese Tauben aussehen, wie realistisch der Sturm und die Angst der Ingenieure in dem kleinen Boot wirkt.“ „Ist denn die Logik nicht wichtiger?“ „Da sagst Du etwas… In einem Computerspiel kann man darüber vielleicht hinwegsehen. Bei Simulationen und Rechenmodellen dafür nicht. Ganz und gar nicht. Und auch da habe ich den Verdacht, daß durch die begrenzten Möglichkeiten der AI sowohl Chancen und Möglichkeiten, zu denen Menschen mit ihrer Kreativität und ihrem Improvisationstalent, ihrer Anpassungsfähigkeit und ihrer Empathie gelangen würden, verschenkt werden, als auch einiger emotionaler Schaden angerichtet wird, der dann nicht reparabel sein dürfte.“

Sam schwieg eine lange Weile. Er ist erklärter Fan von Robotern, Chatbots und sogenannten intelligenten Systemen in allen Bereichen des Alltags. Aber eben ein erst 12 Jahre alter Fan, der durchaus mitbekommt, wenn „seine“ Erwachsenen sich aufregen über zahlreiche Fehlfunktionen, falsche Entscheidungen und unerwünschte Nebeneffekte.

„Die moderne Technik soll uns doch das Leben erleichtern, schwierige Entscheidungen sicherer machen und überhaupt uns Menschen beschützen, oder?“ „Das ist wohl die Idee...“ In zweifelndem Tonfall wiegt Helen den Kopf. „Ich bin nicht sicher, ob ihr Einsatz nicht in vielen Fällen alles noch schlimmer macht. Aber es steht mir nicht zu, das zu bewerten. Was ich nicht verstehe, ist das Beharren auf dieser einen Richtung in der Entwicklung. Man kommt ja gar nicht mehr vorbei an dem Kram. Mein Busticket gibt es nur noch als Code in einer Smartphone-App, Anträge kann ich nur noch online stellen mit einer elektronischen Signatur, die wiederum verschiedene Ausweisfunktionen bedingt, auf die ich eigentlich gerne verzichten würde. Demnächst wird mein Auto morgens nur noch starten, wenn ich mein Kilometerkontingent für den Monat noch nicht überschritten habe...“ „Du würdest gerne altmodisch alles manuell machen und direkt erledigen?“ „Wo es ohne große Belastung möglich ist, ja, absolut! Ich muß nichts erleichtert bekommen, solange ich fit und mobil bin. Für alte und gebrechliche Menschen mögen diese Dinge hilfreich und willkommen sein – auch wenn gerade die mit der Bedienung solcher Systeme überfordert sein dürften. Aber wir, junge und gesunde Leute, brauchen uns doch nicht jede Anstrengung ersparen!“

Sam ist wieder still. Er denkt gerne und viel nach über die großen Zusammenhänge. Und er versucht seine Weltsicht in Übereinstimmung zu bringen mit den Computerspielen, die er als Beta-Tester für einen großen Konzern ausprobieren und beurteilen darf, bevor sie auf den Markt kommen. Später möchte er gerne selber solche Programme entwickeln. Und die Welt zu einem besseren Ort machen. Die Gespräche mit seiner Mutter machen ihm allerdings immer deutlicher, daß seine beiden Träume eventuell nicht miteinander vereinbar sein könnten.

„Die beiden Ingenieure in dem Spiel waren Menschen, die in einer gefährlichen Situation Panik bekamen und irrational reagierten. Ihre Fähigkeiten und Kenntnisse hätten sie eigentlich dazu benutzen müssen, das Schiff zu stabilisieren und dem Kapitän seine Aufgabe zu erleichtern. Hätte eine KI ihnen hier nicht helfen können, ihre Angst zu besiegen?“ „Das ist genau der Punkt: die beiden hatten alles nötige Wissen und dazu Erfahrung, um die Situation einschätzen zu können. Dazu kam aber ihre Angst. Ein unmittelbares, körperliches Empfinden, wie Du es selbst vielleicht noch nie erlebt hast. Eine der stärksten Emotionen überhaupt. Man kann lernen, sie etwas zu kontrollieren, aber ein Mensch wird nie frei davon sein. Ein Computer kann dieses Gefühl nicht nachvollziehen. Es kann also auch nicht darauf eingehen. Ein Chatbot kennt vielleicht diese Worte und kann schöne Formulierungen über Hoffnung, Liebe oder Sehnsucht, Vertrauen, Mut oder Zuversicht auswerfen. Er kann damit aber absolut nichts anfangen. Auch ein Computerspiel erzeugt natürlich einen Nervenkitzel in den Menschen vor dem Bildschirm, spielt mit ihren Emotionen. Das tut es aber, weil es von Menschen geschrieben und programmiert wurde. Das System selbst hat keine Ahnung, was da außerhalb seiner Prozessoren passiert...“

Sam überlegt. „Das Spiel hat noch mehr solcher Schwachstellen. Etwa, als der Maschinist die Motoren trocken laufen läßt, um ihre Leistung zu erhöhen. Eigentlich hätten sie Feuer fangen müssen, richtig?“ „Ja, Sam. Und überhaupt würde so ein großes Schiff mit so vielen Leuten an Bord nicht mit lediglich einem winzigen Rettungsboot in See stechen. Spätestens seit dem Untergang der Titanic weiß man, wie wichtig die Rettungstechnik ist.“ „Dann ist das alles nett gemacht, aber nicht sinnvoll?“

Jetzt schweigt Helen.

„Mama, ich gebe zu, daß ich hier noch sehr unsicher bin... Ich muß viel lernen und nachdenken, welche Art zu leben ich wählen sollte. Wollen wir jetzt lieber Schach spielen? Nur wieder beide, ganz ohne Computer?“ „Dann stelle schon 'mal die Figuren auf, ich hole uns Getränke!“