Künstliche Intelligenz - soll man Heulen oder Lachen?

[michael-1]

Lt. Bundesministerium für Forschung und Entwicklung ist "künstliche Intelligenz" (KI)

eine der wichtigsten Schlüsseltechnologien – mit erheblichen Chancen für Wissenschaft, Wirtschaft und Gesellschaft.

Quer durch alle Medien wird der Eindruck vermittelt, dass mit KI Probleme gelöst werden könnten, für die unsere "natürliche Intelligenz" nicht ausreicht. Seit der Vorstellung von ChatGPT wimmelt es im Internet von KI-Tools. Deren Ergebnisse sind meines Erachtens aber eher mit Vorsicht zu genießen und der gelieferte bullshit ist nicht immer so offensichtlich wie in den beiden folgenden Beispielen zur KI Leo im Browser Brave:
Als Anfrage wurde jedes Mal "Schwerer Kreuzer Prinz Eugen" angegeben.

Am 10.11.2023 erhielt ich die Auskunft:

The Prinz Eugen was a German heavy cruiser that served during World War II. It was named after Prince Eugen of Austria, a member of the Habsburg royal family. The ship was commissioned in 1938 and saw action in several naval battles, including the Battle of the Denmark Strait and the Battle of North Cape. The Prinz Eugen was known for its speed and firepower, and it was one of the most powerful warships of its time. However, it was also involved in several controversial actions, such as the sinking of the British passenger ship SS Athenia, which resulted in the deaths of over 1,000 civilians. Today, the Prinz Eugen is remembered as a symbol of the devastating consequences of war and the importance of promoting peace and understanding. Is there anything else you would like to know?

Heute, am 12.11.2023, war die Antwort kürzer:

The "Schwerer Kreuzer Prinz Eugen" was a German heavy cruiser that served during World War II. It was launched in 1938 and was heavily damaged during the Battle of North Cape in 1943. The ship was later scrapped in 1947. Is there anything else you would like to know?

Insbesondere die Antwort vom 10.11. finde ich persönlich erschreckend. Soviel Geschichtsklitterung oder Fake News ist mit natürlicher Intelligenz kaum machbar!

Freundliche Grüße
Michael

[Sprotte]

Ich denke, mit der stärkeren Digitalisierung sind wir auf dem falschen Weg.
Es zeigt sich doch, dass dadurch Firmen, Krankenhäuser und sonstige öffentliche Einrichtungen gehackt und dadurch stillgelegt werden können.

[Urs Heßling]

moin,

Insbesondere die Antwort vom 10.11. finde ich persönlich erschreckend.

Ja

Ich denke, mit der stärkeren Digitalisierung sind wir auf dem falschen Weg.

Ich halte diesen Weg für unumkehrbar ... so wie einen Kanuslalom in einer Wildwasserstrecke.
Wir können nur versuchen - um in dem Bild zu bleiben - die richtigen "Durchfahrten" zu erwischen.

Gruß, Urs

[Sprotte]

Hoffentlich schaffen wir das.
Trotzdem halte ich mich in der Beziehung so weit wie möglich zurück.

[ufo]

Vielen Dank Michael fuer das ausgesprochen spannende Experiment. So hatte ich mir KI noch nicht angeguckt.

Mit einem Job auf der Grenze zwischen Wissenschaft und Gesundheitswesen ... doch, doch – kuenstliche Intelligenz hat schon ihren Platz. Wobei ich sagen muss, dass ich mich nie mit dem Begriff 'Intelligenz' angefreunded habe. Auch ein komplexer Algorithmus ist doch immer noch nur ein Algorithmus. Als Menschheit wuerden wir gigantische Fortschritte machen, wenn wir nur verstuenden wie menschliche Intelligenz eigentlich funktioniert. Dass wir Maschinen beibringen koennten, was wir selbst nicht verstehen ... aehm – noe. Aber es klingt natuerlich toll. Und man kann so schoene Horrorszenarien daraus stricken.
 
Aber – ja, dann hast Du hier ja tatsaechlich ein tolles Horrorszenario entdeckt.
Whow.

Im Hochschulbereich waren wir schon ziemlich angepisst als Studenten zunehmend das Lehrbuch durch Wikipedia ersetzten. Das hat nicht zum Fortschritt beigetragen und nicht zur menschlichen Intelligenz.

Jetzt kann man Wikipedia durch etwas Dynamisches ersetzen; so eine Art Schwarmwissen. Ja, da kommt einem schon R.E.M.'s 'The End of the World as We Know it' in den Sinn. Es ist ja nicht so als wuerde der Algorithmus, den man da losschickt einem was ueber den Prinzen zu erzaehlen, jetzt als goldiger, kleiner Roboter durch die Bibliothek der Marineschule Muerwik wandern und lesen, dann noch einen Stop im Museum in Hamburg und bei der Helmut Schmidt Uni, weiter nach Bremerhaven und ... aber nein – der Algorithmus stoebert Seitenweise Onlineunfug durch.

Garbage in ... Garbage out.

Und jede Arbeit, jede Studie, jedes Paper, das auf diese Art kreiert wird, traegt ihrerseits zum 'Schwarmwissen' bei. Die Spirale kann eigentlich nur nach unten fuehren. Kuenstliche Intelligenz kennt halt keinen Peer Review Process.
 
Das nun scheint aber der eigentliche Schritt zu sein, der menschliche Intelligenz ausmacht – die Faehigkeit kritisch zu hinterfragen. Dies scheinen Algorithmen bisher nicht hinzukriegen.

Spannende Zeiten.     

[Urs Heßling]

moin,

der Algorithmus stoebert Seitenweise Onlineunfug durch. Garbage in ... Garbage out.

Selbst wenn das so ist, frage ich mich, wie es in beiden Beispielen zu der Verbindung mit "Nordkap 1943" kommt - die einzige Verbindung, die mir einfällt, ist, daß die Prinz Eugen beim Kanaldurchbruch (der in beiden Beispielen nicht erwähnt wird) zusammen mit der Scharnhorst fuhr

Das nun scheint aber der eigentliche Schritt zu sein, der menschliche Intelligenz ausmacht – die Faehigkeit kritisch zu hinterfragen. Dies scheinen Algorithmen bisher nicht hinzukriegen.

Diese Fähigkeit könnte man in den Algorithmus implementieren ... wenn man das denn will.

Gruß, Urs

[maxim]

Wobei es bei KI natürlich auch stark davon abhängt, welche Fragen man stellt (und welche KI man fragt). ChatGTP schreibt bei den richtigen Anfragen teilweise schon sehr eindrucksvolle Texte (und Übersetzungen).

Die Aufgabe des menschlichen Bedieners ist die Ergebnisse kritisch zu hinterfragen.