Hallo an alle,
Seit den Anfängen der KI habe ich gesagt, dass die Welt chaotisch sein wird. Hier ist eine Nachricht, was in die Zukunft auf uns alles zu kommt.
„Bitte stirb“: Google-KI beleidigt Student und wünscht ihm den Tod - FOCUS online
Gruß
Sascha
hatterchen1 
Prosseco „Alphabet“
Hallo Sascha,
Seit den Anfängen der KI habe ich gesagt,
wie alt bist du denn?
Die Geschichte der künstlichen Intelligenz:
https://mebis.bycs.de/beitrag/ki-geschichte-der-ki
dass die Welt chaotisch sein wird.
Unsere Welt und das Universum sind chaotisch. Nur im Chaos gibt es Entwicklung, ohne Chaos kommt alles schnell zum Stillstand, beim Menschen zur Dekadenz. Wer im Paradies lebt, sucht nicht nach neuen Ufern.
Gruß
h1 (der viel älter ist...
)
Prosseco hatterchen1 „Hallo Sascha, wie alt bist du denn? Die Geschichte der künstlichen Intelligenz: ...“
Hola hatterchen1.
Was ich mit der KI meine, auch wie du es nanntest. Sondern mehr aus der Zeit, in der es mit Openai und mehr mit Chatgpt begann. Jetzt sind die alle irgendwie verrueckt geworden. Wie einer der AI Gründer, die von Google (Geoffrey Hinton) zurückgetreten ist, wegen der Gefahr. Das gleiche seit 2012 mit Boston Dynamics.
This is How Boston Dynamics Robots Evolved in 10 Years (2012-2022)
Ich sehe die Zukunft noch makabrer als sie ohnehin schon ist. Natürlich ist es logisch, dass dies der Weg in die Zukunft ist. Man muss ihm nur ein Gewissen geben, und in bestimmten Filmen wie Elysium oder Disneys Wall-E wird es Realität.
Das Schöne daran ist, dass ich ein solches Chaos nicht mehr erleben werde. So Gott will, werde ich bis 2038 leben, und damit bin ich mehr als zufrieden.
Saludos
Sascha
Ventox Prosseco „Alphabet“
Dieser Student hat ein mentales Problem.
Oder er will sich wichtig machen.
The Wasp Prosseco „Alphabet“
Seit den Anfängen der KI habe ich gesagt, dass die Welt chaotisch sein wird.
Und damit liegst du komplett falsch. KI ist das Gegenteil von Chaos. KI ist ein mathematisch-technisches Regelwerk, das wegen seiner Komplexität von der Mehrheit der Menschen nicht oder nicht richtig verstanden wird.
Jede KI-Ausgabe eines Chatbots kann zurückverfolgt werden, im Zweifel kann man gar den Chatbot selbst fragen, wie er auf seine Antwort gekommen ist. Die zunehmende Kompexität stellt jeden Menschen vor ein Verständnisproblem. Komplex sind die Vorgänge für uns, weil eine riesige Menge an Daten binnen Bruchteilen von Sekunden ausgewertet werden können und für uns damit der Eindruck einer höheren Intelligenz entsteht.
Was du hier verlinkt hast, ist ein bekanntes Problem, das eigentlich nicht vorkommen dürfte, weil eine KI von den Programmierern ein Regelwerk vorgeschrieben bekommt und somit verhindert wird, dass ein Chatbot z.B. Menschen bedroht oder beleidigt. Vereinfacht gesagt, die KI muss immer freundlich antworten. Da die KI nur mathematischen Formeln (Algorithmen) folgt, wird sie auch nie gegen diese Regeln verstoßen.
Problematisch ist nicht die KI, problematisch können die Besitzer oder Macher der KI sein, also z.B. Programmierer, Firmen und Staaten, die die KI anbieten und nutzen. Technik - KI ist eigentlich nur ein technisches Gerät - kann immer missbraucht werden, wenn sie in die falschen Hände gerät. Die Entwicklung der KI wird niemand aufhalten, die Gier nach den Gewinnen, die diese Technik verspricht, ist viel zu groß. Die Fragen sind u..a.: Wie die Politik darauf reagiert und welche Regeln die Anbieter und Nutzer in Zukunft befolgen müssen? Das, was in deinem Link beschrieben wird, geht natürlich gar nicht.
Für mich stellt sich auch das Problem der Verteilungsgerechtigkeit. Diese Techniken und damit auch die Gewinne konzentrieren sich wieder nur bei wenigen riesigen Konzernen, was die Gräben zwischen Arm und Reich weiter auseinander driften lässt. Zudem wächst die Gefahr, dass sich die Gesellschaft in eine Überwachungsgesellschaft wandelt, da alle technischen Geräte, die wir nutzen, Daten produzieren, die Dritte damit in die Lage versetzen, uns totalitär zu überwachen und ausbeuten. Die ethischen Probleme nehmen zu. Der Missbrauch von KI für militärische Techniken findet längst statt. Die Gesellschaft verroht. Das liegt aber nicht an der KI, sondern an der Schwäche der Weltgemeinschaft, die seit Jahrzehnten nicht in der Lage ist, Regeln aufzustellen, die für alle gelten. Statt dessen setzen sich nationale Egoismen durch und es herrscht das Recht des Stärkeren.
hatterchen1 The Wasp „Und damit liegst du komplett falsch. KI ist das Gegenteil von Chaos. KI ist ein mathematisch-technisches Regelwerk, das ...“
KI ist das Gegenteil von Chaos.
Wie kann KI das Gegenteil von Chaos sein, wenn der Mensch sie entwickelt/programmiert hat?
Heute gibt es vier Arten von KI, wovon aktuell nur drei Arten wirklich funktionsfähig sind.
1. Die reaktive KI -die einfachste
2. Die KI mit begrenzter Speicherkapazität -die sich begrenzt weiter entwickel kann.
3. Die KI Theory of Mind -die aktuell stärkste
4. Die KI mit Selbsterkenntnis -wo von alle immer träumen, eine KI mit Selbstbewusstsein und Emotionalität. "Ego cogito, ergo sum" (René Descartes 1641)
Die KI-Typen 1-3 sind nur schusselige Computerprogramme die von Menschen, die nicht immer das Beste für Andere wollen, programmiert wurden.
Typ 4 wird wohl auch zu Anfang programmiert werden, könnte sich aber möglicherweise im Laufe der Entwicklung selbstständig machen, selbst wenn der Programmierer Sicherheiten einbauen sollte. Wir alle Wissen heute, dass es in der digitalen Welt keine Sicherheiten mehr gibt. Also könnte sich diese KI irgendwann darüber hinweg setzen.
(Und an diesem Punkt kommt mein unbändiger Optimismus an seine Grenzen.)
Übrigens gibt es ohne Chaos keine Ordnung und wer bestimmt, ob die Ordnung auch in Ordnung ist?
Und alles, was der Mensch bis dato erschaffen hat mündete im Chaos.
winnigorny1 hatterchen1 „Wie kann KI das Gegenteil von Chaos sein, wenn der Mensch sie entwickelt/programmiert hat? Heute gibt es vier Arten von ...“
Und an diesem Punkt kommt mein unbändiger Optimismus an seine Grenzen.
Da befindet sich meiner schon länger und beginnt die Grenzen zu überschreiten.
Prosseco The Wasp „Und damit liegst du komplett falsch. KI ist das Gegenteil von Chaos. KI ist ein mathematisch-technisches Regelwerk, das ...“
Hallo The Wasp,
das Gegenstück zum Chaos ist die Ordnung, wie du sehr gut weißt. Was hatterchen schon gesagt hat, du liegst fasch in bestimmte Punkte. Es wurde zwar gesagt, nur ein Genie beherrscht das Chaos, aber dieses Chaos ist weltweit. Natürlich steckt es noch in den Kinderschuhen, und die menschliche Dummheit kennt keine Grenzen.
Wie viele unwissende Menschen gibt es weltweit?
Einstein hat einmal gesagt: "Es gibt nur 2 Dinge, die unendlich sind. Das Universum und die menschliche Dummheit. Aber bei Ersterem (Universum) bin ich mir nicht so sicher".
Die künstliche Intelligenz zum Beispiel benötigt enorme Mengen an Energie. Erst wurden Atomreaktoren abgeschaltet, und jetzt wird wegen des hohen Strombedarfs des KI wieder auf Atomkraft gesetzt.
Nichts ist einfacher, als dass der Planet am Ende ist. Zum Beispiel China mit seinen Megakonstruktionen. Eines davon ist der Staudamm, der so viel wiegt, und ich weiß nicht, ob es stimmt, aber dieses Megabauwerk verlangsamt die Rotation des Planeten um ein paar Millisekunden. Andere Wissenschaftler sagen voraus, dass der Planet in ein paar tausend Jahren nicht mehr 24, sondern 25 Stunden haben wird. Die Bevölkerung wächst immer noch, die Pharmaindustrie tötet die Bevölkerung usw. Die KI nimmt dem Menschen das Bedürfnis zu denken. Die meisten Menschen werden geistig faul sein.
Ein Student brauchte früher an der Universität Stunden und Nächte, um zu lesen und zu lernen, um seine Abschlussarbeit zu schreiben, und heute braucht er nur noch wenige Minuten. Heutzutage brauchte ein Koch Jahre, um zu üben um gut zu kochen, heute ist das alles automatisiert. Sage nicht, dass sich die Gesellschaft in jeder Generation angepasst hat, und das war's. Nimm zum Beispiel diese Generation Z. Ich kann akzeptieren, dass, wenn ich zum Beispiel 1990 geboren wäre, ich mich auch an das Gleiche anpassen würde. Nur wenn der Hund nicht geschissen haette, dann waere ich nicht ausgerutscht.
Ich sehe auch hier in Mexiko, dass diese Generation empfindlicher und in bestimmten Bereichen fauler ist, aber was soll man machen, das Einzige was man tun kann, ist es zu akzeptieren und weiterzuleben. Denn als normale Menschen werden wir nichts tun können. Die Konglomerate sind diejenigen, die den Planeten kontrollieren, und das war's.
Saludos
Sascha
winnigorny1 Prosseco „Hallo The Wasp, das Gegenstück zum Chaos ist die Ordnung, wie du sehr gut weißt. Was hatterchen schon gesagt hat, du ...“
das Gegenstück zum Chaos ist die Ordnung, wie du sehr gut weißt.
Ich widerspreche dir. Frage Experten und Wissenschaftler: Das Choas ist die höchste Form der Ordnung!
Albert Einstein: "Ordnung braucht nur der Dumme, das Genie beherrscht das Chaos!". Oder hier:
© Peter Sereinigg (*1955), österreichischer Unternehmensberater und Lehrender an Hochschulen
Ohne Chaos hätten wir in jeder Beziehung nur Stillstand. Eine (Weiter)Entwicklung würde es nicht und niemals geben.
Von mir empfohlene Lektüre dazu: "Das Chaos und seine Ordnung - Einfüjhrung in komplexe Systeme" von Stefan Greschik.
Merke: Unser Universum ist nichts Anderes, als ein chaotisches System!
Borlander The Wasp „Und damit liegst du komplett falsch. KI ist das Gegenteil von Chaos. KI ist ein mathematisch-technisches Regelwerk, das ...“
KI ist ein mathematisch-technisches Regelwerk, das wegen seiner Komplexität von der Mehrheit der Menschen nicht oder nicht richtig verstanden wird.
"KI" ist erst mal ein kaum noch abzugrenzender Begriff, weil so weit verwässert. Teilweise geht es ja schon so weit, dass man schon jede Berechnung einer Formel als "KI" bezeichnet.
Häufig sind damit Künstliche Neuronale Netze gemeint, die durch Maschinen-Lernen trainiert werden. Beim Training werden die Gewichte ermittelt (beginnend mit Zufalls-Gewichten; da haben wir also ein gewisses Chaos drin) mit denen die "Neuronen" verknüpft werden (das ist i.d.R. sogar ein recht einfacher mathematischer Zusammenhang), um die Eingabe-Ausgabe-Zusammenhänge aus den Trainingsdaten möglichst gut nachzubilden. Man setzt darauf, dass es bei späterer Nutzung ähnlich gut funktioniert. Warum ein Zusammenhang funktioniert lässt sich am Ende aus den Gewichten (im Allgemeinen) nicht ablesen, vor allem bei großen Modellen. Ähnlich gute Trainings-Resultate können komplett unterschiedliche Gewichte haben. Deshalb gibt es auch Interesse an "Explainable-AI".
Jede KI-Ausgabe eines Chatbots kann zurückverfolgt werden, im Zweifel kann man gar den Chatbot selbst fragen, wie er auf seine Antwort gekommen ist. Die zunehmende Kompexität stellt jeden Menschen vor ein Verständnisproblem. Komplex sind die Vorgänge für uns, weil eine riesige Menge an Daten binnen Bruchteilen von Sekunden ausgewertet werden können und für uns damit der Eindruck einer höheren Intelligenz entsteht.
Der kann es Dir aber nicht wirklich sagen. Daten als solche stecken in den Modellen nicht mehr direkt drin, sondern nur noch indirekt in den Gewichten versteckt. Es findet dann auch keine Auswertung von Daten statt, sondern "nur" noch eine Berechnung von sehr Formeln mit sehr sehr vielen Gewichten.
Was du hier verlinkt hast, ist ein bekanntes Problem, das eigentlich nicht vorkommen dürfte, weil eine KI von den Programmierern ein Regelwerk vorgeschrieben bekommt und somit verhindert wird, dass ein Chatbot z.B. Menschen bedroht oder beleidigt. Vereinfacht gesagt, die KI muss immer freundlich antworten. Da die KI nur mathematischen Formeln (Algorithmen) folgt, wird sie auch nie gegen diese Regeln verstoßen.
Diese Blackboxen sind halt gerade keine Systeme die ein algorithmisch definiertes Verhalten haben und auch nicht in der Lage sind ein Regelwerk zu verstehen. Das was hier passiert ist nur ein herumpfuschen um bekannte Symptome zu vermeiden, in dem man davor und dahinter noch versucht zu filtern. Schönes aktuelles Beispiel siehe https://blog.fefe.de/?ts=99c7cdc1
Der Usprung des Problems liegt im Traininsmaterial: Das erhält im großen Stil Kommunikation von Menschen die sich wir Arschlöcher verhalten. Das lernt das System dann halt auch. Und wäre man in der Lage diese Verhalten automatisiert zu erkennen, dann könnte man es bereits aus den Trainingsdaten herausfiltern...
The Wasp Borlander „KI ist erst mal ein kaum noch abzugrenzender Begriff, weil so weit verwässert. Teilweise geht es ja schon so weit, dass ...“
Das Problem der Backboxes sehe ich langfristig nicht. Die Rückverfolgbarkeit ist nur eine Frage der Programmierung (Regelwerk); mathematisch oder aus Sicht der Informatik sehe ich da überhaupt kein Problem. Das Problem entsteht eher bei uns, weil wir Millionen oder Milliarden von Log-Zeilen pro Antwort niemals auswerten wollen würden, abgesehen davon, dass das auch nur Experten könnten.
Ich sehe in der aktuellen KI-Entwicklung kein Chaos, nur viele offene Fragen und viele davon sind eher beunruhigend.
Borlander The Wasp „Das Problem der Backboxes sehe ich langfristig nicht. Die Rückverfolgbarkeit ist nur eine Frage der Programmierung ...“
Das Problem der Backboxes sehe ich langfristig nicht. Die Rückverfolgbarkeit ist nur eine Frage der Programmierung (Regelwerk)
Es gibt kein aber gerade kein programmiertes Regelwerk, das als Ergebnis vom Maschinenlernen entsteht. Du hast im Kern nur eine sehr große Sammlung von Parametern (Bei ChatGPT wahrscheinlich inzwischen in der Größenordnung von einer Billion), die zufällig verändert wurden bis es auf den Trainingsdaten gut genug funktioniert hat. Dafür brauchst Du halt eine extrem große Rechenleistung. Im Ergebnis weiß man dann nur, dass es auf den Trainingsdaten "funktioniert" hat, aber nicht warum.
winnigorny1 Borlander „KI ist erst mal ein kaum noch abzugrenzender Begriff, weil so weit verwässert. Teilweise geht es ja schon so weit, dass ...“
Der Usprung des Problems liegt im Traininsmaterial: Das erhält im großen Stil Kommunikation von Menschen die sich wir Arschlöcher verhalten. Das lernt das System dann halt auch.
So ist es - leider. Volle Zustimmung!
winnigorny1 The Wasp „Und damit liegst du komplett falsch. KI ist das Gegenteil von Chaos. KI ist ein mathematisch-technisches Regelwerk, das ...“
Statt dessen setzen sich nationale Egoismen durch und es herrscht das Recht des Stärkeren.
Tut es das nicht schon immer? Der Mensch hat sich bis zum heutigen Tag nicht von seinem Ursprung, dem "Raubaffen und Teil-Kannibalen" entfernt. Die Neandertaler-Gene haben sich nicht gegen den Homo Sapiens-Anteil behaupten können.
Ich stimme dir inhaltlich vollkommen zu.
