8,683
edits
Paradox-01 (talk | contribs) mNo edit summary |
Paradox-01 (talk | contribs) mNo edit summary |
||
| (5 intermediate revisions by the same user not shown) | |||
| Line 546: | Line 546: | ||
==Machine learning and artificial intelligence== | ==Machine learning and artificial intelligence== | ||
Since the release of GPT-3 the public debate about AI heated up. | Since the release of GPT-3 the public debate about AI heated up. | ||
:Is it intelligent? | :Is it intelligent? | ||
| Line 557: | Line 556: | ||
Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an average. There are multiple (sub) forms of human intelligence. | Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an average. There are multiple (sub) forms of human intelligence. | ||
===Terms=== | |||
* '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition) | * '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition) | ||
* '''GenAI''' = Generative AI, its a significant step between ANI and AGI. GenAI included at least three major points: | * '''GenAI''' = Generative AI, its a significant step between ANI and AGI. GenAI included at least three major points: | ||
| Line 771: | Line 771: | ||
===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented=== | ===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented=== | ||
<!--Crystal ball guesses ;) | |||
Approaches: | |||
LLM-only: 60 % chance for reaching AGI | |||
physical AI: 85 % chance for reaching AGI | |||
--> | |||
Reading material: | Reading material: | ||
* General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de] | * General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de] | ||
| Line 801: | Line 806: | ||
-- | -- | ||
====Halluzinationen===== | |||
=====Unsauberer Trainingspool===== | |||
=====Verarbeitung===== | |||
=====Kontext-Fenster===== | |||
Ein [https://medium.com/@aloy.banerjee30/infinite-context-length-in-llms-the-next-big-advantage-in-ai-2550e9e6ce9b zu kleines Kontext-Fenster] ist schon länger dafür bekannt, bei LLMs Probleme zu machen. | |||
Daher gab es zuletzt ein Wettrennen um ein immer größeres, geradezu ''unlimitiertes'' Kontext-Fenster. Mit dem Knacken der Millionenmarke ist zumindest dieser Flaschenhals für ''einfachere'' Aufgaben beseitigt.<!--Was der Einzelne für sich als einfach, mittelschwer und schwer/komplex definiert, bleibt subjektiv...--> | |||
=====Statistik===== | |||
Wie man es auch dreht und wendet: Das fundamentalste Problem mit LLMs bleibt bestehen: Der alles andere dominierende Statistik-Ansatz. | |||
===Can GPT be creative?=== | ===Can GPT be creative?=== | ||
| Line 954: | Line 970: | ||
===How to fix ASI errors?=== | ===How to fix ASI errors?=== | ||
Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso | Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso schwerwiegender können die weniger geworden Fehler durch blindes Vertrauen in die Technik werden. | ||
* Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen. | * Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen. | ||
* Chancen und Risiken der "Memehunters" [...] | * Chancen und Risiken der "Memehunters" [...] | ||
| Line 965: | Line 981: | ||
Soziale Auswirkungen | Soziale Auswirkungen | ||
Mit der ersten Flut von AI Slop, entstand eine Gegenbewegung, die bewusst nach mehr Authentizität strebt. Die begleitende Diagnose war: [https://www.zeit.de/kultur/2025-12/offlinesein-statussymbol-internet-smartphone ''Menschen wollen von Menschen verarscht werden, nicht durch Maschinen.''] Etwa durch eine kluge [https://www.youtube.com/watch?v=iLERt5ZkpQ4 Intermarche-Werbung], die einen einsamen Wolf zu Weihnachten zu einem geselligen, vegetarischen Koch werden lässt. Die zeitnah veröffentlichte McDonalds- und Coca-Cola-Werbung floppte. Es ist eine überaus optimistische Prognose. Wahrscheinlicher ist, dass neben einer kleineren Gruppe von aufgeklärten Verweigerer, eine AI-Zombie-Mehrheit existiert. '''Denn mit einer echten AGI werden auch kleinste Logikfehler verschwinden, über die sich die Leute zuvor in den Fastfood-Werbungen aufgeregt haben. Der Unterschied zu klassischem CGI wird nicht mehr erkennbar sein, zumal sich die AGI selbst spezialisierter Tools bedienen kann. Dann ist die Maschine nur noch der Zwischenschritt in der Verarschung von Mensch zu Mensch.''' Die Mehrheit wird sich dann der perfekten Simulation der AI nicht mehr entziehen können. Die Eindämmung digitaler Süchte: Diejenigen, die die Phase der schlampigen GenAI selbst miterlebt haben, haben jetzt noch die Chance Leitplanken zu setzen, damit die schlimmsten Cyberpunk-Ghetto-Szenarien abgewendet werden. (Parallel oder kurz danach wäre noch das Problem der Roboter-Companions zu lösen. Die perfekten Ja-Sager-Partner werden den Leuten irgendwann auf den Keks gehen. Aber 15 % mehr Widerspruch sind schnell einprogrammiert und machen die Dinger für die Gesellschaft paradoxerweise noch gefährlicher, weil die Simulationen dann noch natürlicher wirken.) | Mit der ersten Flut von AI Slop, entstand eine Gegenbewegung, die bewusst nach mehr Authentizität strebt. Die begleitende Diagnose war: [https://www.zeit.de/kultur/2025-12/offlinesein-statussymbol-internet-smartphone ''Menschen wollen von Menschen verarscht werden, nicht durch Maschinen.''] Etwa durch eine kluge [https://www.youtube.com/watch?v=iLERt5ZkpQ4 Intermarche-Werbung], die einen einsamen Wolf zu Weihnachten zu einem geselligen, vegetarischen Koch werden lässt. Die zeitnah veröffentlichte McDonalds- und Coca-Cola-Werbung floppte. Es ist eine überaus optimistische Prognose. Wahrscheinlicher ist, dass neben einer kleineren Gruppe von aufgeklärten Verweigerer, eine AI-Zombie-Mehrheit existiert. '''Denn mit einer echten AGI werden auch kleinste Logikfehler verschwinden, über die sich die Leute zuvor in den Fastfood-Werbungen aufgeregt haben. Der Unterschied zu klassischem CGI wird nicht mehr erkennbar sein, zumal sich die AGI selbst spezialisierter Tools bedienen kann. Dann ist die Maschine nur noch der Zwischenschritt in der Verarschung von Mensch zu Mensch.''' Die Mehrheit wird sich dann der perfekten Simulation der AI nicht mehr entziehen können. Die Eindämmung digitaler Süchte: Diejenigen, die die Phase der schlampigen GenAI selbst miterlebt haben, haben jetzt noch die Chance Leitplanken zu setzen, damit die schlimmsten Cyberpunk-Ghetto-Szenarien abgewendet werden. (Parallel oder kurz danach wäre noch das Problem der [[wp:Companion_robot#Social_companion_robots|Roboter]]-[https://www.n-tv.de/mediathek/bilderserien/panorama/Japanerin-heiratet-ihren-KI-Partner-Klaus-id30153813.html Companions] zu lösen. Die perfekten Ja-Sager-Partner werden den Leuten irgendwann auf den Keks gehen. Aber 15 % mehr Widerspruch sind schnell einprogrammiert und machen die Dinger für die Gesellschaft paradoxerweise noch gefährlicher, weil die Simulationen dann noch natürlicher wirken.) | ||
==Present-day neural link== | ==Present-day neural link== | ||
edits