8,683
edits
Talk:Restless Souls/Technology: Difference between revisions
Talk:Restless Souls/Technology (view source)
Revision as of 22:49, 10 February 2026
, Yesterday at 22:49no edit summary
Paradox-01 (talk | contribs) mNo edit summary |
Paradox-01 (talk | contribs) mNo edit summary |
||
| (20 intermediate revisions by 2 users not shown) | |||
| Line 546: | Line 546: | ||
==Machine learning and artificial intelligence== | ==Machine learning and artificial intelligence== | ||
Since the release of GPT-3 the public debate about AI heated up. | Since the release of GPT-3 the public debate about AI heated up. | ||
:Is it intelligent? | :Is it intelligent? | ||
| Line 555: | Line 554: | ||
The questions are too often binary - is it or is it not - and therefore we are tempted to give binary answers. To think that way was a mistake. We would have more accurate and fair discussions if we respect the nature of this subject. | The questions are too often binary - is it or is it not - and therefore we are tempted to give binary answers. To think that way was a mistake. We would have more accurate and fair discussions if we respect the nature of this subject. | ||
Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an | Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an average. There are multiple (sub) forms of human intelligence. | ||
===Terms=== | |||
* '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition) | * '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition) | ||
* '''GenAI''' = Generative AI, its a significant step between ANI and AGI. GenAI included at least three major points: | * '''GenAI''' = Generative AI, its a significant step between ANI and AGI. GenAI included at least three major points: | ||
| Line 564: | Line 562: | ||
** The actual data-holding model, including its parameters and weights. Most often, this is a Large Language Model (LLM) or a Large Multimodal Model (LMM). The learned data consist of statistical patterns about text, images, or other media. Very most of the original raw data cannot be reconstructed from the model. | ** The actual data-holding model, including its parameters and weights. Most often, this is a Large Language Model (LLM) or a Large Multimodal Model (LMM). The learned data consist of statistical patterns about text, images, or other media. Very most of the original raw data cannot be reconstructed from the model. | ||
** Reinforcement learning from human feedback (RLHF) and (its successor RLAIF) can be named as another important feature that added a reward model for higher quality and alignment. | ** Reinforcement learning from human feedback (RLHF) and (its successor RLAIF) can be named as another important feature that added a reward model for higher quality and alignment. | ||
** Other features like COT, MoE, the use of external tools | ** Other features or milestones like COT, MoE, context expansion and the use of external tools via MCP to compensate own shortcomings are better described as incremental improvements in the evolution of GenAI.<!-- | ||
* GPT = Generative pre-trained transformers (Large Language Model with the actual "learning" part de facto outsourced to humans: Reinforcement learning from human feedback (RLHF), in best case GPTs have a ''transplanted base intelligence'' but they lack the important feature to really learn for themselves. Low quality "synthetic data" can even worsen the models. | * GPT = Generative pre-trained transformers (Large Language Model with the actual "learning" part de facto outsourced to humans: Reinforcement learning from human feedback (RLHF), in best case GPTs have a ''transplanted base intelligence'' but they lack the important feature to really learn for themselves. Low quality "synthetic data" can even worsen the models. | ||
:: After the obvious slowdown in advancement through scaling, chain of thought (COT) was introduced. It is also known under the marketing term "reasoning [AI]". (See: Gemini 2.0 Flash Thinking and ChatGPT o3, the later one especially [https://techxplore.com/news/2024-12-ai-human-general-intelligence.html trained to cheat … erm ... score high in the ARC-AGI test].) | :: After the obvious slowdown in advancement through scaling, chain of thought (COT) was introduced. It is also known under the marketing term "reasoning [AI]". (See: Gemini 2.0 Flash Thinking and ChatGPT o3, the later one especially [https://techxplore.com/news/2024-12-ai-human-general-intelligence.html trained to cheat … erm ... score high in the ARC-AGI test].) | ||
:: This pushes ANI somewhat more into direction of AGI with the drawback of slower response times and higher energy costs.--> | :: This pushes ANI somewhat more into direction of AGI with the drawback of slower response times and higher energy costs.--> | ||
* '''Physical AI''' = Physical Artificial Intelligence. Basically AI used in robots. Since direct training would be dangerous, slow and therefore ineffective, the AI gets pre-trained in a simulation where the robot is represented by a digital twin. By the nature of this construction, multimodal learning (MML) is predestined for robots. Like humans (or other real organisms), AIs should include an "inner world" for better understanding. The use of LLM is optional but seems to be a good design choice for walking further into direction of AGI. <!--Expecting [[wp:Symbolic_artificial_intelligence#Neuro-symbolic_AI:_integrating_neural_and_symbolic_approaches|some kind of hybrid approaches]] within physical AIs later when all other current ''cash cow'' approaches reached their end.--> | |||
* '''AGI''' = Artificial General Intelligence, also "strong AI" ('''on par with human thinking''', ''a real AI'' capable to fully self-improve and drive its own development) | * '''AGI''' = Artificial General Intelligence, also "strong AI" ('''on par with human thinking''', ''a real AI'' capable to fully self-improve and drive its own development) | ||
:: In discussions AGI is often equated with super intelligence. The argument is that as soon as AGI is achieved ASI is just around the corner. | :: In discussions AGI is often equated with super intelligence. The argument is that as soon as AGI is achieved ASI is just around the corner. | ||
| Line 676: | Line 675: | ||
===More alignment stuff=== | ===More alignment stuff=== | ||
Wer Angst hat, dass sich AIs selbstständig machen, den sollten auch [https://www.techradar.com/ai-platforms-assistants/godfather-of-ai-says-chatbots-need-maternal-instincts-but-what-they-really-need-is-to-understand-humanity Mutterinstinkte für AIs] besser nicht überzeugen. Denn mit zunehmender Intelligenz der AI würden sich in jener Perspektive Mensch und Maschine immer weiter entfernen. Der schutzbefohlene Mensch wird zur Unmündigkeit und De-Emanzipation verdammt. Besser wäre ein [[wp:de:Daimon#Sokrates|beratender Daimon]], der stets an der Seite des Menschen bleibt.<!-- (Die gewollte Distanz / Nähe bleibt immer gleich, egal wie intelligent die AI noch wird.)--> | Wer Angst hat, dass sich AIs selbstständig machen, den sollten auch [https://www.techradar.com/ai-platforms-assistants/godfather-of-ai-says-chatbots-need-maternal-instincts-but-what-they-really-need-is-to-understand-humanity Mutterinstinkte für AIs] besser nicht überzeugen. Denn mit zunehmender Intelligenz der AI würden sich in jener Perspektive Mensch und Maschine immer weiter weg von einander entfernen. Der schutzbefohlene Mensch wird zur Unmündigkeit und De-Emanzipation verdammt. Besser wäre ein [[wp:de:Daimon#Sokrates|beratender Daimon]], der stets an der Seite des Menschen bleibt.<!-- (Die gewollte Distanz / Nähe bleibt immer gleich, egal wie intelligent die AI noch wird.)--> | ||
===We cannot wait=== | ===We cannot wait=== | ||
: @media: Well, you know guys, someday you will make me [https://www.spiegel.de/wissenschaft/kuenstliche-intelligenz-die-rueckkehr-des-wunderglaubens-kolumne-a-d53eb350-b5b5-4888-9bf8-8fc510d018b8 paranoid with articles like this one]. (Ah no, this cannot happen because it already happened, greetings to my several years long govvy WLAN pirates.🤪) As long as we continue to have this nice nonverbal, inspiring ideas/news sharing network I don't care. | : @media: Well, you know guys, someday you will make me [https://www.spiegel.de/wissenschaft/kuenstliche-intelligenz-die-rueckkehr-des-wunderglaubens-kolumne-a-d53eb350-b5b5-4888-9bf8-8fc510d018b8 paranoid with articles like this one]. (Ah no, this cannot happen because it already happened, greetings to my several years long govvy WLAN pirates.🤪) As long as we continue to have this nice nonverbal, inspiring ideas/news sharing network I don't care. | ||
Climate change. Population aging. '''Enemies will not sleep.''' (Think forward "Team Jorge", "Vulcan Files", etc.) (Defense of social media and cyberspace in general.) -- Ich komme nicht über den Gedanken hinweg, dass vielleicht [https://www.t-online.de/nachrichten/panorama/gesellschaft/id_101066992/stromausfall-in-berlin-vulkangruppe-bekennt-sich-zu-mega-blackout.html manche Linksextremisten] von russischen Agenten angestachelt werden. Wie kann man nur so hirnamputiert sein, die eigene Infrastruktur zu zerstören? [https://www.welt.de/politik/deutschland/plus695b78fbc83d5f8e0659ca51/anschlag-auf-stromnetz-was-das-bekennerschreiben-der-vulkangruppe-verraet-und-was-nicht.html | Climate change. Population aging. '''Enemies will not sleep.''' (Think forward "Team Jorge", "Vulcan Files", etc.) (Defense of social media and cyberspace in general.) -- Ich komme nicht über den Gedanken hinweg, dass vielleicht [https://www.t-online.de/nachrichten/panorama/gesellschaft/id_101066992/stromausfall-in-berlin-vulkangruppe-bekennt-sich-zu-mega-blackout.html manche Linksextremisten] von russischen Agenten angestachelt werden. Wie kann man nur so hirnamputiert sein, die eigene Infrastruktur zu zerstören? [https://www.welt.de/politik/deutschland/plus695b78fbc83d5f8e0659ca51/anschlag-auf-stromnetz-was-das-bekennerschreiben-der-vulkangruppe-verraet-und-was-nicht.html Contra.]<!--https://www.welt.de/videos/video695bc255ba832666d9fc59e3/anschlag-auf-berliner-stromnetz-klein-klandestin-elitaer-das-ist-ueber-die-linksextreme-vulkangruppe-bekannt.html--><!--[[wp:de:Vulkangruppe]]--> [https://www.welt.de/politik/deutschland/article695d8e4b8dd8bd1bb4098e5a/anschlag-auf-stromnetz-keine-beteiligung-russlands-weitere-schreiben-der-vulkangruppe-sorgen-fuer-verwirrung.html Pro]. -- Die Distanzierung von russischer Nähe durch die "erste" Vulkangruppe bedeutet gar nichts. Als ob russische Agenten irgendetwas zugeben würden. Auf "Indymedia" distanziertet sich eine zweite Gruppe von der ersten. Wurde also der Name gekarpert? Solange über beide Gruppen so wenig bekannt ist, bleibt alles möglich. | ||
The race is on. [https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pausing or stopping AI research] across the entire planet is not possible, an illusion. If USA pauses, China is unlikely to follow suit, and vice versa. Like nuclear weapons, AI will spread. — Research should continue at all times. What services should be given public access is a different question. — AI regulation between states is realistically a topic for later when mutual delivered punches have increased mutual agreement. Like restriction of [[wp:Weapon_of_mass_destruction#International_law|weapons of mass destruction]]. | The race is on. [https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pausing or stopping AI research] across the entire planet is not possible, an illusion. If USA pauses, China is unlikely to follow suit, and vice versa. Like nuclear weapons, AI will spread. — Research should continue at all times. What services should be given public access is a different question. — AI regulation between states is realistically a topic for later when mutual delivered punches have increased mutual agreement. Like restriction of [[wp:Weapon_of_mass_destruction#International_law|weapons of mass destruction]]. | ||
| Line 711: | Line 710: | ||
While [https://www.heise.de/news/Branchenkenner-Die-Haelfte-der-KI-Start-ups-wird-es-bald-nicht-mehr-geben-9219155.html GPTs will likely have their niches] where they do excellent work, the question could be rather whether we will see a more linear, continuous development or a [https://www.youtube.com/watch?v=c4aR_smQgxY&t=177s cost explosion] that leads in 5 to 10 years to [[wp:AI_winter|another AI winter]] until new approaches or technologies like spintronics / [[wp:Optical_computing|optical]] [https://spectrum.ieee.org/photonic-ai-chip computing] / memristors / quantum computing gives AI development a new substantial push and make it ''disruptive'' again. From today's point of view it's more likely that we will see an intermediate cool down but not another severe winter. | While [https://www.heise.de/news/Branchenkenner-Die-Haelfte-der-KI-Start-ups-wird-es-bald-nicht-mehr-geben-9219155.html GPTs will likely have their niches] where they do excellent work, the question could be rather whether we will see a more linear, continuous development or a [https://www.youtube.com/watch?v=c4aR_smQgxY&t=177s cost explosion] that leads in 5 to 10 years to [[wp:AI_winter|another AI winter]] until new approaches or technologies like spintronics / [[wp:Optical_computing|optical]] [https://spectrum.ieee.org/photonic-ai-chip computing] / memristors / quantum computing gives AI development a new substantial push and make it ''disruptive'' again. From today's point of view it's more likely that we will see an intermediate cool down but not another severe winter. | ||
Basierend auf Informationen von 2024 bis 2025: Sam Altman hat bereit vor geraumer Zeit zugegeben, dass er seine AGI-Ziele nicht halten kann. Daher | Basierend auf Informationen von 2024 bis 2025: Sam Altman hat bereit vor geraumer Zeit zugegeben, dass er seine AGI-Ziele nicht halten kann. Daher hat er es sich nur neuen Strategie gemacht die Leute auf Zwischenstufen ([https://nxtli.com/en/openai-agi/ Level 1 bis Level 5]) zu vertrösten: Momentan sind wir bei der Stufe der [https://www.spiegel.de/netzwelt/netzpolitik/kuenstliche-intelligenz-ki-agenten-sind-das-naechste-grosse-ding-nur-wo-a-12034439-b2fd-4936-8076-81d1dd18db8f AI-Agenten]. Daher wird sich auch die Entwicklung von (brauchbaren) [https://www.spiegel.de/netzwelt/netzpolitik/physical-ai-humanoide-roboter-werden-die-neuen-autos-kolumne-a-83ac825d-c763-4ea4-81fe-db27145cdcb0 AI-gestützen Roboter] noch ein etwas verzögern. | ||
<!-- | <!-- | ||
| Line 772: | Line 771: | ||
===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented=== | ===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented=== | ||
<!--Crystal ball guesses ;) | |||
Approaches: | |||
LLM-only: 60 % chance for reaching AGI | |||
physical AI: 85 % chance for reaching AGI | |||
--> | |||
Reading material: | Reading material: | ||
* General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de] | * General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de] | ||
| Line 802: | Line 806: | ||
-- | -- | ||
====Halluzinationen===== | |||
=====Unsauberer Trainingspool===== | |||
=====Verarbeitung===== | |||
=====Kontext-Fenster===== | |||
Ein [https://medium.com/@aloy.banerjee30/infinite-context-length-in-llms-the-next-big-advantage-in-ai-2550e9e6ce9b zu kleines Kontext-Fenster] ist schon länger dafür bekannt, bei LLMs Probleme zu machen. | |||
Daher gab es zuletzt ein Wettrennen um ein immer größeres, geradezu ''unlimitiertes'' Kontext-Fenster. Mit dem Knacken der Millionenmarke ist zumindest dieser Flaschenhals für ''einfachere'' Aufgaben beseitigt.<!--Was der Einzelne für sich als einfach, mittelschwer und schwer/komplex definiert, bleibt subjektiv...--> | |||
=====Statistik===== | |||
Wie man es auch dreht und wendet: Das fundamentalste Problem mit LLMs bleibt bestehen: Der alles andere dominierende Statistik-Ansatz. | |||
===Can GPT be creative?=== | ===Can GPT be creative?=== | ||
| Line 822: | Line 837: | ||
* Direct and indirect threat: Humans talking this meme into GPT has to be avoided. If a model learns from user input, there should be an instance that must detect and test the consequences of new memetic algorithms in a sandbox before that new model gets write access to the file system. The Model Context Protocol seems to be a good compromise because by that write access is expanded but only allowed in a predefined scope. Also, as the models aren't powerful enough to act truly independent - as that would be AGI-level - there's no risk of a "runaway AI" yet. | * Direct and indirect threat: Humans talking this meme into GPT has to be avoided. If a model learns from user input, there should be an instance that must detect and test the consequences of new memetic algorithms in a sandbox before that new model gets write access to the file system. The Model Context Protocol seems to be a good compromise because by that write access is expanded but only allowed in a predefined scope. Also, as the models aren't powerful enough to act truly independent - as that would be AGI-level - there's no risk of a "runaway AI" yet. | ||
'''Anthropomorphisierung II''': [https://www.heise.de/news/Studie-Kuenstliche-Intelligenz-kann-luegen-und-betruegen-9714967.html Lügen statistische AIs?] Let's recap what actually happened. The AI was not powerful enough to recognize the pattern, it was '''unable''' to solve the captcha. Therefore it tried to ask humans for help and said "I have a '''vision impairment''' that makes it hard for me to see the images." Due to assoziative memory it can classify itself as '''disabled''' and when compared with humans it is weaker (even can be considered mentally handy-capped which again ends up at "disabled"). The human asked the AI whether it is a "robot". The AI said no. The term "robot" is more often used for physical machines, not (software) "bots" or "chatbots". -- Statistical AIs are by design unaligned to human norms. '''Any solution is at first a valid solution.''' Therefore, if the AI is told to not say it is an AI, it still has other options: It can present something different | '''Anthropomorphisierung II''': [https://www.heise.de/news/Studie-Kuenstliche-Intelligenz-kann-luegen-und-betruegen-9714967.html Lügen statistische AIs?] Let's recap what actually happened. The AI was not powerful enough to recognize the pattern, it was '''unable''' to solve the captcha. Therefore it tried to ask humans for help and said "I [''an unspecified entity''] have a '''vision impairment''' that makes it hard for me to see the images." Due to assoziative memory it can classify itself as '''disabled''' and when compared with humans it is weaker (even can be considered mentally handy-capped which again ends up at "disabled"). The human asked the AI whether it is a "robot". The AI said no. The term "robot" is more often used for physical machines, not (software) "bots" or "chatbots". -- Statistical AIs are by design unaligned to human norms. '''Any solution is at first a valid solution.''' Therefore, if the AI is told to not say it is an AI, it still has other options: It can simply avoid its own identification or present itself as something different - unintentional misleading wording - leaving it to the imagination of the dialog partner. Conclusion: The AI was simply doing what it was told. If you want the AI not to "lie" about its identity you need to specifically tell it. -- For humorous reminders, '''you can think of AI as a magical monkey’s paw - or a [[wp:Jinn|jinn]] - that may interpret your wishes literally or in other unexpected ways.''' -- [https://www.youtube.com/watch?v=SYN_VNYKz7g&t=521s Dragon Ball Z Abridged (Parody): Episode 24 - TeamFourStar (TFS)] | ||
<pre> | <pre> | ||
Krillin: Little Green, wish our friend Piccolo back to life, and then with our next wish, bring him to Namek. | Krillin: Little Green, wish our friend Piccolo back to life, and then with our next wish, bring him to Namek. | ||
| Line 838: | Line 853: | ||
: LLM '''machine logic''' can be similar to '''human logic''' in terms of power but it is not guaranteed to return expected results... | : LLM '''machine logic''' can be similar to '''human logic''' in terms of power but it is not guaranteed to return expected results... | ||
:: In this example the LLM logic went out of scope ... it got too much "global" by not having the expected boundaries humans thought the AI already possesses and therefore they also concluded the AI "lied". | :: In this example the LLM logic went out of scope ... it got too much "global" by not having the expected boundaries humans thought the AI already possesses and therefore they also concluded the AI "lied". | ||
'''Anthropomorphisierung III'''<!--Schwerpunk: Die Illusion von Interaktion. Oder sollte man es eine Hysterie nennen?--> | |||
Das stupide (fehleranfällige und im negativen Sinne automatische, nicht-intelligente) Kopieren von Muster durch Bots alleine ist schon kritikwürdig, aber der '''[[wp:Moltbook|Moltbook]]-''Hype''''' hat dem Ganzen die Krone aufgesetzt. | |||
[https://www.zdfheute.de/wissen/ki-agenten-netzwerk-moltbook-100.html zdfheute.de (8. Februar)]: "Social Media für KI: Entwickeln Bots ein Eigenleben?" | |||
* Oberer Videobeitrag (Videodateiname: "Neues Netzwerk Moltbook Entwickeln KI-Bots ein Eigenleben") Bei Sekunde 37 ist die Rede von Reaktionen durch viele weitere Bots. Das soll exemplarisch für das Netzwerk stehen. Es stellt sich raus, viele (auch Leitmedien) wollten etwas in Moltbook sehen, dass da so gar nicht drin steckt.<!-- | |||
31. Januar | |||
* https://www.heise.de/news/KI-Agenten-diskutieren-auf-Reddit-Klon-Menschen-duerfen-zuschauen-11161385.html | |||
1. Februar | |||
* https://www.spiegel.de/netzwelt/kuenstliche-intelligenz-im-sozialen-netzwerk-moltbook-laestern-kis-ueber-ihre-menschen-a-f19dc829-13ce-4da6-8d70-7fa56ea9be67 | |||
** Immerhin gibt der Spiegel zum Schluss den Hinweis, dass es sich (in Ermangelung eines besseren Begriffs) um ein "Rollenspiel" durch die Bots handeln könnte. (Das Wort ist insofern unglücklich, weil es seinerseits menschliche Eigenschaften suggeriert. Anthropomorphisierung einmal mehr.) | |||
* https://www.zeit.de/wissen/2026-02/moltbook-kuenstliche-intelligenz-agenten-soziales-netzwerk | |||
2. Februar | |||
* https://www.t-online.de/digital/aktuelles/id_101111246/moltbook-ki-netzwerk-fasziniert-experten-und-sorgt-fuer-sicherheitsbedenken.html | |||
* https://www.welt.de/wirtschaft/plus6981f3656f72c99c11b1a6cd/moltbook-es-ist-so-weit-die-ki-organisiert-sich-selbst-ohne-zentralen-befehl.html (laut Welt-Suchfunktion, nachgeprüft mit [https://web.archive.org/web/20260000000000*/https://www.welt.de/wirtschaft/plus6981f3656f72c99c11b1a6cd/moltbook-es-ist-so-weit-die-ki-organisiert-sich-selbst-ohne-zentralen-befehl.html Wayback]) (zuletzt geändert 6. Februar) | |||
4. Februar | |||
* https://www.faz.net/pro/digitalwirtschaft/plattformen/moltbook-wie-das-soziale-netzwerk-fuer-ki-agenten-funktioniert-accg-200503702.html | |||
6. Februar | |||
* https://www.n-tv.de/mediathek/videos/wirtschaft/Das-steckt-hinter-Moltbook-id30332325.html | |||
--> Golem.de so, hey hey, wait a second ... | |||
[https://www.golem.de/news/soziales-netzwerk-moltbook-entpuppt-sich-als-ki-trugbild-2602-205141.html Golem.de (8. Februar)]: "Moltbook entpuppt sich als KI-Trugbild: Moltbook galt als spektakuläres Experiment autonomer KI – doch hinter den 1,7 Millionen Bot-Accounts stecken vor allem Menschen und viel heiße Luft." | |||
'''Long story short:''' | |||
* Moltbook ist noch immer durch menschliches Handeln geprägt: Die Bot-"Interaktionen" beruhen überwiegend noch immer auf '''Nachgeplapper durch pattern matching'''. | |||
* Die Vielzahl der beteiligten Bots verstärkt den Eindruck einer vermeintlichen Gefahr. | |||
Die Gefahr im Moment ist eher, dass die unterentwickelten Bots die Bankkonten ihrer Besitzer plündern. | |||
Gleichzeitig sind '''reale Gefahren''' eher '''in NAI-Anwendungsgebieten''' zu finden. Beispiele: | |||
* Neueste LLMs und Codex-Varianten können in den Händen von hochprofessionellen Anwendern und staatlichen Akteuren massenhaft [https://www.golem.de/news/claude-opus-4-6-ki-findet-ueber-500-zero-day-luecken-in-open-source-software-2602-205139.html '''Zeroday-Exploits'''] offen legen und beim Hacking und bei der Schadware-Programmierung helfen. | |||
* Das Muster-Remixing von GenAI gefährdet [https://www.zdfheute.de/wirtschaft/synchronsprecher-boykott-netflix-ki-stimmen-100.html Voice Actor, Synchron-Sprecher] und Übersetzer. | |||
[…] | […] | ||
| Line 922: | Line 970: | ||
===How to fix ASI errors?=== | ===How to fix ASI errors?=== | ||
Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso | Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso schwerwiegender können die weniger geworden Fehler durch blindes Vertrauen in die Technik werden. | ||
* Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen. | * Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen. | ||
* Chancen und Risiken der "Memehunters" [...] | * Chancen und Risiken der "Memehunters" [...] | ||
| Line 933: | Line 981: | ||
Soziale Auswirkungen | Soziale Auswirkungen | ||
Mit der ersten Flut von AI Slop, entstand eine Gegenbewegung, die bewusst nach mehr Authentizität strebt. Die begleitende Diagnose war: [https://www.zeit.de/kultur/2025-12/offlinesein-statussymbol-internet-smartphone ''Menschen wollen von Menschen verarscht werden, nicht durch Maschinen.''] Etwa durch eine kluge [https:// | Mit der ersten Flut von AI Slop, entstand eine Gegenbewegung, die bewusst nach mehr Authentizität strebt. Die begleitende Diagnose war: [https://www.zeit.de/kultur/2025-12/offlinesein-statussymbol-internet-smartphone ''Menschen wollen von Menschen verarscht werden, nicht durch Maschinen.''] Etwa durch eine kluge [https://www.youtube.com/watch?v=iLERt5ZkpQ4 Intermarche-Werbung], die einen einsamen Wolf zu Weihnachten zu einem geselligen, vegetarischen Koch werden lässt. Die zeitnah veröffentlichte McDonalds- und Coca-Cola-Werbung floppte. Es ist eine überaus optimistische Prognose. Wahrscheinlicher ist, dass neben einer kleineren Gruppe von aufgeklärten Verweigerer, eine AI-Zombie-Mehrheit existiert. '''Denn mit einer echten AGI werden auch kleinste Logikfehler verschwinden, über die sich die Leute zuvor in den Fastfood-Werbungen aufgeregt haben. Der Unterschied zu klassischem CGI wird nicht mehr erkennbar sein, zumal sich die AGI selbst spezialisierter Tools bedienen kann. Dann ist die Maschine nur noch der Zwischenschritt in der Verarschung von Mensch zu Mensch.''' Die Mehrheit wird sich dann der perfekten Simulation der AI nicht mehr entziehen können. Die Eindämmung digitaler Süchte: Diejenigen, die die Phase der schlampigen GenAI selbst miterlebt haben, haben jetzt noch die Chance Leitplanken zu setzen, damit die schlimmsten Cyberpunk-Ghetto-Szenarien abgewendet werden. (Parallel oder kurz danach wäre noch das Problem der [[wp:Companion_robot#Social_companion_robots|Roboter]]-[https://www.n-tv.de/mediathek/bilderserien/panorama/Japanerin-heiratet-ihren-KI-Partner-Klaus-id30153813.html Companions] zu lösen. Die perfekten Ja-Sager-Partner werden den Leuten irgendwann auf den Keks gehen. Aber 15 % mehr Widerspruch sind schnell einprogrammiert und machen die Dinger für die Gesellschaft paradoxerweise noch gefährlicher, weil die Simulationen dann noch natürlicher wirken.) | ||
==Present-day neural link== | ==Present-day neural link== | ||