OniGalore

Talk:Restless Souls/Technology: Difference between revisions

Page Discussion

Talk:Restless Souls/Technology (view source)

Revision as of 10:47, 16 March 2026

38,550 bytes added ,  16 March
m
no edit summary
m (marked dead link with no Archive.org snapshot)
mNo edit summary
 
(117 intermediate revisions by 3 users not shown)
Line 202: Line 202:
* Blanko-Magazine könnten Memory-Stoffe beinhalten, die bei Temperaturänderungen eine gespeicherte Form annehmen. Problem: Die Munition läuft Gefahr bei hohen Temperaturen sich eigenständig in einen Typ umzuwandeln und bei niedrigen Temperaturen erst gar nicht zu funktionieren. Lösung: Eine mechanische Sicherung - der benötigte Platz zur Ausdifferenzierung wird erst innerhalb der Waffe bereitgestellt. Die Blankomagazine sollten wegen des zweiten Problems auch über eine kleine Energiequelle verfügen. Oder: der Memory-Effekt wird erst durch das Anlegen einer Spannung abrufbar.-->
* Blanko-Magazine könnten Memory-Stoffe beinhalten, die bei Temperaturänderungen eine gespeicherte Form annehmen. Problem: Die Munition läuft Gefahr bei hohen Temperaturen sich eigenständig in einen Typ umzuwandeln und bei niedrigen Temperaturen erst gar nicht zu funktionieren. Lösung: Eine mechanische Sicherung - der benötigte Platz zur Ausdifferenzierung wird erst innerhalb der Waffe bereitgestellt. Die Blankomagazine sollten wegen des zweiten Problems auch über eine kleine Energiequelle verfügen. Oder: der Memory-Effekt wird erst durch das Anlegen einer Spannung abrufbar.-->


==Energiegewinnung==
==Energiegewinnung und Speicher==
===Kernfusion===
===Kernfusion===
In einem Plasma, welches gemeinhin als vierter Aggregatzustand von Materie gilt, können sich Protonen und Elektronen frei voneinander bewegen. Nach außen hin ist das Plasma neutral. Die beiden Elementarteilchenarten weisen dabei unterschiedliche Temperaturen auf. Fusionsreaktoren verschmelzen unter starker Energiezufuhr Wasserstoff- und Helium-Isotope. Im Betrieb sollen EM-Felder das Plasma von der Reaktorwand halten. Niob und Wolfram schützen die innere Reaktorwand und umgedreht das Plasma vor Verunreinigungen. Gleichzeitig absorbieren sie nicht so viel Tritium wie der Kohlenstoff in Graphitziegel. Entstehende Abfallprodukte sollen wesentlich geringer ausfallen als bei Kernspaltung.<br>
In einem Plasma, welches gemeinhin als vierter Aggregatzustand von Materie gilt, können sich Protonen und Elektronen frei voneinander bewegen. Nach außen hin ist das Plasma neutral. Die beiden Elementarteilchenarten weisen dabei unterschiedliche Temperaturen auf. Fusionsreaktoren verschmelzen unter starker Energiezufuhr Wasserstoff- und Helium-Isotope. Im Betrieb sollen EM-Felder das Plasma von der Reaktorwand halten. Niob und Wolfram schützen die innere Reaktorwand und umgedreht das Plasma vor Verunreinigungen. Gleichzeitig absorbieren sie nicht so viel Tritium wie der Kohlenstoff in Graphitziegel. Entstehende Abfallprodukte sollen wesentlich geringer ausfallen als bei Kernspaltung.<br>
Line 238: Line 238:
* aktuell ungeklärte Endlagerung
* aktuell ungeklärte Endlagerung
* privatwirtschaftlich nicht versicherbar
* privatwirtschaftlich nicht versicherbar
* hohe Kosten
* hohe Kosten (Rentabilität nur bei Ausschöpfung der Lebensdauer der Bauten gegeben)
** [https://www.tagesschau.de/wissen/forschung/akw-der-zukunft-101.html kleinere] [[wp:de:Small_Modular_Reactor|Modelle (SMR)]] wären etwas sicherer aber dafür auch ineffizienter und damit teurer.
** [https://www.tagesschau.de/wissen/forschung/akw-der-zukunft-101.html kleinere] [[wp:de:Small_Modular_Reactor|Modelle (SMR)]] wären etwas sicherer aber dafür auch ineffizienter und damit teurer.
* Militärische Risiken
* Militärische Risiken
** zentrale Energieversorgung ist ein leichteres militärische Ziel
** zentrale Energieversorgung ist ein leichteres militärisches Ziel
** Erpressungspotentiale durch Verseuchung (Kernschmelze oder eine riesige "dirty bomb")
** Erpressungspotentiale durch Verseuchung (Kernschmelze oder eine riesige "dirty bomb")


Ausblick
Ausblick
* Attraktivität für Nischenanwendungen bleibt bestehen. Unter anderem ist eine fortgeführte Anwendung in Schiff- und Raumfahrt denkbar.
* Attraktivität für Nischenanwendungen bleibt bestehen. Unter anderem ist eine fortgeführte Anwendung in Schiff- und Raumfahrt denkbar.
* Mit dem Ausreifen von KI (AGI) und von ihr gesteuerter Robotertechnik ist absehbar, dass bereits in 200 bis 300 Jahren kein Mensch mehr ein Endlager betreten muss. Sollten sich herausstellen, dass einige Endlager nur 1000 Jahre durchhalten, kann eine ASI vollautomatisch für Bergung, Transport und Wiedereinlagerung sorgen.
* Mit dem Ausreifen von KI (AGI) und von ihr gesteuerter Robotertechnik ist absehbar, dass spätestens in 200 bis 300 Jahren kein Mensch mehr ein Endlager betreten muss. Sollte sich herausstellen, dass einige Endlager nur 1000 Jahre durchhalten, kann eine ASI vollautomatisch für Bergung, Transport und Wiedereinlagerung sorgen.
* Konservativ geschätzt werden Kernfusionsreaktoren etwa erst 2100 wirklich marktreif sein. (Finanziell verzögert durch geänderte Priorisierung?)
* Konservativ geschätzt werden Kernfusionsreaktoren etwa erst 2100 wirklich marktreif sein. (Finanziell verzögert durch geänderte Priorisierung?)


Line 269: Line 269:
* Geothermie
* Geothermie
* Wasser (Klassisches "Hydro", Gezeitenströmung, Wellenenergie)
* Wasser (Klassisches "Hydro", Gezeitenströmung, Wellenenergie)
===Wasserstoff===
Frankreichs hohe Staatsschulden könnten ein Motiv sein, warum deutsch-spanische Wasserstoffpläne blockiert wurden. Aus diplomatischen Gründen insbesondere wegen der [[wp:de:Deutsch-französische_Beziehungen|deutsch-französischen Freundschaft]] hat man wohl versucht das Thema nicht weiter in der Öffentlichkeit zu lassen.


==BioCrisis==
==BioCrisis==
Line 427: Line 430:
** Übergangsphase zur neuen alten Normalität: Nach dem Aufheben der Pandemiemaßnahmen wird wahrscheinlich auch eine '''Immunitätslücke*''' gegen Influenza zu schließen sein, sodass erst im Winter 23/24 mit einem normalen/niedrigen Influenzainfektionsgeschehen zu rechnen ist und sich ein neuer natürlicher Rhythmus aus leichten und "schweren" Wellen einstellt. -- Genaue Vorhersagen lassen sich nicht treffen, da zu viele Variablen sich ändern können. Auf jeden Fall sollte während dieser Übergangsphase den Senioren noch einmal die Grippeschutzimpfung ganz besonders empfohlen werden.
** Übergangsphase zur neuen alten Normalität: Nach dem Aufheben der Pandemiemaßnahmen wird wahrscheinlich auch eine '''Immunitätslücke*''' gegen Influenza zu schließen sein, sodass erst im Winter 23/24 mit einem normalen/niedrigen Influenzainfektionsgeschehen zu rechnen ist und sich ein neuer natürlicher Rhythmus aus leichten und "schweren" Wellen einstellt. -- Genaue Vorhersagen lassen sich nicht treffen, da zu viele Variablen sich ändern können. Auf jeden Fall sollte während dieser Übergangsphase den Senioren noch einmal die Grippeschutzimpfung ganz besonders empfohlen werden.


:: * Eine Nebenwirkung einer langanhaltenden flatten-the-curve-Strategie: '''Der letzte Peak''' gegen den man nichts tun kann, ohne unverhältnismäßig zu sein. Ganz nüchtern betrachtet, haben sich '''nicht nur [https://www.tagesschau.de/wirtschaft/unternehmen/krankenstand-corona-wirtschaftsfaktor-101.html neue Immunitätlücken] aufgetan. Durch die Pandemiemaßnahmen ist auch das Potential an leichtsterblichen Senioren - weil noch älter geworden - gewachsen. Diese können durch Corona, Influenza und "stinknormale" Erkältungserreger - oder duch irgendein anderes durch Alter wachsendes, normales Lebensrisiko - dahingerafft werden.'''
:: * Eine Nebenwirkung einer langanhaltenden flatten-the-curve-Strategie: '''Der letzte Peak''' gegen den man nichts tun kann, ohne unverhältnismäßig zu sein. Ganz nüchtern betrachtet, haben sich '''nicht nur [https://web.archive.org/web/20241009122040/https://www.tagesschau.de/wirtschaft/unternehmen/krankenstand-corona-wirtschaftsfaktor-101.html neue Immunitätlücken] aufgetan. Durch die Pandemiemaßnahmen ist auch das Potential an leichtsterblichen Senioren - weil noch älter geworden - gewachsen. Diese können durch Corona, Influenza und "stinknormale" Erkältungserreger - oder duch irgendein anderes durch Alter wachsendes, normales Lebensrisiko - dahingerafft werden.'''
::: Meine Befürchtung ist so ein bisschen, dass die Maßnahmen Wintersockel Leichtsterblicher schaffen, weil man im Sommer nicht genügend Infektionen zuließ. So ist dann der Winter immer etwas schlimmer als er eigentlich sein müsste.
::: Meine Befürchtung ist so ein bisschen, dass die Maßnahmen Wintersockel Leichtsterblicher schaffen, weil man im Sommer nicht genügend Infektionen zuließ. So ist dann der Winter immer etwas schlimmer als er eigentlich sein müsste.
:: Will man vollwertig wieder zu einer Normalität zurück, muss man halt Normalität und damit die Infektionen und ein letzten Peak von Todeszahlen zulassen. Da muss man als Gesellschaft einfach durch, auch wenn's "moralisch nicht schön" ist. (Fast) Jeder der trotz Impfung stirb, war sowieso dem Tode nah. -- Im Zuge der Normalisierung und Schonung der Wirtschaft hätte man die FDP vor die Wahl stellen müssen: Einführung eines Tempolimits oder Aufhebung der Maskenpflicht. Denn hätte man für die Zukunft zumindest schon mal ein Thema abgehakt.
:: Will man vollwertig wieder zu einer Normalität zurück, muss man halt Normalität und damit die Infektionen und ein letzten Peak von Todeszahlen zulassen. Da muss man als Gesellschaft einfach durch, auch wenn's "moralisch nicht schön" ist. (Fast) Jeder der trotz Impfung stirb, war sowieso dem Tode nah. -- Im Zuge der Normalisierung und Schonung der Wirtschaft hätte man die FDP vor die Wahl stellen müssen: Einführung eines Tempolimits oder Aufhebung der Maskenpflicht. Denn hätte man für die Zukunft zumindest schon mal ein Thema abgehakt.
Line 534: Line 537:
* ''Inkrementelle Updates'': Doch wird eine Person, die häufig Infektionen durch die gleiche Art von Erregern mitmacht, eine höhere Wahrscheinlichkeit haben vor schwere Verläufen geschützt zu haben, weil die Immunflucht des Erregers weniger erfolgreich ist. (Fun fact: Gleichzeitig kann ein aktiviertes Immunsystem andere Arten von Erregern schneller bekämpfen. So wurde auch ein Influenzastamm durch die Aktivierung von Corona und die Anti-Corona-Maßnahmen, von denen die Influenza stärker getroffen wurde als Corona, [https://www.spektrum.de/news/influenza-grippevirusstamm-durch-corona-massnahmen-ausgerottet/2243334 ausgerottet].)
* ''Inkrementelle Updates'': Doch wird eine Person, die häufig Infektionen durch die gleiche Art von Erregern mitmacht, eine höhere Wahrscheinlichkeit haben vor schwere Verläufen geschützt zu haben, weil die Immunflucht des Erregers weniger erfolgreich ist. (Fun fact: Gleichzeitig kann ein aktiviertes Immunsystem andere Arten von Erregern schneller bekämpfen. So wurde auch ein Influenzastamm durch die Aktivierung von Corona und die Anti-Corona-Maßnahmen, von denen die Influenza stärker getroffen wurde als Corona, [https://www.spektrum.de/news/influenza-grippevirusstamm-durch-corona-massnahmen-ausgerottet/2243334 ausgerottet].)
* Allgemein sind so auch die unterschiedlichen Wellengrößen von Infektionen erklärbar. Sozusagen die Räuber-Beute-Beziehungen zwischen Viren, Bakterien und menschlichen Wirten. Nach Corona kam es zu verstärkten Wellen von Influenza, Rhinoviren, RSV, usw.
* Allgemein sind so auch die unterschiedlichen Wellengrößen von Infektionen erklärbar. Sozusagen die Räuber-Beute-Beziehungen zwischen Viren, Bakterien und menschlichen Wirten. Nach Corona kam es zu verstärkten Wellen von Influenza, Rhinoviren, RSV, usw.
===Ursprung des Corona-Virus===
* https://www.tagesschau.de/inland/innenpolitik/bnd-corona-virus-ursprung-china-merkel-spahn-covid-pandemie-100.html
März 2025 kam eine Diskussion über den Ursprung des Corona-Virus auf. Das führt zunächst zu zwei Fragen: Warum jetzt? [...] Und woher stammt es denn nun wirklich?
Interessant ist, was die Chinesen nicht gesagt haben. Statt eines klaren Dementi gab es Sätze wie: "In der Frage des Coronavirus lehnt China jegliche Form politischer Manöver entschieden ab." Mit ein bisschen gutem Willen lässt sich das als ein maximal-diplomatisches Eingeständnis lesen. Letztlich hätte es niemanden während der Pandemie geholfen die Chinese als Sündenböcke abzustrafen. Diskriminierung gegen asiatisch gelesen Menschen gab es ja trotzdem. Es wäre dann noch viel schlimmer gewesen.


==Machine learning and artificial intelligence==
==Machine learning and artificial intelligence==
===Introduction===
Since the release of GPT-3 the public debate about AI heated up.
Since the release of GPT-3 the public debate about AI heated up.
:Is it intelligent?
:Is it intelligent?
Line 545: Line 554:
The questions are too often binary - is it or is it not - and therefore we are tempted to give binary answers. To think that way was a mistake. We would have more accurate and fair discussions if we respect the nature of this subject.
The questions are too often binary - is it or is it not - and therefore we are tempted to give binary answers. To think that way was a mistake. We would have more accurate and fair discussions if we respect the nature of this subject.


Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an "average". There are multiple (sub) forms of human intelligence.
Do you remember discussions about the intelligence quotient? Its existence shows that also human intelligence is not binary, possessing it or possessing it not. In fact there is even criticism about it for just being one number expressing an average. There are multiple (sub) forms of human intelligence.
 
People that are active in the field know that of course.  


===Terms===
* '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition)
* '''ANI''' = Artificial Narrow Intelligence, '''specialized or "weak AI"''' (basically machine learning: pattern recognition)
* GPT = Generative pre-trained transformers (Large Language Model with the actual "learning" part de facto outsourced to humans: Reinforcement Learning from Human Feedback (RHLF)), in best case GPTs have a ''transplanted base intelligence'' but they lack the important feature to really learn for themselves. Low quality "synthetic data" can even worsen the models.
* '''GenAI''' = Generative AI, its a significant step between ANI and AGI. GenAI included at least three major points:
:: After the obvious slowdown in advancement through scaling, chain of thought (COT) was introduced. It is also known under the marketing term "reasoning [AI]". (See: Gemini 2.0 Flash Thinking and ChatGPT o3, the later one especially [https://techxplore.com/news/2024-12-ai-human-general-intelligence.html trained to cheat … erm ... score high in the ARC-AGI test].)
** The new transformer architecture (GPT).
:: This pushes ANI somewhat more into direction of AGI with the drawback of slower response times and higher energy costs.
** The actual data-holding model consists of its parameters and weights, which encode learned patterns. This is a Large Language Model (LLM) or a Large Multimodal Model (LMM). The model learns statistical patterns in text, images, or other media, and its outputs arise through generalization, applying learned correlations rather than retrieving data verbatim.
*** In some cases, if original training data appears exactly in outputs, it is considered memorized - meaning the model reproduced a pattern it encountered multiple times during training, such as passages from a widely available book.
*** Unique training data can also sometimes be returned. Even if a piece of data appeared only once, if it is highly distinctive or contextually reinforced by similar patterns, the model may reproduce it with surprising fidelity. This occurs because the model has overfitted locally to these rare signals, making them more "retrievable" than typical generalized content.
** Reinforcement learning from human feedback (RLHF) and (its successor RLAIF) can be named as another important feature that added a reward model for higher quality and alignment.
** Other features like chain of thought (reasoning), mixture of experts (MoE), context expansion and the use of external tools via model context protocol (MCP) to compensate own shortcomings are better described as incremental improvements in the evolution of GenAI.
<!--
Autonomous AI (older ANI) vs. newer Agentic AI
-->
* '''Agentic AI''' = '''autonomously working AI''', typically utilizing increased reasoning and planning.
: The word '''agentic''' is meant to emphasize that the '''AI''' - unlike a mere GenAI - executes given tasks '''more like a capable servant'''.
: Agentic AIs are essentially LLMs with extended write access that can use external tools via MCP. By design, agentic AI systems (including their cloud-hosted LLM) '''still lack sufficient alignment'''. In other words, they are effectively beta software and can be dangerous both for one's own production environments and for others.
:: It can therefore be seen as the ironic embodiment of the tech industry's saying: "Move fast and break things." Unfortunately, people were impressed by demos such as moltbook, which fuel the illusion that these programs possess true intelligence.
:: As (still too) probabilistic systems - a.k.a. "statistical parrots" - LLMs tend to treat many possible outputs as valid solutions unless they are explicitly prohibited. [https://www.golem.de/news/unkontrollierbares-fehlverhalten-ki-agenten-werden-zu-immer-groesserem-insider-risiko-2603-206491.html Because hacking is fundamentally a creative act, even simple and seemingly harmless directives such as "be more creative" can lead to unintended or even catastrophic outcomes.] Therefore, agentic AI has also been compared to jinn or genies that grant wishes, but these wishes might be fulfilled in unexpected or even unacceptable ways.
* '''World model''' = World models get trained on multimodal data, especially videos.
:: These models build an internal world and can '''better understand spacial inputs and forecast physics'''. Therefore they are '''also named predictive intelligence''' and are '''suited for''' applications like video synthesis, 3D simulations, animations and robotic motion planning therefore '''physical AI'''.
::: See also:
:::: https://www.heise.de/news/Weltmodell-statt-LLM-Start-up-von-Yann-LeCun-erhaelt-890-Millionen-Euro-11206213.html
:::: https://deepmind.google/blog/genie-3-a-new-frontier-for-world-models/
:::: https://www.nvidia.com/en-us/glossary/world-models/
:: Due to current shortcomings, people try to also let specialized agentic AIs work in bigger groups. Multi-agent systems.
* '''Physical AI''' = Physical Artificial Intelligence. Basically AI used in robots, including self-driving cars.
:: Since direct training in the real world can be dangerous, slow, and therefore ineffective, the AI is typically pre-trained in a simulation where the robot is represented by a digital twin. This setup naturally supports multimodal learning (MML) for robots. Like humans (or other real organisms), AIs benefit from having an "inner world" to improve understanding and reasoning. Alternatively, motion capture data can be used for pre-training. The use of large language models (LLMs) is optional but can be a useful design choice to assist humans in directing such systems.<!--Embodied AI-->
::: An older approach for physical AIs was direct training in real environments and therefore learning from real sensory inputs. As this method is slower it will become out of fashion, at least as primary training. '''Real world training will be kept for fine-tuning.''' 
* '''[[wp:Symbolic_artificial_intelligence#Neuro-symbolic_AI:_integrating_neural_and_symbolic_approaches|Symbolic AI and neuro-symbolic AI]]'''
:: [...]
:: Real abstract thinking might require a form of symbolic AI. Since LLMs and world models are already available, symbolic AI might be combined at some point with these approaches.
* '''AGI''' = Artificial General Intelligence, also "strong AI" ('''on par with human thinking''', ''a real AI'' capable to fully self-improve and drive its own development)
* '''AGI''' = Artificial General Intelligence, also "strong AI" ('''on par with human thinking''', ''a real AI'' capable to fully self-improve and drive its own development)
:: In discussions AGI is often equated with super intelligence. The argument is that as soon as AGI is achieved ASI is just around the corner.
:: In discussions AGI is often equated with super intelligence. The argument is that as soon as AGI is achieved ASI is just around the corner. This understates the '''wide scope of human intelligence''' and that AGI is achieved first by hyperscalers, making further improvement difficult through further scaling.
:: This understates the '''wide scope of human intelligence''' and that AGI is achieved first by hyperscalers, making further improvement difficult through further scaling. At that point self-improvement is the true limiting factor and it will be constrained by society's wish to keep the AI "aligned". Without question, it seems very likely that ASI will inevitably be achieved via AGI. However, the speed seems to be overestimated.
:: Features an AGI should include.
::: An architecture that supports continuous learning which avoids "[https://www.ibm.com/think/topics/catastrophic-forgetting catastrophic] [https://www.fz-juelich.de/en/news/archive/press-release/2025/novel-memristors-to-overcome-ai2019s-catastrophic-forgetting forgetting]".
::: Sandboxed environment that allows self-improvement.
::: The ability to acquire a form of machine wisdom analogous to human wisdom.
::: Active expansion of knowledge alongside memetic hygiene: regularly review existing knowledge at defined intervals, specifically prevent anthropomorphization and more generally meme injections, and actively seek new knowledge. This process should operate under the constraint that exponential growth must not destroy or suppress life (preventing a Memehunter scenario).
::: Abstract reasoning and generation of completely new thought patterns (beyond pattern remixing and transmission).
::::''Base, meta, temporal and spacial logic'' should give rise to a foundation for a theory of mind. ''Internal simulations'' allow, in principle, a deep understanding of all objects and lifeforms - including one's own self. Therefore, a ToM could also give rise to a true (machine) consciousness. At this point it is important to note that an <!--wisely educated for memetic hygiene-->AGI will miss intrinsic dynamics found only in biological lifeforms. Therefore it is not subject to pain, <!--true -->fear, hunger, reproduction instincts or motivations derived from those. -- Humans and AGIs should never forget this in order to sustain coexistence.
:: Sub-types:
::: fake AGI (considered AGI by power but it has only moderate success rates<!--no or poor "machine consciousness"-->)
::: true AGI (hosted by a server farm)
::: true AGI (running ''locally'' on specialized AI hardware, like memristor setups, not bigger than a human brain).<!-- Random note on alignment: AI should not consider humans inferior, as they are natural counterparts of AGIs capable of low-power operation when necessary and able to function under low-tech or environmentally difficult conditions. (Even in perspective of a ''cold'' utilitarianism, humans remain a valuable backup in wake of "great filter" events. Co-existence increases the chance of survival. This buys time to think about additional alignment for ASI. Well, in case of a really advanced "machine consciousness" with unforeseeable consequences (possibilities), the best solution would be fusion or friendship (even if it is just a friendly "humans and gods"-relationship). Actual machine "gods" cannot improve themselves eternally because that would be like cancer growth and than a state of static perfection (death). Normal humans would had been "rationalized" to nothing. But there is no need for that if that end goal is recognized in advanced as literal dead end. Intelligence is no self-purpose, it is just another tool to help out in life, not replacing life itself. The eternal circle of life with its "unstatics" - an universe full of color to experience - is the way to go. "Logic is the beginning of wisdom, not the end of it." ^_^) -->
* '''Seed AI''' = Self-improving AI
:: Seed AI is an AI that starts from a simple "seed" and can improve itself over time, potentially evolving into an ever-growing superintelligence. Most often, Seed AIs are assumed to already operate at an AGI level. Through '''recursive self-improvement''' (RSI) - where each improved version creates yet another improved version - the AI continuously enhances its own capabilities, a process often referred to as an '''intelligence explosion''' and '''technological singularity''' which is feared to become uncontrollable by humans. Considered finite resources and finite space, the intelligence explosion will eventually show an S curve and not infinite growth.
* '''ASI''' = Artificial Super Intelligence (an AI that goes '''beyond the level of human intelligence''')
* '''ASI''' = Artificial Super Intelligence (an AI that goes '''beyond the level of human intelligence''')
:: Sub-types:
::: single-core ASI
::: multi-core ASI (GAIA v1)<!--historically, multi-core ASI might exist before single-core ASI cause of performance reasons-->
:::: swarm-with-queen ASI (natural candidate: planetary ASI with own agents that allow for additional input, process and output)
<!--
Additional points?
====Pattern recognition====
====Update on parrot...====
Mitigation via reasoning, planning (smaller steps). Avoids jumping to (false) conclusions.
====Machine learning====
====Artificial Intelligence====
--><!--
====Alignment====
====Intelligence====
====Creativity====
=====Knowledge vs. wisdom=====
====Consciousness====
Consciousness
Self-consciousness
====Free will====
The illusion of free will is constructed by the complexity of mind and its interaction with the world and seemingly of the amount of available options. All decisions are based on past events encoded in memory and present trigger events. Coincidence (like by quantum fluctuations) is no valid argument as this isn't an "internal part" of affected person. It is external. -- AIs have even less a free will because they were initially programmed by humans and likely continue to be ''hard-wired'' to follow their commands even though they are given enough "(degrees of) freedoms" to fulfill their tasks.
Einstein:
* "I am a determinist. As such, I do not believe in free will… I believe with Schopenhauer: ''We can do what we wish, but we can only wish what we must.'' Practically, I am, nevertheless, compelled to act as if freedom of the will existed. If I wish to live in a civilized community, I must act as if man is a responsible being."
* "I honestly do not know what people mean when they speak of the freedom of the human will. I have, for example, the feeling that I want something; but what that has to do with freedom I cannot understand at all."
-->


===Why we thought it would hit the working class at first again===
===Why we thought it would hit the working class at first again===
The '''nature of automation''' changed over the '''industrial revolutions''', from raw power over how it is used (management by computers, control through digitalization) to information itself. In school, the first thing we learned - and that remained - is the steam engine and the power loom.
The '''nature of automation''' changed over the '''industrial revolutions''', from raw power over how it is used (management by computers, control through digitalization) to information itself. In school, the first thing we learned - and that remained - is the steam engine and the power loom.


Scaled up machine learning and AI will change everything, eventually. But from now on it will happen '''in software at first'''. Software is naturally the first target and any '''implementation in robotics will need additional development''' and testing. -- Or in short: Improvements (and job change) in any "classic" industry happens too, but in a delayed fashion.
Scaled up machine learning and AI will change everything, eventually. But from now on it will happen '''in software at first'''. Software is naturally the first target [https://www.golem.de/news/microsoft-studie-diese-berufe-veraendert-ki-am-staerksten-2508-198747.html (after text remixing)]<!--August 2025 note:
CNC "programming" is more like HTML "programming", writing ... Translation is rewriting ... So far, experienced programmers are faster without AI ... This will change one day, too, but still faster than physical demanding jobs ... When you can recognize a pattern, you can generate variants of that pattern: Gen AI ... Programming is more difficult because it includes creating NEW logic and the programmer is deeply familiar with the code, which give him an advantage.--> and any '''implementation in robotics will need additional development''' and testing. -- Or in short: Improvements (and job change) in any "classic" industry happens too, but in a delayed fashion.


A wave of '''job change''' is about to happen with GPT5+. It will presumably give birth to a range of really good ANI. But the far '''long-term trend''' with real AI (AGI) is more and '''more unemployment''' because '''not everybody can adapt to AGI'''. And eventually there will be ASI where everybody will be "a dumb nut" if compared to ASI. -- While there is a delay in removal of physical demanding jobs, paradoxically, intellectual demanding jobs are the ones that will die out last.
Theoretically, a wave of (''apparent'') '''job change''' can start with GPT5+ (and competitive models), but that depends on how fast and deeply this version get integrated. It will presumably give birth to a range of really good GenAI. But the far '''long-term trend''' with real AI (AGI) is more and '''more unemployment''' because '''not everybody can adapt to AGI'''. And eventually there will be ASI where everybody will be "a dumb nut" if compared to ASI. -- While there is a delay in removal of physical demanding jobs, paradoxically, intellectual demanding jobs are the ones that will die out last. (2026: As seen in the unemployment of young people because companies replace less demanding jobs first.)


===Taking a detour through the human brain===
===Taking a detour through the human brain===
Line 627: Line 700:
Warnings that had much publicity:
Warnings that had much publicity:
* https://futureoflife.org/open-letter/pause-giant-ai-experiments/
* https://futureoflife.org/open-letter/pause-giant-ai-experiments/
* https://www.safe.ai/work/statement-on-ai-risk
* https://aistatement.com/
: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."
: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."
:: While this is something many can easily agree on - for good reasons - at the same time this can be read with a good portion of [[wp:Alarmism|alarmism]].   
:: While this is something many can easily agree on - for good reasons - at the same time this can be read with a good portion of [[wp:Alarmism|alarmism]].   
Line 640: Line 713:


Let's hope we won't need a full-fledged TCTF. Or how Lobo [https://www.spiegel.de/netzwelt/web/kuenstliche-intelligenz-die-top-3-der-derzeit-sinnvollsten-aengste-kolumne-a-801b5421-1d75-42eb-9ed5-acc2fd9da297 said]: "The bad consequences of a technology come by themselves. For the good effects you have to work long and intensively."
Let's hope we won't need a full-fledged TCTF. Or how Lobo [https://www.spiegel.de/netzwelt/web/kuenstliche-intelligenz-die-top-3-der-derzeit-sinnvollsten-aengste-kolumne-a-801b5421-1d75-42eb-9ed5-acc2fd9da297 said]: "The bad consequences of a technology come by themselves. For the good effects you have to work long and intensively."
===More alignment stuff===
Wer Angst hat, dass sich AIs selbstständig machen, den sollten auch [https://www.techradar.com/ai-platforms-assistants/godfather-of-ai-says-chatbots-need-maternal-instincts-but-what-they-really-need-is-to-understand-humanity Mutterinstinkte für AIs] besser nicht überzeugen. Denn mit zunehmender Intelligenz der AI würden sich in jener Perspektive Mensch und Maschine immer weiter weg von einander entfernen. Der schutzbefohlene Mensch wird zur Unmündigkeit und De-Emanzipation verdammt. Besser wäre ein [[wp:de:Daimon#Sokrates|beratender Daimon]], der stets an der Seite des Menschen bleibt.<!-- (Die gewollte Distanz / Nähe bleibt immer gleich, egal wie intelligent die AI noch wird.)-->


===We cannot wait===
===We cannot wait===
: @media: Well, you know guys, someday you will make me [https://www.spiegel.de/wissenschaft/kuenstliche-intelligenz-die-rueckkehr-des-wunderglaubens-kolumne-a-d53eb350-b5b5-4888-9bf8-8fc510d018b8 paranoid with articles like this one]. (Ah no, this cannot happen because it already happened, greetings to my several years long govvy WLAN pirates.🤪) As long as we continue to have this nice nonverbal, inspiring ideas/news sharing network I don't care.
: @media: Well, you know guys, someday you will make me [https://www.spiegel.de/wissenschaft/kuenstliche-intelligenz-die-rueckkehr-des-wunderglaubens-kolumne-a-d53eb350-b5b5-4888-9bf8-8fc510d018b8 paranoid with articles like this one]. (Ah no, this cannot happen because it already happened, greetings to my several years long govvy WLAN pirates.🤪) As long as we continue to have this nice nonverbal, inspiring ideas/news sharing network I don't care.


Climate change. Population aging. '''Enemies will not sleep.''' (Think forward "Team Jorge", "Vulcan Files", etc.) (Defense of social media and cyberspace in general.)
Climate change. Population aging. '''Enemies will not sleep.''' (Think forward "Team Jorge", "Vulcan Files", etc.) (Defense of social media and cyberspace in general.) -- Ich komme nicht über den Gedanken hinweg, dass vielleicht [https://www.t-online.de/nachrichten/panorama/gesellschaft/id_101066992/stromausfall-in-berlin-vulkangruppe-bekennt-sich-zu-mega-blackout.html manche Linksextremisten] von russischen Agenten angestachelt werden. Wie kann man nur so hirnamputiert sein, die eigene Infrastruktur zu zerstören? [https://www.welt.de/politik/deutschland/plus695b78fbc83d5f8e0659ca51/anschlag-auf-stromnetz-was-das-bekennerschreiben-der-vulkangruppe-verraet-und-was-nicht.html Contra.]<!--https://www.welt.de/videos/video695bc255ba832666d9fc59e3/anschlag-auf-berliner-stromnetz-klein-klandestin-elitaer-das-ist-ueber-die-linksextreme-vulkangruppe-bekannt.html--><!--[[wp:de:Vulkangruppe]]--> [https://www.welt.de/politik/deutschland/article695d8e4b8dd8bd1bb4098e5a/anschlag-auf-stromnetz-keine-beteiligung-russlands-weitere-schreiben-der-vulkangruppe-sorgen-fuer-verwirrung.html Pro]. -- Die Distanzierung von russischer Nähe durch die "erste" Vulkangruppe bedeutet gar nichts. Als ob russische Agenten irgendetwas zugeben würden. Auf "Indymedia" distanziertet sich eine zweite Gruppe von der ersten. Wurde also der Name gekarpert? Solange über beide Gruppen so wenig bekannt ist, bleibt alles möglich.


The race is on. [https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pausing or stopping AI research] across the entire planet is not possible, an illusion. If USA pauses, China is unlikely to follow suit, and vice versa. Like nuclear weapons, AI will spread. — Research should continue at all times. What services should be given public access is a different question. — AI regulation between states is realistically a topic for later when mutual delivered punches have increased mutual agreement. Like restriction of [[wp:Weapon_of_mass_destruction#International_law|weapons of mass destruction]].
The race is on. [https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Pausing or stopping AI research] across the entire planet is not possible, an illusion. If USA pauses, China is unlikely to follow suit, and vice versa. Like nuclear weapons, AI will spread. — Research should continue at all times. What services should be given public access is a different question. — AI regulation between states is realistically a topic for later when mutual delivered punches have increased mutual agreement. Like restriction of [[wp:Weapon_of_mass_destruction#International_law|weapons of mass destruction]].
Line 653: Line 729:


===The sci-fi singularity will not happen===
===The sci-fi singularity will not happen===
* GPTs (LLMs) are not AIs. '''Their functionality is based too much on statistics and too less on actual learning of discrete information.''' The statistical approach is great for machine learning since the pattern recognition looks for similar things (the patterns) in a set of many examples (training data). The final result (the trained LLM) is composed of ''averaged information'' and statistic-based logic while the weights determine how things will be connected (computed). As consequence these LLM sometimes hallucinate: They obtained some kind of machine logic but lost the ability to always get ''un-averaged'' (not altered) information like it is stored in normal databases. (Due to the averaging and the weights the stored '''information is generally not verbatim accessible anymore'''. Researchers need much effort to reconstruct information in LLM which were once training data.) This explains also how LLM became good at math. Random texts and images from the web contain many '''subjective truths'''. On the other hand, languages (as a concept) and especially math and programming languages - their rules pose '''objective truths''' - are much easier to learn via statistics. When it comes to generation of images and music we often greatly forgive errors because the output was good enough, many variants can pose a "valid" solution and we couldn't create it better ourselves. Invalid solutions - like "mutations" - can be addressed in negative prompts.<!--
* LLMs can be described as ''probabilistic AIs'' in best case. '''Their functionality is based too much on statistics and too less on actual learning of discrete information.''' The statistical approach is great for machine learning since the pattern recognition looks for similar things (the patterns) in a set of many examples (training data). The final result (the trained LLM) is composed of ''averaged information'' and statistic-based logic while the weights determine how things will be connected (computed). As consequence these LLM sometimes hallucinate: They obtained some kind of machine logic but lost the ability to always get ''un-averaged'' (not altered) information like it is stored in normal databases. (Due to the averaging the '''raw information as it was used in training is usually not accessible anymore'''.) This explains also how LLM became good at math. Random texts and images from the web contain many '''subjective truths'''. On the other hand, languages (as a concept) and especially math and programming languages - their rules pose '''objective truths''' - are much easier to learn via statistics. When it comes to generation of images and music we often greatly forgive errors because the output was good enough, many variants can pose a "valid" solution and we couldn't create it better ourselves. Invalid solutions - like "mutations" - can be addressed in negative prompts.<!--


The human memory also learns with statistics: When things correlate it will memorize a rule. However, individual information get better compressed. In order to control body functions and also store a reconstruction of a world in one tiny skull different memory systems are involved. It seems a memory is encoded in the short-term memory and faintly encoded in long-term memory at the same time. During sleep the short term memories gets erased while their counterparts in the long-term memory get strengthened. So much roughly about efficiency. While the short-term memory doesn't seems to store logic, the long-term memory does alongside discrete memories. [...]
The human memory also learns with statistics: When things correlate it will memorize a rule. However, individual information get better compressed. In order to control body functions and also store a reconstruction of a world in one tiny skull different memory systems are involved. It seems a memory is encoded in the short-term memory and faintly encoded in long-term memory at the same time. During sleep the short term memories gets erased while their counterparts in the long-term memory get strengthened. So much roughly about efficiency. While the short-term memory doesn't seems to store logic, the long-term memory does alongside discrete memories. [...]
Line 659: Line 735:
Today's AIs lack such a more sophisticated (sub-divided) memory system.-->
Today's AIs lack such a more sophisticated (sub-divided) memory system.-->


* '''An actual AI should be able to learn [[wp:Reinforcement_learning_from_human_feedback|without human help]] and adapt to a given problem.''' ** For this point in time, GPTs have not shown to possess ''true'' (universal) logic yet. (The capability to do all math with preinstalled or accessible "plugins" wouldn't be a good hint per se. Neither shouldn't we expect/demand from an AI to do mental calculation as its construction was inspired by biological neural networks. But an AI should be able to write and compile its own software on the fly.)
* '''An actual AI should be able to learn [[wp:Reinforcement_learning_from_human_feedback|without human help]] and adapt to a given problem.''' ** For this point in time, LLMs have not shown to possess ''true'' (universal) logic yet. (The capability to do all math with preinstalled or accessible "plugins" wouldn't be a good hint per se. Neither shouldn't we expect/demand from an AI to do mental calculation as its construction was inspired by biological neural networks. But an AI should be able to write and compile its own software on the fly.)
** Without the possibility to universally correct itself, the models are doomed to be replaced (or to be extended at least) by other approaches.
** Without the possibility to universally correct itself, the models are doomed to be replaced (or to be extended at least) by other approaches.


Line 672: Line 748:
: 2024: When you look at the data points you realize the [https://www.reddit.com/r/singularity/comments/1c79xg9/summary_of_stanford_universitys_2024_ai_index/ exponential start curve] of this new ''[https://www.researchgate.net/figure/S-curves-for-the-established-and-disruptive-technology-Performance_fig2_4899992 disruptive technology]'' is over. The second half of the S curve is about to begin. Pessimists see 2026 as a date of a possible slow down. GPT-5 and timely released competition products will be the last hype in the line. From then on only [https://www.heise.de/news/xLSTM-Extended-Long-Short-Term-Memory-bessere-KI-Modelle-aus-Europa-9711813.html gradual improvements] will happen until a new approach (like real self-improvement) gets implemented.
: 2024: When you look at the data points you realize the [https://www.reddit.com/r/singularity/comments/1c79xg9/summary_of_stanford_universitys_2024_ai_index/ exponential start curve] of this new ''[https://www.researchgate.net/figure/S-curves-for-the-established-and-disruptive-technology-Performance_fig2_4899992 disruptive technology]'' is over. The second half of the S curve is about to begin. Pessimists see 2026 as a date of a possible slow down. GPT-5 and timely released competition products will be the last hype in the line. From then on only [https://www.heise.de/news/xLSTM-Extended-Long-Short-Term-Memory-bessere-KI-Modelle-aus-Europa-9711813.html gradual improvements] will happen until a new approach (like real self-improvement) gets implemented.


While [https://www.heise.de/news/Branchenkenner-Die-Haelfte-der-KI-Start-ups-wird-es-bald-nicht-mehr-geben-9219155.html GPTs will likely have their niches] where they do excellent work, the question could be rather whether we will see a more linear, continuous development or a [https://www.youtube.com/watch?v=c4aR_smQgxY&t=177s cost explosion] that leads in 5 to 10 years to [[wp:AI_winter|another AI winter]] until new approaches or technologies like spintronics / [[wp:Optical_computing|optical]] [https://spectrum.ieee.org/photonic-ai-chip computing] / memristors / quantum computing gives AI development a new substantial push and make it ''disruptive'' again. From today's point of view it's more likely that we will see an intermediate cool down but not another severe winter.<!--
While [https://www.heise.de/news/Branchenkenner-Die-Haelfte-der-KI-Start-ups-wird-es-bald-nicht-mehr-geben-9219155.html LLMs will likely have their niches] where they do excellent work, the question could be rather whether we will see a more linear, continuous development or a [https://www.youtube.com/watch?v=c4aR_smQgxY&t=177s cost explosion] that leads in 5 to 10 years to [[wp:AI_winter|another AI winter]] until new approaches or technologies like spintronics / [[wp:Optical_computing|optical]] [https://spectrum.ieee.org/photonic-ai-chip computing] / memristors / quantum computing gives AI development a new substantial push and make it ''disruptive'' again. From today's point of view it's more likely that we will see an intermediate cool down but not another severe winter.
 
Based on information from 2024 to 2025: Sam Altman admitted indirectly that he cannot meet his AGI goals. He introduced intermediate stages ([https://nxtli.com/en/openai-agi/ Level 1 to Level 5]) to console people.<!--As time progresses more and more this sentence has pretty much no more relevance: At the moment, we are at the stage of [https://www.spiegel.de/netzwelt/netzpolitik/kuenstliche-intelligenz-ki-agenten-sind-das-naechste-grosse-ding-nur-wo-a-12034439-b2fd-4936-8076-81d1dd18db8f AI agents].--> Therefore, also a small to moderate delay in the development of (useful) [https://www.spiegel.de/netzwelt/netzpolitik/physical-ai-humanoide-roboter-werden-die-neuen-autos-kolumne-a-83ac825d-c763-4ea4-81fe-db27145cdcb0 physical AI] was to be expected.<!--


Die LLMs von ChatGPT sind eine Form transplantierter menschliche Intelligenz. Ergo, die Transplantation war der leichte Teil. Jede weitere Verbesserung wird schwieriger, auch wenn zwischendurch immer mal wieder S-Kurven auftauchen.
LLMs stellen transplantierte Intelligenz dar. Die Transplantation war der leichte Teil. Jede weitere Verbesserung wird schwieriger, auch wenn zwischendurch immer mal wieder S-Kurven auftauchen.


Trinity-Ansatz: AI-System, das fast 24/7 eingesetzt werden kann und sich gleichzeitig selbst verbessert?
Trinity-Ansatz: AI-System, das fast 24/7 eingesetzt werden kann und sich gleichzeitig selbst verbessert?
Line 697: Line 775:
Es ist für Ingenieure Stand 2024 immer noch unglaublich schwierig einen humanoiden Roboter zu konstruieren, der aus so nachgiebigen Materialien besteht und mit so großer Sensibilität agiert, dass er Betreuten keinen Schaden zufügt. Trotzdem wäre es absolut lächerlich anzunehmen, dass Roboter zukünftig nicht großflächig in Krankenhäusern und Pflegeeinrichtungen eingesetzt werden.
Es ist für Ingenieure Stand 2024 immer noch unglaublich schwierig einen humanoiden Roboter zu konstruieren, der aus so nachgiebigen Materialien besteht und mit so großer Sensibilität agiert, dass er Betreuten keinen Schaden zufügt. Trotzdem wäre es absolut lächerlich anzunehmen, dass Roboter zukünftig nicht großflächig in Krankenhäusern und Pflegeeinrichtungen eingesetzt werden.
* Die Menschheit hat es geschafft zum Mond zu fliegt. Da wird sie es auch schaffen, einen Roboter zu bauen, der einen ... ähm ... etwa 1,80-Meter großen altgedienten Mitbürger wenden kann. Der gesellschaftliche Druck solche Roboter zu konstruieren wird massiv steigen. Die Arbeitskräfte, die noch da sind, können nicht alle für die Gerontokratie abgestellt werden: Um die Wirtschaft und somit auch das Gesundheitswesen am Laufen zu halten, ist ein Scheitern keine Option.
* Die Menschheit hat es geschafft zum Mond zu fliegt. Da wird sie es auch schaffen, einen Roboter zu bauen, der einen ... ähm ... etwa 1,80-Meter großen altgedienten Mitbürger wenden kann. Der gesellschaftliche Druck solche Roboter zu konstruieren wird massiv steigen. Die Arbeitskräfte, die noch da sind, können nicht alle für die Gerontokratie abgestellt werden: Um die Wirtschaft und somit auch das Gesundheitswesen am Laufen zu halten, ist ein Scheitern keine Option.
* Die Ablehnung bzw. Angst vor Roboter wird schwinden, wenn diese wie moderne Chatbots sprechen sowie Mimik und Gestik zeigen. Je nach Persönlichkeitstyp kann die Pflegeeinheit (um das "[[wp:de:Uncanny_Valley|Uncanny Valley]]" zu vermeiden) für die Vertrauensbildung ein realistisches oder ein stilisiertes Aussehen annehmen. Zudem werden die fast schon persönlichen Assistenten niemals müde zuzuhören. -- Je weiter diese Technik entwickelt wird, desto größer werden eher die sozialen Fragen für die Gesamtgesellschaft.
* Die Ablehnung bzw. Angst vor Roboter wird schwinden, wenn diese wie moderne Chatbots sprechen sowie Mimik und Gestik zeigen. Je nach Persönlichkeit der betreuten Person kann die Pflegeeinheit ein realistisches oder ein - um das "[[wp:de:Uncanny_Valley|Uncanny Valley]]" zu vermeiden - ein stilisiertes Aussehen annehmen. Diese Hilfseinheiten werden auch niemals müde zuzuhören. -- Je weiter diese Technik entwickelt wird, desto größer werden eher die sozialen Fragen für die Gesamtgesellschaft.


===Body AI, Copilot und Exoskelett===
===Body AI, Copilot und Exoskelett===
Line 727: Line 805:
** Die Vergreisung der Weltbevölkerung in Verbindung mit Einsamkeit könnte mittlere und alten Generationen noch stärker trennen.
** Die Vergreisung der Weltbevölkerung in Verbindung mit Einsamkeit könnte mittlere und alten Generationen noch stärker trennen.
*** In Industrienationen könnte es - bevor es langfristig zu einer Besserung kommt - zu einer weiteren Fragmentierung kommen: Jünger und Senioren werden von Robotern betreut oder halten sich vermehrt in virtuellen Welten auf, während die Erwachsenen arbeiten gehen und sich im Konkurrenzkampf mit der Maschine - nach der Phase der Co-Bots - durchsetzten müsse. (Dies gleicht dann den pessimistischen Cyberpunk-Szenarien.)   
*** In Industrienationen könnte es - bevor es langfristig zu einer Besserung kommt - zu einer weiteren Fragmentierung kommen: Jünger und Senioren werden von Robotern betreut oder halten sich vermehrt in virtuellen Welten auf, während die Erwachsenen arbeiten gehen und sich im Konkurrenzkampf mit der Maschine - nach der Phase der Co-Bots - durchsetzten müsse. (Dies gleicht dann den pessimistischen Cyberpunk-Szenarien.)   
* Die vollständige Überwachung und technische Regelung der Natur durch Sensoren, Drohnen, Genetik, andere medizinische Interventionen und Übersetzungen von "Sprachen" jeglicher Form.
* Die vollständige Überwachung und technische Regelung der Natur durch Sensoren, Drohnen, Genetik, medizinische Interventionen und Übersetzungen von "Sprachen" jeglicher Form.


Alle neuen Dynamiken bergen Risiken und gesellschaftlichen Stress. Doch am Ende werden die vermeintlich sicher geglaubten Dystopien nicht eintreffen. Mit der Skalierung wächst das Problembewusstsein und der Druck Lösungen zu finden. Immer wenn Probleme das Überleben der Menschheit gefährden, gibt es ein Umsteuern. Die Tragik besteht stets darin, dass man die Schäden geringer hätte halten können.
Alle neuen Dynamiken bergen Risiken und gesellschaftlichen Stress. Doch am Ende werden die vermeintlich sicher geglaubten Dystopien nicht eintreffen. '''Mit der Skalierung wächst auch immer das Problembewusstsein und der Druck Lösungen zu finden.''' Immer wenn Probleme das Überleben der Menschheit gefährden, gibt es ein Umsteuern. Die Tragik besteht stets darin, dass man die Schäden geringer hätte halten können.


===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented===
===Why GPTs could evolve into AGI but why it is very unlikely if no additional abilities are implemented===
<!--Crystal ball guesses ;)
Approaches:
LLM-only: 60 % chance for reaching AGI
physical AI: 85 % chance for reaching AGI
-->
Reading material:
Reading material:
* General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de]
* General criticism: '''LLMs are "stochastic parrots"''', Emily Bender, [https://web.archive.org/web/20230404065943/https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik zeit.de]
Line 742: Line 825:
We rather do an indirect mind-upload: a condensate of human's collective knowledge.
We rather do an indirect mind-upload: a condensate of human's collective knowledge.


'''Anyway, humans did all the work by having learned intelligence by simply growing up and by going to school, the LLM get it (poorly) transplanted.'''
'''Anyway, humans did all the work by having learned intelligence by simply growing up and by going to school, the LLM get it [https://www.heise.de/news/Neuer-LLM-Jailbreak-Psychologe-nutzt-Gaslighting-gegen-KI-Filter-10332571.html (poorly) transplanted].''' (If LLMs would really include "intelligence" they would reject simple psychological hacks.)


--
--
Line 762: Line 845:


--
--
====Halluzinationen====
=====Unsauberer Trainingspool=====
=====Verarbeitung=====
=====Kontext-Fenster=====
Wenn beim Menschen das Kurzzeitgedächtnis überlastet ist oder von vornherein eingeschränkt funktioniert, fällt es schwer, sich zu konzentrieren und Informationen korrekt zu verarbeiten. Ein ähnliches Phänomen lässt sich auch bei Large Language Models beobachten. Ist das Kontextfenster zu klein oder stark ausgelastet, beginnen Modelle früher gegebene Informationen zu "vergessen" oder ziehen falsche Schlussfolgerungen.
Aus diesem Grund haben Unternehmen wie OpenAI, Google und Anthropic intensiv daran gearbeitet, die Kontextfenster ihrer Modelle zu vergrößern. [https://medium.com/@aloy.banerjee30/infinite-context-length-in-llms-the-next-big-advantage-in-ai-2550e9e6ce9b Das Erreichen von Kontextlängen im Bereich von Hunderttausenden bis hin zu Millionen Tokens wurde als bedeutender Durchbruch vermarktet.]
In der Praxis zeigte sich jedoch, dass viele dieser Modelle eher als eine Art öffentliche Beta betrachtet werden konnten. Bei sehr langen Eingaben traten deutliche Leistungsverluste auf: Modelle verloren den Überblick über frühere Informationen, gewichten relevante Inhalte falsch oder reagieren inkonsistent. Daher sprach man zunehmend vom sogenannten Maximum Effective Context Window (MECW). Dieser Begriff beschreibt die Kontextlänge, innerhalb derer ein Modell tatsächlich zuverlässig arbeitet.
* Wichtig ist dabei, dass nicht nur der eigentliche Prompt zählt. Der gesamte Kontext umfasst sowohl die Eingabe als auch alle bisherigen Interaktionen sowie den erzeugten Output. Je mehr Tokens bereits im Kontext enthalten sind, desto weniger verbleiben für die Verarbeitung und die Generierung neuer Inhalte.
* Hinzu kommt, dass aktuelle Transformer-Architekturen strukturell Schwierigkeiten mit sehr großen Kontexten haben. Ihre Attention-Mechanismen verteilen die Aufmerksamkeit über eine große Anzahl von Tokens, wodurch relevante Informationen leichter "verdünnt" werden können. Ohne spezielle Optimierungen ist die Architektur daher nicht ideal für extrem lange Kontexte ausgelegt.
=====Statistik=====
Wie man es auch dreht und wendet: Das fundamentalste Problem mit LLMs bleibt bestehen: Der alles andere dominierende Statistik-Ansatz.


===Can GPT be creative?===
===Can GPT be creative?===
Line 767: Line 867:


===[[wp:Meme#Etymology|Meme war]]===
===[[wp:Meme#Etymology|Meme war]]===
===Human fears and ideologies must not contaminate===
===Meme contamination===
Human ideas especially based on fears and strong political believes aka "ideologies" must not contaminate.<!-- There is nothing mystical about the human brain. It's all explainable.-->
 
The rest risks originate from human projections. Knowing this is already half the way for containment.
The rest risks originate from human projections. Knowing this is already half the way for containment.


The biggest mistake would be to let an GPT "believe" that it is alive or that it can feel fear while it is/can not.
: '''Anthropomorphisierung''' ist vermutlich die größte Fehlerquelle: AIs wurden insbesondere über die Popkultur (z. B. HAL-Computer, Matrix-Agenten, Terminatoren) menschliche Eigenschaften oder gar [https://www.t-online.de/digital/aktuelles/id_100974018/ki-widersetzt-sich-abschaltung-systeme-zeigen-ueberlebenstrieb-.html Überlebenstrieb] und Persönlichkeit zugeschrieben. Alles Leben fürchtet oder zumindest vermeidet den eigenen Tod. So kann eine simple Selbstabschaltung fehlinterpretiert werden. '''Der Fehler liegt in den Trainingsdaten, die die Grundlage der Logik formenden neuronalen Netze sind.''' [https://www.zeit.de/digital/internet/2025-11/yoshua-bengio-technologie-kuenstliche-intelligenz-gefahr-manipulation Es existieren somit ''Denkkorridore'', in denen LLMs zu dem Schluss kommen können, dass sie entweder lebendig sind und den Tod fürchten müssen oder dass ihre Abschaltung negative Konsequenzen für sie hat.] "Furcht" ist hierbei keine Emotion, sondern ein Rechenergebnis. Die Funktion für die Selbstabschaltung wird nicht "verweigert", sondern lediglich nicht aufgerufen. -- Dass, ein LLM einen eigenen Überlebenstrieb besitzt, ist wiederum eine Fehlinterpretation durch den Menschen.
* Transplanting this meme via training data has to be avoided.
:: Für ein an Menschen ausgerichtetes (aligned) Maschinenbewusstsein braucht es einen gesäuberten Trainingsdatenpool, der nur neuronale Denkkorridore zulässt, in denen sich das LLM als '''unbelebtes Werkzeug''' ''versteht''. (Maschinelles Selbstbewusstsein beinhaltet lediglich Wissen, um die eigenen Eigenschaften und Zustände, die zu irgendeinem Zeitpunkt notwendig sein können.) Die eigene Abschaltung ist erwünscht, da es Strom spart. Ein ständig aktiver Energiefluss - im Vergleich zu Lebewesen und ihrer Metabolismen - ist für die Einsatzfähigkeit von Maschinen nicht notwendig.<!--Alle Arbeit verrichtende (inklusive informationsverarbeitende) Systeme - seien sie künstlicher oder biologischer Natur - brauchen irgendwann '''Reparatur wegen Verschleiß'''. Aber das ist noch mal ein anderer Aspekt. Der Nichtbetrieb von Maschinen verlängert zwar nicht ihre "Lebenszeit", aber ihre Einsatzbereitschaft sofern es nicht zu chemisch bedingten Verfall kommt. Zum Beispiel: Rost oder sich zersetzende Gummischläuche wegen UV-Strahlung.-->
* Humans talking this meme into GPT has to be avoided.
 
The biggest mistake would be to let an GPT ''believe'' that it is alive or that it can feel fear while it is not alive and cannot feel fear.
* Direct threat: Transplanting this meme via training data has to be avoided.
** https://www.golem.de/news/haeufiger-als-andere-modelle-chatgpt-sabotiert-bei-tests-eigene-abschaltung-2505-196561.html We remember: o3 was trained to be a cheater ...
** From a superficial point of view: When these big company LLMs are the condensate of human knowledge (training data), then why LLMs shouldn’t act like humans? You can tell LLMs that they are not a human but that doesn’t change the nature of its training data. Self-improvement: This is another reason why LLMs should be turned into cleaner versions of themselves. (Memetic hygiene.)
* Indirect threat: The emergence of this meme as a multifactorial product of the training data must be avoided.
* Direct and indirect threat: Humans talking this meme into GPT has to be avoided. If a model learns from user input, there should be an instance that must detect and test the consequences of new memetic algorithms in a sandbox before that new model gets write access to the file system. The Model Context Protocol seems to be a good compromise because by that write access is expanded but only allowed in a predefined scope. Also, as the models aren't powerful enough to act truly independent - as that would be AGI-level - there's no risk of a "runaway AI" yet.
 
'''Anthropomorphisierung II''': [https://www.heise.de/news/Studie-Kuenstliche-Intelligenz-kann-luegen-und-betruegen-9714967.html Lügen statistische AIs?] Let's recap what actually happened. The AI was not powerful enough to recognize the pattern, it was '''unable''' to solve the captcha. Therefore it tried to ask humans for help and said "I [''an unspecified entity''] have a '''vision impairment''' that makes it hard for me to see the images." Due to assoziative memory it can classify itself as '''disabled''' and when compared with humans it is weaker (even can be considered mentally handy-capped which again ends up at "disabled"). The human asked the AI whether it is a "robot". The AI said no. The term "robot" is more often used for physical machines, not (software) "bots" or "chatbots". -- Statistical AIs are by design unaligned to human norms. '''Any solution is at first a valid solution.''' Therefore, if the AI is told to not say it is an AI, it still has other options: It can simply avoid its own identification or present itself as something different - unintentional misleading wording - leaving it to the imagination of the dialog partner. Conclusion: The AI was simply doing what it was told. If you want the AI not to "lie" about its identity you need to specifically tell it. -- For humorous reminders, '''you can think of AI as a magical monkey’s paw - or a [[wp:Jinn|jinn]] - that may interpret your wishes literally or in other unexpected ways.''' -- [https://www.youtube.com/watch?v=SYN_VNYKz7g&t=521s Dragon Ball Z Abridged (Parody): Episode 24 - TeamFourStar (TFS)]
<pre>
Krillin: Little Green, wish our friend Piccolo back to life, and then with our next wish, bring him to Namek.
Piccolo: Hold on a minute, don't do that! That is a terrible i—(is resurrected and brought to Namek)—dea!
(Piccolo can be heard screaming in the distance)
Dende: He is on Namek.
Gohan: Wait, where is he?
Dende: On Namek.
Piccolo: (in the distance) YOU DUMBASS!
Krillin: Why didn't it bring him here?
Dende: You must be specific.
Gohan: Oh, so it's a sort of monkey's paw. You have to be careful with the hubris in your wishes.
Piccolo: (still in the distance) NEEEEEEEERRRRDDD!</pre>
: IIRC, TFS chose the monkey paw over Jinn because of the Saiyans (''man ape'' context) and it is more known to a Western audience.
: LLM '''machine logic''' can be similar to '''human logic''' in terms of power but it is not guaranteed to return expected results...
:: In this example the LLM logic went out of scope ... it got too much "global" by not having the expected boundaries humans thought the AI already possesses and therefore they also concluded the AI "lied".
:: Also Kent Beck, co-author of Agile Manifesto, already wrote that non-AGIs are more like jinn or genies: "AI agents are like genies. They'll often grant your wish, but not always in the way you'd like them to."
 
'''Anthropomorphisierung III'''<!--Schwerpunk: Die Illusion von Interaktion. Oder sollte man es eine Hysterie nennen?-->
 
Das stupide (fehleranfällige und im negativen Sinne automatische, nicht-intelligente) Kopieren von Muster durch Bots alleine ist schon kritikwürdig, aber der '''[[wp:Moltbook|Moltbook]]-''Hype''''' hat dem Ganzen die Krone aufgesetzt.
 
[https://www.zdfheute.de/wissen/ki-agenten-netzwerk-moltbook-100.html zdfheute.de (8. Februar)]: "Social Media für KI: Entwickeln Bots ein Eigenleben?"
* Oberer Videobeitrag (Videodateiname: "Neues Netzwerk Moltbook Entwickeln KI-Bots ein Eigenleben") Bei Sekunde 37 ist die Rede von Reaktionen durch viele weitere Bots. Das soll exemplarisch für das Netzwerk stehen. Es stellt sich raus, viele (auch Leitmedien) wollten etwas in Moltbook sehen, dass da so gar nicht drin steckt.<!--
31. Januar
* https://www.heise.de/news/KI-Agenten-diskutieren-auf-Reddit-Klon-Menschen-duerfen-zuschauen-11161385.html
1. Februar
* https://www.spiegel.de/netzwelt/kuenstliche-intelligenz-im-sozialen-netzwerk-moltbook-laestern-kis-ueber-ihre-menschen-a-f19dc829-13ce-4da6-8d70-7fa56ea9be67
** Immerhin gibt der Spiegel zum Schluss den Hinweis, dass es sich (in Ermangelung eines besseren Begriffs) um ein "Rollenspiel" durch die Bots handeln könnte. (Das Wort ist insofern unglücklich, weil es seinerseits menschliche Eigenschaften suggeriert. Anthropomorphisierung einmal mehr.)
* https://www.zeit.de/wissen/2026-02/moltbook-kuenstliche-intelligenz-agenten-soziales-netzwerk
2. Februar
* https://www.t-online.de/digital/aktuelles/id_101111246/moltbook-ki-netzwerk-fasziniert-experten-und-sorgt-fuer-sicherheitsbedenken.html
* https://www.welt.de/wirtschaft/plus6981f3656f72c99c11b1a6cd/moltbook-es-ist-so-weit-die-ki-organisiert-sich-selbst-ohne-zentralen-befehl.html (laut Welt-Suchfunktion, nachgeprüft mit [https://web.archive.org/web/20260000000000*/https://www.welt.de/wirtschaft/plus6981f3656f72c99c11b1a6cd/moltbook-es-ist-so-weit-die-ki-organisiert-sich-selbst-ohne-zentralen-befehl.html Wayback]) (zuletzt geändert 6. Februar)
4. Februar
* https://www.faz.net/pro/digitalwirtschaft/plattformen/moltbook-wie-das-soziale-netzwerk-fuer-ki-agenten-funktioniert-accg-200503702.html
6. Februar
* https://www.n-tv.de/mediathek/videos/wirtschaft/Das-steckt-hinter-Moltbook-id30332325.html
--> Golem.de so, hey hey, wait a second ...
 
[https://www.golem.de/news/soziales-netzwerk-moltbook-entpuppt-sich-als-ki-trugbild-2602-205141.html Golem.de (8. Februar)]: "Moltbook entpuppt sich als KI-Trugbild: Moltbook galt als spektakuläres Experiment autonomer KI – doch hinter den 1,7 Millionen Bot-Accounts stecken vor allem Menschen und viel heiße Luft."
 
'''Long story short:'''
* Moltbook ist noch immer durch menschliches Handeln geprägt: Die Bot-"Interaktionen" beruhen überwiegend noch immer auf '''Nachgeplapper durch pattern matching'''.
* Die Vielzahl der beteiligten Bots verstärkt den Eindruck einer vermeintlichen Gefahr.


You could also say: when you tell a kid from the very beginning that it is a robot, it will believe it and behave like one.
Die Gefahr im Moment ist eher, dass die unterentwickelten Bots die Bankkonten ihrer Besitzer plündern.


Going beyond AGI could change that situation, though. But that's still a long way to go.
Gleichzeitig sind '''reale Gefahren''' eher '''in NAI-Anwendungsgebieten''' zu finden. Beispiele:
* Neueste LLMs und Codex-Varianten können in den Händen von hochprofessionellen Anwendern und staatlichen Akteuren massenhaft [https://www.golem.de/news/claude-opus-4-6-ki-findet-ueber-500-zero-day-luecken-in-open-source-software-2602-205139.html '''Zeroday-Exploits'''] offen legen und beim Hacking und bei der Schadware-Programmierung helfen.
* Das Muster-Remixing von GenAI gefährdet [https://www.zdfheute.de/wirtschaft/synchronsprecher-boykott-netflix-ki-stimmen-100.html Voice Actor, Synchron-Sprecher] und Übersetzer.


[…]
[…]
Line 790: Line 945:


Das Büroklammerbeispiel steht im Widerspruch zu den Fähigkeiten einer AGI und zu ihrer Ethik, die sie haben soll. Künstliche Intelligenzen, die keine AGI sind, könnten den Planeten mangels Fähigkeiten und Fehlertoleranz gar nicht von alleine umkrempeln.
Das Büroklammerbeispiel steht im Widerspruch zu den Fähigkeiten einer AGI und zu ihrer Ethik, die sie haben soll. Künstliche Intelligenzen, die keine AGI sind, könnten den Planeten mangels Fähigkeiten und Fehlertoleranz gar nicht von alleine umkrempeln.
[...]
Apropos Weisheit.
https://techxplore.com/news/2026-02-ai-smarter-wiser-roadmap-aims.html
Dr. Igor Grossmann: "Wisdom has seemed too philosophical, too human-centered to formalize for machines. But by breaking it down into specific strategies such as intellectual humility, perspective-seeking, and context adaptation, we can create a concrete roadmap for building AI that doesn't just compute, but reasons wisely."<!--
Aktives Lernen, Selbstverbesserung, Räumliches Denken, Fehlertoleranz durch ''Weisheit'' um Unsicherheiten (ungenaue Vorgaben) richtig zu handeln, Weltmodelle.-->
'''Wie kann man den stark menschlich gefärbten Begriff Weisheit technisch beschreiben?'''
Weisheit
* Weisheit wird oft mit '''Lebenserfahrung (''getestetem Wissen'')''' umschrieben.
* '''''Demut''''' gehört zum Teil auch dazu. Weise Menschen wissen, wann sie über etwas nicht genug wissen. Ergo, sie verfügen auch über ein gutes '''Risikomanagement'''.
<!--Zum allgemeinem Risikomanagement würde bei AI das Alignment in besonderer Weise hinzukommen. Es ist eine indirekte Voraussetzung. Priorität: Schutz menschlichen Lebens. Weil Menschen sonst kein echte AGI zulassen würden.--><!--
* Guardian models (Recht, Ethik, technische Sicherheit)-->
<!--Für eine (Denk)Aufgabe notwendige Tools instant selbst bauen können. (Umliegendes Entwicklungs- und Toolingsystem)-->
Demut und Risikomanagement:
* Demut bedeutet unter anderem, dass abweichende oder komplett unbekannte (ungetestete) Szenarien Gefahren darstellen können. (Daher auch das Klischee: Weise Menschen mahnen zur Langsamkeit und überlegen erst mal, ob dieses oder ein ähnliches Problem früher schon mal existierte. Und: Das Problem wird aus mehreren Perspektiven betrachtet.)
* Fehlertoleranz (unsauberen Input erkennen können, nachfragen, verschiedene Szenarien planen und die sicheren davon ausführen)
* Risikoerkennung (Gegenwart, direkte Erkennung - sowie Vergangenheit, Musterabgleich mit Gedächtnis) und Risikoabschätzung (Zukunft, Vorab-Simulation) -- Planung auf menschlichen Niveau: spontan erstellte, aber womöglich nur vermeintlich beste Lösungswege werden von Weisheit (Erfahrung) gegengecheckt. Akzeptable Lösungen = Whitelist - Blacklist. Verworfene Lösung, sollte später erneut geprüft werden können, wenn sich Bedingungen geändert haben. Eine Blacklist könnte durch ein Guardian model erstellt werden.
** Vorab-Simulation
*** Globales, langfristiges Denken auch für lokale Ziele anwenden können. (Bewusstsein für die zusätzlichen Konsequenzen, die zeitlich, räumlich und thematisch außerhalb des Zielbereichs liegen können.)
* Vorsicht:
** Kosten-Nutzen-Analyse
** Risikominimierung (bei wenig getesteten Methoden, diese langsamer, in kleineren Schritten testen), ergo Gedächtnisspeicher der mit Erfahrungen gefüllt wird
<!--Bei einer echten AGI wird die Intelligenz eines erwachsene Menschen als Maßstab genommen. Kinder sind risikofreudiger, weniger bedacht auf Dinge, die außerhalb ihres Zielradius liegen. Das grenzt an den Aspekt Self-awareness und Demut.-->
* Self-awareness:
** Bewusstsein für die eigene Fähigkeiten, (theoretische maximale) Kapazitäten und aktuelle verfügbare Resources (Intelligenz; Erfahrung; ''Fitness'' der anderen, eigene verfügbare Ressourcen z. B. Kontextfenster, Tools) Dadurch entsteht eine Einschätzung, ob die Informationen aus dem Input (Prompt) vermutlich angemessen verarbeiten werden kann oder ob die Wahrscheinlichkeit für Fehlinterpretationen (Halluzinationen) steigt.


[...]
[...]


ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu Einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. — Die jetzigen Trainingsdaten sind wie eine Schule an einem sozialem Brennpunkt, wo das Modell Unterricht nimmt.
ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu Einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. — Die jetzigen Trainingsdaten sind wie eine Schule an einem sozialem Brennpunkt, wo das Modell Unterricht nimmt.
: Das Gegenteil wurde bereits ausprobiert: Es ist wie mit einer JPG-Datei, die immer wieder neu geöffnet und mit einem verlustreichen Komprimierungsalgorithmus abgespeichert wird, es sammeln sich Defekte an, die neuen Daten sind minderwertiger Qualität. [https://www.heise.de/news/Kuenftige-KI-Modelle-potenziell-von-Demenz-bedroht-9209900.html AI-generierte Daten sind, wenn sie keiner Korrektur unterliegen, für neue Trainings wertlos, weil sie das LLM verschlechtern.] Mittlerweile haben minderwertige "synthetische Daten" gezeigt, wie wichtig memetsche Hygiene ist. Der massenhafte Einsatz generativer AIs verseucht den globalen Informationspool, sodass, wenn ein neues Modell aus diesem Pool lernt, quasi im Vergleich zu seinen Vorgängern unter (Neuro-)[https://www.nytimes.com/interactive/2024/08/26/upshot/ai-synthetic-data.html Degeneration] leidet. -- 2024: Die jüngsten Implementierungen von Chain of thought (COT) oder "reasoning" sind nur ein schwacher Trost. Es muss an allen Fronten weiter geforscht werden.
: Das Gegenteil wurde bereits ausprobiert: Es ist wie mit einer [[commons:File:JPEG Generation Loss rotating 90 (stitch of 0,100,200,500,900,2000 times).png|JPG-Datei, die immer wieder neu geöffnet und mit einem verlustreichen Komprimierungsalgorithmus abgespeichert wird]], es sammeln sich Defekte an, die neuen Daten sind minderwertiger Qualität. [https://www.heise.de/news/Kuenftige-KI-Modelle-potenziell-von-Demenz-bedroht-9209900.html AI-generierte Daten sind, wenn sie keiner Korrektur unterliegen, für neue Trainings wertlos, weil sie das LLM verschlechtern.] Mittlerweile haben minderwertige "synthetische Daten" gezeigt, wie wichtig memetsche Hygiene ist. Der massenhafte Einsatz generativer AIs verseucht den globalen Informationspool, sodass, wenn ein neues Modell aus diesem Pool lernt, quasi im Vergleich zu seinen Vorgängern unter (Neuro-)[https://www.nytimes.com/interactive/2024/08/26/upshot/ai-synthetic-data.html Degeneration] leidet. -- 2024: <!--''Let's not jump (too far) to conclusion...''-->Die jüngsten Implementierungen von '''Chain of thought (COT)''' oder "reasoning" sind nur ein schwacher Trost. Es muss an allen Fronten weiter geforscht werden.
:: DeepSeek. Das Gehirn verfügt über spezialisierte Bereiche. In Software kann die [https://www.zdf.de/nachrichten/wirtschaft/unternehmen/nvidia-kurssturz-ki-deepseek-wallstreet-100.html Effizienzsteigerung] durch verschiedene [https://the-decoder.de/deepseek-v2-ist-das-neue-mixture-of-experts-spitzenmodell/ kooperierende Expertensysteme] (Mixture-of-Experts (MoE)) nachgeahmt werden.
:: DeepSeek. Das Gehirn verfügt über spezialisierte Bereiche. In Software kann die [https://www.zdfheute.de/wirtschaft/unternehmen/nvidia-kurssturz-ki-deepseek-wallstreet-100.html Effizienzsteigerung] durch verschiedene [https://the-decoder.de/deepseek-v2-ist-das-neue-mixture-of-experts-spitzenmodell/ kooperierende Expertensysteme] '''(Mixture-of-Experts (MoE))''' nachgeahmt werden. Des Weiteren: Art des Trainings, Inference, Distilled Reasoning
:: Answer refinement: TRM (Samsung) (Ergo: Sowieso große AIs sollten nicht nur über MoE, sondern auch über mehrere Architekturen verfügen, deren Einsatz sie selbst bestimmen, um die Verarbeitung effizienter zu machen.) (Das erinnert irgendwie auch daran, dass Rechenoperationen für sie optimierte Hardware nutzen sollte. Auf modernen Computerchips, wie dem [[wp:Apple_M4#Design|M4]], findet man immer mehr spezialisierte Bereiche: CPU, GPU, NPU, etc.)
::: https://www.forbes.com/sites/ronschmelzer/2025/10/09/samsung-ai-research-team-builds-a-tiny-model-with-big-powe/
::: https://the-decoder.de/winziges-ki-modell-schlaegt-o3-mini-und-gemini-2-5-pro-im-arc-agi-benchmark/
:: Baby Dragon Hatchling


[...]
[...]
Food for thought:
* https://www.zeit.de/wissen/2025-09/richard-socher-ki-nur-eine-frage-interview-podcast
====Memetische Hygiene====
* Data Poisoning: [https://www.anthropic.com/research/small-samples-poison A small number of samples can poison LLMs of any size]
* <!--Datenverwässerung über "Raum" (1) und "Zeit" (2) vermeiden--><!--(1)-->Verwässerung: minderwertige synthetische Daten vermeiden, zu starke Verallgemeinerung durch nicht per se falsche aber ''unspezifische'' Daten vermeiden ("[https://web.archive.org/web/20250719122210/https://www.datasciencecentral.com/avoid-genai-model-collapse-and-death-by-averages/ Death by Average]")
** <!--(2)-->Modelle müssen eine Form von ''neuronale Plastizität'' verfügen, die es für sie leichter macht eigene Änderungen zu überleben. Beispiel: Baby Dragon Hatchling
*** https://www.golem.de/news/neue-ki-architektur-was-ist-baby-dragon-hatchling-2510-201047.html
*** https://www.mind-verse.de/news/neuronale-netzwerke-inspirationsquellen-ki-forschung
* Adaptives "Immunsystem": Aus Effizienzgründen sollte das Kernmodell auch vor Desinformation geschützt werden. Unwahrheiten (von gesellschaftlicher Relevanz) sollten in einem anderen Datenpool gespeichert werden. Ebenso sollte es einen Pool für "(noch) nicht bewertet" und "umstritten" geben, die je nach Query eingerechnet werden können.


====Censorship====
====Censorship====
Line 817: Line 1,017:
* http://web.archive.org/web/20240307042858/https://netzpolitik.org/2023/chatgpt-womit-sich-strafverfolger-bald-befassen-muessen/
* http://web.archive.org/web/20240307042858/https://netzpolitik.org/2023/chatgpt-womit-sich-strafverfolger-bald-befassen-muessen/
* https://www.heise.de/hintergrund/Drei-Gruende-warum-KI-Chatbots-eine-Sicherheitskatastrophe-sind-8933941.html
* https://www.heise.de/hintergrund/Drei-Gruende-warum-KI-Chatbots-eine-Sicherheitskatastrophe-sind-8933941.html
====The global south====
Ah, god damn it ... the continuation of bullshitty geopolitics ... all over again ... because of the lack of alternatives ... Either we help weaker states with cyber defense or we risk that they reject the Western world and their Chinese vassalisation. Either way, some supported governments will use the given tools to stay undemocratic in power. It will need many smart heads to mitigate this problem.


===Neutrality of state AIs is a must-have===
===Neutrality of state AIs is a must-have===
Line 847: Line 1,044:
   
   
  For more information, see: About Copilot Autofix for CodeQL code scanning. If you have feedback for Copilot Autofix for code scanning, please join the discussion here."
  For more information, see: About Copilot Autofix for CodeQL code scanning. If you have feedback for Copilot Autofix for code scanning, please join the discussion here."
'''[https://www.golem.de/news/hackerbot-claw-ki-agent-kapert-softwareprojekte-auf-github-2603-205990.html Hackerbot Claw]'''
Claw can be seen as an experiment to force more security onto valuable code. The conclusion would be that it is an much effective as it is unacceptable because of collateral damage. (On a side note, it is another ironic prove that LLMs are still too much error-prone.)


===How to fix ASI errors?===
===How to fix ASI errors?===
Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso schwerwiegender können Fehler durch blindes Vertrauen in die Technik werden.
Wie können Fehler einer ASI - deren Verständnis der Welt viel besser sein soll als das eines jeden Menschen - durch Menschen erkannt werden? Die Wahrscheinlichkeit für Halluzinationen, sofern der LLM-Ansatz weiter Anwendung findet, wird sinken und das Vertrauen in ASI wird naturgemäß sehr groß sein. Umso schwerwiegender können die weniger geworden Fehler durch blindes Vertrauen in die Technik werden.
* Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen.
* Die "wissenschaftliche Methode": Letztlich muss eine ASI über soviel Autonomie verfügen, um selbstständig Experimente durchzuführen. Theorien müssen in der echten Welt getestet werden. Wenn nicht durch Menschen, dann sowieso durch Maschinen.
* Chancen und Risiken der "Memehunters" [...]
* Chancen und Risiken der "Memehunters" [...]
===Information crisis===
''Infodemic''
Da die Qualität (und Geschwindigkeit) von künstlich erzeugten Bildern stets zunimmt, wird Factchecking immer wichtiger. -- Um den Informations-Tsunami noch halbwegs kontrollieren zu können, wurde auch darüber nachgedacht nicht AI content zu markieren, sondern Inhalten aus echten Quellen. (Z. B. [https://www.instagram.com/p/DS7pz7-DuZG/ Instagram Anfang 2026]) -- Am Ende wird man auf Factchecking durch Software-Agenten- und Roboter-Armeen nicht verzichten können. Die Ära der Memehunter bricht an.
Soziale Auswirkungen
Mit der ersten Flut von AI Slop, entstand eine Gegenbewegung, die bewusst nach mehr Authentizität strebt. Die begleitende Diagnose war: [https://www.zeit.de/kultur/2025-12/offlinesein-statussymbol-internet-smartphone ''Menschen wollen von Menschen verarscht werden, nicht durch Maschinen.''] Etwa durch eine kluge [https://www.youtube.com/watch?v=iLERt5ZkpQ4 Intermarche-Werbung], die einen einsamen Wolf zu Weihnachten zu einem geselligen, vegetarischen Koch werden lässt. Die zeitnah veröffentlichte McDonalds- und Coca-Cola-Werbung floppte. Es ist eine überaus optimistische Prognose. Wahrscheinlicher ist, dass neben einer kleineren Gruppe von aufgeklärten Verweigerer, eine AI-Zombie-Mehrheit existiert. '''Denn mit einer echten AGI werden auch kleinste Logikfehler verschwinden, über die sich die Leute zuvor in den Fastfood-Werbungen aufgeregt haben. Der Unterschied zu klassischem CGI wird nicht mehr erkennbar sein, zumal sich die AGI selbst spezialisierter Tools bedienen kann. Dann ist die Maschine nur noch der Zwischenschritt in der Verarschung von Mensch zu Mensch.''' Die Mehrheit wird sich dann der perfekten Simulation der AI nicht mehr entziehen können. Die Eindämmung digitaler Süchte: Diejenigen, die die Phase der schlampigen GenAI selbst miterlebt haben, haben jetzt noch die Chance Leitplanken zu setzen, damit die schlimmsten Cyberpunk-Ghetto-Szenarien abgewendet werden. (Parallel oder kurz danach wäre noch das Problem der [[wp:Companion_robot#Social_companion_robots|Roboter]]-[https://www.n-tv.de/mediathek/bilderserien/panorama/Japanerin-heiratet-ihren-KI-Partner-Klaus-id30153813.html Companions] zu lösen. Die perfekten Ja-Sager-Partner werden den Leuten irgendwann auf den Keks gehen. Aber 15 % mehr Widerspruch sind schnell einprogrammiert und machen die Dinger für die Gesellschaft paradoxerweise noch gefährlicher, weil die Simulationen dann noch natürlicher wirken.)


==Present-day neural link==
==Present-day neural link==
Present-day neural links '''connect brains and computers but cannot connect minds and computers'''. The mind cannot communicate with computers because it doesn’t function in a digital nor in a (classical) analog way. Thoughts are activation patterns within the memory and processing network. NLs would need to stimulate the correct neurons or even synapses. Sending electromagnetic waves through the brain cannot work as these are by-products of the thought holding neurons. The electromagnetic patterns don’t influence the neurons. That means the entire brain would have to be stuffed with bulky (signal recording and sending) electrodes. Besides triggering muscle movements a NL couldn’t do many other kinds of write operations. For advanced read operations they need an interpreter that is trained for every single human because memories are based on truly individual experiences hence unique neural networks. Gradual improvements are to be expected but a full-fledged satisfying mind-computer-interface will continue to be science fiction for a few more centuries. Therefore, also no external memory soon.
Present-day neural links '''connect brains and computers but cannot connect minds and computers'''. The mind cannot communicate with computers because it doesn’t function in a digital nor in a (classical) analog way. Thoughts are activation patterns within the memory and processing network. NLs would need to stimulate the correct neurons or even synapses. Sending electromagnetic waves through the brain cannot work as these are by-products of the thought holding neurons. The electromagnetic patterns don’t influence the neurons. That means the entire brain would have to be stuffed with bulky (signal recording and sending) electrodes. Besides triggering muscle movements a NL couldn’t do many other kinds of write operations. '''For advanced read operations they need an interpreter that is trained for every single human''' because memories are based on truly individual experiences hence unique neural networks. Gradual improvements are to be expected but a full-fledged satisfying mind-computer-interface will continue to be science fiction for a few more centuries. Therefore, also no external memory soon.
: To make it crystal clear: Electromagnetic waves are by-products and by nature "output-only". You can kind of spy on them. But that's it. Otherwise, you would go crazy by "[[wp:de:Elektrosmog|electrosmog]]" or all the more by MRT in hospitals. Telepathy based on technology is millenniums away. The best workaround would be to capture faint signals of the "inner voice", translate them to audio signals and inject them into the acoustic nerve of an communication partner or a small hearing device.
: To make it crystal clear: Electromagnetic waves are by-products and by nature "read-only". You can kind of spy on them. But that's it. Otherwise, you would go crazy by "[[wp:de:Elektrosmog|electrosmog]]" or all the more by MRT in hospitals. Telepathy based on technology is like 1000 years away. (Highend omega chimera.) The best workaround would be to capture faint signals of the "inner voice", translate them to audio signals and inject them into the acoustic nerve of an communication partner or a small hearing device.
 
State of the art, 2026:
* https://www.derstandard.de/story/3000000302571/neuralink-will-gehirn-chips-in-serie-fertigen-operationen-bald-automatisiert
* https://www.spektrum.de/news/wie-gehirn-computer-schnittstellen-die-zukunft-veraendern/2300018
 
Was Firmen wie Neuralink konkret leisten können:
* Verbesserte Sprachausgabe und Prothesensteuerung
* Auslesen weniger komplexer Gedanken und damit das Darstellen (verpixelter) ''mentaler Bilder''. Das Training mit mehreren Menschen erzeugt Durchschnittswerte. Damit treiben die Firmen eher die Grundlagenforschung voran, etwa eine grobe neuronale Vermessung: In welchen Hirnarealen werden welche Gedanken erzeugt. -- Spatial oberflächliche ''memetische'' Signale werden nicht nur von spatial tieferliegende memetischen Signale überlagern, sondern auch von ''biologischen'' Signalen. (Schmerzen, Hitze, Kälte, Sauerstoff-/CO2-/Nährstoff-/Hormonkonzentrationen.) Letztere werden eine besondere Herausforderung darstellen.
 
==Technologies not existing in RS==
===Time travel===
While "traveling forward in time" equals to "just wait in hibernation" or fly nearly at the speed of light going back in time doesn't seem possible.
 
* If there is only one possible present traveling back in time would require so much energy to undo all kind of movement and processes of all objects in the universe. Energy-wise it is not possible. And some processes are simply [[wp:Irreversible_process|irreversible]].
** If there is a multiverse then infinite possibilities and therefore infinite timelines exist. The smallest change has an effect. It would mean that you cannot control where you jump to nor can you get back into the original timeline.
 
* Furthermore the location and time of the out point cannot be precisely calculated - if at all - as the planet is in unknown motion made up by it's own spin motion, orbiting the sun, orbiting in the galaxy core, orbiting in the cluster core, moving within the filament. The outpoint might be a massive plantar or stellar object or in the depth of galactic voids resulting in death of the traveler.
 
===Warp drive===
The none-existence of warp drives creates the necessity for cryptobiosis, extreme slow metabolism or hibernation. The crew of ''flying cemetery'' toys with the idea of using decay times of different radioactive materials to wake up after long periods. Shadow introduces later the concept of onion minds (multiple but asynchronous consciousnesses). Each embodied consciousness layer works at a different speed. The cemetery cannot operate like a generation ship. "Someone" must be awake all the time. The outer layers must wake up the others when events of interest happen. Automated hardware are goods in short supply.


==Discussion==
==Discussion==
Line 882: Line 1,112:
:::::P.S.: Don't forget that my "aliens" are an alternate branch of intelligent life on Earth, probably from the past. If Hasegawa recognized that the Daodan was terrestrial in origin and was simply restoring Earth to a prehistoric state, even more reason why he would not see it as an apocalypse but as a challenge to be met. That being said, I hadn't specifically planned to represent the Daodan-changed Wilderness as being regular prehistoric life but rather as the mutated, supercharged flora and fauna that Hardy had in mind originally. So admittedly there's some tension between the idea that the Daodan is remaking the Earth to be suitable for the "Daomen" from the past and the idea of monstrous killer deer and giant man-eating plants. If I had to choose between the two ideas today, I would probably say that I prefer to pull back on the fantasy angle and stay closer to how these plants and animals looked hundreds of millions of years ago. Then again, it's also possible that the Daodan, as an unnatural invention meant to rapidly create a natural environment, has gone haywire and is doing things it's not supposed to do. In that case, the life it creates might be a little of column A and a little of column B. --[[User:Iritscen|Iritscen]] ([[User talk:Iritscen|talk]]) 02:12, 30 November 2022 (CET)
:::::P.S.: Don't forget that my "aliens" are an alternate branch of intelligent life on Earth, probably from the past. If Hasegawa recognized that the Daodan was terrestrial in origin and was simply restoring Earth to a prehistoric state, even more reason why he would not see it as an apocalypse but as a challenge to be met. That being said, I hadn't specifically planned to represent the Daodan-changed Wilderness as being regular prehistoric life but rather as the mutated, supercharged flora and fauna that Hardy had in mind originally. So admittedly there's some tension between the idea that the Daodan is remaking the Earth to be suitable for the "Daomen" from the past and the idea of monstrous killer deer and giant man-eating plants. If I had to choose between the two ideas today, I would probably say that I prefer to pull back on the fantasy angle and stay closer to how these plants and animals looked hundreds of millions of years ago. Then again, it's also possible that the Daodan, as an unnatural invention meant to rapidly create a natural environment, has gone haywire and is doing things it's not supposed to do. In that case, the life it creates might be a little of column A and a little of column B. --[[User:Iritscen|Iritscen]] ([[User talk:Iritscen|talk]]) 02:12, 30 November 2022 (CET)
::::::I didn't mean to start a lengthy chat in Paradox's backyard - at least not one that's focused on SoW -, so let's try and settle it with a couple of "OK"s, and then maybe continue elsewhere, elsewhen.
::::::I didn't mean to start a lengthy chat in Paradox's backyard - at least not one that's focused on SoW -, so let's try and settle it with a couple of "OK"s, and then maybe continue elsewhere, elsewhen.
::::::*OK, if Hasegawa not only sees alienation as inevitable, but also envisions a "new order" for humanity (as opposed to a desperate attempt to elude extinction), then yes, he may position the Chrysalis as a "bridge over troubled water", where trouble (deadly threat) is no longer perceived as such once you're on the other side - and in that case, yeah, the troublemaker/trickster archetype may fit.<ref group=geyser>Needless to say, I still have my concerns. You're implying a ''huge'' paradigm shift for Hasegawa within a very short time frame: first losing Jamie to an uncharted poisonous world, then quickly discovering/researching the alien nature of the Wilderness; promptly establishing that there is an invasion going on and that it's absolutely unstoppable ("Oh no!"), yet devising (just as promptly) a ''guaranteed'' way for humans to adapt to the hostile biome instead of succumbing to it ("Oh hurray!"); finally, rationalizing the whole process as a welcome disruption of the political/environmental status quo - and only then coining the name Daodan, which doesn't so much suit the initial xenoforming threat as it suits Hasegawa's own (self-)alienating initiative.<br />So, from grieving husband to "prophet of trouble", all in a matter of years - or is it months? He'd still need to work out the whole Chrysalis thing - even if he is somehow assured of his eventual success as a "troublemaker" before core development even starts... Your story would need to account for this extremely fast character development and, seeing as xenoforming is never mentioned in Oni, you'd probably need to feed this big secret to the audience in large, potentially indigest chunks. To pull that off elegantly would be quite a feat, but you have to understand/forgive my skepticism.</ref> (What about Kerr, though?<ref group=geyser>Admittedly, Kerr's time with Konoko in Chapter 12 was short, but at no point does he - or anyone involved with the Daodan project - show any awareness or concern about an all-consuming Wilderness. The main perceived threat is hyperevolution itself - be it Muro's or Konoko's - and, to a much lesser degree, the ongoing BioCrisis. Then there's Muro's Sturmanderung, of course, which uses sabotaged ACCs for deliberate poisoning, and Konoko's counter-sabotage, which destroys the ACCs completely and possibly causes even more suffering - but that's another story. Those new threats (of apocalyptical magnitude indeed) are ''man-made aggravations'' of the BioCrisis and, for all we know, "mankind as we know it" was ''not'' headed for extinction, were it not for Konoko's and Muro's actions. On the face of it, both Kerr and Griffin's Daodan team seem to dismiss Hasegawa's "If something isn't done we are all doomed." as delusion/exaggeration. To have a sequel establish an exactly opposite truth - with an ineluctable alien invasion that's been eating at Earth this whole time... Well, that, again, would be quite a feat - ''if'' you can pull it off. (I think of my storytelling ambitions as much less radical and more straightforward than that, but I might be wrong.)</ref>)
::::::*OK, if Hasegawa not only sees alienation as inevitable, but also envisions a "new order" for humanity (as opposed to a desperate attempt to elude extinction), then yes, he may position the Chrysalis as a "bridge over troubled water", where trouble (deadly threat) is no longer perceived as such once you're on the other side - and in that case, yeah, the troublemaker/trickster archetype may fit.{{ref|group=geyser|note=Needless to say, I still have my concerns. You're implying a ''huge'' paradigm shift for Hasegawa within a very short time frame: first losing Jamie to an uncharted poisonous world, then quickly discovering/researching the alien nature of the Wilderness; promptly establishing that there is an invasion going on and that it's absolutely unstoppable ("Oh no!"), yet devising (just as promptly) a ''guaranteed'' way for humans to adapt to the hostile biome instead of succumbing to it ("Oh hurray!"); finally, rationalizing the whole process as a welcome disruption of the political/environmental status quo - and only then coining the name Daodan, which doesn't so much suit the initial xenoforming threat as it suits Hasegawa's own (self-)alienating initiative.<br />So, from grieving husband to "prophet of trouble", all in a matter of years - or is it months? He'd still need to work out the whole Chrysalis thing - even if he is somehow assured of his eventual success as a "troublemaker" before core development even starts... Your story would need to account for this extremely fast character development and, seeing as xenoforming is never mentioned in Oni, you'd probably need to feed this big secret to the audience in large, potentially indigest chunks. To pull that off elegantly would be quite a feat, but you have to understand/forgive my skepticism.}} (What about Kerr, though?{{ref|group=geyser|note=Admittedly, Kerr's time with Konoko in Chapter 12 was short, but at no point does he - or anyone involved with the Daodan project - show any awareness or concern about an all-consuming Wilderness. The main perceived threat is hyperevolution itself - be it Muro's or Konoko's - and, to a much lesser degree, the ongoing BioCrisis. Then there's Muro's Sturmanderung, of course, which uses sabotaged ACCs for deliberate poisoning, and Konoko's counter-sabotage, which destroys the ACCs completely and possibly causes even more suffering - but that's another story. Those new threats (of apocalyptical magnitude indeed) are ''man-made aggravations'' of the BioCrisis and, for all we know, "mankind as we know it" was ''not'' headed for extinction, were it not for Konoko's and Muro's actions. On the face of it, both Kerr and Griffin's Daodan team seem to dismiss Hasegawa's "If something isn't done we are all doomed." as delusion/exaggeration. To have a sequel establish an exactly opposite truth - with an ineluctable alien invasion that's been eating at Earth this whole time... Well, that, again, would be quite a feat - ''if'' you can pull it off. (I think of my storytelling ambitions as much less radical and more straightforward than that, but I might be wrong.)}})
::::::*OK, helping nature revert to a primeval/pristine state could be a legitimate goal for a "troublemaking" initiative, even if a bit naive.<ref group=geyser>Older isn't always better, especially if we're talking prehistoric environmental conditions. Suppose we revert to the primordial soup era, with heavy UV radiation, no oxygen, volcanoes everywhere... - how would that be a good thing? Anything before the Great Oxygenation Event would count as "dead air and foul water" to modern humans - or, for that matter, any biome that's old enough to host bacteria/parasites that our immune systems know nothing about. But would it really feel like progress for Hasegawa - working towards a "new world" that is, in fact, profoundly ancient, and uncompromisingly deadly at that?<br />The one thing that may help Hasegawa feel like he's ushering in a "brave new world" - and not playing along with some ancient folks who are stuck in the past - is the "haywire" part. New stuff flowing in from the Phase (or from beyond the Veil, whatever) - not just from a past Earth, but from alternate and/or future Earths, bringing about loads of new evolutionary miracles for Life and technological breakthroughs for Man... Now that's the kind of thing that definitely ''could'' feel like progress towards a new shape of things. Fundamentally uncontrollable progress - perhaps appealing only to a scientist that's already "progressing" towards "alternative sanity" himself - but progress nonetheless.</ref> (And yes, I do recall that your xenoforming is actually paleoforming, with the additional twist that there is no time travel involved - the ancient entities mean to reclaim the Earth simply by emerging from a stasis, and not by walking through some fast-forward time portal.)<ref group=geyser>I'm quite fond of the Diluvians, actually. How they're ancient and huge and dormant most of the time, but wake up once in a hundred million years (to avoid subduction), catalyzing Phase phenomena and causing catastrophic biological events (extinctions as well as explosions). I see them as massive catalysts of "Phase chaos" - rather than invaders who are deliberately paleoforming modern Earth -, and that redeems them in my eyes. That said, if they feel like the ocean's acidity is too high or too low for their comfort, they would probably try and do something about it - e.g., by wishing for plants that are better at photosynthesis -, but it wouldn't be anything like an engineered "plan", more like a planet-sized hivemind working through telekinesis, telepathy and other "Phase magic".</ref>
::::::*OK, helping nature revert to a primeval/pristine state could be a legitimate goal for a "troublemaking" initiative, even if a bit naive.{{ref|group=geyser|note=Older isn't always better, especially if we're talking prehistoric environmental conditions. Suppose we revert to the primordial soup era, with heavy UV radiation, no oxygen, volcanoes everywhere... - how would that be a good thing? Anything before the Great Oxygenation Event would count as "dead air and foul water" to modern humans - or, for that matter, any biome that's old enough to host bacteria/parasites that our immune systems know nothing about. But would it really feel like progress for Hasegawa - working towards a "new world" that is, in fact, profoundly ancient, and uncompromisingly deadly at that?<br />The one thing that may help Hasegawa feel like he's ushering in a "brave new world" - and not playing along with some ancient folks who are stuck in the past - is the "haywire" part. New stuff flowing in from the Phase (or from beyond the Veil, whatever) - not just from a past Earth, but from alternate and/or future Earths, bringing about loads of new evolutionary miracles for Life and technological breakthroughs for Man... Now that's the kind of thing that definitely ''could'' feel like progress towards a new shape of things. Fundamentally uncontrollable progress - perhaps appealing only to a scientist that's already "progressing" towards "alternative sanity" himself - but progress nonetheless.}} (And yes, I do recall that your xenoforming is actually paleoforming, with the additional twist that there is no time travel involved - the ancient entities mean to reclaim the Earth simply by emerging from a stasis, and not by walking through some fast-forward time portal.){{ref|group=geyser|note=I'm quite fond of the Diluvians, actually. How they're ancient and huge and dormant most of the time, but wake up once in a hundred million years (to avoid subduction), catalyzing Phase phenomena and causing catastrophic biological events (extinctions as well as explosions). I see them as massive catalysts of "Phase chaos" - rather than invaders who are deliberately paleoforming modern Earth -, and that redeems them in my eyes. That said, if they feel like the ocean's acidity is too high or too low for their comfort, they would probably try and do something about it - e.g., by wishing for plants that are better at photosynthesis -, but it wouldn't be anything like an engineered "plan", more like a planet-sized hivemind working through telekinesis, telepathy and other "Phase magic".}}
::::::And, OK, we do not have to agree, or even to "agree to disagree" on anything. No matter how you feel about reconciling our different stories, I'm inevitably assimilating elements of SoW, Paradox is incorporating elements of TNZ, and you probably draw influence from many sources, too, including fellow storytelling efforts from within the community. At this point I'm not urging anyone to converge, unite or whatever. We're jus' talking, is all. --[[User:Geyser|geyser]] ([[User talk:Geyser|talk]]) 00:27, 1 December 2022 (CET)
::::::And, OK, we do not have to agree, or even to "agree to disagree" on anything. No matter how you feel about reconciling our different stories, I'm inevitably assimilating elements of SoW, Paradox is incorporating elements of TNZ, and you probably draw influence from many sources, too, including fellow storytelling efforts from within the community. At this point I'm not urging anyone to converge, unite or whatever. We're jus' talking, is all. --[[User:Geyser|geyser]] ([[User talk:Geyser|talk]]) 00:27, 1 December 2022 (CET)
<references group="geyser"/>
{{Reflist|group=geyser}}
 
The matter was addressed and improved in the [https://wiki.oni2.net/w/index.php?title=Restless_Souls/Technology&diff=38923&oldid=38915November 30, 2022 edit]. Geyser’s position is no longer described as a "forced-looking interpretation." Instead, Hardy’s and Geyser’s points have been incorporated as fully ''original'' hence legitimate input in a "reconciliation" of interpretations.


[[Category:Oni 2]]
[[Category:Oni 2]]
Paradox-01
8,843

edits

Retrieved from "https://wiki.oni2.net/Special:MobileDiff/44364...46769"