Talk:Restless Souls/Technology: Difference between revisions

Talk:Restless Souls/Technology (view source)

Revision as of 23:20, 7 March 2026

177 bytes added , Saturday at 23:20

m

no edit summary

Paradox-01

8,727

edits

@@ Line 927: / Line 927: @@
 * Demut bedeutet unter anderem, dass abweichende oder komplett unbekannte (ungetestete) Szenarien Gefahren darstellen können.
 * Fehlertoleranz (unsauberen Input erkennen können, nachfragen, verschiedene Szenarien planen und die sicheren davon ausführen)
-* Risikoerkennung (Gegenwart, direkte Erkennung - sowie Vergangenheit, Musterabgleich mit Gedächtnis) und Risikoabschätzung (Zukunft, Vorab-Simulation) -- Human-Level Planung: intelligente (spontan erstellte, aber womöglich nur vermeintlich beste Lösungswege) werden von Weisheit (Erfahrung) gegengecheckt (Akzeptable Lösungen = Whitelist - Blacklist (verworfenen Lösung, wann anders erneut überprüfen können, wenn sich Bedingungen geändert haben)) Blacklist könnte durch Guardian model erstellt werden.
+* Risikoerkennung (Gegenwart, direkte Erkennung - sowie Vergangenheit, Musterabgleich mit Gedächtnis) und Risikoabschätzung (Zukunft, Vorab-Simulation) -- Planung auf menschlichen Niveau: spontan erstellte, aber womöglich nur vermeintlich beste Lösungswege werden von Weisheit (Erfahrung) gegengecheckt. Akzeptable Lösungen = Whitelist - Blacklist. Verworfene Lösung, sollte später erneut geprüft werden können, wenn sich Bedingungen geändert haben. Eine Blacklist könnte durch ein Guardian model erstellt werden.
 ** Vorab-Simulation
-*** Globales Denken auch für lokale Ziele: globales, langfristiges Denken. (Bewusstsein für die zusätzlichen Konsequenzen, die zeitlich, räumlich und thematisch außerhalb des Zielbereichs liegen können.)
+*** Globales, langfristiges Denken auch für lokale Ziele anwenden können. (Bewusstsein für die zusätzlichen Konsequenzen, die zeitlich, räumlich und thematisch außerhalb des Zielbereichs liegen können.)
 * Vorsicht:
 ** Kosten-Nutzen-Analyse
 ** Risikominimierung (bei wenig getesteten Methoden, diese langsamer, in kleineren Schritten testen), ergo Gedächtnisspeicher der mit Erfahrungen gefüllt wird
-<!--Bei einer echten AGI wird die Intelligenz eines erwachsene Menschen als Vergleich genommen. Kinder sind risikofreudiger, weniger bedacht auf Dinge, die außerhalb ihres Zielradius liegen. Das grenzt an den Aspekt Self-awareness und Demut.-->
+<!--Bei einer echten AGI wird die Intelligenz eines erwachsene Menschen als Maßstab genommen. Kinder sind risikofreudiger, weniger bedacht auf Dinge, die außerhalb ihres Zielradius liegen. Das grenzt an den Aspekt Self-awareness und Demut.-->
 * Self-awareness:
-** Bewusstsein für die eigene Fitness (Intelligenz; Erfahrung; andere, eigene verfügbare Ressourcen (z. B. Kontextfenster, "Ehrlichkeit" über verfügbares Wissen bzw. die Kapazität Wissen zu richtig verarbeiten zu können, damit es nicht zu Halluzinationen kommt)
+** Bewusstsein für die eigene Fähigkeiten, (theoretische maximale) Kapazitäten und aktuelle verfügbare Resources (Intelligenz; Erfahrung; ''Fitness'' der anderen, eigene verfügbare Ressourcen z. B. Kontextfenster, Tools) Dadurch entsteht eine Einschätzung, ob die Informationen aus dem Input (Prompt) vermutlich angemessen verarbeiten werden kann oder ob die Wahrscheinlichkeit für Fehlinterpretationen (Halluzinationen) steigt.
 [...]