8,013
edits
Paradox-01 (talk | contribs) mNo edit summary |
Paradox-01 (talk | contribs) mNo edit summary |
||
Line 671: | Line 671: | ||
: (AGIs sollen in Wahrheit mehr als nur intelligent sein, was auch einiges der Verunsicherung rund um dieses Thema erklären kann. [...]) | : (AGIs sollen in Wahrheit mehr als nur intelligent sein, was auch einiges der Verunsicherung rund um dieses Thema erklären kann. [...]) | ||
: Diese Form des Denkens ist mehr als nur höhere Intelligenz und ein ''lokales, langfristiges Denken''. | : Diese Form des Denkens ist mehr als nur höhere Intelligenz und ein ''lokales, langfristiges Denken''. | ||
: Menschliches Denken beinhaltet auch '''''globales, langfristiges Denken'''''. (''Bewusstsein'' für die zusätzlichen Konsequenzen.) | : Menschliches Denken beinhaltet auch '''''globales, langfristiges Denken'''''. (''Bewusstsein'' für die zusätzlichen Konsequenzen, die zeitlich, räumlich und thematisch außerhalb des Zielbereichs liegen können.) | ||
: Dieses leitet sich aus der notwendigen '''Fehlertoleranz''' ab, die eine AGI zwingend besitzen muss. | : Dieses leitet sich aus der notwendigen '''Fehlertoleranz''' ab, die eine AGI zwingend besitzen muss. | ||
: An diesem Punkt besitzt eine AGI eine Art Weisheit, da sie | : An diesem Punkt besitzt eine AGI eine Art Weisheit, da sie von vor ihr Angst habenden Menschen erzogen worden ist. | ||
Aus dem Thema Fehlertoleranz leiten sich viele wichtig, geradezu menschliche Aspekte zukünftiger AIs ab. | Aus dem Thema Fehlertoleranz leiten sich viele wichtig, geradezu menschliche Aspekte zukünftiger AIs ab. | ||
Line 681: | Line 681: | ||
[...] | [...] | ||
ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. | ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. — Die jetzigen Trainingsdaten sind wie eine Schule an einem sozialem Brennpunkt, wo das Modell Unterricht nimmt. | ||
[...] | [...] |
edits