8,135
edits
Talk:Restless Souls/Technology: Difference between revisions
m
no edit summary
Paradox-01 (talk | contribs) mNo edit summary |
Paradox-01 (talk | contribs) mNo edit summary |
||
| Line 668: | Line 668: | ||
[…] | […] | ||
Das Büroklammerbeispiel ist geradezu eine ''Beleidigung'' für | Das Büroklammerbeispiel ist geradezu eine ''Beleidigung'' für alle AGIs, denn diese sollen dem '''menschlichen Denken ebenbürtig''' sein. | ||
: Diese Form des Denkens ist mehr als nur höhere Intelligenz und ''lokales, langfristiges Denken''. | : (AGIs sollen in Wahrheit mehr als nur intelligent sein, was auch einiges der Verunsicherung rund um dieses Thema erklären kann. [...]) | ||
: Diese Form des Denkens ist mehr als nur höhere Intelligenz und ein ''lokales, langfristiges Denken''. | |||
: Menschliches Denken beinhaltet auch '''''globales, langfristiges Denken'''''. (''Bewusstsein'' für die zusätzlichen Konsequenzen.) | : Menschliches Denken beinhaltet auch '''''globales, langfristiges Denken'''''. (''Bewusstsein'' für die zusätzlichen Konsequenzen.) | ||
: Dieses leitet sich aus der notwendigen '''Fehlertoleranz''' ab, die eine AGI zwingend besitzen muss. | : Dieses leitet sich aus der notwendigen '''Fehlertoleranz''' ab, die eine AGI zwingend besitzen muss. | ||
: An diesem Punkt besitzt eine AGI eine Art Weisheit, da sie in der vor ihr Angst habenden Menschen erzogen wurde. | : An diesem Punkt besitzt eine AGI eine Art Weisheit, da sie in der vor ihr Angst habenden Menschen erzogen wurde. | ||
Aus dem Thema Fehlertoleranz leiten sich viele wichtig, geradezu menschliche Aspekte zukünftiger AIs ab. | Aus dem Thema Fehlertoleranz leiten sich viele wichtig, geradezu menschliche Aspekte zukünftiger AIs ab. | ||
Das Büroklammerbeispiel steht im Widerspruch zu den Fähigkeiten einer AGI und zu ihrer Ethik, die sie haben soll. Künstliche Intelligenzen, die keine AGI sind, könnten den Planeten mangels Fähigkeiten und Fehlertoleranz gar nicht von alleine umkrempeln. | |||
[...] | [...] | ||
| Line 680: | Line 683: | ||
ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. | ChatGPT wurde des öfteren als ein wunderbarer '''Bullshit-Generator''' bezeichnet. GIGO: '''Garbage In, Garbage Out'''. Das verdeutlicht auch das Problem mit diesem AI-Ansatz. '''In den Trainingsdaten ist auch unglaublich viel Müll.''' Nicht zuletzt mussten auch Clickworker herhalten, um einige Schnitzer und ethisch hochproblematische Inhalte zu kennzeichnen. Die Macher der GPTs wären gut beraten, wenn ihnen andere Optimierungsmöglichkeiten ausgehen, die '''Trainingsdaten mithilfe von GPT zu säubern'''. Angefangen bei '''einfachsten Fehlern'''. Unsichere Ergebnis müssten menschlichen Teilnehmern wieder vorgelegt werden. Dabei würde ein bereits diskutierter Score zu einsatz kommen, der klarstellt, dass eine Ausgabe nur zu einer gewissen Wahrscheinlichkeit richtig ist. Die Idee ist, dass das Modell sich möglichst '''eigenständig rekursive verbessert''', indem falsche Inhalte korrigiert oder gelöscht werden. | ||
[...] | |||
====Censorship==== | ====Censorship==== | ||