Restless Souls/Summary: Difference between revisions

*** Neben der Rechenpower ist auch die innere Qualität von Simulation und AI essentiell: Der größte Trugschluss wäre, dass man Simulationen nur mit genügend Daten füttern muss, damit neue Erkenntnisse gewonnen werden können. -- Im Allgemeinem ist eine Simulation immer ein Nachbau eines Teils der Wirklichkeit mit begrenzter Quantität an Daten. Damit trotz dieser gleich zweifachen Begrenzung sinnvolle Ergebnisse zurückgegeben werden, müssen die Eingabe- und Ausgabeparameter sowie das rechnende Modell so definiert sein, das sie selbst eine hohe Qualität aufweisen. Die Simulation mit nur immer mehr und verschiedenen Daten füttern, macht sie daher nicht automatisch besser: es kann die Qualität sogar senken, die gewünschten Ergebnisse verwässern. Eingabeparameter und Funktionen müssen stets über die richtige Gewichtung verfügen. Mit der Zunahme der Komplexität - der Inputparameter und damit des rechnenden Modells - steigt naturgemäß auch die Schwierigkeit gute Simulationen zu erstellen.

**** Vermeidung einer Blauäugigkeit gegenüber Technik: Egal wie gut und schnell Simulationen und AI scheinbar arbeiten werden. Die Wirklichkeit wird immer zu komplex sein und vom erwarteten Ergebnis etwas abweichen. Je weiter irgendetwas in die Zukunft prognostiziert wird, desto größer werden die Diskrepanzen.

**** Simulationen generieren kein Wissen, dass nicht ohnehin schon in den Daten steckt. AIs können zwar dabei helfen, sind aber letztendlich wie Simulationen and die Wirklichkeit gebunden: Deep Learning, neural nets, machine learning, artificial intelligence sind gewissermaßen die jeweils höheren Erweiterungen von Simulationen und benötigen somit ebenfalls eine Qualitätssicherung für Daten und Modell. (...) Die virtuelle Wirklichkeit in den AIs, die Modelle, sollen möglichst selbst durch Mustererkennung erlernt werden. (...) Die Fehlertoleranz in arbeitenden und lernenden Modellen ist nur begrenzt möglich. Zur wahrhaften Selbstverbesserung von Modellen benötigt die AI Selbstbewusstsein, in dem Sinne, dass sie Kenntnis über ihre eigenen Aufbau hat. Der notwendige Grad an Komplexität zeigt auch die Ironie dieser Entwicklung: um eine echte AI zu bauen, benötigt man geradezu eine AI. Die doppelte Ironie der Entwicklung ist, dass es am Ende doch das Zusammenbringen von genügend Teilen ist: von genügend unterschiedlichen, spezialisierten Subsystem die per Emergenz, die eigentliche AI darstellen. Aber erst ganz zum Schluss. -- Es wird inkrementelle Verbesserungen geben. Es wird neue Möglichkeiten und Hypes durch Paradigmenwechsel geben. Aber zu einer echten (Menschen ebenbürtigen) AGI ist es noch ein weiter Weg.