So lange die Modelle nur per brute force nach statistisch signifikanten Zusammenhängen in der Reihenfolge von Datenpunkten suchen können dürfte der Nutzen zusätzlicher Daten oder von mehr Rechenleistung schnell abnehmend sein. Man kommt einfach an Grenzen.
Wenn Unternehmen a für alles Geld der Welt alle Grafikkarten der Welt kauft und rechnen lässt, dann wäre es Unternehmen b, dass ein Modell hat - wenn so was möglich ist - das nicht anhand von Daten, sondern auch anhand von Interaktion und Praktiken lernt, weit unterlegen.
Vereinfacht gesagt: der Technologiesprung wäre es ja, wenn zum „Trainieren“ von Modellen kaum noch Daten notwendig sind.
Man kann bspw. eine KI alle statistisch signifikanten Zusammenhänge aus allen denkbaren physikalischen Experimenten rechnen lassen. Mega Aufwand. Und bekommt ein Aussagensystem, das die Naturgesetze repräsentiert. Die sind ja auch nur ein Gebilde statistisch signifikanter Zusammenhänge.
Oder: man bekommt es hin eine KI zu haben, die mit einer überschaubaren Anzahl an Experimenten und Informationen über Zusammenhänge eine allgemeine Theorie aufstellt. Bspw. Newtonsche Physik. Und damit weite und viele Fragen über die Welt beantworten kann ohne hierfür mit spezifischen Daten trainiert worden zu sein. KI Modelle bekommen das momentan nur auf dem Gebiet der Logik hin. Also logisches Schließen aus Aussagen. Aber es fehlt das Verstehen dieses Schließens.
Ich will sagen: meine Vermutung ist, dass es sich schnell herausstellen kann, dass nicht gekaufte Rechenleistung entscheidend ist, sondern so etwas wie Lerneffizienz oder Methode.
Wie viele Mönche hat dieses oder jenes Kloster um Abschriften anfertigen zu lassen? Dieses hat gerade alle Mönche von NVidia gekauft. Für Milliarden! Uneinholbar!
Im anderen Kloster gab es einen Mann namens Gutenberg.
Allerdings: selbst wenn ich mir gut vorstellen kann, dass man in D bei einem solchen nächsten Forschungssprung vorne dabei ist: die Druckerpressen werden dann in den USA gebaut und die neue Technologie wird dort gewinnbringend eingesetzt und marktorientiert entwickelt. Während die EU eine Regulierung einführt, dass jedes in der EU gedruckte Buch mindestens in 500 facher handschriftlicher Abschrift vorzulegen ist, bevor es verkauft werden darf. Und in Blindenschrift und eine Ökozertifikat braucht.
antworten
