Arbeitspapier warnt vor beschleunigter KI-Forschung durch KI

Ein Arbeitspapier des Cambridge Programme on AI Science and Policy und weiterer Forschender untersucht, was passiert, wenn KI zunehmend Aufgaben in der KI-Forschung und -Entwicklung übernimmt. In einem möglichen Szenario könnten Jahre an Fortschritt in Monaten oder noch kürzerer Zeit stattfinden.

Als Hinweis nennen die Autoren, dass KI-Systeme bereits zentrale Aufgaben in der KI-Forschung und -Entwicklung übernehmen. Ihre Einschätzung ist ausdrücklich vorläufig. Begrenzte Rechenleistung, verfügbare Daten und langwierige Trainingsläufe könnten die Beschleunigung bremsen.

Die Autoren empfehlen politischen Entscheidungsträgern, mehr Einblick in die Automatisierung der KI-Forschung in Unternehmen zu schaffen und sich auf eine mögliche Beschleunigung vorzubereiten. Das Papier beschreibt ein Risiko, keine sichere Prognose: Gerade deshalb wäre es fahrlässig, erst bei sichtbaren Folgen mit der Steuerung zu beginnen.