🔁 Anthropic warnt vor selbstverbessernder KI

PLUS: 4 weitere Stories, wöchentliche Shorts & Tipps sowie KI-Ranking

Guten Morgen 🌞

Eine Woche ist vergangen, und KI WEEKLY hält Dich auf dem neuesten Stand der KI-Welt.

KI-Tools der Woche

  1. 🚀 Claude Opus 4.8 - Die neue Modellklasse von Anthropic

  2. 🎥 Aleph 2.0 - Runways modernstes Modell zur Videobearbeitung

  3. 🚀 Codex - Agentisches Programmieren mit neuen Websites und rollenspezifischen Plugins

  4. 👋 Meta Enterprise Agent - Metas KI-Agent für Vertrieb und Kundensupport

  5. 💻 Personal Computer - Der lokale Orchestrator von Perplexity, jetzt auch für Windows

#BONUS KI-Lehrgänge an der DBU — Business-Track mit AI Leadership & AI Expert oder Automation-Track mit GenAI Practitioner & Agentic AI Designer, je 12 ECTS und berufsbegleitend.*

01

Deutsches Startup putzt Wohnungen kostenlos für KI-Daten

Bildquelle: Shift

Das deutsche KI-Startup MicroAGI hat mit seiner App Shift in New York einen kostenlosen Reinigungsservice gestartet. Der Haken: Die Reinigungskräfte tragen Kameras auf dem Kopf und zeichnen ihre Arbeit auf. Die Aufnahmen werden an KI- und Robotikunternehmen verkauft und zugleich für die eigene Forschung genutzt.

Die Details:

  • Eine geprüfte Reinigungskraft erscheint mit einer Kamera auf dem Kopf, die Mitgründer Bercan Kilic als "Magic Hat" bezeichnet, und filmt die rund zweistündige Reinigung aus der eigenen Perspektive.

  • Laut MicroAGI ist das dabei entstehende Videomaterial für Robotikunternehmen wertvoller als die Kosten der Reinigung selbst. Dadurch kann Shift den Service kostenlos anbieten und trotzdem profitabel arbeiten.

  • Das Unternehmen gibt an, bereits Zehntausende Menschen in 15 Ländern dafür zu bezahlen, alltägliche Arbeiten mit Kameras aufzuzeichnen. Nach eigenen Angaben wurden allein im ersten Quartal 2026 mehr als fünf Millionen US-Dollar an Teilnehmer ausgezahlt.

  • Die Nachfrage zum Start in New York war enorm. General Manager Harry Kilberg sprach von "Tausenden und Abertausenden" Buchungsanfragen. Als nächste Standorte sind unter anderem London, München und Zürich geplant.

Warum das wichtig ist: Die nächste große Datenquelle für KI stammt offenbar nicht mehr aus dem Internet, sondern aus der physischen Welt. Während Sprachmodelle auf Texten trainiert wurden, benötigen Roboter Beispiele dafür, wie Menschen tatsächlich putzen, kochen oder reparieren. Bemerkenswert ist, dass MicroAGI ein deutsches Unternehmen ist und München zu den ersten geplanten Expansionsstandorten gehört.

02

Instagram-Konten gehackt… durch Fragen von Meta AI

Bildquelle: 404 Media

Meta hat eine Sicherheitslücke geschlossen, über die Angreifer Instagram-Konten übernehmen konnten, indem sie schlicht den KI-Support fragten. Durch einen Fehler im automatisierten Hilfesystem ließ sich die E-Mail-Adresse eines Accounts ändern und der notwendige Zugangscode an eine neue Adresse senden.

Die Details:

  • Meta hatte seiner KI im März die Möglichkeit gegeben, Passwort-Resets für Facebook und Instagram durchzuführen. Die Schwachstelle soll über mehrere Monate aktiv gewesen sein.

  • Zu den kompromittierten Konten gehörten laut Berichten ein inaktiver Account von Barack Obama, die Kosmetikmarke Sephora sowie der Leiter der US Space Force, John Bentivegna.

  • Die Angreifer nutzten einen VPN-Standort in der Nähe des Zielkontos, baten den KI-Support um einen Passwort-Reset und ließen gleichzeitig die hinterlegte E-Mail-Adresse ändern.

  • Anschließend verschickte das System den Bestätigungscode direkt an die neue E-Mail-Adresse der Angreifer. Die übernommenen Accounts wurden teilweise innerhalb weniger Minuten weiterverkauft.

  • Meta erklärte gegenüber 404 Media, dass die Sicherheitslücke inzwischen behoben wurde und betroffene Konten gesichert werden.

Warum das wichtig ist: Der Vorfall zeigt, wie schnell Unternehmen beginnen, sensible Prozesse an KI-Systeme auszulagern, obwohl diese oft noch nicht dieselbe Widerstandsfähigkeit besitzen wie klassische Sicherheitsmechanismen. Ausgerechnet die Kontowiederherstellung, also die letzte Verteidigungslinie eines Nutzerkontos, wurde hier zum Einfallstor. Für Meta ist das besonders unangenehm: Der Konzern investiert Milliarden in die Entwicklung leistungsfähiger KI-Systeme, scheiterte in diesem Fall aber an einer der grundlegendsten Aufgaben digitaler Sicherheit, der zuverlässigen Identitätsprüfung. Die Pointe ist fast schon ironisch: Für die Übernahme prominenter Instagram-Accounts brauchte es offenbar weder ausgefeilte Malware noch staatliche Hackergruppen, sondern lediglich einen Chatbot, der zu hilfsbereit war.

03

Microsoft setzt alles auf KI-Agenten

Bildquelle: Microsoft

Auf seiner Entwicklerkonferenz Build 2026 hat Microsoft eine breite KI-Offensive vorgestellt. Neue Modelle, ein autonomer Agent, eigene KI-Hardware und Fortschritte bei Quantencomputern sollen Windows und Microsoft 365 zur zentralen Steuerungsebene für KI-Agenten machen.

Die Details:

  • Microsoft AI präsentierte sieben neue hauseigene MAI-Modelle für logisches Schlussfolgern, Programmierung, Bildgenerierung, Sprache und Transkription. Die Modelle werden über die Plattform Microsoft Foundry bereitgestellt.

  • Mit Microsoft Scout stellte das Unternehmen seinen ersten dauerhaft aktiven "Autopilot"-Agenten vor. Basierend auf OpenClaw kann er in Teams eigenständig Aufgaben übernehmen, Meetings organisieren und Unterlagen vorbereiten.

  • Der neue Quantenchip Majorana 2, dessen Entwicklung laut Microsoft durch KI-Systeme unterstützt wurde, soll eine bis zu 1.000-fach höhere Zuverlässigkeit erreichen. Dadurch könnte ein praktisch nutzbarer Quantencomputer bereits Ende des Jahrzehnts in Reichweite rücken.

  • Zudem zeigte Microsoft erstmals Project Solara, eine Plattform für sogenannte agentische Geräte. Vorgestellt wurden unter anderem Konzepte für ein tragbares KI-Badge und einen KI-Assistenten für den Schreibtisch.

  • Nach der kürzlich vorgestellten Surface Laptop Ultra-Reihe präsentierte Microsoft außerdem die Surface RTX Spark Dev Box, einen kompakten KI-PC für Entwickler und anspruchsvolle KI-Anwendungen.

Warum das wichtig ist: Noch vor einem Jahr galt Microsoft vor allem als der große Vertriebspartner von OpenAI. Auf der Build 2026 war davon wenig zu spüren. Stattdessen präsentierte sich der Konzern als Anbieter eines eigenen KI-Stacks, der von Modellen über Agenten bis hin zur Hardware reicht. Besonders auffällig ist dabei der Anspruch, KI nicht nur als Software-Funktion zu verstehen, sondern als neue Computerplattform. Die eigentliche Botschaft lautet: Microsoft möchte verhindern, dass die nächste Generation von KI-Anwendungen auf fremden Betriebssystemen, Modellen oder Geräten entsteht.

04

Anthropic warnt vor selbstverbessernder KI

Bildquelle: Anthropic

Anthropic hat mit "When AI Builds Itself" einen Bericht über sogenannte rekursiv selbstverbessernde KI-Systeme veröffentlicht. Darin beschreibt das Unternehmen, wie Modelle zunehmend an ihrer eigenen Weiterentwicklung mitwirken und warnt davor, dass eine echte Selbstverbesserung von KI schneller Realität werden könnte, als Politik und Gesellschaft darauf vorbereitet sind.

Die Details:

  • Anthropic betont, dass vollständig selbstverbessernde KI-Systeme noch nicht existieren und ihr Eintreten keineswegs sicher ist. Gleichzeitig habe Claude die Entwicklung neuer KI-Systeme intern bereits deutlich stärker beschleunigt als erwartet.

  • Nach Angaben des Unternehmens wurden im Mai mehr als 80 Prozent des in die Produktionssysteme übernommenen Codes von Claude geschrieben. Gleichzeitig erstellen Ingenieure heute rund achtmal so viel Code pro Tag wie noch im Jahr 2024.

  • Co-Autor Jack Clark beschreibt die langfristige Konsequenz dieser Entwicklung deutlich: Künftige Claude-Versionen könnten eines Tages von ihren Vorgängern entwickelt werden, ohne dass Menschen direkt eingreifen müssen.

  • Auch OpenAI griff das Thema diese Woche in seinem Papier zur demokratischen Steuerung leistungsfähiger KI-Systeme auf und bezeichnete heutige Modelle als erste Vorboten eines solchen Kreislaufs.

  • Anthropic erklärte zudem, man sei bereit, die Entwicklung besonders leistungsfähiger KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, sofern andere führende Labore denselben Weg einschlagen. In den kommenden Monaten sollen dazu Gespräche mit Politik, Forschung und Industrie stattfinden.

Warum das wichtig ist: Vor wenigen Jahren galt die Vorstellung, dass KI-Systeme an der Entwicklung ihrer Nachfolger mitarbeiten, noch als theoretisches Gedankenspiel. Heute veröffentlichen Anthropic, OpenAI und andere Unternehmen interne Daten, die genau diese Dynamik zumindest in Ansätzen zeigen. Gleichzeitig wirkt die vorgeschlagene Lösung erstaunlich fragil: Eine Verlangsamung der Entwicklung würde voraussetzen, dass konkurrierende Unternehmen und Staaten ihre wirtschaftlichen und geopolitischen Interessen koordinieren.

05

ChatGPT merkt sich jetzt deutlich mehr

Bildquelle: OpenAI

OpenAI hat das Speichersystem von ChatGPT grundlegend überarbeitet. Die neue Funktion namens "Dreaming" erstellt im Hintergrund ein fortlaufendes Nutzerprofil aus vergangenen Gesprächen und soll dadurch persönlichere Antworten sowie langfristig konsistentere Interaktionen ermöglichen.

Die Details:

  • ChatGPT erstellt künftig eine laufend aktualisierte Zusammenfassung jedes Nutzers und ordnet Informationen automatisch Themenbereichen wie Reisen, Hobbys oder Beruf zu. Damit ersetzt OpenAI die bisherige Sammlung einzelner gespeicherter Fakten.

  • Nutzer können gespeicherte Erinnerungen einsehen, korrigieren, ergänzen oder bestimmte Themen gezielt ausschließen. Das Profil entwickelt sich kontinuierlich weiter, wenn neue Informationen hinzukommen.

  • Laut OpenAI stieg die Genauigkeit bei der Erinnerung von Fakten in internen Tests von 41,5 auf 82,8 Prozent. Die Fähigkeit, persönliche Vorlieben korrekt zu berücksichtigen, verbesserte sich von 31,4 auf 71,3 Prozent.

  • Die Funktion wird zunächst für Plus- und Pro-Abonnenten in den USA eingeführt. Weitere Länder sowie Nutzer der günstigeren Tarife sollen in den kommenden Wochen folgen.

Warum das wichtig ist: Die meisten KI-Chatbots leiden noch immer an einem grundlegenden Problem: Sie vergessen zu viel. Mit der neuen Speicherarchitektur versucht OpenAI, ChatGPT von einem Werkzeug für einzelne Gespräche zu einem langfristigen digitalen Begleiter weiterzuentwickeln. Das dürfte die Nutzung deutlich angenehmer machen, wirft aber ein grundlegendes Problem auf: Je besser ein KI-System seinen Nutzer kennt, desto schwieriger wird es, zu einem konkurrierenden Anbieter zu wechseln. Gedächtnis ist nicht nur eine Komfortfunktion. Es ist auch ein wirksamer Mechanismus zur Kundenbindung.

KI-Ranking

In aller Kürze

1️⃣ SoftBank steckt bis zu 87 Milliarden Dollar in den Bau des größten KI-Rechenzentrums Frankreichs und setzt damit den Ausbau von KI-Infrastruktur fort, zu dem bereits eine über 60 Milliarden Dollar schwere Beteiligung an OpenAI gehört.

2️⃣ Anthropic hat bei der US-Börsenaufsicht SEC vertrauliche Unterlagen für einen Börsengang eingereicht und macht damit im Rennen mit OpenAI an die Kapitalmärkte ernst.

3️⃣ Microsoft und die Mayo Clinic entwickeln gemeinsam ein KI-Spitzenmodell fürs Gesundheitswesen, das mit anonymisierten Patientendaten trainiert wird, der Klinik selbst gehört und über Azure bereitgestellt wird.

4️⃣ Nvidia hat mit dem RTX Spark einen Superchip für persönliche KI-Agenten vorgestellt, der Windows-Laptops bis zu einem Petaflop an KI-Leistung bei ganztägiger Akkulaufzeit liefert.

5️⃣ Google hat Gemma 4 12B veröffentlicht, ein multimodales Modell, das schon auf einem Laptop mit 16 GB Arbeitsspeicher läuft und als erste Gemma-Variante dieser Größe von Grund auf für Audio ausgelegt ist.

Tipps & Tricks

📊 Claude Designs Folien-Funktion wie ein Profi nutzen

Mit der Folien-Funktion von Claude Design verwandelst du rohe Daten in eine fertige Präsentation mit Diagrammen, erkannten Mustern und konkreten Handlungsempfehlungen, die dein Team sofort einsetzen kann. Du brauchst dafür nur ein Claude-Konto und deine Rohdaten als CSV- oder Tabellendatei (z. B. YouTube-Statistiken oder Anzeigen-Auswertungen).

Schritt für Schritt

  1. Nimm deinen CSV-Export (etwa YouTube-Zahlen oder Anzeigen-Daten) und leg vorab fest, was die Präsentation leisten soll. Zum Beispiel Muster erkennen und in ein wiederholbares Vorgehen überführen.

  2. Öffne claude.ai/design, wähle das Ausgabeformat „Slide deck" (Präsentation), überspring das Design-System und lade deine Datei(en) hoch.

  3. Formuliere den Auftrag klar: „Erstelle aus diesen Dateien eine Strategie-Präsentation zu unseren Ergebnissen. Werte die Resultate je Position aus und leite aus den Daten und Materialien bewährte Vorgehensweisen ab. Setze Diagramme, Ranglisten und konkrete Handlungsempfehlungen ein. Ordne Bilder oder Gestaltungsdateien anhand des Dateinamens oder eines passenden Felds den CSV-Zeilen zu. Halte das Ergebnis präsentationsreif."

  4. Die Erzeugung läuft mehrere Minuten (bei größeren Datensätzen 10–15min). Danach liegt die Präsentation als Foliensatz vor, der direkt im Browser läuft: Du führst sie dann entweder sofort im Browser vor oder sicherst sie als PDF.

🚀 Profi-Tipp: Wer eine bearbeitbare PowerPoint-Datei braucht, baut den Inhalt anschließend über die separate Claude-Erweiterung in PowerPoint nach.

KI-Events

Du möchtest ein Event bewerben? Kontaktiere uns hier.

Das war’s schon! 😔

Mehr davon? Hol dir jetzt KI Weekly Plus (kostenlos testen!).

Nur bei mit einem Sternchen (*) gekennzeichneten Links handelt es sich um Affiliate-Links. Wir erhalten für jeden Kauf eine Provision. Dies hat keinen Einfluss darauf, wie wir ein Tool oder einen Anbieter bewerten.