Die Debatte über KI-Sicherheit konzentriert sich bislang vor allem auf Sprachmodelle. Audrey Miller, Partnerin des Frühphaseninvestors Tapestry VC, fordert nun mehr Aufmerksamkeit für „Physical AI“: Systeme, die ihre Umgebung wahrnehmen und dort eigenständig handeln. Für Medizinrobotik, autonome Logistik in Kliniken und KI-gesteuerte Geräte ist das relevant, weil Fehler nicht nur Daten, sondern Menschen und Infrastruktur betreffen können.
Physical AI verbindet lernende Software mit Sensoren, Aktoren und Maschinen. Anders als ein Chatbot erzeugt ein solches System nicht lediglich Text, sondern bewegt etwa einen Roboterarm, transportiert Material oder beeinflusst einen realen Arbeitsablauf. Damit kommen klassische Fragen der Produktsicherheit zu Problemen lernender Modelle hinzu: Wie verhält sich das System in unbekannten Situationen? Welche Grenzen sind technisch erzwungen? Wer übernimmt, wenn Sensorik, Modell oder Mechanik versagen?
Miller beobachtet nach eigenen Angaben mehr Projekte, die sich speziell mit der Sicherheit dieser Systeme befassen. Tapestry VC sitzt in London und San Francisco und investiert frühphasig in Europa und den USA. Die Londoner Investorin gehört seit 2020 zum Team. Zum Portfolio zählen unter anderem das industrielle Robotikunternehmen Sunrise Robotics sowie der Drohnenlogistiker Manna. Tapestry kündigte 2026 einen dritten Fonds mit einem Volumen von 80 Millionen US-Dollar an.
Für den Gesundheitsmarkt ist die Trennung zwischen allgemeiner KI-Sicherheit und physischer Produktsicherheit entscheidend. Ein Modell kann im Labor zuverlässig wirken und dennoch an Beleuchtung, räumlichen Veränderungen, seltenen Patientensituationen oder fehlerhaften Sensordaten scheitern. Betreiber benötigen deshalb nicht nur eine Modellbewertung, sondern Tests des Gesamtsystems, dokumentierte Einsatzgrenzen, menschliche Eingriffsmöglichkeiten und Überwachung nach der Einführung.
Auch regulatorisch ist der Rahmen mehrschichtig. In der Europäischen Union können KI-Systeme je nach Anwendung unter den AI Act fallen. Ist die KI Bestandteil eines regulierten Medizinprodukts, greifen zusätzlich die Vorgaben des Medizinprodukterechts. Für Gründer bedeutet das: Sicherheitsnachweise, Risikomanagement und Datenstrategie müssen bereits in die Produktarchitektur einfließen. Eine spätere Compliance-Schicht reicht bei Hardware mit realer Wirkung nicht aus.
Investoren müssen wiederum anders prüfen als bei reiner Software. Entscheidend sind nicht allein Modellqualität und Wachstum, sondern Ausfallsicherheit, Hardware-Lieferketten, Zertifizierungsweg, Haftungsrisiken und die Frage, ob ein System unter klinischen oder industriellen Bedingungen dauerhaft reproduzierbar arbeitet.
Einordnung: Physical AI kann Personal entlasten und Abläufe automatisieren, verschiebt aber das Schadenspotenzial aus dem digitalen in den physischen Raum. Im Gesundheitswesen wird Sicherheit damit vom regulatorischen Pflichtprogramm zum zentralen Produkt- und Finanzierungsfaktor.
Christian Kloewer
Tech & Startups
Christian Kloewer schreibt bei MIDO Health über Health-Tech, Startups und Finanzierungen. Er kommt aus der Kommunikation und dem Digitalgeschäft und liest Gründungen im Gesundheitswesen mit dem Blick des Machers: Was löst das Produkt, wer bezahlt dafür, und trägt das Modell?
