Testinfrastruktur für KI und Robotik im Gesundheitswesen

Das Fraunhofer Heinrich-Hertz-Institut (HHI) arbeitet im EU-Projekt TEF-Health (Testing and Experimentation Facility for Health AI and Robotics) daran, eine Testinfrastruktur für Künstliche Intelligenz (KI) und Robotik im Gesundheitswesen aufzubauen. Das TEF-Health-Konsortium möchte diesen Prozess verbessern und die Validierung und Zertifizierung von KI und Robotik in medizinischen Geräten beschleunigen. Dafür entwickelt das Team eine (virtuelle und physische) Testinfrastruktur, die verschiedene Technologien in realitätsgetreuen Umgebungen evaluieren kann, darunter z. B. Krankenhäuser und Labore. Dort kann dann zum Beispiel sowohl Software zur Patient*innenbetreuung oder Diagnostik als auch Operations- oder Pflegeroboter testen.

Um diese Testinfrastruktur zu entwickeln, erarbeiten die Projektpartner neue regulatorische und ethische Anforderungen wie standardisierte Testprotokolle und Zertifizierungen für KI-basierte Technologien oder einen bestimmten Verhaltenskodex bei der Anwendung. Zusätzlich müssen die notwendigen technischen und administrativen Verfahren entwickelt werden. Mit an Bord bei TEF-Health sind daher neben führenden Krankenhäusern, Universitäten und klinischen Forschungseinrichtungen, auch staatliche Prüforganisationen wie der TÜV, die deutsche Physikalisch-Technische Bundesanstalt und ihr französisches Pendant, das „Laboratoire national de métrologie et d’essais“ mit denen das Fraunhofer HHI in diesem Projekt eng zusammenarbeitet.

Das Fraunhofer HHI ist mit seinen Forschungsgruppen „Erklärbare Künstliche Intelligenz“ und „Angewandtes Maschinelles Lernen“ aus der Abteilung für Künstliche Intelligenz an TEF-Health beteiligt. Hier werden Methoden und Instrumente zur Qualitätssicherung von KI-Technologien entwickelt. Zusätzlich wird das Forscherteam bei der Konzeption und Entwicklung der virtuelleren Testinfrastruktur mitarbeiten und hierbei seine Expertise bspw. im Bereich der Zeitreihenanalyse, Anwendung erklärbarer KI-Methoden und in der Normung und Standardisierung einbringen.

Das Fraunhofer HHI-Team konnte auf nationaler und internationaler Ebene bereits Erfahrung im Bereich KI-Standardisierung sammeln. Seit 2021 organisieren sie gemeinsam mit dem TÜV Verband und dem Bundesministerium für Sicherheit in der Informationstechnik (BSI) die jährliche Workshop-Reihe „Towards Auditable AI Systems“, bei der wegweisende Whitepaper entstehen. International arbeiten die Fraunhofer HHI-Forschenden an der Entwicklung und Standardisierung von KI-Verfahren für den Gesundheitssektor in der ITU/WHO-Fokusgruppe „AI for Health“, die vom Institut geleitet wird.

Die im Projekt entwickelten Evaluierungsressourcen und Infrastrukturen werden der Industrie in Form von gebührenpflichtigen Diensten zur Verfügung stehen. Durch diese umfangreichen Test- und Bewertungswerkzeuge möchte das TEF-Health-Team auch das Vertrauen der Bevölkerung in innovative KI- und Robotik-Techniken stärken.

Quelle: Fraunhofer Heinrich-Hertz-Institut