User Interfaces waren bisher statisch. Wenn man eine Software oder ein Gerät gestartet hat, dann musste man immer durch die selben Schritte oder Bildschirmseiten. User Interfaces die Artificial Intelligence und Machine Learning (AI/ML) fähig sind brechen diesen statische User Interfaces auf und ermöglichen bspw. generativer KI sehr flexible User Interfaces durch natürliche Sprachein- und -Ausgaben. Das hat starke Auswirkung auf das Usability Engineering: Klassische Usability Tests bei denen Anwender beobachtet werden, sind deutlich weniger aussagekräftig, weil nicht komplett vorhersehbar ist, wie genau die KI antwortet. Dies ist ein Beispiel von vielen wie AI/ML-fähige Medizinprodukte eine veränderte Herangehensweise nötig machen.
Der Vortrag zeigt was sich beim Usability Engineering für AI/ML-fähige Medizinprodukte ändern muss und welche Methoden nötig und möglich sind, um weiterhin die sichere Nutzung von Medizinprodukten zu gewährleisten. Dazu zählen die Nutzung von unbeobachteten Usability Tests, automatisierten Usability Tests, agentische KI, um sicherzustellen, dass die User Interfaces gemäß Styleguides generiert werden. Des Weiteren geht der Vortrag auf Human-AI-Teaming ein, also Design der Zusammenarbeit zwischen Mensch und KI. Dies wird alles vor dem Hintergrund der Normung zur IEC/TS 62366-3 dargestellt, so dass ein erster Einblick in die Überlegungen der Normung möglich ist.