Xplain AI Workshop

Präsentation durch Isabella Hinterleitner

Requirements for AI-enhanced Software

Am 21.11.2022 wurde der Workshop zu Requirements for AI-enhanced Software im Pokieser-Seminarraum im AKH im Rahmen vom Projekt Xplain AI – Artificial Intelligence Erklärbar Machen (AK Digifonds) abgehalten. Das Projekt Xplain AI wird in einem Konsortium von TechMeetsLegal, der Data Intelligence Offensive und Women in AI Austria im Zeitraum vom 01.10.22 – 30.09.23 realisiert. Ziel des Projektes ist es anhand einer webbasierten Weiterbildungsapplikation an der Schnittstelle zwischen Medizin und Technik komplexe AI-basierte Projekte oder Softwarelösungen zu erklären. Die primäre Zielgruppe umfasst Anwender*innen aus medizinischen Berufen (z.B. Pfleger*innen).

Im Rahmen des Workshops wurden Anforderungen für AI-unterstützte Softwarelösungen im Medizinbereich, sowie die Anforderungen für eine Microlearning Plattform zur Erklärung der Softwarelösungen diskutiert. Zusammenfassend wurden vier Themenbereiche diskutiert – die Inhalte der Diskussionen werden in aggregierter und anonymer Form folgend dargestellt:

Technik besser verstehen – Wie kann man Nutzer*innen unterstützen?

Um Nutzer*innen besser zu unterstützen müssen Informationen über die AI Systeme in verständlicher Form aufbereitet werden. Hierbei ist es vor allem auch wichtig den Applikationskontext der AI Systeme darzustellen, nicht nur die isolierte Technologie. Die dargestellten Informationen müssen auch auf unterschiedliche Rollen angepasst werden; beispielsweise brauchen Patient*innen anders aufbereitete Informationen als Pflegepersonal. Die Darstellung durch ein intuitives Frontend ist hierbei sehr wichtig.

Die Informationen für Nutzer*innen könnten auch automatisiert gesammelt werden, beispielsweise durch Webcrawling. Hier muss aber auf die didaktische Aufbereitung der Inhalte geachtet werden. Durch das Tracking vom Userverhalten (z.B. Worauf wird öfters geklickt, wie sind die Verweilzeiten auf der (Sub-)Page?) kann die Anwendung auch für Nutzer*innen optimiert werden.

Medizindaten in der Cloud – Welche Möglichkeiten gibt es?

Bei der Nutzung von Medizindaten bzw. Patient*innendaten in der Cloud hängt es stark von den Ländern ab – die USA haben hier ganz andere Richtlinien als Europa. Derzeit gibt es in der EU oder in den UK bereits sehr viele elektronische Patient*innendaten für unterschiedlichste Applikationen auf der Cloud. Zusätzlich werden User*innen Services angeboten, um Daten zu verschlüsseln (Client- oder Userseitig). Je nach Anwendungsfall werden die Daten dann voll- oder teilanonymisiert bearbeitet. Dies ist auch trotz Schrems II möglich, denn die amerikanischen Cloudanbieter haben jeweils auch Standorte in Europa (z.B. Rechenzentren in Frankfurt), die für europäische Gesundheitsdaten genutzt werden können.

Es muss geklärt werden, ob auch Medizinprodukte bereits auf Cloudinfrastrukturen entwickelt werden. Hierbei spielt vor allem die Erfüllung von Datenschutzanforderungen eine zentrale Rolle.

AutorIn: Sarah Stryek

AI Autonome Busse Copyright Deep Fakes Diskussionsplattform DSA DSGVO EU Expertendatenbank FFG Gesundheitswesen Haftungsrecht Hate Speech IP Medizin Neue Rechtsgebiete Rechtssicherheit SFU Sicherheit Versicherung WAI Austria X-AI Xplain AI

Leave a Comment

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert