KI-Transparenz
Welche KI-Funktionen es gibt, wohin Daten fließen, wie Ergebnisse gekennzeichnet sind und was die KI ausdrücklich nicht tut.
Diese Seite dokumentiert, welche KI-Funktionen MedTech Cockpit enthält, wozu sie dienen, wohin Daten fließen, wie Ergebnisse gekennzeichnet sind und wo die Grenzen liegen. Sie richtet sich an Administratoren, Datenschutz- und Informationssicherheitsbeauftragte und Nutzer – als Information nach Art. 50 der KI-Verordnung (EU) 2024/1689 und als Grundlage für die KI-Kompetenz nach Art. 4. Grundsatz: KI ist optional. Ohne ausdrückliche Konfiguration durch den Administrator Ihrer Organisation wird kein externer KI-Anbieter eingesetzt; eine plattformweite Voreinstellung gibt es nicht.
KI-Funktionen im Überblick
| Funktion | Zweck | Datenfluss | Kennzeichnung und menschliche Aufsicht |
|---|---|---|---|
| KI-E-Mail-Assistent | Entwürfe für wiederkehrende E-Mails an Hersteller, Dienstleister und Stationen aus Vorgangsdaten. | Standard: regelbasierte Vorlagen auf dem Server. Optional: Formulierung durch ein Sprachmodell beim vom Administrator konfigurierten Anbieter; Fakten stammen aus der Geräteakte, E-Mail-Adressen, Telefonnummern und Namen werden vor der Übermittlung durch Platzhalter ersetzt; Konsistenzprüfung des Ergebnisses. | Entwurf wird vom Nutzer geprüft, bearbeitet und selbst versendet; nichts geht ohne Bestätigung hinaus. |
| KI-Assistent (Fragen an die Geräteakte, Zusammenfassungen) | Beantwortet Fragen zu Geräten, Vorgängen und Fristen aus den gespeicherten Daten. | Standard: regelbasiert auf dem Server. Optional: Sprachmodell beim konfigurierten Anbieter mit pseudonymisiertem Kontext; Freitexte können personenbezogene Angaben enthalten, die Nutzer selbst eingegeben haben. | Antworten sind Hinweise mit Quellenangabe; dauerhafter Hinweis im Chat, dass Antworten fehlerhaft sein können. |
| Device Assistant (Gerätewissen) | Fragen wie „Welche Prüfungen sind relevant?“ oder „Welche Informationen fehlen?“ zu einem Gerät. | Antwortet ausschließlich aus hinterlegten Daten und nennt zu jeder Angabe die Quelle; fehlende Angaben werden als „Nicht hinterlegt“ ausgewiesen. Optional Sprachmodell wie oben. | Zuordnungen zur MPBetreibV sind Vorschläge, maßgeblich ist der amtliche Wortlaut; Bestätigung durch Fachpersonal. |
| KI-Priorisierung | Hinweise auf wiederkehrende Störungen, offene Herstellerrückmeldungen, fällige Bewertungen im Dashboard. | Regelbasiert und deterministisch auf dem Server; kein externer Anbieter, keine Übermittlung. | Priorisiert Geräte und Vorgänge, nie Personen. Keine Zuweisung oder Bewertung von Beschäftigten. |
| Foto-Erkennung (Typenschild, Schäden) | Übernahme von Hersteller, Modell und Seriennummer aus einem Typenschildfoto; Beschreibung sichtbarer Schäden. | Nur mit konfiguriertem externem Anbieter; das Foto wird erst nach ausdrücklicher Bestätigung übertragen, dass es keine Personen, Patientendaten oder Bildschirminhalte zeigt. Der aktive Anbieter wird im Dialog angezeigt. | Ergebnis ist ein Vorschlag, der vor der Übernahme bestätigt wird. |
| Bildvergleich für Prüf- und Testmittel | Vergleich einer aktuellen Aufnahme mit einer Referenzaufnahme (Prüfkörper, Phantome, Anzeigen, Prüfmittel); Markierung von Veränderungen; Vergleichsdokumentation. | Läuft vollständig lokal im Browser; Bilder verlassen das Gerät nicht. Optional können Kennzahlen (keine Bilder) zur Erklärung an das Sprachmodell gegeben werden. | Ergebnis „Keine Abweichung erkannt“ / „Abweichung erkannt“ ist eine Dokumentationshilfe – kein Prüfverfahren im Sinne der MPBetreibV, StrlSchV oder einer Norm, kein Prüfbefund, keine Toleranzbewertung. Prüfung, Bewertung und Freigabe erfolgen durch die fachlich zuständige Person. |
| Dokument-Extraktion | Vorschläge für Gerätedaten aus hochgeladenen Dokumenten (z. B. Serviceberichte). | Regelbasiert auf dem Server; optional Sprachmodell beim konfigurierten Anbieter mit pseudonymisiertem Text. | Als „KI-Vorschlag (bitte bestätigen)“ gekennzeichnet; Übernahme nur durch den Nutzer. |
| Privacy Shield | Erkennung und Entfernung personenbezogener Daten (Text, Gesichter, Codes, Etiketten) in Bildern und PDFs vor der Weiterverarbeitung. | Klassische Verfahren (Texterkennung, Gesichts-/Code-Erkennung) vollständig auf unserem Server; keine Übermittlung an Dritte. Originale und Arbeitsdateien werden nach 30 Tagen gelöscht. | Jede Redaktion wird vom Anwender geprüft und bestätigt; keine Vollständigkeitsgarantie. |
Datenfluss in drei Stufen
- Lokal im Browser: Bildvergleich. Keine Übertragung von Bildern.
- Auf unserem Server (Deutschland): regelbasierte Assistenten, Priorisierung, Privacy Shield, Dokument-Extraktion im Standardmodus. Keine Übermittlung an Dritte.
- Externer Anbieter – nur auf Konfiguration: Anthropic PBC oder OpenAI OpCo, LLC (USA) bzw. ein OpenAI-kompatibler Endpunkt, den die Organisation selbst bestimmt (auch EU-Hosting oder eigenes Rechenzentrum). Vor der Übermittlung werden E-Mail-Adressen, Telefonnummern sowie die Namen der Benutzer und hinterlegten Kontaktpersonen durch Platzhalter ersetzt. Übermittelt werden nur die für die konkrete Antwort nötigen Angaben. Zugangsdaten werden verschlüsselt gespeichert; das Aufrufprotokoll enthält nur Metadaten (Anbieter, Modell, Zeichenanzahl, Dauer), keine Inhalte; Löschung nach 90 Tagen. Transfermechanismus und Subprozessorliste: Auftragsverarbeitungsvertrag, Anlage 2.
Kennzeichnung
Jede KI-Ausgabe ist in der Oberfläche als solche gekennzeichnet („KI“, „REGELBASIERT“, „KI-Vorschlag (bitte bestätigen)“); im Foto-Dialog wird der aktive Anbieter angezeigt; im Assistenten-Chat steht ein dauerhafter Hinweis, dass Antworten von einem KI-Sprachmodell erzeugt werden und Fehler enthalten können. KI-erzeugte E-Mail-Entwürfe werden vom Nutzer geprüft und unter eigenem Namen versendet. Das Produktvideo auf der Startseite verwendet eine KI-generierte Sprecherstimme; das ist in der Bildunterschrift angegeben.
Menschliche Aufsicht
An jeder Stelle, an der ein KI-Ergebnis in Daten, Dokumentation oder Kommunikation übergeht, ist eine Bestätigung durch den Nutzer erforderlich. KI-Funktionen lösen keine Workflows mit Außenwirkung ohne Freigabe aus. Administratoren können jede KI-Funktion je Organisation aktivieren, deaktivieren und mit Nutzungslimits versehen; die Pseudonymisierung ist standardmäßig aktiv.
Grenzen – was die KI nicht tut
- Keine Prüfentscheidung: Keine Freigabe, keine Bewertung von Messwerten gegen Toleranzen, kein Prüfbefund, kein Prüfverfahren nach MPBetreibV, StrlSchV oder Norm.
- Keine Beschäftigtenbewertung: Keine Zuweisung von Aufgaben an Personen, keine Leistungsbewertung, keine Überwachung von Beschäftigten durch KI (Anhang III Nr. 4 KI-VO wird bewusst nicht berührt).
- Keine Diagnose: Keine Auswertung diagnostischer Bilddaten, keine medizinische Zweckbestimmung. MedTech Cockpit ist kein Medizinprodukt.
- Kein Training: Kundendaten werden von uns nicht zum Training von Modellen verwendet.
- Keine Garantie für Richtigkeit: Ausgaben können unvollständig oder fehlerhaft sein und sind vor Verwendung zu prüfen.
Einordnung nach der KI-Verordnung (Rechtsstand Oktober 2026)
Nach unserer Einschätzung ist MedTech Cockpit kein Hochrisiko-KI-System im Sinne von Anhang I oder III der Verordnung (EU) 2024/1689: Die Software ist kein Medizinprodukt, und die KI-Funktionen treffen oder bereiten keine Entscheidungen über Beschäftigte vor. Die Transparenzpflichten nach Art. 50 (Hinweis auf Interaktion mit KI, Kennzeichnung KI-erzeugter Inhalte) werden durch die beschriebene Kennzeichnung erfüllt. Für die KI-Funktionen über externe Anbieter ist der Betreiber von MedTech Cockpit Betreiber (Deployer) des Modells und Anbieter des Gesamtsystems gegenüber seinen Kunden; die nutzende Organisation ist Betreiberin der Funktionen in ihrem Mandanten. Diese Einordnung ist eine Selbsteinschätzung und keine Rechtsberatung; wir überprüfen sie bei jeder neuen KI-Funktion und bei Änderungen der Rechtslage (zuletzt: Oktober 2026).
KI-Kompetenz – Hinweise für Administratoren (Art. 4 KI-VO)
- Vor Aktivierung eines externen Anbieters: Vertragsgrundlage (Auftragsverarbeitung, Ausschluss von Training, Speicherdauer) und Übermittlungsgrundlage (EU-US Data Privacy Framework bzw. Standardvertragsklauseln) prüfen; Anlage 2 des AVV beachten; Datenschutzbeauftragte einbinden.
- Nutzer informieren: KI-Ausgaben sind Vorschläge; Prüfpflicht vor Versand und vor dokumentationsrelevanten Eintragungen; keine Patientendaten, keine Personen auf Fotos; Privacy Shield vor dem Hochladen sensibler Dateien.
- Pseudonymisierung aktiviert lassen; Nutzungslimits je Funktion setzen; KI-Aufrufprotokoll regelmäßig prüfen.
- Beschäftigtenvertretung (Betriebsrat/MAV) bei Einführung der Module mit Arbeitszeit- und Tätigkeitsdaten beteiligen – unabhängig von KI.
- Neue KI-Funktionen vor Freischaltung gegen die oben genannten Grenzen prüfen (keine Prüfentscheidung, keine Beschäftigtenbewertung, keine Diagnose).
Weiterführend: Sicherheit & Datenschutz · Datenschutzerklärung (Abschnitt 9) · Nutzungsbedingungen (§ 4) · Bildvergleich.