Modern AI systems have hidden the Ruf, Black Boxes, den Funktionsweise Anwendern and Entwicklerinnen. Auf dem Away from the knowledge used by AI to carry out herausorderungen, die sich bisher in der klassischen Softwareentwicklung nicht gestellt hatten. Zum one müssen Teams aus Daten angelernte Modelle schnell and effizient in the Produktivbetrieb bringen and anschließend fortlaufend überwachen and aktualisieren. They aid the future models and technical components of Machine Learning Operations (MLOps) practice.
Dieser Beitrag is Teil einer Artikelserie, zu der heise Developer junior Entwickler:innen einlädt – um about current Trends, Entwicklungen and persönliche Erfahrungen to information. Die Reihe “Young Professionals” appears im monatlichen Rhythmus. Are you a “Young Professional” yourself and would you like to write an article? Schicke deinen Vorschlag and the Redaktion: developer@heise.de. Wir stehen dir beim Schreiben zur Seite.
Explainable AI power nachvollziehbar, who affect KI-Systeme Entscheidungen
While others are sure that the AI system has filled all relevant legitimate Auflagen and verursachen non-serious fehlentscheidungen or reputational damage. Dazu brauchtes Model Governance, aber auch Methoden, die de Entscheidungen von KI-Systemen für alle Stakeholder nachvollziehbar machen. Here is an explainable AI (Erklärbare KI, kurz: XAI) one of many ways of ansätzen, aus den komplexen mathematicalen Strukturen der eingesetzten Modelle für Menschen vertändliche Erklärungen to extract.
Der Einsatz von Machine Learning brought Verantwortung and Verpflichtungen together. Um diesen Anforderungen nachzukommen, benötigt ein Unternehmen Prozesse, durch die es
- die Zugriffe auf ML-Modelle checked
- Richtlinien/gesetzliche Vorgaben umsetzt
- which follows Interaktionen mit den ML-Modellen en der Ergebnisse
- party, or welcher Grundlage a Modell erzeugt wurde
Model Governance bezeichnet diese Prozesse in ihrer Gesamtheit
Checklist:
- Full model documentation or message. Dazu gehört auch das Reporting of Metriken durch geeignete Visualisierungstechniken en Dashboards
- Most recent version Modelle zur Herstellung von Transparenz nach außen (Erklär- und Reproduzierbarkeit)
- Full-fledged data documentation for data quality protection and data protection protection
- Management of ML Metadata
- Validation of ML models (audits)
- Laufendes Überwachen and Protokollieren von Modellmetriken
A nachhaltiger Erfolg von KI-Software can now einstellen for Unternehmen, dies KI-Systeme auf diesen drei Grundpfeilern – MLOps, Model Governance und Explainable AI – aufbauen (s. Abb. 1). To somehow make a large part of the machine work, they said that article and hand of Beispielen aus der Praxis, whom the integration of the three elements that are applied, solid KI-Anwendungen to bauen.
The first time the use of model governance, MLOps and Explainable AI was described was the understanding of the results and benefits of Einsatz von KI-Systemen (Fig. 1).
Anwendungsfall: Automatisiertes Vorfiltern von Bewerbungen
In an unserem Anwendungsbeispiel möchte in Unternehmen seinen Bewerbungsprozensss effizienter gestalten and plant den Einsatz einer KI-basierten, automatically Vorfilterung von Bewerbungen: Das System sollwrite, welche Bewerbungen fellversprechend sind and in ein Bewerbungsgespräch münden sollten. In Zeiten, in danes Personalabteilungen nach einem flüchtigen Blick in the Unterlagen entscheid, ob sie einer Bewerbung mehr Aufmerksamkeit widmen möchten, erscheint the automatisierte Vorfilterung as lohnender Prozess. Doch auf dem Weg zur Umsetzung eines solchen Systems lauern zahlreiche Fallstricke en Risiken (Abb. 2).