In der virtuellen Sphäre treten oft Rechtsverstöße auf. Besonders Kinder und Jugendliche kommen unbeabsichtigt mit unrechtmäßigen, kriminellen oder zweifelhaften Inhalten auf verschiedenen Websites oder in sozialen Medien in Kontakt. Die Condat AG hat im Auftrag der Landesanstalt für Medien NRM ein KI-System entwickelt, das die Überwachung von Online-Medien erleichtern, verbessern und beschleunigen soll. Gleichzeitig bietet die Analyse eine integrierte, rechtlich einwandfreie Dokumentation.
Die Software KIVI trägt zur Online-Sicherheit bei und wurde Im Jahr 2020 von der Landesanstalt für Medien NRW das KI-basierte Analyse- und Bearbeitungstool eingeführt, basierend auf der Smart Media Engine von Condat. Seit 2021 ist die Software der Condat AG aktiv und durchsucht den virtuellen Raum nach problematischen Inhalten. KIVI wird kontinuierlich weiterentwickelt, der Erkennungsalgorithmus regelmäßig trainiert und bewertet, um kritische Inhalte noch besser zu identifizieren. Darüber hinaus ist geplant, die Lösung anderen Landesmedienanstalten zur Verfügung zu stellen.
KIVI ist in der Lage, innerhalb eines Augenblicks täglich mehr als 10.000 Seiten automatisch zu durchsuchen. Die praktischen Anwendungsfelder reichen von Service und Kundendienst bis zu anderen Bereichen. Hierbei werden Technologiefelder wie Bilderkennung und -verständnis, Datenmanagement und -analyse sowie Sprach- und Textverständnis genutzt.
Um die Software effektiv zu nutzen, sind eine Plattform, Daten und Feedback für KIVI-Verbesserungen erforderlich. Die Dienstleistung beinhaltet eine Beratung und Prozessanalyse, die Einrichtung und das Training der KI, eine umfassende Schulung der Benutzer:innen sowie den Betrieb als Cloud-Lösung.
KIVI lernt anhand von aktiven Bild- und Textbeispielen, die zuvor als Verstoß bewertet wurden. Zusätzlich erhält die Software von Mitarbeitenden der Landesmedienanstalt täglich Rückmeldungen zur Bestätigung oder Nicht-Bestätigung eines erkannten Verdachts. Das Grundprinzip besteht darin, dass das KI-Tool umso effektiver lernt, je mehr Behörden es nutzen. Aktuell ist KIVI auf deutschsprachige Textinhalte beschränkt.
KIVI sichert effektive Medienüberwachung im digitalen Raum. Nutzer:innen können Texte, Bilder und Videos von Websites und sozialen Medien auf rechtswidrige und jugendgefährdende Merkmale prüfen. Intelligente Kategorisierung konzentriert manuelle Sichtung auf kritische Inhalte und steigert die Effizienz. Außerdem lernt KIVI aus Fehleinschätzungen und nutzt aktualisiertes Wissen.