Grundlegend kann entschieden werden, ob ein KI-Use Case und zugrundeliegende IT-Infrastrukturen lokal auf Servern (On-Premise), in der Cloud oder in einer hybriden Mischform ausgeführt werden soll. Dabei hat jede Variante Vor- und Nachteile und muss entsprechend des Use Cases und eigener Präferenzen bezüglich Kosten, Datenschutz, Skalierbarkeit und weiteren Faktoren ausgewählt werden.

Nachfolgend wird von Ihnen festgelegt, ob und in welchem Ausmaß Cloud-Infrastrukturen genutzt werden sollen. Dabei lässt sich über Cloud-Servicemodelle auch bestimmen, welche Infrastrukturen selbst und welche vom Cloud-Anbieter verwaltet werden.

Als Ergebnis erhalten Sie eine Liste an Anforderungen an Ihre IT-Infrastruktur, die im nächsten Schritt mit Hilfe dem Aufbau der Datenpipeline umgesetzt werden.

Cloud-Infrastrukturen zeichnen sich grundlegend durch:

• Skalierbarkeit von Services auf Anfrage,
• Virtualisierung von trennbaren Ressourcen,
• Standardisierten und breiten Netzwerkzugang und eine
• Transparente Messung von Ressourcen aus.

Trotz einiger prägnanter Vorteile der Cloud-Technologie ist sie nicht die optimale Lösung für jeden Use Case und jedes Unternehmen. Nachfolgend sind Vor- und Nachteile einer On-Premise-Infrastruktur und einer Cloud-Infrastruktur gegenübergestellt:

Um von den Vorteilen beider Varianten profitieren zu können, entscheiden sich Unternehmen häufig für eine Kombination beider Ansätze. Dafür finden Sie in nachfolgender Tabelle eine Übersicht über die verschiedenen Ausprägungen. Bei der Cloud kann weiterhin differenziert werden, ob diese privat genutzt wird oder ob es sich um eine öffentlich genutzte Cloud handelt. Private Clouds liegen in der Verwaltung und Kontrolle eines Unternehmens und werden nicht mit anderen Unternehmen geteilt. Dadurh können strengere Sicherheits- und Datenschutzanforderungen erfüllt werden, allerdings leidet auch die Flexibilität darunter.

• Cloud Computing (2011)

  Christian Baun, Marcel Kunze, Jens Nimis, Stefan Tai Informatik im Fokus

  Springer Berlin Heidelberg DOI:10.1007/978-3-642-18436-9
• Cloud Computing: Today and Tomorrow. (2009)

  Won Kim The Journal of Object Technology 8/1 p65

  AITO - Association Internationale pour les Technologies Objets DOI:10.5381/jot.2009.8.1.c4
• Cloud computing for genomic data analysis and collaboration (2018)

  Ben Langmead, Abhinav Nellore Nature Reviews Genetics 19/4 p208-219

  Springer Science and Business Media LLC DOI:10.1038/nrg.2017.113
• Handbook of Cloud Computing (2010)

  Borko Furht, Armando Escalante

  Springer US DOI:10.1007/978-1-4419-6524-0

• Vituelle Maschinen und Virtualisierung
  IBM (o.J.)
• Was ist Deployment?
  Florian Karlstetter (Juni 2017)

Cloud- und KI-Technologien können sich sinnvoll ergänzen und Synergie bilden. Nachfolgend sind einige dieser Synergien aufgelistet:

• Skalierbarkeit (von Datenspeicher und Rechenleistung) als Erfolgsfaktor von datengetriebenen KI-Modellen
• Flexibilität durch eine einffache Kombination von APIs (Softwareschnittstellen) und anderen externen Cloud-basierten Services
• Schnellerer Entwicklungsprozess mit Hilfe von vorgefertigten KI-Modellen und Frameworks
• Kooperativer Entwicklungsprozess durch ortsunabhängigen Zugriff während der Entwicklung
• Zahlung nach Nutzungsbedarf kann Kosten reduzieren
• Bereitstellung von automatisierten Workflows (z.B. Datenreinigung, Modellbereitstellung, …)

• Cloud Computing: Today and Tomorrow. (2009)

  Won Kim The Journal of Object Technology 8/1 p65

  AITO - Association Internationale pour les Technologies Objets DOI:10.5381/jot.2009.8.1.c4
• KI‑Systeme (2021)

  Bernhard G. Humm, Stephan Lingner, Jan C. Schmidt, Karsten Wendland TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis 30/3 p11-16

  Oekom Publishers GmbH DOI:10.14512/tatup.30.3.11
• Cloud computing for genomic data analysis and collaboration (2018)

  Ben Langmead, Abhinav Nellore Nature Reviews Genetics 19/4 p208-219

  Springer Science and Business Media LLC DOI:10.1038/nrg.2017.113
• Cloud Computing: An Overview (2009)

  Ling Qian, Zhiguo Luo, Yujian Du, Leitao Guo Lecture Notes in Computer Science p626-631

  Springer Berlin Heidelberg DOI:10.1007/978-3-642-10665-1_63

Je nachdem wie sich eigene Anforderungen gestalten und das Angebot von Cloud-Anbieter ausfällt, können verschiedene IT-Infrastrukturen und Dienste selbst oder vom Cloud-Anbieter verwaltet werden. Hiermit erfolgt also auch die Festlegung, ob ein On Premise-, Cloud- oder hybrides Modell genutzt wird. Das kann zur Folge haben, dass bestehende IT-Infrastrukturen angepasst oder weiterentwickelt werden müssen.

Entschieden werden müssen unter anderem:

• ob Daten lokal oder in der Cloud gespeichert werden,
• ob Daten lokal oder in der Cloud verarbeitet werden,
• ob Rechenleistung auf eigenen Servern oder durch die Cloud bereitgestellt werden,
• welches Datenbankverwaltungssystem genutzt wird,
• welche KI-Bibliotheken und -Frameworks genutzt werden,
• welche Applikationen genutzt und wie diese konfiguriert werden,
• welche Middleware genutzt wird,
• welches Betriebssystem genutzt wird,
• die Ausgestaltung der Netzwerkarchitektur und
• die Ausgestaltung der Virtualisierung.

• KI-Management in Unternehmen
  Benjamin van Giffen (Oktober 2018)
• Was sind Iaas, Paas und Saas?
  IBM (o.J.)
• SaaS vs. PaaS vs. IaaS
  BigCommerce (o.J.)

• Framework vs. Bibliothek
  Patrick Böllhoff (März 2022)
• Vituelle Maschinen und Virtualisierung
  IBM (o.J.)

Bekannte Cloud-Anbieter, die Angebote auf dem deutschen Markt haben, sind unter anderem:

• Telekom (Open Telekom Cloud)
• Amazon (Amazon Web Services)
• Google (Google Cloud Platform)
• Microsoft (Azure)
• IBM (IBM Cloud)
• SAP (SAP Cloud Platform)

Nachdem geklärt ist, welche Anforderungen, Wünsche oder ähnliches sich an die eigene Gestaltung der IT-Infrastruktur und Dienste ergeben, können die verschiedenen Angebote der Cloud-Anbieter auf Übereinstimmung und auf die Ausprägung der einzelnen Leistungsmerkmale (wie bspw. Skalierung, Sicherheit, …) geprüft werden.

Wie solch eine Ausgestaltung aussehen kann, wird nachfolgend anhand der drei beliebtesten Arten von Cloud-Service-Angeboten und der On Premise Lösung dargestellt.

Legende:
ja = vom Cloud-Anbieter verwaltet
nein = vom Kunden verwaltet

• Cloud computing for genomic data analysis and collaboration (2018)

  Ben Langmead, Abhinav Nellore Nature Reviews Genetics 19/4 p208-219

  Springer Science and Business Media LLC DOI:10.1038/nrg.2017.113
• Handbook of Cloud Computing (2010)

  Borko Furht, Armando Escalante

  Springer US DOI:10.1007/978-1-4419-6524-0
• Cloud Computing (2011)

  Christian Baun, Marcel Kunze, Jens Nimis, Stefan Tai Informatik im Fokus

  Springer Berlin Heidelberg DOI:10.1007/978-3-642-18436-9
• Was sind Iaas, Paas und Saas?
  IBM (o.J.)
• SaaS vs. PaaS vs. IaaS
  BigCommerce (o.J.)

Im Verlauf der Modellierung des KI-Use Cases werden verschiedene Modellierungsumgebungen genutzt, damit (ähnlich zum Geschäftsmodellentwicklungsprozess) der Ressourceneinsatz in früheren Phasen möglichst gering bleibt.

Dafür kann zwischen Entwicklungs-, Test- und Produktionsumgebung in der Anwendungsentwicklung unterschieden werden. Sie unterscheiden sich zum Teil stark, z.B. durch gewählte Bibliotheken und Frameworks, Einsatz ML-spezifischer Werkzeuge oder Spezialhardware.

Die Entwicklungsumgebung wird vor allem im Rahmen der Machbarkeitsuntersuchung genutzt. Die Testumgebung bildet das Bindeglied von der Entwicklungs- hin zur Produktionsumgebung, während die Produktionsumgebung die Umgebung im realen Betrieb beschreibt.

Einige der markanten Eigenschaften der verschiedenen Umgebungen sind nachfolgend dargestellt:

Entwicklungsumgebung

• Freiheiten zur Entwicklung von Modellen und Algorithmen relativ groß
• agile Art und Weise der Abstimmung mit Fachbereichen
• kreativitätsunterstützend mit schnellem und adaptivem Vorgehen

Testumgebung

• erster Konsolidierungspunkt für Zwischenergebnisse der Entwicklungsumgebung
• Zusammenbau bisher entwickelter Komponenten, Tests und Versionierungen der Ergebnisse
• bspw. Verwendung von Continuous Integration (CI) Werkzeugen wie Build-Server und Image-Repositories
• Verwendung von Virtualisierungstechnologien wie Container (bspw. von Docker) für Modellierung und Tests in gemeinsamer Umgebung
• Demonstratorenbereitstellung

Produktionsumgebung

• robuste und skalierbare Plattform
• ausfallsicher, erreichbar, überprüfbar, bewertungsfähig (so bei Bedarf Fehleranalysen und Nachbesserungen)
• Bereitstellung und Konfiguration
• kontinuierliche Überwachung der Modellqualität

• verfügbar unter: Whitepaper: »Zukunftssichere Lösungen für ML«
  Fraunhofer IAIS