KI ist im Mittelstand angekommen, sagt auch die Kreditanstalt für Wiederaufbau (KFW). Im Juni veröffentlichte die Bank eine Studie mit aktuellen Zahlen: 20 % der mittelständischen Unternehmen nutzen demnach Künstliche Intelligenz (KI). Am meisten verwendet werden relativ einfach nutzbare Anwendungen, wie die „Erzeugung natürlicher Sprache“ (14 %) oder „Texterkennung“ (10 %).“
Der kleine Rest verteilt sich auf Technologien zur Datenanalyse oder Maschinensteuerung. Bei den Unternehmen spielt der Innovations- und Digitalisierungsgrad oft die entscheidende Rolle, innovative und digital affine, international tätige Unternehmen sind da wenig überraschend Vorreiter.
Doch mit der zunehmenden Verbreitung von KI stellt sich für Unternehmen nicht nur die Frage, was Künstliche Intelligenz leisten kann. Ebenso wichtig ist die Frage, wo die Verarbeitung stattfindet und was dabei mit den eigenen Daten passiert. Gerade für mittelständische Unternehmen, die Wert auf Datenschutz, digitale Souveränität und die Kontrolle über ihre IT legen, wird das zunehmend relevant. Denn KI kann auf unterschiedliche Weise betrieben werden: in der Cloud, auf eigenen Systemen oder direkt dort, wo die Daten entstehen. Eine dieser Möglichkeiten ist Edge-KI.
Was ist Edge-KI?
Bei Edge-KI wird die Künstliche Intelligenz möglichst nahe am Ort eingesetzt, an dem die Daten entstehen. Das kann beispielsweise eine Maschine, eine Kamera, ein Sensor oder ein anderes Gerät sein. Das KI-Modell läuft direkt auf dem Edge-Gerät oder in dessen unmittelbarer Umgebung und verarbeitet die Daten vor Ort. Red Hat beschreibt Edge-KI entsprechend als Ausführung von KI-Modellen auf angeschlossenen Geräten am „Edge“, also am Rand des Netzwerks. Dadurch können Daten und Entscheidungen direkt vor Ort verarbeitet werden.
Der Unterschied zur Cloud-KI lässt sich vereinfacht so beschreiben: Bei Cloud-KI wandern die Daten zur KI, bei Edge-KI kommt die KI zu den Daten. Statt Daten zunächst an einen externen Cloud-Dienst zu übertragen, können sie direkt vor Ort analysiert und verarbeitet werden.
Minenfeld KI
Doch falsch angewandt, wird künstliche Intelligenz schnell zum Minenfeld werden – der Verlust von Daten und an digitaler Souveränität bereitet vielen Unternehmern Kopfzerbrechen. „Kosten, Nutzen und Risiken bestimmen die Übernahmeentscheidung neuer Technologien“ schreibt dementsprechend auch die KFW. Das spiegelt sich auch in der Datenbasis wieder, etwa wenn sich Unternehmen nur mit einer Wahrscheinlichkeit von über zehn Prozent für das Einbinden externer Wissensquellen entscheiden, und selbst das nur bei der Texterkennung und der Erzeugung natürlicher Sprache.
Euphorischer Bitkom
Im Gegensatz dazu sehen die Zahlen des Bitkom rosiger aus: Über 40 Prozent aller Unternehmen mit mehr als 20 Mitarbeitern verwenden bereits KI, fast die Hälfte plane den Einsatz, so der IT-Branchenverband.
Unternehmen „entdecken ihren Datenschatz“, „Ki kommt in der Fläche“ an. Größtes Hindernis seien nicht Bedenken und Sorgen, sondern mangelndes Fachpersonal und der Datenschutz, so die Bitkom.
Die Sorgen vieler Mittelständler hingegen gelten eher der digitalen Souveränität und der Nachhaltigkeit. Viele haben negative Erfahrungen mit Clouds und großen Hersteller hinter sich, zahlreiche IHKs thematisieren die Digitale Souveränität bei KI-Lösungen. Was sich KMUs wünschen, geht einher mit der Kontrolle die sie von Open Source, eigener Hardware und eigenen Rechenzentren gewohnt sind. Auch wenn man dank Partnern wie der IT-Works „nicht alles selbst machen“ muss, geht der Trend ganz klar zu eigenen Modellen und Softwarelösungen. Weil die immer effizienter werden, ist das auch für immer kleinere Firmen realistisch, auch und gerade on-Premises.
Die Strategie chinesischer Hersteller setzt stark auf Open-Source und überrascht immer wieder bei Effizienz und kosten. Zentrale Erkenntnis: „90 % der Spitzenleistung bei 82 Prozent geringeren Kosten“, sagt beispielsweise das Research Team von Dataglobehub in einer Studie.
Anbieter setzen auf Edge-KI
KI-Technologien lassen sich zunehmend auch dezentral und lokal einsetzen. Neben Cloud-basierten Lösungen entstehen damit weitere Möglichkeiten, KI zu betreiben und Daten zu verarbeiten. Ob Red Hat, Intel, IBM oder Fraunhofer: Viele Unternehmen und Forschungseinrichtungen beschäftigen sich inzwischen mit Edge-KI und entwickeln entsprechende Produkte, Lösungen und Technologien.
Edge-KI ist dabei nicht gleichbedeutend mit On-Premises-KI. Läuft ein KI-Modell beispielsweise zentral auf einem Server im eigenen Rechenzentrum, bleibt die Verarbeitung zwar innerhalb der eigenen IT-Infrastruktur, findet aber nicht unmittelbar am Ort der Datenerzeugung statt. Ein Edge-Gerät kann dagegen durchaus Teil einer eigenen On-Premises-Infrastruktur sein.
Cloud-KI und Edge-KI schließen sich dabei ebenfalls nicht aus. Je nach Anwendungsfall kann es sinnvoll sein, bestimmte Daten und Aufgaben lokal zu verarbeiten, während andere weiterhin über zentrale Systeme oder Cloud-Dienste laufen. Eine solche Kombination wird auch als Hybrid-KI bezeichnet.
Neben Aspekten der digitalen Souveränität kann Edge-KI auch Vorteile bei der Verarbeitungsgeschwindigkeit bieten. Intel verweist dabei beispielsweise auf Einsatzmöglichkeiten „in der Maschinenhalle, im Klinikbereich oder im Einzelhandelsgeschäft“.
Edge-KI-Wissenschaft bei Fraunhofer
Ebenso gibt es einige aufschlussreiche Projekte bei diversen Fraunhofer-Instituten. So beschäftigt sich das Fraunhofer-Institut für Elektronische Mikrosysteme und Festkörper-Technologien EMFT mit der Frage der Leistungsfähigkeit von Edge AI und der „Entwicklung nahtlos integrierter Embedded-AI-Lösungen für den Edge-Bereich“, während man am Fraunhofer-Institut für Graphische Datenverarbeitung gar „Die Zukunft der KI am Rand des Netzwerks“ beginnen sieht:
„Die Zukunft der künstlichen Intelligenz liegt nicht nur in zentralen Rechenzentren, sondern auch direkt an den Rändern des Netzwerks – auf sogenannten Edge-Geräten. Diese Form der dezentralen KI-Verarbeitung ermöglicht es, Daten direkt am Ort ihrer Entstehung zu analysieren, wodurch Reaktionszeiten verkürzt, Bandbreitenanforderungen reduziert und die Privatsphäre der Nutzer besser geschützt werden können. Das EU-geförderte Projekt dAIedge setzt genau hier an: Es entwickelt innovative Technologien für die nächste Generation von Edge-KI, um Europa im globalen Wettbewerb technologisch an der Spitze zu halten.“
Fazit: KI kommt an den Rand
Eins scheint klar: KI muss nicht zwangsläufig zentral in der Cloud verarbeitet werden. Neben Cloud- und On-Premises-Lösungen gibt es mit Edge-KI einen weiteren Ansatz, bei dem die Verarbeitung näher an den Ort der Datenerzeugung rückt. Das kann je nach Anwendungsfall Vorteile bei Geschwindigkeit, Datenverarbeitung und Datenschutz bieten.
Für mittelständische Unternehmen bedeutet das vor allem mehr Auswahl: Welche Form der KI sinnvoll ist, hängt vom jeweiligen Einsatzgebiet, den vorhandenen Daten und den Anforderungen an Sicherheit, Kosten und digitale Souveränität ab. Edge-KI ist dabei keine Alternative, die Cloud-KI grundsätzlich ersetzt, sondern eine weitere Möglichkeit, KI einzusetzen.