Künstliche Intelligenz – ja, das Wort ist wahrlich in aller Munde. Seit dem Release von Chat GPT im November 2022 kommt man um das Thema nicht mehr herum. Dabei gibt es die meisten Modelle und Technologien schon länger. Schließlich wurde auch Open AI bereits 2015 gegründet. Das Thema ist also eigentlich kein neuartiges mehr – was jedoch mittlerweile revolutioniert wurde, ist die Art & Weise wie KI für die eigenen Unternehmenszwecke genutzt werden kann.
Musste man vor einigen Jahren noch ein ganzes Experten-Team anheuern, welches sich mit der Infrastruktur, den notwendigen Trainingsdaten, den gesetzlichen Rahmenbedingungen und schlussendlich der Umsetzung der Modelle beschäftigt, so gibt es heute quasi auf jedem Smartphone die Möglichkeit mit einer sehr hochentwickelten KI zu sprechen – ohne diese ganzen Ressourcen aufwenden zu müssen. Demnach ist das Thema auch für kleine und mittelständische Unternehmen plötzlich greifbar geworden!
AI will probably most likely lead to the end of the world, but in the meantime, there’ll be great companies.
– SAM ALTMAN, Open AI
AI as a Service
Das von uns allen sehr geschätzte Chatbot-Tool Chat GPT bietet einen sehr benutzerfreundlichen Weg um mit der komplexen Architektur dahinter kommunizieren zu können. Doch natürlich sollte dieser Weg nicht nur dem Endbenutzer vorenthalten bleiben. Open AI hat glücklicherweise mitgedacht und im gleichen Atemzug eine einfach anzusteuernde REST-API entwickelt, über die genauso Prompts (Anweisungen an die KI) abgesetzt werden können wie über die App.
Die Definition der API ist vor allem technisch und befindet sich hier. An dieser Stelle wollen wir aber eher fachlich erklären, warum diese Möglichkeit jeder Entscheider in seinem Unternehmen ergreifen sollte. Schauen wir uns hierzu ein paar Beispiele an:
Sie haben ein Unternehmen welches ein oder mehrere Produkte vertreibt? Dann haben Sie sich auch einen Kundenservice, der Ihre Kunden bei Problemen & Fragen unterstützt. Warum lassen Sie nicht häufig gestellte Fragen & Antworten generieren, um wertvolle Zeit der Mitarbeiter zu sparen?
Sie haben einen aktiven News-Stream in Ihrem Unternehmen? Stock-Footage wird auf die Dauer zu teuer? Es ist kinderleicht, Bildgenerierung in die Recherche und Medienprozesse mit einzubinden. Auch für Produkt-Mockups und Symbolisierung von Sachverhalten kann KI hier sehr helfen!
Jeder kennt es – ist ein Text zu lang, liest man ihn nicht gerne. Auch hier können die Tools von ChatGPT helfen! In Ihrer bestehenden Software-Landschaft gibt es viele große Dokumente? Lassen Sie sich automatisch Zusammenfassungen generieren und zeigen diese im Kurzabriss an, damit Sie schneller wissen, wonach Sie suchen!
Sie haben Kamerasysteme im Einsatz, die Bilder analysieren und nach bestimmten Features absuchen sollen? Auch sowas bedarf keiner großen Sonderlösung mehr – OpenAI verfügt auch hier über ausgiebige Bildanalyse-Tools.
Erfahrungsbericht
In dem von uns konkret angewendetem Lösungsansatz ging es insbesondere um die Generierung von Zusammenfassungen ausführlicher Texte. Der Anwendungsfall sah vor, das Team von Sachbearbeitern, welches in erster Linie damit zu tun hatte eintreffende Nachrichten zu bearbeiten, durch vorgefertigte Zusammenfassungen zu unterstützen.
Hier mussten einige Sachen beachtet werden, wie bspw. die allgemeingültige Eingabebeschränkung, die aktuelle Modelle so mit sich bringen. Mit ein paar einfachen aber effektiven Tricks sind wir jedoch sehr schnell zu passablen und reproduzierbaren Ergebnissen gelangt. So konnten wir in sehr kurzer Zeit einen Anwendungsfall abbilden, bei dem es in erster Linie darum geht Lesezeit einzusparen und die wichtigsten Fakten schnell präsentiert zu bekommen.
Grundsätzlich hätte die Aufgabe pro Vorgang in etwa 3 – 8 Minuten in Anspruch genommen. Die Analyse mit Hilfe von Open AI’s verfügbaren Schnittstellen sowie einer vorher laufenden Prozedur, um die Daten etwas vorzubereiten, nehmen pro Vorgang unter 60 Sekunden in Anspruch. Noch dazu lässt sich diese Zeit auf 0 reduzieren, da der Vorgang nicht wie im Prototypen auf Anfrage laufen muss sondern einfach bereits asynchron Zusammenfassungen erstellen könnte. Damit bleiben nur noch in etwa 1 – 2 Minuten Zeit, in denen der Sachbearbeiter statt dem originalen Inhalt nur die Zusammenfassung lesen muss.
Hochgerechnet auf etwa 8.000 Vorgänge im Jahr ergibt sich daraus im optimalsten Fall eine Zeitersparnis von 800 Arbeitsstunden. Noch dazu können die im weiteren Prozess resultierenden Aktionen mit der Zusammenfassung in Verbindung gebracht und somit später weiter teilautomatisiert werden.
Kosten & Kontrolle
Zeitersparnis auf der einen Seite ist zwar schön – aber wie schauts eigentlich mit den Kosten aus? Überraschenderweise halten auch die sich in Grenzen – solange man es nicht übertreibt. Zudem hat man die Möglichkeit mit unterschiedlichen Modellen für unterschiedliche Anwendungsfälle zu arbeiten.
Grundsätzlich wird jedoch jede Anfrage eigenständig bepreist. Dies geschieht anhand der Anzahl der sogenannten Tokens, die dem Modell als Eingabe zugeführt werden. Ein Token ist dabei nicht unbedingt gleichzusetzen mit einem einzelnen Buchstaben. Bevor eine Anfrage verarbeitet wird, werden gewisse Zusammenhänge bereits voranalysiert und kategorisiert, sodass die Token-Anzahl meist kleiner ist als die Anzahl der Buchstaben.
Während des oben umschriebenen Projektes, bei dem wir umfangreiche Textinhalte analysiert und zusammengefasst und kategorisiert haben, hat unser Prototyp kosten im niedrigen zweistelligen Cent-Bereich verursacht. Die Kosten sind also – je nach Skalierung – erstmal sehr gering. Es gibt zudem gute Tools, um während der Entwicklung ein Bewusstsein dafür zu schaffen, wie kostenintensiv eine gewünschte Anfrage sein wird – das ermöglicht dann auch eine zutreffende Kosten-/Nutzenanalyse.
Zu den oben erwähnten tokenbasierten Abrechnungen kommen natürlich auch noch monatliche Kosten. Diese belaufen sich aktuell bei der von uns verwendeten Team-Subscription auf 25 $ / Monat. Die beste Unterstützung von Open AI bekommt man bei individuellen Enterprise-Verträgen, mit welchen wir jedoch bisher keine Berührungspunkte hatten.
Entwicklungsprozess
Das wertvolle an der Entwicklung mit ChatGPT ist es, dass man sehr einfach die Anfragen (auch Prompts genannt) auf fachlicher Ebene schreiben kann. Das heißt, es müssen nicht zwingend versierte Entwickler sein, die diese schreiben. Solange gewissen Grundregeln gefolgt wird, kann dies grundsätzlich jeder der in einer unterstützten Sprache kommunizieren kann und den fachlichen Hintergrund sowie das gewünschte Feedback kennt.
Funktionieren die Prompts in der App, funktionieren sie genauso in der technischen Anbindung. Ein weiterer Vorteil in der Kommunikation mit der API ist es, dass man sehr einfach auch JSON-Objekte zurückbekommen kann. Das ist ein einheitliches Format, welches die Weiterverarbeitung in bestehender Software deutlich vereinfacht.
Datenschutz
Auch beim Thema Datenschutz nimmt uns Open AI sehr viel Arbeit ab. So verspricht die Firma aus dem Silicon Valley, dass alle Datenschutzregularien der Länder eingehalten werden. Zudem kann bei der Einrichtung des Accounts ausgewählt werden, inwieweit die Daten für das Training der Modelle einbezogen werden darf. Für die meisten Anwendungsfälle wird dies deaktiviert sein müssen – was jedoch keinen negativen Effekt auf die Ergebnisse der eigenen Prompts hat.
Fazit
Der Kreativität sind aktuell keine Grenzen gesetzt – es ist sehr einfach, bestehende Anwendungen mit der Hilfe von KI zu optimieren und weitere Schritte im Thema der Digitalisierung und Prozessoptimierung zu gehen. Gerne unterstützen auch wir Sie bei diesem Thema tatkräftig – jetzt einfach & unverbindlich Kontakt aufnehmen und einen ersten Termin vereinbaren!
Natürlich gibt es neben den Open AI Services, die einem bereits alles kaufertig liefern, noch einige Open-Source Modelle, die ähnliche Ergebnisse liefern und grundsätzlich kostenlos daher kommen! Zu diesem Thema wird demnächst ein weiterer Blog-Post kommen. Deswegen gerne auf den sozialen Medien folgen!
