KI Übersicht Oktober 2024 für Unternehmen

Es bewegt sich wieder einmal unglaublich viel.

Advanced Voice Mode von OpenAI wurde vor kurzem für alle User ausgerollt. Naja, fast alle. In Europa dürfen wir es noch nicht verwenden, aber mit einem VPN kann man sich Zugang verschaffen und staunen. Man kann hochwertige, flüssige Konversationen führen mit tiefer Expertise in allen Bereichen. Lernen, das Gelernte durch Quizfragen abtesten lassen, verhandeln, Dialekte sprechen und vieles mehr. Kreativität ist die Grenze.

Bis jetzt war dies nur in der ChatGPT App möglich.

Seit heute nicht mehr.

OpenAI hat Real Time API released. API ist so etwas wie eine Brücke zwischen zwei Computern. Also kann jeder simple Applikationen für sein Unternehmen bauen, welche diese reale, menschliche Sprachkommunikation nutzen. Es wirkt nicht mehr wie eine Computerstimme, sondern echt, menschlich. Der naheliegendste Fall ist der Kundensupport. Allerdings eröffnet es neue Möglichkeiten.

Wenn man etwas rauszoomt und überlegt, wie wir mit Computern interagieren, also mit Tastatur und Maus, dann sehen wir einen Paradigmenwechsel. Jetzt ist es möglich, durch natürliche Sprache Befehle zu geben und gewünschte Handlungen auszuführen. Agentic Capabilities auch genannt.

Wir können komplexe Systeme bauen, die für uns Bestellungen aufgeben, mit Lieferanten verhandeln und den eigenen Service mit natürlicher Sprache verbessern.

Außerhalb der cutting-edge KI-Bubble haben das noch nicht viele Menschen mitbekommen, neben all den Ereignissen, die momentan in unserer Welt passieren. Aber unsere Welt verändert sich soeben in einer Geschwindigkeit, die für fast alle zu schnell ist.

Auch führende Experten auf dem Gebiet kommen nicht mehr mit.

Neue Entwicklungen bei OpenAI

Vor kurzem hat OpenAI das o1-preview Model released, welches den Grundstein für menschliches Reasoning gelegt hat. Es heißt anders, weil es auf einer anderen Architektur aufbaut. Das "logische" Denken oder System-2-Denken (Kahneman) war bis jetzt die Achillesferse von KI. Das neue Modell macht erste Schritte in diese Richtung. Deswegen der neue Name o1 anstatt ChatGPT5. Das Bemerkenswerte daran ist die Architektur.

Es wurde nicht wie bisher das Training des Modells mit maximal möglicher Computerleistung skaliert, sondern die Inference, also der Output.

Was heißt das?

Bis jetzt wurde ein KI-Modell trainiert. War dies fertig, hat man es noch fine-getuned, damit zum Beispiel das gewohnte Frage und Antwort Spiel ideal funktioniert.

Dieses fertige Modell wurde anschließend deployed und Nutzer auf der ganzen Welt konnten Anfragen an dieses Modell schicken.

Die neue Architektur funktioniert ein bisschen anders: Das Modell wird wie bisher gewohnt trainiert und deployed. Wenn jetzt ein Nutzer eine Anfrage schickt, dann wird auch, bevor die Antwort ausgegeben wird, nochmal Computerleistung eingesetzt.

Das Modell "denkt" also stärker nach und kann so umso bessere Outputs liefern. Es werden also komplexe Reasoning-Denkmuster (Vorlagen, wie man ein Problem lösen kann) von den immer besseren Modellen erzeugt und anschließend in das neueste Modell trainiert. (Synthetische Daten)

Wir sind sehr nahe an superintelligenten Systemen.

Und das sagen nicht nur CEOs, die an einer großen Menge Hype interessiert sind, sondern das wird auch durch Ilya Sutskever bestätigt. Er war Lead Scientist bei OpenAI, hat unter Geoffrey Hinton gelernt (DEM KI-Godfather), und ist bekannt für seinen wissenschaftlichen, nüchternen Zugang mit Fokus auf Sicherheit.

Ilya Sutskever hat vor kurzem eine neue Firma namens Safe Super Intelligence gegründet.

Genug von OpenAI.

Demnächst werden weitere KI-Modelle von der Konkurrenz released. Die Konkurrenz schläft nicht.

Anthropic hinter Claude (hervorragendes Modell, das fast gleichauf mit ChatGPT liegt und Fokus auf Ethik und Sicherheit und Research legt und für kreativere Aufgaben besser geeignet ist) hat bereits ihr neuestes Modell Claude Opus angekündigt.

Auch Meta mit dem neuen Mark Zuckerberg, dessen öffentliches Bild vom Nerd und Zielscheibe für gescheiterte Socia Media Technologie, die unsere Demokratien disruptiert, zu einem Vorantreiber von Open-Source-KI entwickelt. Das neue Modell soll auch noch in diesem Jahr veröffentlicht werden und Open Source zur Verfügung gestellt werden. Also kostenlos, frei verfügbar. Man braucht nur die nötige technische Infrastruktur, um das große Modell auf seinen eigenen Servern, ohne Verbindung zum Internet, oder Datenschutzbedenken zu seinem Vorteil nutzen zu können.

Natürlich steckt nicht nur der noble Gedanke von Mark Zuckerberg dahinter, seine Modelle Open Source, sondern auch taktisches Kalkül, eine möglichst breite Applikations-Infrastruktur um seine Modelle zu bauen. Trotzdem sollte er Credits für diesen Schritt bekommen, da Open Source KI längerfristig sicherer und transparenter ist.

Österreich und Förderungen für KI

Die Förderlandschaft in Österreich speziell für KI ist etwas spärlich. Förderungen bei größeren Institutionen brauchen meist ein paar Monate, bis die Finanzierung gesichert werden kann. Das ist für KI zu lange. In dieser Zeit hat sich bereits wieder so viel getan, sodass das Projekt veraltet ist. Es geht darum, schnelle Prototypen zu bauen und diese kontinuierlich zu verbessern oder zu kippen, wenn es nicht aussichtsreich erscheint. Kleinere Förderungen, die den Bau eines MVPs (Minimal Viable Products) fördern, sind meist auf Landesebene zu finden. Das TIP NÖ möchte ich hier besonders hervorheben, da sie für KI-Prototypen sehr schnell und unbürokratisch unterstützen.

Die AWS hat im Jänner mit der Förderung AI Wissen eine Förderung geschaffen, die den Wissensaufbau fördern soll. Diese ist bereits ausgeschöpft. Die Umsetzung (Einreichung und Abwicklung) war in manchen Fällen reibungslos und unkompliziert und in anderen Fällen zieht es sich immer noch.

Jetzt startet die AWS eine neue KI-Förderung namens "AI-Start Green" die an grüne Technologien und Nachhaltigkeit gekoppelt ist.

Bei der FFG dauert es erfahrungsgemäß lange, bis ein Projektantrag gestellt wurde und durch die Begutachtung geht. Für KI zu lange.

Eine weitere Möglichkeit ist die Innovations Förderung der Wiener Wirtschaftsagentur. Hier habe ich bereits positives gehört, aber noch keine persönlichen Erfahrungsberichte.

Zu Förderungen, die KI-Projekte abdecken, aus den restlichen Bundesländern habe ich auch keine Erfahrung.

Vielleicht möchte jemand diese teilen, um ein ganzheitlicheres Bild zu bekommen?

Für Unternehmen:

Was sind Quick Wins und Low Hanging Fruits?

Den Zugang zu LLMs wie ChatGPT oder Claude nicht nur den MitarbeiterInnen zur Verfügung stellen, sondern aktiv fördern. Durch Schulungen die eigenen Leute befähigen und ihnen Tools an die Hand geben, die es ermöglichen, die eigene Arbeit nicht nur mit höherer Qualität, sondern auch effizienter zu erledigen. Es gibt einen Unterschied zwischen einfachen Fragen stellen, oder die maximalen Möglichkeiten zu nutzen. Ähnlich wie in Excel. Viele Leute beherrschen die Basics, aber dieses Programm kann so viel mehr. Einfach mal ChatGPT und Claude challengen und die Grenzen testen. Neue Modelle testen, Prozesse beschreiben und Vorschläge zur Optimierung bekommen. Projektmanagement, Kommunikation verbessern, verhandeln üben, also unglaublich viele Experten auf Abruf bei der Hand haben. Und das für monatlich ungefähr 20€.

Wer das nicht nutzt, bleibt längerfristig hinten nach..

Nach vielen Workshops bei Unternehmen, die bereits ChatGPT nutzten, waren die meisten überrascht, wie viel mehr man aus diesem Tool holen kann und somit einen größeren Wert für das Unternehmen schaffen kann. Idealerweise beauftragt man eine junge Person im Unternehmen, die aus persönlicher Neugierde sich mit diversen KI-Tools auseinandersetzt und Learnings, Tricks und Tipps mit dem restlichen Unternehmen teilt. Diese Person hat im besten Fall Know-how, wie Abteilungen bzw. gewisse Prozesse im Unternehmen ablaufen, und kann mit dem eigenen KI-Know-how helfen, die Arbeit zu optimieren und verbessern.

Ausblick:

Es bewegt sich alles in Richtung Agentic Workflows. Also User gibt einen Input und die Modelle sind smart genug, zu reflektieren, wie am besten von Punkt A nach Punkt B gekommen wird. Es wird reflektiert, geplant, Ressourcen gesammelt und ausgeführt. Ob es um Software geht, Prozesse abzubilden, Analysieren von Daten, um eine Empfehlung zu bekommen oder anderes. Sind die Daten an einem zentralen Ort, wird es sehr einfach für Unternehmen sein, kostengünstig smarte KI-Modelle zu ihrem Vorteil zu nutzen.