Agentic AI mit Open Source
Agentic AI ist in aller Munde und immer mehr private wie auch Firmen nutzen es um ihre Produktivität in zuvor unerreichtem Masse zu steigern.
Doch der Einsatz solcher Systeme bringt Abhängigkeiten zu proprietären Produkten und ausländischen Anbietern mit. Firmen laufen Gefahr den Kern ihres Business in externe Abhängigkeiten zu verstricken.
Um so wichtiger sind hier die Themen Open Source und digitale Souveränität. Michael Eichenberger berichtet zu unseren Erfahrungen beim Einsatz offener Agentischer Systeme.
Agentische Systeme lassen sich heute komplett mit quelloffener Software und Open Weight Modellen umsetzen. So lassen sich diese mächtigen Systeme souverän betreiben.
Im ersten Teil dieses Vortrags gehen wir auf Fähigkeiten moderner offener Modelle und deren Anforderungen an die Infrastruktur ein. Was leisten offene Modelle im Vergleich mit geschlossenen Frontier-Modellen? Welche Ressourcen benötigen die offenen Modelle für einen stabilen und kosteneffizienzten Betrieb? Den Abschluss des ersten Teils bilden Benchmarks einiger ausgewählter Modelle.
Im zweiten Teil gehen wir darauf ein, wie agentische Systeme den Tokenverbrauch stark in die Höhe treiben und was sich dagegen tun lässt.
Michael Eichenberger ist Gründer und CEO der stepping stone AG. Er verfügt über langjährige Erfahrung in der Planung und Umsetzung komplexer IT-Infrastrukturen und hat sich früh auf Open-Source basierte Lösungen spezialisiert. Seit 2004 unterstützt er mit seinem Unternehmen Kunden dabei, Cloud- und Automatisierungsprojekte sicher und souverän in der Schweiz umzusetzen. Sein Ziel ist es, digitale Innovation mit Schweizer Qualität und höchster Sicherheit zu verbinden.