LLM Unplugged - How to build your local AI Asisstant, no Data exposed, no Programming
In this session we will learn how to assemble our own local AI assistant for household PCs or even for the mobile phone. Working with local, personal data, no hyper scaler dependency and with only a handful of downloads and configurations without programming
Using local assistants we can avoid exposing our sensitive data and business know-how but also our search history, our interests,, our behavior , our profile - to any instance on the internet. Data Privacy at max.
Furthermore we are not dependent on an external provider to manage our data or working tools and to be available. Digital Sovereignty built in
In dieser Session lernen wir, wie man mit wenigen Handgriffen einen lokalen KI Assistenten für den PC oder auch für das Mobile baut., das lokal, mit eigenen Daten, ohne er auf das Netz zugreift - und ohne Programmierung.
Wenn wir lokale Assisten benutzen, müssen wir unsere pesönllichen Daten, unsere Geschäftsgeheimnisse, aber auch unseren Suchverlauf, also unser persönliches Verhalten und Interesse, nicht verraten. Also Data Privacy at max.
Ausserdem müssen wir nicht einer externen Provider zutrauen, dass er die Daten richtig managed oder dass er überhaupt verfügbar ist. Digital Sovereignty built in
Danilo ist ein Demystifizierer und stellt gerne Dinge in Frage. Er ist beratet in verschiedenen Bereichen von IT Projekten, von Praktiken in der Software Herstellung bis zu effizienten Prinzipien in Projekt Prozessen. Seine Leidenschaft ist es, den Kunden im Umsetzen seiner Vorhaben besser zu machen.
Seit dem Master in Computer Science war sein Augenmerk auf Qualitätsaspekte in der Software Entwicklung gerichtet – und auch wenn sein unermüdlicher Kampf für mehr Qualitätsbewusstsein andauert, hat sich der Fokus im letzten Jahrzehnt in Richtung Analyse von Software Prozessen verschoben. Auf seiner 20 Jahre langen Reise konnte er Erfahrungen in multi-kontinentalen Projekten auf verschiedensten Technologien sammeln.
In seiner Freizeit spielt er gerne Karten- und Brettspiele, er macht Musik und philosophiert bei und über Wein.
Ornella Vaccarelli is a Senior Research Scientist at iCoSys and the Lead Scientist at SCAI (Swiss Center for Augmented Intelligence), where she pioneers innovative AI solutions across diverse domains. With expertise ranging from computer vision and computational physics to the latest developments in large language models (LLMs), she bridges cutting-edge research and practical application.
Her collaborative projects span from fundamental research at EPFL—focused on sustainable materials for solar cells—to developing an LLM-RAG system for the Swiss parliament and the Parliamentary Library. Ornella’s work not only advances scientific understanding but also transforms how industry and government leverage AI for informed decision-making.
A prolific researcher, her findings have been published in high-impact journals, and she is a regular speaker at international conferences. Ornella earned her PhD in Computational Physics from Sorbonne University in Paris and holds a Master’s in Theoretical Physics from the University of Bari. Her career exemplifies a commitment to pushing the boundaries of AI while ensuring its responsible and effective integration into real-world applications.