Veränderung an nur einem Tag:
LLM im Unternehmen
Lokale Large Language Modelle (LLM) im Unternehmen
Das Ziel dieses Kurses
Dieser Intensivkurs schließt die Lücke zwischen der strategischen Entscheidungsebene und der technischen Umsetzung. Er zeigt KI Interessierten auf, wie sie eine unabhängige, hochsichere KI-Infrastruktur im eigenen Haus (On-Premise) aufbauen.
Wir verlassen die Welt der Cloud-Abos und zeigen, wie Unternehmen mit „Open-Weights“-Modellen (wie Metas Llama oder Mistral) die volle Kontrolle über ihre Daten behalten – bei gleicher oder sogar höherer Effizienz für spezifische Geschäftsprozesse.
Die Kernbotschaft
Die Teilnehmer verlassen den Kurs nicht nur mit dem Wissen, warum lokale KI wichtig ist, sondern mit einem konkreten Fahrplan (Roadmap) und einer validierten Hardware-Einkaufsliste, um am nächsten Arbeitstag mit der Implementierung im eigenen Betrieb beginnen zu können.
Wichtige Infos:
Termin: 20.August 2026
Zeit: 8:30 – 16:30
Ort: Steirerhof, Graz
(Bootcamp alleine um EUR 799, oder als Visionary-Ticket inklusive Bootcamp)
Preis inkl USt.
Ihr Nutzen für das Weiterbildungsprogramm
● Praxisnähe: Statt grauer Theorie setzen wir live ein lokales KI-System auf, das Dokumente analysiert, ohne jemals eine Internetverbindung zu benötigen.
● Zielgruppen-Brücke: Wir sprechen die Sprache der Nutzer und bieten gleichzeitig das technische Fundament für die IT-Umsetzung.
● Zukunftssicherheit: Angesichts des EU AI Acts und steigender Cyber-Risiken ist die Lokalisierung von KI-Diensten das zentrale Thema der nächsten Jahre für den österreichischen Mittelstand.
Inhalte
Block 1: Strategie, Souveränität & Wirtschaftlichkeit
Ziel: Die Teilnehmer verstehen, warum der Wechsel von Cloud (USA) zu Lokal eine strategische Notwendigkeit sein kann.
● Datenschutz & DSGVO: Analyse der Risiken bei der Nutzung von ChatGPT, Claude & Co. (Daten-Training mit Firmengeheimnissen, Serverstandorte).
● Souveränität: Vermeidung von „Vendor Lock-in“. Was passiert, wenn ein US-Anbieter Preise erhöht oder Dienste für bestimmte Regionen sperrt?
● Vorteile lokaler Modelle:
○ Keine Zensur/Filter durch Drittanbieter.
○ Keine Kosten pro Anfrage (Token-Kosten entfallen).
○ Funktioniert zu 100% offline (Sicherheitskritische Infrastruktur).
● Wirtschaftlichkeitsrechnung:
○ Vergleich: 20 Euro/Monat Pro-Abo vs. Einmalinvestition Hardware.
○ Skalierbarkeit: Ab wann rechnet sich ein eigener Server für 10, 50 oder 100 Mitarbeiter?
Block 2: Hardware-Guide & Modell-Landschaft
Ziel: Den „Hardware-Dschungel“ lichten und die richtigen Modelle wählen.
● Die Engine (Hardware):
○ RAM vs. VRAM: Warum herkömmlicher Arbeitsspeicher zu langsam für KI ist.
○ GPU-Klassen: NVIDIA (CUDA) als Industriestandard. Einstieg mit Consumer-Karten (RTX 4060-4090) bis zu Profi-Hardware.
○ Apple Silicon: Warum Mac Studio/Mac Mini für KMU eine extrem kosteneffiziente Alternative für lokale KI sind.
● Modell-Auswahl (Theorie):
○ Verständnis von Parametern (8B, 70B, 405B). Was braucht man für einfache E-Mails, was für komplexe Strategien?
○ Quantisierung: Wie man 100GB-Modelle durch intelligente Kompression auf 8GB schrumpft, ohne merkbaren Qualitätsverlust.
○ Stärken/Schwächen der Modelle
Block 3: Hands-on Setup & Die „Eigene Cloud“
Ziel: Demonstration und Übung, wie einfach die Installation heute ist.
● Ollama: Installation und Management von Modellen über die Kommandozeile
● LM Studio: Die „All-in-One“-Lösung für Windows/Mac zum Testen verschiedener Modelle per Klick.
● Das Firmen-Interface (Open WebUI):
○ Installation via Docker (Standard in der IT).
○ Erstellung von Benutzerkonten für Mitarbeiter.
○ Integration von „System Prompts“: Der KI eine feste Firmen-Identität geben (z.B. „Du bist der Assistent der Marketing-Abteilung von Firma XY“).
Impuls
Block 4: Firmenwissen integrieren (RAG) & Workflows
Ziel: Den größten Mehrwert schaffen – die KI spricht mit den eigenen Daten.
● Retrieval Augmented Generation (RAG):
○ Wie funktioniert das „Andocken“ von Dokumenten? (PDF, Word, TXT).
○ Live-Demo: Ein 50-seitiges internes Handbuch hochladen und die KI dazu befragen.
● Datensicherheit im Netzwerk:
○ Absicherung des lokalen Servers (Firewall, VPN-Zugang für Homeoffice).
○ Protokollierung: Wer hat was gefragt? (Compliance).
● Automatisierungs-Potenzial: Kurzer Ausblick auf die Verknüpfung mit Outlook oder ERP-Systemen über APIs.
Block 5: Roadmap & Management-Checkliste
Ziel: Den Teilnehmern einen klaren Fahrplan für den Montag nach dem Kurs geben.
● Die 3-Stufen-Einführung:
1. Testphase (Einzelrechner).
2. Pilotphase (Abteilungsserver).
3. Rollout (Unternehmensweite KI-Souveränität).
● Akzeptanz bei Mitarbeitern: Wie nimmt man die Angst vor der KI? (KI als Werkzeug, nicht als Ersatz).
● Rechtlicher Rahmen: Erstellung einer einfachen „KI-Nutzungsrichtlinie“ für den Betrieb.
● Abschlussdiskussion: Individuelle Beratung zu den Hardware-Plänen der Teilnehmer.
Romain Haidinger
Roman Haidinger bringt über 15 Jahre Einkaufserfahrung in nationalen und internationalen Unternehmen mit – vom operativen Tagesgeschäft bis zur strategischen Digitalisierung.
Als selbständiger Berater, technikaffiner Einkaufsprofi und zertifizierter KI-Manager verbindet er praktische Erfahrung mit modernem Know-how. Er zeigt, wie man Künstliche Intelligenz gezielt dort einsetzt, wo sie den Einkauf messbar verbessert – von smarten Assistenten bis hin zu datengetriebenen Entscheidungsprozessen.
„KI muss nicht futuristisch sein – sie muss im Alltag helfen.“
