MANUEL - lokale KI für Zammad

Oder wir nehmen einfach den neuen Mac Mini M6 mit 32GB RAM für 1.489,00 € :slight_smile:

https://www.apple.com/de/shop/buy-mac/mac-mini/m6-chip-12‑core-cpu-12‑core-gpu-32-gb-arbeitsspeicher-256gb-speicher

1 „Gefällt mir“

Motiviert durch den Mac Mini M6, habe ich den Antrag schon überarbeitet.
Bitte Korrekturlesen, damit er möglichst schnell eingereicht werden kann.

Gibt grad auch noch ein aktuellen Video von c’t 3003

Meine konkrete Empfehlung wäre aktuell:

  • Mit 16 GB schnellem (GPU-)Speicher: Nutzt Qwen-3.6-35b-A3B (Q4_K_M), zum Beispiel mit OpenCode
  • Mit 24 GB schnellem (GPU-)Speicher: Nutzt Qwen 3.8-27b (Q4_K_M), zum Beispiel mit OpenCode
  • Mit mehr als 450 GB schnellem GPU-Speicher: Nutzt GLM 5.3, zum Beispiel mit OpenCode

Nur als Info: Da wo ich arbeite werden seit 3 Wochen zwei ASUS ASCENT GX10 betrieben, pro Stück kommt man auf 128GB. Die wurden mit einem 200GBASE Kabel verbunden und somit läuft das ganze mit 265GB. Als Default läuft darauf Deepseek V4 Flash

https://www.idealo.de/preisvergleich/OffersOfProduct/208466423_-ascent-gx10-asus.html?utm_campaign=nonbranded&utm_medium=notmobile&utm_source=brave

Danke @Cord und @ulno für die Pull Requests.
Ich habe den Antrag überarbeitet und konnte diese nicht 1:1 übernehmen, da wir pro Block nur 1000 Zeichen Text schreiben dürfen.

Dadurch, dass Beschreibung, Vereinsregisterauszug und Freistellungsbescheid der Organisation aktualisiert wurden, muss diese nun erst wieder geprüft werden, bevor der Antrag eingereicht werden kann.

Statt eines Mac Mini setzen wir nun auf einen MINISFORUM AI X1 Pro-370 64GB/2TB mit AMD Ryzen AI 9 HX 370, der ebenfalls Unified Memory verwendet.

Der überarbeitete Antrag ist auf Github zu lesen

Beschreibung der Organisation

Der Makerspace Gütersloh e.V. ist eine offene Werkstatt, in der Maschinen und Werkzeuge gemeinschaftlich erforscht und genutzt werden. Unter dem Motto »Mach doch, was du willst!« animieren wir Mitglieder, Gäste und interessierte Personen dazu, sich selbst kreativ auszuleben und neue Dinge zu erschaffen. Wir haben verschiedene Kenntnisse, von laienhaft interessiert bis professionell, und unterstützen uns einander bei Projekten, die wir alleine nicht umsetzen könnten. Auch Nichtmitglieder dürfen die Einrichtung nutzen. Dabei betrachten wir uns als Sharing Community in der wir in unserer ländlichen Region einer großen Zahl Menschen Zugang zu Maschinen, Digitalequipment und gemeinsamen Wissen ermöglichen. Bei uns sind alle willkommen ungeachtet ihres Geschlechts, Alters, ethnischer Zugehörigkeit, Nationalität, sozialer Herkunft, etwaiger Behinderung oder sexuellen Orientierung. Allerdings machen wir keine Auftragsarbeit, sondern es muss selbst Hand angelegt werden so weit dies möglich ist.

Unsere Ausstattung deckt ein breites Spektrum ab. Elektronik. Reparatur. 3D-Druck. Textil. Lounge. Workstations. Foto. Audio. Video. Virtual Reality. IT. Holz. Laser. Was einzelne Bereiche bereits für sich bieten, übertrifft oft die Ausstattung einer privaten Hobbywerkstatt. Und als Gesamtpaket erst recht.

Seit März 2019 veranstalten wir monatliche Repair Cafés in Kooperation mit der Stadtbibliothek Gütersloh. Bei diesen helfen wir dabei, defekte Gegenstände zu reparieren oder Linux zu installieren. Durch das gemeinsame Reparieren setzen wir ein Zeichen gegen die Wegwerfgesellschaft und für einen schonenden Umgang mit Ressourcen.

5 Beschreibung des Vorhabens**

5.1 Was möchten Sie in Ihrem Projekt konkret machen?**

Bitte beschreiben Sie in wenigen Sätzen, welche Aktivitäten oder Maßnahmen Sie konkret durchführen möchten. Gehen Sie dabei auch kurz darauf ein, warum die im Finanzierungsplan genannten Ausgaben dafür erforderlich sind.


Seit November 2022 nutzen wir das Ticketsystem Zammad im Repair Café. Seit März 2026 wird die Einbindung von KI unterstützt, sodass MANUEL jetzt technisch sinnvoll umsetzbar ist. Zu diesem Zweck wird ein Mini-PC angeschafft, der Large Language Models kostengünstig und datenschutzfreundlich betreiben kann.

Es gibt drei Gründe, weshalb wir MANUEL lokal statt in der Cloud betreiben. Es bleiben alle Anfragedaten bei uns, wir sind unabhängig von steigenden Kosten oder Enshittification kommerzieller Angebote und wir können das System auf unsere Bedürfnisse zuschneiden. Mit 64 GB Unified Memory können wir größere, komplexere Modelle oder mehrere kleinere Modelle parallel betreiben. Open-Weight-Modelle sind derzeit so leistungsfähig wie kommerzielle Frontier-Modelle vor einem halben Jahr.

MANUEL soll Anfragen kategorisieren, Erstdiagnosen stellen und Lösungsansätze vorschlagen. So verbinden wir digitale Innovation mit praktischem Ehrenamt, ermöglichen neues Engagement und entlasten bestehendes.

5.2 Warum ist das Projekt wichtig und was wollen Sie damit erreichen?

Was ist der Anlass für Ihr Projekt und welchen Bedarf oder welches Problem möchten Sie damit aufgreifen?

Welche kurzfristigen Ziele wollen Sie mit Ihrem Projekt erreichen und woran messen Sie, ob es erfolgreich war?

Welche langfristige Wirkung erwarten Sie von Ihrem Projekt (z.B. professionellere Vereinsstrukturen, neue Mitglieder, stärkere Identifikation mit der Organisation o.ä.)?


Seit 2019 veranstalten wir monatliche Repair Cafés. Dabei stellen wir immer wieder fest, dass es Gästen und neuen Engagierten mit wenigen Vorkenntnissen schwerfällt, sich direkt einzubringen und selbstständig tätig zu werden.

Mit MANUEL (Minimale AI für Nutzer-Unterstützung auf Einstiegs-Level) möchten wir dieses Problem angehen und unser Engagement durch KI unterstützen.

Der Erfolg des Projekts lässt sich an

  • der Reparaturquote,
  • der Anzahl der von Gästen und neuen Engagierten durchgeführten Reparaturen,
  • dem Feedback zu den KI-Vorschlägen und
  • der an die Open Repair Alliance gemeldeten Reparaturen

messen.

Perspektivisch soll MANUEL in weiteren Bereichen des Vereins eingesetzt werden. Als Chatbot soll sie Auskunft über Fragen wie »Wer verfügt über welche Kenntnisse und kann bei einem Anliegen weiterhelfen?« und »Welche Werkzeuge und Maschinen stehen im Verein überhaupt zur Verfügung?« geben. Damit erleichtern wir den Einstieg in das Engagement und stärken den gesellschaftlichen Zusammenhalt.

5.3 In welcher Form sind Ehrenamtliche in das Projekt eingebunden?

Bitte beschreiben Sie, ob und wie Engagierte in das beantragte Projekt eingebunden werden sollen.


Bereits vor Beginn des Projekts gibt es die Möglichkeit, sich mit anderen Engagierten aus der Community beim Netzwerktreffen »Wer repariert hier wen? Zur Rolle der KI in Reparatur-Initiativen« des Netzwerks Reparatur-Initiativen der anstiftung auszutauschen.

Sobald das Projekt gestartet ist, übernehmen die Engagierten die Einrichtung des Mini-PCs sowie dessen Anbindung an Zammad. Anschließend testen sie bei Repair Cafés verschiedene LLMs mit unterschiedlichen Prompts und geben Rückmeldung zu den Vorschlägen. Wenn dies erfolgreich abgeschlossen ist, wird die Datenübermittlung an die Open Repair Alliance eingerichtet.

Am Ende des Projekts veröffentlichen sie MANUEL als offen dokumentiertes Modellprojekt zur Nachnutzung durch andere Reparaturinitiativen.

Im Anschluss testen die Engagierten den prototypischen Einsatz von KI-Agenten und -Assistenzsystemen zur Evaluierung für den perspektivischen Einsatz im Makerspace zur Wissensvermittlung und Vernetzung der Mitglieder.

der Antrag ist nun eingereicht

diesen Donnerstag von 19:00 bis 20:30 Uhr ist noch ein Austauschabend der anstiftung „Wer repariert hier wen? Zur Rolle der KI in Reparatur-Initiativen“

ich kann an dem Tag leider nicht, fände es jedoch schön, wenn jemand anderes daran teilnimmt

Hier der Zugangslink zu unserem Veranstaltungsraum:

Thema: Wer repariert hier wen? Zur Rolle der KI in Reparatur-Initiativen
Zeit: 17. September 2026, 19:00

https://live.anstiftung.de/rooms/yoa-a3d-rdw-ros/join

Und hier die Aufzeichnung vom Austauschabend