Mit KI:Inferenz.nrw entsteht eine neue Infrastruktur zur Bereitstellung von KI-Modellen für Hochschulen in Nordrhein-Westfalen. Die Initiative wurde von Partner*innen aus dem Projekt Open Source-KI.nrw gemeinsam mit der RWTH und dem KI-Servicezentrum WestAI gestartet, um Hochschulen einen schnellen Zugang zu Sprachmodellen zu ermöglichen.
Ab April 2026 sollen erste Modelle für NRW-Hochschulen bereitgestellt werden, die KI:connect bereits nutzen oder dessen Einführung vorbereiten. In der ersten Phase werden unter anderem die Modelle Mistral Small und GPT OSS verfügbar sein. Ziel ist der Aufbau einer souveränen KI-Infrastruktur für Hochschulen auf Basis von Open-Source-Modellen.
Im Zuge dieser Entwicklung wird auch KI:connect angepasst: Das bisherige Standardmodell 4o mini soll künftig durch GPT OSS ersetzt werden, um den Einsatz selbst gehosteter Modelle innerhalb der Hochschulinfrastruktur stärker zu unterstützen.
Die Bereitstellung erfolgt zunächst prototypisch und wird schrittweise ausgebaut. Für Hochschulen in NRW entstehen zunächst keine Bereitstellungskosten, da das Angebot durch das Ministerium für Kultur und Wissenschaft (MKW) finanziert wird.