Uppdragsbeskrivning

Statens institutionsstyrelse har investerat i en server till ett AI-labb där hårdvaran är installerad i egen drifthall. Nu söker vi en konsult för ett mindre uppdrag att genomföra mjukvaruinstallation och konfiguration för att säkerställa att vi utnyttjar hårdvaran med parallella GPU-er på lämpligt sätt.

SiS har egen IT-drift placerade i parallella serverhallar i Stockholmsområdet med egen personal. Servermiljön är i hög grad virtualiserad på VMWare-plattform. Myndigheten
hanterar en stor mängd känsliga personuppgifter inom socialtjänst, hälso- och sjukvård varvid system i egen drift (on premise) har prioriterats över externa SaaS-tjänster. SiS kärnverksamhet är fördelade på ett 30-tal sis-hem runt om Sverige. På varje hem finns minst en lokal IT-administratör men driften av systemen sker centralt från huvudkontoret i Stockholm där IT-avdelningen har ca 60 medarbetare. 

Statens institutionsstyrelse har investerat i en server till ett AI-labb där hårdvaran är installerad i vår drifthall. Nu söker vi en erfaren konsult för ett mindre uppdrag att genomföra installation och konfiguration för att säkerställa att vi utnyttjar hårdvaran med parallella GPU-er på lämpligt sätt.
Hårdvaran i AI-labbet består av:
• HPE ProLiant Compute DL380a Gen12
• Intel Xeon 6530P / 2.3 GHz processor
• 16 x HPE SmartMemory - 32 GB
• 2 x HPE 15.36TB NVMe Gen4 Mainstream
• 4 x NVIDIA - Server Edition - grafikkort - RTX PRO 6000 Blackwell - 96 GB

OS/plattform:
• Ubuntu Server 22.04 LTS
• Docker eller Podman
Uppdraget består av konfiguration och uppsättning av AI-labb med open source mjukvara med lämpliga språkmodeller som möjliggör att vi kan köra en lokal miljö med hantering av känslig data helt isolerat från internet.

Följande aktiviteter ser vi ska ingå i uppdraget:

Konfiguration (max 30 timmar)
• Installation och konfiguration av NVIDIA GPU-drivrutiner
• Installation av NVIDIA CUDA Toolkit (version anpassad efter GPU-modell)
• Installation och konfiguration av Docker Engine med NVIDIA Container Toolkit
• Konfiguration av container för GPU-passthrough
• Verifiering av GPU-access från container (nvidia-smi, CUDA-test)

Installation av AI-labb (max 40 timmar)
• Installation och konfiguration av Open WebUI,
• Installation av Ollama, vLLM eller motsvarande alternativ efter överenskommelse
• Uppsättning av lämpliga språkmodeller för transkribering (KB Whisper)
• Sätta upp en RAG-pipeline för dokumenthantering och sökning

KOMPETENSNIVÅ

Nivå 3:
Kunskap – hög kompetens inom aktuell roll.
Erfarenhet – är en förebild för andra Konsulter på lägre nivå. Nivån uppnås normalt efter 4-8 års arbete inom aktuell roll.
Ledning – tar ansvar för delområde, kan leda en mindre grupp.
Självständighet – kan arbeta självständigt.

Nivå 4
Kunskap – hög generalistkompetens, eller mycket hög kompetens inom aktuell roll.
Erfarenhet – har utfört komplexa uppdrag inom aktuell roll och genomför Konsulttjänst med mycket hög kvalitet. Nivån uppnås normalt efter 9-12 års arbete inom aktuell roll.
Ledning – tar huvudansvar för ledning av större grupp.
Självständighet – mycket stor.

Nivå 5
Kunskap – kompetens av högsta rang inom aktuell roll, anses vara expert på marknaden.
Erfarenhet – har utfört komplexa uppdrag inom aktuell roll och genomför Konsulttjänst med mycket hög kvalitet. Nivån uppnås normalt efter 9-12 års arbete inom aktuell roll.
Ledning – har stor vana och erfarenhet av att verka i ledande befattning.
Självständighet – mycket stor.
En konsult på nivå 5 motsvarar att vara en specialist och omfattar på marknaden relativt få och ytterst erfarna och kompetenta konsulter inom en viss roll eller inom ett visst kompetensområde.

TID / OMFATTNING / PLACERING

Arbetet önskas påbörjas 2026-08-31 och vara klart senast 2026-10-15.

Omfattning: 70 timmar

Uppdraget kan ske på distans

KVALIFICERING OCH UTVÄRDERING

Utvärdering sker baserat på konsultens kompetens och tidigare erfarenhet av liknande uppdrag samt pris.

• Kompetensnivå och metodik

Högst poäng: Konsultens kompetensprofil och beskrivna metodik överträffar uppdragets grundläggande krav. Konsulten bedöms kunna tillföra extra värde och arbeta proaktivt. 

• Erfarenhet av tidigare uppdrag

Högst poäng: Mycket god dokumenterad erfarenhet från flertalet mycket snarlika uppdrag och projekt av motsvarande komplexitet.