GenAI Studio
Samen met Expertisecentrum Digital Solutions duiken we wat dieper in de technische aspecten van GenAI en dat noemen we onze “GenAI Studio”. Naast het bouwen van mini proof-of-concepts, doen we ook samen onderzoek naar onderstaande topics.
Evaluatie van GenAI-systemen voor niet-technische eindgebruikers
Veel kmo’s met een innovatieve mindset, maar beperkte AI-kennis, voelen zich door fear of missing out (FOMO) verplicht om mee te gaan in de hype rond generatieve AI. Hierdoor worden systemen zoals ChatGPT Team of Copilot for Microsoft 365 vaak impulsief aangeschaft, zonder grondige evaluatie.
Dit probleem is vooral relevant bij GenAI-systemen gebaseerd op Large Language Models (LLM’s), waarvan de output open-ended is. Deze systemen leveren geen eenduidige antwoorden, maar genereren outputs die variëren afhankelijk van de taak, zoals het schrijven van teksten. Ook is de effectiviteit van een systeem sterk afhankelijk van de specifieke taak, context en toepassing. Dit maakt de evaluatie des te complexer.
Daarom creëren wij een evaluatiekader om organisaties hierin te ondersteunen, zodat men doordacht een keuze kan maken.
Slim en veilig omgaan met GenAI – confidentiële dataverwerking met Small Language Models
Generatieve AI (GenAI) en de opkomst van Large Language Models (LLM’s) bieden veel mogelijkheden tot het automatiseren van taken waarbij natuurlijke taalinput gestructureerd verwerkt moet worden. Bedrijven willen van die opportuniteit gebruik maken om in hun processen tijd en kosten te besparen, maar ook om nieuwe inzichten te verkrijgen in hun gegevens. Wanneer deze gegevens confidentieel of persoonsgebonden zijn, weten bedrijven vaak niet hoe ze die veilig kunnen verwerken met GenAI-tools. Vooral kmo’s worstelen met vragen over dataveiligheid, privacy en de impact van nieuwe regelgeving.
Small Language Models (SLM’s) —kleinere, energiezuinigere taalmodellen die lokaal kunnen draaien— zouden hier mogelijk een oplossing kunnen bieden. SLM’s zijn echter minder complex opgebouwd en beperkter op de grootte van de input, waardoor er mogelijk op de kwaliteit van antwoorden ingeboet wordt en de kans op hallucinaties verhoogt. Omdat ze zo sterk gedistilleerd zijn, zijn SLM’s vaak zelfs enkel voldoende performant in het Engels.
Dit project onderzoekt of SLM’s een veilig en haalbaar alternatief vormen voor organisaties die met vertrouwelijke data werken. We testen of deze modellen voldoende goed presteren in het Nederlands en hoe ze ingezet kunnen worden in twee concrete toepassingen: het automatisch samenvatten van gevoelige vergaderingen en het veilig chatten met interne documenten. Om te achterhalen welke prijs (in de brede zin) professionals willen betalen voor hun privacy wanneer ze GenAI willen toepassen, voeren we zowel interne piloottests, als diepte-interviews uit.
De doelgroep bestaat uit Vlaamse kmo’s en professionals zonder diepgaande technische kennis, maar met een duidelijke nood aan betrouwbare en begrijpbare GenAI-oplossingen. Door samen te werken met experten, interne diensten en praktijkorganisaties bouwen we oplossingen die zowel technisch haalbaar als gebruiksvriendelijk zijn.