Göteborgsregionens Innovationsarena

11. Teknikjättarnas framtidsvisioner

Denna vecka blir det en rykande färsk rapport från Microsoft och Googles utvecklarkonferenser. Fokus ligger på ny teknik, uppgraderade produkter  och visioner för framtiden. Och så testar Johan att podda med en ny person. Eller vänta... är det verkligen en person?

10. Det stora avsnittet om chips

Nej, det handlar tyvärr inte om inte dill och gräslök, men om något nästan lika viktigt, hårdvaran som är själva hjärnan bakom AI. Det har blivit dags att ta tag i frågan om hur olika typer av beräkningschip, som CPU:er och GPU:er, fungerar och varför de spelar så stor roll för AI-utvecklingen. Vi snackar också om systemkretsar, prestandaskillnader mellan konsument- och företagsinriktade chip, och vad som händer när beräkningarna flyttar ut i kanten, till din mobil eller annan enhet. Ett avsnitt för dig som är nyfiken på vad som egentligen får AI att tugga i sig data så effektivt.

9. MCP - vad är det?

Språkmodeller är bra på mycket, det vet vi vid det här laget. Men en stor begränsning är att de inte vet något om nuet. Det innebär att de inte kan hjälpa dig med enkla saker som att kolla vädret, läsa igenom din inkorg eller söka i en databas. Det är här Model Context Protocol, MCP, kommer in i bilden! I det här avsnittet pratar Johan (med sig själv)  om hur MCP kan ge AI verktyg att göra saker här och nu. 

8. Vad innebär finetuning?

Tänk dig att du har en allmänutbildad språkmodell  som har läst hela internet. Nu vill du göra den extra bra på ett visst område, som kommunala riktlinjer eller lagstiftning inom välfärdsområdet. Det är här finetuning kommer in i bilden! I det här samtalet går Johan och Jonas till botten med vad det innebär att finetuna en redan tränad språkmodell på ett specifikt dataset för att anpassa den till ett visst användningsområde, språk eller organisation. Låter det nördigt? Det är det. Och alldeles, alldeles underbart.

7. AGI, ASI och andra framtidsscenarier

Vad händer när AI blir lika smart som vi – eller smartare? I det här avsnittet reder Johan och Jonas ut begrepp som AGI och ASI, slår hål på science fiction-rädslor om Terminator och Skynet och pratar om vad begreppet intelligens egentligen innebär. Det blir ett samtal om allt från filosofi till dammsugning – och om varför vi kanske borde fokusera mindre på framtida eventuella skräckscenarier och mer på vad vi faktiskt kan göra här och nu.

6. Riskerna med AI

Går det att krascha en AI-modell? Och vad händer när den börjar killgissa? I det här avsnittet pratar Johan och Jonas om varför AI ibland hittar på svar, hur promptinjektioner kan lura modellen att lämna ut träningsdata – och varför det är du som användare som måste stå för finliret.
Vi dyker ner i sannolikhetsfördelningar, bias och kontextlängd, och reder ut varför AI är annorlunda än annan mjukvara.
Och ja – det bjuds på en göteborgsvits också.

5. Allt om RAG

Även om stora språkmodeller kan verka allvetande är deras kunskap begränsad till den data de tränats på – något som kan skapa vissa utmaningar. Det är här RAG-tekniken kommer in i bilden!
I det här avsnittet går Johan och Jonas igenom hur Retrieval Augmented Generation (RAG) kan utöka funktionerna i en stor språkmodell genom lokala kunskapskällor. Du får veta allt om embeddings, vektorer och hur tekniken används av Svea för att hantera kommunala dokument.

4. Går det att köra AI lokalt på datorn?

Storleken spelar roll, i alla fall när det handlar om att köra AI lokalt på din dator.
I det här avsnittet förklarar Johan och Jonas skillnaden på små och stora språkmodeller och nördar ner sig ordentligt i grafikkort, GPU:er och gigabyte. Som vi längtat! Om du också alltid undrat hur många gånger två utvecklare kan säga ordet MILJARDERS under 19 minuter så är det här avsnittet för dig.

3. Allt om transkribering

Just nu efterfrågas transkribering i många sammanhang, från bearbetning av intervjuer till summerade mötesanteckningar. Men hur fungerar det egentligen? Vilka möjligheter finns och vilka utmaningar behöver vi ha koll på?
I det här avsnittet går Johan och Jonas igenom grunderna kring transkribering. De reder ut missuppfattningar och ger en bild av vad AI-driven transkribering kan – och inte kan – göra. 

2. Vad är egentligen en språkmodell?

Vi är många som använder oss av Chat GPT och andra stora språkmodeller. Men handen på hjärtat – skulle du kunna förklara vad en Large Language Modell, LLM eller stor språkmodell är, egentligen? Vad kan den göra och vad kan den inte göra?
I det här samtalet reder utvecklaren och läraren Johan Kivi ut begreppen tillsammans med Jonas Lind som är lingvist och utvecklare. De tar sig an grunderna, från hur tokenisering fungerar till vad som gör en språkmodell mänsklig. Som vanligt går Spotlight bortom hypen och gör begreppen begripliga.