Så minskar du partiskhet i NLP-modeller för bättre textanalys (med Dan Erickson från Viable)

Michael Luchen

Naturlig språkbehandling kan vara ett otroligt kraftfullt verktyg. Det kan användas för att analysera tusentals datapunkter och ge snabba, tillförlitliga insikter. Men finns det en risk att partiskhet smyger sig in i resultaten? Hur kan vi vara säkra på att resultaten är så objektiva som möjligt? Fortsätt lyssna när vi i dag går på djupet i ämnet naturlig språkbehandling – ett kraftfullt verktyg som kommer att bidra till framtidens produktledning.

Det här är podden för produktchefer, rösterna från den gemenskap som skriver handboken för produktledning, produktutveckling och strategi. Vi sponsras av Crema, en digital produktbyrå som hjälper individer och företag att utvecklas genom kreativitet, teknik och kultur. Läs mer på crema.us.

Fortsätt lyssna för praktiska och autentiska insikter som hjälper dig att lyckas inom produktledning.

Okej. I dag har vi med oss Dan Erickson, VD och grundare av Viable, för att prata om partiskhet inom naturlig språkbehandling, eller NLP. Viable hjälper företag att lära känna sina kunder genom att samla kundfeedback från olika kanaler, identifiera teman och analysera feedbacken för att ta fram konkreta insikter och rekommendationer.

Viable stöder många kanaler: arbetsärenden, chatt i realtid, sociala medier, enkäter, produkt- och apprecensioner samt samtalstranskriberingar. Dan och hans team har dessutom tagit in totalt 9 miljoner dollar från Craft Ventures, Javelin Venture Partners, Streamlined Ventures, Meyers Capital, många fantastiska ängelinvesterare och enskilda general partners.

Hej Dan! Välkommen till programmet.

Dan Erickson

Tack för att jag fick komma, Michael. Det är fantastiskt att vara här.

Michael Luchen

Det är fantastiskt att ha dig här.

För vår publik är jag nyfiken på din bakgrund. Kan du berätta lite om den och hur du hamnade där du är i dag?

Dan Erickson

Absolut. Min bakgrund är faktiskt inom teknik.

Jag har arbetat med nystartade företag på teknikområdet i ungefär 15 år. Jag har främst fokuserat på tidiga skeden, men även på tillväxt. I början av min karriär var jag mycket inriktad på att hjälpa företag i tidiga skeden att bygga sin allra första produkt och verkligen förstå den första fasen av produkt–marknadsanpassning.

Sedan gick jag vidare till några mer tillväxtorienterade företag som Yammer och Eaze. Jag var teknikchef på Eaze och CTO på ett företag som hette Getable, som arbetade med uthyrning inom byggbranschen. För några år sedan grundade jag Viable för att hjälpa företag att verkligen förstå och skapa kontakt med sina kunder.

Michael Luchen

Hur kom du fram till idén och behovet av Viable?

Dan Erickson

Vi kom faktiskt fram till den nuvarande formen av Viable via en ganska krokig väg. Vi följde marknaden. När vi först startade företaget kallade vi oss Viable Fit och fokuserade på att hjälpa företag i tidiga skeden att hitta produkt–marknadsanpassning med hjälp av ramverket för produkt–marknadsanpassning från Superhuman.

Vi hade en prototyp som använde NLP för att hjälpa dem förstå svaren från den enkät som Superhuman hade tagit fram. Men vi insåg snabbt att det stora värdet vi skapade låg i analyslagret, inte nödvändigtvis i insamlingen av feedback eller mätningen av produkt–marknadsanpassning.

Därför började vi rikta oss mot större företag. Vi gick från nystartade företag i tidiga skeden till snabbväxande företag och företag på koncernnivå, som har enorma mängder inkommande data men saknar sätt att analysera den.

Michael Luchen

Fascinerande, särskilt med tanke på var ni började och vart ni sedan riktade er när det gäller marknadssegment.

Dan Erickson

Det handlade helt enkelt om att lyssna på marknaden.

Michael Luchen

Innan vi går djupare in på Viable är jag nyfiken på vad naturlig språkbehandling, eller NLP, innebär på en övergripande nivå.

Dan Erickson

Naturlig språkbehandling är i grunden ett sätt att hjälpa datorer att förstå mänskligt språk.

I början användes det för ganska enkla saker, som att extrahera nyckelfraser från texter eller göra känslolägesanalyser av specifika ämnen i en text. NLP har funnits i årtionden, men under de senaste åren har vi sett en enorm renässans inom området, särskilt kring transformermodeller och stora språkmodeller. De har gjort det möjligt att förstå mänskligt språk och sammanhang på ett mycket djupare sätt.

I stället för att bara kunna plocka ut nyckelfraser eller säga att något uttrycker en positiv eller negativ känsla kan systemen börja förstå vad man faktiskt menar. De kan också förstå likheter mellan olika ämnen.

Om någon till exempel använder uttrycken tangentbordsgenvägar, tangentbordskommandon och kortkommandon kan NLP börja förstå att de tre sakerna i praktiken betyder samma sak. Det beror på den djupare förståelse som de nya NLP-modellerna har.

På en övergripande nivå handlar NLP alltså om att förstå mänskligt språk på ett sätt som datorer kan använda för att plocka ut rätt information.

Michael Luchen

Hur använder Viable NLP?

Dan Erickson

Kärnan i vår produkt är vår motor för kvalitativ analys. Den består av en kombination av interna och externa modeller, bland annat GPT-3.

GPT-3 fungerar som en grund för det vi bygger. Ovanpå den har vi utvecklat många anpassade modeller och även finjusterade GPT-3-modeller. Vi använder NLP och naturlig språk-generering, NLG, för många av våra funktioner.

En av dem är tema-analys. Vi tar in stora mängder data från många olika källor och grupperar sedan informationen i teman. Då kan vi identifiera exempelvis de vanligaste klagomålen, de vanligaste komplimangerna eller de mest frekvent ställda frågorna.

Varje grupp blir ett kluster som vi kallar ett tema. Vi grupperar inte bara informationen, utan sammanfattar också klustret så att du kan förstå exakt vad människor pratar om.

Om du bygger en spelkontroll och människor på Reddit skriver att den vänstra styrspaken inte fungerar särskilt bra, kan du ha tusentals kommentarer i forumet men bara ett hundratal som handlar om den vänstra styrspaken. Det skulle ta timmar att manuellt gå igenom och sortera allt. Vi kan göra det på några minuter och sammanfatta alla hundra kommentarer så att hårdvaruteamet vet var det ska börja.

Vi använder också tekniken för ämnesextraktion, alltså för att identifiera vilka funktioner och produkter människor pratar om. Därefter sammanfattar vi tema-analysen med hjälp av naturlig språk-generering och skapar läsbar text.

Vår genomsnittliga rapport innehåller mer än 30 stycken faktisk analys som skrivs av vårt datorsystem, utan mänsklig inblandning. Vi använder dessutom tekniken för öppna frågor och svar. Du kan skriva en fråga på vanlig engelska, så söker vi igenom dina data, hittar allt som kan besvara frågan och kör det genom flera analysmodeller för att ta fram ett svar.

Michael Luchen

Det är verkligen fascinerande.

Det här är en ganska högteknologisk produktlösning. När ni byggde den och försökte hitta er produkt–marknadsanpassning, såg ni då en teknik och tänkte att det fanns en möjlighet att använda den för att lösa ett problem? Eller började ni med ett problem och letade efter en teknik, där NLP råkade befinna sig i ett tillräckligt bra läge för att kunna lösa det?

Dan Erickson

Det började med det senare. Vi ville lösa ett verkligt problem: att hjälpa företag att hitta produkt–marknadsanpassning med hjälp av Superhumans process. Den innebär i princip att man skickar ut en enkät, samlar in svaren, läser varje svar, grupperar dem i funktioner eller problem och använder resultatet för att vägleda sin produktplan.

Det människor hade svårt med var att hitta tid att läsa varje svar och kategorisera det korrekt. Vi insåg snabbt att NLP kunde hjälpa oss och kanske till och med mäta sig med människor i just den uppgiften. Därför började vi med ett enkelt NLP-system som främst extraherade ämnen och hade viss känslolägesanalys.

Vi upptäckte snart att kunderna verkligen uppskattade analysdelen. Därför började vi fokusera mer på den och gick vidare från det ursprungliga problemet.

Vi började arbeta med företag som redan hade produkt–marknadsanpassning. De ville ta in andra typer av data än bara den enkät vi skickade ut. Vi byggde därför ett mer generellt system och fick tillgång till GPT-3 i juni 2020.

Det hjälpte oss att förstå att det gick att automatisera processen, inte bara för en enskild enkät utan för varje textbit som ett företag samlar in.

Michael Luchen

När man samlar in all den texten kan det uppstå partiskhet. Vårt ämne handlar om partiskhet inom NLP och hur man hanterar den. Hur kan partiskhet introduceras i NLP när man använder det i sin produkt?

Dan Erickson

Som standard innehåller alla språkmodeller någon form av inbyggd partiskhet, eftersom de tränas på text som en gång skrivits av människor.

Människor är i grunden partiska. Vi är inte helt rationella varelser. Eftersom modellerna tränas på en mycket mänsklig datamängd kommer människors partiskhet att föras över till NLP-modellerna.

Företagen som tillhandahåller modellerna arbetar mycket för att minska partiskheten. Jag tycker att OpenAI ligger långt framme på det området. De har hela team som specifikt arbetar med problemet.

Om man använder GPT-3 direkt från förpackningen kan den producera tveksamt innehåll. Man kan minska problemet genom att finjustera och träna modellen för ett specifikt användningsområde. Ju mer specifikt användningsområdet är, desto bättre blir resultatet.

Alla NLP-modeller har dock inneboende partiskhet. Man måste arbeta aktivt för att träna modellen på ett sätt som minskar den så mycket som möjligt.

Michael Luchen

Hur arbetar ni på Viable för att minska partiskheten? Går det ens?

Dan Erickson

Det viktigaste är att vi tränar många modeller själva med datamängder som vi har samlat in och bearbetat. Det hjälper oss att komma fram till ett mycket specifikt användningsområde. I stället för en stor generell modell använder vi något som tränats för en bestämd uppgift.

När uppgiften är mer specifik blir det lättare att undvika partiskhet. Vi gör detta både med GPT-3:s finjusteringsfunktion och med våra interna modeller.

Vi jämför sedan alla modeller med vår egen mänskliga bedömning av partiskhet. Människor finns med i träningsprocessen så att vi kan se om modellen verkar vara partisk för något eller emot något. Därefter kan vi lägga till mer träningsdata för att balansera partiskheten.

Michael Luchen

Finns det några särskilda överväganden kring kundernas datamängder som ni analyserar?

Dan Erickson

Vi tränar normalt inte på kundernas data. Vi har vanligtvis egna datamängder som vi har byggt upp.

Ibland använder vi anonymiserade versioner med tillstånd, men i huvudsak tränar vi inte på kunddata. Vi analyserar kunddatan med förtränade modeller som vi har granskat för att säkerställa att partiskheten har minskat.

Michael Luchen

En sak jag tar med mig är den fortsatta investeringen i att förbättra modellerna, särskilt utifrån grundmodeller från GPT-3 eller OpenAI. Hur ser det arbetet ut i er produktplan?

Dan Erickson

Modellförbättring är nästan ett eget spår i vår produktplan. Vi har funktioner för företagskunder, integrationer och modellförbättring, bland annat.

Modellförbättring är något vi arbetar med hela tiden. Jag kan inte minnas en vecka då vi inte gjort någon form av omträning.

Vi har över ett dussin interna modeller. Jag menar inte att vi tränar om alla hela tiden, men minst en modell omformuleras eller tränas om varje vecka.

Michael Luchen

Hur mycket tid lägger teamet på det?

Dan Erickson

Jag skulle säga att ungefär 20 procent av NLP-teamets tid går till kontinuerlig förbättring och omträning.

Michael Luchen

Hur kan NLP minska potentiell partiskhet jämfört med traditionella manuella processer?

Dan Erickson

När man pratar om partiskhet inom NLP är det viktigt att också tänka på den partiskhet som finns i den process som NLP ersätter.

Produktchefer som försöker förstå vad kunder klagar på förlitar sig ofta på berättelser från en supportmedarbetare, säljare eller annan person som de råkat prata med. De personerna säger ofta något korrekt, men sällan något komplett. De kan ha en närhetsbias och fokusera på de mest högljudda kunderna i stället för majoriteten.

Människor kan lätt fastna i en viss fråga som blir deras hjärteprojekt. NLP lider inte av just den formen av partiskhet. Det gör att du kan bredda perspektivet och se mer av datan i stället för att begränsas av de berättelser du råkat höra.

Vi producerar i genomsnitt över 30 teman, och antalet ökar i takt med att vi tränar om modellerna. I den senaste rapporten identifierade vi över 300 teman. Människor skulle inte kunna uppnå samma detaljnivå eller fullständighet i analysen.

När jag manuellt går igenom feedback skulle jag kanske sortera varje återkoppling i ett eller två teman. Men vanligtvis finns det faktiskt tre till fem teman i de flesta återkopplingar. Människor registrerar ofta bara det centrala problemet. Därför blir den manuella bearbetningen mindre komplett än NLP.

Michael Luchen

Kommer mänsklig granskning eller mänsklig input alltid att behövas på någon nivå för att minska potentiell partiskhet?

Dan Erickson

Ja. Vi bör alltid sträva efter att minska partiskheten i systemen, särskilt i stora språkmodeller som tränats på terabyte av mänskligt språk. Samtidigt får vi inte glömma de konkreta förbättringar som systemen kan ge redan i dag.

Modellerna kan göra mycket av grundarbetet, men någon behöver fortfarande läsa igenom resultatet och kontrollera att allt är korrekt.

Vi försöker göra så mycket som möjligt i modellträningen och den interna granskningen. Vi ger också våra kunder möjlighet att ge oss feedback för att hjälpa till med omträningen. Nästan all analys har en tumme upp- och en tumme ner-funktion, så att kunderna kan tala om huruvida resultatet är bra eller dåligt och om det fungerar.

Michael Luchen

Hur får ni mer detaljerad feedback än bara tumme upp eller tumme ner?

Dan Erickson

Det är inte implementerat ännu, men när man trycker på tumme ner kommer det snart att visas ett textfält. Vi skickar sedan den texten tillbaka till Viable, till vår egen instans.

Därefter kan vi identifiera alla teman i feedbacken och försöka åtgärda dem.

Michael Luchen

Vad tror du att framtiden för NLP ser ut som, och hur kan tekniken forma framtidens produktledning? Hur möts de här världarna?

Dan Erickson

NLP befinner sig i en renässans. Utvecklingen går snabbt framåt. Det syns bland annat i multimodala modeller som DALL-E 2, där man kan skriva en beskrivning av en bild och få en bild genererad.

På NLP-sidan ser vi större modeller med djupare förståelse. GPT-4 kommer sannolikt att lanseras någon gång framöver och lär ha betydande förbättringar jämfört med GPT-3. Vi ser också PaLM från Google och modeller från bland andra Microsoft och Facebook.

Modellerna blir större och kan hantera mer sammanhang. I dag begränsas GPT-3 av hur mycket text den kan analysera samtidigt, ungefär 2 000–4 000 token, vilket motsvarar cirka 4 000 ord. I framtiden kommer vi troligen att få mycket större kontextfönster och kunna hantera tiotusentals ord. Det kommer att förbättra modellernas förmåga att koppla samman idéer som ligger långt ifrån varandra.

Michael Luchen

Om jag är produktchef och ser en möjlighet att integrera en NLP-modell som GPT-3 eller GPT-4, var börjar jag? Är det något jag bör prata med utvecklarna om, eller är det ett enormt projekt som bör vänta några år?

Dan Erickson

Jag tycker att man kan börja med det jag kallar gränssnitt för naturligt språk. Vi har kommandoradsgränssnitt och grafiska användargränssnitt, som är olika sätt att interagera med ett system.

Gränssnitt för naturligt språk, som vårt fråge- och svarssystem, GPT-3 eller GitHub Copilot, innebär att du skriver kommandon och systemet utför uppgiften.

Det är förmodligen där vi kommer att se mest innovation framöver och det är något som nästan alla produkter relativt enkelt kan lägga till. Det gör det möjligt att interagera med produkten på ett mer naturligt sätt. I stället för att tvinga användarna genom en guide eller en dialogruta kan de ställa frågor och använda vanlig text.

Det är ganska enkelt att komma igång med något som GPT-3. Jag rekommenderar att man experimenterar med det. Gå in i GPT-3:s testmiljö hos OpenAI och se vad tekniken kan göra och hur den kan hjälpa produkten.

Michael Luchen

Innan vi avslutar vill jag gärna ställa några personliga snabbfrågor, om det är okej.

Dan Erickson

Absolut.

Michael Luchen

Vilken personlig vana har bidragit mest till din framgång?

Dan Erickson

Åtta timmars sömn. Det är svårt som grundare, men sömnen är grunden för alla andra vanor. När man sover för lite presterar man sämre, hoppar över måltider och kanske inte tränar. För mig är sömnen den vana som inte bör offras för andra saker.

Det betyder inte att jag aldrig har perioder där jag arbetar sent, men för det mesta försöker jag vara konsekvent.

Michael Luchen

Vilket verktyg använder du regelbundet och tycker bäst om?

Dan Erickson

Just nu är det definitivt GitHub Copilot. Jag använder Visual Studio Code för utveckling. Vi är ett litet team på ungefär tio personer på Viable, så jag skriver fortfarande en del kod.

GitHub Copilot är i princip NLP för kod i stället för engelska. Man börjar skriva kod i editorn och verktyget försöker förstå vad man gör och skriver mer kod. Det är som en AI-baserad programmeringspartner. Ungefär 50 procent av koden jag skriver skapas numera av GitHub Copilot.

Michael Luchen

Det är otroligt.

Till sist: vilket råd skulle du ge till någon som befinner sig i början av sin produktresa?

Dan Erickson

Fastna inte i ett hjulspår. Du kommer att få en idé som känns fantastisk, men den kanske inte är det som faktiskt får företaget att lyckas. Den ursprungliga idén skiljer sig ofta från det man till slut landar i.

Det är viktigt att fortsätta lyssna på användarna och låta dem dra dig i rätt riktning i stället för att enbart förlita dig på din egen intuition.

Michael Luchen

Det var väldigt väl sagt och ett fantastiskt sätt att avsluta på.

Tack så mycket för att du var med i dag, Dan. Jag har lärt mig mycket om NLP och tar med mig flera saker tillbaka till de produkter jag har arbetat med.

Dan Erickson

Tack för att jag fick komma. Det var fantastiskt att vara här.

Michael Luchen

Du kan läsa mer om Dan på LinkedIn och lära dig mer om hans företag Viable på askviable.com.

Tack så mycket för att du var med, Dan.

Tack alla för att ni lyssnade. Glöm inte att lämna en recension av podden och berätta vad ni tycker. Om du inte redan har gjort det får du gärna följa och gå med i vår gemenskap på theproductmanager.com

Tack igen och ha en riktigt bra dag!