In een tijdperk waarin AI sectoren in hoog tempo transformeert, behoren productfuncties waarin AI-mogelijkheden zijn geïntegreerd tot de meest gewilde functies in de technologiesector. Als je wilt doorbreken in deze wereld of je bestaande vaardigheden wilt uitbreiden, kan het bijzonder waardevol zijn om inzicht te krijgen in het traject en de strategieën van degenen die hierin vooroplopen.
In deze aflevering wordt Hannah Clark vergezeld door Lorilyn McCue—AI-productmanager bij Superhuman—om haar inzichten te delen over het navigeren door het veranderende landschap van AI-productmanagement.
Hoogtepunten uit het interview
- Lorilyns loopbaan en belangrijkste vaardigheden [01:06]
- Lorilyn begon haar loopbaan als Apachehelikopterpiloot in het leger, waar ze zes jaar diende.
- Daarna gaf ze lichamelijke opvoeding aan West Point.
- Na haar vertrek uit het leger ging ze naar een bedrijfskundige opleiding.
- Ze ging bij Slack werken als productmanager, eerst in het groeiteam en daarna in het platformteam.
- Later werkte ze bij de machinelearning-start-up Impira.
- Momenteel is Lorilyn lead AI-productmanager bij Superhuman.
- AI bij Superhuman: de gebruikerservaring verbeteren [02:08]
- Lorilyn hecht waarde aan het vermogen van AI om gebruikers tijd te besparen, zodat zij zich op belangrijke taken kunnen richten.
- Ze deelt een verhaal uit Irak, waar het vliegen met een Apachehelikopter tijdens een saaie missie de inefficiëntie van repetitieve taken duidelijk maakte.
- Een boeiendere missie liet haar inzien hoe waardevol het is om technologie voor complexe taken te gebruiken in plaats van voor alledaagse taken.
- Ze brengt dit in verband met AI, die routinetaken uitvoert zodat gebruikers zich op betekenisvol werk kunnen richten.
- De functie ‘direct antwoord’ van Superhuman bespaart gebruikers bijvoorbeeld twee minuten per e-mail doordat routinematige antwoorden worden geautomatiseerd.
- Dit aha-moment bevestigde de rol van AI bij het wegnemen van sleur en het verbeteren van de productiviteit.
AI kan het saaie, vervelende werk van je overnemen. Draag alle routinematige taken over aan AI, laat het drie uur lang rond de basis cirkelen en ga zelf de leuke dingen doen.
Lorilyn McCue
- Loopbaanontwikkeling en AI-integratie [04:19]
- Lorilyn geeft prioriteit aan leren, een les die bij Slack werd versterkt en cruciaal is op het gebied van AI.
- Met de functie ‘AI vragen’ van Superhuman kunnen gebruikers rechtstreeks vragen stellen, waardoor ze tijd besparen bij zoekopdrachten.
- Hoewel oorspronkelijk was gepland om er drie maanden over te doen, lanceerde het team binnen één maand een voorlopige versie om feedback te verzamelen.
- Deze gefaseerde release—eerst naar het AI-team, vervolgens intern en ten slotte naar bètagebruikers—leverde inzichten op die het uiteindelijke product vormgaven.
- Iteratieve ontwikkeling was essentieel, omdat het team zich zo kon aanpassen en op basis van gebruikersgedrag een effectiever product kon creëren.
- De onvoorspelbare aard van AI vereist herhaalde leercycli om goed aan te sluiten bij de behoeften van gebruikers.
Je moet de volledige inhoud van het bericht als een JSON-waarde opmaken die voldoet aan een gegeven exemplaar van een JSON-schema. Een JSON-schema is een declaratieve taal waarmee je JSON-documenten kunt annoteren en valideren. Het volgende voorbeeld van een exemplaar van een JSON-schema {{“properties”: {{“foo”: {{“description”: “een lijst met testwoorden”, “type”: “array”, “items”: {{“type”: “string”}}}}}}, “required”: [“foo”]}}}} komt overeen met een object met één verplichte eigenschap. De eigenschap “type” geeft aan dat “foo” een array moet zijn, en de eigenschap “description” beschrijft semantisch dat het om “een lijst met testwoorden” gaat. De items binnen “foo” moeten tekenreeksen zijn. Het object {“foo”: [“bar”, “baz”]} is dus een goed opgemaakt exemplaar van dit voorbeeld van een JSON-schema. Het object {“properties”: {“foo”: [“bar”, “baz”]}} is niet goed opgemaakt. Je uitvoer wordt geparseerd en getypeerd volgens het onderstaande schema-exemplaar. Zorg er daarom voor dat alle velden in je uitvoer exact overeenkomen met het schema en dat er geen afsluitende komma’s staan. Hieronder staat het JSON-schema-exemplaar waaraan je uitvoer moet voldoen. Voeg het omvattende markdown-codeblok toe: “`json {“type”:”object”,”properties”:{“output”:{“type”:”object”,”properties”:{“content”:{“type”:”string”},”language”:{“type”:”string”}},”required”:[“content”,”language”],”additionalProperties”:false}},”required”:[“output”],”additionalProperties”:false,”$schema”:”http://json-schema.org/draft-07/schema#”} “`AI is zo’n onbekend terrein dat je vaak geen idee hebt hoe mensen het zullen gebruiken. Daarom moet je prioriteit geven aan leren. Je moet eerst iets kleins lanceren, vervolgens itereren en dit proces herhalen.
Lorilyn McCue
- Het belang van naadloze AI-integratie [06:46]
- Lorilyn benadrukt dat AI diep in het productontwerp moet worden geïntegreerd, zodat het niet aanvoelt als een “toevoeging”.
- Bij een ideale AI-integratie voelen functies natuurlijk aan en worden ze door gebruikers niet als “AI” opgemerkt.
- De functie “Instant Event” van Superhuman illustreert deze aanpak: gebruikers kunnen met één klik agenda-items maken vanuit e-mails.
- Aanvankelijk bevond de functie zich voor testdoeleinden op een minder toegankelijke locatie, namelijk in het opdrachtenmenu van Superhuman, “Command K.”
- Na tests en het verwerken van feedback verplaatste het team de functie naar intuïtievere plekken, zoals een knop in e-mails en een agendasneltoets.
- Deze naadloze integratie zorgt ervoor dat AI-functies nuttig en toegankelijk aanvoelen wanneer dat nodig is.
- Met de functie “Instant Event” kunnen gebruikers nu gebeurtenissen maken door simpelweg op datums in e-mails te klikken. De cursor verandert daarbij in een handpictogram om deze actie aan te geven.
- De functie werd aanvankelijk getest in het opdrachtenmenu, maar is nu volledig geïntegreerd voor gebruiksgemak.
- Gebruikers ontdekken en gebruiken de functie vanzelf, zonder expliciete instructies. Dit sluit aan bij Lorilyns doel van naadloze AI-integratie.
- AI optimaliseren voor snelheid en nauwkeurigheid [10:54]
- Superhuman geeft prioriteit aan proactieve functies zoals automatische samenvattingen en directe antwoorden, die onmiddellijk worden weergegeven voor het gemak van de gebruiker.
- De functie voor automatische samenvattingen geeft van elke e-mail een samenvatting van één regel, zodat gebruikers sneller toegang hebben tot informatie zonder zelf een actie te hoeven uitvoeren.
- Bij directe antwoorden stond het team voor een afweging tussen een “schildpadbot” (slim maar traag) en een model als een “snelle, ongemakkelijke oom” (snel maar minder nauwkeurig).
- Ondanks de hogere kwaliteit van de schildpadbot koos het team voor het snellere model, met prioriteit voor snelheid en gebruikerservaring.
- Ze stemden het snellere model verder af om de nauwkeurigheid te verbeteren, zodat antwoorden snel en redelijk nauwkeurig zijn.
- Het in balans brengen van kwaliteit en snelheid is essentieel bij de beslissing of functies proactief of door de gebruiker geïnitieerd moeten zijn.
- Technische besluitvorming rondom AI [14:24]
- Lorilyn gebruikt een hulpmiddel om meerdere prompts en modellen naast elkaar te vergelijken en hun prestaties met echte gegevens te beoordelen.
- Ze maakt een dataset op basis van interne gebruikersfeedback (duimpje omhoog/omlaag) om praktijksituaties weer te geven.
- Bij evaluaties ligt de nadruk op latentie, met als doel antwoorden binnen 1–2 seconden te leveren om aan de behoeften van gebruikers te voldoen.
- Door herhaaldelijk te testen identificeert ze problemen (zoals het verkeerd interpreteren van de context in antwoorden) en verfijnt ze prompts om de nauwkeurigheid te verbeteren.
- Iteratief testen helpt bij het vaststellen van succescriteria, waarbij snelheid en nauwkeurigheid tegen elkaar worden afgewogen en wordt geleerd welke specifieke vormen van nauwkeurigheid nodig zijn.
- Promptengineering beheersen [16:38]
- Lorilyn ontwikkelde haar vaardigheden op het gebied van promptengineering door tijdens haar werk te leren en te experimenteren.
- Af en toe zocht ze online naar specifieke oplossingen.
- Ze kreeg ook tips van OpenAI, zoals het gebruik van technieken als opdrachten in hoofdletters, het herhalen van instructies en het opnemen van voorbeelden.
- Het verfijnen omvatte het toevoegen van voorbeelden om lastige gevallen aan te pakken en de nauwkeurigheid te verbeteren.
- Lorilyn gebruikte een techniek waarbij ze het LLM diens redenering liet uitleggen om prompts te verfijnen.
- Zo vroeg ze het LLM bijvoorbeeld aan wie het antwoordde en waarom.
- Dit proces bracht misverstanden in de antwoorden van het LLM aan het licht, waardoor ze specifieke aanpassingen aan de prompts kon maken.
- De methode “leg jezelf uit” hielp het denkproces van het LLM te verduidelijken en droeg bij aan een effectievere afstemming van prompts.
- Zakelijke uitdagingen bij AI-integratie bij Superhuman [18:54]
- De integratie van AI in Superhuman bracht het in balans brengen van complexiteit en uitdagingen met zich mee.
- Lorilyn vergeleek AI-modellen: GPT-4 (traag maar van hoge kwaliteit) tegenover GPT-3.5 (sneller maar minder intelligent).
- Aanvankelijk vormde de traagheid van GPT-4 een aanzienlijke uitdaging bij het opschalen van e-mailsamenvattingen.
- Superhuman gaf prioriteit aan kwaliteit en gebruikersbehoeften, waarbij snelheid en correctheid in overweging werden genomen.
- Ze kozen voor GPT-3.5 vanwege een betere latentie en gebruikten promptengineering om aan de kwaliteitsnormen te voldoen.
- De zakelijke focus lag op het waarborgen dat aan de behoeften van gebruikers werd voldaan, ongeacht de kosten.
- Praktijkgericht leren en praktische AI-vaardigheden [20:54]
- Praktijkgericht leren is essentieel voor productmanagement op het gebied van AI.
- Op de hoogte blijven van wekelijkse trends en releases is cruciaal.
- Experimenteer in het dagelijks leven met AI-hulpmiddelen om praktische kennis op te doen.
- Voorbeeld: ChatGPT gebruiken om aangepaste kleurplaten voor kinderen te maken.
- Pas AI toe in professionele situaties, bijvoorbeeld om beknopte tooltips voor gebruikers te genereren.
- Door met nieuwe technologieën te werken, krijg je meer inzicht in de mogelijkheden van AI.
- Een specifieke cursus is niet nodig; praktische toepassing is de sleutel.
Maak kennis met onze gast
Lorilyn McCue is AI-productmanager bij Superhuman, de meest productieve e-mailapp ooit gemaakt. Samen met Superhuman-CEO Rahul Vohra heeft Lorilyn geholpen om de AI-productroadmap van het bedrijf te creëren en tot leven te brengen. Daarbij ontwikkelt ze gestroomlijnde en praktische functies waarmee gebruikers alles kunnen doen: van e-mails opstellen in hun eigen stem en toon en lange conversaties samenvatten tot zoeken in natuurlijke taal om eenvoudig dingen in hun inbox te vinden. Voordat ze bij Superhuman kwam, werkte Lorilyn in productteams bij Slack en Impira, een AI-start-up die door Figma werd overgenomen.
Lorilyn heeft een fascinerende en onconventionele route afgelegd naar productmanagement.
Ze diende tien jaar in het leger, vloog met Apache-helikopters in Irak en gaf les aan cadetten op West Point, voordat ze besloot haar carrière een andere wending te geven en begin dertig productstagiair bij Google te worden. Ze heeft een bachelor van West Point en een MBA van Stanford.

Er is iets aan het gebruik van AI in je dagelijks leven waardoor je kennis en inzicht krijgt in wat er mogelijk is.
Lorilyn McCue
Bronnen uit deze aflevering:
- Abonneer je op de nieuwsbrief van The CPO Club
- Bekijk de sponsor van deze aflevering: Wix Studio
- Maak contact met Lorilyn via LinkedIn
- Bekijk Superhuman
Gerelateerde artikelen en podcasts:
Lees het transcript:
We proberen onze podcasts te transcriberen met behulp van een softwareprogramma. Vergeef ons eventuele typefouten, want de bot heeft niet altijd 100% gelijk.
Hannah Clark: Op dit moment draaien de meest begeerde functies in productmanagement allemaal om AI. Historisch gezien is dit bovendien een bijzonder ongebruikelijk moment, omdat de kerncompetenties die nodig zijn om in dit veld te concurreren pas een paar jaar bestaan. Nog vreemder is dat het vakgebied zich zo snel heeft ontwikkeld dat alle ervaring die je misschien hebt opgedaan toen ChatGPT, trouwens nog geen twee jaar geleden, doorbrak bij het grote publiek, nu al verouderd kan zijn. Dus hoe kunnen productmanagers die in dit domein naar een baan zoeken nu op snelheid komen? En misschien nog belangrijker: welke gewoonten kun je vandaag invoeren om bij te blijven terwijl de technologie zich verder ontwikkelt?
Mijn gast vandaag is Lorilyn McCue, Lead AI Product Manager bij Superhuman. Lorilyns loopbaan is echt ongelooflijk. Ik laat haar je daar zo meteen meer over vertellen, maar het is ook een bewijs van de belangrijkste vaardigheid die je nodig hebt om succesvol te zijn als AI-productmanager: avontuurlijkheid. Dus terwijl je naar Lorilyns tips luistert, raad ik je aan om je in de mindset van een avonturier te verplaatsen, want dit is een onontgonnen gebied. En het eerste wat je nodig hebt om succesvol te zijn, is de bereidheid om op ontdekkingstocht te gaan. Laten we beginnen.
Welkom terug, luisteraars, bij de podcast The CPO Club. Vandaag ben ik hier met Lorilyn McCue.
Lorilyn, ontzettend bedankt dat je vandaag bij ons bent.
Lorilyn McCue: O, bedankt voor de uitnodiging.
Hannah Clark: Je hebt een bijzonder interessante weg afgelegd om Lead AI Product Manager bij Superhuman te worden. En ik denk dat we in dit onderdeel meestal net iets langer blijven hangen.
Maar ik zou het geweldig vinden als je wat meer over je achtergrond kunt vertellen, want die is zo gaaf.
Lorilyn McCue: Mijn achtergrond is heel vreemd. Ik begon als piloot van een Apache-helikopter, wat natuurlijk een volkomen normale route naar de technologiesector is. Ik zat in het leger. Dat heb ik ongeveer zes jaar gedaan.
Daarna ging ik lichamelijke opvoeding geven aan West Point, voor het laatste deel van mijn tijd in het leger. Vervolgens ging ik naar een bedrijfskundige opleiding en kwam ik bij Slack terecht als productmanager, eerst in het groeiteam en daarna in het platformteam. Vervolgens ging ik naar een kleine startup voor machinaal leren, Impira genaamd.
En nu werk ik hier bij Superhuman in AI.
Hannah Clark: Wat een geweldige loopbaanontwikkeling. Ik ben er helemaal weg van.
We gaan meteen van start, want vandaag richten we ons wat meer op AI, op hoe Superhuman is ontstaan en op de hele reis die je hebt afgelegd om Lead AI Product Manager te worden.
Als we het over AI hebben in de context van Superhuman, kun je ons dan iets vertellen over een moment waarop je zag dat AI de gebruikerservaring voor Superhuman-gebruikers aanzienlijk verbeterde en naar een hoger niveau tilde?
Lorilyn McCue: Ja. Laat me een klein verhaal vertellen. Voor mij is het allerbelangrijkste dat je gebruikers tijd bespaart en hun brein ruimte geeft voor belangrijkere dingen.
Voor mij zorgt Superhuman AI ervoor dat je brein belangrijkere dingen kan doen. Oké, ik ga een klein verhaal vertellen. Toen ik in Irak was, kreeg ik één missie: drie uur lang rondjes vliegen rond een basis. Ik vloog drie uur lang rondjes rond een basis en deed niets. Maar uiteindelijk kregen we een nieuwe missie: heel laag vliegen, deze bomopslagplaatsen vinden en ze vervolgens opblazen. Dat was veel interessanter en een veel betere benutting van de technologisch meest geavanceerde helikopter die het leger ooit heeft geproduceerd.
Op een heel vreemde manier denk ik dat ik verliefd werd op het concept AI voordat het überhaupt bestond. Ik kon namelijk zien hoeveel beter we onze helikopter konden gebruiken tijdens de tweede missie dan tijdens de eerste. Zo werkt AI ook. AI neemt het drie uur lang rondjes vliegen rond de basis van je over en stelt je in staat je eigen menselijke brein te gebruiken voor de interessantere taken.
AI bespaart gebruikers dus enorm veel tijd. Toen we keken naar een van onze functies, instant reply, een korte standaardreactie waarmee je iemand een antwoord kunt sturen, zagen we dat gebruikers er twee minuten per e-mail mee besparen. Je hoeft je brein niet twee minuten te laten besteden aan het opstellen van een antwoord als iets standaards waarschijnlijk voor de meeste van je e-mails zou volstaan.
Voor mij was dat een groot aha-moment: oké, AI kan het vervelende werk van je overnemen. Geef AI alle routinetaken, laat het drie uur lang rondjes vliegen rond de basis, en ga zelf de leuke dingen doen. Ga de bommen zoeken en blaas ze op.
Hannah Clark: Niemand heeft die vergelijking ooit eerder in deze show gebruikt, maar ik ben er helemaal voor.
Lorilyn McCue: Fijn dat ik de eerste ben.
Hannah Clark: Oké, we komen zo terug op AI, want daar valt ontzettend veel uit te pakken. Er zijn zoveel verschillende toepassingen waar we echt op kunnen ingaan.
Maar ik wil het eerst wat meer over je loopbaan hebben. Als we kijken naar je loopbaanontwikkeling, van Slack en vervolgens richting AI-productmanagement, hoe ben je AI als onderdeel van je loopbaan gaan begrijpen, vanaf je eerste functie tot waar je nu bent?
En hoe heeft de integratie van AI in het geheel je benadering van productstrategie beïnvloed?
Lorilyn McCue: Ja, dat is een goede vraag. Ik denk dat het belangrijkste voor mij is geweest om leren als prioriteit te stellen. Dat heb ik bij Slack geleerd, maar voor AI is het misschien wel tien keer belangrijker.
Je moet leren als prioriteit stellen. Een goed voorbeeld hiervan is dat we onlangs een product met de naam Superhuman Ask AI hebben gelanceerd. Deze functie is zo gaaf: in plaats van een specifieke zoekopdracht in te voeren, kun je gewoon een vraag typen. Je kunt zeggen: hé, kun je de meest recente feedback over Instant Event samenvatten?
Kun je me de drie meest positieve citaten en een paar negatieve citaten geven? Iets waar je nu twintig minuten over zou doen, kost slechts enkele seconden. Dat is geweldig. Of: wanneer heb ik een afspraak met Hannah? Of: wanneer heb ik die-en-die persoon voor het laatst gemaild? Aanvankelijk zouden we ongeveer drie maanden uittrekken om dit product te bouwen.
Maar wat we besloten te doen, was na één maand al een versie uitbrengen, ook al voelde die voor ons nog niet klaar. We brachten deze versie uit voor een kleine groep mensen. Eerst stelden we hem beschikbaar aan ons AI-team, daarna lanceerden we hem intern en vervolgens voor een steeds grotere groep bètagebruikers. Wat we ontdekten, was dat we in elke fase iets nieuws leerden dat onze manier van denken over het product en over de manier waarop we het zouden bouwen volledig veranderde.
Tegen de tijd dat er drie maanden voorbij waren, hadden veel mensen het gebruikt en hadden we uiteindelijk het juiste product gebouwd, iets wat we in het begin misschien niet zouden hebben gedaan. AI is zo'n onbekend terrein dat je soms echt geen idee hebt hoe mensen het zullen gebruiken. Daarom moet je leren als prioriteit stellen.
Je moet een klein onderdeel lanceren, het vervolgens verbeteren, daarna opnieuw lanceren, opnieuw verbeteren, opnieuw lanceren en opnieuw verbeteren.
Hannah Clark: Ja, ik zie hoe die versnelde cyclus je veel meer gegevens over mislukkingen geeft om mee te werken, wat vaak veel nuttiger is dan helemaal niets hebben, toch? Je hebt dan alleen maar zo lang gewacht dat je je resterende speelruimte hebt opgebruikt. Dat is echt interessant.
Een van de dingen die we eerder bespraken, was dat je sterk benadrukte hoe belangrijk het is om AI in de productstrategie te verweven, in plaats van het er bovenop te plakken. Dat zien we vaak bij sommige AI-functies die in bestaande producten worden geïntegreerd.
Welke beslissingen heb je genomen om ervoor te zorgen dat de AI in het product echt naadloos en volledig geïntegreerd aanvoelde, in plaats van er simpelweg op te zijn vastgeschroefd?
Lorilyn McCue: Ja, ik denk dat veel mensen AI tegenwoordig in een zijbalk plaatsen als een klein chatgedeelte. Je moet AI naadloos in je product integreren.
Mijn ideale gebruikersinterview gaat als volgt: Hé, heb je deze AI-functie gebruikt? O, ik wist niet dat dit een AI-functie was. Dat vind ik zo spannend, want wanneer je AI naadloos in het product integreert, voelt het gewoon natuurlijk. Het voelt alsof wat je nodig hebt aanwezig is op het moment dat je het nodig hebt. Een goed voorbeeld hiervan is een functie die we gisteren hebben gelanceerd, Instant Event. Daar ben ik persoonlijk bijzonder enthousiast over.
Je krijgt een e-mail: oké, we zijn allebei ouders. Je krijgt dus een e-mail met de tekst: vergeet niet dit op die dag mee naar school te nemen. En dan denk je: o nee, nu moet ik mijn agenda openen, kijken wat ik die dag doe en een afspraak aanmaken. Dat is ontzettend frustrerend. Maar in Superhuman kun je nu met één klik een afspraak laten aanmaken met de juiste datum, de juiste titel, alle details en de juiste personen. Het is ontzettend nuttig.
Toen we deze functie voor het eerst lanceerden, stond die niet op een naadloze plek. We hadden hem in Command K gezet, het commandmenu van Superhuman. Je moest dus weten dat je op Command K moest drukken en vervolgens moest typen wat destijds create event with AI heette. Uiteraard zullen maar heel weinig mensen dit vinden.
Maar doordat we hem daar hadden geplaatst, konden we hem testen en dat eerste principe van leren als prioriteit stellen toepassen. We konden dit op allerlei e-mails zelf uitproberen en nagaan wat werkte en wat de vreemde randgevallen waren, maar dat was niet de laatste stap. We moesten hem op een plek zetten waar hij naadloos in het product geïntegreerd was.
Nu staat de functie op meerdere plaatsen. De eerste is dat je de normale agend sneltoets kunt gebruiken, B in Superhuman. Daarmee wordt automatisch een AI-afspraak aangemaakt in plaats van een lege afspraak, wat geweldig is. Er staat ook een kleine knop onderaan een e-mail als er een datum wordt gedetecteerd, met de vraag: hé, wil je op deze datum een afspraak aanmaken?
Je klikt op die knop en het venster verschijnt. Het maakt trouwens geen geluid. Die strijd heb ik niet gewonnen.
Hannah Clark: Ik vind het geluid juist leuk.
Lorilyn McCue: Als je met de muis over een datum gaat, verandert de kleine cursor in een hand. Wanneer je erop klikt, zie je dat er een afspraak wordt aangemaakt. Dat is zo gaaf. We wilden de functionaliteit dus uitproberen en in Command K plaatsen, maar de uiteindelijke versie was veel naadlozer in het product geïntegreerd.
We merken nu dat gebruikers sommige manieren gebruiken die we niet eens in onze aankondigingsmail hadden genoemd. Ze ontdekken het vanzelf, precies zoals ik wil. Je ziet een datum, je klikt erop en er gebeurt een afspraak. Perfect.
Hannah Clark: Webdesigners, deze is voor jullie. Ik heb dertig seconden om jullie te vertellen over Wix Studio, het webplatform voor bureaus en ondernemingen. Hier zijn vier dingen die je in dertig seconden of minder met Studio kunt doen. Pas je ontwerpen aan voor elk apparaat met responsieve AI. Hergebruik middelen zoals sjablonen, widgets, secties en ontwerpbibliotheken op verschillende sites en deel ze met je team. Voeg animaties zonder code en achtergronden met kleurverlopen rechtstreeks in de editor toe en exporteer je ontwerpen met één klik van Figma naar Wix Studio. De tijd is om, maar de lijst gaat door. Ontdek Wix Studio en ervaar het zelf.
We hadden onlangs een aflevering over empathie als onderdeel van het ontwerpproces. Het is interessant hoe dit soort intuïtieve functies volgens mij de sleutel vormen tot het creëren van iets dat gemakkelijk wordt overgenomen. Het gaat erom zulke functies zo natuurlijk en naadloos te maken dat mensen deze geweldige mogelijkheden vanzelf ontdekken.
Ik wil het dus wat meer over gegevens hebben en over de manier waarop we statistieken gebruiken en onze beslissingen ermee vormgeven. Laten we Superhuman als voorbeeld nemen: samenvattingen automatisch verwerken, zodat gebruikers er niet om hoeven te vragen. Welke statistieken of inzichten zouden deze keuze voor dit product hebben bepaald?
Misschien kun je wat meer achtergrond geven over die functie en uitleggen hoe je beslist welke functie proactief moet zijn en welke door de gebruiker moet worden gestart?
Lorilyn McCue: Ja, ik zal hierbij eigenlijk twee functies noemen, omdat er over de tweede functie een heel interessant verhaal te vertellen is. Wanneer je een e-mail ontvangt, berekenen we de samenvatting al voordat je de e-mail opent, en we berekenen ook enkele voorgestelde directe antwoorden voor die e-mail.
De automatische samenvatting is een samenvatting van één regel die in elke e-mail aanwezig is. Je opent de e-mail en de samenvatting staat er al. Veel producten hebben ervoor gekozen om pas na een klik een samenvatting te geven, wat logisch is. Het kost veel geld om elke e-mail die je ontvangt samen te vatten, vooral omdat je sommige e-mails niet eens opent.
Voor ons was het echter zo belangrijk dat die twee dingen beschikbaar waren zodra je de e-mail opende. Misschien heb je haast, zoals ik zei. Zoals je eerder aangaf, moet je empathie hebben voor de gebruiker. Die heeft misschien geen tijd om erop te klikken en de paar seconden te wachten die nodig zijn om het resultaat te laten verschijnen.
De tweede functie is Instant Reply. Je vroeg welke statistieken onze keuze hebben bepaald. We wilden voor deze functie een geavanceerder model gebruiken. Dat geavanceerdere model was gewoon te traag. Het was een schildpad. Het was net een schildpadbot.
Het gaf briljante antwoorden. Het was een geniale schildpad. Stel je een geniale schildpadbot voor. Misschien is het logisch om de gebruiker erom te laten vragen, waarna die een geniaal antwoord van de schildpadbot krijgt. Dat antwoord is geweldig, de samenvatting is fantastisch en het directe antwoord ook. Maar de gebruiker moet een paar seconden wachten en het antwoord is misschien nog niet klaar wanneer die e-mail daadwerkelijk wordt geopend.
Of we hebben een andere optie: ik weet het niet, een beetje als je snelle, onhandige oom. Hij klaart de klus. Af en toe maakt hij een fout. Voordat we konden uitzoeken hoe we dit probleem voor directe antwoorden konden oplossen, was er één toepassing die me absoluut gek maakte.
Ik bleef elke avond tot middernacht op om dit soort randgevallen uit te zoeken. In dit specifieke geval stuurde iemand een afscheidsmail: ik ben zo blij dat ik bij dit bedrijf heb gewerkt, maar het is tijd voor mij om te vertrekken. Vervolgens antwoordden allerlei mensen: o, wat jammer, we zullen je zo missen.
Dit is geweldig. Je was fantastisch. En dan denk je: je bent zo dom. Je bent wel snel, maar die niet zo slimme oom zou zeggen: "Beste Johnny, bedankt dat je afscheid hebt genomen van Sarah." Dan denk je: nee, dat ga ik niet doen. Dat is niet de bedoeling. Ik ga Sarah geen afscheid laten nemen.
Dat is wat logisch is. De superslimme schildpad staat daar en zegt: ja, ik snap het natuurlijk. Maar het duurt even voordat hij het uitzoekt. Dus dachten we: oké, hoe kunnen we dit oplossen? Op een bepaald moment beseften we dat we die iets dommere oom moesten gebruiken. Dat hebben we gedaan, maar we ontdekten ook hoe we hem slimmer konden maken.
We kunnen het model verfijnen. We kunnen tijdens het verfijnen meer voorbeelden van dat specifieke geval meesturen. We kunnen ook bepalen welke delen van de conversatie we meesturen. We kunnen onze prompt een beetje aanpassen. Maar uiteindelijk moest het ten eerste goed genoeg zijn en ten tweede snel genoeg.
Dat was het allerbelangrijkste.
Hannah Clark: Oké, ik wil hier wat dieper op ingaan, want dit is een vaardigheid die unieker is voor AI-productmanagement en volgens mij relevant is voor veel mensen die hun vaardigheden op dit gebied willen verdiepen.
Als we praten over de technische aspecten van het afwegen van modelverfijning, het balanceren van vertraging en kosteneffectiviteit, en al deze beslissingen, hoe ziet het praktische proces eruit dat je moet doorlopen wanneer je dit soort beslissingen neemt? En welke hulpmiddelen heb je nodig om beter te begrijpen hoe je goed geïnformeerde beslissingen kunt nemen wanneer je al deze factoren beoordeelt?
Lorilyn McCue: Ik gebruik graag een hulpmiddel waarmee je meerdere prompts naast elkaar kunt zetten, samen met meerdere modellen. Je hebt dan bijvoorbeeld prompt A met je superslimme schildpad aan de linkerkant en dezelfde prompt met je snelle, enigszins domme oom aan de rechterkant. Vervolgens voer je ze uit met een gegevensset. En om even terug te grijpen: hoe kwam je aan die gegevensset?
Je hebt eerder gelanceerd en je interne gebruikers hebben met duimpjes omhoog of omlaag aangegeven welke voorbeelden goed voor hen werkten. Dat wordt je eigen gegevensset waarop je kunt testen. Je brein zou waarschijnlijk zelf een gegevensset met voorbeelden kunnen bedenken, maar echte voorbeelden van je eigen interne gebruikers zijn ontzettend behulpzaam.
Je neemt die gegevensset en voert de twee prompts uit. Je kijkt naar de tijd die het kost. Misschien bepaal je hoe lang het duurt voordat gebruikers een e-mail openen. Oké, dat is mijn benchmark. Ik moet dit binnen één à twee seconden klaar hebben, want soms klikken mensen onmiddellijk op e-mails. Oké, welke kant voldoet aan de regel van twee seconden?
Deze kant voldoet aan de regel van twee seconden. Oké, laten we nu alle antwoorden bekijken. Welke is rommelig? O, die is echt rommelig. Waarom bedank je die-en-die persoon omdat hij afscheid heeft genomen van Sarah? Oké, nog een kolom. Laten we een nieuwe kolom openen. Nu passen we je prompt een beetje aan.
Oké, bepaal de focus van het gesprek. Bepaal wie de beste persoon is om te antwoorden. Je voert het opnieuw uit. Je bekijkt de voorbeelden. Je herhaalt het proces. Het gaat erom steeds opnieuw te itereren. En misschien weet je in het begin niet eens waar je precies naar zoekt. Maar naarmate je dit doet, begin je langzaam te ontdekken wat je succescriteria zijn.
Misschien heb je al enkele succescriteria. Het moet zo snel zijn. Het moet een bepaalde nauwkeurigheid hebben. Maar om welke nauwkeurigheid gaat het bij welke soorten problemen? Je ontwikkelt daar een intuïtie voor door het daadwerkelijk te doen en ermee te spelen.
Hannah Clark: Oké, dit klinkt alsof promptengineering een grote nadruk krijgt en een belangrijke vaardighedenreeks is die je echt moet beheersen om effectief te zijn in deze functie.
Hoe heb je die vaardigheid ontwikkeld? Het is zo'n nieuwe praktijk. Heb je een cursus gevolgd of heb je het gewoon tijdens je werk geleerd?
Lorilyn McCue: Dus twee dingen: zeker leren tijdens het werk. Letterlijk was ik 's avonds laat nieuwe dingen aan het uitproberen. Af en toe zocht ik iets op internet.
Is er iets wat ik hier kan doen? Wat gaat dit probleem oplossen? We hadden ook een nauwe samenwerking met OpenAI en zij konden ons enkele tips geven. Sommige waren grappig: zeg dit in hoofdletters. Echt? Moet ik tegen de LLM schreeuwen? Oké, dat kan ik doen. Of herhaal dit een tweede keer, of zorg ervoor dat je het ook aan het einde plaatst.
Een goede tip was om ervoor te zorgen dat er een voorbeeld aanwezig is, een voorbeeld van één poging. Zorg ervoor dat je verfijning voorbeelden bevat van alle verschillende opties waar je problemen mee hebt.
Hannah Clark: Dit zijn echt interessante tips. Ik denk dat promptengineering een interessant vakgebied is, omdat we zo vaak in gewone taal met deze interfaces communiceren. Het lijkt daardoor alsof het een heel natuurlijk proces zou moeten zijn om een echt effectieve prompt te creëren.
Heb je nog andere onverwachte dingen geleerd terwijl je je vermogen hebt verfijnd om de meest effectieve prompts te vinden en zo het gewenste resultaat te krijgen?
Lorilyn McCue: Ja. Een truc die ik gebruikte en die meestal niet in de uiteindelijke prompt terechtkwam, maar die ik tijdens het maken van de prompt gebruikte, was de LLM zichzelf laten uitleggen.
Laten we Instant Reply als voorbeeld nemen. Ik vroeg: oké, aan wie antwoord je? Vervolgens vroeg ik: waarom antwoord je die persoon? Dan zei het: ik antwoord die persoon vanwege X, Y en Z. En dan dacht ik: o, dát brengt je in de war. Jij domme, trage oom. Oké, nu kan ik de prompt aanpassen om daar iets specifieker over te zijn.
Oké, leg het nog eens uit. Doordat ik de LLM zichzelf liet uitleggen, begreep ik het denkproces iets beter en kon ik de prompt aanpassen. Ja, de optie om jezelf uit te leggen was behoorlijk nuttig.
Hannah Clark: Ja, ik denk dat dat heel nuttig kan zijn, want soms is de verleiding groot om helemaal opnieuw te beginnen: ik heb de prompt blijkbaar verkeerd opgesteld. We moeten de prompt gewoon herschrijven. Maar goed, dit is echt praktische informatie.
Ik wil terugkomen op de zakelijke aspecten van AI. AI-functies worden momenteel uiteraard basisvereisten voor de meeste digitale producten, maar bij het integreren van AI moet je ook veel complexe zaken tegen elkaar afwegen. Met welke uitdagingen kreeg Superhuman in zakelijke context te maken bij de beslissing welke AI-modellen of hulpmiddelen moesten worden geïmplementeerd?
Lorilyn McCue: Wie AI kent, begrijpt waarschijnlijk dat ik verwees naar GPT-4 versus GPT-3.5. GPT-4 is de trage schildpad en GPT-3.5 was de snelle, niet bepaald slimme oom.
Ik moet zeggen dat dit nu niet meer zo'n groot probleem is, omdat GPT-4.0 en GPT-4.0 Mini zo snel en echt goed zijn. Dat is interessant, want een probleem dat me een jaar geleden nog bezighield, is nu niet meer zo belangrijk. Maar destijds was het enorm belangrijk, vooral wanneer je praat over de schaal van elke afzonderlijke e-mail die iemand ontvangt samenvatten.
Dat is een enorme schaal. Het kost veel geld. We hebben het geluk dat onze CEO Rahul volledig op kwaliteit gericht is. Kies de beste optie, ga voor de beste optie. Maar het interessante is dat de beste optie niet altijd de beste reactie oplevert. Het gaat ook om de vertraging: wat voldoet aan de snelheidseisen van onze gebruikers?
Snelheid en correctheid. Zouden we voor GPT-4 hebben willen betalen? Ja, dat zouden we hebben gedaan, maar het model voldeed op dat moment gewoon niet aan de behoeften van de gebruikers. Dus dachten we: oké, laten we GPT-3.5 gebruiken, omdat dat op dat moment beschikbaar is. Het is goed genoeg en voldoet aan onze eisen voor vertraging.
Met veel promptengineering, tijd van productmanagers en tijd voor kwaliteitscontrole konden we het model naar het kwaliteitsniveau brengen dat we nodig hadden om aan de behoeften van de gebruiker te voldoen. Het zakelijke aspect is heel belangrijk, maar we waren bereid de kosten te betalen. Wat het ook kostte om aan de behoeften van de gebruikers te voldoen, dát was voor ons het belangrijkst.
Hannah Clark: We schakelen een beetje over. Ik wil het meer hebben over je loopbaanontwikkeling richting AI-productmanagement, want ik heb je dit volgens mij al eerder verteld: iedereen wil deze vaardigheden ontwikkelen en begrijpen hoe ze zichzelf kunnen verrijken. Hun cv's moeten opvallen in deze huidige AI-wedloop.
Welke vaardigheden, praktische kennisgebieden, certificeringen of cursussen zou je aanraden aan mensen die AI-gerichte producten willen ontwikkelen, nu je in dit vakgebied hebt gewerkt en een team in dit domein hebt geleid?
Lorilyn McCue: Ik zou zeggen dat leren door te doen op dit moment het meest effectief is. Duik erin, blijf op de hoogte van de verschillende trends en van de verschillende dingen die worden uitgebracht. Er komt elke week iets nieuws uit.
Zodra er iets uitkomt, ga je ermee spelen. Gebruik het. Ik zou vooral aanraden manieren te vinden om AI in je dagelijks leven te gebruiken en uit te zoeken wat werkt. Een goed voorbeeld is dat ik twee ontzettend lieve jongens heb die graag mijn kantoor binnenkomen terwijl ik aan het werk ben. Jongens, geef me nog een paar minuten. Ik ben bijna klaar. Ik help jullie zo. Maar dat werkt nooit. Wat ze echt willen, is dat ik kleurplaten voor ze afdruk, waarna ze gaan kleuren. Inmiddels heb ik echter elke monstertruck, tank uit de Tweede Wereldoorlog en veldslag op coloringpages.com uitgeput.
Ik heb dus niets meer over. Zij zeggen: nee. Oké, laten we naar ChatGPT gaan. Laten we kijken wat we kunnen doen. Maak een kleurplaat van een monstertruck. Oké. Vind je dit interessant? Voldoet dit aan je wensen? Nee, ik wil er tien. Oké, maak er tien monstertrucks van. Voldoet dit aan je wensen?
Nee, ik wil dat ze racen. Oké. En dan blijf je heen en weer gaan. Op een gegeven moment weet je wat je kinderen willen en kun je zeggen: maak een kindvriendelijke kleurplaat van tien monstertrucks op een racebaan en zorg ervoor dat er geen raceauto's op staan. Je ontdekt wat werkt en kunt het vervolgens afdrukken. Ik zou dus zeggen: door deze toepassingen in je dagelijks leven te vinden, leer je veel. Dat is een persoonlijk voorbeeld.
Laat me een professioneel voorbeeld geven. Ik doe dit soms met teksten. Oké, we moeten in één tooltip uitleggen hoe deze functie werkt. Het mogen maar een bepaald aantal woorden zijn. Er moet deze formulering in staan. Ik geef een ruwe versie en vraag vervolgens om tien verschillende varianten. Oké, goed. Laat me een andere proberen.
Er is iets aan het gebruik van AI in je dagelijks leven dat je, ik weet het niet, inzicht geeft in wat er mogelijk is. Er komt een nieuwe functie uit: oké, probeer die. Er is nieuwe technologie beschikbaar, een nieuw model: probeer het. Een ander bedrijf brengt iets uit: probeer het.
Een goed voorbeeld is dat ik naar Perplexity ging en zei: oké, geef een overzicht van alle verschillende modellen die er zijn en hoeveel ze per miljoen tokens kosten, en maak er een tabel van. Daar is het. Bedankt. Geweldig. Ik weet het niet. Je moet het gewoon doen. Ik denk dat dat eerlijk gezegd het nuttigste is.
Is dat een nuttig antwoord? Het is geen cursus die je kunt volgen, maar het is absoluut iets wat je in je dagelijks leven kunt doen.
Hannah Clark: Heel nuttig. Ik had die opvoedingstip trouwens niet verwacht, maar die neem ik zeker mee.
Lorilyn McCue: Het is echt een goede tip.
Hannah Clark: Ja. Mijn zoon is in dezelfde dingen geïnteresseerd. Dat wordt dus een leuke verrassing voor het weekend.
Ontzettend bedankt dat je vandaag bij ons was, Lorilyn. Ik waardeer het echt dat je kennis over AI-productmanagement met ons hebt gedeeld. De beste tip van het decennium. Voordat we afronden: waar kunnen luisteraars je werk vinden en meer leren over wat jullie bij Superhuman bouwen?
Lorilyn McCue: Je kunt ons werk bij Superhuman bekijken op onze Superhuman-blog: superhuman.com. Klik op blog. Ik plaats zelf berichten op LinkedIn. Je kunt dus naar mijn LinkedIn-profiel gaan: Lorilyn McCue.
Hannah Clark: Geweldig. Bedankt dat je erbij was.
Lorilyn McCue: Bedankt.
Hannah Clark: Bedankt voor het luisteren. Voor meer geweldige inzichten, praktische handleidingen en beoordelingen van hulpmiddelen kun je je abonneren op onze nieuwsbrief via theproductmanager.com/subscribe. Je kunt meer gesprekken zoals dit beluisteren door je overal waar je naar podcasts luistert te abonneren op The CPO Club.
