Duolingon tuotejohtaja pitää mestarikurssin tuotteen kaupallistamisesta
Lue litterointi:
Kokeilemme podcastiemme litterointia ohjelmiston avulla. Pahoittelemme mahdollisia kirjoitusvirheitä, sillä botti ei ole sataprosenttisen tarkka.
Hannah Clark: Voimme varmasti kaikki olla samaa mieltä siitä, että päätöksemme liittyvät pohjimmiltaan siihen, miten voimme tehdä tuotteistamme arvokkaita asiakkaillemme. Tänään keskitymme kuitenkin hieman syvemmälle tuohon ”arvokas”-osuuteen eli siihen, miten tuotteemme voivat tuottaa rahaa. Tiedämme, että meidän on oltava kannattavia, mutta tuotteen ja terveen vuotuisen toistuvan liikevaihdon välinen tie ei ole aivan suora. Sen onnistuminen on tietenkin kriittisen tärkeää, mutta siihen on monia erilaisia tapoja — ja juuri siksi tämä keskustelu on niin kiinnostava.
Vieraakseni saapuu tänään Cem Kansu, Duolingon tuotejohtaja, enkä olisi voinut pyytää joulupukilta täydellisempää esimerkkiä arvokkaasta tuotteesta, jolla on erittäin älykäs kaupallistamisstrategia. Opit, mikä Duolingossa on vuosien varrella toiminut ja mikä ei, saat tietää, mikä Premium-ansa on ja miten sen voi välttää, sekä kuulet, miten generatiivisen tekoälyn käyttöönotto on vaikuttanut heidän hinnoittelustrategiaansa. Tämä keskustelu oli todella hieno, mukaansatempaava ja täynnä käytännön oppeja — se on pohjimmiltaan Duolingo tuotteen kaupallistamisesta. Aloitetaan.
Tervetuloa takaisin The CPO Club -podcastiin. Olen täällä tänään Cem Kansun kanssa. Olemme erittäin iloisia siitä, että hän on kanssamme.
Cem, kiitos kun liityit seuraamme.
Cem Kansu: Kiitos kutsusta. Hienoa olla täällä.
Hannah Clark: Voisitko kertoa hieman taustastasi ja siitä, miten päädyit nykyiseen tehtävääsi Duolingolla?
Cem Kansu: Toki. Liityin Duolingolle kahdeksan ja puoli vuotta sitten, mikä kuulostaa ääneen sanottuna hullulta, mutta aika lentää, kun on hauskaa. Liityin Duolingolle vuonna 2016 ja työskentelin ensimmäiset noin viisi tai viisi ja puoli vuotta kaupallistamisen parissa. Meille kaupallistaminen tarkoittaa sitä, että olen työskennellyt mainoksia, sovelluksen sisäisiä ostoja ja tilauksia sisältävien liiketoimintalinjojemme rakentamisen parissa. Viimeiset kolme vuotta olen toiminut täällä Duolingon tuotejohtajana.
Johdan tuotehallintatiimiä, ja yrityksessä on noin 40 tuotepäällikköä. Käytän suuren osan päivästäni monien tuotehankkeiden parissa. Ennen Duolingoa olin kauppakorkeakoulussa. Sitä ennen työskentelin Googlella noin neljä vuotta. Ja sitäkin ennen — olen alun perin kotoisin Turkista ja kävin osan opinnoistani siellä.
Hannah Clark: Vau. Työskentelitkö Googlella ennen yliopistoa?
Cem Kansu: En. Ennen jatko-opintojani, ennen kauppakorkeakoulua.
Hannah Clark: Okei. Ajattelin jo, että olitpa melkoinen ihmelapsi.
Joka tapauksessa tämä on hyvä johdanto, sillä puhumme tänään kaupallistamisesta, josta puhumme tässä ohjelmassa yllättävän vähän. Puhumme paljon kehittämisestä. Puhuimme paljon tutkimuksesta. Emme puhu kovin paljon rahan tekemisestä.
Aloitetaan siis yleisellä kysymyksellä. Mikä on mielestäsi tällä hetkellä markkinoilla toimivien tuotetiimien suurin kaupallistamisen haaste? Miten te Duolingolla olette navigoineet tässä?
Cem Kansu: Erinomainen kysymys. Ensimmäinen haaste on mielestäni sen selvittäminen, mikä on paras tapa kaupallistaa tuote. Jos sovelluksesi palvelee yrityksiä, lähestymistapa on erilainen kuin kuluttajatuotteissa. Voin puhua paljon enemmän kuluttajatuotteista, koska siihen olen urallani keskittynyt.
Kuluttajatuotteiden kaupallistamisessa vallitsi aiemmin, erityisesti sosiaalisen median sovellusten varhaisina nousukausina ja Facebookin alkuaikoina, ajatus siitä, että hankitaan käyttäjiä ja mietitään kaupallistamista myöhemmin. Jos käyttäjäkunta on valtava, kaupallistamiseen kyllä keksitään jokin tapa. Tämä oli vallitseva viisaus. Nyt ajattelu on mielestäni yleisesti muuttunut siihen suuntaan, että pitää osoittaa jo varhain, miten tuotetta voidaan kaupallistaa. Kaupallistaminen ja kasvu on toteutettava samanaikaisesti. Tämä on nykyään erityisesti kuluttajatuotteita kehittäville startup-yrityksille yleisempi neuvo.
Duolingon matka on ollut melko kiinnostava. Duolingo perustettiin vuonna 2011, jolloin sijoittajat ja muut viisaat ihmiset vielä sanoivat, että hanki vain käyttäjiä ja selvitä asiat myöhemmin. Duolingo noudatti pitkälti tätä filosofiaa: kasvatetaan käyttäjäkuntaa, löydetään tuotemarkkinoiden yhteensopivuus ja mietitään kaupallistamista myöhemmin.
Duolingolla oli myös hyvin perusteellinen kaupallistamissuunnitelma. Perustajamme ja toimitusjohtajamme Luis oli CAPTCHA-palvelun perustaja. En tiedä, tuntevatko kaikki CAPTCHAn, mutta kyse on verkkosivustolle kirjoitettavista kiemurtelevista kirjaimista. CAPTCHAn ideana oli myös kirjojen digitalisoinnin joukkoistaminen.
Jokainen kirjoittamasi kiemurteleva kirjain auttoi muuttamaan skannattujen kirjojen kuvia tunnistetuiksi digitaalisiksi sanoiksi. Luis oli siis kehittänyt tämänkaltaisen kirjojen joukkoistettuun digitalisointiin perustuvan mallin CAPTCHAn avulla. Duolingo-ideassa oli jotain samankaltaista: kun käyttäjät oppivat kieltä ja tekivät esimerkiksi espanjan harjoituksia, he kääntäisivät englanninkielisiä artikkeleita espanjaksi pala palalta.
Duolingo olisi sitten myynyt käännöspalvelua sitä tarvitseville. Liiketoimintamallissa oli kaksi ongelmaa. Ensinnäkin jos vasta opettelet kieltä, käännösten laatu on yksinkertaisesti huono. Yleensä tarvitaan kolmas osapuoli tai jokin muu palvelu parantamaan käännösten laatua.
Toinen ongelma oli, että kääntäminen on kilpailua kohti alhaisinta hintaa. Kilpailet aina halvemmalla hinnalla: teet käännöksen esimerkiksi kahdella dollarilla artikkelilta, joku Filippiineillä tekee sen dollarilla, ja kilpailu jatkuu kohti pohjaa. Jälkikäteen ajatellen se olisi ollut melko huono liiketoimintamalli suurten kielimallien aikakaudella.
Kääntäminen on nykyään lähes välitöntä. Lyhyesti sanottuna Duolingo oli luopunut tästä liiketoimintamallista liittyessäni yritykseen ja pohti, mitä seuraavaksi voisi tehdä. Päädyimme freemium-malliin, koska se sopi tuotteeseemme. Se oli meille järkevää sekä missiomme että tuotteemme perustan eli koulutuksen saatavuuden vuoksi.
Emme koskaan halunneet lukita kaikkea koulutuksellista arvoa maksumuurin taakse. Aiemmin esittämääsi kysymykseen liittyen tämä on asia, jota sovellukset joutuvat usein pohtimaan: kuinka paljon tarjotaan ilmaiseksi ja kuinka paljon maksua vastaan — kertamaksuna tai toistuvana maksuna, kuten tilauksena. Me päätimme sekä arvojemme että yrityksemme mission perusteella, että Duolingon pitkän aikavälin kasvun kannalta koulutuksellisen arvon tulisi olla täysin ilmaista.
Kaikki ranskan kielen sisältö, jota voit käyttää, on siis samaa riippumatta siitä, maksatko vai et. Maksullisia ominaisuuksia ovat sen sijaan lisätoiminnot, kuten mainosten poistaminen tai useampien elämien saaminen oppituntien aikana.
Tämä oli lähtökohtamme, ja olemme pitäytyneet siinä liiketoimintamallina viimeiset kahdeksan vuotta. Vastauksena alkuperäiseen kysymykseesi sanoisin, että sovellusten on päätettävä, tarjotaanko jokin osa sovelluksesta ilmaiseksi ja mitkä osat valitaan. Taustalla oleva tärkeä tekijä on se, että ilmaisen tarjonnan pitäisi lopulta auttaa kasvattamaan käyttäjäkuntaa.
Duolingossa sovelluksen arvokkain osa — mahdollisuus oppia kieliä, matematiikkaa ja musiikkia ilmaiseksi — auttaa rakentamaan orgaanista kasvupyörää. Jos käytät tuotetta ja pidät siitä, kerrot siitä ystävillesi. Jos kaikki on maksullista, useimmat eivät edes pääse käyttämään tuotetta eivätkä kerro siitä ystävilleen. Orgaaninen kasvupyörä ei käynnisty. Jos rakennat kokonaan premium-tuotteen, sinun on rakennettava maksullinen markkinointikoneisto, koska tuotteen täytyy kasvaa ja markkinointiin on käytettävä paljon rahaa. Se ei välttämättä ole huono asia, mutta kyseessä on täysin erilainen liiketoimintamalli.
Hannah Clark: Hinnoittelua ja kaupallistamista koskeva keskustelu liittyy mielestäni usein tähän hyvin hienovaraiseen tasapainoon monella eri tasolla.
Haluaisin puhua hieman Premium-ansasta, koska keskustelemme premium-mallista ja tämän tasapainon löytämisestä.
Voisitko ensin selittää Premium-ansan käsitteen ja kertoa, miten Duolingo on onnistunut välttämään sen samalla, kun käyttäjäkunta ja liikevaihto ovat kasvaneet?
Cem Kansu: Tietenkin. En tiedä, onko Premium-ansa yleinen termi, mutta käytämme sitä Duolingolla kuvaamaan dynamiikkaa, johon monet koulutussovellukset rehellisesti sanottuna joutuvat. Käytän tässä Duolingoa esimerkkinä, koska siitä on helpompi puhua. Tuotteena olemme olleet olemassa nyt 11, lähes 12 vuotta.
Näiden 12 vuoden aikana olemme nähneet monien kilpailijoiden yrittävän tehdä täsmälleen samaa kuin Duolingo, mutta yhdellä keskeisellä erolla: koko sovellus tehdään maksulliseksi. Yleensä käy näin: joku alkaa tehdä jotain hyvin Duolingon kaltaista. Hän opettaa jotakin aihetta, esimerkiksi kieltä, matematiikkaa tai musiikkia.
Koulutustuotteita on paljon. Ne aloittavat joko kokonaan maksullisina tai ilmaisina, mutta orgaanisen kasvupyörän rakentaminen on vaikeaa. Siksi sovellukset päätyvät nopeasti ajatukseen, että jos kaikki tehdään maksulliseksi, voidaan kaupallistaa. Jos kaupallistetaan, voidaan käyttää rahaa markkinointiin ja rakentaa silmukka, jossa asiakkaan elinkaariarvo on hankintakustannusta suurempi. Silloin markkinointiin käytetty raha tuo tilaajia, ja saadut tulot voidaan käyttää uuteen markkinointiin. Tämä on matemaattisesti järkevä strategia. Se on mahdollinen, mutta yrityksille tapahtuu yleensä kaksi asiaa, kun ne omaksuvat tämän liiketoimintamallin. Siinä on ansan ydin.
Ensinnäkin suuri osa yrityksen panoksesta kuluu siihen, että kaikki kasvu tulee käytännössä maksullisesta markkinoinnista. Aikaa, johdon kapasiteettia ja pankkitilillä olevaa rahaa käytetään markkinointiin sen sijaan, että rakennettaisiin erinomaista tuotetta.
Yrityksen koko suuntautuminen painottuu markkinointiin ja käyttäjien hankkimiseen erinomaisen tuotteen rakentamisen sijasta. Koulutuksessa vaikeinta on ainakin meidän kokemuksemme perusteella rakentaa mukaansatempaava kokemus ja tehdä koulutuksellisesta aiheesta kiinnostava, hauska ja miellyttävä käyttää.
Jos siihen ei käytetä paljon aikaa ja vaivaa, jää varmasti jälkeen siitä, mitä muut tekevät tai mihin koulutuksen pitäisi kehittyä. Tämä on ensimmäinen ansa. Toinen liittyy siihen, että kun olet päässyt tähän kasvupyörään, siitä on lähes mahdotonta irtautua. Et voi helposti sanoa: ”Siirretäänpä joitakin maksullisia avainominaisuuksia ilmaisiksi, jotta voimme rakentaa myös orgaanisen kasvupyörän.” Se hidastaa kasvua, ja siirtyminen voimakkaasti maksullisesta kasvusta ilmaiseen kasvuun hitaamman kasvun aikana on todella vaikeaa.
Toinen suunta on paljon yleisempi: monet sovellukset aloittavat täysin ilmaisina tai freemium-sovelluksina. Sitten ne huomaavat, etteivät ole tarpeeksi kärsivällisiä tai haluavat kasvaa nopeammin. Ne alkavat investoida maksulliseen markkinointiin, jonka on kuitenkin tuotettava maksavia käyttäjiä, jotta positiivinen liikevaihdon kasvupyörä toimii.
Premium-ansa tarkoittaa siis sitä, että jos luot premium-sovelluksen ja kaikki kasvusi tulee maksullisesta markkinoinnista, ansasta on hyvin vaikea päästä ulos ja rakentaa skaalautuvaa kasvumallia, jota myös orgaaninen kasvu ruokkii. Meidän näkemyksemme on ollut, että orgaanista kasvua on vaikea hallita, koska sitä ei voi säädellä rahankäytöllä, mutta se on tietenkin erittäin halpaa, koska se on teknisesti ilmaista.
Siksi olemme panostaneet ilmaisiin ja erinomaisiin ominaisuuksiin, jotta käyttäjämme kertovat aina tuotteesta ystävilleen ja luovat tämän orgaanisen kasvupyörän.
Hannah Clark: Olen yleensä samaa mieltä tästä lähestymistavasta. Jos ajattelet tuotetta juhlina ja järjestät upeat juhlat, ihmiset soittavat ystävilleen ja sanovat, että heidän on tultava paikalle.
Jos taas käytät valtavasti rahaa julisteisiin, joissa kerrotaan juhlien olevan hienot, mutta paikan päällä ei ole ruokaa ja musiikki on tylsää, kutsut ihmisiä tapahtumaan, jossa ei oikeastaan tapahdu mitään. Silloin rahankäyttö menee hukkaan.
Cem Kansu: Aivan.
Hannah Clark: Tämä oli vain vertaus. Olen täysin samaa mieltä teidän lähestymistavastanne, ja mielestäni tämä on todella hyvä oivallus.
Jos mennään hieman syvemmälle freemium-malliin, uskon sen olevan yksi syy Duolingon menestykseen. Olette löytäneet freemium-maailmassa todella hyvän tasapainon. Ymmärrätte käyttäjäkuntaanne ja olette rakentaneet erittäin houkuttelevan tuotteen.
Lähes kaikki tuntemani Duolingon käyttäjät ovat sanoneet, että se on ainoa kielenoppimissovellus, jota he ovat todella käyttäneet pitkään. En saa rahaa tämän sanomisesta — se on oikeasti totta. Mitkä strategiat ovat olleet tehokkaimpia ilmaisen käytön säilyttämisessä ja sen varmistamisessa, että ihmiset pääsevät käsiksi kaikkeen arvoon ilmaiseksi, samalla kun käyttäjiä kannustetaan päivittämään premium-versioon?
Cem Kansu: Muutamia asioita. Ensinnäkin koko yritykselle asetetut ohjeet ja rajat. Meillä on aina ollut periaate, että ilmaisen ja maksavan käyttäjän pitäisi pystyä oppimaan sama määrä ranskaa. Ilmaisella käyttäjällä ei siis saa olla eri sisältöä kuin maksavalla käyttäjällä. Sisällön ei pidä olla maksamisen erottava tekijä.
Näin ajattelimme, koska ymmärsimme, että jos tarjoamme ilmaisille käyttäjille laajan ja hyvän koulutuskokemuksen, he joko kertovat tuotteesta ystävilleen ja auttavat kasvussa tai pysyvät tuotteessa paljon pidempään ja saattavat kolmen vuoden kuluttua päättää tilata maksullisen version.
Se rakentaa pitkäkestoisia tapoja paljon helpommin. Ohjaava periaate on ollut se, että tuotesuuntaa ohjataan niin, että on olemassa ”pyhä lehmä”: koulutuksellista sisältöä ei siirretä maksumuurin taakse. Olemme pitäytyneet tässä, ja se on auttanut rakentamaan melko suuren käyttäjäkunnan alusta lähtien.
Toinen asia on käyttää A/B-testausta ja dataa hyväksi päätettäessä, mitkä ominaisuudet auttavat kasvua ja mitkä kaupallistamista. Jos ominaisuuden kohdalla on selvä valinta — esimerkiksi tulostaulukoiden kohdalla — pitää pohtia, tehdäänkö siitä maksullinen vai ilmainen ominaisuus.
Tulostaulukot eivät ole varsinaista koulutuksellista sisältöä, joten niistä voisi tehdä maksullisen ominaisuuden. Toisaalta ne voisivat olla ilmaisia. Kumpi hyödyttää enemmän? Auttaako ilmainen ominaisuus käyttäjämäärän kasvua vai auttaako maksullinen ominaisuus enemmän liikevaihtoa? Parasta harkintaa voi käyttää, tai asian voi testata.
Meille sosiaaliset ominaisuudet, kuten tulostaulukot, joissa ollaan vuorovaikutuksessa muiden käyttäjien kanssa, hyötyvät suuresta käyttäjämäärästä. Siksi teimme ne kaikkien saataville. Esimerkiksi mukautettu harjoitteluominaisuus on paljon rajatumpi. Sen kaupallistaminen oli järkevämpää, koska useimmat käyttäjät eivät halua tai tarvitse sitä, mutta ne, jotka haluavat, ovat valmiita maksamaan. Jos emme tarjoa sitä, emme menetä koulutuksellista arvoa. Kutsumme tätä harjoittelukeskukseksi ja päätimme tehdä siitä maksullisen ominaisuuden.
Lyhyesti sanottuna uuden ominaisuuden kohdalla pitää selvittää, mitä arvoa se lisää tuotteeseen ja mitkä mittarit hyötyvät siitä eniten. Jos kyse on kasvusta, sitä ei ehdottomasti pidä kaupallistaa, koska silloin käyttäjäkunnan halutaan kasvavan sen avulla.
Kolmas asia liittyy Premium-ansaan. Koko yrityksen on ymmärrettävä strategia. Olemmeko premium-tuote, jossa kaikki on maksullista, vai onko olemassa asioita, joita ei koskaan kaupallisteta? Tämä auttaa erityisesti kasvavassa organisaatiossa: missä asioissa saa kokeilla? Voiko kokeilla koko sovelluksen muuttamista maksulliseksi vai onko se kokeilu, jota ei saa koskaan tehdä?
On siis tärkeää sopia siitä, mikä on pyhää ja mikä ei.
Hannah Clark: Se on tärkeää myös yhteisen arvomaailman luomisessa. Olen iloinen, että mainitsit A/B-testauksen, koska haluaisin kuulla, miten se sopii lähestymistapaanne.
Voitko jakaa joitakin A/B-testauksesta saatuja oivalluksia tai havaintoja kaupallistamisesta ja käyttäjien säilyttämisestä?
Cem Kansu: Teemme paljon A/B-testejä. Neljänneksen aikana teemme nykyään Duolingolla yli 300 A/B-testiä, jotta mittakaava on selvä. Useimmat käyttäjät eivät huomaa sitä avatessaan sovelluksen. Sovellus on suunniteltu hyvin yksinkertaiseksi, mutta testaamme todella paljon.
Testit voivat koskea sinisen sävyn muuttamista painikkeessa hieman vaaleammaksi tai koko etusivun valtavaa uudistamista. Kaikki lasketaan A/B-testiksi. Jokainen muutos testataan, koska data kertoo muutoksen vaikutuksesta paremmin kuin intuitiomme.
Mitä olemme oppineet? Lista on pitkä, joten teen ehkä aivoriihenomaisen yhteenvedon. Yksi asia, jonka olemme huomanneet, liittyy koulutuksen ja sitoutumisen tasapainoon: oppitunnin vaikeudessa on ihanteellinen kohta.
Olemme kokeilleet monia ääripäitä. Olemme tehneet sisällöstä helpompaa ja helpompaa sekä vaikeampaa ja vaikeampaa. Keskimäärin käyttäjät haluavat saada noin 80 prosenttia kysymyksistä oikein. Se on suunnilleen ihanteellinen taso. Jos joku saa kaikki vastaukset oikein, hän lopettaa käytön, koska sisältö tuntuu liian helpolta.
Jos käyttäjä saa vain 30 prosenttia oikein, hänestä tuntuu, ettei hän suoriudu hyvin tai ettei sisältö tai sovellus sovi hänelle. Ihanteellinen kohta on noin 80 prosenttia. Se ei ole tarkka luku, mutta tämä vaihteluväli toimii hyvin käyttäjien säilyttämisen ja tapojen rakentamisen kannalta. Oppijat palaavat seuraavana päivänä ja käyttäjät pysyvät sitoutuneina.
Toinen havainto liittyy maksullisen tuotteen lisämyyntiin. Meillä on kaksi tilaustuotetta, Super Duolingo ja Duolingo Max. Sillä, miten tuotteesta puhutaan ja miten se esitetään, on suuri merkitys. Monet tilausostot, erityisesti freemium-tuotteissa, ovat tunnepohjaisia.
Siksi on paljon testattavaa sen selvittämiseksi, mikä saa käyttäjän vakuuttumaan ja ostamaan tuotteen. Tilauspäivityksen esitystavan optimointi on asia, jonka parissa olemme työskennelleet kahdeksan vuotta, eli siitä lähtien, kun tilauspalvelumme käynnistettiin. Löydämme edelleen uusia tapoja saada käyttäjiä päivittämään tilauksensa.
Esimerkiksi käyttäjälle kannattaa antaa mahdollisuus kokeilla ja ostaa: kun käyttäjä saa kokeilla tilausta kolme päivää ja häntä pyydetään sen jälkeen aloittamaan ilmainen kokeilu, tulokset ovat paljon parempia kuin yksinkertaisella ”aloita ilmainen kokeilu” -kehotuksella. Ostospainikkeessa ”kokeile ilmaiseksi seitsemän päivän ajan” toimii jonkin verran.
Jos sen sijaan sanotaan ”kokeile 0 dollarilla”, tulos on kummallisesti paljon parempi. Jos tarjouksessa lukee ”viimeinen mahdollisuus” ja tarjous on oikeasti poistumassa, napsautussuhde nousee huomattavasti verrattuna siihen, ettei tekstiä käytetä. Testattavia ja opittavia asioita on paljon enemmän, mutta tärkein johtopäätökseni on, että tilaukseen päivittämisen toimivien tapojen selvittämiseksi on paljon tehtävää.
Viimeinen oppi, jota yritämme parhaillaan ymmärtää, liittyy liialliseen A/B-testaukseen ja paikallisen maksimin ansaan. Kun työkalut ovat hyviä ja jokainen tuotetiimi osaa tehdä A/B-testejä, on helppo alkaa testata vain pieniä, vähittäisiä muutoksia.
Vaikka sadan A/B-testin tekeminen kuulostaa vaikuttavalta, jos kaikki testit koskevat painikkeen väriä tai pikselin kokoisia muutoksia, et koskaan testaa sitä, miltä ominaisuus voisi näyttää täysin uudelleen suunniteltuna.
Tiimejä kannustetaan joskus tähän, koska pienet voitot tuntuvat hyvältä ja testejä voidaan tehdä paljon. Jos kuitenkin pysähtyy kysymään, mitä tapahtuisi, jos koko näyttö poistettaisiin ja tehtäisiin jotakin aivan muuta, lopputulos voi joskus olla kaksi kertaa parempi. Sinne ei vain päästä, koska testaaminen on aina vähittäistä.
Vähittäisen testaamisen ansan välttäminen on oppi, jota emme ole vielä täysin ratkaisseet, mutta tunnistamme sen, kun olemme testanneet itsemme paikalliseen maksimiin. Se on ehkä kolmas asia, jonka haluan nostaa esiin.
Hannah Clark: Tämä on kiinnostava näkökulma. Puhuimme aiemmin paneelissa siitä, miltä ”valmis” näyttää juniorille tai harjoittelijalle verrattuna siihen, miltä valmis näyttää kokeneelle tuotepäällikölle. Toinen näkee työn yksinkertaisesti valmistuneena, kun taas toinen etsii oivalluksia ja sitä, millaista arvoa tai vaikutusta työ synnyttää.
Näen tässä jonkinlaisen yhteyden. Teemmekö A/B-testejä vain voidaksemme sanoa tehneemme tänä vuonna 300 testiä? Vai teemmekö niitä selvittääksemme, millaisia riskejä voimme ottaa ja miten käyttäjät reagoivat sen sijaan, että vain hienosäätäisimme asioita, joiden tuotto alkaa pienentyä?
Cem Kansu: Juuri niin. Toinen esimerkki on se, onko parempi tehdä 300 A/B-testiä ja saada muutaman prosenttiyksikön parannuksia vai yksi suuri testi, joka voisi tuottaa 50 prosentin parannuksen. Hetkessä sitä on vaikea päättää. Jälkikäteen on helppo sanoa, että 50 prosenttia on parempi, mutta tilanteessa 300 testiä ja muutaman prosenttiyksikön hyödyt tuntuvat turvallisemmilta.
Kuten sanoit, vähenevä tuotto muodostuu ongelmaksi.
Hannah Clark: Jokainen testi maksaa rahaa, vaikka siitä saataisiin oppi.
Cem Kansu: Kyllä.
Hannah Clark: Nämä olivat erittäin hyödyllisiä ajatuksia. Arvostan sitä, että jaoit ne kanssamme.
Verkkosuunnittelijat, tämä on teille. Minulla on 30 sekuntia aikaa kertoa Wix Studiosta, verkkopalvelusta toimistoille ja suuryrityksille. Tässä on neljä asiaa, jotka voit tehdä Studiossa enintään 30 sekunnissa. Mukauta suunnittelusi jokaiselle laitteelle mukautuvan tekoälyn avulla. Käytä uudelleen malleja, pienoisohjelmia, osioita ja suunnittelukirjastoja eri sivustoilla ja jaa niitä tiimisi kanssa. Lisää koodittomia animaatioita ja liukuvärjättyjä taustoja suoraan muokkaimessa. Vie suunnittelusi Figmasta Wix Studioon yhdellä napsautuksella. Aika loppui, mutta lista jatkuu. Tutustu Wix Studioon ja näe itse.
Siirrytään nyt hieman hinnoittelustrategiaan.
Puhuit siitä, miten asiat ovat kehittyneet ajan myötä. Kun tarkastelemme hinnoittelustrategian nykyistä versiota, teillä on erilaisia maksullisia tasoja ja ilmainen taso. Mitkä tekijät ovat vaikuttaneet siihen, miten ominaisuudet hinnoitellaan nykyään ja miten eri maksulliset tuotteet erotetaan toisistaan?
Cem Kansu: Hinnoittelustrategiamme on kehittynyt pääasiassa pakettien kehittymisen kautta. Duolingolla on ollut tilauspalvelu suunnilleen aina viimeisten kahdeksan vuoden ajan. Ajan mittaan on kuitenkin tapahtunut muutoksia. Ensimmäinen versiomme oli nimeltään Plus Duolingo, jonka nimesimme myöhemmin uudelleen Super Duolingoksi.
Se kuulosti paremmalta nimeltä. Uudistimme myös tuotteen perusteellisesti ja lanseerasimme perhepaketin. Se tuli eri hintapisteeseen ja oli lähes 50 prosenttia kalliimpi kuin yksittäisen tilauksen ostaminen, mutta ryhmälle se oli hyvä tarjous. Tämä oli ensimmäinen kehitysvaiheemme. Sen jälkeen lanseerasimme korkeamman tason, Duolingo Maxin.
Se tapahtui noin kaksi vuotta sitten. Duolingo Max maksaa lähes kaksinkertaisesti Super Duolingoon verrattuna. Siihen kuuluu lisäominaisuuksia, joissa käytetään paljon generatiivista tekoälyä keskusteluharjoittelun tarjoamiseen. Tämä oli kehityksemme toinen vaihe, koska erilaiset paketit muuttavat varmasti hinnoittelun ja käyttöönoton dynamiikkaa.
Käyttäjät, joilla on suurempi halu ja kyky maksaa, voivat valita Duolingo Maxin, kun taas ryhmäkäyttäjä voi valita perhepaketin. Lanseerasimme hiljattain myös opiskelijapaketin. Tarjoomamme on siis melko segmentoitu.
Oikeiden hintapisteiden löytäminen perustui rehellisesti sanottuna pääasiassa A/B-testaukseen. Olemme kokeilleet monia tapoja saada suuntaa ilman hintojen A/B-testausta, koska hintojen testaaminen on hankalaa.
Vaikka pystyisimme teknisesti tarjoamaan mitä tahansa millä tahansa hinnalla, A/B-testien tekeminen maksaa. Olemme esimerkiksi kysyneet käyttäjiltä ja tehneet kyselyitä. Olemme tehneet laadullista ja määrällistä tutkimusta. Olemme kokeilleet niin sanottuja valekynnyksiä, joissa käyttäjä napsauttaa tiettyä hintaa, mutta sen takana ei ole ostettavaa tuotetta.
Käyttäjälle voidaan sanoa, ettei tuote ole vielä saatavilla. Mikään näistä menetelmistä ei ole antanut hyvää tietoa hinnasta, ellei vertailla hyvin erilaisia hintoja, kuten sitä, pitäisikö tuotteen maksaa viisi vai sata dollaria. Jos yrität selvittää, pitäisikö vuosimaksun olla 80, 85 vai 90 dollaria, emme ole saaneet hyvää tietoa muualta kuin A/B-testauksesta.
Olemme siis lopulta testanneet kaikki hintamme A/B-testillä, ja nykyiset hinnat ovat muodostuneet sen perusteella. Uskon, että tämä lähestymistapa toimii jatkossakin. Premium-sovelluksen ostokäyttäytyminen riippuu vahvasti siitä, miten asia esitetään sovelluksessa, miltä ostohetki näyttää ja mitä käyttäjä on kokenut juuri ennen ostamista.
Siksi tutkimuksessa on vaikea toistaa A/B-testien tuloksia. Tutkimuksessa kysytään yleensä, ostaisitko nämä ominaisuudet tähän hintaan. Monet ostoksistamme ovat kuitenkin tunnepohjaisia. Olet esimerkiksi tehnyt oppitunnin, olet innostunut ja onnistunut täydellisesti. Saatat ajatella, että pidät sovelluksesta niin paljon, että ostat tilauksen. Kyselyllä tätä ei voi kunnolla jäljitellä. Siksi A/B-testaus on ollut tärkein menetelmämme hinnoittelun määrittämisessä.
Hannah Clark: Tämä on tärkeä oppi. Ostokäyttäytymisestä saatavat havainnot eroavat niin paljon siitä mielentilasta, jossa käyttäjät ovat haastateltavina. Haastattelussa ihmiset haluavat esittää itsensä parhaassa valossa ja pohtivat järkevästi, mitä heidän pitäisi tehdä.
Se eroaa ostotilanteesta, jossa tunne vie eteenpäin ja käyttäjä painaa tilauspainiketta. Arvostan tätä näkökulmaa todella.
Haluaisin puhua hieman enemmän tekoälystä, koska mainitsit käyttävänne generatiivista tekoälyä keskusteluharjoitteluun. Se on mielestäni hieno ja innovatiivinen tapa käyttää generatiivista tekoälyä. Miten tasapainotatte tällaisen innovaation kustannukset ja käyttäjien mielestä kohtuullisen hinnan Duolingo Maxille?
Cem Kansu: Duolingo Maxin tärkein ominaisuus on Video Call with Lily eli videopuhelu Lilyn kanssa. Lily on yksi hahmoistamme.
Duolingon oppitunneilla esiintyy useita hahmoja. Videopuhelu Lilyn kanssa tarkoittaa juuri sitä, mitä nimi kertoo: soitat Lilylle harjoitellaksesi espanjaa tai jotakin muuta oppimaasi kieltä. Suuri hyöty on siinä, että sovitamme hänen käyttämänsä espanjan kielen tason omaan tasoosi.
Koska tiedämme jokaisen Duolingossa oppimasi sanan, hän käyttää vähintään 89 prosenttia ajasta sanoja, jotka tunnet jo. Noin 10 prosenttia ajasta hän esittelee uusia sanoja, mutta puhuu sinulle omalla espanjan kielen tasollasi. Näin syntyy täydellinen keskusteluharjoitus.
Käyttöönotto on ollut todella hyvää. Jatkamme siis generatiivista tekoälyä hyödyntävien vuorovaikutteisten keskusteluominaisuuksien kehittämistä Duolingo Maxiin. Näiden ominaisuuksien hinnoitteluun liittyy meille uusi tekijä: generatiivisesta tekoälystä syntyy kustannuksia, koska kielimallien käyttäminen on nykyään melko kallista.
Laskemme keskimääräisen käytön perusteella keskimääräiset kustannukset, koska myymme tilaustuotetta, josta käyttäjä maksaa kuukausittain tai vuosittain. Meidän on selvitettävä, ovatko yksikkötalouden luvut kunnossa. Arvioimme kustannukset sen perusteella, mitä kielimallien kutsut meille maksavat.
Hinnoittelemme tuotteen tämän kustannuksen yläpuolelle, jotta yksikkötaloutemme ei olisi negatiivinen. Sen jälkeen yritämme selvittää, missä kysyntä voisi olla. A/B-testaus auttaa hahmottamaan kysyntää.
Kysyntää verrataan myös Super Duolingoon. Max sisältää enemmän tekoälyyn perustuvia ominaisuuksia, kun taas Super toimii tilaustuotteemme vertailukohtana. Pitäisikö Maxin hinnan olla kaksinkertainen Superiin verrattuna? Onko siinä kysynnän kannalta oikea kohta? Pitäisikö hinnan olla 50 prosenttia korkeampi? A/B-testaamme eri vaihtoehtoja ja määritämme lopullisen hinnan suurimman kysynnän perusteella.
Hannah Clark: Olemme puhuneet paljon siitä, miten tiettyjen ominaisuuksien esittäminen vaikuttaa niiden koettuun arvoon ja maksuhalukkuuteen sekä siitä, miten tunnepohjaista laukaisinta voidaan käyttää käyttäjien ohjaamiseen ostopolulla.
Millaista kieltä käytätte tekoälystä? Oletteko tehneet A/B-testejä siitä, miten tekoälyominaisuus kannattaa asemoida, jotta käyttäjiä kannustetaan päivittämään tilauksensa?
Cem Kansu: Olemme tutkineet melko paljon sitä, miten ominaisuuden arvo kannattaa viestiä. Esimerkiksi videopuhelussa Lilyn kanssa voi puhua Lilystä, keskusteluharjoittelusta tai huipputason generatiivisesta tekoälystä.
Sama ominaisuus voidaan siis esittää monella tavalla. Sekä tutkimuksemme että A/B-testimme osoittavat, että tekoälyyn liittyvä viestintä resonoi heikoimmin. Kun merkitsemme ominaisuuden tekoälyksi ja puhumme uudesta tekoälytoiminnosta, teknologia-alan ja tuotehallinnan piirissä se voi kuulostaa houkuttelevalta, mutta koko Duolingon käyttäjäkunta on hyvin kansainvälinen.
Vain 20 prosenttia käyttäjistämme on Yhdysvalloissa ja 80 prosenttia muualla. Teknologinen lukutaito ei ole samalla tasolla kuin teknologia-alalla työskentelevillä. Sana tekoäly ei siis välttämättä herätä samanlaista kiinnostusta. Yksi oppimme on se, ettemme yleensä nimeä asioita tekoälyksi. Aina kun olemme testanneet sitä tai tutkineet asiaa, käyttäjien vastaus on ollut, ettei sillä oikeastaan ole heille merkitystä.
Käyttäjiä kiinnostaa se, mitä he saavat maksamalla. Meidän tapauksessamme se tarkoittaa, että he oppivat puhumaan paremmin ja kehittävät keskustelutaitojaan. Kun ominaisuutta kuvataan tällä tavalla, se resonoi paljon paremmin.
Tämä tuntuu jälkikäteen ilmeiseltä, mutta emme ymmärtäneet sitä aluksi. Hyvin toimiva markkinointiviesti on yksinkertaisesti se, että puhutaan käyttäjälle tärkeästä arvosta ja siitä, mitä hän saa maksamalla.
Hannah Clark: Minulla on tästä teoria. Olen samaa mieltä siitä, että joidenkin käyttäjäryhmien teknologinen lukutaito on rajallinen. Lisäksi ihmiset kärsivät mielestäni jonkinlaisesta tekoälyväsymyksestä. Monet ovat tottuneet näkemään tekoälyominaisuuksia pitkään käyttämissään tuotteissa, eivätkä siksi välttämättä liitä niihin lisäarvoa, koska kaikki tekoälyominaisuudet eivät tarjoa parempaa käyttökokemusta.
On älykästä lähteä liikkeelle ominaisuuden arvosta. Kun ihmiset kuulevat kaikkialla sanan tekoäly, he kysyvät: mitä hyötyä tästä on minulle? Parantaako se oikeasti kokemustani tästä tuotteesta?
Cem Kansu: Juuri näin olemme havainneet.
Tekoälyyn liittyy jopa kielteisiä mielleyhtymiä. Jotkin tuotteet ovat lisänneet tekoälyominaisuuksia, jotka eivät oikeastaan tee mitään. Kaikki muistavat, kuinka monen hyödyttömän tekoälyksi nimetyn keskustelubotin kanssa on joutunut puhumaan. Jotkut näkevät tekoälyn myös uhkana ja kysyvät, ottaako tekoäly maailman haltuunsa tai mitä se tekee heille.
Sitä ei siis aina koeta myönteisenä. Vielä tärkeämpää on kuitenkin se, että käyttäjälle on pystyttävä kertomaan suora yhteys: jos maksan, mitä saan? Kun tämän pystyy välittämään selkeästi, tulokset ovat parempia.
Hannah Clark: Se on erittäin järkevä lähestymistapa. Nämä ovat tietenkin vain omia tuntemuksiani, joten on hyvä, että teillä on dataa vahvistamassa ne.
Puhutaan nyt hieman siitä, mitä Duolingolle seuraavaksi tapahtuu. Teillä on jännittävä vaihe meneillään ja laajennutte uusille alueille, kuten matematiikkaan ja musiikkiin. Olisinpa voinut käyttää tätä lukioaikana. Millä perusteilla arvioitte tällä hetkellä, sopiiko uusi tuote missioonne ja osaamiseenne nykyisessä vaiheessanne?
Cem Kansu: Opetamme nyt matematiikkaa ja musiikkia. Päätimme laajentua niihin, koska Duolingo on käytännössä tehnyt itseopiskelusta hauskaa. Olemme lisänneet ominaisuuksia, joita pelit käyttävät viihteen vuoksi, ja saaneet ne toimimaan koulutuksessa.
Olemme lisänneet putket, tulostaulukot ja tehtäväjärjestelmät sekä tehneet oppitunneista lyhyitä ja hauskoja. Mikään näistä ei ole kielisidonnaista, joten niitä voidaan soveltaa moniin aiheisiin. Lähes mikä tahansa aihe voisi hyötyä hauskemmaksi tekemisestä.
Valitsimme matematiikan ja musiikin kahdesta syystä. Ensimmäinen on se, onko markkina tarpeeksi suuri. Jos sovellamme kaikkea oppimaamme ja opetamme aiheita hyvin, onko maailmassa riittävästi kysyntää, jotta investoinnit ovat järkeviä? Matematiikan ja musiikin kohdalla vastaus on kyllä.
Matematiikkaa ja musiikkia opiskelevien tai niitä opiskella haluavien ihmisten määrä on suuri. Markkina on siis riittävän laaja. Toinen peruste vaihtelee aiheittain.
Musiikki muistuttaa jo valmiiksi paljon kieltä. Kun ihmisiltä kysytään, haluaisivatko he oppia enemmän musiikkia, monilla on sama tunne kuin kielten kohdalla: he toivoisivat oppineensa enemmän espanjaa tai pianonsoittoa, mutta mahdollisuus ei ole helposti saatavilla.
Näiden taitojen oppiminen vaatii paljon tunteja, mutta kysyntää on. Helppoa tapaa ei vain ole. Uskomme, että musiikista voidaan tehdä kielen tavoin helppoa ja hauskaa.
Matematiikka on hieman erilainen. Harva sanoisi haluavansa opiskella matematiikkaa juuri nyt. Ihmisillä on sen sijaan matematiikka-ahdistusta. Matematiikalla on kuitenkin kielen tavoin mahdollisuus muuttaa ihmisten elämänmahdollisuuksia.
Jos opit matematiikkaa, ymmärrät paremmin esimerkiksi korkojen tai rahoituksen toimintaa. Voit soveltaa osaamista omassa elämässäsi tai saada paremman työpaikan. Englannin oppiminen toimii samalla tavoin: se voi auttaa pääsemään parempaan kouluun tai muuttamaan toiseen maahan.
Se avaa mahdollisuuksia samalla tavalla kuin matematiikka. Siksi se sopii hyvin Duolingoon. Uskomme myös, että voimme matematiikassa tehdä saman kuin kielissä eli kasvattaa itse markkinaa.
Kun kysymme käyttäjiltä, mitä työkalua he käyttivät kielen oppimiseen ennen Duolingoa, noin 80 prosenttia vastaa, etteivät he oikeastaan opiskelleet kieltä ennen Duolingoa. Monet aloittivat kielen opiskelun vasta Duolingon avulla.
Sosiaalisen median markkinointimme on nykyään erittäin aktiivista. Monet ovat kertoneet ajatelleensa Duolingon olevan vain hauska pöllö ja huomanneensa sitten, että kyseessä onkin hyvä sovellus. Nyt he opiskelevat kieltä. TikTok-tilillämme maskottimme Duo tekee hyvin omalaatuisia ja hauskoja asioita, ja monet ovat löytäneet Duolingon videoidemme kautta.
Pitkä tarina lyhyesti: uskomme voivamme laajentaa matematiikan markkinaa ja innostaa useampia ihmisiä matematiikan opiskelusta samalla tavalla kuin laajensimme kielten opiskelun markkinaa. Musiikissa keskitymme tekemään oppimisesta helppoa ja vastaamaan jo olemassa olevaan kysyntään. Nämä ovat ohjanneet valintojamme.
Olemme silti vasta alussa. Molemmissa aiheissa on paljon tehtävää, joten jatkamme niiden kehittämistä.
Hannah Clark: Olen hieman yllättynyt siitä, että matematiikka ja musiikki tulevat samaan aikaan. Olen samaa mieltä siitä, että musiikki ja kieli ovat hyvin samanlaisia. Pidän musiikkia eräänlaisena kielenä, jossa opitaan säännöt, jotta niitä voidaan rikkoa luovasti. Matematiikka taas vaikuttaa kokoelmalta erilaisia kovia taitoja, joita voidaan soveltaa eri tilanteissa.
Miten lähestytte matematiikan opettamisen haastetta? Käytättekö samaa tutkimusta ja samoja oppeja vai onko kyseessä kokonaan uudenlainen tuotekehitys, lähes uusi tuotelinja?
Cem Kansu: Samankaltaisuuksia ja eroja on. Monet oppituntien hauskuuteen liittyvät opit soveltuvat matematiikkaan. Oppituntien pitää olla lyhyitä, hauskoja ja sisältää useita vuorovaikutteisia osia.
Sisältöä ei pitäisi koskaan vain lukea passiivisesti, vaan kysymyksiin pitää vastata. Kaikki oppituntien rakentamiseen liittyvät periaatteet toimivat hyvin matematiikassa.
Ero liittyy siihen, miten sisältö rakennetaan. Rakennamme sisältöä, joka opettaa yleensä peruskoulun matematiikkaa, mutta yritämme tehdä olemassa olevasta sisällöstä paljon todellisempaa ja hauskempaa. Matematiikan oppikirjasta löytyy jo kertolasku, mutta haluamme muuttaa sen käytännönläheisemmäksi.
Sen sijaan että pyytäisimme laskemaan vain kaksi kertaa kolme, voimme antaa pienen pulman: yksi hahmoistamme on ostanut kaksi kolmen kilon omenapussia ja kysyy, kuinka paljon hän joutuu kantamaan. Matematiikka on sama, mutta lisäämme todellisen elämän kerroksen ja teemme siitä hauskempaa ja paremmin sovellettavaa.
Se on panostus, jonka toimivuus nähdään myöhemmin. Tällä hetkellä suurin innovaatiomme on oppikirjojen sisällön muuttaminen paljon hauskempaan muotoon. Suuri osa työstämme on keskittynyt tähän.
Hannah Clark: Tämä on todella kiinnostavaa. Toivon, että se toimii, koska kyseessä on todellinen ongelma, johon ei tällä hetkellä ole paljon hyviä ratkaisuja.
Aikamme alkaa olla lopussa, mutta haluaisin vielä nopeasti puhua koulutusteknologian trendeistä ja haasteista.
Mikä mielestäsi ohjaa Duolingon seuraavaa kasvuvaihetta maailman ja koko toimialan trendien kannalta?
Cem Kansu: Olemme jo puhuneet kahdesta asiasta, joiden uskomme muuttavan toimintaamme. Duolingo tunnetaan edelleen vahvasti kielisovelluksena.
Haluamme kuitenkin siirtyä kielisovelluksesta sovellukseksi, joka tarjoaa ainakin kieliä, matematiikkaa ja musiikkia. Olemme vielä alkuvaiheessa, mutta etenemme hyvin. Kun katsomme kolme vuotta eteenpäin, haluamme viedä Duolingon tähän suuntaan.
Toinen asia on kielimallien avaama valtava käyttötapaus eli kielen harjoittelu. Toinen avautunut käyttötapaus liittyy sisällön luomiseen. Käytämme kielimalleja nyt suureen osaan kurssisisällöistämme, mikä nopeuttaa uusien kielikurssien luomista. Miten voimme hyödyntää kielimalleja Duolingon tehokkuuden lisäämisessä, rakentaa vuorovaikutteisempia ominaisuuksia ja tehdä koko yrityksestä tehokkaamman?
Nämä ovat mielestäni suurimmat trendit, joihin panostamme. Ensimmäinen on laajentuminen kielten ulkopuolelle. Toinen on kielimallien hyödyntäminen ominaisuuksissa, prosesseissa, sisällön luomisessa ja kaikessa, mikä auttaa Duolingoa toimimaan paremmin.
Kolmas asia on edistyneiden englanninoppijoiden palveleminen. He muodostavat erityisen ryhmän ja ovat itse asiassa maailman suurin kielenoppijaryhmä. Duolingon tarjonta edistyneille englanninoppijoille on kuitenkin ollut heikko. Yritämme parantaa Duolingoa videopuheluiden ja uuden sisällön avulla.
Toivottavasti edistymme ja onnistumme. Nämä kolme ovat suurimmat tuotehankkeemme.
Hannah Clark: Erittäin hienoa ja jännittävää. Monet seuraavat tätä keskustelua, koska he rakastavat Duolingoa brändinä ja tuotteena. Olemme varmasti kaikki kannustamassa teitä, vaikka ette oikeastaan tarvitse apuamme.
Kiitos paljon, että liityit seuraamme, Cem. Missä ihmiset voivat seurata työtäsi verkossa?
Cem Kansu: Olen LinkedInissä ja Twitterissä. Käyttäjänimeni on etu- ja sukunimeni: Cem Kansu.
Hannah Clark: Mahtavaa. Kiitos paljon osallistumisestasi. Tämä oli hieno keskustelu.
Cem Kansu: Kiitos, Hannah. Kiitos kutsusta.
Hannah Clark: Kiitos kuuntelusta. Lisää hyviä oivalluksia, käytännön oppaita ja työkaluarvosteluja saat tilaamalla uutiskirjeemme osoitteessa theproductmanager.com/subscribe. Voit kuunnella lisää tämän kaltaisia keskusteluja tilaamalla The CPO Clubin siellä, missä kuuntelet podcastejasi.



