Aanpak
Dicteren in plaats van typen
Ik dicteer nu een groot deel van mijn werk in plaats van te typen, omdat het drie tot vier keer sneller is. Maar er is meer. Spreken en denken vragen niet dezelfde aandacht van je als typen en denken. Terwijl een zin nog uit je mond komt, vormt een deel van je hoofd de volgende al. Je kunt praten zo snel als je denkt, iets wat typen je nooit laat doen.
Ik gebruik al jaren spraakcommando’s om mijn smarthome te bedienen, en dat beviel uitstekend. Ik wilde hetzelfde op mijn computer, maar meer dan alleen commando’s: geintegreerd in alles wat ik gebruik, niet in een app. Siri is prima voor korte, gewone zinnen, maar valt merkbaar terug bij accenten, achtergrondgeluid, vaktermen of langere spraak. Fireflies en Granola bleken gebouwd voor meetings, prima tools maar niet wat ik zocht. Wispr Flow, Aqua Voice en SuperWhisper kwamen dichterbij en bevielen me, maar ik liep snel tegen de grens van het gratis plan aan.
Toen raadde een collega Spokenly aan, gratis te gebruiken, met eigen en lokale prompt-cleaning en de mogelijkheid om je eigen model te gebruiken. Ik besloot het te proberen en zette zijn opzet over op mijn eigen machine, en het was traag als de hel.
Hij draait het op een snelle MacBook Pro met veel geheugen. Ik gebruik dagelijks een MacBook Air M2 met 8GB, en op mijn bureau een iMac M1 met 16GB. Ik dacht dat geheugen het verschil maakte. Dus ben ik zelf gaan testen in plaats van zijn configuratie over te nemen.
Ik hield Parakeet aan voor spraakherkenning en liep de cleaning-modellen via oMLX een voor een langs om te zien wat echt in 8GB past. Ik testte ze op de MacBook Air met 8GB en op de iMac M1 met 16GB, en het gemeten verschil tussen die twee blijft klein: in dagelijks gebruik is het te traag. Met meer geheugen werkt het beter, maar ook dan raad ik lokale cleaning af. Het privacy-argument houdt zelden stand, want het grootste deel van de data gaat toch al naar de cloud, en het kost geheugen dat je waarschijnlijk voor iets anders hebt gekocht.
Of de cleaning-prompt kon zien welke app actief was, maakte meer verschil dan het model zelf. Het duwde de cyclustijd in de cloud van 1,16 naar 1,7 seconden. Een halve seconde klinkt als niets, maar het gebeurt bij elke dictatie, de hele dag door. En het is een stijging van 47 procent op een basislijn die het hele punt van dicteren was. Bij het lokale model liet diezelfde instelling de prompt-cache hit rate instorten van boven de 90 procent naar nul, zodra ik tussen dictaties van venster wisselde. Een instelling, en het hele snelheidsvoordeel van dicteren was weg.
Dus koos ik voor cloud-cleaning.
Ik schreef mijn eigen cleaning-prompt en verbeterde die stap voor stap: normalisatie, naamcorrectie, afkortingen, injection protection, en ik testte elk onderdeel apart, zodat ik precies wist welk onderdeel verantwoordelijk was zodra er iets misging. Ik bouwde ook een deterministische woordvervangingslaag als extra vangnet voor namen, testte die grondig, en raad hem nu af.
Het echte probleem was nooit het model of de prompt. Het was hoe snel en hoe natuurlijk ik sprak. Een rustige, complete zin komt bijna altijd goed uit de cleaning, een gehaaste of stotterende niet, welk model er ook achter zit en welke cleaning-laag je ook gebruikt. De verleiding is om snel te praten, omdat dicteren al zoveel sneller aanvoelt dan typen dat snelheid de reflex wordt. Maar zelfs langzaam, rustig spreken is nog altijd veel sneller dan typen. Ik typ zelf snel, en langzaam dicteren wint nog steeds met ruime marge.
Namen zijn iets waar geen enkel model goed in is, cloud of lokaal, dus corrigeer ik een naam nu zelf in plaats van te zoeken naar een instelling die het voor me doet. Woorden die op elkaar lijken lopen tegen dezelfde muur aan. Claude en Cloud bijvoorbeeld: geen enkele prompt houdt die twee betrouwbaar uit elkaar.
Ik testte met verschillende cloudmodellen via Anthropic en OpenAI. Het goedkopere, kleinere model dat ik als standaard had gekozen, bleek in dagelijks gebruik af en toe de cleaning-tekst zelf als instructie te lezen in plaats van als tekst om op te schonen. Niet vaak, maar vaak genoeg om vervelend te zijn.
Praten tegen een computer verandert ook een ruimte. Alleen is het gewoon sneller. Met collega’s die ook dicteren valt het niemand op. Met mensen die dat niet doen, vindt de een het irritant en voelt de ander zich bekeken. En sommigen vinden het indrukwekkend dat je een computer kunt laten doen wat je wilt door ertegen te praten. Zeker wanneer je er AI mee stuurt die ingewikkelde taken voor je uitvoert. Dit lijkt niet alleen bij mij thuis te gebeuren. Kantoren lijken dezelfde omslag door te maken.
Gebaseerd op mijn eigen testrondes en de setup guide die daaruit voortkwam.