ML-onderzoeksengineer van het eerste uur

Hoi 👋, wij zijn Haz en Wyatt, de oprichters van Pally.

Pally is een persoonlijke assistent in je berichtenapp. Je appt ermee zoals met een vriend. Pally beantwoordt de berichten die je voor je uitschuift, reserveert een tafel voor het diner, zit achter de factuur aan en regelt de honderd kleine dingen die zich in een week opstapelen.

Lees onze werkfilosofie →

We zijn een klein team in de Bay Area en zoeken mensen die van Pally de #1 agent voor consumenten ter wereld maken.

De functie

Je zorgt dat de modellen achter Pally beter worden in het werk van iemands assistent. Het hele product is een chatgesprek, dus elk antwoord is modeluitvoer, en elke modeluitvoer kost tijd en geld. Welk model antwoordt, wat het weet, hoe het een browser gebruikt en of het het juiste doet als iemand het probeert te misleiden: het zijn allemaal onderzoeksvragen. Jij bent ervoor verantwoordelijk en brengt de oplossingen elke week naar echte gebruikers.

In deze functie doe je zelf onderzoek en ontwikkelwerk. Je werkt aan het evaluatieraamwerk, de trainingscode en de agent zelf. In de praktijk betekent dat:

• Evaluaties. Bouw het testraamwerk dat van ‘voelde dat antwoord goed?’ een getal maakt: beoordelaars op gespreksbeurtniveau, gegevens over menselijke voorkeuren, het opnieuw afspelen van echte gesprekken en regressietestsuites die vóór elke uitrol draaien. Evaluaties waarop het team vertrouwt bij beslissingen over wat er wordt uitgebracht.
• Finetuning. Zet echte gesprekken om in trainings- en voorkeursdata en train modellen verder (SFT, afstemming op voorkeuren, distillatie), zodat kleine, snelle modellen goed kunnen wat de meest geavanceerde modellen kunnen.
• Modelroutering. Train en evalueer een router zodat kleine modellen de meeste gespreksbeurten afhandelen en de meest geavanceerde modellen de beurten die ertoe doen. Neem de verantwoordelijkheid voor de afweging tussen responstijd, kosten en kwaliteit per gespreksbeurt.
• Browseragents. Maak Pally betrouwbaar op sites zonder API: navigeren, inloggen, afrekenen en weten wanneer het moet stoppen en iets moet vragen. Meet het en maak het vervolgens beter.
• Aanvalstests. Zoek uit hoe Pally misleid kan worden, iets kan lekken of een actie kan uitvoeren waar niemand om heeft gevraagd, van promptinjectie in een e-mail tot een kwaadaardige webpagina. Bouw de verdedigingsmaatregelen en de evaluaties die ervoor zorgen dat ze blijven werken.
• De agentervaring. Pas ML toe in de hele agent: geheugen en het ophalen van informatie, toolselectie, wanneer de agent iets moet doen of juist een vraag moet stellen en wanneer die zelf contact moet opnemen. Lees elke dag gespreksverslagen en vertaal wat je ziet naar evaluaties en modelaanpassingen.

We beoordelen je op één ding: hoeveel beter Pally er elke week in wordt om iemands assistent te zijn en of de evaluaties dat bewijzen.

Profiel

Dit is een functie op senior- tot staffniveau. We zoeken iemand die dit werk al heeft gedaan bij een toonaangevend AI-lab of een team dat op dat niveau werkt.

• 4+ jaar ervaring in ML of softwareontwikkeling, met ervaring bij een AI-lab, AI-productbedrijf of vergelijkbare organisatie.
• Praktijkervaring met het natrainen of finetunen van LLM's (SFT, voorkeurstraining, distillatie) en het in productie brengen van de resultaten.
• Ervaring met het ontwerpen van evaluaties, zoals LLM-beoordelaars, menselijke voorkeursdata of het opnieuw afspelen van echt gebruikersverkeer, waarop een team vertrouwde bij beslissingen over releases.
• Ervaring met minstens één van de volgende gebieden: redteaming of adversariële tests van LLM's; agents die browsers of computers bedienen; modelroutering of modelcascades; agents in productie die tools gebruiken en een langdurig geheugen hebben.
• Sterk in Python en de ML-stack voor training en evaluaties, en je werkt met gemak in TypeScript aan de productcode.
• Je beheerst AI-ondersteunde ontwikkelprocessen en hebt de basiskennis om alles wat je oplevert te controleren, te corrigeren en er verantwoordelijkheid voor te nemen.
• Je wilt de ruimte en verantwoordelijkheid van een teamlid van het eerste uur. Je bepaalt de onderzoeksstandaard voor Pally en helpt de engineers aannemen die na jou komen.

Praktische zaken

$200–300k basissalaris + een aanzienlijk aandelenbelang, 401(k) en een zorgverzekering. Fulltime, op locatie in San Francisco, CA.

We werken uitzonderlijk hard. Als werk niet je belangrijkste prioriteit is, past dit niet bij je. Je krijgt wel alle vrijheid om je eigen werktijden te bepalen. Het maakt ons niet uit wanneer je hard werkt, zolang je het maar doet.

Herken je jezelf hierin? Solliciteer dan hieronder. Vertel ons hoe jij de toekomst van persoonlijke AI ziet en waarom je graag bij Pally wilt werken.

Bedankt voor het lezen,

Haz + Wyatt