Инженер-исследователь по машинному обучению в первую команду

Привет 👋 Мы Haz и Wyatt, основатели Pally.

Pally — личный ассистент, который живёт в твоей переписке. Ты пишешь ему как другу. Он отвечает на сообщения, которые ты оставляешь без ответа, бронирует столик на ужин, добивается оплаты счёта и берёт на себя сотню мелких дел, которые накапливаются за неделю.

Почитай о нашей философии работы →

Мы — небольшая команда из района залива Сан-Франциско. Ищем людей, которые сделают Pally агентом #1 в мире для обычных пользователей.

Что предстоит делать

Ты будешь помогать моделям, на которых работает Pally, лучше справляться с ролью личного ассистента. Весь продукт — это переписка, поэтому каждый ответ генерирует модель, а на каждый результат её работы уходят время и деньги. Какая модель отвечает, что она знает, как пользуется браузером и поступает ли правильно, когда её пытаются обмануть, — всё это исследовательские задачи. Ты возьмёшь их на себя и каждую неделю будешь внедрять решения для реальных пользователей.

Это роль с практической работой и в исследованиях, и в разработке. Ты будешь работать с системой оценки качества, кодом обучения и самим агентом. На практике это значит:

• Оценка качества. Создать систему, которая превращает вопрос «хорошим ли был этот ответ?» в число: модели-судьи для отдельных реплик, данные о предпочтениях людей, воспроизведение реальных диалогов и наборы регрессионных тестов перед каждым развёртыванием. Нужны оценки, которым команда доверяет, когда решает, выпускать ли изменения.
• Дообучение. Превращать реальные диалоги в данные для обучения и данные о предпочтениях, дообучать модели — SFT, обучение на предпочтениях, дистилляция, — чтобы небольшие и быстрые модели хорошо справлялись с тем, что умеют самые передовые.
• Выбор моделей. Обучать и оценивать маршрутизатор, чтобы небольшие модели обрабатывали большинство реплик, а самые передовые — те, где это важно. Отвечать за баланс между задержкой, стоимостью и качеством каждой реплики.
• Браузерные агенты. Сделать Pally надёжным на сайтах без API: навигация, вход в аккаунт, оформление покупок и понимание, когда нужно остановиться и спросить. Измерять качество, а затем улучшать его.
• Проверки на уязвимости. Находить способы обмануть Pally, заставить его раскрыть данные или выполнить действие, о котором никто не просил: от внедрения вредоносных инструкций в письмо до вредоносной веб-страницы. Создавать защиту и проверки, которые подтверждают, что она продолжает работать.
• Поведение агента. Применять машинное обучение во всех частях агента: память и поиск информации, выбор инструментов, решение, когда действовать, а когда спрашивать и когда писать первым. Каждый день читать переписки и на основе наблюдений создавать проверки и менять модели.

Мы будем оценивать твою работу по одному критерию: насколько лучше Pally справляется с ролью личного ассистента от недели к неделе и подтверждают ли это оценки качества.

Кого мы ищем

Это позиция уровня от старшего до ведущего инженера. Мы ищем человека, который уже решал такие задачи в передовой ИИ-лаборатории или команде того же уровня.

• 4+ года опыта в машинном обучении или разработке ПО, в том числе в ИИ-лаборатории, компании с ИИ-продуктом или похожей организации.
• Практический опыт дообучения или тонкой настройки LLM — SFT, обучение на предпочтениях, дистилляция — и внедрения результатов в работающий продукт.
• Опыт разработки оценок качества, на которые команда опиралась при решении о выпуске изменений: например, с помощью LLM-судей, данных о предпочтениях людей или воспроизведения реальных запросов.
• Опыт хотя бы в одной области: поиск уязвимостей или проверка LLM с помощью атак; агенты для работы в браузере или за компьютером; выбор моделей или каскады моделей; агенты в работающих продуктах, использующие инструменты и долговременную память.
• Отличное знание Python и инструментов машинного обучения для обучения и оценки моделей, уверенная работа с TypeScript в кодовой базе продукта.
• Уверенная работа с ИИ в разработке и фундаментальные знания, которые позволяют проверять и исправлять всё, что ты выпускаешь, и отвечать за результат.
• Тебе нужен масштаб ответственности первой команды. Ты задашь планку исследований в Pally и поможешь нанимать инженеров, которые придут после тебя.

Условия

$200–300k — оклад + значительная доля в компании, 401(k) и медицинская страховка. Полная занятость, очная работа в Сан-Франциско, штат Калифорния.

Мы работаем очень много. Если работа для тебя не на первом месте, эта роль не подойдёт. При этом ты полностью распоряжаешься своим графиком. Нам неважно, когда ты усердно работаешь, — важно, что ты это делаешь.

Если это про тебя, откликайся ниже. Расскажи, каким ты видишь будущее персонального ИИ и почему тебе хочется работать в Pally.

Спасибо, что прочитал,

Haz + Wyatt