Стоит ли вообще браться
Помогаю понять две вещи: где ИИ реально окупится и где лучше не начинать. Если идея здравая, довожу её до работающей штуки. Если нет, говорю об этом сразу, а не через полгода.

Компьютерное зрение · edge · embedded · дроны
Несколько лет я делал так, чтобы нейросети реально работали: на дронах, в камерах на улицах, на железе без интернета. Теперь помогаю другим пройти этот путь и не наступить на те же грабли.
Пара вещей, в которые я верю
Обычно дело не в модели, а в данных.
Пока стоимость инференса нельзя посчитать, начинать рано.
Бывает, что браться вообще не стоит.
Чем я занимаюсь
Помогаю понять две вещи: где ИИ реально окупится и где лучше не начинать. Если идея здравая, довожу её до работающей штуки. Если нет, говорю об этом сразу, а не через полгода.
Считаю, на чём это будет крутиться: свои серверы, GPU, облако. Честные цифры: сколько купить, сколько стоит эксплуатация и где упрётесь в потолок.
Смотрю, как у вас всё устроено, и ищу места, где LLM, компьютерное зрение или агенты дадут толк. Начинаю с того, что у вас за данные и куда они текут. Агентов как первый шаг советую редко.
Если данные нельзя отдавать наружу, делаем локально. Если локально дорого, считаем облако. Если дорого везде, честно говорю об этом до начала, а не после.
Прикидываю, сколько это сэкономит или принесёт, до того как потрачены деньги. Иногда вывод такой: игра не стоит свеч. Это тоже нормальный результат, и лучше узнать о нём заранее.
Когда данные не должны уходить с устройства или облако выходит слишком дорого, запускаю модели локально: on-device, edge, свои LLM. Я этим занимался на дронах и камерах, где сервера просто нет.

Модель это процентов десять всей работы. Остальное данные, железо и то, чтобы оно не развалилось в поле.

Александр Давыдов
Инженер · компьютерное зрение, edge AI, роботы
Кто я
Инженер. Уже больше четырёх лет вожусь с full-stack, embedded, edge AI и роботами, и довожу всё это до того, что работает в поле.
Начинал как разработчик, который брался за всё подряд. Потом стал тем, кто ведёт команду и отвечает за то, что в итоге поедет: защищённые госплатформы, камеры-детекторы на улицах городов, ИИ для автономных дронов, вездеходов и субмарин.
В Абу-Даби вёл R&D-группу по автономным роботам. До этого в City Technologies мы сделали три продукта, которые из идеи превратились в железо и сейчас стоят на улицах в России и соседних странах.
За эти годы я понял простую вещь: модель это хорошо если десять процентов работы. Всё остальное это данные, железо, интеграция и то, чтобы оно не развалилось через месяц в поле. Об этом и разговариваю с теми, кто хочет приткнуть ИИ к своему делу.
Из работы

Придорожные комплексы камера + вычислитель: распознают машины, номера и события в реальном времени. Стоят в нескольких городах.

Подбирал и собирал многокамерный захват для бортовой съёмки: детекция и трекинг прямо на ходу.

Jetson на роботе: делает детекцию и понимает сцену полностью офлайн, без всякого сервера.

Наземное управление и зрение для автономных дронов. Самое сложное это разглядеть мелкую малоконтрастную цель с высоты в сотни метров.

Когда готового железа нет, делаешь своё. Эту платку я разводил и поднимал сам, а корпус-кот напечатал для души.

Несколько сотен комплексов отгружены и работают в реальном мире, а не только в лаборатории.
Где работал
Помогаю компаниям с ИИ · Удалённо / по миру
Руководитель R&D-группы · Абу-Даби, ОАЭ
Тимлид, команда компьютерного зрения · Белгород / Москва
Ведущий разработчик (контракт) · Белгород
Чем работаю
Почта
В двух словах, что у вас за задача. Честно скажу, нужен ли тут вообще ИИ, что понадобится и сколько это примерно стоит. Если ИИ не нужен, так и скажу.
PDF · на английском и русском