как узнать название рыбы по фотографии
Умные сети для рыбаков: как мы учили смартфоны распознавать рыбу
Компьютерное зрение, как часть мира будущего
Технологии для автоматизации задачи, требующие распознавание образов, пользуются спросом на службе правительств и в высокотехнологичных компаниях. Они помогают решать задачи людей, нуждающихся в помощи — фермеров и защитников окружающей среды. Приложение Seeing AI от Microsoft описывает окружающий мир для слепых людей. А молодой разработчик создал для родителей фермеров сортировку овощей, облегчив труд.
Мы давно следим за развитием технологий. Потенциал машинного обучения вдохновляет нас искать приложения перспективных технологий в наших продуктах для решения повседневных задач простых людей. В 2016 году, работая над социальной сетью для рыбаков, мы решили сделать лучшее, что в наших силах, чтобы любимое многими хобби, стало не просто удобнее, но и интереснее.
Цель и постановка задачи
Современные рыбацкие сообщества до сих пор живут на форумах, построенных в начале 2000-х. Темы с рассказами о лучших местах для рыбалки, снаряжении и фотографиями улова — наиболее активны. Люди делятся запечатленной на смартфон рыбой, выкладывая пост на форум. Братья по оружию (в этом случае, удочке) обсуждают добычу, соревнуясь друг с другом кто поймал щуку побольше. Такую теплую соревновательную атмосферу нарушать нам не хотелось. Как раз напротив, сделать рыбалку активнее, удобнее и чуточку современнее, по крайней мере, в этом аспекте.
Порядка 500 млн человек во всем мире увлекаются сегодня рыбалкой. Представители одного из самых больших комьюнити, давно берут с собой смартфоны на рыбалку, однако, все также сидят на устаревших форумах или группах в Facebook. Удивительно, но современных ресурсов и приложений для рыбаков почти нет. Мы хотели исправить это досадное упущение посредством технологий.
Созданное нами приложение поможет рыбакам не только определить вид и длину рыбы, но и оставить трофей на доске почета. Каждый рыбак хочет видеть добычу в своей коллекции. Сканируя поимку, приложение добавляет ее в профиль, так, чтобы пользователь смог похвастаться уловом со своими друзьями. Наверное, у большинства рыбаков, которые считают это занятие больше чем хобби, есть чувство соревновательного азарта. Специально для них, мы также решили добавить рейтинги. Пользователи с большим уловом будут на вершине рейтинга, становясь стимулом для остальных. Рассказы типа «я поймал ВОТ такую рыбу» не будут восприниматься всерьез. Приложение будет знать, кого поймал рыбак и какой длины.
Человека больше не будет отвлекать загрузка фотографий на форум, определение вида и размера рыбы — все сделает машинное обучение. Останется только наслаждаться любимым занятием — ловить рыбку.
Учим сеть улавливать рыбу
Сбор данных
Открытые датасеты с разметкой вида рыбы или бокса с ее положением практически отсутствуют. Данные можно найти у ImageNet и отдельных лабораторий, но объём, качество снимков и разметки оставляют желать лучшего.
Первого взгляда на первую сотню фотографий улова будет достаточно, чтобы понять, что рыбакам со всего мира нравится делать селфи с рыбой, а не качественные фотографии.
Фотографии и видео с рыбалки содержат нужные данные, но они имеют ряд существенных недостатков:
Глубокие сети требовательны к объему и менее требовательны к качеству. Но рыболовные снимки в сыром виде непригодны.
Наша методика позволила нам решить сразу несколько проблем — сбора данных и их очистки. Она заключается в последовательном увеличении качества, моделей и данных:
Мы размечаем вручную границы рыбы для нескольких непохожих видов для избежания переучивания на один вид. Например, камбала, щука и карп. Несколько дней работы — это пара тысяч картинок.
Выбираем архитектуру для детекции. Быструю и точную для работы с большим количеством данных. R-FCN показалась подходящей.
Обучаем сеть различать рыбу и не-рыбу (фон), детектить первое. Делаем веб-интерфейс для инференса медийных материалов наших рыбаков. Он может вставить в веб интерфейс ссылку на своё видео, которое будет покадрово прогнанно через модель детекции. Все кадры, содержащие рыбу, будут выведены на экран для удаления дубликатов и ошибок…
Такая админка позволяет собирать данные для целевого вида, а обработанные сетью и проверенные человеком использовать для:
60%.
Обучение классификации
Мы намерены расширять количество распознаваемых видов, поэтому выбирали архитектуру классификатора среди сетей, которые предсказывали 1000 классов на ImageNet. Выбор пал на Inception-ResNet-2, как оптимальное соотношение размера и точности.
Для обучения использовались TensorFlow, EVGA GeForce GTX 1080 Ti и EVGA GeForce GTX 1080.
Полное обучение модели дало большую точность, чем обучение полносвязных слоев модели ImageNet. Скорее всего потому, что сеть научилась низкоуровневым паттернам, таким как рисунок чешуи. Обучение заняло более 80 часов на двух видеокартах.
Первые результаты были поразительны!
Пока все восхищались тем фактом, что доучили нейронку до уровня мультипликационной абстракции, некоторых терзало сомнение, что сеть переучилась.
Но зря, камера запечатлела типичного керри на миде, значит всё впорядке.
Полученное решение страдало от больших ошибок на похожих видах. На изображениях представлены легендарный язь и голавль, отличить которых, способны лишь заядлыми рыбаками.
Ситуация обстоит еще хуже с форелью.
Более десятка популярных видов форелей и лососей не просто могут запутать неспециалиста, но и невероятно изменчивы в течении жизни. От стадии личинки до нереста они меняют свой окрас и форму кардинально в зависимости от возраста, времени года и даже состава воды. Далеко не каждый человек распознает один и тот же вид одной форели с интервалом в несколько лет. Такие виды, как кижуч и чавыча отличить человеку сложно даже по описанию. Из-за человеческой ошибки данные перепутаны, для каждого класса модель требует не менее 1000 фотографий для точности более 80%, при нескольких десятках видах вручную компетентно просматривать такие объёмы ресурсозатратно.
Наше решение заключалось в итерационном очищении датасета от ошибок разметки посредством самой модели. Модель прогоняем на своём же датасете, находим все картинки с несовпадением предсказания модели и разметки. Большинство таких картинок оказываются ошибками последнего. Отсеиваем их, переучиваем модель и получаем высокие метрики на валидационном датасете. В результате, удалось получить точность модели более 90+% даже для похожих видов. Сеть умеет практически безошибочно различать 8 схожих видов форелей и лососей, и более десятка окуней. Однако, в редких случаях сеть все же ошибается. Причину лучше показать наглядно:
Измеряем улов
Переоценка своего улова — очень важная фича белковых нейросеток. Для точного измерения, нужно знать границы рыбы на фотографии и иметь дальномер, как на новых смартфонах со сдвоенными камерами.
Наша цель — обеспечить рыбакам точное измерение улова автоматически, простым наведением телефона. Приложение должно уметь определять, когда рыба в кадре классифицирована и локализована. Необходимо измерять длину рыб по нескольким различным стандартам. Архитектура Faster RCNN с Inception-ResNet-2 демонстрирует себя лучше аналогов, переводим классификаци на неё с R-FCN.
Результаты на аналогичных данных говорят сами за себя.
Тем не менее, такой метод измерения нам не подходит, так как боксы корректно определяющие длину и ширину только для горизонтального и вертикального положения, для произвольного положения не подходят и не способны оценивать длину изогнутой рыбы.
Точнее измеряем улов
Размечаем несколько тысяч фотографий ключевыми точками для покрытия всех способов измерения по различным стандартам.
Обучаем модель для регрессии по ключевым точкам, которая увеличит точность измерения длины и сможет влезть в телефон. Если мы переносим детекцию на устройство, то сможем отправлять на классификацию уже обрезанный участок с рыбой, что увеличит надёжность и поможет снять нагрузку с сервера. Телефон будет отправлять запрос только, когда обнаружит рыбу. К сожалению, модель регрессии точек не сможет отличить рыбу от не-рыбы, поэтому нам понадобится модель такого бинарного классификатора на устройство.
Для регрессии по ключевым точкам берём предобученную на ImageNet’e «голову» от архитектуры ResNet50, добавляем 2 полносвязных слоя на регрессию 14 переменных — координаты всех точек. Функция потерь MAE. Вес модели
Аугментации: флипы горизонтальные/вертикальные, яркость, рандомные кропы (хорошо зашли), скейл. Все координаты точек нормировались на [-1, 1]
Для создания бинарного классификатора, создаём свою модель, похожую на AlexNet. Обучаем на рыбах и «не-рыбах».
Тут все стандартно: бинарная кросс энтропия, аугментации, метрика accuracy (выборки сбалансированы)
В дальнейшем мы планируем увеличивать количество распознаваемых видов, превзойти точностью модели человеческую и переносить модель полностью на устройство. Наша цель не просто создать универсальный инструмент для рыбаков, а объединить все комьюнити в едином проекте.
Identification and Field Guide
Next Vision Limited
Для iPad
Снимки экрана
Описание
Мгновенно распознавайте рыб! С легкостью получите множество советов по содержанию рыбы.
Просто сделайте или загрузите фотографию рыбы, и Picture Fish поможет вам распознать ее за считанные секунды.
Основные возможности:
-Быстрое и точное распознавание более чем 2500 видов рыб
-Легко получить много советов по содержанию рыбы
-Обширная база данных c многочисленной информацией обо всех видах рыб
-Красивый и удобный интерфейс
О Picture Fish Премиум
-Название подписки: Годовой Премиум
-Продолжительность подписки: 1 год (7-дневный пробный период)
Никаких ограничений, ответы экспертов, обширная информация для изучения рыб, уникальные HD-обои на тему рыб и никаких водяных знаков или рекламы.
• Оплата будет произведена со счета iTunes при подтверждении покупки
• Подписка продлевается автоматически, если автообновление не было отключено как минимум за 24 часа до окончания текущего периода
• Оплата за продление будет списана со счета в течение 24 часов до окончания текущего периода с установлением стоимости продления
• Любая неиспользованная часть бесплатного пробного периода, если таковой был предложен, будет прекращена при приобретении пользователем подписки там, где это применимо
• Пользователь может управлять подписками и отключить автообновление, перейдя в настройки своей учетной записи после покупки
Приложение для рыбаков сканирует и определяет любую рыбу
Сергей Липченко, опубликовано 22 декабря 2016 г.
Даже самые заядлые рыбаки иногда ловят рыбу, которую просто не могут опознать. Когда это происходит, как узнать, сколько весит рыба, открыт ли на нее сезон ловли, и съедобна ли она? При помощи быстрого сканирования вашего улова, приложение FishVerify может определить вид рыбы, предоставить информацию о ее съедобности и среде обитания, и, используя GPS телефона, может сообщить какое количество данной рыбы можно выловить согласно закону.
FishVerify создано на основе нейронной сети, виде искусственного интеллекта, который может быть обучен при наборе данных и использоваться для распознавания изображений. В этом случае систему наполнили 1,5 миллионами картинок более 1000 различных видов рыбы, и бета-версия приложения на данный момент разбирается примерно в 150 видах.
Используя постоянно растущий набор данных, суть заключается в том, чтобы рыбаки могли сделать фото любой пойманной рыбы, и за пару секунд приложение скажет им, что это за рыба, а также все ее физические особенности, где ее можно найти, как поймать, и можно ли ее кушать. Существующие фотографии также могут быть импортированы, если вдруг неделю назад вы поймали неизвестную рыбу, но не знали, что это за вид и просто выкинули, сфотографировав предварительно.
FishVerify также может использовать информацию о местонахождении с вашего телефона, чтобы проверить, как много этой рыбы можно унести, не нарвавшись на штраф от рыбнадзора, сезонность этой рыбы и рекорды по улову этого вида. Приложение автоматически будет ставить геотеги ваших уловов, создавая подробный дневник того, где, когда и что вы словили. Если же рыбаку нужна конкретная рыба, то приложение подскажет, где лучше всего искать указанный вид.
Приложение FishVerify представлено на Kickstarter, где за 15 долларов и выше можно получить доступ к бета-версии уже сейчас. Доступно приложение пока только на iOS, но версия для Android уже находится в разработке.
Новости по теме:
Партнерская программа: в чем преимущества для вебов?
Гемблинг партнерки – это удобный способ заработка, если у вас есть аудитория пользователей. Огромным плюсом для вебов является то, что вся основная организация работы уже настроена. Вам не нужно искать заказчика, конкурировать с другими исполнителями, доказывать, что ваша площадка лучше подходит под оффер, а после получения оффера оговаривать множество нюансов по отчетности и оплате. Все это за вас делает сра-сеть. Все что вам нужно – просто зарегистрироваться и начать сотрудничество по конкретному офферу.
Российские власти выделят миллиарды на создание отечественного ПО
Правительство России собирается выделить гигантскую сумму на разработку российского программного обеспечения. Это будет господдержка, и деньги будут выделены из бюджета не позднее 2024 года. Как стало известно «Коммерсанту», сумма составит 46,3 миллиарда рублей, выдаваться она будет в виде грантов. Решение было принято в рамках заседания Президиума правительственной комиссии по цифровому развитию. Что важно, пока неясно, о каком софте идет речь – разумеется, такие деньги будут вложены только в очень крупный проект, который в дальнейшем будет использоваться или государством, или госструктурами, или же бюджетными ведомствами.
Куда в России пойти работать с онлайн-образованием
Пандемия коронавируса COVID-19 перевернула весь мир и все его аспекты, включая процесс обучения. Многие вузы начали обучать студентов онлайн, да и специализированные веб-ресурсы, обучающие тем или иным специальностям, на отсутствие клиентов теперь точно не жалуются. Вот только берут на работу специалистов с онлайн-образованием далеко не везде. В России так сложилось, что компании малого и среднего бизнеса не очень хотят видеть в своем штате людей, отучившихся в интернете – им все еще нужны работники, потратившие несколько лет своей жизни на полировку мягким местом стульев в аудиториях. Другое дело, по данным РБК, – крупные компании, вот им обучившиеся в онлайне специалисты очень даже нужны.
Что такое сервис виртуальных номеров, и для чего он нужен
Что такое сервис виртуальных номеров
Сервис виртуальных номеров – это очень популярная в России и многих странах мира услуга. Она позволяет покупать одноразовый российский номер для самых разных целей, притом не выходя из дома, в любых объемах и без физических SIM-карт, Подобной услугой могут пользоваться как физлица, так и индивидуальные предприниматели, а также юридические лица, и у каждого может быть свой сценарий применения виртуальных номеров.