13 декабря 2016 г.

jarvis

Каждый из этих двух шагов можно делать или специально заточенными алгоритмами, или нейросетью. В своё время, 20 лет назад, я изучил нейросети и сделал вывод, что всё это очень неэффективно. Спустя 20 лет вывод всё ещё правильный, так что наука потеряла в моём лице. Суть нейросетей проста: например, нам надо определить, если ли на картинке лицо. Допустим, картинка б/ч 100х100. Нам нужна такая функция от 10000 переменных, чтобы на выходе было 1 (это лицо) или 0 (лица нет). Мы понятия не имеем, что это за функция, а думать не хотим. Самое время сделать нейросеть! Рисуем кружочки и связи между ними. Каждый кружочек – несложная функция, изначально – пороговая: если на входе больше порога, то 1, иначе – 0. Линии – связи с коэффициентами, то есть вход кружочка – это сумма выходов кружочков предыдущего уровня, на что-то помноженных. Мы делаем предположение, что если напихать побольше кружочков и линий, то получится достаточно сложная функция, способная аппроксимировать нужную нам функцию определения лица. Теперь надо подобрать коэффициенты. Этот процесс называется «обучение» и опять же неприлично прост: пихаем на вход лицо, смотрим, что на выходе. Если сеть не угадала, то немного меняем коэффициенты (изначально они случайны). Если стало лучше, то начинаем семенить в этом направлении, типа как при градиентном спуске. Повторить. Много раз повторить. Очень много раз повторить на лицах, не лицах и проверочных картинках. При этом все прелести градиентного спуска типа застревания в локальных минимумах, с нами, так что успех всего этого обучения не гарантирован. Процесс обучения сети, пригодной для использования в народном хозяйстве, даже на специально заточенном железе типа NVidia Titan X за 1200 баксов занимает НЕДЕЛИ. То есть на ноутбуке в шкафу сеть будет учиться месяцами. И даже после этого она будет работать медленно, в разы медленнее, чем алгоритмы, над которыми думали. Короче, массовые параллельные вычисления всегда были, есть и будут светлым будущем вычислительных технологий #Jarvis

Комментариев нет:

Отправить комментарий