Охота на электроовец. Большая книга искусственного интеллекта - Сергей Сергеевич Марков Страница 8

Рис. 5. Примеры решения задачи регрессии для изображений (определение возраста)

Рис. 6. Показатель регрессии в наследовании роста

3. Задачи преобразования последовательностей, или, как их принято называть, seq2seq-задачи (от sequence to sequence — «последовательность в последовательность»)[49]. Модель получает на вход некоторую последовательность и должна выдать также некоторую последовательность, соответствующую входной. Простой пример — задача перевода текста с одного языка на другой. В данном случае входная последовательность — это текст, написанный на одном языке, выходная — перевод входного текста на другой язык. Другой пример — задача распознавания речи, при которой на вход модели подаётся последовательность звуковых амплитуд, а на выходе получается текстовая расшифровка речи. Задачи регрессии и классификации тоже можно представить в виде задачи преобразования последовательности в последовательность. В этом случае входная последовательность будет содержать значения входных факторов (или весь набор значений факторов в виде единственного элемента-вектора), а выходная будет состоять из одного элемента — метки класса или значения регрессии. Этот пример показывает некоторую условность выделения категорий задач машинного обучения. Когда мы относим ту или иную задачу к категории seq2seq, то обычно хотим тем самым подчеркнуть, что входные и выходные данные модели могут иметь переменную размерность. Если же, например, на входе нашей модели последовательность переменной длины, а на выходе — метка класса, то такая задача будет скорее отнесена к задачам классификации последовательностей (sequence classification)[50]. Примером такой задачи может быть выявление языка, на котором написан некоторый текст переменной длины. Аналогичным образом говорят о регрессии последовательностей (sequence regression)[51], в случаях когда на входе модели — последовательность, а на выходе — некоторая величина, например на входе — текст комментария в Facebook, а на выходе — предполагаемый возраст его автора.

4. Также важными разновидностями задач машинного обучения являются задачи сокращения размерности (dimensionality reduction)[52] и задачи генерации (порождения) данных[53]. Представим себе свидетеля преступления, который описывает внешность преступника словами: сообщает цвет глаз, рассказывает о причёске, форме носа и глаз, наличии или отсутствии усов, бороды, воспроизводит другие особенности внешности, называет пол преступника, его ориентировочные рост и возраст. Такой набор свойств обычно называют признаками или фичами (от англ. features) объекта. Весь этот набор значений признаков куда более компактен, чем фото преступника, составленное из миллионов пикселей[54]. В данном случае мозг свидетеля выполняет роль модели, решающей задачу сокращения размерности входных данных. Художник же, который рисует портрет преступника по словесному описанию внешности, в данном случае выполняет роль генеративной модели, то есть такой модели, которая порождает в ходе своей работы новые данные (в нашем случае путём домысливания всех мельчайших деталей портрета). Модели машинного обучения, сочиняющие музыку, пишущие тексты или создающие изображения по заданию, также являются генеративными моделями.

Пары моделей, использующих одно и то же компактное представление данных, одна из которых преобразует данные в их компактное представление, а вторая — пытается по этому компактному представлению восстановить исходные данные, называют соответственно кодировщиком (encoder) и декодером (decoder).

1.3.3 Области применения машинного обучения

В наши дни методы машинного обучения применяются в самых разных областях человеческой деятельности. В таблице ниже представлены лишь некоторые из них[55].

Рис. 7. Области применения методов машинного обучения

В этой книге мы поговорим о различных проектах, относящихся к большинству из перечисленных здесь областей. В силу того, что машинное обучение проникает в самые разные сферы, о нём нередко говорят как о технологии, лежащей в основе новой технологической революции. «Принимая во внимание различные определения и научные доводы, используемые для описания первых трёх промышленных революций, я считаю, что сегодня мы стоим у истоков четвёртой промышленной революции. Она началась на рубеже нового тысячелетия и опирается на цифровую революцию. Её основные черты — это «вездесущий» и мобильный Интернет, миниатюрные производственные устройства (которые постоянно дешевеют), искусственный интеллект и обучающиеся машины», — пишет президент Всемирного экономического форума профессор Клаус Шваб в своей книге «Четвёртая промышленная революция» [56], [57].

2 Сквозь тьму веков. История думающих машин

Что такое история как таковая — объяснять незачем, так как это каждому должно быть известно с молоком матери. Но что такое древняя история — об этом нужно сказать несколько слов.

Трудно найти на свете человека, который хотя раз в жизни, выражаясь языком научным, не вляпался бы в какую-нибудь историю. Но как бы давно это с ним ни случилось, тем не менее происшедший казус мы не вправе назвать древней историей. Ибо пред лицом науки всё имеет своё строгое подразделение и классификацию.

Скажем короче:

а) древняя история есть такая история, которая произошла чрезвычайно давно;

б) древняя история есть такая история, которая произошла с римлянами, греками, ассириянами, финикиянами и прочими народами, говорившими на мертворождённых языках.

Надежда Тэффи, Аркадий Аверченко, Иосиф Оршер, Осип Дымов.

Всеобщая история, обработанная Сатириконом

Инструменты, помогающие выполнять интеллектуальные задачи, люди начали создавать так давно, что точная дата этого события нам неизвестна. Конечно, эти первые шаги человечества по пути развития думающих машин были бесконечно далеки от вершин современной технологии, и всё же, однажды вступив на путь вооружения умственного труда, человечество уже никогда не сходило с него. Каменное рубило стало продолжением рук человека, одежда из звериной шкуры — продолжением кожи, а охра и стены пещеры — продолжением человеческой памяти. За свою длинную историю люди перепробовали множество способов сохранения, накопления и передачи информации, начиная от царапин на раковинах моллюсков и заканчивая глиняными табличками, свитками папируса, причудливыми вампумами (образцами предметного письма коренных народов Америки) и магнитными дискетами. Некоторые из этих носителей информации позволили сохранить её на тысячелетия, а другие оказались менее долговечны, чем их создатели. Язык и знаковые системы сделали возможной передачу сведений от одного индивида другому, благодаря им важные сведения уже не утрачивались со смертью их носителя. Все эти инновации позволили во много раз усилить интеллектуальную мощь человека, стали основой дальнейшего технологического прогресса.

В этой книге мы остановимся только на нескольких любопытных примерах технологий прошлого и лишь с целью показать, что стремление к