Что такое языковая модель BERT и как она работает?
Каждый день миллиарды людей ищут в Google информацию на самые разные темы. Google, в свою очередь, стремится за короткое время выдать им наиболее релевантные и связанные с запросом результаты, чтобы улучшить пользовательский опыт. Для этого Google постоянно анализирует запросы пользователей, чтобы лучше понимать их намерение (search intent) и давать наиболее подходящие ответы. С этой целью Google применяет технологии машинного обучения, обработку естественного языка (NLP) и регулярно совершенствует свои поисковые алгоритмы и системы на базе искусственного интеллекта. Пример таких инноваций — языковая модель BERT (Bidirectional Encoder Representations from Transformers), которая позволяет Google глубже понимать контекст поиска и лучше отвечать на потребности пользователей.
Что такое языковая модель BERT?
Иногда пользователи, ища информацию по определённой теме, не могут чётко сформулировать свою мысль или не знают, какие формулировки использовать, чтобы получить лучший результат. В таких случаях им трудно найти нужную информацию, что негативно сказывается на пользовательском опыте. Языковая модель BERT — это алгоритм, созданный для того, чтобы лучше понимать запросы пользователей и выдавать им наиболее релевантные результаты.
Алгоритм работает так: когда пользователь выполняет поиск, слова в предложении или фразе анализируются не по отдельности, а во взаимосвязи с окружающими словами. Согласно модели, значение слова определяется с учётом слов, стоящих до и после него. Например, во фразе «spring vacation» (весенние каникулы), чтобы определить значение слова «spring» (которое может означать и весну, и пружину, и источник), модель учитывает и слово «vacation» и понимает, что речь идёт о времени года.
Кроме того, раньше Google не учитывал служебные слова, такие как «for», «to» и т. п., из-за чего иногда не мог полностью понять запрос пользователя. С внедрением языковой модели BERT эта проблема была решена, и Google научился точно интерпретировать запросы, в которых служебные слова несут важный смысл. В результате даже сложные запросы, написанные в разговорном стиле, теперь получают более релевантные ответы. Применение языковой модели BERT как в ранжировании, так и в блоках featured snippets помогает пользователям находить полезную информацию, соответствующую их потребностям.
Примеры работы алгоритма BERT
Рассмотрим фразу «2019 brazil traveler to USA need a visa». Запрос о том, нужна ли виза гражданину Бразилии для поездки в США. До внедрения алгоритма BERT этот запрос часто интерпретировался неверно, и в выдаче появлялись результаты для гражданина США, едущего в Бразилию. Однако с BERT Google смог правильно понять основное намерение поиска. Проанализировав слово «to» во взаимосвязи с окружающими словами, алгоритм распознал, что путешественник — гражданин Бразилии, направляющийся в США, а не наоборот. Это позволило Google выдать более точные и релевантные результаты.
Если взглянуть на другой пример, мы увидим, что даже когда пользователь прямо не называет Эйфелеву башню, Google всё равно понимает по словам в запросе, о чём идёт речь. Благодаря алгоритму BERT Google точно интерпретирует намерение, стоящее за поиском, и выдаёт правильный ответ в блоке featured snippet на странице результатов. Это показывает, как BERT помогает Google улавливать контекст запроса даже при отсутствии отдельных ключевых слов, чтобы пользователи получали наиболее релевантную и полезную информацию.
В первой части этого примера пользователь искал «parking on a hill with no curb», имея в виду парковку на склоне без бордюра. Однако Google проигнорировал слово «no» и ответил на запрос в противоположном смысле. Во второй части алгоритм BERT проанализировал все слова вместе и обеспечил корректный ответ на запрос.
На что обращать внимание после появления языковой модели BERT?
Специального процесса оптимизации под работу алгоритма BERT не существует. Однако ряд действий, которые мы выполняем, чтобы привести сайт в соответствие с критериями Google, косвенно помогает адаптироваться и к BERT. Например, если не просто использовать ключевые слова, а писать контент естественным языком и качественно, он становится более читабельным — а это считается одним из ключевых аспектов оптимизации. В процессе оптимизации нужно ориентироваться не только на поисковые системы, но и на то, чтобы пользователи извлекали из вашего контента максимум пользы и чтобы он удерживал их внимание.
В итоге языковая модель BERT глубоко понимает суть контента и предоставляет пользователям более точные и полезные результаты поиска. Это значит, что при создании контента следует ставить во главу угла ценность информации и пользовательский опыт, а не только ключевые слова. В противном случае ваш контент будет расценён как бесполезный для пользователей, и в результате сайт опустится в поисковой выдаче.
