Link kopyalandı!
BERT Dil modeli Nədir və Necə İşləyir? | Smartbee.az
Blog
2025-02-09 21:06

BERT Dil modeli Nədir və Necə İşləyir?

 Hər gün milyardlarla insan Google vasitəsilə müxtəlif mövzularda axtarış edir. Google isə istifadəçi təcrübəsini yaxşılaşdırmaq üçün onlara qısa zaman ərzində ən uyğun və əlaqəli nəticələri təqdim etməyə çalışır. Bunun üçün, Google daim istifadəçilərin sorğularını analiz edərək onların niyyətini (search intent) daha dəqiq anlamağa və ən uyğun cavabları onlara təqdim etməyə çalışır. Bu məqsədlə, Google maşın öyrənmə texnologiyalarından, təbii dil emalından (NLP) istifadə edir, axtarış alqoritmlərini və süni intellekt əsaslı sistemlərini mütəmadi olaraq təkmilləşdirir. Google-ın bu yeniliklərinə nümunə olaraq, axtarış kontekstini daha dərindən anlayaraq istifadəçilərin ehtiyaclarını daha yaxşı qarşılamağa şərait yaradan  BERT (Bidirectional Encoder Representations from Transformers) dil modelini göstərə bilərik.

BERT dil modeli nədir?

Bəzən istifadəçilər hər hansı mövzuda axtarış edən zaman fikirlərini aydınlıqla qeyd edə bilmir və ya ən yaxşı nəticə ilə təmin olunmaq üçün hansı ifadələrdən istifadə etməli olduqlarını bilmir. Bu zaman onlar lazımi məlumatları tapmaqda çətinlik çəkir ki, bu da istifadəçi təcrübəsinə mənfi təsir göstərə bilir. BERT dil modeli istifadəçilərin sorğularını daha yaxşı anlamaq və onlara ən əlaqəli nəticələri təqdim etmək üçün yaradılan bir alqoritmdir.

Alqoritm bu formada işləyir: istifadəçi axtarış edən zaman, cümlə və ya ifadədəki sözlər tək-tək deyil, ətrafındakı sözlərlə birgə analiz olunur. Modelə əsasən, sözün hansı mənada işlədilməsi ondan əvvəl və ya sonra gələn sözlərin diqqətə alınması ilə təyin olunur. Məsələn, “yaz tətili” ifadəsində “yaz” sözünün hansı mənada işləndiyini bilmək üçün “tətil” sözünü də nəzərdən keçirir və söhbətin fəsildən getdiyini anlayır. Bundan əlavə, əvvəllər Google for, to, və s. kimi köməkçi nitq hissələrini nəzərə almadığı üçün, bəzən istifadəçilərin istəklərini tam uyğun şəkildə qarşılaya bilmirdi. BERT dil modelinin tətbiqi vasitəsilə artıq bu problem aradan qaldırıldı və köməkçi nitq hissələrinin məna baxımından əhəmiyyətli olduğu sorğular da Google tərəfindən asanlıqla başa düşülməyə başladı. Bu sayədə, hətta danışıq tərzinə uyğun şəkildə yazılan qarışıq sorğular belə daha əlaqəli nəticələrlə cavablandırıldı. BERT dil modelinin axtarışda həm sıralamaya, həm də axtarışda önə çıxan snippet’lara tətbiqi istifadəçilərə istəklərinə uyğun faydalı məlumat tapmaqda köməklik göstərir.

BERT alqoritminə aid nümunələr

 Aşağıdakı “2019 brazil traveler to USA need a visa “ ifadəsinə nəzər salaq. Axtarış braziliyalı vətəndaşın ABŞ-a səyahət edərkən vizaya ehtiyac duyması ilə bağlıdır. Gördüyümüz kimi, BERT alqoritmindən əvvəl sorğu Braziliyaya səyahət edən bir ABŞ vətəndaşına uyğun şəkildə cavablandırılırdı. Alqoritm vasitəsilə Google axtarışın əsas məqsədini anladı və axtarışın məğzinə birbaşa təsir edən “to” sözünü də digər sözlərlə birlikdə analiz edərək, sorğunu daha əlaqəli şəkildə cavablandırdı. 

 Digər nümunəyə nəzər salsaq görərik ki, istifadəçi Eyfel Qülləsinin adını qeyd etməsə də, Google istifadəçinin sözlərindən nədən söhbət getdiyini anlayaraq lazımi cavabı axtarış nəticələri səhifəsindəki featured snippet bölməsində qeyd edib.

 Bu nümunənin ilk hissəsində istifadəçi “parking on a hill with no curb” axtarışını edərək, səki olmayan bir təpədə avtomobil saxlamağı nəzərdə tutsa da, Google “no” sözünü gözardı edib və sorğunu əks formada cavablayıb. İkinci hissədə isə, BERT alqoritmi bütün sözləri birlikdə analiz edərək sorğunun uğurlu şəkildə cavablandırılmasını təmin edib.

BERT dil modelindən sonra nələrə diqqət etməliyik?

BERT alqoritminin fəaliyyətinə uyğun hər hansı xüsusi optimallaşdırma prosesi mövcud deyil. Bununla belə, saytımızı Google-un kriteriyalarına uyğunlaşdırmaq üçün həyata keçirdiyimiz bir sıra proseslər dolayı yolla BERT alqoritminə də uyğunlaşmağımıza şərait yaradır. Məsələn, yalnız açar sözlərdən istifadənin əvəzinə məzmunu təbii dildə və keyfiyyətli şəkildə yazmaq onu daha oxunaqlı hala gətirir ki, bu da optimallaşdırma prosesinin əsas hissələrindən biri hesab olunur. Optimallaşdırma zamanı yalnız axtarış motorunu deyil, eyni zamanda istifadəçilərin məzmununuzdan maksimum dərəcədə faydalanmasını və onların diqqətini cəlb etməyi də nəzərə almalısınız.

 Nəticə olaraq, BERT dil modeli məzmunun məğzini daha dərindən anlayaraq, istifadəçilərə daha dəqiq və faydalı axtarış nəticələri təqdim edir. Bu da o deməkdir ki, məzmun hazırlayarkən açar sözlərdən çox, məlumatın dəyərinə və istifadəçi təcrübəsinə önəm vermək lazımdır. Əks halda, məzmun istifadəçilər üçün dəyərsiz hesab ediləcək və nəticədə saytınız axtarış nəticələrində geriləyəcək.