Facebook pārtrauc eksperimentu pēc tam, kad AI izgudro savu valodu
Pētnieki slēdz projektu pēc tam, kad mašīnas izstrādā savu veidu, kā sazināties cilvēkiem nesaprotamu
Inteliģentie roboti pilda arvien vairāk lomu
Getty Images
Bobs: es varu visu pārējo. . . . . . . . . . . . . .
Alise: balles ir nulle man man man man man man man man man man man man to
Bobs: tu es viss pārējais. . . . . . . . . . . . . .
Alise: balls have a ball to me to me to me to me to me to me to me
Bobs: es varu i i viss pārējais . . . . . . . . . . . . . .
Alise: balls have a ball to me to me to me to me to me to me to me
Neskatoties uz to, ka tā izskatās pēc patiesi šausmīgas televīzijas komēdijas scenārija, šī saruna patiesībā notika starp divām mākslīgā intelekta programmām, kas izstrādātas Facebook iekšienē, lai pilnveidotu sarunu mākslu.
Sākumā abi runāja vienkāršā angļu valodā. Bet tad pētnieki saprata, ka ir pieļāvuši kļūdu mašīnu programmēšanā.
'Nebija nekādu atlīdzību par pieturēšanos pie angļu valodas,' sacīja Dhruv Batra, viespētnieks no Džordžijas Tehnikas Facebook AI Research (gadatirgū). FastCo .
Tā kā šie divi aģenti sacentās, lai iegūtu labāko piedāvājumu, “nevienam no viņiem netika piedāvāts nekāds stimuls runāt tā, kā to darītu parastam cilvēkam,” saka FastCo.
Tāpēc viņi sāka atšķirties, galu galā pārkārtojot saprotamus vārdus šķietami bezjēdzīgos teikumos, kā rezultātā eksperiments tika apturēts.
Facebook bija jāslēdz AI, jo tas izstrādāja savu valodu pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 2017. gada 31. jūlijs
'Aģenti (vai programmas) novirzīsies no saprotamas valodas un izdomās paši sev koda vārdus,' skaidroja Batra. 'Tāpat kā tad, ja es saku 'the' piecas reizes, jūs to interpretējat tādējādi, ka es vēlos piecas šī vienuma kopijas. Tas tik ļoti neatšķiras no tā, kā cilvēku kopienas veido saīsinājumus.
Taču pētnieki vēlējās uzsvērt, ka eksperiments netika pamests, jo bija bažas par iespējamo negatīvo ietekmi, ko rada robotu saziņa.
Godīgais pētnieks Maiks Lūiss pastāstīja FastCo, ka viņi vienkārši bija izlēmuši, ka “mūsu interesēs ir roboti, kas varētu sarunāties ar cilvēkiem”, nevis efektīvi savā starpā, un tāpēc izvēlējušies pieprasīt, lai viņi viens otram rakstītu salasāmi.
Šī nav pirmā reize, kad mākslīgā intelekta iekārtas rada savu valodu.
Pagājušā gada novembrī Google atklāja, ka AI, ko tā izmanto savā Tulkošanas rīkā, ir izveidojis savu valodu, kurā tas tulkotu frāzes un no tās pirms vārdu piegādes mērķa valodā.
Ziņojot par tā laika attīstību, Tech Crunch teica: 'Šķiet, ka šī 'interlingva' pastāv kā dziļāks reprezentācijas līmenis, kas saskata līdzības starp teikumu vai vārdu.
'Tas varētu būt kaut kas sarežģīts vai tas varētu būt kaut kas vienkāršs,' piebilda vietne, bet 'fakts, ka tā vispār eksistē — oriģināls pašas sistēmas radījums, lai palīdzētu izprast jēdzienus, tā nav apmācīta saprast. — ir, filozofiski runājot, diezgan spēcīga lieta”.
Šie nesenie notikumi ir izraisījuši ētiskas diskusijas par iespējamām problēmām, kas saistītas ar mašīnām, kas sazinās viena ar otru bez cilvēka iejaukšanās.
'Facebook gadījumā vienīgais, ko tērzēšanas roboti spēja darīt, bija izdomāt efektīvāku tirdzniecības veidu,' saka. Gizmodo .
Taču ir 'iespējams, pamatoti iemesli neļaut inteliģentām mašīnām izstrādāt savu valodu, kuru cilvēki nevarētu jēgpilni saprast', piebilst vietne.
'Cerams, ka cilvēki būs arī pietiekami gudri, lai nepievienotu eksperimentālās mašīnmācības programmas kaut kam ļoti bīstamam, piemēram, ar lāzeru darbināmu androīdu armijai vai kodolreaktoram.'
