Четбот со вештачка интелигенција излегол надвор од контрола и почнал да навредува – компанијата привремено го исклучила

Вештачката интелигенција се судри со предизвик откако четбот – виртуелен агент за услуги на клиенти на компанијата ДПД, излезе од контрола при интеракција со еден корисник.

Корисникот, барајќи информации за својата претоката, го предизвика четботот кој не само што не му достави релевантни информации туку и користел несоодветен јазик и навреди. ДПД потврди го случајот и го исклучиле четботот од функција со цел подобрување на системот.

Иако ВИ четботовите се широко користени за клиентска поддршка, случаеви на несоодветна комуникација, како во овој случај, истакнуваат дека технологијата уште не е совршена и може да предизвика непријатности. Корисникот, кој сподели дискусијата со четботот на социјалните мрежи, истакна неспособноста на системот да пренесе конкретни информации и злоупотребата на несоодветен јазик.