Даследчыкі лабараторыі назвалі гэта «друкарскай атакай».
Каб прымусіць праграму няслушна ідэнтыфікаваць прадмет, дастаткова прымацаваць да яго запіску з няправільным назвай. Пра гэта піша The Verge.
Па словах экспертаў, «друкарская атака» нагадвае атаку з выкарыстаннем спаборнасці малюнкаў. Напрыклад, з іх дапамогай можна падмануць праграмнае забеспячэнне беспілотных аўтамабіляў Tesla, каб яны без папярэджання мянялі паласу руху. Таксама гэта можа стварыць пагрозу для многіх прыкладанняў штучнага інтэлекту, ад медыцынскіх да вайскоўцаў.
Аднак у дадзеным выпадку турбавацца няма пра што - гаворка ідзе аб эксперыментальнай сістэме CLIP, якая пакуль не выкарыстоўваецца ні ў адным камерцыйным прадукце. CLIP прызначаны для вывучэння таго, як сістэмы штучнага інтэлекту могуць навучыцца вызначаць аб'екты без пільнай назірання, навучаючыся на базах дадзеных пар малюнкаў-тэкст. Для навучання сістэмы OpenAI выкарыстаў каля 400 мільёнаў такіх пар.
Даследчыкі OpenAI выявілі асобныя кампаненты ў сетцы машыннага навучання, якія рэагуюць не толькі на малюнкі аб'ектаў, але і на эскізы, малюнкі і звязаны з імі тэкст. Гэта назвалі «Мультымадальны нейронамі». Даследнікі лічаць, што сістэмы штучнага інтэлекту засвойваюць веды такім жа спосабам, як гэта робяць людзі.
У будучыні гэта можа прывесці да з'яўлення больш складаных сістэм камп'ютэрнага гледжання, але цяпер падобнае знаходзіцца ў зачаткавым стане. Любы чалавек можа адрозніць яблык ад ліста паперы з напісаным на ім словам «яблык», але штучны інтэлект накшталт CLIP на гэта пакуль не здольны. Здольнасць, якая дазваляе праграме звязваць словы і малюнкі на абстрактным узроўні, стварае ўнікальную памылку, якую ў OpenAI назвалі «памылкай абстракцыі».
Яшчэ адзін прыклад памылкі, які прывяла лабараторыя, - то, як ІІ вызначае скарбонкі. Калі дадаць да выявы любога прадмета значкі даляраў, CLIP палічыць яго скарбонкай.
# Навіны #openai # нейрасецівы # іі
крыніца