실험실 연구자들은 그것을 "인쇄상의 공격"이라고 불렀습니다.
프로그램을 잘못 식별하기 위해 잘못된 이름으로 메모를 첨부하는 것이 충분합니다. 직전은 그것에 대해 씁니다.
전문가들에 따르면 "인쇄 공격"은 경쟁 가능한 이미지를 사용하여 공격을 상기시킵니다. 예를 들어 도움을 받아 Tesla 무인 자동차 소프트웨어를 속이므로 경고없이 움직임을 변경할 수 있습니다. 또한 의료에서 군대에 이르기까지 인공 지능의 많은 응용 분야에 위협을 일으킬 수 있습니다.
그러나이 경우에 대해 걱정할 것이 아무것도 없습니다 - 우리는 모든 상용 제품에서 아직 사용되지 않은 실험용 클립 시스템에 대해 이야기하고 있습니다. 클립은 인공 지능 시스템이 쌍 텍스트 데이터베이스에서 공부하면서 가까운 관찰없이 물체를 결정하는 방법을 배울 수있는 방법을 연구하도록 설계되었습니다. 훈련을 위해, 오픈 시스템은 약 4 억 달러의 증기를 사용했습니다.
Openai 연구원은 객체의 이미지뿐만 아니라 스케치, 그림 및 관련 텍스트에도 반응하는 기계 학습 네트워크에서 개별 구성 요소를 발견했습니다. 이것은 "멀티 모달 뉴런"이라고 불 렸습니다. 연구원은 인공 지능 시스템이 사람들과 같은 방식으로 지식을 흡수한다고 믿습니다.
앞으로는 더 복잡한 컴퓨터 비전 시스템의 출현으로 이어질 수 있지만 이제는 초기에 있습니다. 누구나 사과를 종이에서 구별 할 수 있습니다. "Apple"이라는 단어를 "Apple"이라는 단어로 구별 할 수 있지만 클립과 같은 인공 지능이 능력이 없습니다. 프로그램이 추상 수준의 단어와 이미지를 연결할 수있는 능력은 오는 "추상화"라는 독특한 실수를 만듭니다.
실험실을 이끌었던 오류의 또 다른 예는 AI가 돼지 저금통을 정의하는 방법입니다. 달러 아이콘의 어떤 주제의 이미지에 추가하면 클립이 돼지 저금통을 고려할 것입니다.
#ople #opanei # 뉴스
자원