実験室研究者はそれを「活版印刷攻撃」と呼びました。
プログラムを誤って識別させるために、誤った名前でメモを添付するのに十分です。 Vergeはそれについて書き込みます。
専門家によると、「活版印刷攻撃」は競合する画像を使って攻撃を思い出させます。たとえば、彼らの助けを借りて、あなたは警告なしに動きを変えるようにテスラ無人車ソフトウェアを欺くことができます。それはまた、医療から軍の人工知能の多くのアプリケーションに脅威を創出することができます。
しかし、この場合、それについて心配することは何もありません - 私たちは実験的なクリップシステムについて話しています。クリップは、ペアテキストデータベースで勉強しながら、密接な観察なしに物体を決定する方法を学習できる方法を学習するように設計されています。訓練のために、Openaiシステムは約4億人のそのような蒸気を使用しました。
Openaiの研究者は、オブジェクトの画像だけでなく、スケッチ、図、および関連するテキストでも反応する機械学習ネットワーク内の個々のコンポーネントを発見しました。これを「多峰性ニューロン」と呼びました。研究者らは、人工知能システムが人々がするのと同じように知識を吸収すると信じています。
将来的には、これはより複雑なコンピュータビジョンシステムの出現につながる可能性がありますが、これはその乳児期にあります。誰もがそれに書かれた「りんご」という言葉で一枚の紙からリンゴを区別することができますが、クリップのような人工知能はそれにはできません。プログラムが抽象レベルで単語や画像をリンクできるようにする機能は、Openaiが「抽象化」と呼ばれるユニークなミスを作成します。
実験室を導いたエラーのもう1つの例は、AIがどのように貯金銀行を定義するかです。ドルアイコンの件名の画像に追加すると、クリップはそれを貯金箱と考えます。
#Ouple #opanei＃ニュース
ソース