コンテンツ
提供者：AltaML
Q：
一部の企業が、現代のAIシステムに「人間のフィードバック制御」を追加することを検討しているのはなぜですか？
A：
最先端のAIテクノロジーを使用する一部の企業は、これらのシステムに人間による制御を導入し、機械学習ツールやディープラーニングツールに人間の直接的な監督を与えようとしています。これらの企業も小規模企業ではありません。GoogleのDeepMindとElon MuskのOpenAIは、人工知能の進歩について実践している大手企業の2つの例です。そのことを念頭に置いて、結果は異なります。たとえば、DeepMindは、重要なデータを一般に提供したくないという認識で論争の的となっていますが、OpenAIは、 開いた 人工知能の制御に関するその仕事について。
ビル・ゲイツのような有名人でさえ、この問題に重きを置いており、ゲイツは、彼が何らかの方法で人間の制御を超えて動くかもしれない人工的な超知能の出現を心配している多くの人の一人だと言った。マスク氏はまた、「不正なAI」の可能性について警告的な言葉を出しました。
これはおそらく、企業がAIに人間の制御を適用するために取り組んでいる最も緊急の理由です。技術的な特異性によって、人間はもはや制御できない超強力な知覚技術になるという考えです。人間の野望の夜明け以来、手綱やハーネスを備えた馬、絶縁電線の電気、またはその他の種類の制御メカニズムなど、使用する力を制御できるようにするためのツールを導入しました。制御は本質的に人間の機能であるため、人工知能が実際の機能に近づくにつれて、人間は独自の直接制御を適用してその力を抑制していることを世界で理解しています。
ただし、企業が機械学習やAIプロジェクトに人間の制御を適用するのは、超インテリジェントロボットへの恐怖だけではありません。もう1つの主な理由は、マシンバイアスです。これは、人工知能システムが問題のデータを評価する方法が制限されることが多いため、システム固有のバイアスを増幅するという考えです。機械学習を扱うほとんどの専門家は、人間のユーザーグループを同様に扱うことができなかったITシステムについての恐怖物語を語ることができます-性別や民族の格差、または人間社会のニュアンスを本当に理解するシステムの他の失敗人との関わり方。
ある意味では、システムに人間のコントロールを配置するのは、システムが強力すぎるのではないか、あるいは、十分に強力ではないのではないかと恐れているためです。人間による制御は、機械学習データセットをターゲットにして、より正確に提供するのに役立ちます。モデルが十分に洗練されていないため、AIが十分に進歩していないため、またはいくつかのことは人間の認知の領域にあるため、コンピュータは単に独力では学習できないという考えを強化するのに役立ちます。人工知能はいくつかの点で優れています。たとえば、報酬とスコアに基づくシステムにより、人工知能は非常に複雑なボードゲーム「Go」で人間のプレイヤーを倒すことができましたが、他の点では、このインセンティブベースのシステムは完全に不十分です。
簡単に言えば、人工知能プロジェクトの仕組みに人間のユーザーを直接関与させ続けるには、多くの説得力のある理由があります。最高の人工知能技術でさえ、独力で多くの思考を行うことができます。しかし、感情や社会的慣習などを処理できる実際の生物学的な人間の脳がなければ、彼らは人間のように全体像を見ることができません。
熟練した機械学習会社 ビジネスと分野の専門家と大きなビジネス上の問題を解決するスキルを備えた機械学習開発者が混在することで、このバランスをとることができます。
