コンテンツ
- 機械によって発射
- 自動化と仕事の混乱
- バグやストレスなし-あなたの人生を破壊することなく人生を変えるソフトウェアを作成するためのステップバイステップガイド
- 家電からのアプリケーション
- コントロールを取り戻す
- 仕組み
出典：Artinspiring / Dreamstime.com
取り除く：
自動化がそれに対してではなく、人類のために機能するためには、システムエラーを停止または修正する権限を与えられた保護手段と情報に基づいた人間が必要です。
「誤ることは人間です。 William E. Vaughanは、1969年にこの観察を行いました。自動化されたシステムを制御すると、システムがチェックされる前に、システムが故障して重大な損害を引き起こす可能性があります。
自動化は新しいものではありませんが、デジタルシステムと物理システムの統合のおかげで、はるかに普及しつつあります。大規模な自動化の利点は、大きな効率です。しかし、set-it-and-forget-itシステムに依存することのマイナス面は、誰かがそれを適切に設定できない可能性があることです。
介入なしで、機械を停止する方法もなく単純に続くシステムにより、破壊的な影響を与えることができます。したがって、技術は「魔術師の見習い」に描かれているような状況を作り出し、実際に生活を楽にするように見えるものが実際に制御不能になります。
機械によって発射
介入なしの自動化は、昨年、英国の技術者が理由なく仕事を辞めることになった原因です。 Ibrahim Dialloは、自分のセキュリティクリアランスカードが職場で働いていなかったことに気づき、それが彼が失業したためであることに気付きました。 「The Machine Fired Me」は、イベントに関する彼の拡張ブログ投稿に付けたタイトルです。
最終的に、Dialloの終了の原因は、誰を排除すべきかを決定する何らかのアルゴリズムの評価ではありませんでした。問題はシステム内ではなく、人為的エラーの1つでした。この場合、それはすべて、Dialloの契約更新情報を入力しなかった人間の失敗に対する自動化された対応でした。
マシンが彼が特に何かのために解雇されるべきであると決定したということではありません。それは単に、もはや雇用されていないとしてステータスが現れた誰かのためにそれにプログラムされたステップを実行しました。彼がコメントで明確にしたように、これは実際にはAIではなく「自動化されたスクリプト」です（AIがビジネスで（傷つける代わりに）役立つ方法については、AIが企業にできることを確認してください。）
自動化と仕事の混乱
この種の効果は、自動化された将来に期待できるすばらしい利点を説明するときに人々が思い描くものとはまったく異なります。タスクが自動化によって引き継がれる際のジョブのシフトに対する通常の楽観的な見方は、自動化されたシステムによって終了されるのではなく、ジョブが再定義されます。しかし現実には、一部の仕事は廃止され、それらを保持していた人々は、大部分が自動化された業界で新しいキャリアにシームレスに移行できるとは限りません。
仕事の中断は、AIの台頭のためにイーロンマスクが想定した、より小さなリスクの1つですが、仕事への影響に関する彼自身のビジョンは、フィッツジェラルドよりもはるかに悲観的です。マスクの見解では、AIは「人間文明にとって根本的かつ実存的なリスク」をもたらすため、厳格な規制が必要です。
バグやストレスなし-あなたの人生を破壊することなく人生を変えるソフトウェアを作成するためのステップバイステップガイド
誰もソフトウェアの品質に関心がない場合、プログラミングスキルを向上させることはできません。
家電からのアプリケーション
Musk自身の技術的資格にもかかわらず、MITのComputer Science and Artificial Intelligence Labの創設ディレクターを務め、iRobotとRethink Roboticsの両方を共同設立したRodney Brooksのような分野の専門家は、マスクのAIとロボット工学の脅威について間違っていると言います実際に動作します。
BrooksはTechCrunchのインタビューで、規制すべきものを正確に特定できるレベルまで技術を成熟させずに規制を求めるのは無謀だと指摘しました。彼はマスクに挑戦しました：「教えてください、あなたはどんな行動を変えたいですか、エロン？」
ブルックスは、ロボットが転職をもたらすと認めました。しかし彼はまた、業界のパラダイムを家庭用電化製品のパラダイムに変えることができると考えています。
TechCrunchのインタビューで彼が述べた方法は次のとおりでした。それらの使い方。」
それが、彼が言ったのは、「産業用機器やその他の種類の機器に関係する方法を変えて、機械がそれらの使い方を人々に教えるようにすること」の目標であるべきだということです。
コントロールを取り戻す
ブルックスが示唆することは、制御不能にスパイラルするように思われる自動化されたプロセスを開始する人為的エラーの問題に対する解決策の方向を私たちに示すかもしれません。 「魔術師の見習い」でミッキーの不幸を振り返ってみると、問題はすべて、システムを起動した人がシステムを停止したり方向を変更したりするための実際の通信方法がないことに起因しています。
しかし、従来の産業用モデルではなく、家電のラインに沿ってインターフェースを作成すると、文字通り人間の手に制御を戻すことができます。本当に効果的であるためには、インターフェイスは単にアクセス可能であるだけでなく、何が起こっているのかを人々にループさせ、受け取った更新と実行されたアクションに関するデータを提供するように設計されている必要があります。
仕組み
Dialloが偶発的に解雇された場合、それは、自動化されたシステムが単に彼をシステムから締め出さずに、リクルーターに彼が解雇されたことを知らせることを意味します。最初に、契約の更新が予定された日に行われなかったことを認識します。終了アクションを開始する前に、マネージャとリクルーターに、更新の欠如およびアクションが実行されない場合に1日以内に発生する結果に関する最新情報を提供します。
この種の警告により、人々は、問題の元の原因である人為的エラーを修正するために、自動化を続行するか介入するかについて、十分な情報に基づいた決定を下すことができます。しかし、人々も自分の役割を果たし、アラートに対応し、適切な行動をとる必要があります。言い換えれば、ブルックスが行動について提起した質問への答えは人間に当てはまります。彼らは自動化に直面してより受動的である必要があります。 （人間と機械が協調して機能する方法の詳細については、人間の要素のチャネリング：ポリシー、手順、およびプロセスを参照してください。）
Dialloが彼のブログのコメントセクションで書いたように、これが目的に達することができたのは、人々がマシンに逆らうことを拒否したからです。
見落とされるもう一つのことは、誰もがそれを引き起こしたのはヒューマンエラーであり、それが純粋に間違いであることを知っていたにもかかわらず、彼らはsに従うことを選んだということです。病院に「喫煙許可」の標識を置くようなもので、人々は常識を使う代わりに標識を尊重します。
したがって、自動化がそれに対してではなく、人類のために機能するために採用する必要があるポリシーは2つあります。マシン側では、アクセス可能で有益なインターフェースが必要であり、人間側では、何かが正しくないときを特定し、それを修正するために介入する権限を与えられました。