へようこそ AIデコード済み、 ファストカンパニーAI の世界で最も重要なニュースを速報する週刊ニュースレター。ここから、このニュースレターを毎週受け取るように登録できます。
AIのおかげで不正行為はより賢くなっています
ある調査によると、AI を活用したサイバー犯罪は増加傾向にあります。 サイバーセキュリティ企業 Arkose Labs からの最新レポート、ハッカーの攻撃を加速させ、自動化された詐欺をより人間らしく、これまで以上に発見しにくくします。
Arkose氏や業界関係者らによると、最良の防御策の1つはAIの強化だという。しかし、レポートによれば、88% が「AI を利用したボット攻撃の大幅な増加」を経験していると回答しているにもかかわらず、サイバー攻撃を防御するために独自の AI を導入する「十分な準備ができている」と報告した企業は 5 社に 1 社程度にすぎません。過去2年間。
報告書によると、ボットはハッカーによって、サインアップボーナスを利用するために標的企業の正規アカウントを乗っ取り、多数の偽アカウントを作成するために使用されているという。そして、一部のボットは大規模な言語モデル システム自体を標的にし始めています。彼らは独自のプロンプトを AI に送信して、独自のモデルをトレーニングするためのデータを抽出したり、さらには自社の顧客に代わってプロンプトを中継したりして、事実上、承認なしに AI サービスへの自社のサブスクリプションを販売しています。
最近の他の研究では、生成 AI を使用してフィッシングやソーシャル エンジニアリング攻撃を自動化できることが判明しました。あ モルガン・スタンレーからの最近のレポート 同氏は、このテクノロジーを使用すると、人間よりも早く、よりターゲットを絞ったフィッシング メッセージを作成できるため、攻撃をより迅速に開始できるだけでなく、より効果的になる可能性があると指摘しました。報告書によると、一部の AI アルゴリズムは、AI のパスワード推測をより熟練させることもできます。
こうした状況を受けて、Arkose Labs のようなサイバーセキュリティ企業は、最新のボットを阻止するために特別に設計された新しいテクノロジーを開発しました。組織の約 5 つのうち 3 つは、セキュリティ脅威への対応には AI が不可欠であると考えています。 火曜日に発表されたキャップジェミニのレポートによると。
「AI と Gen AI の使用は、これまでのところ両刃の剣であることが判明しています」とキャップジェミニのサイバーセキュリティ、クラウド インフラストラクチャ サービスのグローバル責任者、マルコ ペレイラ氏は声明で述べています。 「前例のないリスクをもたらす一方で、組織はサイバーインシデントをより迅速かつ正確に検出するために AI への依存を強めています。」
しかし、AI を利用した攻撃は依然として課題が増大しており、多くの場合、ハッカーがこのテクノロジーを利用する上で有利なスタートを切る可能性があります。 「企業は AI エコノミーの中で運営されており、悪意のある者がテクノロジーを活用して高い ROI 攻撃を行う一方で、正規の企業はガバナンスや承認プロセスなどの内部障害により遅れをとっている」と Arkose Labs の CFO フランク・テルエル氏は声明で述べた。
生成 AI 自体を安全に保つことも、ますます大きなビジネスになっています。企業が生成 AI を使用しながらデータ漏洩や有害なコンテンツを回避できるようにする Prompt Security が水曜日に発表されました 1800万ドルを集めた シリーズAの資金調達ラウンドで。
委員会がAIのための「マンハッタンプロジェクト」を提案
その中で、 推奨事項 に記載されている 年報 米中経済安全保障検討委員会は火曜日に議会に発表し、汎用人工知能の開発を目的とした「マンハッタン計画のようなプログラム」を確立するよう求める内容を発表した。
報告書によると、「AGIは一般に、あらゆる認知領域において人間の能力と同等かそれ以上であり、あらゆるタスクにおいて最も鋭敏な人間の知性を超えるシステムと定義されている」とのことで、議会がAI、データ、クラウドコンピューティング企業は米国をAI分野でリードし続けるだろう。
今日の技術が汎用人工知能への道に近いかどうかは、AI界で激しく議論されているが、欧州委員会は、そのような超知能AIが近いうちに出現するのであれば、必ず米国本土で実現させると決意しているようだ。委員 ジェイコブ・ヘルバーグ—パランティアCEOアレックス・カープの上級顧問、一般に中国に対するタカ派の見解で知られる—ロイターに語った 中国は「AGIに向けて競争」していると述べ、データセンターの建設を容易にするなどの措置により米国のAI開発が促進される可能性があると示唆した。 AIデータセンターは、その高エネルギーリストが消費者の電気料金を上昇させ、気候変動を加速させ、その他の環境問題を引き起こす可能性があるという懸念の中で、最近反発を受けている。
委員会の報告書によると、一般に中国はAI分野で急速な進歩を遂げているが、AIモデルの開発、特にAIの駆動に必要な最先端チップの生産では依然として米国やその同盟国に遅れをとっている。米国と、半導体製造大国の台湾などの同盟国は、最新の処理ハードウェアとその製造に必要な技術への中国のアクセスを制限するよう取り組んできた。
報告書によれば、「中国はこの赤字に対処するために積極的に取り組んでいる」という。
AI における次の大きな出来事に目を向ける
ファストカンパニー は今週、2024 年の Next Big Things in Tech の受賞者を発表しました。この受賞者には、人工知能に取り組む多数の企業が含まれています。
認定された企業の中には、 ファストカンパニー は ベルウェザーアルファベットの X 研究所で設立された企業で、災害への対応を支援するために AI を使用して衛星画像を処理します。 エンコケムAI を使用して、農業用の環境に優しい新しい除草剤を設計します。そしてクアルコムは、 スナップドラゴンチップ は、Samsung、Honor、Xiaomi などのメーカーの 100 を超えるモバイル デバイスで新しい AI 機能を有効にしています。
他の受賞者には、生成 AI に一般的に使用される GPU よりも高速で電力効率が高いと主張するチップをベースにした AI スーパーコンピューターを構築している Cerebras Systems が含まれます。そして ナノトロニクスイメージング同社は、AIを活用したコンピューターチップ製造工場は従来の工場よりも効率的で、建設コストが大幅に安いと述べている。
完全なリストはここでご覧いただけます。
AI に関するその他の報道については、 ファストカンパニー:
- 調査によると、AIはすでに仕事を奪っている。ルーチンタスクが最初に実行されます
- LA の医師が AI を活用してホームレスのコミュニティが医療を受けられるよう支援している方法
- 真にインテリジェントな AI を実現するには、脳の感覚運動原理を模倣する必要があります
- ChatGPT と Google: どちらが創造性にとってより役立ちますか?
テクノロジー、ビジネス革新、仕事の未来、デザインに関する独占的なレポートとトレンド分析をご希望ですか? サインアップ のために ファストカンパニー プレミアム。
