Published: 05 June 2023
これまで、ChatGPTほど急速に普及したテクノロジはない。今後は他のLLMアプリケーションもChatGPTに追随するであろう。ビジネス環境でLLMを採用するエグゼクティブ・リーダーは、チームに対し、LLMの倫理的な影響について熟考し、People-Centricなプラクティスを適用するよう求めるべきである。
ChatGPTは、史上最も急成長しているテクノロジの1つであるが、その利用に伴う倫理的な問題が早くも露呈している。例えば、データのバイアスや望ましくない／攻撃的な回答である。
大規模言語モデル (LLM) を使用した製品は今後も多数登場し、ユースケースも増加する。
LLMは画期的なテクノロジであると認識されているが、倫理に関する既存のベスト・プラクティスの多くを適用できる。
ビジネスにおけるLLMの使用、特に顧客とのやりとりをLLMに入力することはリスクを伴うが、早々に不可避となる可能性がある。
イノベーションを促進し、ディスラプションに対処する責任を負うエグゼクティブ・リーダーは、LLMの倫理的な使用に関する以下のベスト・プラクティスに、自社が従っているかを確認すべきである。
AIとやりとりしていることをユーザー (従業員、顧客、市民) が理解できるようにする。
プロセスやガイドラインについてデュー・デリジェンスを実施する。その目的の1つは、結果の検証やモデル・ドリフトの継続的なテストによって、制御不能なバイアスをはじめとする、LLMの使用における信頼性に関する問題を追跡することである。
プライバシーとセキュリティに関する懸念に対処する。そのためには、機密データがLLMに入力されたり、LLMから出力されたり、自社のコントロールが及ばない機械学習のためにLLMプロバイダーによって使用されたりしないようにする。
ベータ版のLLM機能を長期間にわたって使い、ユーザーが完璧な結果を期待しないようにすることで、誤りに対する許容度を高める。
Analysts:
Gartner research, which includes in-depth proprietary studies, peer and industry best practices, trend analysis and quantitative modeling, enables us to offer innovative approaches that can help you drive stronger, more sustainable business performance.
Our independence as a research firm enables our experts to provide unbiased advice you can trust.
Not only is Gartner research unbiased, it also contains key take-aways and recommendations for impactful next steps.
Our research practices and procedures distill large volumes of data into clear, precise recommendations.
We provide actionable, objective insight to help organizations make smarter, faster decisions to stay ahead of disruption and accelerate growth.
We offer one-on-one guidance tailored to your mission-critical priorities.
We work with you to select the best-fit providers and tools, so you avoid the costly repercussions of a poor decision.
Connect directly with peers to discuss common issues and initiatives and accelerate, validate and solidify your strategy.
Gartner clients can log in to access the full library.
Join your peers for the unveiling of the latest insights at Gartner conferences.
©2022 Gartner, Inc. and/or its affiliates. All rights reserved. Gartner is a registered trademark of Gartner, Inc. and its affiliates. This publication may not be reproduced or distributed in any form without Gartner’s prior written permission. It consists of the opinions of Gartner’s research organization, which should not be construed as statements of fact. While the information contained in this publication has been obtained from sources believed to be reliable, Gartner disclaims all warranties as to the accuracy, completeness or adequacy of such information. Although Gartner research may address legal and financial issues, Gartner does not provide legal or investment advice and its research should not be construed or used as such. Your access and use of this publication are governed by Gartner’s Usage Policy. Gartner prides itself on its reputation for independence and objectivity. Its research is produced independently by its research organization without input or influence from any third party. For further information, see Guiding Principles on Independence and Objectivity.
