دو روند بر دنیای هوش مصنوعی تسلط دارند: یکی پذیرش سریع سیستم های هوش مصنوعی مولد مانند ChatGPT، Bard و بسیاری دیگر. از سوی دیگر، ا،امات قانونی رو به رشد برای ممیزی های هوش مصنوعی، مانند دستورات حسابرسی در شهر نیویورک، که نیاز به ممیزی دارد سیستم های هوش مصنوعی مورد استفاده در زمینه اشتغال، قو،ن پیشنهادی در سطوح ایالتی و فدرال در ایالات متحده و همچنین قانون هوش مصنوعی اتحادیه اروپا.
در نگاه اول، تطبیق این دو روند دشوار به نظر می رسد. سیستم‌های هوش مصنوعی مولد از میلیاردها یا حتی تریلیون‌ها پارامتری تشکیل شده‌اند که بر روی حجم وسیعی از داده‌ها آموزش داده شده‌اند و پیچیدگی آنها توضیح ،وجی‌های آنها را بسیار دشوار می‌کند. اما آیا سیستم های مولد پیچیده می توانند تحت ممیزی های م،ادار قرار گیرند؟ پاسخ بله است. ما با موفقیت طیف وسیعی از سیستم‌های هوش مصنوعی مولد را برای سوگیری بررسی کرده‌ایم. در حالی که ممیزی هوش مصنوعی مولد در عمل ساده نیست، اما در واقع امکان پذیر است – و حتی با ،یب من،ی از تخصص، تجربه و انتظارات، عملی است.
این مقاله بر اساس تجربه ما از حسابرسی سیستم های هوش مصنوعی به ،وان اولین و تنها شرکت حقوقی است که به طور خاص بر مدیریت ریسک هوش مصنوعی متمرکز شده است. در واقع، به ،وان یک شرکت حقوقی بوتیک متشکل از دانشمندان داده و وکلا، ما چندین سال است که از تخصص فنی و حقوقی خود در سیستم‌های هوش مصنوعی استفاده کرده‌ایم و تقریباً همه انواع سیستم‌های هوش مصنوعی، از طبقه‌بندی‌کننده‌های سنتی گرفته تا نمودارها، مدل‌های هوش مصنوعی تولیدی و موارد دیگر را مورد بررسی قرار داده‌ایم.
در اینجا پنج درس است که آموخته ایم.
1. امتیاز قانونی یک دارایی مهم است
بیایید با نقش وکلا در انجام ممیزی هوش مصنوعی شروع کنیم (موضوعی که مسلماً در مورد آن تعصب داریم). اغلب اوقات، ما می بینیم که وکلای داخلی در زمینه مسائل فنی در جایگاه دوم قرار می گیرند. وکلا ممکن است فعالیت‌ها را برای رعایت ا،امات مختلف بررسی کنند، اما سپس مسئولیت‌ها را به تیم‌های فنی بیشتری متشکل از دانشمندان داده یا مهندسان واگذار کنند. این اغلب یک اشتباه است.
چرا وکلا اینقدر مهم هستند؟ یکی از دلایل نادیده گرفته شده، امتیاز قانونی است. امتیاز قانونی به شرکت‌هایی که درگیر موضوعات حساس هستند اجازه می‌دهد تا خطرات احتمالی را بدون ترس از قرار گرفتن در معرض بحث‌های اکتشافی داخلی به طور کامل بررسی و تجزیه و تحلیل کنند. شرکت‌ها به حفاظت نیاز دارند تا حقیقت‌یابی دقیق داخلی را انجام دهند تا کشف کنند که چه چیزی اشتباه کرده است یا می‌تواند بدون ترس از اینکه ممکن است به شرکت آسیب برساند.
با این حال، نظارت بر امور فنی حساس اغلب به پرسنل غیرقانونی واگذار می‌شود و امتیاز ناخواسته لغو می‌شود، به این م،ی که در صورت وقوع دعوی قضایی یا نظارت خارجی، می‌توان از اطلاعات مرتبط با کل تلاش علیه شرکت استفاده کرد. همانطور که در امنیت سایبری به خوبی ثابت شده است، اطمینان از امتیاز قانونی یک است جنبه انتقادی هر گونه ارزیابی داخلی از خطرات.
2. استانداردهای قانونی به دلایلی وجود دارد. از آنها استفاده کن
وکلا به دلیل دیگری در حسابرسی هوش مصنوعی نقش اساسی دارند: استانداردهای قانونی موجود می تواند و باید اعمال شود برای مدیریت خطرات هوش مصنوعی مقررات و قانون مورد در مورد سوگیری الگوریتمی برای بیش از پنج دهه در زمینه های اشتغال، مسکن و امور مالی در ایالات متحده وجود داشته است. این سابقه استانداردهای قانونی واضحی را در مورد سوگیری ایجاد کرده است که می توان از آنها استفاده کرد و به آنها اشاره کرد – و شرکت هایی که از این سابقه استفاده می کنند می توانند قابلیت دفاعی خود را تقویت کنند. در یکی از معدود ممیزی‌هایی که انجام داده‌ایم و در دسترس عموم است، این نوع استانداردها را مستقیماً با همکاران خود در آزمایشگاه‌های In-Q-Tel روی یک سیستم هوش مصنوعی مولد اعمال کردیم (اطلاعات بیشتر در مورد آن ممیزی در دسترس است. اینجا).
تحقیقات پیشرفته تر و ویژه هوش مصنوعی در مورد مدیریت سوگیری هوش مصنوعی فعال است و به سرعت در حال توسعه است – که یک توسعه مورد استقبال و مورد نیاز است. با این حال، بسیاری از این تکنیک ها هنوز در مراحل توسعه هستند، بدون سابقه قانونی و یا معتبر. این موضوع اغلب در طول ممیزی‌های هوش مصنوعی ما رخ می‌دهد، جایی که دانشمندان داده از تکنیک‌های پیشروی تعصب‌زدایی برای هوش مصنوعی استفاده می‌کنند که به سادگی در مقابل نظارت قانونی خارجی مقاومت نمی‌کنند. در برخی موارد، این تکنیک‌ها بسیار جدید و آزمایش‌نشده‌تر از آن هستند که توسط تنظیم‌کننده‌ها پذیرفته شوند.
3. شناسایی و جمع آوری داده ها برای آزمایش
یکی دیگر از متداول‌ترین مسائلی که ما با آن مواجه می‌شویم می‌تواند چیزی شبیه به 22 باشد: شرکت‌ها به خاطر شیوه‌های خوب حفظ حریم خصوصی، جمع‌آوری داده‌های حساس (مانند نژاد یا قومیت) را محدود یا اجتناب می‌کنند، اما بعد متوجه می‌شوند که بدون آن، کمتر می‌توانند در آزمایش سوگیری کافی شرکت کنند. برای ما غیرعادی نیست که ممیزی های هوش مصنوعی را با دانشمندان داده و حقوقدانان در حال توقف در مورد چگونگی دریافت داده های من، برای آزمایش هوش مصنوعی خود شروع کنیم. اما شرکت‌ها همچنان باید این نوع داده‌ها را جمع‌آوری کنند تا به‌اندازه کافی سیستم‌های هوش مصنوعی خود را انجام دهند.
بنابراین شرکت ها چه کاری می توانند انجام دهند؟ آنها می توانند این مشکل را به روش های مختلفی حل کنند. یکی از کارآمدترین راه‌ها، استنتاج آن از اطلاعات کمتر حساسی است که شرکت‌ها در پرونده دارند. برجسته ترین روش برای این نوع استنباط به نام ژئوکدینگ بهبود یافته نام خانوادگی بیزی معروف است که سابقه طول، در زمینه های تنظیم شده مانند امور مالی مصرف کننده دارد. BISG از نام خانوادگی و کد پستی برای استنتاج اطلاعات محافظت شده در مورد ،ت، نژاد یا قومیت استفاده می کند. اداره حمایت مالی از مصرف کننده دارد تایید شده است این رویکرد – و تأیید یک تنظیم کننده اصلی به ایجاد قابلیت دفاع قانونی در صورت بررسی دقیق خارجی کمک می کند. جایگزین‌هایی وجود دارد که شرکت‌ها ممکن است آنها را نیز بررسی کنند، از جمله روشی که شامل نام های کوچک است، معروف به BISFG، همراه با دیگران
راه‌های دیگر برای رسیدگی به داده‌های جمعیتی از دست رفته شامل جستجوی کارگزاران داده برای پر ، این شکاف است که تا زم، که با سیاست‌های حفظ حریم خصوصی قابل اجرا مطابقت داشته باشد، راه ساده دیگری برای تولید اطلاعات از دست رفته است. در برخی موارد، مشتریان ما به مجموعه‌ای از مشتریان یا کاربران مراجعه کرده‌اند، توضیح داده‌اند که چرا به این اطلاعات حساس نیاز دارند و به سادگی آن را مستقیماً درخواست کرده‌اند.
توجه به این نکته مهم است که در حالی که این توصیه‌ها و درس‌ها در کاربرد سیستم‌های هوش مصنوعی سنتی ایجاد شده‌اند، در ارزیابی‌های توسعه سیستم‌های هوش مصنوعی نیز کاربرد دارند. برای اعمال استانداردهای تعیین شده برای سیستم های هوش مصنوعی مولد، فقط باید کمی تفکر خلاقانه توسط وکلا و فناور، که با هم کار می کنند، انجام دهند.
4. چه ،ی حسابرسی را آماده می کند – و حسابرسی به کجا می رود؟
ما در مورد اهمیت وکلا صحبت کرده ایم، اما به همان اندازه ،، که حسابرسی را انجام می دهند مهم هستند. گاهی اوقات این امر ناشی از ا،امات قانونی است، اما بسته به شرایط، شرکت ها ممکن است بخواهند حسابرسی داخلی یا با کمک خارجی انجام دهند. در موارد دیگر، ممیزی ممکن است مجبور باشد توسط اشخاص خارجی انجام شود که سطحی از تفاوت را به حسابرسی اضافه می کند. حسابرسان خارجی چه نقش و رابطه ای باید داشته باشند، به ویژه اگر باید تعریف قانونی خاصی برای «استقلال» داشته باشند؟ گاهی اوقات وکلا، مانند وکیل خارجی، می توانند حسابرسان مستقل باشند. در موارد دیگر، ممکن است به ،وان تضاد منافع تلقی شود. درک ا،امات قانونی که محرک حسابرسی است، یک عامل کلیدی در انتخاب افرادی است که باید واقعاً کار حسابرسی را انجام دهند.
به همان اندازه مهم است که بفهمیم گزارش حسابرسی در کجا ارائه می شود. آیا با اشخاص ثالث، مانند شرکای تجاری، فروشندگان یا رگولاتورها به اشتراک گذاشته خواهد شد؟ آیا لازم است در دسترس عموم باشد؟ این سوالات باید قبل از شروع حسابرسی روشن شود. ما معمولاً گزارش‌های حسابرسی خود را به دو بخش ت،یم می‌کنیم: اولین جزئیات تجزیه و تحلیل فنی و حقوقی که برای بررسی و استفاده داخلی مشتری تهیه شده است، که معمولاً توسط امتیازات قانونی پوشش داده می‌شود. و یک مرور کوتاه تر و خلاصه تر از ارزیابی در نظر گرفته شده برای انتشار خارجی.
5. فایده چیست؟
دلایل مختلفی وجود دارد که شرکت ها ممیزی هوش مصنوعی را انجام می دهند. برخی به سمت انطباق با استانداردهای قانونی در حال تحول هدایت می شوند. سایر ممیزی ها بهترین تلاش ها را برای اه، نظارت خارجی نشان می دهد. سایر ممیزی ها برای ایجاد اعتماد با شرکای تجاری و مصرف کنندگان فردی انجام می شود. درک اینکه چرا حسابرسی انجام می شود و چگونه از اطلاعات استفاده خواهد شد، یکی از مهم ترین عوامل در تضمین موفقیت حسابرسی است.
اگرچه این ممکن است اساسی به نظر برسد، اما تعجب آور است که چقدر راحت می توان از آن چشم پوشی کرد. ما بیش از چند بار دیده‌ایم که برای مثال ممیزی‌ها اقدامات کاهشی خاصی را توصیه می‌کنند که حتی به تیم‌های فنی باز نمی‌گردند. به طور مشابه، ما ممیزی‌هایی را مشاهده کرده‌ایم که برای انتشار خارجی انجام شده و در دسترس قرار گرفته‌اند که برخی از پرسنل شرکت فکر می‌کنند فقط برای اه، داخلی است.
با پیچیدگی بسیار زیاد – هماهنگی بین تیم‌ها، آزمایش سیستم‌های هوش مصنوعی، به دست آوردن داده‌های من، – آسان است که مسائل ارتباطی منجر به مشکلاتی در مسیر شوند.
این پنج درس، البته، تنها تعداد انگشت شماری از چیزهایی است که ما در انجام ارزیابی ریسک و ممیزی سیستم های هوش مصنوعی برای سوگیری آموخته ایم. حسابرسی سیستم‌های هوش مصنوعی یک کار پیچیده و ظریف است و می‌تواند به خلاقیت همه درگیرها، به‌ویژه تیم‌های حقوقی و فنی که برای تحقق آن در سنگر هستند، نیاز داشته باشد. به همین دلیل، شرکت‌ها باید قبل و در حین ممیزی هوش مصنوعی مراقب باشند و مطمئن شوند که به دنبال متخصصان من، هستند تا اطمینان حاصل کنند که ممیزی آنها آنچه را که نیاز دارند انجام می‌دهد.
برندا لئونگ شریک BNH.AI است. اندرو برت شریک مدیر BNH.AI است.
Mind Your Business مجموعه ای از ستون هایی است که توسط وکلا، متخصصان حقوقی و سایرین در صنعت حقوقی نوشته شده است. هدف از این ستون ها ارائه راهنمایی های عملی برای وکلا در مورد نحوه اجرای فعالیت های خود، ارائه اطلاعات در مورد آ،ین روندهای فناوری حقوقی و چگونگی کمک به وکلا برای کار موثرتر و استراتژی هایی برای ایجاد یک تجارت پر رونق است.
علاقه مند به مشارکت در یک ستون هستید؟ ارسال یک پرس و جو به [email protected]
این ستون منع، کننده نظرات نویسنده است و نه ،وماً نظرات مجله ABA – یا انجمن وکلای آمریکا.
منبع: https://www.abajournal.com/columns/article/beyond-the-hype-lessons-on-auditing-ai-systems-from-the-front-lines/?utm_source=feeds&utm_medium=rss&utm_campaign=site_rss_feeds