بنیانگذاران تمایل دارند فکر کنند که شیوه های مسئولانه هوش مصنوعی برای پیاده سازی چالش برانگیز است و ممکن است پیشرفت تجارت آنها را کند کند. آنها اغلب به نمونه های بالغ مانند دفتر استفاده اخلاقی و انسانی Salesforce می روند و فکر می کنند تنها راه جلوگیری از ایجاد یک محصول مضر ، ایجاد یک تیم بزرگ است. حقیقت بسیار ساده تر است.
من سعی کردم یاد بگیرم که چگونه بنیانگذاران در مورد عملکردهای هوش مصنوعی مسئولانه در محل فکر می کردند ، با تعدادی از بنیانگذاران موفق در مراحل اولیه صحبت کردم و متوجه شدم بسیاری از آنها شیوه های مسئولانه هوش مصنوعی را اجرا می کردند.
فقط آنها آن را چنین نمی نامیدند. آنها فقط آن را “تجارت خوب” می نامند.
به نظر می رسد ، شیوه های ساده ای که تجارت را معنا می بخشد و منجر به تولید محصولات بهتر می شود ، تا حد زیادی به کاهش خطر آسیب های پیش بینی نشده اجتماعی کمک می کند. این شیوه ها بر این بینش متکی است که افراد ، نه داده ها ، در قلب استقرار موفق راه حل هوش مصنوعی قرار دارند. اگر این واقعیت را در نظر بگیرید که انسانها همیشه در جریان هستند ، می توانید با مسئولیت بیشتری مشاغل بهتری بسازید.
هوش مصنوعی را یک بوروکراسی در نظر بگیرید. مانند یک بوروکراسی ، هوش مصنوعی متکی به داشتن یک سیاست کلی است (“مدل”) که در اکثر موارد تصمیمات منطقی می گیرد. با این حال ، این سیاست کلی هرگز نمی تواند تمام سناریوهای احتمالی را که یک بوروکراسی باید به آن رسیدگی کند ، توضیح دهد – درست مانند یک مدل هوش مصنوعی که نمی توان برای پیش بینی هرگونه ورودی احتمالی آموزش دید.
وقتی این سیاستها (یا مدلها) کلی شکست می خورند ، کسانی که قبلاً در حاشیه قرار گرفته اند به طور نامتناسبی تحت تأثیر قرار می گیرند (یک مثال الگوریتمیک کلاسیک این است که مهاجران سومالیایی به دلیل عادات خرید غیرمعمول خود به دلیل کلاهبرداری برچسب گذاری می شوند).
بوروکراسی ها برای حل این مشکل با “بوروکرات های سطح خیابان” مانند قضات ، نمایندگان DMV و حتی معلمان ، که می توانند به پرونده های منحصر به فرد رسیدگی کنند یا تصمیم بگیرند که سیاست را اجرا نکنند ، حل می کنند. به عنوان مثال ، معلمان می توانند با توجه به شرایط تسکین دهنده ، از یک پیش نیاز دوره صرف نظر کنند ، یا قضات می توانند در صدور احکام کم و بیش نرمال باشند.
اگر هرگونه هوش مصنوعی به ناچار شکست بخورد ، پس – مانند بوروکراسی – ما باید انسانها را در جریان داشته باشیم و با در نظر گرفتن آنها طراحی کنیم. همانطور که یکی از بنیانگذاران به من گفت: “اگر من مریخی بودم که برای اولین بار به زمین می آمدم ، فکر می کردم: انسان ماشین پردازش است – من باید از آنها استفاده کنم.”
این که آیا انسانها اپراتورهایی هستند که در صورت عدم اطمینان سیستم هوش مصنوعی را تقویت می کنند یا کاربرانی که تصمیم می گیرند یک مدل را رد یا قبول کنند یا دستکاری کنند ، این افراد تعیین می کنند که هر راه حل مبتنی بر هوش مصنوعی در دنیای واقعی چقدر خوب کار خواهد کرد.
در اینجا پنج پیشنهاد عملی وجود دارد که بنیانگذاران شرکت های هوش مصنوعی برای حفظ و حتی استفاده از انسانها در تلاشند تا هوش مصنوعی مسئولیت پذیرتری بسازند که برای تجارت نیز مفید است:
فقط به اندازه نیاز خود هوش مصنوعی معرفی کنید
امروزه بسیاری از شرکت ها قصد دارند برخی از خدمات خود را با فرایندی مبتنی بر هوش مصنوعی راه اندازی کنند. هنگامی که این فرایندها در طیف وسیعی از موارد استفاده از خود کار می کنند ، افرادی که بیشتر آسیب می بینند افرادی هستند که قبلاً در حاشیه قرار گرفته اند.
در تلاش برای تشخیص خرابی ها ، بنیانگذاران هر بار یک جزء را کم می کنند ، اما هنوز امیدوارند که تا آنجا که ممکن است خودکار شوند. آنها باید برعکس را در نظر بگیرند: معرفی یک جزء AI در یک زمان.
بسیاری از فرایندها – حتی با وجود همه شگفتی های هوش مصنوعی – هنوز ارزان تر و قابل اطمینان تر هستند تا با انسان در حلقه اجرا شوند. اگر یک سیستم سرتاسری را بسازید که بسیاری از اجزای آن به صورت آنلاین فعال شوند ، ممکن است تشخیص اینکه کدامیک برای هوش مصنوعی مناسب تر است را برای شما دشوار کند.
بسیاری از بنیانگذاران ما با هوش مصنوعی به عنوان راهی برای تفویض طولانی ترین و کم هزینه ترین وظایف در سیستم خود به دور از انسانها ، نظر می دهند و آنها با همه سیستم های تحت مدیریت بشر شروع به شناسایی این وظایف مهم برای خودکارسازی کردند.
این رویکرد “هوش مصنوعی دوم” همچنین بنیانگذاران را قادر می سازد تا زمینه هایی را وارد کنند که داده ها فوراً در دسترس نیستند. افرادی که بخشهایی از یک سیستم را اداره می کنند ، همان داده هایی را که برای خودکار کردن این کارها به آنها نیاز دارید ، ایجاد می کنند. یکی از بنیانگذاران به ما گفت که بدون توصیه برای معرفی تدریجی هوش مصنوعی و تنها زمانی که به وضوح از اپراتور دقیق تر بود ، آنها هرگز از زمین خارج نمی شدند.
اصطکاک ایجاد کنید
بسیاری از بنیانگذاران معتقدند که برای موفقیت ، یک محصول باید در جعبه تمام شود و تا آنجا که ممکن است ورودی کاربر کم باشد.
از آنجا که هوش مصنوعی معمولاً برای خودکارسازی بخشی از گردش کار موجود استفاده می شود – همراه با پیش فرض های مرتبط در مورد میزان اعتماد به خروجی کار – یک روش کاملاً یکپارچه می تواند فاجعه بار باشد.
به عنوان مثال ، هنگامی که یک حسابرسی ACLU نشان داد که ابزار تشخیص چهره آمازون 28 عضو کنگره (که بخش بزرگی از آنها سیاه پوست بودند) را به عنوان مجرم تشخیص می دهد ، تنظیمات پیش فرض ضعیف در قلب مشکل بود. آستانه دقت خارج از جعبه فقط 80 تنظیم شده بود ، بدیهی است که اگر کاربر نتیجه مثبتی را در مقدار واقعی بدست آورد ، تنظیم اشتباه است.
ایجاد انگیزه در کاربران برای تعامل با نقاط قوت و ضعف محصول قبل از استفاده از آن ، می تواند احتمال عدم تطابق مفروض مضر را جبران کند. همچنین می تواند مشتریان را با عملکرد نهایی محصول خوشحال کند.
یکی از بنیانگذاران که با او صحبت کردیم ، دریافت که اگر مشتری قبل از استفاده مجبور باشد آن را سفارشی کند ، در نهایت از محصول خود به طور م effectivelyثرتری استفاده می کند. او این را به عنوان یک جزء غالب از رویکرد “اولین طراحی” می داند و دریافت که به کاربران کمک می کند تا نقاط قوت محصول را بر اساس یک زمینه خاص بازی کنند. در حالی که این رویکرد به زمان بیشتری برای شروع نیاز داشت ، در نهایت منجر به افزایش درآمد برای مشتریان شد.
زمینه بدهید نه پاسخ
بسیاری از راه حل های مبتنی بر هوش مصنوعی بر ارائه توصیه خروجی تمرکز می کنند. پس از ارائه این توصیه ها ، باید توسط انسانها انجام شود.
بدون زمینه ، توصیه های ضعیف را می توان کورکورانه دنبال کرد و باعث آسیب های پایین دست شد. به طور مشابه ، اگر افراد در حلقه به سیستم اعتماد ندارند و فاقد زمینه هستند ، می توان توصیه های بزرگ را رد کرد.
به جای واگذاری تصمیمات به کاربران ، به آنها ابزار تصمیم گیری بدهید. این رویکرد از قدرت انسان در حلقه برای شناسایی خروجی های مدل مشکل ساز استفاده می کند در حالی که خرید کاربر را برای یک محصول موفق ضروری می کند.
یکی از بنیانگذاران گفت که وقتی هوش مصنوعی آنها توصیه های مستقیم می کرد ، کاربران به آن اعتماد نمی کردند. مشتریان آنها از دقت پیش بینی مدل آنها خوشحال بودند ، اما کاربران جداگانه فقط توصیه ها را نادیده گرفتند. سپس آنها ویژگی توصیه را حذف کردند و در عوض از مدل خود برای افزایش منابعی که می توانست تصمیم کاربر را آگاه کند ، استفاده کردند (به عنوان مثال ، این روش مانند این پنج روش قبلی است و در اینجا آنچه کار کرده است). این امر منجر به افزایش نرخ پذیرش و درآمد شد.
کاربران و خریداران خود را در نظر بگیرید
این یک مشکل شناخته شده در فناوری شرکت است که محصولات می توانند به راحتی به مدیرعامل و نه به کاربران نهایی خدمت کنند. این مسئله حتی در فضای AI مشکل تر است ، جایی که راه حل اغلب بخشی از یک سیستم بزرگتر است که با چند کاربر مستقیم و بسیاری از کاربران غیر مستقیم بیشتر ارتباط برقرار می کند.
به عنوان مثال ، مشاجره ای را که هنگام شروع استفاده Starbucks از نرم افزار برنامه ریزی خودکار برای تعیین نوبت ها ایجاد شد ، در نظر بگیرید. برنامه زمانبندی برای کارایی بهینه شده است ، بدون توجه به شرایط کار. پس از یک درخواست موفقیت آمیز کارگری و مقاله برجسته نیویورک تایمز ، ورودی باریستاها مورد توجه قرار گرفت و باعث بهبود روحیه و بهره وری شد.
به جای آنکه مشتری را به معنای واقعی کلمه از آنچه که از شما می خواهند حل کنید ، ترسیم همه ذینفعان درگیر و درک نیازهای آنها را در نظر بگیرید. قبل از شما تصمیم می گیرید که هوش مصنوعی شما چه چیزی را در بهینه سازی کمک می کند. به این ترتیب ، شما به طور ناخواسته از تولید محصولی که ضرورتاً مضر است اجتناب می کنید و احتمالاً فرصت تجاری بهتری پیدا خواهید کرد.
یکی از بنیانگذاران که ما با آن صحبت کردیم ، این رویکرد را جدی گرفت و در کنار کاربران خود قرار گرفت تا قبل از تصمیم گیری برای بهینه سازی محصول خود ، نیازهای آنها را درک کند. آنها این کار را با ملاقات با مشتریان و نمایندگان اتحادیه دنبال کردند تا نحوه تولید محصولی را که برای هردو کار می کرد مشخص کنند.
در حالی که مشتریان در ابتدا محصولی را می خواستند که به هر کاربر اجازه دهد حجم بیشتری از کار را بر عهده بگیرد ، این مکالمات فرصتی را برای بازکردن پس انداز برای مشتریان خود با بهینه سازی حجم کاری موجود نشان داد.
این بینش به بنیانگذار اجازه داد تا محصولی را توسعه دهد که به انسانها کمک کند و صرفه جویی بیشتری در هزینه مدیریت از راه حلی که فکر می کردند می خواهند داشته باشد.
واضح باشید که تئاتر AI چیست
اگر میزان تبلیغات هوش مصنوعی خود را محدود کنید ، هم می توانید از عواقب غیر مسئولانه اجتناب کنید و هم محصول خود را به طور م sellثرتری بفروشید.
بله ، هیاهو در مورد هوش مصنوعی به فروش محصولات کمک می کند. با این حال ، دانستن اینکه چگونه می توان این کلمات کلیدی را از راه دقیق جلوگیری کرد ، بسیار مهم است. در حالی که صحبت کردن در مورد قابلیت های خودکار محصول شما ممکن است برای فروش مفید باشد ، اما اگر این بلاغت را بدون قید و شرط به کار ببرید ، می تواند نتیجه معکوس داشته باشد.
به عنوان مثال ، یکی از بنیانگذاران که با او صحبت کردیم دریافت که تقویت هوش مصنوعی آنها همچنین نگرانی های مربوط به حریم خصوصی مشتریان را افزایش می دهد. این نگرانی حتی زمانی ادامه یافت که بنیانگذاران توضیح دادند که بخشهایی از محصول مورد بحث به داده ها وابسته نیست ، بلکه به قضاوت انسان ها وابسته است.
انتخاب زبان می تواند به تراز انتظارات کمک کند و ایجاد اعتماد در یک محصول به جای استفاده از زبان خودمختاری با کاربران خود ، برخی از بنیانگذاران که با آنها صحبت کردیم دریافتند که کلماتی مانند “تقویت” و “کمک” به احتمال زیاد الهام بخشیدن به فرزندخواندگی است. این چارچوب “هوش مصنوعی به عنوان یک ابزار” نیز کمتر احتمال دارد اعتماد کور را به همراه داشته باشد که می تواند منجر به نتایج بدی شود. واضح بودن می تواند هم اعتماد بیش از حد به هوش مصنوعی را از بین ببرد و هم به فروش شما کمک کند.
اینها برخی از درسهای عملی است که توسط بنیانگذاران واقعی برای کاهش خطر آسیب های پیش بینی نشده ناشی از هوش مصنوعی و ایجاد محصولات موفق تر ساخته شده در بلند مدت آموخته شده است. ما همچنین معتقدیم فرصتی برای استارتاپ های جدید برای ایجاد خدمات وجود دارد که به ایجاد آسان هوش مصنوعی که برای تجارت نیز مفید است کمک می کند. بنابراین در اینجا چند درخواست برای استارتاپ ها وجود دارد:
- مردم را درگیر حلقه کنید: ما به استارتاپ هایی نیاز داریم که مشکل توجه “در حلقه” را حل کنند. واگذاری به انسانها مستلزم اطمینان از این است که این افراد در زمان عدم اطمینان از هوش مصنوعی متوجه می شوند تا بتوانند به طور معنی داری مداخله کنند. اگر هوش مصنوعی 95 درصد مواقع صحیح باشد ، تحقیقات نشان می دهد که مردم از خود راضی هستند و بعید است که 5 درصد مواردی که هوش مصنوعی اشتباه می کند را بگیرد. راه حل به چیزی فراتر از فناوری نیاز دارد. همانطور که رسانه های اجتماعی بیشتر یک نوآوری روانشناختی بود تا یک تکنیک ، ما فکر می کنیم استارتاپ ها در این فضا می توانند (و باید) از بینش های اجتماعی بیرون بیایند.
- رعایت استاندارد برای هوش مصنوعی مسئول: فرصتی برای استارتاپ هایی وجود دارد که استانداردهای موجود را حول هوش مصنوعی مسئول جمع آوری کرده و انطباق را اندازه گیری می کنند. انتشار استانداردهای هوش مصنوعی در دو سال گذشته با افزایش فشار عمومی بر مقررات هوش مصنوعی رو به افزایش بوده است. یک نظرسنجی اخیر نشان داد 84 درصد از آمریکایی ها معتقدند که هوش مصنوعی باید با دقت مدیریت شود و این را به عنوان اولویت اصلی ارزیابی می کنند. شرکت ها می خواهند به آنها نشان دهند که این امر را جدی می گیرند و نشان می دهند که از استانداردهای ارائه شده توسط IEEE ، CSET و سایرین پیروی می کنند ، مفید خواهد بود. در همین حال ، پیش نویس فعلی قانون گسترده AI اتحادیه اروپا (AIA) به شدت بر استانداردهای صنعت تأکید دارد. در صورت تصویب AIA ، رعایت الزامات ضروری می شود. با توجه به بازاری که پیرامون رعایت GDPR شکل گرفته است ، ما فکر می کنیم این مکان برای تماشا است.
چه یکی از این نکات را امتحان کنید و چه یکی از این شرکت ها را راه اندازی کنید ، تمرینات ساده و مسئولانه هوش مصنوعی می تواند به شما این امکان را بدهد که فرصت های تجاری زیادی را باز کنید. برای جلوگیری از ایجاد یک محصول مضر ، باید در بکارگیری هوش مصنوعی دقت کنید.
خوشبختانه این تفکر در مورد موفقیت بلند مدت کسب و کار شما سوددهی خواهد داشت.