سازمان اطلاعات کره جنوبی مدعی شده با استفاده از فناوری هوش مصنوعی متوجه شدند که دلیل لاغری کیم جونگ اون، رهبر کره شمالی، تناسب اندام و حفظ سلامتی بوده است.

به گزارش هوشیو و به نقل از خبرگزاری شهرآرا نیوز، از مدت‌ها قبل صحبت‌هایی درباره وضعیت سلامتی و احتمال بیمار شدن کیم جونگ اون، رهبر کره شمالی، در رسانه‌های دنیا مطرح شده بود. سازمان اطلاعات کره جنوبی اما به قانون‌گذاران این کشور اعلام کرده که با استفاده از تکنیک هوش مصنوعی، تجزیه و تحلیل ویدئویی با وضوح فوق‌العاده برای بررسی وضعیت او به این نتیجه رسیده که با وجود کاهش وزن حدود ۲۰ کیلوگرمی کیم، او همچنان سالم است و تلاش می‌کند تا وفاداری خود به مردم را در مواجهه با مشکلات اقتصادی افزایش دهد.

کاهش وزن به منظور بهبود ظاهر فیزیکی

دو قانونگذار کره جنوبی اعلام کردند که سرویس اطلاعات ملی این کشور این ارزیابی را طی یک جلسه توجیهی پارلمانی پشت درهای بسته ارائه کرده و اضافه کردند که برخلاف ظاهر لاغرتر کیم، او هیچ مشکل سلامتی ندارد و احتمالا کاهش وزنش به خاطر تلاش‌های او برای بهبود فیزیک بدنش و حفظ سلامتی جسمی بوده است.

آن‌ها همچنین اعلام کردند که کیم جونگ اون به فعالیت‌های عمومی منظم خود ادامه می‌دهد و هیچ اتفاق غیرعادی در ویدئوهای کره شمالی دیده نشده است.

گمانه‌زنی درباره احتمال بیماری کیم تا حدی بوده که حتی برخی مدعی شدند او در مراسمات عمومی از بدل استفاده می‌کند. هرچند کیم بیونگ کی، یکی از قانونگذاران کره جنوبی این ادعا را رد کرده است.

بیشتر بخوانید

هوش مصنوعی تا سال 2025 از سرویس های Iaas و Paas پیشی می‌گیرد

او گفته: «سازمان اطلاعات اعلام کرده وزن کیم از حدود ۱۴۰ کیلو به ۱۲۰ کیلو کاهش پیدا کرده است. کیم امسال تاکنون ۷۰ روز در فعالیت‌های عمومی حضور داشته که نسبت به مدت مشابه سال گذشته ۴۵% افزایش داشته است.»

کیم جونگ اون که ۳۷ سال سن دارد، به طور علنی جانشینی برای خود انتخاب نکرده و برخی از کارشناسان می‌گویند این امر می‌تواند باعث هرج‎‌و‎مرج در این کشور فقیر دارای سلاح هسته‌ای شود.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید

منبع: هوشیو

پیش از توضیح در این باره که هوش مصنوعی چطور می‌تواند سرعت تشخیص سکته را افزایش دهد، باید کمی درباره اهمیت مواردی خاص بدانید. شناسایی دقیق و به‌موقعِ ضایعه‌های سکته انسدادی حاد (AIS) در تصاویر ام‌آرآی اهمیت خارق‌العاده‌ای برای بیماران دارد و می‌تواند مراحل درمانی قلبی را ارتقاء بخشد.

تفکیک یا شناسایی ضایعه از جمله فرایندهای روتین به شمار می‌رود که طی آن، رادیولوژیست‌ها بخش‌های غیرعادی در تصاویر مغزی را به صورت کِیفی و دستی برمی‌گزینند. با این حال، شناسایی ضایعه‌های بدن به صورت دستی به زمان زیادی احتیاج دارد و ممکن است تشخیص درستی صورت نگیرد. بر همین اساس، روش‌های کارآمد و مقرون به‌صرفه‌ای برای بررسی ضایعه‌های ناشی از سکته انسدادی حاد معرفی شده است.

هوش مصنوعی و تشخیص سکته

تحقیق حاضر، روشی جدید و کاملاً خودکار برای شناسایی و تفکیک ضایعه‌های ناشی از سکته انسدادی حاد در تصاویر ام‌آرآی عرضه می‌کند و منجر به تشخیص سکته با سرعت بالاتر خواهد شد؛ بنابراین، تصاویر به دست آمده به شکل کارآمدتری در قالب «سکته» و «غیر سکته» دسته‌بندی می‌شوند. این روش شناسایی نابهنجاری که به صورت کاملاً خودکار انجام می‌شود، تصاویر وزنی DWI و تصاویر ضرایب ADC را با تصاویر افراد سالم مقایسه می‌کند.

آن بخش‌هایی که در DWI و ADC با شدت بیشتری نشان داده شده‌اند، به عنوان ضایعه یا زخم تشخیص داده می‌شوند. روش تفکیک ضایعه در میان حدود ۱۰۰ فرد بررسی شده است. از آنجا که خطرِ شناسایی اشتباه ضایعه‌ها به دلیل آرتیفکت‌ها، نویزها یا کیفیت پایین تصویر وجود دارد، پوشش‌های ضایعه‌ای (Lesion masks) ایجاد شده در این روش از طریق یک ابزار طبقه‌بندی صفر و یک مورد پایش و فیلتر قرار می‌گیرند. بنابراین، مشخص می‌شود که پوشش ضایعه‌ایِ ایجاد شده دربردارنده‌ی AIS واقعی است یا خیر. عملکرد طبقه‌بندی در حدود ۲۰۰ ام‌آرآی ارزیابی شده است.

نتایج تحقیق که در مجله «روش‌های علوم عصب‌شناختی» منتشر شده است، سازگاری خوبی با ضایعه‌هایی دارد که کارشناسان به صورت دستی کِشیده‌اند. روش نوین از کارایی و سرعت بالایی بهره می‌برد و به حافظه یا قدرت محاسباتی بالایی نیاز ندارد.

محقق پروژه – ساناز نظری فارسانی – از مرکز Turku PET بیان کرد: «ما معتقدیم که این روش از ظرفیت لازم برای اجرا در بسیاری از مراحل تشخیص ضایعه برخوردار است و می‌تواند در فرایندهای تشخیص بالینی بیمارستان‌ها در دستور کار باشد. این روش به رادیولوژیست‌ها کمک می‌کند تا سرعت تشخیص ضایعه افزایش و سوگیری اپراتور نیز کاهش یابد.»

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید

منبع: هوشیو

محققان آزمایشگاه ملی ساندیا روشی جدید برای تصویربرداری سه‌بُعدی در شبیه‌ساز‌های کامپیوتری طراحی کرده‌اند که در حوزه‌های گوناگون، از جمله بهداشت و درمان، کارخانجات و خودروهای برقی، کاربردهای متعدد دارد. برای تعیین کارآمدی مواد به کاررفته در سلاح‌ها و تجهیزاتی از این دست به شبیه‌سازی‌های کامپیوتر نیاز است و به گفته‌ی اسکات ای‌رابرتز، سرپرست محققان پروژه‌ی مذکور، کارآمدی و اثربخشی روش جدید در تأیید اعتبار این شبیه‌سازی‌ها تأیید شده است. علاوه بر این، از گردش کار جدید می‌توان برای آزمایش و بهینه‌سازی باتری‌های به کاررفته در انباره‌های انرژی بزرگ‌مقیاس و خودروها نیز استفاده کرد.

ای‌رابرتز ادامه می‌دهد: «این پژوهش در راستای تحقق مأموریت ساندیا با هدف اجرای شبیه‌سازی‌های کامپیوتری معتبر و دقیق انجام شده است. ما نمی‌خواهیم به گفتن «به ما اعتماد کنید» بسنده کنیم؛ بلکه می‌خواهیم بگوییم «پاسخ ما این است و اینقدر به این پاسخ اطمینان داریم»؛ فقط به این شیوه است که می‌توان تصمیمات آگاهانه گرفت.»

محققان گردش کار جدید را EQUIPS نامیده‌اند که مخفف «تعیین عدم اطمینان شبیه‌سازی‌های فیزیکی مبتنی بر تصویر به شکل کارآمد» است؛ یافته‌های این پژوهش در ژورنال «ارتباط با طبیعت» به چاپ رسیده است.

مایکل کرایگیر، نویسنده‌ی اول این مقاله، می‌گوید: «با استفاده از این گردش کار جدید می‌توان به نتایج معتبرتری رسید، چون کادر و مرز مبهم اشیاء موجود در تصاویر شبیه‌سازی شده را با دقت مورد مطالعه قرار می‌دهد. به عبارت دیگر، شبیه‌سازی‌ها به جای تکیه بر تنها یک تفسیر از این کادرها، بر اساس چندین تفسیر گوناگون انجام می‌شوند تا به تصمیمات آگاهانه‌تری برسند.»

به گفته‌ی رابرتز، EQUIPS از یادگیری ماشین استفاده می‌کند تا عدم اطمینان موجود در تصاویر سه‌بُعدی شبیه‌سازی شده‌ را کمی‌سازی کند. در نتیجه، تصمیم‌گیرندگان با در دست داشتن مقدار عدم اطمینان، می‌توانند بهترین و بدترین خروجی‌های ممکن را مدنظر قرار دهند.

تصمیمات آگاهانه‌تر با EQUIPS

کاریانا مارتینز، از متخصصین کامپیوتر ساندیا، توضیح می‌دهد: «به عنوان مثال، پزشکی را در نظر بگیرد که می‌خواهد سی‌تی اسکن یک بیمار را بررسی کرده و درمانی برای سرطان به او پیشنهاد دهد. این اسکن را می‌توان به قالب سه‌بُعدی درآورده و در شبیه‌سازی کامپیوتری به کار برد تا دوز مناسب پرتودرمانی، برای درمان تومور بدون آسیب رساندن به بافت‌های اطراف، مشخص شود. در حالت عادی، چون تصویر سه‌بُعدی یک بار رندر شده، تنها یک تصویر شبیه‌سازی شده به دست می‌آید.

بیشتر بخوانید

توسعه شهر هوشمند در کشور با کمک هوش مصنوعی

در این شرایط، رسم کادر برای اشیاء موجود در تصویر کار سختی است و بیشتر از یک راه برای انجام آن وجود دارد. سی‌تی اسکن‌ها کیفیت چندان بالایی ندارند. به همین دلیل، مشاهده و تشخیص کادر اشیاء در آن‌ها می‌تواند چالش‌برانگیز باشد.»

افراد و ماشین‌ها این کادرها را به شکل متفاوتی رسم می‌کنند، اما تفسیر هر دو گروه در مورد اندازه‌ و شکل تومور، قابل قبول است.

مارتینز می‌گوید: «با استفاده از گردش کار EQUIPS که از یادگیری ماشین برای خودکارسازی فرآیند رسم کادرها استفاده می‌کند، تصویر سه‌بُعدی در نسخه‌های متعدد و گوناگونی رندر می‌شود؛ این رندرها چندین خروجی متفاوت تولید می‌کنند. بنابراین، پزشک به جای یک پاسخ، طیفی از پیش‌بینی‌ها پیش رو خواهد داشت که با تکیه بر آن‌ها، می‌تواند ریسک را ارزیابی کرده و در مورد راهکار درمانی مناسب (شیمی‎درمانی و یا جراحی) تصمیم بگیرد.»

رابرتز نیز در این باره توضیح می‌دهد: «در کار با داده‌های دنیای واقعی، هیچ راهکار یگانه‌ای وجود ندارد. اگر قرار باشد از یک پاسخ خاص کاملاً مطمئن باشیم، باید بدانیم این پاسخ در کجای طیف قرار دارد. تصمیم نهایی هم باید بر اساس کل این طیف اتخاذ شود.»

تیم ارائه‌دهنده‌ی EQUIPS منبع‌کد و نمونه‌ی فعال آن را به صورت آنلاین در دسترس قرار داده‌اند تا بقیه‌ی برنامه‌نویس‌ها و محققان نیز از آن بهره ببرند.

مسئله‌ی اصلی: قطعه‌بندی

کرایگر توضیح می‌دهد: «اولین گام شبیه‌سازی، قطعه‌بندی تصویر است؛ منظور از قطعه‌بندی، انتساب پیکسل‌ها (یا در تصاویر سه‌بُعدی، ووکسل‌ها) به هر کدام از اشیاء موجود در تصویر است تا بتوان کادر مشخصی بین آن‌ها رسم کرد. پس از این مرحله، متخصصان مدل‌هایی برای شبیه‌سازی محاسباتی می‌سازند. اما پیکسل‌ها و ووکسل‌ها در اثر تغییرات تدریجی گرادیان‌ها در هم آمیخته می‌شوند؛ بنابراین رسم کادر همیشه کار آسان و سرراستی نیست. دلیل وجود مناطق خاکستری در تصاویر سی‌تی اسکن یا ایکس‌ری نیز همین است.»

مشکل اساسی قطعه‌بندی تصاویر اسکن‌شده این است که راه‌های متعددی برای انتساب پیکسل‌ها به اشیاء وجود دارد و این مشکل، فارغ از این‌که مسئله به دست یک متخصص انجام شود، یا از طریق بهترین‌ ابزارهای برنامه‌نویسی و یا حتی جدیدترین قابلیت‌های یادگیری ماشین، رخ خواهد داد.

طبق توضیحات مارتینز، اگر از دو نفر بخواهیم روی یک تصویر یکسان مسئله‌ی قطعه‌بندی انجام دهند، احتمالاً از فیلترها و تکنیک‌های گوناگونی استفاده کرده و به نتایج متفاوتی می‌رسند. همه‌ی این نتایج معتبر هستند و لازم نیست یکی را برتر از دیگری بدانیم. تکنیک‌های پیشرفته‌ی یادگیری ماشین هم داستان مشابهی دارند. شبکه های عصبی نتایجی دقیق‌تر و معتبرتر با سرعت بالاتر نسبت به روش‌های دستی تولید می‌کنند؛ با این حال، هر کدام از آن‌ها از ورودی‌های گوناگون استفاده کرده و روی پارامترهای متفاوتی تمرکز می‌کنند. بنابراین، شبکه‌ها نیز قطعه‌بندی‌های متفاوت اما معتبری تولید می‌کنند.

بیشتر بخوانید

هوش مصنوعی می‌تواند سرعت تشخیص سکته را افزایش دهد

ارتقاء اعتبار شبیه‌سازی‌های نهایی با گردش کار جدید

کرایگر توضیح می‌دهد: «گردش کار جدید قطعه‌بندی EQUIPS این ابهام‌ها از میان برنمی‌دارد، بلکه اعتبار شبیه‌سازی‌های نهایی را ارتقاء می‌دهد؛ بدین منظور، ابهام‌های ناشناخته‌ی قبلی را برای تصمیم‌گیرندگان آشکار می‌سازد.»

EQUIPS برای اجرای قطعه‌بندی، دو نوع تکنیک یادگیری ماشین به کار می‌گیرد: شبکه‌های دراپ‌اوت مونته-کارلو و شبکه‌های عصبی پیچشی بیزی. هر دوی این رویکردها یک مجموعه از نمونه‌های قطعه‌بندی تصویر تولید می‌کنند. این نمونه‌ها با هم ترکیب می‌شوند تا احتمال وجود یک یپکسل یا ووکسل در قسمت‌های مختلف تصویر مشخص شود. EQUIPS برای بررسی اثر عدم اطمینان و اجرای قطعه‌بندی، نگاشتی از احتمالات ایجاد می‌کند؛ سپس، از این قطعه‌بندی‌ها برای اجرای چند شبیه‌سازی و محاسبه‌ی توزیع عدم اطمینان استفاده می‌شود.

محققانی از دانشگاه پردو و اعضای «برنامه‌ی همکاری با دانشگاه‌ها» این تحقیقات را تحت پوشش «برنامه‌ی تحقیق و توسعه‌ی مدیریت‌شده‌» آزمایشگاه ساندیا انجام داده‌اند.

محققان چندین مورد از حوزه‌هایی که می‌توانند از گردش کار EQUIPS بهره‌مند شوند را برشمرده‌اند: سی‌تی اسکن الکترودهای گرافیتی در باتری‌های یونی لیتیوم که بیشتر در خودروهای برقی، کامپیوترها، تجهیزات پزشکی و هوایی به کار می‌روند، اسکن ترکیباتی که به عنوان عایق حرارتی در تجهیزات حاضر در اتمسفر، مثل راکت یا موشک‌ها، استفاده می‌شوند و در آخر، تصاویر اسکنی که از شاهرگ و ستون مهره‌ی انسان‌ها گرفته می‌شوند.

رابرتز می‌گوید: «هدف اصلی ما از انجام این کار این بوده است که با تکیه بر قطعه‌بندی ماشینی، لازم نیست تنها به دریافت یک پاسخ واحد بسنده کنیم؛ بلکه می‌توانیم به صورت عینی قطعه‌بندی انجام شده را مورد بررسی قرار دهیم تا ابهام و عدم اطمینان آن را دریابیم. درک و تشخیص عدم اطمینان نتیجه‌ی کار را معتبرتر کرده و اطلاعات بیشتری در اختیار تصمیم‌گیرندگان قرار می‌دهد. این نتایج در همه‌ی حوزه‌هایی که از شبیه‌سازی‌های کامپیوتری استفاده می‌کنند، از جمله مهندسی و پزشکی، قابلیت کاربرد دارند.»

به نظر شما این روش جدید تصویربرداری سه‌بُعدی در چه حوزه‌های دیگری می‌تواند کاربرد داشته باشد؟

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید

منبع: هوشیو

مرکز آینده‌ کار Cognizant چرخه‌ معیوبی را کشف کرده که مانع پیشرفت هوش مصنوعی و کابردهای آن است، طوری که تنها ۲۰ درصد از سردمداران این حوزه امکان پیشروی بیشتر را در اختیار دارند.

بر اساس چارچوبی که Cognizant ارائه داده، کسب و کارهای کمی در صدر «منحنی بلوغ هوش مصنوعی» قرار دارند. تنها ۲۰ درصد کسب و کارها جزو «سردمداران» هوش مصنوعی در نظر گرفته می‌شوند، ۶۱ درصد آن‌ها «مجری» (یعنی در حال پیشرفت هستند، اما هنوز به بلوغ نرسیده‌اند) و ۱۹ درصد مبتدی هستند.

کسب‌و‎کارهای بالغ

آن دسته از کسب و کارهایی که بر اساس این منحنی بالغ به نظر می‌رسند، رویکرد مثبت‌تری نسبت به اثرات فناوری هوش مصنوعی خود دارند. ۸۱ درصد از سردمداران و تنها ۲۰ درصد از مجریان و مبتدیان معتقدند سرمایه‌گذاری روی هوش مصنوعی، تأثیر چشمگیری روی ارتقای عملکردشان خواهد داشت.

۷۸ درصد از سردمداران انتظار دارند تا قبل از سال ۲۰۲۳، نتیجه‌ ملموسی از به کارگیری هوش مصنوعی ببینند. این عدد برای سایر کسب و کارها، ۳۲ درصد است.

در این قسمت، مثلثی را معرفی می‌کنیم که از نظر Cognizant، مانع پیشرفت هوش مصنوعی است و جلوی بلوغ آن را گرفته است:

• ارزش قائل نشدن برای قابلیت‌های تصمیم‌گیری هوش مصنوعی
• اعتماد نکردن
• محدود کردن کاربرد هوش مصنوعی در تصمیم‌گیری‌ها

سرمداران این عرصه از نظر این سه مورد نیز تفاوت زیادی با سایر کسب و کارها دارند. از هر ده سردمدار هوش مصنوعی، نه نفر این فناوری را «داستان اصلی عصر حاضر» می‌دانند، اما تنها ۴ مورد از ۱۰ شرکت مبتدی و مجری چنین طرز تفکری دارند. بیش از ۹۰ درصد سردمداران قابلیت این فناوری در پیش‌بینی تهدیدهای بالقوه و تحلیل حجم بالای داده‌ها را قبول دارند.

در بین دو گروه‌ دیگر، ۵۰ درصد بر این باورند که هوش مصنوعی به پیش‌بینی خروجی‌ها کمک می‌کند و تنها ۳۳ درصد آن را برای درک و پردازش دیتاست‌های بزرگ مفید می‌دانند.

به دنبال یک رشته اتفاقات جنجال‌برانگیز و پرسروصدا از شکست هوش مصنوعی، به خصوص در دوران همه‌گیری کووید-۱۹، اعتماد به قابلیت تصمیم‌گیری این فناوری (و به صورت کلی نرم‌افزارها) رو به افول رفته است.

مقاله‌ای جدید از BCS (مؤسسه‌ رسمی IT) گام‌های اشتباهی که به اعتماد به هوش مصنوعی خدشه وارد کرده‌اند را مورد مطالعه قرار داد؛ از جمله‌ این اشتباهات می‌توان به بحران سال گذشته‌ بریتانیا اشاره کرد که مربوط به استفاده از یک الگوریتم برای برآورد نمرات دانشجویان بود.

اعتمادسازی

مطالعات Cognizant نشان داد هرچه تجربه‌ استفاده از این فناوری بیشتر باشد، اعتماد بیشتری نسبت به قابلیت تصمیم‌گیری آن وجود خواهد داشت. در هر صورت، ساخت این اعتماد به زمان نیاز دارد.

نکته‌ جالب اینجاست که سردمداران هوش مصنوعی در حوزه‌هایی متفاوت از سایر شرکت‌ها، از این فناوری استفاده می‌کنند.

بیشترین کاربرد هوش مصنوعی در میان سردمداران مربوط به پیش‌بینی خروجی است؛ رتبه‌ بعدی مربوط به درک داده‌های بدون ساختار است. رتبه‌ اول برای بقیه‌ی شرکت‌ها مربوط به درک داده‌ها و به دنبال آن، پیش‌بینی خروجی، جمع‌آوری لحظه‌ای اطلاعات و دستیابی به بینش و اطلاعات جدید (با درصد مشابه) می‌باشد.

در حال حاضر، بیشترین استفاده از فناوری هوش مصنوعی برای هر سه دسته مربوط به چت‌بات‌هاست. تنها حوزه‌هایی که در آن‌ها، شرکت‌های مجری و مبتدی بیشتر از سردمدران یا به اندازه‌ آن‌ها از هوش مصنوعی استفاده می‌کنند عبارت‌اند از: پشتیبانی مرکز تماس، تشخیص چهره، امنیت محوطه، و عاملان هوشمند.

برای کمک به قطع این چرخه و پیشرفت بیشتر در منحنی بلوغ هوش مصنوعی، Cognizant سه پیشنهاد کلیدی به کسب و کارها ارائه می‌دهد: تدوین برنامه‌ای هدفمند، فراتر رفتن از اهداف کوتاه‌مدت و آسان، پذیرش طیف وسیع‌تری از راهکارهای هوش مصنوعی و در آخر، انسان‌محورتر کردن کاربردها.

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید

منبع: هوشیو

جمعی از برترین متخصصان هوش مصنوعی جهان در رویداد بین‌المللی TNW حضور به عمل خواهند آورد تا درباره آینده این حوزه و همچنین تحقیقات یادگیری ماشین به بحث و تبادل نظر بپردازند.

یادگیری ماشین در بسیاری از صنایع و حوزه‌های علمی، ‌ابزاری مهم به شمار می‌آید. با این حال، تحقیقات یادگیری ماشین و توسعه محصول چالش‌هایی را پیش‌روی افراد [فعال در این حوزه] قرار داده‌ است که اگر به آن‌ها پرداخته نشود، ممکن است پروژه در مسیر نادرستی قرار گیرد.

مایکل لونز، دانشیار مدرسه ریاضی و علوم محاسباتی از دانشگاه هریوت وات، ادینبورگ، در نسخه پیش‌چاپ مقاله‌‌ خود که اخیراً در سایت arXiv  منتشر شده است، فهرستی از بایدها و نبایدهای تحقیقات یادگیری ماشین را ارائه کرده است.

این مقاله چالش‌های مراحل مختلف تحقیقات یادگیری ماشین را دربر می‌گیرد. لونز در مورد مقاله خود می‌گوید: «این مقاله شامل درس‌ها و نکته‌هایی است که هنگام انجام تحقیقات یادگیری ماشین در محیط دانشگاهی و هنگام راهنمایی دانشجویان برای انجام تحقیقات، آموخته‌ام». اگرچه این مقاله برای پژوهشگران دانشگاهی نوشته شده است، اما برنامه‌نویسانی که در حال ساخت مدل‌های یادگیری ماشین برای استفاده در دنیای واقعی هستند، نیز می‌توانند از دستورالعمل‌های آن استفاده کنند.

در ادامه نکات مفیدی از این مقاله را ارائه می‌کنیم.

لزوم توجه بیشتر به داده‌ها

رشد و توسعه مدل‌های یادگیری ماشین منوط به داده ها است. در همین راستا، لونز در سرتاسر مقاله به اهمیت توجه بیشتر به داده‌ها در تمام مراحل یادگیری ماشین اشاره می‌کند. به عبارتی، باید مراقب نحوه جمع‌آوری و آماده‌سازی داده‌ها و استفاده از آن‌ها برای آموزش و ارزیابی مدل‌های یادگیری ماشین باشید.

اگر داده‌ها از منبع معتبری تهیه نشده و به شیوه‌ای قابل اعتماد جمع‌آوری نشده‌ باشند، هیچ توان محاسباتی و هیچ فناوری پیشرفته‌ای نمی‌تواند کارساز باشد. همچنین، لازم است تمام تلاش خود را به بررسی منشاء و کیفیت داده‌ها معطوف کنید. لونز می‌نویسد: «تصور نکنید به دلیل اینکه در چندین مقاله از یک دیتاست‌ استفاده شده است، آن دیتاست از کیفیت خوبی برخوردار است».

دیتاست‌ها ممکن ایرادهای مختلفی داشته باشند، ایرادهایی که در نهایت به یادگیری اشتباه مدل منجر می‌شوند. برای مثال، اگر بر روی مسئله طبقه بندی کار می‌کنید و در دیتاست مورد استفاده، تعداد نمونه‌های یک کلاس بسیار زیاد و تعداد نمونه‌های کلاس دیگر بسیار اندک است، مدل یادگیری ماشین آموزش‌دیده ممکن است همه ورودی‌ها را در طبقه بزرگ‌تر پیش‌بینی کند. در این صورت با مشکل «کلاس نامتوازن» (class imbalance) روبه‌رو هستید.

اگرچه، مسئله کلاس نامتوازن به سرعت با شیوه‌های مختلف داده‌کاوی برطرف می‌شود، اما برطرف کردن مشکلات دیگر نیاز به دقت و تجربه بیشتری دارد. مثلاً، اگر تمام تصاویر موجود در دیتاست در روز روشن گرفته شده باشند، مدل یادگیری ماشین در پیش‌بینی عکس‌های تیره عملکرد ضعیفی خواهد داشت. نمونه بارزتر این مشکل در تجهیزات مورد استفاده برای جمع‌آوری داده‌ها به چشم می‌خورد. برای مثال، اگر تمام عکس‌های دیتای آموزشی با یک دوربین عکاسی گرفته‌ شده باشند، مدل احتمالاً ردپای بصری منحصر به فرد دوربین را تشخیص داده و در پیش‌بینی تصاویر گرفته شده با سایر دوربین‌ها عملکرد ضعیفی خواهد داشت. در مجموع، دیتاست‌های یادگیری ماشین ممکن است سوگیری‌های مختلفی داشته باشند.

کمیت داده‌ها نیز بسیار حائز اهمیت است و باید داده‌ی کافی در اختیار داشته باشید. طبق توضیحات لونز، «اگر سیگنال قوی باشد، می‌توانید با داده‌ی کمتر نیز کار خود را انجام دهید، اما اگر سیگنال ضعیف باشد، به داده‌های بیشتری نیاز دارید».

در برخی از حوزه‌ها، می‌توان کمبود داده را با تکنیک‌هایی مانند اعتبارسنجی متقابل و داده‌افزایی جبران کرد. با این حال، به طور کلی باید بدانید که هرچه مدل یادگیری ماشین پیچیده‌تر باشد، به داده‌های آموزشی بیشتری نیاز خواهید داشت. برای مثال، چند صد نمونه آموزشی ممکن است برای آموزش یک مدل رگرسیون ساده با چند پارامتر کافی باشد. اما اگر قصد دارید یک شبکه عصبی عمیق با میلیون‌ها پارامتر ایجاد کنید، به داده‌های آموزشی بسیار بیشتری نیاز خواهید داشت.

نکته مهم دیگری که لونز در مقاله خود به آن اشاره می‌کند، لزوم تفکیک دقیق دیتای آموزش و دیتای آزمایشی است. مهندسان یادگیری ماشین معمولاً بخشی از داده‌های خود را برای آزمایش مدل آموزش دیده کنار می‌گذارند. اما گاهی اوقات، داده‌های آزمایشی به فرایند آموزش رخنه می‌کند. این امر ممکن است به ایجاد مدل‌هایی ختم شود که نمی‌توان آن‌ها را به داده‌های جمع‌آوری شده از دنیای واقعی تعمیم داد.

لونز یادآوری می‌کند که: «اجازه ندهید داده‌های آزمایشی به فرایند آموزش راه پیدا کنند. بهترین روش مقابله با آن، این است که در همان ابتدای امر، یک زیرمجموعه ازدیتاست را جدا کرده و در پایان تنها یک مرتبه از این زیرمجموعه مستقل برای اندازه‌گیری تعمیم‌پذیری مدل استفاده کنید».

در سناریوهای پیچیده‌تر، بهتر است یک «دیتاست اعتبارسنجی» نیز داشته باشید. منظور از دیتاست اعتبارسنجی، دیتاست آزمایشی دیگری است که مدل یادگیری ماشین را در فرایند نهایی مورد ارزیابی قرار می‌دهد. برای مثال، اگر از اعتبارسنجی متقابل (cross-validation) یا یادگیری جمعی (ensemble learning) استفاده می‌کنید، ممکن است آزمون اصلی، ارزیابی دقیقی از مدل‌ شما ارائه ندهد. در این شرایط استفاده از دیتاست اعتبارسنجی می‌تواند کارساز باشد.

به گفته لونز: «اگر داده‌ کافی دراختیار دارید، بهتر است بخشی از را کنار بگذارید و تنها یک مرتبه برای ارائه برآوردی بی‌طرفانه از نمونه‌های نهایی استفاده کنید».

لزوم شناخت مدل مورد نظر و مدل‌های دیگر

امروزه، یادگیری عمیق مورد توجه همگان قرار گرفته‌ است. اما لزوماً یادگیری عمیق کلید رفع هر مشکلی نیست. در واقع، حتی یادگیری ماشین لزوماً حلال تمام مشکلات نیست. گاهی اوقات، عملکرد تطبیق الگوها و قوانین ساده با کسری از داده‌ها و توان محاسباتی اندک با عملکرد پیچیده‌ترین مدل‌های یادگیری ماشین برابری می‌کند.

اما وقتی صحبت از مشکلاتی به میان می‌آید که مخصوص مدل‌های یادگیری ماشین هستند، همیشه باید فهرستی از الگوریتم‌های منتخب داشته باشید و آن‌ها را ارزیابی کنید. لونز معتقد است: «به طور کلی، چیزی به نام بهترین مدل یادگیری ماشین وجود ندارد. در واقع، در نظریه‌ای به نام ’ناهار مجانی‘ شواهدی دالِ بر این وجود دارد که در یادگیری ماشین هیچ رویکرد خاصی برای حل یک مشکل احتمالی بهتر از رویکردهای دیگر نخواهد بود».

در گام نخست، باید به تطبیق مدل با مشکل بپردازید. برای مثال، بسته نوع خروجی مورد نظر (گسسته یا پیوسته)، باید الگوریتم یادگیری ماشین مناسب و ساختار مناسب را انتخاب کنید. علاوه بر این، نوع داده‌ها (مثلاً، جداول، تصاویر، متنِ ساختاریافته و بدون ساختار و غیره) می‌تواند عامل تعیین‌کننده‌ی کلاسِ مدلِ مورد استفاده باشد.

یکی از نکته‌های مهمی‌که لونز در مقاله خود مطرح می‌کند، لزوم اجتناب از پیچیدگی بیش‌ از حد است. برای مثال، اگر مشکل شما با یک درخت تصمیم ساده یا مدل رگرسیون حل شود، استفاده از یادگیری عمیق بی‌فایده خواهد بود.

لونز در مورد دوباره‌کاری نیز هشدار می‌‌دهد. با توجه به اینکه یادگیری ماشین یکی از داغ‌ترین موضوعات پژوهش است، همیشه این احتمال وجود دارد که شخص دیگری مشکلی مشابه مشکل شما را حل کرده باشد. در چنین شرایطی، عاقلانه‌ترین کار این است که آن‌ها را بررسی کنید. این امر می‌تواند در وقت شما صرفه جویی کند زیرا احتمالاً پیش از این سایر محققان نیز با چالش‌هایی که به دنبال حل آن‌ها هستید روبرو بوده‌ و آن‌ها را برطرف کرده‌اند.

لونز معتقد است: «نادیده گرفتن مطالعات قبلی به معنای از دست دادن اطلاعات ارزشمند است».

با بررسی مقالات و پژوهش‌های محققان دیگر، احتمالاً مدل‌های یادگیری ماشین دیگری پیدا خواهید کرد که بتوانید از آن‌ها برای حل مسئله خود استفاده کنید. در حقیقت، محققان یادگیری ماشین اغلب از الگوهای یکدیگر برای صرفه جویی در وقت و منابع محاسباتی استفاده می‌کنند و با یک مبنای اولیه و مورد اعتماد جامعه یادگیری ماشین شروع می‌کنند.

لونز هشدار می‌دهد که باید از سندرم «در اینجا اختراع نشده است» اجتناب کرد؛ به عبارت دیگر، اگر تنها از مدل‌هایی استفاده کنید که در سازمان خود اختراع کرده‌اید، ممکن است بهترین مدل‌های ممکن برای حل مشکل را نادیده بگیرید.

لزوم شناخت هدف نهایی و الزامات آن

اگر به طور دقیق موارد کاربرد مدل یادگیری خود را بشناسید، می‌توانید به خوبی آن را توسعه دهید. اگر یادگیری ماشین را صرفاً برای اهداف دانشگاهی و پیش بردن مرزهای علم ایجاد می‎کنید، ممکن است در مورد نوع داده‌ها یا الگوریتم‌های یادگیری ماشینی مورد استفاده، هیچ محدودیتی نداشته باشید. با این‌حال، هیچ پژوهش دانشگاهی تا ابد در آزمایشگاه‌های تحقیقاتی محبوس نمی‌ماند.

به نوشته لونز، «[در] بسیاری از مطالعات دانشگاهی، هدف نهایی تولید مدل یادگیری ماشینِ قابل استفاده در دنیای واقعی است؛ بنابراین، بهتر است هر چه زودتر در مورد نحوه استقرار آن در دنیای واقعی چاره‌ای بیاندیشید».

برای نمونه، اگر قرار است مدل شما برای ساخت نرم‌افزارهایی استفاده ‌شود که به جای سرورهای بزرگ باید بر روی دستگاه‌ها اجرا ‌شوند، نمی‌توانید از شبکه های عصبی بزرگ استفاده کنید که نیاز به مقدار زیادی حافظه و فضای ذخیره‌سازی دارند. باید مدل‌های یادگیری ماشین خود را طوری طراحی کنید که در محیط‌هایی با منابع محدود نیز قابل اجرا باشند.

یکی دیگر از مسائل پیش‌رو لزوم توضیح‌پذیری است. در برخی از حوزه‌ها، مانند امور مالی و بهداشت و درمان، ‌در صورت درخواست کاربر، برنامه‌نویسان از نظر قانونی ملزم به ارائه توضیحاتی در مورد تصمیمات الگوریتمی هستند. در چنین مواردی، استفاده از مدل جعبه سیاه امکان‌پذیر نیست. در چنین شرایطی، حتی اگر مدل عملکرد مطلوبی داشته باشد، اما تفسیرنا‌پذیری آن را بلااستفاده می‌سازد. در عوض، یک مدل شفاف‌تر، مانند درخت تصمیم، به احتمال زیاد انتخاب بهتری خواهد بود، حتی اگر عملکرد چندان مطلوبی نداشته باشد. به عبارت دیگر، اگر لزوم استفاده از یادگیری عمیق برای نرم‌افزارتان برای شما به اثبات رسیده است، باید تکنیک‌هایی را بررسی کنید که بتوانند تفسیرهایی موثق از فعال‌سازی در شبکه عصبی ارائه دهند.

در مقام یک مهندس یادگیری ماشین، ممکن است از الزامات مدل خود آگاهی دقیقی نداشته باشید. بنابراین، لازم است با متخصصان این حوزه مشورت کنید زیرا این متخصصان می‌توانند شما را در مسیر درست هدایت کرده و تعیین کنند آیا در جهت حل مشکل مورد نظر گام بر می‌دارید یا خیر.

طبق توضیحات لونز «عدم توجه به نظر متخصصان هر حوزه ممکن است باعث ایجاد پروژه‌هایی شود که به مسائل بی‌ثمر می‌پردازند یا پروژه‌هایی که مسائل مهم را با روش‌هایی نامناسب حل می‌کنند».

برای مثال، اگر یک شبکه عصبی ایجاد کرده‌اید که تقلب در تراکنش‌های بانکی را با دقت بسیار بالایی مشخص می‌کند، اما توضیحی درباره نحوه‌ی تصمیم‌گیری خود ارائه نمی‌دهد، موسسات مالی نمی‌توانند از آن استفاده کنند.

روش‌های اندازه‌گیری و گزارشی را مشخص کنید/ لزوم شناخت روش‌های اندازه‌گیری و گزارش آن‌ها

روش‌های مختلفی برای اندازه‌گیری عملکرد مدل‌های یادگیری ماشین وجود دارد، اما همه آن‌ها لزوماً برای مشکل مورد بررسی مناسب نیستند.

بسیاری از مهندسان یادگیری ماشین از «آزمون دقت» (accuracy test) برای رتبه‌بندی مدل‌های خود استفاده می‌کنند. آزمون دقت درصد پیش‌بینی‌های صحیح مدل را محاسبه می‌کند. این عدد در برخی موارد می‌تواند گمراه کننده باشد.

برای مثال، دیتاستی متشکل از اسکن‌های اشعه ایکس را در نظر بگیرید که برای آموزش مدل یادگیری ماشین در تشخیص سرطان استفاده می‌شود. داده‌های شما نامتعادل است و ۹۰ درصد نمونه‌های آموزشی با برچسب خوش‌خیم و تعداد بسیار کمی با برچسب  بدخیم طبقه‌بندی شده‌اند. اگر مدل آموزشی شما در آزمون دقت نمره ۹۰ کسب کند، احتمالاً یاد گرفته است که همه عکس‌ها را خوش‌خیم برچسب‌گذاری کند. در صورتی که از این مدل در یک نرم‌افزار و در محیط واقعی استفاده شود، احتمالاً مواردی را به اشتباه برچسب‌گذاری خواهد کرد؛ این امر نتایج فاجعه‌باری در پی خواهد داشت. در چنین مواردی، تیم یادگیری ماشین باید از آزمون‌هایی استفاده کند که به عدم تعادل کلاس حساس نباشند یا با کمک ماتریس درهم‌ریختگی (confusion matrix)، دیگر معیارهای اندازه‌گیری را بررسی کند. تکنیک‌های جدیدتر می‌توانند عملکرد مدل را در حوزه‌های مختلف به دقت اندازه‌گیری‌ کنند.

علاوه ‌بر این، ممکن است برنامه‌نویس یادگیری ماشین معیارهای متعددی را با در نظر گرفتن نرم‌‌افزار مورد استفاده اندازه‌گیری کند. برای نمونه، در مثال تشخیص سرطان، کاهش موارد منفی کاذب تا حد امکان از اهمیت بسیاری برخوردار است، حتی اگر به قیمت پایین آمدن دقت مدل یا افزایش جزئی مثبت کاذب باشد. بهتر است چند فرد سالم برای تشخیص به بیمارستان فرستاده شوند تا اینکه بیمارانِ مبتلا به سرطان پیشرفته شناسایی نشوند.

لونز خاطرنشان می‌سازد که هنگام مقایسه چندین مدل یادگیری ماشین برای حل یک مشکل، اعداد بزرگ‌تر لزوماً به معنای بهتر‌ بودن مدل‌ نیستند. تفاوت عملکرد ممکن است به دلیل آموزش و آزمایش مدل بر روی بخش‌های مختلف یک دیتاست یا اجرا بر روی دیتاستی کاملاً متفاوت بدست آمده باشد.

او معتقد است: «برای اینکه مقایسه دو رویکرد منصفانه باشد، باید اجرای مدل‌های مورد مقایسه جدید باشد، همه مدل‌ها به یک اندازه بهینه‌سازی شده باشند، چندین مرتبه ارزیابی شوند … و سپس از آزمون‌های آماری برای تعیین سطح معناداری تفاوت عملکرد مدل‌ها استفاده شود».

لونز همچنین در مورد دست‌بالاگرفتن قابلیت‌های مدل هشدار می‌دهد. او می‌نویسد: «یکی از اشتباهات رایج  کلی‌گویی‌هایی است که داده‌های آموزشی و ارزیابی مدل‌، از آن‌ها پشتیبانی نمی‌کند».

بنابراین، در تمام گزارشات مربوط به عملکرد مدل باید نوع داده‌ای که مدل بر روی آن آموزش دیده و آزمایش شده است، قید گردد. اعتبارسنجی مدل بر روی دیتاست‌های متعدد تصویری عینی‌تر از قابلیت‌های آن ارائه می‌دهد، اما کماکان لازم است نسبت به نوع خطای داده‌ای که در بالا مطرح کردیم، محتاط باشید.

شفافیت نیز سهم بسزایی در سایر تحقیقات یادگیری ماشین دارد. اگر معماری مدل خود و همچنین روند آموزش و اعتبارسنجی را به طور کامل شرح دهید، سایر محققانی که یافته‌های شما را مطالعه می‌کنند می‌توانند از آن‌ها در کارهای بعدی خود استفاده کنند یا حتی به ایرادات احتمالی روش‌شناسی پژوهش شما کمک کنند. در نهایت، به دنبال تکرارپذیری باشید. اگر کد منبع و پیاده‌سازی مدل خود را منتشر کنید، می‌توانید در کارهای آینده ابزارهای فوق العادهای در اختیار جامعه یادگیری ماشین قرار دهید.

یادگیری ماشین کاربردی

جالب اینجاست که تقریباً تمام مواردی که لونز در مقاله خود به آن‌ها اشاره کرده است در یادگیری ماشین کاربردی نیز مصداق دارد.  یادگیری ماشین کاربردی به شاخه‌ای از یادگیری ماشین اطلاق می‌شود که دغدغه آن ادغام مدل‌ها در محصولات واقعی است. با این حال، ذکر این نکات که فراتر از تحقیقات دانشگاهی است، در برنامه‌های کاربردی و محیط واقعی ضروری به نظر می‌رسد.

زمانی که صحبت از داده‌ها به میان می‌آید، مهندسان یادگیری ماشین باید قبل از گنجاندن مدل‌ها در محصولات، ملاحظات بیشتری را در نظر بگیرند. برخی از این ملاحظات، پیرامون حریم خصوصی و امنیت داده‌ها است. برخی هم به رضایت کاربر و محدودیت‌های قانونی اشاره دارد. بسیاری از شرکت ها به دلیل استخراج داده‌های کاربران بدون رضایت آن‌ها، دچار مشکل شده‌اند.

موضوع مهم دیگری که در یادگیری ماشین کاربردی اغلب به دست فراموشی سپرده می‌شود، پوسیدگی مدل (model decay) است. برخلاف تحقیقات دانشگاهی، مدل‌های یادگیری ماشین مورد استفاده در محیط واقعی باید به طور مرتب بازآموزی و به‌روز رسانی شوند. به دلیل اینکه داده‌ها هر روزه تغییر می‌کنند، مدل‌های یادگیری ماشین «می‌پوسند» و عملکرد آن‌ها ضعیف‌تر می‌شود. برای مثال، با تغییر عادات زندگی  در دوران قرنطینه، سیستم‌های یادگیری ماشین که بر روی داده‌های قدیمی‌آموزش دیده بودند، شکست خورده و نیاز به بازآموزی دارند. در همین راستا، با ظهور روندهای جدید و تغییر عادات گفتاری و نوشتاری، الگوهای زبانی باید دائماً به روز رسانی شوند. به موجب این تغییرات، تیم تولید یادگیری ماشین باید راهکاری برای جمع‌آوری داده‌های جدید و بازآموزی دوره‌ای مدل‌های خود طراحی کنند.

در نهایت، یکپارچه‌سازی به چالش بزرگی در پروژه‌های یادگیری ماشین کاربردی تبدیل خواهد شد. لذا، این سوالات مطرح می‌شوند که: سیستم جدید یادگیری ماشین چگونه با نرم‌افزارهای فعلی یک سازمان تعامل برقرار می‌کند؟ آیا زیرساخت داده‌ها آماده اتصال به خط یادگیری ماشین است؟ آیا زیرساخت فضای اَبری یا سرور از استقرار و مقیاس‌بندی مدل تولید شده پشتیبانی می‌کند؟ پاسخ به این سوالات می‌تواند موفقیت یا شکست استقرار محصولِ جدید یادگیری ماشین را تعیین کند.

برای مثال، آزمایشگاه تحقیقاتی هوش مصنوعی OpenAI به تازگی نسخه آزمایشی مدل Codex API خود را برای ارزیابی عمومی ‌راه‌اندازی کرده است. اما به دلیل اینکه سرورهای شرکت نتوانستند پاسخگوی مقیاس بالای تقاضای کاربران باشند، این راه‌اندازی به شکست انجامید.

در این نوشتار نکاتی چند در مورد ارزیابی پروژه‌ها و تحقیقات یادگیری ماشین و پیشگیری از اشتباهات احتمالی ارائه شد. برای جزئیات بیشتر در مورد اشتباهات رایج در روند تحقیق و توسعه یادگیری ماشین، می‌توانید به مقاله کامل لونز، با عنوان «چگونه از مشکلات یادگیری ماشین جلوگیری کنیم: راهنمای محققان دانشگاهی» مراجعه کنید.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید

منبع: هوشیو

تیمی از پژوهشگران دانشگاه کالیفرنیا، سن‌دیگو، یک سیستم مبتنی بر شبکه های عصبی عمیق ساخته‌اند؛ این سیستم می‌تواند ویژگی‌هایی را شناسایی کند که قادر به پیش‌بینی عوامل رونویسی متصل‌شونده هستند. در مقاله‌ی این پژوهشگران (منتشرشده در ژورنال Nature Machine Intelligence) به کاربردهای احتمالی این سیستم در درک بهتر بیماری‌های مرتبط با عوامل رونویسی اشاره شده است.

عوامل رونویسی پروتئین‌هایی هستند که در کنترل نرخ رونویسی اطلاعات ژنتیکی نقش دارند؛ بدین صورت که نحوه‌ی اتصال آن‌ها به DNA خاموش یا روشن بودن ژن‌های آن قسمت از DNA را مشخص می‌کند. بر اساس پیشینه‌ی تحقیقات، اختلال در کار عامل رونویسی به بیماری‌هایی همچون سندروم رت، دیابت جوانان هنگام بلوغ و دیستروفی قرنیه فوکس منجر می‌شود. برخی از این تحقیقات نقش این پروتئین‌ها در رشد تومورهای سرطانی را نیز تأیید کرده‌اند.

پیروی عوامل رونویسی از قوانینی خاص

دانشمندان باید درک بهتری از فرآیند رونویسی به دست بیاورند تا بتوانند از چنین بیماری‌هایی جلوگیری کنند. در این پروژه، پژوهشگران یک سیستم مبتنی بر شبکه‌ی عصبی ساخته‌اند که به کشف قوانین ژنتیکی کمک می‌کند؛ قوانینی که عوامل رونویسی هنگام اتصال به DNA از آن‌ها پیروی می‌کنند. هدف دیگر این سیستم یافتن نوکلئوتیدهای غیررمزگذاری است که بیشترین تأثیر را روی اتصال عوامل رونویسی دارند.

نسخه‌ی ابتدایی سیستم AgentBind نیز توسط این تیم پژوهشی از دانشگاه سن‌دیگو ساخته شده بود. سیستم AgentBind حاصل ترکیب سه شبکه‌ی عصبی پیچشی، یک لایه‌ی متصل و مجموعه‌ای از شبکه‌های عصبی پیچشی و بازگشتی است. از آن‌جایی که چنین تحقیقاتی به داده‌های زیادی نیاز دارند، این پژوهشگران از یادگیری انتقالی (و نه از یادگیری سنگین) استفاده کردند و بدین ترتیب به نتایج کارآمدتری دست یافتند. علاوه بر این طی فرآیند فراتحلیل، ضرایب اهمیت را مشخص کرده و محل اتصالات را در خود بافت تشخیص دادند.

در مرحله‌ی آزمایش، سیستم روی عوامل‌‌‌ ‌‌‌‌رونویسی اجرا شد و نتیجه‌ و محصول آن مورد مطالعه قرار گرفت. در نتیجه‌ی این گام مشخص شد سیستم می‌تواند اطلاعات جدیدی در مورد انواع مختلف عوامل رونویسی متصل‌شونده (که احتمالاً در ایجاد بیماری‌ها نقش دارند) ارائه دهد. به کمک این اطلاعات می‌توانیم درک کنیم عوامل رونویسی چطور از روند معمولی منحرف شده و به بروز بیماری می‌انجامند و بدین ترتیب مسیر کشف درمان‌های مربوطه را هموارتر کنیم.

منبع: هوشیو

فن‌آوری هوش مصنوعی در بسیاری از فرایندهای امنیت سایبری به کار می‌رود. این فن‌آوری به فرایندهای مدیریت و تشخیص کلاهبرداری نیز راه یافته است. اما این فن‌آوری در کنار مزایای بسیار خود، چالش‌هایی (سوگیری) نیز دارد.

فن‌آوری هوش مصنوعی ارزش و توانمندی خود را در بسیاری از فرایندهای امنیت سایبری به اثبات رسانده است. برای مثال، این فن‌آوری به تشخیص بدافزار و تشخیص ناهنجاری در ترافیک شبکه کمک می‌کند. علاوه بر این، هوش مصنوعی به تحلیل‌گران کمک می‌کند هشدارهای امنیتی را در اولویت خود قرار دهند. تمامی مواردی که به آن‌ها اشاره شد، علاوه بر کاهش هزینه‌ها، کاهش خطای انسانی را نیز به همراه دارد.

به گفته منگ لیو، یکی از تحلیل‌گران شرکت Forrester Research، «شرکت‌ها، صنایع و کشورهای بسیاری به استفاده از فن‌آوری هوش مصنوعی روی آورده‌اند. مدل‌های مبتنی بر هوش مصنوعی به شما در ایجاد مزیت رقابتی کمک می‌کنند.»

هم‌اکنون، فن‌آوری هوش مصنوعی مصمم شده است تا فرایندهای مدیریت و تشخیص کلاهبرداری را ارتقاء دهد، حوزه‌ای که به دنبال افزایش تعداد معاملات آنلاین و موبایلی به مشکل خورده است.

در عصر حاضر، سازمان‌ها نیاز به اجرای فرایندهایی دارند که در کمترین زمان ممکن و به درستی عملیات‌های کلاهبرداری را تشخیص دهند. لیو، اندراس سر و دنی مو (نویسندگان همکار) در گزارش خود تحت عنوان «هوش مصنوعی در حال متحول کردن فرایند مدیریت کلاهبرداری است» می‌گویند راه‌حل چنین سازمان‌هایی هوش مصنوعی است. این تحلیل‌گران در گزارش خود فن‌آوری‌های هوش مصنوعی و موارد کاربرد هر یک از آن‌ها را در فرایند مدیریت کلاهبرداری مشخص می‌کنند و مورد‌پژوهی‌های مرتبط را پیشنهاد می‌دهند.

به گفته این تحلیل‌گران هوش مصنوعی می‌تواند مزایای بسیاری داشته باشد، اما سازمان‌هایی که از فن‌آوری هوش مصنوعی در فرایند تشخیص کلاهبرداری استفاده می‌کنند باید بدانند که این فن‌آوری خالی از چالش نیست.

موارد کاربرد هوش مصنوعی در مدیریت کلاهبرداری

این تحلیل‌گران در گزارش خود به مطالعه و بررسی تعدادی از موارد کاربرد هوش مصنوعی در حوزه مدیریت و تشخیص کلاهبرداری پرداخته‌اند. برای مثال، اینکه فن‌آوری هوش مصنوعی می‌تواند دقت را در فرایند کنترل معاملات افزایش دهد. این تحلیلگران در گزارش خبر از همکاری FIS (شرکت ارائه‌دهنده خدمات مالی) و Bringterion (شرکتی فعال در حوزه هوش مصنوعی که در مالکیت MasterCard قرار دهد) داده‌اند. هدف از این همکاری ارتقای قابلیت‌های مبارزه با پولشویی FIS اعلام شده است.

هوش مصنوعی می‌تواند با ساده‌سازی و اولویت‌بندی هشدارها کارایی فرایندهای تحقیق و بررسی کلاهبرداری را افزایش دهد. علاوه بر این، پیش از انجام معاملات می‌توان از فن‌آوری هوش مصنوعی در تشخیص هویت بیومتریک کاربران استفاده کرد و تعداد معاملات نامعتبر را کاهش داد.

به اعتقاد این تحلیل‌گران، بسته به کاربردی که هوش مصنوعی می‌تواند در فرایند مدیریت کلاهبرداری داشته باشد، به قابلیت‌های متفاوتی نیاز است و سازمان‌ها در زمان پیاده‌سازی هوش مصنوعی به منظور مدیریت و تشخیص کلاهبرداری نباید از این موضوع غافل شد. برای مثال، کنترل معاملات تجارت الکترونیک در مقایسه با گزارش معاملات به زمان پاسخگویی و دقت بیشتری نیاز دارند. دیگر قابلیت‌هایی که سازمان‌ها باید به آن‌ توجه داشته باشد، شامل دسترسی و دقت داده‌های آموزشی و اتخاذ فرایندهایی است که این اطمینان را به ما می‌دهند عملکرد مدل‌های هوش مصنوعی با گذشت زمان ارتقاء پیدا می‌کنند.

مزایای استفاده از هوش مصنوعی در فرایند مدیریت کلاهبرداری

پیاده‌سازی هوش مصنوعی در فرایند مدیریت کلاهبرداری دو مزیت عمده به همراه دارد. اول، کلاهبرداری در مدت زمان کمتری تشخیص داده می‌شود. دوم، با گذشت زمان دقت مدل‌های هوش مصنوعی افزایش پیدا می‌کند.

به گفته لیو طی دو دهه گذشته، تعداد معاملات برخط و معاملاتی که از طریق تلفن‌های همراه انجام می‌شود به طور پیوسته افزایش داشته است و از زمان شروع همه‌گیری ویروس کرونا تعداد آن‌ها به طرز چشمگیری افزایش یافته است. به گفته لیو « اینگونه معاملات به صورت آنی انجام می‌شوند و این بدین معناست که عملیات‌های کلاهبرداری نیز با همین سرعت انجام می‌شوند.»

در گذشته، تحلیل‌گران پس از پردازش معاملات متوجه خریدهای تقبلی می‌شدند. فن‌آوری هوش مصنوعی می‌تواند با تشخیص و جلوگیری از انجام فعالیت‌های کلاهبرداری و مسدود کردن کاربران و معاملات نامعتبر این فرایند را ارتقاء دهد.  برای مثال، اگر یکی از جنایتکاران سایبری تلاش کند با سرقت اطلاعات کارت بانکی فردی  خریدی انجام دهد، هوش مصنوعی آن را  تشخیص داده و مانع پردازش آن می‌شود. علاوه بر این، تشخیص کلاهبرداری مبتنی بر هوش مصنوعی با کاهش مبالغی که صرف بازپرداخت وجوه دزدیده شده می‌شود، هزینه‌های سازمان‌ها را کاهش می‌دهد.

مدل‌های هوش مصنوعیسرعت تشخیص فرایندها و معاملات نامعتبر را افزایش می‌دهند. علاوه بر آن دقت این مدل‌ها با گذشت زمان افزایش می‌یابد. مدل‌های هوش مصنوعی برخلاف مدل‌های قاعده‌محور که ممکن است در صنعتی تعداد زیادی هشدار کاذب ایجاد کند، در طول زمان اعتماد افراد بیشتری را به خود جلب می‌کنند.

به گفته لیو، «هر چه تعداد داده‌هایی که به مدل تغذیه می‌شود بیشتر باشد، مدل هوشمندتر می‌شود.»

داده ها با تشخیص الگوها و تحلیل روابط میان دیتاست‌ها کارایی هوش مصنوعی را ارتقاء می‌دهند. افزایش دقت هوش مصنوعی به سازمان‌ها کمک می‌کند در مدت زمان کمتری به هشدارهایی که حاکی از عملیات‌های کلاهبرداری هستند، پاسخ دهند.

چالش‌های فراوان هوش مصنوعی، اصولی که باید مد نظر داشته باشد

گرچه هوش مصنوعی فن‌آوری‌ای تحول‌آفرین است، اما کماکان مستعد سوگیری، یکی از بزرگ‌ترین چالش‌های شناخته شده در این حوزه از فن‌آوری است. داده‌های نامتوازن و مهندسان ذهنی‌گرا (subjective) می‌توانند توانایی مدل‌های هوش مصنوعی در تشخیص کلاهبرداری را تضعیف کنند.

به گفته لیو برای جلوگیری از این اتفاق، سازمان‌ها در هنگام پیاده‌سازی هوش مصنوعی در فرایندهای مدیریت و تشخیص کلاهبرداری باید به سه اصل توجه داشته باشند:

• مدل‌های عینی. مدل‌های هوش مصنوعی باید عینی و بی‌طرف باشند. مدل‌های بایاس دقت پایینی دارند و همین امر موجب می‌شود کل مدل بالااستفاده بماند. پیشنهاد لیو ایجاد یک مدل دوگانه (hybrid) است. به گفته وی، «بهتر است سازمان‌ها برای ایجاد قابلیت‌های مدیریت کلاهبرداری و مبتنی بر هوش مصنوعی خود علاوه بر یک تیم داخلی متعهد، از یک شرکت‌ ارائه‌دهنده (خارج از سازمان خود) نیز کمک بگیرند.» اعضای سازمان از نیازهای شرکت (برای مثال، صنعت و قوانین) شناخت کافی دارند و در مقابل، شرکت‌های ارائه‌دهنده‌ی خارجی می‌توانند مدلی سفارشی‌سازی شده که به درستی آزمایش شده است را در اختیار آنان بگذارند.
• منابع دست سوم. هرچه حجم داده‌ها بیشتر باش د، با گذشت زمان مدل‌های قوی‌تر و با سوگیری کمتر خواهیم داشت. پشنهاد لیو این است که در برای آموزش هوش مصنوعی از داده‌های متن باز استفاده کنیم. برای مثال، استفاده از داده‌های مؤسسات اعتباری به ارتقای عملکرد مدل‌هایی که در صنعت مالی به کار می‌روند، کمک می‌کند. برای شرکت‌هایی که نگران امنیت و حریم خصوصی کاربران هستند یادگیری یکپارچه گزینه مناسبی است. طبق این گزارش، در یادگیری یکپارچه چندین سازمان می‌توانند بدون تبادل داده‌های واقعی نتایج پردازش اولیه داده‌ها را با یکدیگر به اشتراک بگذارند.
• ارتقای –  نه جایگزینی- تحلیل‌گران. هرچند مدل‌های هوش مصنوعی که به اندازه کافی آموزش دیده‌اند در جلوگیری از فعالیت‌های کلاهبرداری و نامعتبر مؤثر هستند، اما تحلیل‌گران کماکان باید هشدارها را بررسی کرده و برای اینکه مشخص کنند چرا محتوایی خاص نشان‌گذاری (flag) شده ، فرایند تحلیل را انجام دهند. تحلیل‌گران با بررسی هشدارها می‌توانند نسبت به نحوه یادگیری و کارکرد مدل‌های هوش مصنوعی شناخت پیدا کنند.

بیشتر بخوانید

موجودات بیگانه عصر جدید در فرآیند استخدام

هوش مصنوعی در مدیریت کلاهبرداری

به گفته لیو، در آینده، هوش مصنوعی نقش بسزایی در فرایند مدیریت و تشخیص کلاهبرداری خواهد داشت. اما، نرخ پیاده‌سازی هوش مصنوعی در شرکت‌ها، صنایع و کشورها متفاوت خواهد بود.

به گفته‌ی وی، «فن‌آوری، خرده‌فروشی، تجارت الکترونیک، حوزه‌های مالی در اتخاذ مدل‌های مبتنی بر هوش مصنوعی در فرایند مدیریت و تشخیص کلاهبرداری پیشگام خواهند بود.» وی در ادامه گفت، صنایع متکی به فن‌آوری‌های دیجیتالی نسبت به صنایع دیگر بیشتر از هوش مصنوعی در فرایند مدیریت کلاهبرداری استفاده می‌کنند و به همین دلیل سریع‌تر می‌توانند مدل توسعه دهند. در صنایع سنتی ،همچون صنایع تولیدی، هوش مصنوعی به دلیل کمبود داده‌های دیجیتالی و تداول معاملات آفلاین با سرعت کمتری توسعه پیدا می‌کند.

توسعه هوش مصنوعی برای مدیریت و تشخیص کلاهبرداری بر حسب منطقه نیز متفاوت خواهد بود. به گفته لیو، بازارهای نوظهور، به ویژه جنوب شرق آسیا و آفریقا، نسبت به کشورهای توسعه‌یافته برای مدت زمان بیشتری از خدمات تحلیل‌گران (انسان) متکی خواهند بود. وی در ادامه افزود، در کوتاه مدت، هزینه به‌کارگیری تحلیل‌گران در مناطقی که با سرعت کمتری هوش مصنوعی را پیاده‌سازی می‌کنند، کمتر می‌شود.

لیو کسانی را که به هوش مصنوعی اعتماد ندارد تشویق می‌کند برای یک بار هم که شده از این فن‌آوری استفاده کنند. به گفته وی «پیاده‌سازی مدل‌های هوش مصنوعی می‌تواند مزایایی بسیاری برای شما (نسبت به رقبا) به همراه داشته باشد، پس شک و دودلی به خود راه ندهید.»

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید

منبع: هوشیو

برخی ویژگی‌های ظاهری، مثل رنگ چشم یا پوست می‌توانند سرنخی از نژاد و قومیت افراد باشند. اما بدون این نشانه‌ها، تشخیص نژاد برای انسان‌ها کار آسانی نیست. با این حال، بر اساس پژوهشی جدید که هنوز مورد بازبینی قرار نگرفته، به نظر می‌رسد الگوریتم‌ها از پس انجام این کار برمی‌آیند.

در این پژوهش، محققان پنج مدل متفاوت را روی تصاویر ایکس‌ری قسمت‌های مختلف بدن، از جمله سینه و دست‌ها، آموزش داده و این تصاویر را، بر اساس نژاد بیمار، برچسب زدند. سپس سیستم‌های یادگیری ماشین را به آزمایش گذاشتند تا عملکردشان در پیش‌بینی و تشخیص نژاد افراد از روی تصاویر پزشکی مشخص شود.

عملکرد این سیستم‌ها به طرز باورناکردنی دقیق بود، طوری که ضعیف‌ترین سیستم در ۸۰ درصد مواقع پاسخ درست را ارائه می‌داد. طبق ادعای این مقاله، دقت بهترین سیستم ۹۹ درصد بود.

نویسندگان هشدار داده‌اند: «با این آزمایشات نشان دادیم به راحتی می‌توان به سیستم‌های هوش مصنوعی آموزش داد تا هویت نژادی افراد را از روی تصاویر پزشکی تشخیص دهند. جداسازی این قابلیت از فناوری‌های دیگر و کاهش آن کار بسیار دشواری خواهد بود.

ما به توسعه‌گرها، قانون‌گذاران و کاربرانی که با تحلیل تصاویر پزشکی سروکار دارند، قویاً پیشنهاد می‌کنیم در استفاده از مدل‌های یادگیری عمیق، نهایت احتیاط را به خرج دهند. تشخیص نژاد بیماران از روی تصاویر ایکس‌ری و سی‌تی اسکن کار بسیار آسانی است. این امکان می‌تواند به موقعیت‌های دیگر هم نفوذ کرده، به نابرابری‌های نژادی که در حوزه‌ی بهداشت و درمان به چشم می‌خورند دامن زده و آن‎ها را تداوم بخشد.»

پارلمان بریتانیا در صدد منع ابزارهای جعل عمیق غیراخلاقی

ماریا میلر ، عضور حزب محافظه‌کار پارلمان بیسنگ‌استوک ، معتقد است الگوریتم‌های یادگیری ماشین که تصاویر جعلی برهنه از افراد تولید می‌کنند، باید ممنوع شوند.

این الگوریتم‌ها که با نام جعل عمیق شناخته می‌شوند متکی بر نرم‌افزارهای هوش مصنوعی هستند. ابزارهای جعل عمیقی روی اینترنت وجود دارند که به افراد منحرف اجازه می‌دهند با ورود تصویر یک نفر، تصویر جعلی برهنه‌ آن‌ها را تحویل بگیرند. این ابزارها چهره‌ی فرد را ثابت نگه می‌دارند و یک بدن ساختگی به آن اضافه می‌کنند.

از جمله اقدامات میلر می‌توان به اعتراضات او علیه اخاذی با تصاویر شخصی اشاره کرد. وی معتقد است حتی اگر تصاویر تولید شده جعلی و غیرواقعی باشند، آسیبی که به قربانیان وارد می‌شود واقعی است.

میلر در مصاحبه با Beeb، دستیار صوتی BBC، بیان کرد: «در حال حاضر، ساخت و توزیع عکس‌های شخصی، به صورت آنلاین یا با استفاده از فناوری‌های دیجیتال، بدون رضایت صاحب عکس غیرقانونی تلقی می‌شود.

توزیع آنلاین تصاویر جنسی بدون رضایت فرد، باید جزو جرائم تجاوز جنسی حساب شود تا آسیبی که به زندگی افراد می‌زند را منعکس کند.» میلر قصد دارد این مسئله را در مذاکرات پارلمانی مطرح کند، به امید این‌که قوانین جدیدی برای منع نرم‌افزارهای جعل عمیق در لایحه‌ی امنیت آنلاین بریتانیا تصویب شود.

سرک کشیدن فیس‌بوک در چت‌های خصوصی کاربران

بخش هوش مصنوعی فیس بوک گروهی از مهندسان هوش مصنوعی را به کار گرفته تا بتواند پیام‌های رمزی را بدون رمزگشایی، تجزیه و تحلیل کند.
طبق گزارش The Information، تکنیک رمزگذاری همریخت به شبکه‌های اجتماعی اجازه می‌دهد با سرک کشیدن به چت‌های کاربران در واتساپ، داده‌هایی را جمع‌آوری کنند که به تبلیغات هدفمند کمک می‌کند.

با استفاده از رمزگذاری همریخت، فیسبوک می‌تواند محصولات و خدمات موردعلاقه‌ی افراد را تشخیص دهد. بدین طریق، به محض ورود افراد به حساب‌های کاربری‌شان، تبلیغات مربوطه به آن‌ها ارائه می‌شود.

به نظر می‌رسد کریستین لاتنر سردمدار این اقدامات است؛ لاتنر متخصص رمزنگاری است که اخیراً، بعد از دو دهه مایکروسافت را ترک کرده و به عنوان سرپرست گروه تحقیقات هوش مصنوعی وست کاست به فیسبوک ملحق شده است. سخنگوی فیسبوک در مورد این پروژه گفته است: «هنوز برای پیاده‌سازی رمزنگاری همریخت در واتسپ خیلی زود است.»

منبع: هوشیو

پیش از پرداختن به اهمیت کاهش سوگیری هوش مصنوعی در واحدهای منابع انسانی شرکت‌ها، باید به این موضوع اشاره کرد که بهره‌مندی از مزایای هوش مصنوعی و یادگیری ماشین در سراسر دنیا نهادینه شده است. این فناوری‌ها به کسب و کارها کمک می‌کنند تا فرآیندها را خودکار کرده، از طریق تجزیه و تحلیل داده‌ها، بینش و اطلاعات لازم را به دست آورده، و مشتریان و کارکنان خود را حفظ کنند. این فناوری امکان پاسخگویی به شرایط متغیر بازار، کاهش هزینه‌های عملیاتی، و حفظ مزیت رقابتی در دنیای دیجیتالی پویای امروزی را نیز فراهم می‌آورد.

نقش منابع انسانی در درک و کاهش سوگیری هوش مصنوعی

امروزه، بسیاری از فراهم‌آورندگان عمده‌ی سامانه‌های ابری، با ارائه‌ی قابلیت‌های هوش مصنوعی در بسته‌های خدماتی خود، این فناوری را در دسترس کسب و کارهایی قرار می‌دهند که بدون آن‌ها به سختی از پس پرداخت هزینه‌های استخدام مهندسان داده و متخصصان علوم داده بر می‌آیند.

هوش مصنوعی بدون شک منبعی ارزشمند برای واحدهای HR (منابع انسانی) به شمار می‌رود. به عنوان مثال، آگهی‌ استخدامی تنها یک شغل می‌تواند صدها یا حتی هزاران متقاضی به دنبال داشته باشد؛ در این صورت، بازبینی دستی رزومه‌ها غیرممکن به نظر می‌رسد. تیم‌های منابع انسانی با تکیه بر فناوری‌های هوش مصنوعی و یادگیری ماشین می‌توانند متقاضیان را در مقیاسی بسیار وسیع‌تر ارزیابی و در مورد گزینش و استخدام تصمیم‌گیری کنند.

بازتاب عدم کاهش سوگیری هوش مصنوعی در واحد منابع انسانی

هوش مصنوعی مزایای فراوانی برای واحدهای منابع انسانی به ارمغان می‌آورد؛ با این حال، متخصصان این حوزه را با چالش‌ها و مشکلاتی جدی نیز روبرو می‌کند. یکی از مهم‌ترین و در عین حال دشوارترین جنبه‌هایی که در کار با سیستم‌های هوش مصنوعی باید مدنظر قرار داد، حصول اطمینان از عدم سوگیری این سیستم‌هاست.

این امر در سیستم‌های هوش مصنوعی به کاررفته در واحدهای منابع انسانی اهمیت ویژه‌ای می‌یابد. چون این سوگیری‌ها می‌توانند منجر به تبعیض سازمان علیه برخی از متقاضیان شوند، امری که اغلب بدون آگاهی سازمان‌ها اتفاق می‌افتد.

چندین سال قبل، آمازون به ناچار سیستم هوش مصنوعی که برای غربال رزومه به کار می‌برد را از دور خارج کرد. چون علیه متقاضیان خانم سوگیری داشت. این مثال هرچند ناخوشایند، مصداق بارز تأثیر داده‌های آموزشی است. الگوریتم این سیستم روی داده‌های خود شرکت آمازون آموزش دیده بود. از آن‌جایی که در آن زمان، بیشتر کارکنان آمازون مرد بودند، سیستم بین «موفقیت» با کلماتی ارتباط برقرار کرد که سوگیری داشته و بیشتر مردانه بودند.

بدین ترتیب، مدل به متقاضیان خانم، هرچند شایسته، توجهی نشان نمی‌داد. درسی که می‌توان از این ماجرا گرفت این است که اگر مدل‌های هوش مصنوعی را با داده‌های سوگیرانه آموزش دهیم، سیستم هوش مصنوعی نهایی نیز سوگیری داشته و این سوگیری را پیوسته تقویت خواهد کرد.

لزوم بازبینی فرهنگ سازمانی در کنار سیستم‌های هوش مصنوعی برون‌سپاری شده

در مثال بالا از شرکت آمازون، سیستم هوش مصنوعی به کاررفته برای غربال رزومه‌ها درون‌سازمانی بود و با استفاده از داده‌های متقاضیان خود شرکت آموزش دیده بود. این در حالی است که بیشتر شرکت‌ها منابع لازم برای ساخت سیستم‌های هوش مصنوعی داخلی برای واحدهای منابع انسانی را در دست ندارند. به همین خاطر، تیم‌های منابع انسانی این کار را به شرکت‌هایی همچون Workday و Google Cloud برون‌سپاری می‌کنند. متأسفانه، بسیاری از اوقات، این کار اجازه‌ی دقت و پاسخگویی را از شرکت‌ها می‌گیرد.

در عصر حاضر بیشتر از هر زمان دیگری لازم است تا تیم‌های هوش مصنوعی، مسئولیت سنگینی که این گونه برون‌سپاری‌ها به همراه دارد را به رسمیت بشناسند. متخصصان داخل شرکت نباید مدل‌های هوش مصنوعی بیرونی را کورکورانه پذیرفته و اجرا کنند. واحد منابع انسانی باید به صورت مکرر این سیستم‌ها را مورد بازبینی قرار دهد تا از عدم سوگیری آن‌ها اطمینان حاصل کند. بدین منظور، چندین سؤال باید پیوسته پاسخ داده شوند:

• داده‌های آموزشی مدل‌ها از چه منبعی به دست می‌آیند؟
• مدل با تکیه بر چه عواملی تصمیم‌گیری می‌کند؟
• آیا نتایج به دست آمده رضایت‌بخش هستند؟ یا این‌که باید سیستم را موقتاً از دور خارج کرد و مجدداً مورد ارزیابی قرار داد؟

بازبینی دقیق داده‌های آموزشی، به ویژه در سیستم‌های هوش مصنوعی برون‌سپاری شده، از اهمیت بالایی برخوردار است. با این حال، انجام این کار به تنهایی برای کاهش سوگیری کافی نیست؛ چون داده‌های سوگیرانه از محیط‌های کاری سوگیرانه نشأت می‌گیرند.

تیم‌های منابع انسانی موظف‌اند در جهت کاهش سوگیری اقدام کنند و هرگونه بی‌عدالتی که در سازمان مشاهده می‌کنند را به دقت تحت نظر قرار دهند. برای مثال، آیا مردان قدرت بیشتری از زنان در دست دارند؟ چه قوانین و دستورهایی از قدیم پذیرفته‌ شده‌اند، اما سؤال‌برانگیز به نظر می‌آیند؟ آیا کارکنانی که متعلق به گروه‌های محروم هستند، فرصت‌های لازم برای موفقیت را در اختیار دارند؟

گوناگونی، برابری و دربرگیرندگی سه عنصر فرهنگ سازمانی هستند که در به کارگیری هوش مصنوعی نقشی ضروری دارند. چون به سیستم‌های هوش مصنوعی جهت داده و بر نحوه‌ی پیاده‌سازی نتایج تأثیر می‌گذارند. نکته‌ای که باید به خاطر داشت این است که هوش مصنوعی خودش نمی‌داند سوگیری دارد یا نه، تشخیص این مسئله بر عهده‌ی ماست.

سه مورد از بهترین کاربردهای هوش مصنوعی، عادلانه و بدون سوگیری

تیم‌های منابع انسانی باید بتوانند حد و حدود قابلیت‌های سیستم‌های هوش مصنوعی‌شان را بشناسند. این کار نیازی به تخصص در حوزه‌های فناوری یا شناخت الگوریتم‌های زیربنایی هوش مصنوعی ندارد.

بلکه آن‌چه تیم منابع انسانی باید بداند این است که چه نوع سوگیری‌هایی ممکن است در داده‌های آموزشی ظاهر شوند، سوگیری‌ها چطور می‌توانند به فرهنگ سازمانی رخنه کنند و سیستم‌های هوش مصنوعی چطور به این سوگیری‌ها دامن زده و آن‌ها را تداوم می‌بخشند.

در این قسمت، سه تاکتیک که در به کارگیری عادلانه و غیرسوگیرانه‌ی هوش مصنوعی به واحدهای منابع انسانی کمک می‌کنند را با هم مرور می‌کنیم:

1. حسابرسی منظم سیستم هوش مصنوعی: فارغ از این‌که سیستم‌ها داخلی باشند یا برون‌سپاری‌شده، ضروری است داده‌های آموزشی و نتایج نهایی مورد بازبینی قرار گیرند. پاسخ این سؤالات را پیدا کنید: آیا دیتاست به اندازه‌ی کافی بزرگ و متنوع هست؟ آیا اطلاعات مربوط به گروه‌های محروم (به خصوص از نظر نژادی و جنسیتی) در این دیتاست وجود دارد؟ اگر نتایج سیستم رضایت‌بخش نبودند، راهی به جز کنار گذاشتن و برنامه‌ریزی مجددش وجود ندارد.
2. درک زنجیره‌ی تأمین داده: هنگام استفاده از سیستم‌های هوش مصنوعی آماده به کار و برون‌سپاری‌شده باید به این نکته دقت داشت که سوگیری‌های فروشنده یا دیتاست‌های شخص ثالث در داده‌های آموزشی رخنه نکرده باشد.
3. استفاده از هوش مصنوعی برای ارتقای نیروی انسانی، نه جایگزینی آن: قابلیت‌های هوش مصنوعی با سرعتی نمایی در حال رشد هستند؛ اما واقعیت این است که هوش مصنوعی همچنان باید تحت مدیریت و نظارت قرار داشته باشد. با توجه به ریسک‌های موجود، تیم‌های منابع انسانی باید برای ارتقای عملکرد نیروهای خود، و نه جایگزین کردن آن‌ها، از هوش مصنوعی استفاده کنند. نباید فراموش کرد این انسان‌ها هستند که همچنان تصمیمات نهایی منابع انسانی و استخدامی را می‌گیرند.

هوش مصنوعی و کمک به واحد منابع انسانی در افشای نابرابری‌های سازمانی

تیم‌های منابع انسانی بهتر از هرکس دیگری در جریان سوگیری‌ها و نابرابری‌های موجود در سازمان هستند. به همین دلیل است که سهم پررنگی در به کارگیری فناوری‌های هوش مصنوعی علیه این مشکلات بر عهده دارند.

بدین منظور، لازم است مسئولیت‌هایی که به کارگیری این سیستم‌ها به همراه می‌آورد را شناخته و پیوسته، آموزش و نتایج آن‌ها را مورد بازبینی قرار دهید.

در صورت کاربرد درست، هوش مصنوعی، به جای تداوم بخشیدن به سوگیری‌ها، به شناسایی آن‌ها کمک می‌کند. هوش مصنوعی در افزایش کارآیی و کارآمدی وظایف و مسئولیت‌های منابع انسانی نیز نقش دارد و عملکرد متقاضیان شایسته و کارکنان ارزشمند را بهبود می‌بخشد.

منبع: هوشیو