Дослідження: лише 18% дата-науковців вчаться етиці ШІ
09.07.2020
На тлі зростання критики технологій штучного інтелекту, яким закидають гендерну та расову упередженість, гіганти IT-ринку запускають власні етичні проєкти. Утім, їхня надійність також викликає сумніви.
Машинне навчання, аналітика даних та штучний інтелект – одні з найбільш популярних тем у нинішньому IT-середовищі. Тим не менш, чимало фахівців у галузі закликають компанії та дослідницькі установи робити data science більш уважною до питань етики та сталого розвитку. Цьому питанню присвячено, зокрема, дослідження популярної data science-платформи Anaconda.
У звіті “Стан data science 2020: від гайпу до зрілості” (The State of Data Science 2020: Moving from Hype Toward Maturity) проєкт досліджує тренди в індустрії – від популярних мов програмування та інструментів, до питань безпеки та упереджень у машинному навчанні. Участь в опитуванні взяли 2360 представники сфери аналітики даних більш ніж зі ста країн.
- Хоча бізнес активно використовує open source інструменти для різних цілей, питання безпеки не завжди вирішені належним чином. 30% респондентів, обізнаних з темою, зазначили, що у їхніх організацій немає жодного механізму, який би гарантував безпечність використання open source рішень для data science та машинного навчання.
- Шлях використання data science результатів у операційній діяльності бізнесу не завжди простий. За даними опитування, в середньому 45% часу аналітиків даних витрачається на підготовку даних (завантаження та “очищення”), щоб далі вже будувати моделі та візуалізації. Часто для останнього бракує навичок та програмних середовищ – тому лише менше половини (48%) опитаних кажуть, що можуть уточнити вплив data science моделей на результати бізнесу.
- Майже кожен другий респондент назвав серед головних проблем data science можливі упередження та питання конфіденційності даних. Утім, лише 15% викладачів вказали, що включають до навчання теми етики штучного інтелекту. Серед студентів це питання вивчають лише 18%.
- Опитування також показало, що роботодавцям варто більше уваги приділяти і задоволенню від роботи data-аналітиків та фахівців з data science. Третина опитаних спеціалістів у галузі каже, що планує змінити роботу в найближчий рік, ще чверть – у найближчі три роки.
Попит на фахівців data science в останні роки дедалі зростає, зазначають дослідники. Навіть нещодавній спад економіки через пандемію цьому не на заваді: компанії бачать позитивний ROI від інвестицій у дата-аналітику. Серед ключових висноків опитування Anaconda виділяє наступні:
Питання етики
Хоча чимало технологічних компаній намагаються вирішувати проблеми етики використання даних через “інструменти чесності” (fairness tools), такі підходи не набувають масового поширення, зазначає The Next Web. Так, за даними опитування Anaconda, лише у 15% респондентів використовуються такі засоби чесності.
На думку авторів дослідження, така ситуація може мати далекосяжні наслідки. Про які б етичні концепції не велися дискусії у середовищі дата-аналітики, зазначають вони, неспроможність проактивно працювати з цими питаннями становить стратегічну загрозу. Інституції та бізнес наражають себе на небезпеку щодо питань конкурентоспроможності, прибутків та навіть права.
“Data science може стати справжнім рушієм змін для бізнесів”, – каже CEO Anaconda Пітер Венґ. “Утім, наше дослідження цього року показує, що і організації, і фахівці досі набувають зрілості у цій галузі. Що з нього можна винести? Потрібно розширяти програми підготовки data science спеціалістів, більш адресно вирішувати питання безпеки open source інструментів. Звісно, у багатьох сферах помітний відчутний прогрес, але чимало роботи ще належить зробити”, – резюмував він.