В последние годы мы стали свидетелями стремительного роста искусственного интеллекта и машинного обучения, однако именно под этой бурной поверхностью скрываются глубокие проблемы. Обсуждения о том, как технологии, разработанные с помощью машинного обучения, используются в современных компаниях, особенно тех, которые стремятся получить максимальную прибыль, становятся все более актуальными. И это вызывает возмущение как в научных кругах, так и среди широкой общественности. Академические исследования, которые послужили основой для многих современных методов искусственного интеллекта, в значительной степени были результатом работы ученых и исследователей. Однако сейчас мы наблюдаем, как ведущие компании в сфере технологий берут на себя инициативу, продолжая развивать и применять знания, полученные в университетах.
Это поднимает важные вопросы о том, насколько этично и ответственно такое использование технологий. Академия традиционно считается территорией, где исследования проводятся с целью увеличения знаний и понимания мира вокруг нас, без прямой привязки к коммерческим интересам. Однако по мере роста коммерческих инвестиций в искусственный интеллект, баланс власти смещается в сторону частных компаний. В 2021 году мировые компании потратили более 340 миллиардов долларов на исследования в области ИИ, тогда как правительственные агентства США, включая финансирование от Европейской комиссии, потратили всего лишь 2.6 миллиарда долларов.
Эта разница в инвестициях создает значительные барьеры для академических учреждений, которые не могут конкурировать с таким финансовым мощным. Одна из основных проблем заключается в том, что компании, стремящиеся получить прибыль, формируют направления исследований, исходя из своих краткосрочных интересов. Это означает, что приоритет отдается тем технологиям, которые могут быстро принести доход, в ущерб более глубоким и потенциально важным для общества исследованиям, связанным с этическими и социальными последствиями применения ИИ. Исследователи отмечают, что это приводит к дефициту серьезных исследований, направленных на изучение возможных опасностей и негативных последствий, связанных с использованием ИИ. Совершенно очевидно, что для безопасного и ответственного использования технологий необходимо больше внимания уделять областям, связанным с ответственным использованием ИИ, однако крупные компании, похоже, пренебрегают этими вопросами, предпочитая сосредоточить усилия на разработках, способствующих увеличению прибыли.
Ученые в области этики и социальных наук предупреждают, что такая односторонняя ориентация на прибыль может иметь серьезные последствия, такие как усиление существующих предвзятостей в алгоритмах и потенциал для создания технологий, способствующих социальной неравенству. Одним из примеров этого стали предвзятые системы, используемые для оценки заявок на кредиты или найма на работу, которые могут негативно сказаться на определенных группах населения. Важно отметить, что академическая среда остается единственным местом, где исследователи все еще могут работать без прямой привязки к коммерческим интересам. Многие из них бьют тревогу, утверждая, что академии необходимы для создания более широких возможностей для изучения того, какая роль искусственного интеллекта может быть в улучшении жизни людей, а не только в увеличении прибыли. Они считают, что академические исследователи могут внести важный вклад в формирование знаний, которые не исходят из коммерческого императива.
Несмотря на опасности, которые могут возникнуть при доминировании интересов бизнеса, все же существует надежда на сотрудничество между академической и промышленной сферами. Технологические компании могут извлечь выгоду из академических исследований, которые могут дать им уникальные идеи и подходы к решению задач, стоящих перед ними. В свою очередь, академические исследователи могут получить доступ к необходимым ресурсам и данным от компаний, что поможет им в проведении более глубоких и актуальных исследований. Тем не менее, академия не должна полагаться исключительно на частные компании для доступа к необходимым ресурсам. Существует необходимость в более значительных инвестициях в базовые научные исследования со стороны университетов и правительств, чтобы обеспечить достаточные условия для независимых исследований.
Инвестиции в образовательные программы и исследования могут создать экосистему, где инновации будут процветать за пределами коммерческих интересов, ведя к долгосрочным выгодам для общества в целом. Как было отмечено ранее, для того чтобы повысить уровень ответственности в разработке технологий, необходимо вводить более строгие регуляции для компаний, работающих в сфере искусственного интеллекта. Биржи и ассоциации должны разработать строгие этические нормы и стандарты, которые заставят компании учитывать социальные и этические аспекты своих исследований. Каждая компания должна быть готова пройти аудит на предмет соблюдения этих норм. В конечном счете, будущее искусственного интеллекта и машинного обучения зависит от способности общества находить баланс между коммерческими интересами и общественными потребностями.
