В последние годы активное развитие технологий искусственного интеллекта (ИИ) и машинного обучения вызывает множество споров и обсуждений. Основная причина такой возни заключается в том, что этот стремительный прогресс зачастую диктуется исключительно коммерческими интересами, что ставит под угрозу не только научные достижения, но и общественные интересы. Научные исследования в области ИИ изначально активно развивались в университетах и исследовательских учреждениях. Многие из ныне популярных технологий, такие как машинное обучение и обработка естественного языка, возникли благодаря исследованиям, проводимым учеными на протяжении нескольких десятилетий. Например, искусственные нейронные сети, стоящие в основе современных алгоритмов, были разработаны именно в академической среде.
Однако с недавним ростом интереса со стороны частного сектора роль науки в разработке ИИ значительно сократилась. Проблема заключается в том, что большая часть передовых исследований теперь ведется в закрытых лабораториях крупных компаний, таких как Google, OpenAI и Meta. В результате, научные работы, проведенные в университетах, начинают терять свое влияние. Только 3,84% исследовательских публикаций в области ИИ в США приходятся на долю корпораций. Тем не менее, исследование, проведенное Массачусетским институтом технологии в прошлом году, показало, что доля компаний среди соавторов научных публикаций на ведущих конференциях в области ИИ возросла с 22% в 2000 году до 38% в 2020 году.
Причиной столь значительного изменения является не только перевес бюджета, который располагает индустрия. В 2021 году общие расходы правительства США (за исключением Министерства обороны) на исследования ИИ составили лишь 1,5 миллиарда долларов, тогда как 산업ное финансирование перевалило за 340 миллиардов долларов на глобальном уровне. Эти巨 размеры финансирования предоставляют компаниям доступ к необходимым ресурсам: вычислительной мощности, большим объемам данных и высококвалифицированным специалистам. Сравнительно небольшой бюджет академических организаций делает их абсолютно неподготовленными для конкурентной борьбы с частным сектором. Например, периодическая доля ИИ-моделей в компаниях в 2021 году была в среднем в 29 раз больше, чем у учебных заведений.
Кроме того, высокие зарплаты и возможность работать на переднем крае технологий привлекают талантливых ученых из вузов, что еще более усугубляет ситуацию. Однако основная проблема заключается в том, что компании, руководствуясь принципами извлечения прибыли, фокусируются на краткосрочных интересах, что сказывается на исследовательских направлениях. Как заметил Холгер Хоос, исследователь в области ИИ в Университете РВТГ Ахена в Германии, «разработка технологий, имеющих важное значение для общества, не должна опираться исключительно на коммерческую выгоду». Отсутствие долгосрочного видения и выделение минимального бюджета на исследование этических, социальных и экологических последствий использования ИИ могут привести к серьезным последствиям. Ученые, занимающиеся этикой ИИ, подчеркивают важность наличия независимой научной среды, способной генерировать знания без привязки к коммерческим интересам.
Академическая среда предоставляет необходимую основу для глубокого анализа и оценки потенциальных угроз, связанных с новыми технологиями, а также разрабатывает пути минимизации этих рисков. Однако усиливающаяся зависимость от коммерческого финансирования ведет к тому, что ведущие компании ИИ менее активно занимаются исследованием технологий, направленных на ответственное использование ИИ. Исследование, проведенное Нуром Ахмедом и его коллегами, подтвердило, что компании выдают значительно меньше научных работ, посвященных ответственности в области ИИ, по сравнению с обычными статьями в этой области. «Компании инвестируют в ответственный ИИ, но это происходит не так активно, как должно быть», — отмечает Валлор. Программа, которая могла бы изменить ситуацию, заключается в внедрении налоговых льгот для компаний, потворствующих ответственному ИИ.
В то же время те, кто отказывается следовать стандартам, могут обременяться дополнительными расходами. Важно отметить, что, хотя академическая среда и страдает от недостатка ресурсов, она продолжает оставаться ключевой для развития необходимого понимания и анализа технологий, которые могут потенциально нанести вред обществу. Однако для обеспечения должного уровня надзора не хватает открытости в доступе к технологиям и коду, лежащему в основе коммерческих ИИ-моделей. Ученые утверждают, что компании должны начать более активно делиться своими технологическими достижениями с научной средой. Например, Meta находит выгоду в открытом доступе к своим ИИ-моделям, чтобы привлекать таланты и мотивировать разработку новых идей и решений, однако полностью раскрывать свои разработки с учетом конкурсных преимуществ они вряд ли когда-либо будут.
Тем не менее, многие исследователи предсказывают, что неизбежно произойдет баланс между академическими и промышленными исследовательскими направлениями. Чисто академические работы, несмотря на свою новизну и необычные подходы, также могут ощутить влияние практического опыта, который накопили компании. Существуют различные инициативы по поддержке академического исследования в области ИИ. Например, программа «Канадская стратегия ИИ» продемонстрировала, как небольшие, но целенаправленные инвестиции могут оказать значительное влияние. Канада, вкладывая около 2 миллиардов долларов с 2016 года, сумела позиционировать себя среди мировых лидеров в области ИИ.
Необходимость семь быстрая реакция страны на глобальные изменения, связанные с ИИ и его последствиями, подчеркивает важность участия академиков в обсуждении новых направлений исследований. Устойчивое развитие технологий требует равновесия между коммерческими интересами и общественными потребностями. В заключение, будущее ИИ неразрывно связано с этичными и ответственные исследовательскими практиками. Обеспечение независимости академических исследований должно стать приоритетом для всех заинтересованных сторон. Без учета общественного блага и недопустимости акцентирования лишь на коммерции технологии способны стать как полезными, так и губительными для всего общества.
Как подчеркивают эксперты, без построения рамок, в которых академические и промышленные интересы работают в симбиозе, технологии ИИ, увы, могут обрести не только преимущества, но и сильнейшие недостатки.
