В последние годы искусственный интеллект (ИИ) и машинное обучение (МО) стали ключевыми темами в научных и бизнес-кругах. Они обещают радикальные изменения в самом fabricе нашего общества: от медицины до транспорта, от финансов до образования. Однако за этой блестящей внешностью скрывается пугающая реальность – доминирование коммерческих интересов может привести к серьезным этическим проблемам. В этой статье мы рассмотрим, как растущий контроль бизнеса над исследованиями в области ИИ и МО угрожает независимой научной мысли и общественным интересам. Согласно недавнему исследованию, финансирование исследований в области ИИ со стороны промышленных компаний значительно превышает бюджетные вложения академических учреждений.
В 2021 году объем инвестиций в ИИ со стороны мировой промышленности составил более 340 миллиардов долларов, в то время как правительственные расходы на эти цели в США и Европе не превысили 2,6 миллиарда долларов. Это не просто статистика — это указание на рост влияния бизнеса в важнейшей области науки. Проблема усугубляется тем, что многие из этих исследований не доходят до общественности. По данным одного из исследований, только 3,84% публикаций по ИИ в рамках индекса Nature происходит от корпоративных авторов. Вместо этого крупные компании, такие как Google, Microsoft и Facebook, изолированы от научного сообщества, ведя свои исследования в закрытых лабораториях.
Это порождает опасения, что интересы компаний, которые, как правило, ориентированы на краткосрочную прибыль, могут привести к потере более широких и долгосрочных целей, которые могут быть крайне полезны для общества. К примеру, успех крупных языковых моделей и других технологий МО в первую очередь связан с доступом к огромным объемам данных, которые генерируются пользователями в процессе использования коммерческих сервисов. Это ставит академические учреждения в невыгодное положение, где им становится сложно конкурировать с бизнесом в создании лучших алгоритмов и моделей. Исследователи из области ИИ часто находят свои идеи и вдохновение в уже существующих коммерческих проектах, и многие талантливые учёные предпочитают переходить в бизнес вместо того, чтобы оставаться в университете. По данным MIT, доля получивших дипломы по ИИ в Северной Америке, работающих в бизнесе, увеличилась с 21% в 2004 году до почти 70% в 2020 году.
Такое смещение парадигмы вызывает серьезные вопросы о будущих направлениях исследований в области ИИ. В условиях, когда большинство активных исследователей вовлечены в краткосрочные коммерческие проекты, академические исследования, которые раньше были сосредоточены на этических и социальных аспектах развития ИИ, могут потерять своё значение. По мнению ученых, таких как Шеннон Валлор из Эдинбургского университета, существует опасность, что компании будут игнорировать важные вопросы, касающиеся общественного блага, и будут разрабатывать технологии, исходя исключительно из целей получения прибыли. К тому же, важно отметить, что многие компании уже сокращают свои вложения в исследования ответственного ИИ в пользу более прибыльных направлений, таких как генеративный ИИ. Это создает "гонку на дно", где компании спешат запустить свои продукты на рынок, не учитывая потенциальные риски и этические накладные расходы.
Однако есть и положительные примеры. Некоторые исследовательские инициативы в области ИИ стремятся преодолеть барьеры между академией и бизнесом, создавая платформы для исследования. Например, существует ряд программ в Канаде и Германии, которые помогают учёным легко получить доступ к необходимым вычислительным ресурсам. С другой стороны, учёные представляют собой "свежий воздух" для компаний, предлагая инновационные решения сложных задач, с которыми сталкиваются эти фирмы. В то же время, блокировка доступа к данным и моделям, используемым в коммерческом секторе, делает затруднительным для академиков получение необходимых ресурсов для проведения независимых исследований.
Ученые подчеркивают необходимость открытого доступа к технологиям ИИ, чтобы они могли эффективно произвести анализ и критическую оценку как существующих решений, так и нововведений. Ключевой задачей в этом контексте является создание диверсифицированного и сбалансированного подхода к исследованиям в области ИИ и МО. Существует необходимость в государственном финансировании, которое поддержит независимую академическую мысль и даст возможность университетам воспроизводить конкурентоспособные условия для своих исследователей. В то время как большие компании могут предложить свои ресурсы, правительство должно обеспечить наличие структуры, способной гарантировать внедрение этических принципов в разработки в области ИИ. Одним из возможных подходов к решению этой проблемы является внедрение новых налоговых стимулов для тех компаний, которые развивают ИИ ответственно.
Исследования показывают, что компании, занимающиеся ответственными ИИ-практиками, сталкиваются с меньшей налоговой нагрузкой, в то время как те, кто игнорирует эти аспекты, должны покрывать общественные издержки своих действий. Это может стать важным шагом в создании более справедливых и безопасных практик в области ИИ. Нельзя забывать и о взаимной выгоде, которая может возникнуть благодаря сотрудничеству между индустрией и академией. Учёные могут предложить независимые и глубокие исследования, которые могут обогатить понимание технологий, обеспечивая при этом поддержку для их реализации на практике. В то время как компании получают доступ к более богатому набору идей, рискованных и новаторских подходов, позволяющих развивать новые технологии.
Подводя итоги, важно осознавать, что предстоящие вызовы в области ИИ требуют от нас более активного участия как со стороны научного сообщества, так и со стороны коммерческих структур. По мере того как ИИ продолжает развиваться и охватывать все больше сфер нашей жизни, удачно сочетая интересы бизнеса и академии, можно создать сбалансированную экосистему, которая будет служить общественному благу. Но для этого необходимы усилия всех участников, чтобы гарантировать, что коммерческие интересы не будут сдерживать потенциальные прорывы в области науки и технологий.
