Математик: опасность нейросетей кроется в их «непрозрачности»
Технология подняла сложный моральный вопрос.
Кэти О’Нилл, автор книги «Оружие математического поражения», рассказала о малоизвестных особенностях нейросетей.
Например, в этой технологии кроются неявные проблемы морального характера. Сейчас нейросети участвуют в важных задачах, вроде принятия решения о выдаче кредитов, составлении статистики и прогнозировании рецидивов преступлений.
В этих условиях на первый план выходит «проблема чёрного ящика». Нейросети обрабатывают невозможные для других технологий массивы данных, но из-за этого люди не могут заглянуть к ним «под капот» и понять, как именно они принимают то или иное решение.
Эта непрозрачность вынуждает людей слепо полагаться на искусственный интеллект, целиком доверяя математике. Сейчас программисты бьются над этой проблемой, однако до решения ещё далеко.
Также Кэти говорит о другой опасности нейросетей: массовая безработица. Технологии уже сейчас заменяют людей на множестве профессий, оставив большей части человечества умственный труд. Однако искусственный интеллект в скором времени может лишить работы даже копирайтеров, дизайнеров и бухгалтеров.
