Перевод зарубежной прессы
Не довольствуясь мониторингом практически всего, что вы делаете в Интернете, теперь Facebook хочет читать ваши мысли. Гигант социальных сетей недавно объявил о прорыве в своем плане по созданию устройства, которое считывает мозговые волны людей, позволяя им печатать, просто думая. И Илон Маск хочет пойти еще дальше. Одна из других компаний босса Tesla, Neuralink, разрабатывает мозговой имплант, чтобы напрямую связать умы людей с компьютером.
Маск признает, что он черпает вдохновение из научной фантастики и хочет, чтобы люди могли «идти в ногу» с искусственным интеллектом. Кажется, он пропустил ту часть научной фантастики, которая служит предупреждением о возможных последствиях технологии.
Эти системы чтения мыслей могут не лучшим образом повлиять на конфиденциальность, безопасность, идентичность, равенство и личную безопасность. Неужели мы действительно хотим, чтобы нашу жизнь меняли компании, придерживающиеся философии, такой как философия бывшей мантры Facebook, «двигайся быстро и круши/ломай» (Move fast and break things)? Только не в этом случае.
Хотя они кажутся футуристическими, технологии, необходимые для создания устройств для чтения мозговых волн, ничем не отличаются от стандартных инструментов МРТ (магнитно-резонансная томография) и ЭЭГ (электроэнцефалография), используемых в больницах по всему миру. Вы уже можете купить набор для управления дроном своим умом, поэтому использование одного из них для набора слов в некотором смысле не так уж и сложно. Прогресс, вероятно, будет связан с использованием машинного обучения для просеивания огромного количества данных, собранных нашим мозгом, и для определения моделей активности нейронов, которые связывают мысли с конкретными словами.
Мозговой имплантат, вероятно, займет гораздо больше времени, и важно отделить реальные достижения Neuralink от рекламы. Но Neuralink сделал одновременные улучшения в материалах для электродов и роботизированной хирургии, чтобы имплантировать их, аккуратно упаковав технологию, чтобы ее можно было прочитать через USB.
Планы Facebook и Neuralink могут основываться на устоявшейся медицинской практике. Но когда компании собирают мысли прямо из нашего мозга, этические проблемы возникнут очень разные.
Любая система, которая может собирать данные непосредственно из нашего мозга, имеет явные риски для конфиденциальности. Конфиденциальность о согласии. Но очень трудно дать правильное согласие, если кто-то напрямую касается наших мыслей. Компании Силиконовой долины (и правительства) уже тайком собирают о нас как можно больше данных и используют их так, как нам совсем не хочется. Насколько мы можем быть уверены, что наши случайные и личные мысли не будут захвачены и изучены вместе с инструкциями, которые мы хотим дать технологии?
Дискриминация и манипулирование
Одной из существующих этических проблем при сборе данных является дискриминация по признакам, таким как пол или раса, которые можно легко различить из полученной информации. Такое окно в умы людей может облегчить определение других вещей, которые могут составлять основу предрассудков, таких как сексуальность или политическая идеология, или даже различные способы мышления, которые могут включать такие вещи, как аутизм.
С системой, которая подключается непосредственно к вашему мозгу, возможно не только украсть ваши мысли... Что если ими можно будет манипулировать? Стимуляция мозга уже разрабатывается, чтобы помочь лечить ПТСР и уменьшить насилие. Есть даже сенсационные заявления, что его можно использовать для прямой загрузки знаний, как в фильме «Матрица».
Предсказуемым шагом было бы объединение технологий «в» и «вне» для двустороннего интерфейса мозг-компьютер. Возможность того, что правительства сделают нас более податливыми, работодатели заставят нас работать усерднее или компании заставят нас хотеть больше их продуктов, подчеркивает, насколько серьезно мы должны относиться к этой технологии.
Если устройства для чтения мыслей станут обычным способом взаимодействия с компьютерами, у нас может не быть иного выбора, кроме как использовать их, чтобы не отставать от более продуктивных коллег. (Представьте себе, что кто-то сегодня подает заявку на работу в офисе, но отказывается от использования электронной почты.) И если имплантаты в стиле Neuralink станут нормой, это также может привести к еще большему неравенству, определяемому тем, какой уровень комплекта вы можете себе позволить установить.
Илон Маск заявил, что огромный кредит, необходимый для проведения операции Neuralink, будет компенсирован потенциальным заработком для «улучшенных». Мысль о том, что люди чувствуют себя вынужденными брать на себя огромные долги, чтобы сделать операцию и сохранить свою работу, исходит прямо из научно-фантастической антиутопии.
Вдобавок ко всему, это более прямая физическая угроза того, что системы будут физически вторгаться в наш мозг. Хотя некоторые люди могут захотеть модифицировать свой мозг с помощью компьютерного интерфейса (уже существует множество экспериментальных биохакеров), для развертывания этого в больших масштабах потребуется массивное и тщательное тестирование.
Учитывая репутацию (и склонность) Силиконовой долины к тому, чтобы ломать вещи, а не останавливаться, чтобы их обдумать, эти системы потребуют тщательного регулирования и этического пересмотра еще до начала тестирования. В противном случае это может привести к созданию изуродованных морских свинок человека.
Несмотря на все это, могут быть огромные преимущества для продолжения исследований в этой области, особенно для тех, кто страдает от паралича или сенсорных нарушений. Но Силиконовая долина не должна быть в состоянии диктовать, как эти технологии должны развиваться и использоваться. Если они это сделают, человечество может радикально измениться в самые краткие сроки.