На днях увидела новость: компания Neuralink, принадлежащая Илону Маску, в октябре планирует начать клинические испытания некой технологии, которая позволит переводить мысли в текст при помощи мозговых имплантов.
Предположительно это позволит людям с нарушениями речи вести коммуникацию с окружающими. Как работает технология: чип с помощью искусственного интеллекта сможет преобразовывать мысли в электрические сигналы и передавать на внешние устройства. Более того, в компании утверждают, что такие чипы будут считывать мысленную речь даже быстрее, чем человек сможет эти мысли выразить словами. К 2030 году обещают адаптировать устройство и под здоровых людей.
Не будем касаться технической стороны вопроса: видимо, будущее уже настолько близко, что не наступает на пятки, а прямо-таки падает сверху на голову. Мне в этой связи любопытны два других момента.
Первый: знают ли в Neuralink о прямой связи речи с мышлением? Человек, который даже не будет успевать додумать свою мысль связно, понять, как она прозвучит, разучится и мыслить. Будет выдавать кашу наподобие той, что варилась в головах у чиновников Салтыкова-Щедрина.
Второй: насколько этично использовать искусственный интеллект в таком случае? Как мы можем быть уверены, что ИИ верно распознает и донесёт до нас то, что действительно хочет сказать человек (и тут даже не то что хочет! а просто думает: может, он и не желает этого, а устройство уже тут как тут и всё выложило), если машина до сих пор в своих генерациях не может сообразить, как выглядят человеческие руки и ноги. Допустим, ко времени запуска технологии ИИ сильно поумнеет. В таком случае риск злоупотребления с его стороны только возрастёт, ведь как мы проверим, что на самом деле хотел сказать человек, если его единственный канал коммуникации – это компьютер? Возможно, его и переспросить нельзя, если речь идёт о больном, способном только мигнуть одним глазом.
Представим себе, что знаменитый учёный Стивен Хокинг дожил до внедрения технологии. Наверное, он хотел бы получить возможность и дальше писать свои книги и давать лекции, но! Кто поручится, что ИИ работает без цензуры; что он не перевирает слова в угоду чьим-то желаниям (возможно, даже своим собственным); что он в принципе верно понимает сложнейшие движения мозга такого уникального человека?
А что думаете вы? Стоит ли нам бояться, что наш интеллект заменят софтом?
