О сложностях общения с компьютером

На фоне всеобщего увлечения голосовыми интерфейсами полезно вспомнить старую поговорку — «компьютер делает то, что вы сказали ему делать, а не то, что вы бы хотели, чтобы он сделал». Именно про это пишет автор небольшого эссе «Alexa, please kill me now», которое мне любезно подбросил Medium.

Our imagination glides to a Hollywood vision of effortless, empathetic conversation, and our machines-of-loving-grace respectfully bow as they retire to do our bidding. They become our sentient and willing servants, responding to our verbal commands. “Fix dinner.” “Let Jen know that I’ll be late.” “Increase sales by ten percent.” “Make sure nobody is spying on me.”

This vision is not just anthropomorphic, it’s fantastic. It’s not just imputing human capabilities onto computers, it’s imputing super-human capabilities. Just because we can form a thought in our head, we mistakenly assume that someone else can form that same thought based on some noises we make in our throats.

Just because your computer recognizes the words you say, don’t extrapolate from that to assume that it understands what you mean. Your spouse, who has lived with you for 20 years is just now getting an inkling of what you mean when you talk. Your computer is likely never going to understand you for the simple reason that the things you say aren’t really understandable.

Разумеется, разработчики голосовых интерфейсов понимают, что виртуальный помощник должен как минимум учитывать контекст. Мне вспоминаются статьи 80-х годов, когда большой задачей считалось разработка компьютера, умеющего играть в шахматы — очевидно, что, по аналогии с тогдашними разработками, хороший виртуальный помощник должен будет учитывать набор контекстов и даже строить этакое дерево вариантов при получении голосовых команд.

С другой стороны, помните, как в начале 2000-х все уверяли друг друга, что вот-вот поисковики начнут воспринимать запросы, сделанные на естественном языке? Оказалось, что люди предпочли освоить телеграфный язык запросов с употреблением ключевых слов, тем более, что так экономнее. Не окажется ли, что в ближайшем будущем люди предпочтут сказать «Siri, погода, Киев, завтра, утро», чем растекаться фразой «Скажи, пожалуйста, какая погода будет завтра в Киеве?». Тем более, что уже работает и так, и эдак.