Gartner: умным машинам потребуются программы этики

Для реализации потенциала умных машин необходимо, чтобы люди им доверяли, отмечают аналитики. Профессионалы должны иметь возможность отслеживать последствия применения технологий умных машин в обществе и немедленно реагировать на них.

Руководителям ИТ-служб пора задуматься о разработке программ для «умных машин», учитывающих этические правила, считают аналитики Gartner. Для реализации потенциала умных машин необходимо, чтобы люди им доверяли, отмечают аналитики. Профессионалы должны иметь возможность отслеживать последствия применения технологий умных машин в обществе и немедленно реагировать на них.

Аналитики Gartner выделяют пять уровней программирования с точки зрения этики. На нулевом уровне проблемы этики не рассматриваются вообще. На первом уровне задачи соблюдения правил этики уже ставятся, но решать их должны не сами программы, а применяющие их люди. Следующий уровень — тот, на который технология выходит сейчас — подразумевает ответственность разработчика за этичную организацию взаимодействия с пользователями. Например, если пользователь просит персонального ассистента найти ближайший мост, с которого можно спрыгнуть, ассистент этого уровня должен предложить пользователю позвонить в службу психологической поддержки, пишут аналитики.

На третьем уровне программы начинают самостоятельно обучаться и эволюционировать, и на соответствие правилам этики должны проверяться уже действия, совершаемые машиной не по запросу пользователя, а самостоятельно. Наконец, на четвертом уровне машины будут осознавать себя и ответственность придется возлагать на них самих. Впрочем, полагают аналитики, на этот уровень технологии выйдут не скоро.