Алгоритмы технологий, которые формируют правительственные решения, должны быть открыты для граждан. В этом убеждена американский программист и публицист Эллен Ульман (Ellen Ullman). В интервью Slack эксперт рассказала, почему важно соблюдать этот принцип, и привела примеры. Теплица перевела несколько тезисов, которые будут полезны для программистов.
Эллен Ульман начала карьеру в области программирования в 1970-х годах, став одной из первых женщин в этой сфере. Ее книги и статьи, посвященные профессиональной разработке программного обеспечения, выходили в изданиях Harper’s, Salon, Pesisting the Virtual Life и Wired Woman. Ульман описывает последние два десятилетия в области вычислительной техники, в частности, как Интернет изменил нашу повседневную жизнь.
Ульман считает, что люди с гуманитарным образованием должны вмешиваться в мир программистов, добиваясь открытости кода. Она приводит успешный пример того, как в США эту проблему стараются решить на законодательном уровне.
В августе 2017 года член городского совета Нью-Йорка Джеймс Вассе (James Vacca) представил законопроект, который потребовал бы от чиновников обнародовать компьютерные инструкции, что используются для принятия решений. Это позволило бы сделать алгоритмы прозрачными, а люди могли бы контролировать ситуацию.
Разработать такой законопроект Вассе подтолкнула ситуация в его районе, где именно алгоритмы определяют многие вещи, включая, в какую именно школу должны ходить дети, как назначаются полицейские патрули, по каким критериям оценивать работу учителей и график сбора мусора.
Политик хочет, чтобы люди спрашивали, каким образом код принимает эти решения, может ли решение быть предвзятым? И если алгоритм отдела образования отправляет ребенка в школу, которая находится далеко от дома, родители, по его мнению, вправе обжаловать такое решение.
Еще по теме: Как развивается движение открытого кода
Эллен Ульман согласна с политиком, она называет проблему закрытости повсеместной. Эксперт объясняет, что программисты, которые писали код в 1960-х и 1970-х годах, не знали, что некоторые из разработок будут использоваться и в конце 1990-х. Дело в том, что код имеет тенденцию жить дольше, чем его жизненный цикл, а значит, нужно проводить его аудит.
«Алгоритмы уже окружают нас, определяя, как мы получаем ипотечные кредиты или платим за аренду квартир, или устраиваемся на работу. Они могут управлять нашей жизнью, но я убеждена, что будущее будут делать люди. Крайне важно, чтобы мы сделали их открытыми и подотчетными, представив на обсуждение широкой публике», – говорит Эллен Ульман.
Также, по мнению эксперта, программистам нужно быть терпеливыми и готовыми к разочарованию и находить очарование в поиске решений. «Работая в области технологий и техники, вы будете преодолевать множество неудач. Сначала вы будете строить, а затем наблюдать, что будет уже учить вас», – заключила эксперт.
Оригинал статьи на Medium (Eng.).