9004 на GitHub03 Diffprivlib

Ключевые слова деидентификации:  Дифференциальная конфиденциальность, машинное обучение, анализ данных

Diffprivlib — это библиотека Python общего назначения для экспериментов и создания инструментов для дифференциальной конфиденциальности. Diffprivlib включает ряд готовых алгоритмов для машинного обучения и анализа данных с дифференциальной конфиденциальностью в знакомом синтаксисе Scikit-learn и Numpy.

Примечания: Вводный технический документ

Аффилированные лица/организации, внесшие вклад:  IBM Research
GitHub POC и электронная почта:  @naoise-h | naoise [at] ibm. com

Diffprivlib на GitHub Share Feedback

Duet

Деидентификация Ключевые слова: Дифференциальная конфиденциальность, Проверка алгоритмов, Машинное обучение

Duet — это язык программирования, который автоматически выводит (и проверяет) дифференциальные границы конфиденциальности для программ, написанных на этом языке. Duet предназначен для поддержки современных алгоритмов машинного обучения и расширенных вариантов дифференциальной конфиденциальности, чтобы добавить минимальный шум к результатам алгоритма для обеспечения конфиденциальности.

Примечания:  paper [arXiv]

Принадлежность/организация(-и), вносящие вклад:  Университет Вермонта, Калифорнийский университет в Беркли, Университет Юты
Пользователь GitHub, выступающий в качестве POC:

9 0 @ GitHub  Share Feedback

Ektelo

Деидентификация Ключевые слова:  Differential Privacy

Ektelo — это среда и система программирования, которая помогает программистам разрабатывать дифференциально частные программы с высокой полезностью. Ektelo можно использовать для создания программ для различных статистических задач, которые включают в себя ответы на запросы подсчета по таблице произвольной размерности.

Примечания: Ektelo подробно описан в документе SIGMOD 2018 под названием «EKTELO: основа для определения дифференциально-частных вычислений». https://dl.acm.org/citation.cfm?id=3196921

Филиал/Организация(и) Содействующие:  UMass Amherst, Университет Дьюка, Университет Колгейт
GitHub POC: @michaelghay

Ektelo Отзыв

Библиотека конфиденциальности Google Differential

Деидентификация Ключевые слова:  Дифференциальная конфиденциальность

Библиотека дифференциальной конфиденциальности Google предоставляет набор компонентов строительных блоков, которые позволяют разработчикам создавать дифференциально частные приложения на C++, Java и Go. Кроме того, библиотека Google DP предлагает «Конфиденциальность на Beam» — сквозную реализацию дифференциальной конфиденциальности, которая помогает разработчикам выполнять операции дифференциально конфиденциальным образом. Эта лаборатория кода дает дополнительную информацию.

Примечания:  

Принадлежность/Организация(и) Содействующие:  Google
Электронная почта POC:  dp-open-source [at] google.com

Google Differential Privacy на GitHub    Поделиться отзывом

GUPT: Анализ данных с сохранением конфиденциальности стал проще

Деидентификация конфиденциальности Ключевые слова: , Машинное обучение, Запросы к базе данных

Инструмент обеспечивает различные гарантии конфиденциальности для статистических алгоритмов/алгоритмов машинного обучения, рассматривая базовый алгоритм как черный ящик и полагаясь только на входные/выходные подписи. Он реализует вариант знаменитой структуры выборки и агрегирования Ниссима, Рашходниковой и Смита, 2007. Эмпирическая оценка показывает, что система хорошо справляется с различными задачами обучения (такими как кластеризация и регрессия).

Примечания:  GUPT подробно описан в документе SIGMOD 2012 под названием «GUPT: упрощенный анализ данных с сохранением конфиденциальности». PDF-файл доступен здесь.

Филиал/Организация(и) Содействующие: Калифорнийский университет, Беркли; Калифорнийский университет в Санта-Круз; Корнельский университет
GitHub POC: @prashmohan

GUPT на GitHub Поделиться отзывом

PixelDP

Ключевые слова деидентификации: Дифференциальная конфиденциальность, проверка алгоритмов, машинное обучение, примеры состязательных действий

Примеры состязательных действий, которые обманывают модели прогнозирования, — это новый класс атак, представленных развертыванием машинного обучения. PixelDP — это первая сертифицированная защита, которая предлагает доказуемые гарантии устойчивости к этим атакам и масштабируется до больших моделей и наборов данных, таких как Inception от Google в наборе данных ImageNet. Дизайн PixelDP основан на новом использовании дифференциальной конфиденциальности во время прогнозирования.

Примечания:  В этом исследовательском документе IEEE S&P 2019 описывается PixelDP.

Участники/Организация (S): Columbia University
GitHub POC: @matlecu

Pixeldp на Github Share обратная связь

Приложение для защиты конфиденциальности (PPA)

De-Identification. , Анонимизация, Утечка информации, Алгоритмическая достоверность, Запросы к базе данных, Данные о местоположении

Приложение Privacy Protection деидентифицирует базы данных, которые содержат последовательные данные геолокации, иногда называемые базами данных движущихся объектов. Примером может служить запись маршрута личного автомобиля, но инструмент может обрабатывать и другие типы последовательностей геолокации. Приложение имеет графический пользовательский интерфейс и работает в Linux, OS X и Windows. Подавление местоположения — это используемая стратегия деидентификации, и решения о том, какие местоположения следует скрыть, основаны на теории информации. Эта стратегия не изменяет точность сохраняемой информации о местоположении. Одной из целей является получение данных, которые можно использовать для анализа безопасности транспортных средств и разработки транспортных приложений.

Примечания: Этот инструмент работает со статическими базами данных и имеет две версии. В основных версиях графического интерфейса используется очень эффективная стратегия сопоставления карт, которая может идентифицировать ложные дороги для определенных типов дорожных сооружений. Версия с тегами (https://github.com/usdot-its-jpo-data-portal/privacy-protection-application/releases/tag/hmm-mm) использует алгоритм сопоставления карт скрытой марковской модели, который является более точным, но менее эффективным. Эта версия представляет собой инструмент командной строки, который работает в Docker. Кроме того, для пилотного исследования безопасности USDOT был разработан инструмент потоковой деидентификации. Этот инструмент использует геозону для определения местоположений, которые можно сохранить. Его также можно найти на GitHub: https://github. com/usdot-jpo-ode/jpo-cvdp

POC: carterjm [at] ornl.gov

PPA на GitHub Share Feedback

Private Aggregation of Teacher Ensembles (PATE)

Деидентификация Ключевые слова:

Machine 090 The Differential Learning framework достигает дифференциального частного обучения, тщательно координируя деятельность нескольких разных моделей ML.

Примечания:  Документы с полной информацией: https://arxiv.org/abs/1802.08908

Принадлежность/организация(-и), вносящие вклад:  Google
GitHub POC:  @npapernot 

PATE Framework на GitHub   Поделиться отзывом

Предоставьте свой инструмент деидентификации.

Внести вклад

Как могла бы выглядеть конфиденциальность в США без решения Roe v. Wade

25 мая 2022 г.

Согласно просочившемуся проекту решения по делу Доббс против Организации женского здоровья Джексона, , Верховный суд вскоре может подтвердить конституционность Закона штата Миссисипи о гестационном возрасте, закона штата, который в целом запрещает аборты после 15 недель зачатия. . Тем самым он отменил бы почти 50-летний прецедент, установленный решениями Верховного суда в Роу против Уэйда (1973) и Planned Parenthood против Кейси (1992), в которых подтверждалось, что люди сохраняют определенные права на неприкосновенность частной жизни от правительства в планировании семьи.

Решение Dobbs было принято в то время, когда общей глобальной тенденцией за последние несколько десятилетий было расширение, а не ограничение доступа к возможностям планирования семьи. Но просочившееся мнение может повлиять не только на индивидуальное право на аборт; это также может привести к спорам по поводу конституционного толкования неприкосновенности частной жизни. Президент Джо Байден признал эту проблему, заявив в ответ на просочившееся мнение: «любое другое решение [Верховного суда], касающееся понятия конфиденциальности, ставится под сомнение». Изменение политики в области репродуктивного здоровья может затронуть и коммерческие предприятия, особенно с учетом отсутствия всеобъемлющего федерального закона о конфиденциальности данных в Соединенных Штатах. Поскольку сотрудники правоохранительных органов часто получают доступ к данным из частного сектора, огромный объем и масштабы сбора данных интернет-платформами и потребительскими устройствами ставят уникальные вопросы о соответствующих ограничениях государственного надзора для обеспечения соблюдения законов штата, включая любые текущие или предстоящие ограничения на аборты.

Q1: Как первоначальное решение по делу Roe v. Wade от 1973 года связано с конституционным правом на неприкосновенность частной жизни?

A1: Хотя Четырнадцатая поправка не содержит слова «неприкосновенность частной жизни» и не встречается в остальной части Конституции, суды США уже давно признали право человека на неприкосновенность частной жизни дома и в семье. Верховный суд впервые признал конституционное право на неприкосновенность частной жизни в деле Griswold v. Connecticut 9.0335 (1965) , знаковое решение, основанное на свободе людей использовать противозачаточные средства без вмешательства со стороны правительства. Решение Griswold признало, что Билль о правах содержит «зоны конфиденциальности» правительства в рамках Первой, Третьей, Четвертой и Пятой поправок. В сочетании с Девятой поправкой, которая признает существование некоторых конституционных прав, прямо не упомянутых в Билле о правах, и Четырнадцатой поправкой, которая гласит, что правительство не может посягать на «жизнь, свободу или собственность» без «должного судебного процесса», Верховный суд заявил, что существует конституционное право на неприкосновенность частной жизни в «полутени» или тени этих средств защиты. Griswold создал прецедент для многочисленных дел, связанных с конфиденциальностью, за последние шесть десятилетий, в том числе Roe против Wade (1973) и Planned Parenthood против Casey (1992) .

В деле Roe v. Wade (1973) Верховный суд постановил, что пункт о надлежащей правовой процедуре Четырнадцатой поправки «защищает от действий государства право на неприкосновенность частной жизни, включая ограниченное право женщины на прерывание беременности», и что «хотя государство не может преобладать над этим правом, оно имеет законные интересы в защите как здоровья беременной женщины, так и возможности человеческой жизни». Соблюдая этот баланс интересов, Роу против Уэйда эффективно остановило исполнение многих законов штатов, запрещающих аборты до 24 недель. Позже Верховный суд подтвердил в деле Planned Parenthood v. Casey , что «основное право на неприкосновенность частной жизни защищает граждан от государственного вмешательства в такие интимные семейные дела» и что закон штата нарушит пункт о надлежащей правовой процедуре, если он создает «неправомерное бремя» на право беременной на выбор.

Q2: Принимая во внимание проект решения, почему важно также изучить положения о конфиденциальности данных для частного бизнеса?

A2: После того, как дела Roe v. Wade и Planned Parenthood v. Casey будут отменены, частные предприятия США могут добровольно или невольно участвовать в обеспечении соблюдения законов штата против абортов. В частности, многочисленные популярные потребительские устройства и мобильные приложения собирают огромное количество конфиденциальной личной информации от пользователей, включая точную геолокацию, просмотр или интернет-активность, историю поиска, личные сообщения, сообщения в социальных сетях, фотографии, видео, финансовые транзакции и многое другое. что позволит разработчикам, агрегаторам данных, рекламодателям и другим третьим лицам делать выводы о статусе беременности.

Во многих случаях эта информация может использоваться для целевой рекламы товаров для беременных или детей. Но, что более важно, это может также облегчить правоохранительным органам цифровой бумажный след для сбора доказательств против людей, решивших сделать аборт. Правоохранительные органы часто получают доступ к данным, хранящимся в частных компаниях, с помощью различных механизмов, включая юридические запросы (например, ордера, повестки в суд, постановления суда) или добровольные продажи, что значительно расширяет возможности и ресурсы правительства для осуществления наблюдения. Например, только с января по июнь 2020 года Apple, Google, Meta и Microsoft получили более 112 000 юридических запросов на доступ к данным от федеральных, государственных и местных правоохранительных органов и выполнили примерно 85 процентов этих запросов. В последние годы несколько федеральных правоохранительных органов, в том числе Служба таможенного и пограничного контроля США (CBP) и Иммиграционная и таможенная служба (ICE), также приобрели данные о геолокации приложений для смартфонов у брокеров данных, таких как Venntel и Babel Street, без ордера или постановления суда, что они использовались для отслеживания незаконной деятельности, ведущей к арестам или депортациям.

Если в некоторых штатах аборты запрещены законом, сотрудники правоохранительных органов могут использовать те же самые инструменты для отслеживания беременных женщин и учреждений, производящих аборты. Опрос Kaiser Family Foundation в 2019 году показал, что почти треть респондентов, идентифицирующих себя как женщины, использовали приложения для смартфонов для отслеживания своих менструальных циклов, некоторые из которых собирают и обмениваются очень конфиденциальной информацией о менструальных циклах, сексуальной активности и состояниях здоровья. Кроме того, агрегаторы данных могут собирать и продавать точную геолокационную информацию о людях, посещающих клиники репродуктивного здоровья; например, SafeGraph недавно предлагал информацию о местоположении лиц, которые посещают Planned Parenthood и другие центры планирования семьи примерно за 160 долларов, включая частоту и продолжительность их посещений и другую активность движения. Даже если брокеры данных предпримут шаги для анонимизации этих данных, они потенциально могут быть связаны с конкретными людьми в сочетании с другой информацией. Кроме того, деидентифицированная информация о местоположении все еще может помочь определить учреждения для абортов с большим объемом трафика между штатами, что может быть полезно для таких штатов, как Миссури, которые могут ввести юридические наказания для тех, кто способствует абортам за пределами штата.

Вопрос 3: Какие варианты может рассмотреть Конгресс после решения по делу Доббс против Женской организации здравоохранения Джексона?

A3: В отсутствие Roe v. Wade, Конгресс теоретически мог бы принять новый закон, разрешающий, ограничивающий или отменяющий услуги абортов по всей стране, но все эти варианты было бы трудно реализовать в текущей политической обстановке. 11 мая Сенат проголосовал 51–49 против Закона о защите здоровья женщин — меры, направленной на легализацию услуг по прерыванию беременности по всей стране, а также на замену любых государственных законопроектов или законов, которые требовали бы «ненужных с медицинской точки зрения» личных услуг, периодов ожидания. , тесты и другие процедуры, которые могут отсрочить или помешать проведению аборта. Голосование упало по партийной линии: сенатор Джо Манчин (D-WV) присоединился ко всем 50 сенаторам-республиканцам против и в конечном итоге не смог набрать 60 голосов, необходимых для преодоления обструкции Сената. И хотя президент Байден поддержал кодификацию Роу в закон, он также заявил, что не будет отменять пиратов ради этого.

Конгресс мог бы в качестве альтернативы установить новые барьеры для обеспечения соблюдения законов штата, включая запреты на аборты, приняв федеральный закон о коммерческой конфиденциальности, который регулирует сбор и обмен личной информацией частными предприятиями и некоммерческими организациями. Законодательство о коммерческой конфиденциальности могло бы косвенно сократить объем посторонних данных наблюдения, к которым правительственные чиновники могут получить доступ через частный сектор — это не замена федеральному закону, кодифицирующему права на аборт по всей стране, но это более достижимо с политической точки зрения. Представитель Сьюзан ДельБен (D-WA) недавно выступила за такой законопроект, заявив: «Демократы должны быстро принять строгий национальный стандарт конфиденциальности данных потребителей, который защищает нашу личную информацию, включая статус беременности и другие данные о здоровье».

Существует некоторый двухпартийный консенсус в отношении основ федерального законодательства о конфиденциальности: два основных законопроекта в Комитете Сената США по торговле, спонсируемый демократами Закон о правах на конфиденциальность потребителей в Интернете и спонсируемый республиканцами Закон о безопасности данных, оба предлагают предоставить гражданам США права для доступа, удаления, исправления и экспорта личной информации, которой владеют частные компании, что обеспечит больший контроль над конфиденциальной информацией о здоровье и местоположении. Оба также вводят принцип минимизации данных, который, как правило, ограничивает веб-сайты и приложения только обработкой и обменом личной информацией в той мере, в какой это необходимо для предоставления авторизованных услуг. В свою очередь, эти индивидуальные права и ограничения на сбор, обработку и совместное использование данных могут уменьшить масштаб пользовательской информации, к которой брокеры данных и правоохранительные органы могут получить доступ посредством либо добровольных продаж, либо юридических запросов.

Q4: Может ли решение по делу Dobbs v. Jackson Women’s Health Organization , не касающееся услуг по планированию семьи, более широко повлиять на неприкосновенность частной жизни или гражданские права отдельных лиц в Соединенных Штатах?

A4: Проект мнения большинства по делу Dobbs v. Jackson Women’s Health Organization прямо отвергает представление о том, что аборт представляет собой защищенную «свободу» в соответствии с пунктом о надлежащей правовой процедуре Четырнадцатой поправки. В нем говорится, что Пункт о надлежащей правовой процедуре защищает только те права, которые «глубоко уходят корнями в историю этой страны» и «подразумеваются в концепции упорядоченной свободы».

Этот язык вызвал опасения. Такая интерпретация может поставить под угрозу жизнеспособность других важных решений Верховного суда, которые, основанные на аналогичных концепциях свободы и равной защиты в соответствии с Четырнадцатой поправкой, установили права, которых не было во время американской революции. К ним относятся Griswold v. Connecticut (1965), гарантировавшее право на использование противозачаточных средств, Loving v. Virginia (1968), отменивший запреты штата на межрасовые браки, Лоуренс против Техаса (2003 г.), в котором были запрещены законы штата о «содомии», и Обергефелл против Ходжеса (2015 г.), в котором признавалось конституционное право на однополые браки. Просочившееся мнение пытается смягчить эти опасения, проводя различие между абортом и другими основными правами, заявляя, что: «Мы подчеркиваем, что наше решение касается конституционного права на аборт и никакого другого права», и что аборт отличается тем, что он «уничтожает то, что [ Роу и Кейси ] называют «потенциальной жизнью» и что закон [в Техасе] считает жизнью «нерожденного человека».

Однако эти заверения не имеют обязательной силы и оставляют открытой дверь для дальнейшего размывания гражданских прав. Трудно утверждать, что все права в соответствии с пунктом о надлежащей правовой процедуре должны быть «глубоко укоренены» в истории США, не подвергая при этом юридическим рискам другие дела. Судьи Сэмюэл Алито и Кларенс Томас раскритиковали дело Обергефелл против Ходжеса всего 20 месяцев назад , , в котором говорится, что «суд зачитал право на однополые браки в 14-й поправке, хотя это право нигде не встречается в тексте». И теперь просочившееся мнение ставит под сомнение структуру конфиденциальности, на которой основывается Роу , заявляя: «[ Роу ] постановил, что право на аборт, не упомянутое в Конституции, является частью права на неприкосновенность частной жизни. , о чем также не упоминается». Таким образом, просочившееся мнение по делу Dobbs v. Jackson Women’s Health Organization вызывает законную озабоченность по поводу будущего конфиденциальности в Америке, а также социальных последствий, которые могут возникнуть в результате его отсутствия.