Пометки Claude к студенческим работам случайно стали видны всему университету
Профессор химии Дартмутского колледжа загрузил в Claude работы 11 студентов, чтобы проверить, помогут ли пометки ИИ при ручной проверке. Проект по ошибке оказался открыт для всех участников университетской группы, вместе с именами студентов.
Что сделали
Профессор химии Пол Робустелли создал проект «PS3 Grading» в корпоративном портале Claude Дартмутского колледжа. Он загрузил туда задания 11 студентов своего курса CHEM 76 и прогнал их через Claude. Он хотел понять, могут ли пометки ИИ потом служить ориентиром при ручной проверке. По его словам, на оценки Claude никак не влиял.
Что получилось
Проект был виден всем участникам группы Дартмута в Claude, вместе с именами и работами студентов. Его закрыли 2 мая, после того как газета The Dartmouth попросила прокомментировать ситуацию. О качестве пометок источник ничего не сообщает.
На что обратить внимание
Новые проекты по умолчанию закрыты. Доступ открывается, только если выбрать видимость для всей организации, а Робустелли говорит, что считал проект закрытым. Поэтому проверяйте настройку видимости до того, как загружать работы студентов.
Пояснение
Корпоративный портал Claude это версия Claude для организаций, где проектами можно делиться с коллегами. Problem set (здесь PS3) это набор задач, который студенты сдают на проверку. The Dartmouth это студенческая газета Дартмутского колледжа в США.
Кому пригодится
Преподавателям и всем, кто загружает в корпоративный ИИ-сервис чужие персональные данные.
Попробуйте сами с Claude
Возьми работы студентов в [папка] после того, как я уберу из них имена и номера. Для каждой отметь, где решение расходится с [ключ решений или критерии оценки], и напиши короткий комментарий, которым я мог бы воспользоваться при ручной проверке. Сохрани пометки в локальной папке [путь для результатов] и остановись, когда все файлы готовы. Всё должно остаться приватным. Никуда не загружай файлы и спрашивай меня перед любым шагом, который открывает к ним доступ или публикует их.
Нужна помощь с запуском? Вступайте в сообщество AI Pack ↗
Источник: thedartmouth.com ·