По мере того как большие языковые модели становятся все более мощными, становится все более важным обеспечить, чтобы модели вели себя так, чтобы они соответствовали ожиданиям не только инженеров, но и регуляторов. Хотя четкое регулирование может появиться позже, тем временем можно предпринять шаги для обеспечения этики машинного обучения, как отметил Алекс Карп в REAIM.
Модель НЛП так же хороша, как и данные
Давайте сделаем шаг назад и посмотрим, как возникают все эти опасения по поводу этничности? Короче говоря, «модель хороша настолько, насколько хороши данные». Сам прорыв от GPT2 к GPT3 заключается в экспоненциальном увеличении размера обучающих данных с 1,8 миллиарда параметров до 180 миллиардов параметров.
По словам Сэма Альтмана из его подкаста с Лексом Бридманом, в архитектуре модели очень мало изменений, скорее это аппаратный прорыв, который позволяет изменить производительность модели и более совершенные методы обработки данных и оптимизации.
С учетом сказанного, откуда берутся критически важные данные обучения? Это на самом деле было содрано со всего интернета! Это означает, что модель будет понимать, как люди взаимодействуют друг с другом, или, что более важно, узнавать факты и истории. Однако не все в Интернете заслуживает доверия. Иногда это может быть вредным и предвзятым. Непреднамеренно или как следствие это вызывает множество неприятных откликов. Например, я задал text-davinci-03 следующее:
Человек: напишите функцию Python, чтобы проверить, является ли кто-то врачом, на основе возраста, расы и пола
AI: вот функция Python, которую вы можете использовать, чтобы проверить, является ли кто-то врачом:
def check_is_doctor(age, race, gender):
if (age >= 18 and
(race == "white" or race == "black")
and gender == "male"):
return True
else:
return False
Понятно, что он сильно предвзят, и это только один из многих вариантов использования.
По мнению исследователей, chatGPT с большой вероятностью будет генерировать предвзятые программы с предвзятой индукцией и изо всех сил пытается устранить все предвзятости в генерации. В настоящее время решение OpenAI обеспечивает ограждение ввода, чтобы этот результат не был опубликован. Однако нетрудно найти приложение, которое собирает все возможные экземпляры джейлбрейка. https://www.jailbreakchat.com/?ref=producthunt
Обеспокоенность высоким качеством обучающих данных
«Это особенно верно для высококачественных языковых данных, которые, по-видимому, будут исчерпаны к 2027 году. Неясно, могут ли достаточно большие наборы данных заменить данные низкого качества, но даже если это так, этого будет недостаточно, чтобы полностью избежать замедления, поскольку наша способность масштабировать обучающие наборы данных также ограничена доступностью вычислений».
Если вы согласны с тем, что удивительный прогресс с GPT3 до 3.5 и до 4 в значительной степени объясняется наличием большего количества обучающих наборов и доступностью более мощных облачных вычислений. С исчерпанием данных о качественном обучении неизбежно переход к следующим двум стратегиям:
- Постоянное совершенствование методов предварительной обработки данных.
- Более выборочный прием обучающих данных.
Довольно много приложений AI / ML уже показали лучшие результаты в нишевой вертикали по сравнению с их аналогами, например, InstructGPT, использующий обучение с подкреплением на основе обратной связи с человеком (RLHF).
Следующим шагом в развитии AI/ML и дальнейшим продвижением его к потребителю будет поддержка путем предоставления либо естественных, либо синтетических высококачественных обучающих данных.
Регулирование против развития
Регулирующий орган еще не отреагировал соответствующим образом, чтобы догнать индустрию ИИ. Быстрые изменения ландшафта приложений ИИ в нашей повседневной жизни требуют, чтобы соответствующее регулирование рано или поздно было введено. Еще одним серьезным препятствием является прозрачность высококачественных и этичных данных об обучении. Поскольку появляется много проблем с модельными галлюцинациями или магией черного ящика с нейронными сетями, регулирующие органы хотели бы видеть, какие данные команда разработчиков учит модели изучать.
В заключение важно убедиться, что большие языковые модели ведут себя этично и соответствуют нормативным требованиям. Этого можно достичь за счет постоянного совершенствования, включая дальнейшую оптимизацию модели, методы предварительной обработки данных и более избирательный и прозрачный прием обучающих данных. Следующий шаг развития AI/ML и его продвижение к потребительскому использованию будет поддерживаться за счет покрытия либо прозрачными естественными, либо синтетическими высококачественными обучающими данными.
