Результат разницы в машинном обучении

Я использую машинное обучение для обработки изображений, чтобы классифицировать пациентов с COVID-19 на основе их рентгеновских снимков грудной клетки. Используя google colab и модель ResNet101, я задаюсь вопросом, может ли быть какая-то вероятность того, что значение точности и потери может быть разным при многократном запуске (с одинаковыми параметрами, наборами данных и алгоритмом). Например, при использовании ResNet101 с 4-кратным, image_size=(128, 128), batch_size = 32, num_epochs = 80, Learning_rate = 0,00001, Layers.Dense = 256, Google Colab впервые выдал значение точности и потери составил 91,07% и 0,292 соответственно. А вот во второй раз было 90,36% и 0,346. Так есть ли вероятность, что результат может быть другим? И если да, то как его минимизировать? Если нет, то как я могу исправить проблему?


person Lê Trọng Nghĩa Phan    schedule 25.08.2020    source источник
comment
Нечего исправлять; такие статистические колебания результатов являются нормальными и ожидаемыми, и они связаны с присущей алгоритмам случайностью.   -  person desertnaut    schedule 25.08.2020
comment
Спасибо. Но мне просто интересно, что случайность алгоритмов может иметь большое значение. Я только что закончил третий запуск, и результат оказался даже ниже ожидаемого (точность составила всего 88,57%).   -  person Lê Trọng Nghĩa Phan    schedule 25.08.2020


Ответы (1)


Это связано с весами модели, которые инициализируются случайным образом, порядком выборки данных и увеличением данных во время цикла обучения, а также другими видами случайности. Один из способов исправить это, чтобы воспроизвести ваши результаты, - установить все ваши случайные семена (python, tf, cuda,...).

person guibs35    schedule 27.08.2020