AttributeError: объект «KerasTensor» не имеет размера атрибута с обнимающим лицом bert. Модель AutoModel с тензорным потоком

Я работаю над tensorflow 2, и я использовал предварительно обученный BERT Hugface с Tensorflow 2, чтобы выполнить с ним классификацию текста, здесь я хочу создать с ним нейронную сеть: из слоев импорта tensorflow.keras

from transformers import AutoModel

encoder = AutoModel.from_pretrained("bert-base-uncased")

## create neural network input

input_ids = layers.Input(shape=(max_len,), dtype=tf.int32)

token_type_ids = layers.Input(shape=(max_len,), dtype=tf.int32)

attention_mask = layers.Input(shape=(max_len,), dtype=tf.int32)

embedding = encoder(

input_ids, token_type_ids=token_type_ids, attention_mask=attention_mask

)[0]

получил ошибку: AttributeError: объект «KerasTensor» не имеет атрибута «размер»


person Dez    schedule 26.04.2021    source источник
comment
это отвечает на ваш запрос?   -  person TFer2    schedule 29.04.2021


Ответы (1)


Попробуйте использовать

from transformers import AutoTokenizer,TFAutoModel

Вместо AutoModel попробуйте использовать TFAutoModel.

person Bhupender saini    schedule 10.05.2021