Страница 11 из 12
Пулинг (Pooling): После применения сверточных слоев может выполняться операция пулинга. Пулинг используется для уменьшения размерности карты признаков, уменьшая количество параметров и улучшая обобщающую способность модели. Обычно используется операция максимального пулинга (MaxPooling), которая выделяет наибольшие значения из окна, перемещая его по карте признаков.
Полносвязные слои: После применения сверточных и пулинговых слоев информация передается в полносвязные слои для классификации или регрессии. Полносвязные слои работают с вектором признаков, полученным из карты признаков после операции пулинга.
Преимущество использования CNN для текстовых данных заключается в способности модели извлекать локальные и глобальные признаки из текста, что может улучшить способность модели к анализу и классификации текста. Этот метод также позволяет модели работать с последовательностями разной длины, благодаря использованию окон и пулинга.
Следующий код решает задачу бинарной классификации текстовых отзывов на положительные и отрицательные. Каждый отзыв имеет метку 1 (положительный) или 0 (отрицательный).
В результате выполнения этого кода:
1. Мы создаем модель сверточной нейронной сети (CNN), которая способна анализировать тексты.
2. Загружаем обучающие данные в виде массива текстов `texts` и их меток `labels`.
3. Создаем токенизатор для преобразования текстов в численные последовательности и приводим тексты к числовому представлению.
4. Выравниваем текстовые последовательности до максимальной длины `max_sequence_length`, чтобы их можно было использовать в нейронной сети.
5. Создаем модель CNN, состоящую из слоев Embedding, Conv1D, GlobalMaxPooling1D и Dense.
6. Компилируем модель, используя оптимизатор "adam" и функцию потерь "binary_crossentropy".
7. Обучаем модель на обучающих данных в течение 10 эпох.
8. Оцениваем модель на тестовых данных (4 отдельных отзыва).
Результаты этого кода включают в себя точность модели на тестовых данных, которая измеряет, насколько хорошо модель классифицирует новые отзывы как положительные или отрицательные. Вы увидите значение точности на тестовых данных в консоли после выполнения кода. Точность ближе к 1.0 означает, что модель хорошо обучена и способна правильно классифицировать тексты.
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
# Генерируем примеры текстовых данных
texts = ["Это отличный продукт.", "Этот товар ужасен.", "Мне нравится эта книга.", "Не советую этот фильм."]
labels = [1, 0, 1, 0] # 1 – положительный отзыв, 0 – отрицательный отзыв
# Создаем токенизатор и преобразуем тексты в последовательности чисел
tokenizer = tf.keras.preprocessing.text.Tokenizer(num_words=1000, oov_token="<OOV>")
tokenizer.fit_on_texts(texts)
sequences = tokenizer.texts_to_sequences(texts)
# Подготавливаем данные для CNN
max_sequence_length = max([len(seq) for seq in sequences])
padded_sequences = tf.keras.preprocessing.sequence.pad_sequences(sequences, maxlen=max_sequence_length)
# Преобразуем метки в массив numpy
labels = np.array(labels)
# Создаем модель CNN
model = tf.keras.Sequential([
tf.keras.layers.Embedding(input_dim=1000, output_dim=16, input_length=max_sequence_length),
tf.keras.layers.Conv1D(128, 3, activation='relu'), # Уменьшили размер ядра до 3
tf.keras.layers.GlobalMaxPooling1D(),
tf.keras.layers.Dense(1, activation='sigmoid')
])
# Компилируем модель
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
# Обучаем модель
history = model.fit(padded_sequences, labels, epochs=10, verbose=1)
# Оцениваем модель на тестовых данных
test_texts = ["Это лучшая книга.", "Не стоит тратить деньги.", "Мне понравился фильм.", "Ужасное качество товара."]
test_labels = [1, 0, 1, 0] # Метки для тестовых данных
test_sequences = tokenizer.texts_to_sequences(test_texts)
padded_test_sequences = tf.keras.preprocessing.sequence.pad_sequences(test_sequences, maxlen=max_sequence_length)
test_labels = np.array(test_labels)
test_loss, test_accuracy = model.evaluate(padded_test_sequences, test_labels)
print(f"Точность на тестовых данных: {test_accuracy:.4f}")
# Визуализация результатов
plt.figure(figsize=(12, 4))
plt.subplot(1, 2, 1)
plt.plot(history.history['accuracy'], label='Точность на обучении')
plt.xlabel('Эпохи')
plt.ylabel('Точность')
plt.legend()
plt.subplot(1, 2, 2)
plt.plot(history.history['loss'], label='Потери на обучении')
plt.xlabel('Эпохи')
plt.ylabel('Потери')
plt.legend()
plt.show()
На графиках, полученных после выполнения предоставленного кода, вы увидите результаты обучения и оценку модели. Давайте разберем подробнее:
1. График точности на обучении (Точность на обучении): Этот график показывает, как точность модели изменяется в течение эпох обучения. Точность на обучении измеряет, как хорошо модель предсказывает данные обучения. Вы ожидаете, что точность будет увеличиваться с каждой эпохой. Если точность растет, это может указывать на то, что модель успешно изучает данные.
2. График потерь на обучении (Потери на обучении): Этот график отражает, как уменьшается потеря модели на обучении с течением эпох. Потери представляют собой меру того, насколько сильно предсказания модели отличаются от фактических меток. Цель – минимизировать потери. Уменьшение потерь также указывает на успешное обучение модели.
На практике хорошо обученная модель будет иметь следующие характеристики:
– Точность на обучении растет и стабилизируется на определенном уровне.
– Потери на обучении уменьшаются и стабилизируются на низком уровне.
Если точность на тестовых данных также высока, это означает, что модель успешно обобщает знания на новые, ранее не виденные данные.
На графиках, представленных в коде, вы сможете оценить, как точность и потери меняются с течением эпох, и определить успешность обучения модели.
Кроме того, существуют более сложные архитектуры, которые комбинируют RNN и CNN, чтобы использовать преимущества обоих типов сетей. Например, архитектура под названием Transformer, изначально разработанная для машинного перевода, стала основой для многих современных моделей в NLP, таких как BERT и GPT.
Архитектура Transformer представляет собой мощный прорыв в области обработки естественного языка (NLP) и обработки последовательностей в целом. Она представляет собой нейронную сеть, спроектированную специально для работы с последовательностями, и она имеет ряд ключевых особенностей:
1. Механизм внимания: Одной из ключевых особенностей Transformer является механизм внимания. Внимание позволяет модели фокусироваться на разных частях входных данных в зависимости от их важности. Это улучшает способность модели обрабатывать длинные последовательности и улавливать долгосрочные зависимости в данных.
2. Свёрточные и полносвязные слои: Transformer включает в себя свёрточные слои, которые работают с каждой позицией в последовательности независимо. Это позволяет модели извлекать локальные признаки из текста. Также в архитектуре есть полносвязные слои, которые обрабатывают информацию с учётом взаимодействия всех позиций в последовательности.
3. Многоуровневая структура: Transformer состоит из нескольких идентичных слоев, называемых "трансформерами", каждый из которых обрабатывает входные данные независимо. Это многоуровневое устройство позволяет модели извлекать признаки разной абстракции и работать с последовательностью на разных уровнях.