GPU사용하여 AI모델 훈련시 메모리 부족 해결방법
model.fit(x_train,y_train)할때, 메모리 부족때문에 에러가 나는 경우가 발생했다. 스택오버플로우를 뒤져보니 넘파이 배열을 텐서로 변환할때 메모리 소모가 많다고 한다. 그래서 model.fit을 하기전에 cpu를 사용해서 넘파이 배열을 CPU를 사용해서 변환한다음 학습은 GPU로 하는 방법으로 메모리 부족을 해결했다. with tf.device('/cpu:0'): x_train = tf.convert_to_tensor(x_train, np.float32) y_train = tf.convert_to_tensor(y_train, np.float32)
개발/AI
2023. 8. 2. 14:05
