From ca1fd2b83b69db35ed58903ee89c8ff63e50a47f Mon Sep 17 00:00:00 2001 From: Haesun Park Date: Thu, 24 May 2018 20:36:29 +0900 Subject: [PATCH] =?UTF-8?q?11=EC=9E=A5=20=EB=85=B8=ED=8A=B8=EB=B6=81=20?= =?UTF-8?q?=EC=9E=AC=EC=8B=A4=ED=96=89?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- 11_deep_learning_exercises.ipynb | 36606 +++++++++++++++-------------- 1 file changed, 18357 insertions(+), 18249 deletions(-) diff --git a/11_deep_learning_exercises.ipynb b/11_deep_learning_exercises.ipynb index b98b9d0..24c0c7f 100644 --- a/11_deep_learning_exercises.ipynb +++ b/11_deep_learning_exercises.ipynb @@ -11,12 +11,12 @@ "name": "stdout", "output_type": "stream", "text": [ - "CPython 3.5.5\n", - "IPython 6.3.0\n", + "CPython 3.6.5\n", + "IPython 6.4.0\n", "\n", "numpy 1.14.3\n", "sklearn 0.19.1\n", - "scipy 1.0.1\n", + "scipy 1.1.0\n", "matplotlib 2.2.2\n", "tensorflow 1.8.0\n" ] @@ -257,18 +257,7 @@ "cell_type": "code", "execution_count": 7, "metadata": {}, - "outputs": [ - { - "name": "stdout", - "output_type": "stream", - "text": [ - "Extracting /tmp/data/train-images-idx3-ubyte.gz\n", - "Extracting /tmp/data/train-labels-idx1-ubyte.gz\n", - "Extracting /tmp/data/t10k-images-idx3-ubyte.gz\n", - "Extracting /tmp/data/t10k-labels-idx1-ubyte.gz\n" - ] - } - ], + "outputs": [], "source": [ "(X_train, y_train), (X_test, y_test) = tf.keras.datasets.mnist.load_data()\n", "X_train = X_train.astype(np.float32).reshape(-1, 28*28) / 255.0\n", @@ -309,32 +298,30 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.142580\t최선의 손실: 0.142580\t정확도: 96.64%\n", - "1\t검증 세트 손실: 0.136356\t최선의 손실: 0.136356\t정확도: 96.33%\n", - "2\t검증 세트 손실: 0.105153\t최선의 손실: 0.105153\t정확도: 97.15%\n", - "3\t검증 세트 손실: 0.110939\t최선의 손실: 0.105153\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.315193\t최선의 손실: 0.105153\t정확도: 90.23%\n", - "5\t검증 세트 손실: 1.352539\t최선의 손실: 0.105153\t정확도: 95.93%\n", - "6\t검증 세트 손실: 0.404159\t최선의 손실: 0.105153\t정확도: 90.58%\n", - "7\t검증 세트 손실: 0.478956\t최선의 손실: 0.105153\t정확도: 76.66%\n", - "8\t검증 세트 손실: 0.296281\t최선의 손실: 0.105153\t정확도: 94.14%\n", - "9\t검증 세트 손실: 0.474146\t최선의 손실: 0.105153\t정확도: 86.47%\n", - "10\t검증 세트 손실: 0.272404\t최선의 손실: 0.105153\t정확도: 93.47%\n", - "11\t검증 세트 손실: 0.262523\t최선의 손실: 0.105153\t정확도: 96.05%\n", - "12\t검증 세트 손실: 0.228771\t최선의 손실: 0.105153\t정확도: 97.42%\n", - "13\t검증 세트 손실: 0.240359\t최선의 손실: 0.105153\t정확도: 97.38%\n", - "14\t검증 세트 손실: 0.234160\t최선의 손실: 0.105153\t정확도: 97.54%\n", - "15\t검증 세트 손실: 0.334344\t최선의 손실: 0.105153\t정확도: 97.77%\n", - "16\t검증 세트 손실: 0.286479\t최선의 손실: 0.105153\t정확도: 97.46%\n", - "17\t검증 세트 손실: 2.433587\t최선의 손실: 0.105153\t정확도: 94.29%\n", - "18\t검증 세트 손실: 1.035606\t최선의 손실: 0.105153\t정확도: 85.54%\n", - "19\t검증 세트 손실: 0.272855\t최선의 손실: 0.105153\t정확도: 96.21%\n", - "20\t검증 세트 손실: 0.304605\t최선의 손실: 0.105153\t정확도: 96.21%\n", - "21\t검증 세트 손실: 0.953484\t최선의 손실: 0.105153\t정확도: 72.67%\n", - "22\t검증 세트 손실: 0.219466\t최선의 손실: 0.105153\t정확도: 96.95%\n", + "0\t검증 세트 손실: 0.139518\t최선의 손실: 0.139518\t정확도: 95.62%\n", + "1\t검증 세트 손실: 0.828389\t최선의 손실: 0.139518\t정확도: 68.45%\n", + "2\t검증 세트 손실: 1.649469\t최선의 손실: 0.139518\t정확도: 20.91%\n", + "3\t검증 세트 손실: 1.803031\t최선의 손실: 0.139518\t정확도: 19.08%\n", + "4\t검증 세트 손실: 1.631349\t최선의 손실: 0.139518\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.639141\t최선의 손실: 0.139518\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.677314\t최선의 손실: 0.139518\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.776537\t최선의 손실: 0.139518\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.699600\t최선의 손실: 0.139518\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.767772\t최선의 손실: 0.139518\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.629337\t최선의 손실: 0.139518\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.812662\t최선의 손실: 0.139518\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.675932\t최선의 손실: 0.139518\t정확도: 18.73%\n", + "13\t검증 세트 손실: 1.633258\t최선의 손실: 0.139518\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.652906\t최선의 손실: 0.139518\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.635939\t최선의 손실: 0.139518\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.718920\t최선의 손실: 0.139518\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.682459\t최선의 손실: 0.139518\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.675367\t최선의 손실: 0.139518\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.645803\t최선의 손실: 0.139518\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.722334\t최선의 손실: 0.139518\t정확도: 22.01%\n", "조기 종료!\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_0_to_4.ckpt\n", - "최종 테스트 정확도: 97.10%\n" + "최종 테스트 정확도: 96.17%\n" ] } ], @@ -608,39 +595,57 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.825829\t최선의 손실: 0.825829\t정확도: 84.36%\n", - "1\t검증 세트 손실: 0.226767\t최선의 손실: 0.226767\t정확도: 95.39%\n", - "2\t검증 세트 손실: 0.094620\t최선의 손실: 0.094620\t정확도: 97.50%\n", - "3\t검증 세트 손실: 1.769363\t최선의 손실: 0.094620\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.639235\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.641189\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.676724\t최선의 손실: 0.094620\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.775086\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.699567\t최선의 손실: 0.094620\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.767559\t최선의 손실: 0.094620\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.629341\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.812651\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.675936\t최선의 손실: 0.094620\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.633258\t최선의 손실: 0.094620\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.652906\t최선의 손실: 0.094620\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.635939\t최선의 손실: 0.094620\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.718920\t최선의 손실: 0.094620\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.682459\t최선의 손실: 0.094620\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.675367\t최선의 손실: 0.094620\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.645803\t최선의 손실: 0.094620\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.722334\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.656415\t최선의 손실: 0.094620\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.643529\t최선의 손실: 0.094620\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.644234\t최선의 손실: 0.094620\t정확도: 19.27%\n", + "0\t검증 세트 손실: 0.143031\t최선의 손실: 0.143031\t정확도: 95.82%\n", + "1\t검증 세트 손실: 0.120918\t최선의 손실: 0.120918\t정확도: 97.30%\n", + "2\t검증 세트 손실: 0.257154\t최선의 손실: 0.120918\t정확도: 95.00%\n", + "3\t검증 세트 손실: 0.324577\t최선의 손실: 0.120918\t정확도: 91.09%\n", + "4\t검증 세트 손실: 0.198269\t최선의 손실: 0.120918\t정확도: 95.66%\n", + "5\t검증 세트 손실: 0.303321\t최선의 손실: 0.120918\t정확도: 96.36%\n", + "6\t검증 세트 손실: 0.165810\t최선의 손실: 0.120918\t정확도: 97.58%\n", + "7\t검증 세트 손실: 0.176505\t최선의 손실: 0.120918\t정확도: 98.36%\n", + "8\t검증 세트 손실: 0.377566\t최선의 손실: 0.120918\t정확도: 92.92%\n", + "9\t검증 세트 손실: 0.257152\t최선의 손실: 0.120918\t정확도: 95.07%\n", + "10\t검증 세트 손실: 0.209042\t최선의 손실: 0.120918\t정확도: 98.12%\n", + "11\t검증 세트 손실: 0.173772\t최선의 손실: 0.120918\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.307521\t최선의 손실: 0.120918\t정확도: 95.74%\n", + "13\t검증 세트 손실: 0.156727\t최선의 손실: 0.120918\t정확도: 98.05%\n", + "14\t검증 세트 손실: 0.171871\t최선의 손실: 0.120918\t정확도: 98.12%\n", + "15\t검증 세트 손실: 0.160136\t최선의 손실: 0.120918\t정확도: 98.16%\n", + "16\t검증 세트 손실: 0.235736\t최선의 손실: 0.120918\t정확도: 98.24%\n", + "17\t검증 세트 손실: 0.198371\t최선의 손실: 0.120918\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.225569\t최선의 손실: 0.120918\t정확도: 98.36%\n", + "19\t검증 세트 손실: 0.161978\t최선의 손실: 0.120918\t정확도: 97.30%\n", + "20\t검증 세트 손실: 0.108309\t최선의 손실: 0.108309\t정확도: 97.89%\n", + "21\t검증 세트 손실: 2.069210\t최선의 손실: 0.108309\t정확도: 74.04%\n", + "22\t검증 세트 손실: 0.165967\t최선의 손실: 0.108309\t정확도: 97.58%\n", + "23\t검증 세트 손실: 0.214601\t최선의 손실: 0.108309\t정확도: 98.08%\n", + "24\t검증 세트 손실: 0.131183\t최선의 손실: 0.108309\t정확도: 98.01%\n", + "25\t검증 세트 손실: 6.510879\t최선의 손실: 0.108309\t정확도: 96.99%\n", + "26\t검증 세트 손실: 11.570399\t최선의 손실: 0.108309\t정확도: 91.91%\n", + "27\t검증 세트 손실: 0.959582\t최선의 손실: 0.108309\t정확도: 51.06%\n", + "28\t검증 세트 손실: 1.409043\t최선의 손실: 0.108309\t정확도: 32.80%\n", + "29\t검증 세트 손실: 1.649318\t최선의 손실: 0.108309\t정확도: 25.33%\n", + "30\t검증 세트 손실: 1.693407\t최선의 손실: 0.108309\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.626307\t최선의 손실: 0.108309\t정확도: 19.62%\n", + "32\t검증 세트 손실: 1.725519\t최선의 손실: 0.108309\t정확도: 19.08%\n", + "33\t검증 세트 손실: 1.766742\t최선의 손실: 0.108309\t정확도: 19.08%\n", + "34\t검증 세트 손실: 1.701088\t최선의 손실: 0.108309\t정확도: 18.73%\n", + "35\t검증 세트 손실: 1.656723\t최선의 손실: 0.108309\t정확도: 22.01%\n", + "36\t검증 세트 손실: 1.676253\t최선의 손실: 0.108309\t정확도: 20.91%\n", + "37\t검증 세트 손실: 1.628783\t최선의 손실: 0.108309\t정확도: 22.01%\n", + "38\t검증 세트 손실: 1.641913\t최선의 손실: 0.108309\t정확도: 20.91%\n", + "39\t검증 세트 손실: 1.842785\t최선의 손실: 0.108309\t정확도: 18.73%\n", + "40\t검증 세트 손실: 1.758821\t최선의 손실: 0.108309\t정확도: 20.91%\n", + "41\t검증 세트 손실: 1.776829\t최선의 손실: 0.108309\t정확도: 19.27%\n", "조기 종료!\n" ] }, { "data": { "text/plain": [ - "DNNClassifier(activation=,\n", + "DNNClassifier(activation=,\n", " batch_norm_momentum=None, batch_size=20, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=100,\n", " optimizer_class=,\n", " random_state=42)" @@ -671,7 +676,7 @@ { "data": { "text/plain": [ - "0.9793734189531037" + "0.9807355516637478" ] }, "execution_count": 12, @@ -703,812 +708,777 @@ "output_type": "stream", "text": [ "Fitting 3 folds for each of 50 candidates, totalling 150 fits\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n", - "0\t검증 세트 손실: 0.131358\t최선의 손실: 0.131358\t정확도: 96.68%\n", - "1\t검증 세트 손실: 0.136887\t최선의 손실: 0.131358\t정확도: 96.52%\n", - "2\t검증 세트 손실: 0.122056\t최선의 손실: 0.122056\t정확도: 96.79%\n", - "3\t검증 세트 손실: 0.131960\t최선의 손실: 0.122056\t정확도: 96.79%\n", - "4\t검증 세트 손실: 0.173777\t최선의 손실: 0.122056\t정확도: 95.97%\n", - "5\t검증 세트 손실: 0.133734\t최선의 손실: 0.122056\t정확도: 96.68%\n", - "6\t검증 세트 손실: 0.120576\t최선의 손실: 0.120576\t정확도: 96.99%\n", - "7\t검증 세트 손실: 0.147677\t최선의 손실: 0.120576\t정확도: 96.68%\n", - "8\t검증 세트 손실: 0.129115\t최선의 손실: 0.120576\t정확도: 96.79%\n", - "9\t검증 세트 손실: 0.207614\t최선의 손실: 0.120576\t정확도: 95.62%\n", - "10\t검증 세트 손실: 1.389598\t최선의 손실: 0.120576\t정확도: 34.79%\n", - "11\t검증 세트 손실: 1.069314\t최선의 손실: 0.120576\t정확도: 38.58%\n", - "12\t검증 세트 손실: 1.061086\t최선의 손실: 0.120576\t정확도: 39.76%\n", - "13\t검증 세트 손실: 1.026689\t최선의 손실: 0.120576\t정확도: 39.37%\n", - "14\t검증 세트 손실: 1.043682\t최선의 손실: 0.120576\t정확도: 40.42%\n", - "15\t검증 세트 손실: 1.083720\t최선의 손실: 0.120576\t정확도: 40.89%\n", - "16\t검증 세트 손실: 1.031031\t최선의 손실: 0.120576\t정확도: 40.62%\n", - "17\t검증 세트 손실: 1.046122\t최선의 손실: 0.120576\t정확도: 39.56%\n", - "18\t검증 세트 손실: 1.050750\t최선의 손실: 0.120576\t정확도: 40.70%\n", - "19\t검증 세트 손실: 1.052398\t최선의 손실: 0.120576\t정확도: 40.07%\n", - "20\t검증 세트 손실: 1.030613\t최선의 손실: 0.120576\t정확도: 40.42%\n", - "21\t검증 세트 손실: 1.623587\t최선의 손실: 0.120576\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.616578\t최선의 손실: 0.120576\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.614933\t최선의 손실: 0.120576\t정확도: 20.91%\n", - "24\t검증 세트 손실: 1.623768\t최선의 손실: 0.120576\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.615650\t최선의 손실: 0.120576\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.631997\t최선의 손실: 0.120576\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.631281\t최선의 손실: 0.120576\t정확도: 19.27%\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.158368\t최선의 손실: 0.158368\t정확도: 95.93%\n", + "1\t검증 세트 손실: 0.140635\t최선의 손실: 0.140635\t정확도: 96.05%\n", + "2\t검증 세트 손실: 0.119741\t최선의 손실: 0.119741\t정확도: 97.11%\n", + "3\t검증 세트 손실: 0.126138\t최선의 손실: 0.119741\t정확도: 96.91%\n", + "4\t검증 세트 손실: 0.134933\t최선의 손실: 0.119741\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.157912\t최선의 손실: 0.119741\t정확도: 95.58%\n", + "6\t검증 세트 손실: 1.251026\t최선의 손실: 0.119741\t정확도: 45.07%\n", + "7\t검증 세트 손실: 1.612513\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.614821\t최선의 손실: 0.119741\t정확도: 19.74%\n", + "9\t검증 세트 손실: 1.615436\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.611276\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.609443\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.617342\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.637030\t최선의 손실: 0.119741\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.611280\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.619393\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.617316\t최선의 손실: 0.119741\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.617837\t최선의 손실: 0.119741\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.615727\t최선의 손실: 0.119741\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.639465\t최선의 손실: 0.119741\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.622915\t최선의 손실: 0.119741\t정확도: 19.08%\n", + "21\t검증 세트 손실: 1.622617\t최선의 손실: 0.119741\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.618726\t최선의 손실: 0.119741\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.618440\t최선의 손실: 0.119741\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 5.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n" + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 4.8s\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n" ] }, { "name": "stderr", "output_type": "stream", "text": [ - "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 5.6s remaining: 0.0s\n" + "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 4.8s remaining: 0.0s\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.160212\t최선의 손실: 0.160212\t정확도: 95.39%\n", - "1\t검증 세트 손실: 0.152015\t최선의 손실: 0.152015\t정확도: 96.13%\n", - "2\t검증 세트 손실: 0.116358\t최선의 손실: 0.116358\t정확도: 97.19%\n", - "3\t검증 세트 손실: 0.212592\t최선의 손실: 0.116358\t정확도: 94.84%\n", - "4\t검증 세트 손실: 0.118002\t최선의 손실: 0.116358\t정확도: 96.76%\n", - "5\t검증 세트 손실: 0.153413\t최선의 손실: 0.116358\t정확도: 95.86%\n", - "6\t검증 세트 손실: 0.134702\t최선의 손실: 0.116358\t정확도: 96.95%\n", - "7\t검증 세트 손실: 0.140082\t최선의 손실: 0.116358\t정확도: 96.52%\n", - "8\t검증 세트 손실: 0.165304\t최선의 손실: 0.116358\t정확도: 93.71%\n", - "9\t검증 세트 손실: 1.620656\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.609132\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.632971\t최선의 손실: 0.116358\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.628353\t최선의 손실: 0.116358\t정확도: 19.27%\n", - "13\t검증 세트 손실: 1.625960\t최선의 손실: 0.116358\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.614784\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.614323\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.620646\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.613835\t최선의 손실: 0.116358\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.612884\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.610178\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.613204\t최선의 손실: 0.116358\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.666974\t최선의 손실: 0.116358\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.627591\t최선의 손실: 0.116358\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.630242\t최선의 손실: 0.116358\t정확도: 22.01%\n", + "0\t검증 세트 손실: 0.128785\t최선의 손실: 0.128785\t정확도: 96.60%\n", + "1\t검증 세트 손실: 0.177104\t최선의 손실: 0.128785\t정확도: 95.86%\n", + "2\t검증 세트 손실: 0.150355\t최선의 손실: 0.128785\t정확도: 95.70%\n", + "3\t검증 세트 손실: 0.160620\t최선의 손실: 0.128785\t정확도: 96.13%\n", + "4\t검증 세트 손실: 0.113291\t최선의 손실: 0.113291\t정확도: 96.76%\n", + "5\t검증 세트 손실: 0.169935\t최선의 손실: 0.113291\t정확도: 96.21%\n", + "6\t검증 세트 손실: 1.037454\t최선의 손실: 0.113291\t정확도: 68.73%\n", + "7\t검증 세트 손실: 1.618414\t최선의 손실: 0.113291\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.611315\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.616881\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.619859\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "11\t검증 세트 손실: 1.645674\t최선의 손실: 0.113291\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.627130\t최선의 손실: 0.113291\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.628483\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.619846\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.614326\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.626661\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.616785\t최선의 손실: 0.113291\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.632607\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.618984\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.613882\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.667081\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.629076\t최선의 손실: 0.113291\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.624377\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.615859\t최선의 손실: 0.113291\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.615891\t최선의 손실: 0.113291\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 4.8s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n", - "0\t검증 세트 손실: 0.196744\t최선의 손실: 0.196744\t정확도: 94.88%\n", - "1\t검증 세트 손실: 0.193064\t최선의 손실: 0.193064\t정확도: 94.49%\n", - "2\t검증 세트 손실: 0.176615\t최선의 손실: 0.176615\t정확도: 95.66%\n", - "3\t검증 세트 손실: 0.189284\t최선의 손실: 0.176615\t정확도: 95.58%\n", - "4\t검증 세트 손실: 0.150652\t최선의 손실: 0.150652\t정확도: 95.97%\n", - "5\t검증 세트 손실: 0.158509\t최선의 손실: 0.150652\t정확도: 96.17%\n", - "6\t검증 세트 손실: 0.161489\t최선의 손실: 0.150652\t정확도: 96.29%\n", - "7\t검증 세트 손실: 0.147854\t최선의 손실: 0.147854\t정확도: 96.25%\n", - "8\t검증 세트 손실: 0.169249\t최선의 손실: 0.147854\t정확도: 96.40%\n", - "9\t검증 세트 손실: 0.154190\t최선의 손실: 0.147854\t정확도: 96.60%\n", - "10\t검증 세트 손실: 0.143528\t최선의 손실: 0.143528\t정확도: 95.86%\n", - "11\t검증 세트 손실: 0.257454\t최선의 손실: 0.143528\t정확도: 94.18%\n", - "12\t검증 세트 손실: 0.168330\t최선의 손실: 0.143528\t정확도: 96.64%\n", - "13\t검증 세트 손실: 0.147234\t최선의 손실: 0.143528\t정확도: 96.01%\n", - "14\t검증 세트 손실: 0.197637\t최선의 손실: 0.143528\t정확도: 94.76%\n", - "15\t검증 세트 손실: 1.797953\t최선의 손실: 0.143528\t정확도: 38.94%\n", - "16\t검증 세트 손실: 1.074162\t최선의 손실: 0.143528\t정확도: 40.23%\n", - "17\t검증 세트 손실: 1.032647\t최선의 손실: 0.143528\t정확도: 36.40%\n", - "18\t검증 세트 손실: 1.010367\t최선의 손실: 0.143528\t정확도: 38.19%\n", - "19\t검증 세트 손실: 1.028174\t최선의 손실: 0.143528\t정확도: 42.38%\n", - "20\t검증 세트 손실: 0.995176\t최선의 손실: 0.143528\t정확도: 45.93%\n", - "21\t검증 세트 손실: 1.011931\t최선의 손실: 0.143528\t정확도: 50.59%\n", - "22\t검증 세트 손실: 0.907021\t최선의 손실: 0.143528\t정확도: 61.77%\n", - "23\t검증 세트 손실: 0.797462\t최선의 손실: 0.143528\t정확도: 66.93%\n", - "24\t검증 세트 손실: 0.777895\t최선의 손실: 0.143528\t정확도: 66.89%\n", - "25\t검증 세트 손실: 0.762751\t최선의 손실: 0.143528\t정확도: 68.57%\n", - "26\t검증 세트 손실: 0.767683\t최선의 손실: 0.143528\t정확도: 68.45%\n", - "27\t검증 세트 손실: 0.745557\t최선의 손실: 0.143528\t정확도: 67.63%\n", - "28\t검증 세트 손실: 0.769768\t최선의 손실: 0.143528\t정확도: 66.97%\n", - "29\t검증 세트 손실: 0.781149\t최선의 손실: 0.143528\t정확도: 68.84%\n", - "30\t검증 세트 손실: 0.741308\t최선의 손실: 0.143528\t정확도: 66.26%\n", - "31\t검증 세트 손실: 0.709860\t최선의 손실: 0.143528\t정확도: 68.69%\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 5.1s\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.131695\t최선의 손실: 0.131695\t정확도: 96.33%\n", + "1\t검증 세트 손실: 0.182108\t최선의 손실: 0.131695\t정확도: 95.97%\n", + "2\t검증 세트 손실: 0.115233\t최선의 손실: 0.115233\t정확도: 96.83%\n", + "3\t검증 세트 손실: 0.136423\t최선의 손실: 0.115233\t정확도: 96.68%\n", + "4\t검증 세트 손실: 0.108981\t최선의 손실: 0.108981\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.169201\t최선의 손실: 0.108981\t정확도: 95.90%\n", + "6\t검증 세트 손실: 0.123357\t최선의 손실: 0.108981\t정확도: 96.83%\n", + "7\t검증 세트 손실: 0.128583\t최선의 손실: 0.108981\t정확도: 97.11%\n", + "8\t검증 세트 손실: 0.134806\t최선의 손실: 0.108981\t정확도: 96.72%\n", + "9\t검증 세트 손실: 0.115610\t최선의 손실: 0.108981\t정확도: 97.58%\n", + "10\t검증 세트 손실: 0.118513\t최선의 손실: 0.108981\t정확도: 97.30%\n", + "11\t검증 세트 손실: 0.119225\t최선의 손실: 0.108981\t정확도: 97.07%\n", + "12\t검증 세트 손실: 0.146858\t최선의 손실: 0.108981\t정확도: 97.11%\n", + "13\t검증 세트 손실: 1.630326\t최선의 손실: 0.108981\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.618380\t최선의 손실: 0.108981\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.636510\t최선의 손실: 0.108981\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.626333\t최선의 손실: 0.108981\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.623211\t최선의 손실: 0.108981\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.612982\t최선의 손실: 0.108981\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.612584\t최선의 손실: 0.108981\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.609030\t최선의 손실: 0.108981\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.633106\t최선의 손실: 0.108981\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.622776\t최선의 손실: 0.108981\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.617468\t최선의 손실: 0.108981\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.614830\t최선의 손실: 0.108981\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.617406\t최선의 손실: 0.108981\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 6.3s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.172310\t최선의 손실: 0.172310\t정확도: 95.15%\n", - "1\t검증 세트 손실: 0.094362\t최선의 손실: 0.094362\t정확도: 96.99%\n", - "2\t검증 세트 손실: 0.101984\t최선의 손실: 0.094362\t정확도: 96.99%\n", - "3\t검증 세트 손실: 0.082851\t최선의 손실: 0.082851\t정확도: 97.30%\n", - "4\t검증 세트 손실: 0.079570\t최선의 손실: 0.079570\t정확도: 97.81%\n", - "5\t검증 세트 손실: 0.071549\t최선의 손실: 0.071549\t정확도: 97.93%\n", - "6\t검증 세트 손실: 0.075239\t최선의 손실: 0.071549\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.081123\t최선의 손실: 0.071549\t정확도: 97.65%\n", - "8\t검증 세트 손실: 0.076917\t최선의 손실: 0.071549\t정확도: 97.73%\n", - "9\t검증 세트 손실: 0.061917\t최선의 손실: 0.061917\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.073441\t최선의 손실: 0.061917\t정확도: 98.08%\n", - "11\t검증 세트 손실: 0.074805\t최선의 손실: 0.061917\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.083041\t최선의 손실: 0.061917\t정확도: 97.65%\n", - "13\t검증 세트 손실: 0.067938\t최선의 손실: 0.061917\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.078205\t최선의 손실: 0.061917\t정확도: 97.89%\n", - "15\t검증 세트 손실: 0.082053\t최선의 손실: 0.061917\t정확도: 98.01%\n", - "16\t검증 세트 손실: 0.069031\t최선의 손실: 0.061917\t정확도: 98.16%\n", - "17\t검증 세트 손실: 0.076230\t최선의 손실: 0.061917\t정확도: 97.93%\n", - "18\t검증 세트 손실: 0.088186\t최선의 손실: 0.061917\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.089445\t최선의 손실: 0.061917\t정확도: 97.58%\n", - "20\t검증 세트 손실: 0.085073\t최선의 손실: 0.061917\t정확도: 97.97%\n", - "21\t검증 세트 손실: 0.084958\t최선의 손실: 0.061917\t정확도: 97.93%\n", - "22\t검증 세트 손실: 0.090365\t최선의 손실: 0.061917\t정확도: 98.05%\n", - "23\t검증 세트 손실: 0.084356\t최선의 손실: 0.061917\t정확도: 98.24%\n", - "24\t검증 세트 손실: 0.079886\t최선의 손실: 0.061917\t정확도: 98.08%\n", - "25\t검증 세트 손실: 0.117730\t최선의 손실: 0.061917\t정확도: 98.05%\n", - "26\t검증 세트 손실: 0.085933\t최선의 손실: 0.061917\t정확도: 98.08%\n", - "27\t검증 세트 손실: 0.094323\t최선의 손실: 0.061917\t정확도: 98.05%\n", - "28\t검증 세트 손실: 0.098955\t최선의 손실: 0.061917\t정확도: 98.12%\n", - "29\t검증 세트 손실: 0.117525\t최선의 손실: 0.061917\t정확도: 97.85%\n", - "30\t검증 세트 손실: 0.106434\t최선의 손실: 0.061917\t정확도: 97.81%\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 5.0s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.123843\t최선의 손실: 0.123843\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.081996\t최선의 손실: 0.081996\t정확도: 97.58%\n", + "2\t검증 세트 손실: 0.080024\t최선의 손실: 0.080024\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.080587\t최선의 손실: 0.080024\t정확도: 97.81%\n", + "4\t검증 세트 손실: 0.090256\t최선의 손실: 0.080024\t정확도: 97.62%\n", + "5\t검증 세트 손실: 0.065005\t최선의 손실: 0.065005\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.066348\t최선의 손실: 0.065005\t정확도: 98.05%\n", + "7\t검증 세트 손실: 0.068640\t최선의 손실: 0.065005\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.092185\t최선의 손실: 0.065005\t정확도: 97.19%\n", + "9\t검증 세트 손실: 0.073883\t최선의 손실: 0.065005\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.072339\t최선의 손실: 0.065005\t정확도: 98.16%\n", + "11\t검증 세트 손실: 0.064736\t최선의 손실: 0.064736\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.063134\t최선의 손실: 0.063134\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.082160\t최선의 손실: 0.063134\t정확도: 98.24%\n", + "14\t검증 세트 손실: 0.066770\t최선의 손실: 0.063134\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.061843\t최선의 손실: 0.061843\t정확도: 98.36%\n", + "16\t검증 세트 손실: 0.068931\t최선의 손실: 0.061843\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.089281\t최선의 손실: 0.061843\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.072464\t최선의 손실: 0.061843\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.065236\t최선의 손실: 0.061843\t정확도: 98.55%\n", + "20\t검증 세트 손실: 0.107133\t최선의 손실: 0.061843\t정확도: 98.16%\n", + "21\t검증 세트 손실: 0.075209\t최선의 손실: 0.061843\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.062447\t최선의 손실: 0.061843\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.110577\t최선의 손실: 0.061843\t정확도: 98.12%\n", + "24\t검증 세트 손실: 0.097297\t최선의 손실: 0.061843\t정확도: 98.16%\n", + "25\t검증 세트 손실: 0.070030\t최선의 손실: 0.061843\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.072289\t최선의 손실: 0.061843\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.098961\t최선의 손실: 0.061843\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.079880\t최선의 손실: 0.061843\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.081766\t최선의 손실: 0.061843\t정확도: 98.44%\n", + "30\t검증 세트 손실: 0.104216\t최선의 손실: 0.061843\t정확도: 97.69%\n", + "31\t검증 세트 손실: 0.090344\t최선의 손실: 0.061843\t정확도: 98.55%\n", + "32\t검증 세트 손실: 0.134853\t최선의 손실: 0.061843\t정확도: 98.24%\n", + "33\t검증 세트 손실: 0.084625\t최선의 손실: 0.061843\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.092304\t최선의 손실: 0.061843\t정확도: 98.48%\n", + "35\t검증 세트 손실: 0.072384\t최선의 손실: 0.061843\t정확도: 98.67%\n", + "36\t검증 세트 손실: 0.098411\t최선의 손실: 0.061843\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30, total= 2.5s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.113188\t최선의 손실: 0.113188\t정확도: 96.60%\n", - "1\t검증 세트 손실: 0.081384\t최선의 손실: 0.081384\t정확도: 97.58%\n", - "2\t검증 세트 손실: 0.068770\t최선의 손실: 0.068770\t정확도: 98.12%\n", - "3\t검증 세트 손실: 0.077317\t최선의 손실: 0.068770\t정확도: 97.73%\n", - "4\t검증 세트 손실: 0.074333\t최선의 손실: 0.068770\t정확도: 97.97%\n", - "5\t검증 세트 손실: 0.084735\t최선의 손실: 0.068770\t정확도: 97.30%\n", - "6\t검증 세트 손실: 0.082230\t최선의 손실: 0.068770\t정확도: 97.73%\n", - "7\t검증 세트 손실: 0.071615\t최선의 손실: 0.068770\t정확도: 97.77%\n", - "8\t검증 세트 손실: 0.108529\t최선의 손실: 0.068770\t정확도: 97.11%\n", - "9\t검증 세트 손실: 0.082649\t최선의 손실: 0.068770\t정확도: 97.50%\n", - "10\t검증 세트 손실: 0.068166\t최선의 손실: 0.068166\t정확도: 97.93%\n", - "11\t검증 세트 손실: 0.075183\t최선의 손실: 0.068166\t정확도: 98.01%\n", - "12\t검증 세트 손실: 0.095576\t최선의 손실: 0.068166\t정확도: 97.50%\n", - "13\t검증 세트 손실: 0.073035\t최선의 손실: 0.068166\t정확도: 98.16%\n", - "14\t검증 세트 손실: 0.084064\t최선의 손실: 0.068166\t정확도: 98.24%\n", - "15\t검증 세트 손실: 0.089926\t최선의 손실: 0.068166\t정확도: 98.05%\n", - "16\t검증 세트 손실: 0.088055\t최선의 손실: 0.068166\t정확도: 97.81%\n", - "17\t검증 세트 손실: 0.075185\t최선의 손실: 0.068166\t정확도: 98.20%\n", - "18\t검증 세트 손실: 0.090796\t최선의 손실: 0.068166\t정확도: 98.08%\n", - "19\t검증 세트 손실: 0.102710\t최선의 손실: 0.068166\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.080605\t최선의 손실: 0.068166\t정확도: 97.85%\n", - "21\t검증 세트 손실: 0.078738\t최선의 손실: 0.068166\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.081123\t최선의 손실: 0.068166\t정확도: 98.08%\n", - "23\t검증 세트 손실: 0.075498\t최선의 손실: 0.068166\t정확도: 98.48%\n", - "24\t검증 세트 손실: 0.105926\t최선의 손실: 0.068166\t정확도: 97.85%\n", - "25\t검증 세트 손실: 0.080662\t최선의 손실: 0.068166\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.071509\t최선의 손실: 0.068166\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.074344\t최선의 손실: 0.068166\t정확도: 98.08%\n", - "28\t검증 세트 손실: 0.076510\t최선의 손실: 0.068166\t정확도: 98.44%\n", - "29\t검증 세트 손실: 0.087910\t최선의 손실: 0.068166\t정확도: 98.12%\n", - "30\t검증 세트 손실: 0.522572\t최선의 손실: 0.068166\t정확도: 94.96%\n", - "31\t검증 세트 손실: 0.117455\t최선의 손실: 0.068166\t정확도: 96.87%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.118566\t최선의 손실: 0.118566\t정확도: 96.72%\n", + "1\t검증 세트 손실: 0.080641\t최선의 손실: 0.080641\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.063093\t최선의 손실: 0.063093\t정확도: 98.05%\n", + "3\t검증 세트 손실: 0.059220\t최선의 손실: 0.059220\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.075469\t최선의 손실: 0.059220\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.062047\t최선의 손실: 0.059220\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.065675\t최선의 손실: 0.059220\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.061528\t최선의 손실: 0.059220\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.051541\t최선의 손실: 0.051541\t정확도: 98.44%\n", + "9\t검증 세트 손실: 0.080100\t최선의 손실: 0.051541\t정확도: 97.77%\n", + "10\t검증 세트 손실: 0.063795\t최선의 손실: 0.051541\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.074895\t최선의 손실: 0.051541\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.064958\t최선의 손실: 0.051541\t정확도: 98.28%\n", + "13\t검증 세트 손실: 0.064424\t최선의 손실: 0.051541\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.074526\t최선의 손실: 0.051541\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.068427\t최선의 손실: 0.051541\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.075048\t최선의 손실: 0.051541\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.077853\t최선의 손실: 0.051541\t정확도: 98.48%\n", + "18\t검증 세트 손실: 0.064957\t최선의 손실: 0.051541\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.088054\t최선의 손실: 0.051541\t정확도: 98.24%\n", + "20\t검증 세트 손실: 0.084524\t최선의 손실: 0.051541\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.074093\t최선의 손실: 0.051541\t정확도: 98.67%\n", + "22\t검증 세트 손실: 0.099476\t최선의 손실: 0.051541\t정확도: 98.32%\n", + "23\t검증 세트 손실: 0.063765\t최선의 손실: 0.051541\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.077355\t최선의 손실: 0.051541\t정확도: 98.63%\n", + "25\t검증 세트 손실: 0.097827\t최선의 손실: 0.051541\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.081339\t최선의 손실: 0.051541\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.098849\t최선의 손실: 0.051541\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.098666\t최선의 손실: 0.051541\t정확도: 98.40%\n", + "29\t검증 세트 손실: 0.091805\t최선의 손실: 0.051541\t정확도: 98.36%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30, total= 2.5s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.121159\t최선의 손실: 0.121159\t정확도: 96.68%\n", - "1\t검증 세트 손실: 0.093012\t최선의 손실: 0.093012\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.084517\t최선의 손실: 0.084517\t정확도: 97.50%\n", - "3\t검증 세트 손실: 0.070080\t최선의 손실: 0.070080\t정확도: 97.58%\n", - "4\t검증 세트 손실: 0.073499\t최선의 손실: 0.070080\t정확도: 97.69%\n", - "5\t검증 세트 손실: 0.077686\t최선의 손실: 0.070080\t정확도: 97.93%\n", - "6\t검증 세트 손실: 0.063006\t최선의 손실: 0.063006\t정확도: 98.24%\n", - "7\t검증 세트 손실: 0.080366\t최선의 손실: 0.063006\t정확도: 97.50%\n", - "8\t검증 세트 손실: 0.082043\t최선의 손실: 0.063006\t정확도: 97.42%\n", - "9\t검증 세트 손실: 0.068878\t최선의 손실: 0.063006\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.072873\t최선의 손실: 0.063006\t정확도: 97.85%\n", - "11\t검증 세트 손실: 0.074462\t최선의 손실: 0.063006\t정확도: 98.24%\n", - "12\t검증 세트 손실: 0.073173\t최선의 손실: 0.063006\t정확도: 98.16%\n", - "13\t검증 세트 손실: 0.067475\t최선의 손실: 0.063006\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.062992\t최선의 손실: 0.062992\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.062149\t최선의 손실: 0.062149\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.091188\t최선의 손실: 0.062149\t정확도: 98.28%\n", - "17\t검증 세트 손실: 0.094647\t최선의 손실: 0.062149\t정확도: 97.81%\n", - "18\t검증 세트 손실: 0.089870\t최선의 손실: 0.062149\t정확도: 98.28%\n", - "19\t검증 세트 손실: 0.073986\t최선의 손실: 0.062149\t정확도: 98.24%\n", - "20\t검증 세트 손실: 0.082416\t최선의 손실: 0.062149\t정확도: 98.24%\n", - "21\t검증 세트 손실: 0.079643\t최선의 손실: 0.062149\t정확도: 98.16%\n", - "22\t검증 세트 손실: 0.075323\t최선의 손실: 0.062149\t정확도: 98.32%\n", - "23\t검증 세트 손실: 0.064139\t최선의 손실: 0.062149\t정확도: 98.40%\n", - "24\t검증 세트 손실: 0.088675\t최선의 손실: 0.062149\t정확도: 98.28%\n", - "25\t검증 세트 손실: 0.073147\t최선의 손실: 0.062149\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.081069\t최선의 손실: 0.062149\t정확도: 97.97%\n", - "27\t검증 세트 손실: 0.081614\t최선의 손실: 0.062149\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.091744\t최선의 손실: 0.062149\t정확도: 98.12%\n" + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation=, total= 2.0s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.115925\t최선의 손실: 0.115925\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.076872\t최선의 손실: 0.076872\t정확도: 97.58%\n", + "2\t검증 세트 손실: 0.067116\t최선의 손실: 0.067116\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.058143\t최선의 손실: 0.058143\t정확도: 98.36%\n", + "4\t검증 세트 손실: 0.075966\t최선의 손실: 0.058143\t정확도: 98.12%\n", + "5\t검증 세트 손실: 0.050675\t최선의 손실: 0.050675\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.054455\t최선의 손실: 0.050675\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.060695\t최선의 손실: 0.050675\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.078010\t최선의 손실: 0.050675\t정확도: 97.85%\n", + "9\t검증 세트 손실: 0.062018\t최선의 손실: 0.050675\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.063325\t최선의 손실: 0.050675\t정확도: 98.48%\n", + "11\t검증 세트 손실: 0.068177\t최선의 손실: 0.050675\t정확도: 98.63%\n", + "12\t검증 세트 손실: 0.059852\t최선의 손실: 0.050675\t정확도: 98.51%\n", + "13\t검증 세트 손실: 0.064477\t최선의 손실: 0.050675\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.070454\t최선의 손실: 0.050675\t정확도: 97.97%\n", + "15\t검증 세트 손실: 0.061781\t최선의 손실: 0.050675\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.072939\t최선의 손실: 0.050675\t정확도: 98.75%\n", + "17\t검증 세트 손실: 0.081422\t최선의 손실: 0.050675\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.061727\t최선의 손실: 0.050675\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.084227\t최선의 손실: 0.050675\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.080327\t최선의 손실: 0.050675\t정확도: 98.36%\n", + "21\t검증 세트 손실: 0.077923\t최선의 손실: 0.050675\t정확도: 98.05%\n", + "22\t검증 세트 손실: 0.067337\t최선의 손실: 0.050675\t정확도: 98.59%\n", + "23\t검증 세트 손실: 0.073228\t최선의 손실: 0.050675\t정확도: 98.51%\n", + "24\t검증 세트 손실: 0.083611\t최선의 손실: 0.050675\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.083099\t최선의 손실: 0.050675\t정확도: 98.59%\n", + "26\t검증 세트 손실: 0.075856\t최선의 손실: 0.050675\t정확도: 98.67%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, activation=, total= 1.9s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "29\t검증 세트 손실: 0.105981\t최선의 손실: 0.062149\t정확도: 98.05%\n", - "30\t검증 세트 손실: 0.100353\t최선의 손실: 0.062149\t정확도: 97.97%\n", - "31\t검증 세트 손실: 0.106992\t최선의 손실: 0.062149\t정확도: 98.05%\n", - "32\t검증 세트 손실: 0.079171\t최선의 손실: 0.062149\t정확도: 98.12%\n", - "33\t검증 세트 손실: 0.091985\t최선의 손실: 0.062149\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.093240\t최선의 손실: 0.062149\t정확도: 98.36%\n", - "35\t검증 세트 손실: 0.088248\t최선의 손실: 0.062149\t정확도: 98.44%\n", - "36\t검증 세트 손실: 0.108965\t최선의 손실: 0.062149\t정확도: 98.16%\n", + "0\t검증 세트 손실: 3.554969\t최선의 손실: 3.554969\t정확도: 57.00%\n", + "1\t검증 세트 손실: 0.808748\t최선의 손실: 0.808748\t정확도: 67.32%\n", + "2\t검증 세트 손실: 0.435940\t최선의 손실: 0.435940\t정확도: 84.64%\n", + "3\t검증 세트 손실: 0.393587\t최선의 손실: 0.393587\t정확도: 86.79%\n", + "4\t검증 세트 손실: 0.638236\t최선의 손실: 0.393587\t정확도: 83.62%\n", + "5\t검증 세트 손실: 0.241392\t최선의 손실: 0.241392\t정확도: 93.59%\n", + "6\t검증 세트 손실: 0.333600\t최선의 손실: 0.241392\t정확도: 90.73%\n", + "7\t검증 세트 손실: 36761.082031\t최선의 손실: 0.241392\t정확도: 20.91%\n", + "8\t검증 세트 손실: 259.611481\t최선의 손실: 0.241392\t정확도: 57.62%\n", + "9\t검증 세트 손실: 107.114136\t최선의 손실: 0.241392\t정확도: 58.72%\n", + "10\t검증 세트 손실: 2226.710693\t최선의 손실: 0.241392\t정확도: 40.70%\n", + "11\t검증 세트 손실: 351.238281\t최선의 손실: 0.241392\t정확도: 56.72%\n", + "12\t검증 세트 손실: 466.597839\t최선의 손실: 0.241392\t정확도: 62.47%\n", + "13\t검증 세트 손실: 101.401360\t최선의 손실: 0.241392\t정확도: 54.61%\n", + "14\t검증 세트 손실: 88.317238\t최선의 손실: 0.241392\t정확도: 64.97%\n", + "15\t검증 세트 손실: 131.904129\t최선의 손실: 0.241392\t정확도: 66.22%\n", + "16\t검증 세트 손실: 59.773308\t최선의 손실: 0.241392\t정확도: 75.61%\n", + "17\t검증 세트 손실: 56.153488\t최선의 손실: 0.241392\t정확도: 79.36%\n", + "18\t검증 세트 손실: 40.750252\t최선의 손실: 0.241392\t정확도: 81.16%\n", + "19\t검증 세트 손실: 36.266380\t최선의 손실: 0.241392\t정확도: 83.78%\n", + "20\t검증 세트 손실: 24.406010\t최선의 손실: 0.241392\t정확도: 88.62%\n", + "21\t검증 세트 손실: 51.733562\t최선의 손실: 0.241392\t정확도: 76.94%\n", + "22\t검증 세트 손실: 2449.058105\t최선의 손실: 0.241392\t정확도: 53.91%\n", + "23\t검증 세트 손실: 220.800995\t최선의 손실: 0.241392\t정확도: 66.18%\n", + "24\t검증 세트 손실: 50.165508\t최선의 손실: 0.241392\t정확도: 84.48%\n", + "25\t검증 세트 손실: 55.245468\t최선의 손실: 0.241392\t정확도: 78.50%\n", + "26\t검증 세트 손실: 63.138058\t최선의 손실: 0.241392\t정확도: 75.65%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=30, total= 2.8s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90 \n", - "0\t검증 세트 손실: 4959.016602\t최선의 손실: 4959.016602\t정확도: 58.95%\n", - "1\t검증 세트 손실: 5.446846\t최선의 손실: 5.446846\t정확도: 65.68%\n", - "2\t검증 세트 손실: 1392.261108\t최선의 손실: 5.446846\t정확도: 39.21%\n", - "3\t검증 세트 손실: 68.069595\t최선의 손실: 5.446846\t정확도: 76.94%\n", - "4\t검증 세트 손실: 27.544319\t최선의 손실: 5.446846\t정확도: 81.16%\n", - "5\t검증 세트 손실: 12.511521\t최선의 손실: 5.446846\t정확도: 88.19%\n", - "6\t검증 세트 손실: 16.485355\t최선의 손실: 5.446846\t정확도: 76.66%\n", - "7\t검증 세트 손실: 6.624844\t최선의 손실: 5.446846\t정확도: 86.83%\n", - "8\t검증 세트 손실: 23.746469\t최선의 손실: 5.446846\t정확도: 81.31%\n", - "9\t검증 세트 손실: 9.279375\t최선의 손실: 5.446846\t정확도: 79.63%\n", - "10\t검증 세트 손실: 4.899003\t최선의 손실: 4.899003\t정확도: 91.01%\n", - "11\t검증 세트 손실: 24.955046\t최선의 손실: 4.899003\t정확도: 84.75%\n", - "12\t검증 세트 손실: 2644.093506\t최선의 손실: 4.899003\t정확도: 36.55%\n", - "13\t검증 세트 손실: 40.783417\t최선의 손실: 4.899003\t정확도: 78.34%\n", - "14\t검증 세트 손실: 26.221090\t최선의 손실: 4.899003\t정확도: 74.28%\n", - "15\t검증 세트 손실: 11.327071\t최선의 손실: 4.899003\t정확도: 85.93%\n", - "16\t검증 세트 손실: 7.320235\t최선의 손실: 4.899003\t정확도: 84.13%\n", - "17\t검증 세트 손실: 12.503627\t최선의 손실: 4.899003\t정확도: 85.34%\n", - "18\t검증 세트 손실: 11.629165\t최선의 손실: 4.899003\t정확도: 82.96%\n", - "19\t검증 세트 손실: 307.863617\t최선의 손실: 4.899003\t정확도: 40.77%\n", - "20\t검증 세트 손실: 17.127947\t최선의 손실: 4.899003\t정확도: 76.51%\n", - "21\t검증 세트 손실: 83.561554\t최선의 손실: 4.899003\t정확도: 45.54%\n", - "22\t검증 세트 손실: 17.610264\t최선의 손실: 4.899003\t정확도: 77.01%\n", - "23\t검증 세트 손실: 1647.858643\t최선의 손실: 4.899003\t정확도: 40.54%\n", - "24\t검증 세트 손실: 50.775074\t최선의 손실: 4.899003\t정확도: 52.78%\n", - "25\t검증 세트 손실: 25.715580\t최선의 손실: 4.899003\t정확도: 74.08%\n", - "26\t검증 세트 손실: 29.263557\t최선의 손실: 4.899003\t정확도: 69.39%\n", - "27\t검증 세트 손실: 182.563919\t최선의 손실: 4.899003\t정확도: 70.56%\n", - "28\t검증 세트 손실: 37.389202\t최선의 손실: 4.899003\t정확도: 68.41%\n", - "29\t검증 세트 손실: 115.808907\t최선의 손실: 4.899003\t정확도: 47.54%\n", - "30\t검증 세트 손실: 18.930515\t최선의 손실: 4.899003\t정확도: 76.54%\n", - "31\t검증 세트 손실: 3627.237305\t최선의 손실: 4.899003\t정확도: 47.38%\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 12.6s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 2.481806\t최선의 손실: 2.481806\t정확도: 35.30%\n", + "1\t검증 세트 손실: 0.975385\t최선의 손실: 0.975385\t정확도: 62.28%\n", + "2\t검증 세트 손실: 0.914606\t최선의 손실: 0.914606\t정확도: 75.57%\n", + "3\t검증 세트 손실: 0.426427\t최선의 손실: 0.426427\t정확도: 87.45%\n", + "4\t검증 세트 손실: 0.417551\t최선의 손실: 0.417551\t정확도: 88.74%\n", + "5\t검증 세트 손실: 0.522772\t최선의 손실: 0.417551\t정확도: 84.40%\n", + "6\t검증 세트 손실: 0.440662\t최선의 손실: 0.417551\t정확도: 89.05%\n", + "7\t검증 세트 손실: 0.327827\t최선의 손실: 0.327827\t정확도: 90.93%\n", + "8\t검증 세트 손실: 163.209625\t최선의 손실: 0.327827\t정확도: 19.08%\n", + "9\t검증 세트 손실: 1450.806152\t최선의 손실: 0.327827\t정확도: 39.80%\n", + "10\t검증 세트 손실: 2027.781494\t최선의 손실: 0.327827\t정확도: 67.36%\n", + "11\t검증 세트 손실: 1804.481079\t최선의 손실: 0.327827\t정확도: 71.27%\n", + "12\t검증 세트 손실: 24.405418\t최선의 손실: 0.327827\t정확도: 81.51%\n", + "13\t검증 세트 손실: 16.077942\t최선의 손실: 0.327827\t정확도: 82.96%\n", + "14\t검증 세트 손실: 86.351273\t최선의 손실: 0.327827\t정확도: 81.63%\n", + "15\t검증 세트 손실: 2064.064941\t최선의 손실: 0.327827\t정확도: 49.88%\n", + "16\t검증 세트 손실: 543.848022\t최선의 손실: 0.327827\t정확도: 60.01%\n", + "17\t검증 세트 손실: 67.804520\t최선의 손실: 0.327827\t정확도: 79.83%\n", + "18\t검증 세트 손실: 246.989807\t최선의 손실: 0.327827\t정확도: 70.99%\n", + "19\t검증 세트 손실: 166.931091\t최선의 손실: 0.327827\t정확도: 76.86%\n", + "20\t검증 세트 손실: 114.592911\t최선의 손실: 0.327827\t정확도: 75.41%\n", + "21\t검증 세트 손실: 249.521332\t최선의 손실: 0.327827\t정확도: 88.47%\n", + "22\t검증 세트 손실: 170.616318\t최선의 손실: 0.327827\t정확도: 61.14%\n", + "23\t검증 세트 손실: 295.626648\t최선의 손실: 0.327827\t정확도: 75.96%\n", + "24\t검증 세트 손실: 122.720337\t최선의 손실: 0.327827\t정확도: 89.87%\n", + "25\t검증 세트 손실: 613.353333\t최선의 손실: 0.327827\t정확도: 87.26%\n", + "26\t검증 세트 손실: 1870.224976\t최선의 손실: 0.327827\t정확도: 86.59%\n", + "27\t검증 세트 손실: 1494.411987\t최선의 손실: 0.327827\t정확도: 86.79%\n", + "28\t검증 세트 손실: 861.389587\t최선의 손실: 0.327827\t정확도: 92.26%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90, total= 16.8s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90 \n", - "0\t검증 세트 손실: 0.147230\t최선의 손실: 0.147230\t정확도: 96.60%\n", - "1\t검증 세트 손실: 4.722157\t최선의 손실: 0.147230\t정확도: 69.19%\n", - "2\t검증 세트 손실: 1.250429\t최선의 손실: 0.147230\t정확도: 82.49%\n", - "3\t검증 세트 손실: 1.098807\t최선의 손실: 0.147230\t정확도: 80.92%\n", - "4\t검증 세트 손실: 0.658860\t최선의 손실: 0.147230\t정확도: 87.53%\n", - "5\t검증 세트 손실: 0.666731\t최선의 손실: 0.147230\t정확도: 89.87%\n", - "6\t검증 세트 손실: 0.501160\t최선의 손실: 0.147230\t정확도: 89.41%\n", - "7\t검증 세트 손실: 0.730787\t최선의 손실: 0.147230\t정확도: 87.65%\n", - "8\t검증 세트 손실: 2.203176\t최선의 손실: 0.147230\t정확도: 80.61%\n", - "9\t검증 세트 손실: 0.364436\t최선의 손실: 0.147230\t정확도: 93.08%\n", - "10\t검증 세트 손실: 0.670909\t최선의 손실: 0.147230\t정확도: 91.20%\n", - "11\t검증 세트 손실: 8708.349609\t최선의 손실: 0.147230\t정확도: 22.67%\n", - "12\t검증 세트 손실: 352.935913\t최선의 손실: 0.147230\t정확도: 72.44%\n", - "13\t검증 세트 손실: 177.381348\t최선의 손실: 0.147230\t정확도: 84.68%\n", - "14\t검증 세트 손실: 282.876190\t최선의 손실: 0.147230\t정확도: 70.41%\n", - "15\t검증 세트 손실: 181.573318\t최선의 손실: 0.147230\t정확도: 77.01%\n", - "16\t검증 세트 손실: 112.160133\t최선의 손실: 0.147230\t정확도: 82.06%\n", - "17\t검증 세트 손실: 65.078499\t최선의 손실: 0.147230\t정확도: 92.46%\n", - "18\t검증 세트 손실: 127.249916\t최선의 손실: 0.147230\t정확도: 82.02%\n", - "19\t검증 세트 손실: 79.489655\t최선의 손실: 0.147230\t정확도: 89.13%\n", - "20\t검증 세트 손실: 46.940380\t최선의 손실: 0.147230\t정확도: 89.29%\n", - "21\t검증 세트 손실: 310.315857\t최선의 손실: 0.147230\t정확도: 85.38%\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 13.7s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 2034.030640\t최선의 손실: 2034.030640\t정확도: 30.81%\n", + "1\t검증 세트 손실: 57.896683\t최선의 손실: 57.896683\t정확도: 19.43%\n", + "2\t검증 세트 손실: 5.124809\t최선의 손실: 5.124809\t정확도: 50.04%\n", + "3\t검증 세트 손실: 3.172202\t최선의 손실: 3.172202\t정확도: 62.71%\n", + "4\t검증 세트 손실: 2.199105\t최선의 손실: 2.199105\t정확도: 71.81%\n", + "5\t검증 세트 손실: 1.790734\t최선의 손실: 1.790734\t정확도: 72.52%\n", + "6\t검증 세트 손실: 1.298839\t최선의 손실: 1.298839\t정확도: 76.70%\n", + "7\t검증 세트 손실: 2.160004\t최선의 손실: 1.298839\t정확도: 76.15%\n", + "8\t검증 세트 손실: 2.694373\t최선의 손실: 1.298839\t정확도: 73.14%\n", + "9\t검증 세트 손실: 1.407473\t최선의 손실: 1.298839\t정확도: 84.60%\n", + "10\t검증 세트 손실: 14166.896484\t최선의 손실: 1.298839\t정확도: 19.08%\n", + "11\t검증 세트 손실: 2589.082520\t최선의 손실: 1.298839\t정확도: 34.56%\n", + "12\t검증 세트 손실: 942.147461\t최선의 손실: 1.298839\t정확도: 45.50%\n", + "13\t검증 세트 손실: 883.576721\t최선의 손실: 1.298839\t정확도: 48.91%\n", + "14\t검증 세트 손실: 583.973450\t최선의 손실: 1.298839\t정확도: 47.30%\n", + "15\t검증 세트 손실: 299.987305\t최선의 손실: 1.298839\t정확도: 58.09%\n", + "16\t검증 세트 손실: 906.888306\t최선의 손실: 1.298839\t정확도: 50.94%\n", + "17\t검증 세트 손실: 925.650879\t최선의 손실: 1.298839\t정확도: 50.12%\n", + "18\t검증 세트 손실: 861.595947\t최선의 손실: 1.298839\t정확도: 37.10%\n", + "19\t검증 세트 손실: 425.939056\t최선의 손실: 1.298839\t정확도: 38.82%\n", + "20\t검증 세트 손실: 1074.550171\t최선의 손실: 1.298839\t정확도: 51.37%\n", + "21\t검증 세트 손실: 318.212311\t최선의 손실: 1.298839\t정확도: 54.69%\n", + "22\t검증 세트 손실: 859.331909\t최선의 손실: 1.298839\t정확도: 53.21%\n", + "23\t검증 세트 손실: 1377.727539\t최선의 손실: 1.298839\t정확도: 49.18%\n", + "24\t검증 세트 손실: 344.057526\t최선의 손실: 1.298839\t정확도: 49.96%\n", + "25\t검증 세트 손실: 122.053116\t최선의 손실: 1.298839\t정확도: 66.30%\n", + "26\t검증 세트 손실: 208.729568\t최선의 손실: 1.298839\t정확도: 55.55%\n", + "27\t검증 세트 손실: 690.598572\t최선의 손실: 1.298839\t정확도: 56.10%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90, total= 11.6s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90 \n", - "0\t검증 세트 손실: 0.229090\t최선의 손실: 0.229090\t정확도: 92.81%\n", - "1\t검증 세트 손실: 251.224731\t최선의 손실: 0.229090\t정확도: 41.48%\n", - "2\t검증 세트 손실: 88.049706\t최선의 손실: 0.229090\t정확도: 64.50%\n", - "3\t검증 세트 손실: 17.839800\t최선의 손실: 0.229090\t정확도: 87.22%\n", - "4\t검증 세트 손실: 12.472750\t최선의 손실: 0.229090\t정확도: 88.82%\n", - "5\t검증 세트 손실: 22.833015\t최선의 손실: 0.229090\t정확도: 78.62%\n", - "6\t검증 세트 손실: 86.344406\t최선의 손실: 0.229090\t정확도: 61.42%\n", - "7\t검증 세트 손실: 14.758308\t최선의 손실: 0.229090\t정확도: 86.86%\n", - "8\t검증 세트 손실: 12.333218\t최선의 손실: 0.229090\t정확도: 85.89%\n", - "9\t검증 세트 손실: 4.636055\t최선의 손실: 0.229090\t정확도: 93.98%\n", - "10\t검증 세트 손실: 11.301844\t최선의 손실: 0.229090\t정확도: 92.22%\n", - "11\t검증 세트 손실: 60003.097656\t최선의 손실: 0.229090\t정확도: 19.27%\n", - "12\t검증 세트 손실: 831.429138\t최선의 손실: 0.229090\t정확도: 40.97%\n", - "13\t검증 세트 손실: 299.983765\t최선의 손실: 0.229090\t정확도: 47.50%\n", - "14\t검증 세트 손실: 414.385986\t최선의 손실: 0.229090\t정확도: 46.64%\n", - "15\t검증 세트 손실: 136.976868\t최선의 손실: 0.229090\t정확도: 56.33%\n", - "16\t검증 세트 손실: 125.706047\t최선의 손실: 0.229090\t정확도: 59.42%\n", - "17\t검증 세트 손실: 181.108658\t최선의 손실: 0.229090\t정확도: 48.32%\n", - "18\t검증 세트 손실: 58.884644\t최선의 손실: 0.229090\t정확도: 69.55%\n", - "19\t검증 세트 손실: 74.829948\t최선의 손실: 0.229090\t정확도: 61.42%\n", - "20\t검증 세트 손실: 42.261604\t최선의 손실: 0.229090\t정확도: 76.54%\n", - "21\t검증 세트 손실: 49.808132\t최선의 손실: 0.229090\t정확도: 76.04%\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 13.2s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 58.230782\t최선의 손실: 58.230782\t정확도: 79.79%\n", + "1\t검증 세트 손실: 159.684616\t최선의 손실: 58.230782\t정확도: 87.14%\n", + "2\t검증 세트 손실: 161.737366\t최선의 손실: 58.230782\t정확도: 93.24%\n", + "3\t검증 세트 손실: 170.024109\t최선의 손실: 58.230782\t정확도: 92.61%\n", + "4\t검증 세트 손실: 42587292.000000\t최선의 손실: 58.230782\t정확도: 19.27%\n", + "5\t검증 세트 손실: 68058.210938\t최선의 손실: 58.230782\t정확도: 67.12%\n", + "6\t검증 세트 손실: 36111.601562\t최선의 손실: 58.230782\t정확도: 75.25%\n", + "7\t검증 세트 손실: 17432.097656\t최선의 손실: 58.230782\t정확도: 85.54%\n", + "8\t검증 세트 손실: 15737.339844\t최선의 손실: 58.230782\t정확도: 85.57%\n", + "9\t검증 세트 손실: 10130.413086\t최선의 손실: 58.230782\t정확도: 90.23%\n", + "10\t검증 세트 손실: 36741.898438\t최선의 손실: 58.230782\t정확도: 84.05%\n", + "11\t검증 세트 손실: 10960.670898\t최선의 손실: 58.230782\t정확도: 94.64%\n", + "12\t검증 세트 손실: 11183.347656\t최선의 손실: 58.230782\t정확도: 93.39%\n", + "13\t검증 세트 손실: 8087.969727\t최선의 손실: 58.230782\t정확도: 92.30%\n", + "14\t검증 세트 손실: 6258.961426\t최선의 손실: 58.230782\t정확도: 94.25%\n", + "15\t검증 세트 손실: 17939.333984\t최선의 손실: 58.230782\t정확도: 91.56%\n", + "16\t검증 세트 손실: 181141.656250\t최선의 손실: 58.230782\t정확도: 68.02%\n", + "17\t검증 세트 손실: 12795.542969\t최선의 손실: 58.230782\t정확도: 94.80%\n", + "18\t검증 세트 손실: 5255.160645\t최선의 손실: 58.230782\t정확도: 96.05%\n", + "19\t검증 세트 손실: 6978.139160\t최선의 손실: 58.230782\t정확도: 94.53%\n", + "20\t검증 세트 손실: 13948.697266\t최선의 손실: 58.230782\t정확도: 91.99%\n", + "21\t검증 세트 손실: 4207.927246\t최선의 손실: 58.230782\t정확도: 96.21%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=90, total= 11.1s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 132433.281250\t최선의 손실: 132433.281250\t정확도: 50.16%\n", - "1\t검증 세트 손실: 3770.931885\t최선의 손실: 3770.931885\t정확도: 88.66%\n", - "2\t검증 세트 손실: 1526.988037\t최선의 손실: 1526.988037\t정확도: 94.25%\n", - "3\t검증 세트 손실: 574.409302\t최선의 손실: 574.409302\t정확도: 95.00%\n", - "4\t검증 세트 손실: 1113.290161\t최선의 손실: 574.409302\t정확도: 93.55%\n", - "5\t검증 세트 손실: 305.444550\t최선의 손실: 305.444550\t정확도: 96.48%\n", - "6\t검증 세트 손실: 1057.970093\t최선의 손실: 305.444550\t정확도: 94.41%\n", - "7\t검증 세트 손실: 562.626953\t최선의 손실: 305.444550\t정확도: 94.64%\n", - "8\t검증 세트 손실: 235.488754\t최선의 손실: 235.488754\t정확도: 96.33%\n", - "9\t검증 세트 손실: 550.002563\t최선의 손실: 235.488754\t정확도: 94.02%\n", - "10\t검증 세트 손실: 503.020081\t최선의 손실: 235.488754\t정확도: 94.18%\n", - "11\t검증 세트 손실: 276.377625\t최선의 손실: 235.488754\t정확도: 95.93%\n", - "12\t검증 세트 손실: 719950.187500\t최선의 손실: 235.488754\t정확도: 83.42%\n", - "13\t검증 세트 손실: 25419.740234\t최선의 손실: 235.488754\t정확도: 89.60%\n", - "14\t검증 세트 손실: 14069.107422\t최선의 손실: 235.488754\t정확도: 92.81%\n", - "15\t검증 세트 손실: 8124.010254\t최선의 손실: 235.488754\t정확도: 94.80%\n", - "16\t검증 세트 손실: 14208.000000\t최선의 손실: 235.488754\t정확도: 94.76%\n", - "17\t검증 세트 손실: 7569.164062\t최선의 손실: 235.488754\t정확도: 93.20%\n", - "18\t검증 세트 손실: 4437.259277\t최선의 손실: 235.488754\t정확도: 96.60%\n", - "19\t검증 세트 손실: 3471.979736\t최선의 손실: 235.488754\t정확도: 96.56%\n", - "20\t검증 세트 손실: 5827.518555\t최선의 손실: 235.488754\t정확도: 95.23%\n", - "21\t검증 세트 손실: 122180.601562\t최선의 손실: 235.488754\t정확도: 92.49%\n", - "22\t검증 세트 손실: 21209.189453\t최선의 손실: 235.488754\t정확도: 96.48%\n", - "23\t검증 세트 손실: 19500.445312\t최선의 손실: 235.488754\t정확도: 96.29%\n", - "24\t검증 세트 손실: 22690.796875\t최선의 손실: 235.488754\t정확도: 94.72%\n", - "25\t검증 세트 손실: 9974.504883\t최선의 손실: 235.488754\t정확도: 95.23%\n", - "26\t검증 세트 손실: 11218.433594\t최선의 손실: 235.488754\t정확도: 95.47%\n", - "27\t검증 세트 손실: 6999.335449\t최선의 손실: 235.488754\t정확도: 96.83%\n", - "28\t검증 세트 손실: 13278.951172\t최선의 손실: 235.488754\t정확도: 96.56%\n", - "29\t검증 세트 손실: 9023.555664\t최선의 손실: 235.488754\t정확도: 96.17%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 14.9s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 1210.428101\t최선의 손실: 1210.428101\t정확도: 84.32%\n", - "1\t검증 세트 손실: 250.879883\t최선의 손실: 250.879883\t정확도: 91.95%\n", - "2\t검증 세트 손실: 361.333099\t최선의 손실: 250.879883\t정확도: 90.73%\n", - "3\t검증 세트 손실: 175.191010\t최선의 손실: 175.191010\t정확도: 93.20%\n", - "4\t검증 세트 손실: 1293.845825\t최선의 손실: 175.191010\t정확도: 92.77%\n", - "5\t검증 세트 손실: 139.306168\t최선의 손실: 139.306168\t정확도: 94.96%\n", - "6\t검증 세트 손실: 65.168983\t최선의 손실: 65.168983\t정확도: 95.00%\n", - "7\t검증 세트 손실: 51.962337\t최선의 손실: 51.962337\t정확도: 94.61%\n", - "8\t검증 세트 손실: 61.159500\t최선의 손실: 51.962337\t정확도: 95.78%\n", - "9\t검증 세트 손실: 24.346964\t최선의 손실: 24.346964\t정확도: 96.25%\n", - "10\t검증 세트 손실: 658.503601\t최선의 손실: 24.346964\t정확도: 76.51%\n", - "11\t검증 세트 손실: 120.321312\t최선의 손실: 24.346964\t정확도: 92.34%\n", - "12\t검증 세트 손실: 44.175312\t최선의 손실: 24.346964\t정확도: 95.07%\n", - "13\t검증 세트 손실: 68.956612\t최선의 손실: 24.346964\t정확도: 93.59%\n" + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 10.4s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 250.278824\t최선의 손실: 250.278824\t정확도: 89.52%\n", + "1\t검증 세트 손실: 66.926544\t최선의 손실: 66.926544\t정확도: 95.27%\n", + "2\t검증 세트 손실: 57.160881\t최선의 손실: 57.160881\t정확도: 94.33%\n", + "3\t검증 세트 손실: 65.744225\t최선의 손실: 57.160881\t정확도: 94.37%\n", + "4\t검증 세트 손실: 37.197021\t최선의 손실: 37.197021\t정확도: 93.71%\n", + "5\t검증 세트 손실: 36.326248\t최선의 손실: 36.326248\t정확도: 95.74%\n", + "6\t검증 세트 손실: 715.558289\t최선의 손실: 36.326248\t정확도: 79.24%\n", + "7\t검증 세트 손실: 62817.187500\t최선의 손실: 36.326248\t정확도: 89.25%\n", + "8\t검증 세트 손실: 36079.007812\t최선의 손실: 36.326248\t정확도: 89.72%\n", + "9\t검증 세트 손실: 19959.738281\t최선의 손실: 36.326248\t정확도: 93.71%\n", + "10\t검증 세트 손실: 29842.339844\t최선의 손실: 36.326248\t정확도: 85.65%\n", + "11\t검증 세트 손실: 11926.366211\t최선의 손실: 36.326248\t정확도: 94.68%\n", + "12\t검증 세트 손실: 17459.623047\t최선의 손실: 36.326248\t정확도: 90.11%\n", + "13\t검증 세트 손실: 61885.023438\t최선의 손실: 36.326248\t정확도: 80.22%\n", + "14\t검증 세트 손실: 15538.982422\t최선의 손실: 36.326248\t정확도: 91.40%\n", + "15\t검증 세트 손실: 9976.789062\t최선의 손실: 36.326248\t정확도: 93.59%\n", + "16\t검증 세트 손실: 10391.454102\t최선의 손실: 36.326248\t정확도: 93.78%\n", + "17\t검증 세트 손실: 16108.265625\t최선의 손실: 36.326248\t정확도: 94.41%\n", + "18\t검증 세트 손실: 28567.818359\t최선의 손실: 36.326248\t정확도: 94.37%\n", + "19\t검증 세트 손실: 9075.441406\t최선의 손실: 36.326248\t정확도: 96.29%\n", + "20\t검증 세트 손실: 9835.269531\t최선의 손실: 36.326248\t정확도: 96.33%\n", + "21\t검증 세트 손실: 14997.698242\t최선의 손실: 36.326248\t정확도: 96.72%\n", + "22\t검증 세트 손실: 7939572.500000\t최선의 손실: 36.326248\t정확도: 68.96%\n", + "23\t검증 세트 손실: 88856.453125\t최선의 손실: 36.326248\t정확도: 91.83%\n", + "24\t검증 세트 손실: 76195.507812\t최선의 손실: 36.326248\t정확도: 94.68%\n", + "25\t검증 세트 손실: 77581.757812\t최선의 손실: 36.326248\t정확도: 94.64%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "14\t검증 세트 손실: 94.236565\t최선의 손실: 24.346964\t정확도: 96.01%\n", - "15\t검증 세트 손실: 158.345917\t최선의 손실: 24.346964\t정확도: 93.16%\n", - "16\t검증 세트 손실: 162.887070\t최선의 손실: 24.346964\t정확도: 93.00%\n", - "17\t검증 세트 손실: 97.908829\t최선의 손실: 24.346964\t정확도: 96.17%\n", - "18\t검증 세트 손실: 368280.000000\t최선의 손실: 24.346964\t정확도: 85.07%\n", - "19\t검증 세트 손실: 31994.333984\t최선의 손실: 24.346964\t정확도: 93.94%\n", - "20\t검증 세트 손실: 20165.306641\t최선의 손실: 24.346964\t정확도: 94.49%\n", - "21\t검증 세트 손실: 16833.039062\t최선의 손실: 24.346964\t정확도: 95.62%\n", - "22\t검증 세트 손실: 13721.860352\t최선의 손실: 24.346964\t정확도: 94.64%\n", - "23\t검증 세트 손실: 8218.649414\t최선의 손실: 24.346964\t정확도: 94.45%\n", - "24\t검증 세트 손실: 42806.761719\t최선의 손실: 24.346964\t정확도: 93.59%\n", - "25\t검증 세트 손실: 6759.045898\t최선의 손실: 24.346964\t정확도: 96.25%\n", - "26\t검증 세트 손실: 4524.816895\t최선의 손실: 24.346964\t정확도: 96.36%\n", - "27\t검증 세트 손실: 4394.646973\t최선의 손실: 24.346964\t정확도: 96.21%\n", - "28\t검증 세트 손실: 5590.129883\t최선의 손실: 24.346964\t정확도: 95.70%\n", - "29\t검증 세트 손실: 28643.064453\t최선의 손실: 24.346964\t정확도: 91.48%\n", - "30\t검증 세트 손실: 7282.187012\t최선의 손실: 24.346964\t정확도: 96.99%\n", + "26\t검증 세트 손실: 86152.921875\t최선의 손실: 36.326248\t정확도: 93.55%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 15.6s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 80718.687500\t최선의 손실: 80718.687500\t정확도: 50.74%\n", - "1\t검증 세트 손실: 539.508118\t최선의 손실: 539.508118\t정확도: 77.52%\n", - "2\t검증 세트 손실: 226.713760\t최선의 손실: 226.713760\t정확도: 89.64%\n", - "3\t검증 세트 손실: 131.542404\t최선의 손실: 131.542404\t정확도: 89.87%\n", - "4\t검증 세트 손실: 64.967957\t최선의 손실: 64.967957\t정확도: 93.98%\n", - "5\t검증 세트 손실: 82.670006\t최선의 손실: 64.967957\t정확도: 93.39%\n", - "6\t검증 세트 손실: 177.502884\t최선의 손실: 64.967957\t정확도: 86.51%\n", - "7\t검증 세트 손실: 58.526741\t최선의 손실: 58.526741\t정확도: 94.06%\n", - "8\t검증 세트 손실: 62.443504\t최선의 손실: 58.526741\t정확도: 94.33%\n", - "9\t검증 세트 손실: 861.628235\t최선의 손실: 58.526741\t정확도: 81.47%\n", - "10\t검증 세트 손실: 54784.886719\t최선의 손실: 58.526741\t정확도: 87.72%\n", - "11\t검증 세트 손실: 15499.198242\t최선의 손실: 58.526741\t정확도: 91.20%\n", - "12\t검증 세트 손실: 47138.777344\t최선의 손실: 58.526741\t정확도: 75.92%\n", - "13\t검증 세트 손실: 16010.203125\t최선의 손실: 58.526741\t정확도: 94.18%\n", - "14\t검증 세트 손실: 16123.461914\t최선의 손실: 58.526741\t정확도: 88.08%\n", - "15\t검증 세트 손실: 11741.057617\t최선의 손실: 58.526741\t정확도: 92.69%\n", - "16\t검증 세트 손실: 7792.813965\t최선의 손실: 58.526741\t정확도: 94.25%\n", - "17\t검증 세트 손실: 8034.357910\t최선의 손실: 58.526741\t정확도: 95.90%\n", - "18\t검증 세트 손실: 8918.059570\t최선의 손실: 58.526741\t정확도: 92.22%\n", - "19\t검증 세트 손실: 25640.595703\t최선의 손실: 58.526741\t정확도: 86.04%\n", - "20\t검증 세트 손실: 9147.901367\t최선의 손실: 58.526741\t정확도: 94.45%\n", - "21\t검증 세트 손실: 8412.023438\t최선의 손실: 58.526741\t정확도: 92.57%\n", - "22\t검증 세트 손실: 5322.297852\t최선의 손실: 58.526741\t정확도: 95.97%\n", - "23\t검증 세트 손실: 10231.715820\t최선의 손실: 58.526741\t정확도: 95.93%\n", - "24\t검증 세트 손실: 8643.117188\t최선의 손실: 58.526741\t정확도: 93.78%\n", - "25\t검증 세트 손실: 3290.678711\t최선의 손실: 58.526741\t정확도: 96.56%\n", - "26\t검증 세트 손실: 11431.452148\t최선의 손실: 58.526741\t정확도: 93.98%\n", - "27\t검증 세트 손실: 4360.528320\t최선의 손실: 58.526741\t정확도: 95.04%\n", - "28\t검증 세트 손실: 13306722.000000\t최선의 손실: 58.526741\t정확도: 61.38%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 12.7s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 135.442307\t최선의 손실: 135.442307\t정확도: 72.99%\n", + "1\t검증 세트 손실: 16.184174\t최선의 손실: 16.184174\t정확도: 93.12%\n", + "2\t검증 세트 손실: 10.843725\t최선의 손실: 10.843725\t정확도: 91.48%\n", + "3\t검증 세트 손실: 11.876012\t최선의 손실: 10.843725\t정확도: 93.67%\n", + "4\t검증 세트 손실: 56.979000\t최선의 손실: 10.843725\t정확도: 83.42%\n", + "5\t검증 세트 손실: 6.325847\t최선의 손실: 6.325847\t정확도: 94.41%\n", + "6\t검증 세트 손실: 148.266785\t최선의 손실: 6.325847\t정확도: 94.53%\n", + "7\t검증 세트 손실: 18.674683\t최선의 손실: 6.325847\t정확도: 95.04%\n", + "8\t검증 세트 손실: 14.487318\t최선의 손실: 6.325847\t정확도: 91.87%\n", + "9\t검증 세트 손실: 22.501865\t최선의 손실: 6.325847\t정확도: 96.36%\n", + "10\t검증 세트 손실: 8.147702\t최선의 손실: 6.325847\t정확도: 95.54%\n", + "11\t검증 세트 손실: 3.698935\t최선의 손실: 3.698935\t정확도: 95.47%\n", + "12\t검증 세트 손실: 1783866.500000\t최선의 손실: 3.698935\t정확도: 16.93%\n", + "13\t검증 세트 손실: 130483.015625\t최선의 손실: 3.698935\t정확도: 76.43%\n", + "14\t검증 세트 손실: 37229.257812\t최선의 손실: 3.698935\t정확도: 93.47%\n", + "15\t검증 세트 손실: 47996.808594\t최선의 손실: 3.698935\t정확도: 94.61%\n", + "16\t검증 세트 손실: 20719.275391\t최선의 손실: 3.698935\t정확도: 95.97%\n", + "17\t검증 세트 손실: 40439.531250\t최선의 손실: 3.698935\t정확도: 95.62%\n", + "18\t검증 세트 손실: 29679.761719\t최선의 손실: 3.698935\t정확도: 95.66%\n", + "19\t검증 세트 손실: 52682.058594\t최선의 손실: 3.698935\t정확도: 91.99%\n", + "20\t검증 세트 손실: 15808.080078\t최선의 손실: 3.698935\t정확도: 94.49%\n", + "21\t검증 세트 손실: 13642.805664\t최선의 손실: 3.698935\t정확도: 96.13%\n", + "22\t검증 세트 손실: 20967.167969\t최선의 손실: 3.698935\t정확도: 95.58%\n", + "23\t검증 세트 손실: 14859.645508\t최선의 손실: 3.698935\t정확도: 95.78%\n", + "24\t검증 세트 손실: 9484.068359\t최선의 손실: 3.698935\t정확도: 95.86%\n", + "25\t검증 세트 손실: 56717.750000\t최선의 손실: 3.698935\t정확도: 91.01%\n", + "26\t검증 세트 손실: 2266647.500000\t최선의 손실: 3.698935\t정확도: 63.17%\n", + "27\t검증 세트 손실: 84642.648438\t최선의 손실: 3.698935\t정확도: 92.89%\n", + "28\t검증 세트 손실: 78329.898438\t최선의 손실: 3.698935\t정확도: 91.32%\n", + "29\t검증 세트 손실: 27212.228516\t최선의 손실: 3.698935\t정확도: 95.78%\n", + "30\t검증 세트 손실: 24594.623047\t최선의 손실: 3.698935\t정확도: 95.39%\n", + "31\t검증 세트 손실: 12971.570312\t최선의 손실: 3.698935\t정확도: 95.74%\n", + "32\t검증 세트 손실: 13205.934570\t최선의 손실: 3.698935\t정확도: 95.90%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 15.3s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.107274\t최선의 손실: 0.107274\t정확도: 96.83%\n", - "1\t검증 세트 손실: 0.069711\t최선의 손실: 0.069711\t정확도: 98.05%\n", - "2\t검증 세트 손실: 0.066326\t최선의 손실: 0.066326\t정확도: 98.08%\n", - "3\t검증 세트 손실: 0.047015\t최선의 손실: 0.047015\t정확도: 98.55%\n", - "4\t검증 세트 손실: 0.055278\t최선의 손실: 0.047015\t정확도: 98.32%\n", - "5\t검증 세트 손실: 0.052022\t최선의 손실: 0.047015\t정확도: 98.48%\n", - "6\t검증 세트 손실: 0.044637\t최선의 손실: 0.044637\t정확도: 98.75%\n", - "7\t검증 세트 손실: 0.043804\t최선의 손실: 0.043804\t정확도: 98.48%\n", - "8\t검증 세트 손실: 0.046090\t최선의 손실: 0.043804\t정확도: 98.87%\n", - "9\t검증 세트 손실: 0.062197\t최선의 손실: 0.043804\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.054584\t최선의 손실: 0.043804\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.064657\t최선의 손실: 0.043804\t정확도: 98.94%\n", - "12\t검증 세트 손실: 0.063401\t최선의 손실: 0.043804\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.070756\t최선의 손실: 0.043804\t정확도: 98.51%\n", - "14\t검증 세트 손실: 0.066664\t최선의 손실: 0.043804\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.054236\t최선의 손실: 0.043804\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.063984\t최선의 손실: 0.043804\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.069500\t최선의 손실: 0.043804\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.065138\t최선의 손실: 0.043804\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.073720\t최선의 손실: 0.043804\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.078482\t최선의 손실: 0.043804\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.062891\t최선의 손실: 0.043804\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.053290\t최선의 손실: 0.043804\t정확도: 98.83%\n", - "23\t검증 세트 손실: 0.069758\t최선의 손실: 0.043804\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.107299\t최선의 손실: 0.043804\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.055343\t최선의 손실: 0.043804\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.078952\t최선의 손실: 0.043804\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.063310\t최선의 손실: 0.043804\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.067477\t최선의 손실: 0.043804\t정확도: 98.91%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 15.5s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.110448\t최선의 손실: 0.110448\t정확도: 96.76%\n", + "1\t검증 세트 손실: 0.064006\t최선의 손실: 0.064006\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.075413\t최선의 손실: 0.064006\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.052474\t최선의 손실: 0.052474\t정확도: 98.79%\n", + "4\t검증 세트 손실: 0.054898\t최선의 손실: 0.052474\t정확도: 98.12%\n", + "5\t검증 세트 손실: 0.068439\t최선의 손실: 0.052474\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.051191\t최선의 손실: 0.051191\t정확도: 98.71%\n", + "7\t검증 세트 손실: 0.056955\t최선의 손실: 0.051191\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.079886\t최선의 손실: 0.051191\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.079622\t최선의 손실: 0.051191\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.054150\t최선의 손실: 0.051191\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.081528\t최선의 손실: 0.051191\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.069033\t최선의 손실: 0.051191\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.077956\t최선의 손실: 0.051191\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.067382\t최선의 손실: 0.051191\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.083310\t최선의 손실: 0.051191\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.096536\t최선의 손실: 0.051191\t정확도: 98.51%\n", + "17\t검증 세트 손실: 0.083137\t최선의 손실: 0.051191\t정확도: 98.51%\n", + "18\t검증 세트 손실: 0.076204\t최선의 손실: 0.051191\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.085411\t최선의 손실: 0.051191\t정확도: 98.36%\n", + "20\t검증 세트 손실: 0.087973\t최선의 손실: 0.051191\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.052676\t최선의 손실: 0.051191\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.078077\t최선의 손실: 0.051191\t정확도: 98.59%\n", + "23\t검증 세트 손실: 0.070373\t최선의 손실: 0.051191\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.089296\t최선의 손실: 0.051191\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.065908\t최선의 손실: 0.051191\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.059231\t최선의 손실: 0.051191\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.081584\t최선의 손실: 0.051191\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120, total= 2.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.123813\t최선의 손실: 0.123813\t정확도: 95.93%\n", - "1\t검증 세트 손실: 0.080252\t최선의 손실: 0.080252\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.066413\t최선의 손실: 0.066413\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.064630\t최선의 손실: 0.064630\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.069865\t최선의 손실: 0.064630\t정확도: 98.16%\n", - "5\t검증 세트 손실: 0.056303\t최선의 손실: 0.056303\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.045329\t최선의 손실: 0.045329\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.052976\t최선의 손실: 0.045329\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.056145\t최선의 손실: 0.045329\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.069189\t최선의 손실: 0.045329\t정확도: 98.32%\n", - "10\t검증 세트 손실: 0.062726\t최선의 손실: 0.045329\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.072085\t최선의 손실: 0.045329\t정확도: 97.77%\n", - "12\t검증 세트 손실: 0.050544\t최선의 손실: 0.045329\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.060281\t최선의 손실: 0.045329\t정확도: 98.44%\n", - "14\t검증 세트 손실: 0.065029\t최선의 손실: 0.045329\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.073835\t최선의 손실: 0.045329\t정확도: 98.83%\n", - "16\t검증 세트 손실: 0.053914\t최선의 손실: 0.045329\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.053996\t최선의 손실: 0.045329\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.083269\t최선의 손실: 0.045329\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.051260\t최선의 손실: 0.045329\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.060272\t최선의 손실: 0.045329\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.066821\t최선의 손실: 0.045329\t정확도: 98.71%\n", - "22\t검증 세트 손실: 0.060669\t최선의 손실: 0.045329\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.071502\t최선의 손실: 0.045329\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.065432\t최선의 손실: 0.045329\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.075932\t최선의 손실: 0.045329\t정확도: 98.59%\n", - "26\t검증 세트 손실: 0.060810\t최선의 손실: 0.045329\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.060271\t최선의 손실: 0.045329\t정확도: 98.59%\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.4s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.105635\t최선의 손실: 0.105635\t정확도: 96.76%\n", + "1\t검증 세트 손실: 0.071483\t최선의 손실: 0.071483\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.059794\t최선의 손실: 0.059794\t정확도: 98.40%\n", + "3\t검증 세트 손실: 0.056880\t최선의 손실: 0.056880\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.060715\t최선의 손실: 0.056880\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.056092\t최선의 손실: 0.056092\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.050286\t최선의 손실: 0.050286\t정확도: 98.91%\n", + "7\t검증 세트 손실: 0.067985\t최선의 손실: 0.050286\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.044405\t최선의 손실: 0.044405\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.060729\t최선의 손실: 0.044405\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.051735\t최선의 손실: 0.044405\t정확도: 98.91%\n", + "11\t검증 세트 손실: 0.049951\t최선의 손실: 0.044405\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.048424\t최선의 손실: 0.044405\t정확도: 98.91%\n", + "13\t검증 세트 손실: 0.048226\t최선의 손실: 0.044405\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.057753\t최선의 손실: 0.044405\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.041235\t최선의 손실: 0.041235\t정확도: 99.26%\n", + "16\t검증 세트 손실: 0.114688\t최선의 손실: 0.041235\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.041694\t최선의 손실: 0.041235\t정확도: 98.98%\n", + "18\t검증 세트 손실: 0.063068\t최선의 손실: 0.041235\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.052767\t최선의 손실: 0.041235\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.070981\t최선의 손실: 0.041235\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.062386\t최선의 손실: 0.041235\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.053117\t최선의 손실: 0.041235\t정확도: 98.63%\n", + "23\t검증 세트 손실: 0.104740\t최선의 손실: 0.041235\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.103634\t최선의 손실: 0.041235\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.078479\t최선의 손실: 0.041235\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.084691\t최선의 손실: 0.041235\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.074760\t최선의 손실: 0.041235\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.066195\t최선의 손실: 0.041235\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.086488\t최선의 손실: 0.041235\t정확도: 98.63%\n", + "30\t검증 세트 손실: 0.087667\t최선의 손실: 0.041235\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.087871\t최선의 손실: 0.041235\t정확도: 98.67%\n", + "32\t검증 세트 손실: 0.082059\t최선의 손실: 0.041235\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.074876\t최선의 손실: 0.041235\t정확도: 98.83%\n", + "34\t검증 세트 손실: 0.071708\t최선의 손실: 0.041235\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.089013\t최선의 손실: 0.041235\t정확도: 98.08%\n", + "36\t검증 세트 손실: 0.088527\t최선의 손실: 0.041235\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120, total= 2.7s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.106828\t최선의 손실: 0.106828\t정확도: 97.03%\n", - "1\t검증 세트 손실: 0.072934\t최선의 손실: 0.072934\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.057485\t최선의 손실: 0.057485\t정확도: 98.05%\n", - "3\t검증 세트 손실: 0.053167\t최선의 손실: 0.053167\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.049069\t최선의 손실: 0.049069\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.054874\t최선의 손실: 0.049069\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.057360\t최선의 손실: 0.049069\t정확도: 98.63%\n", - "7\t검증 세트 손실: 0.062357\t최선의 손실: 0.049069\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.061323\t최선의 손실: 0.049069\t정확도: 98.48%\n", - "9\t검증 세트 손실: 0.053943\t최선의 손실: 0.049069\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.044623\t최선의 손실: 0.044623\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.053998\t최선의 손실: 0.044623\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.060959\t최선의 손실: 0.044623\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.061352\t최선의 손실: 0.044623\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.062252\t최선의 손실: 0.044623\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.056174\t최선의 손실: 0.044623\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.052866\t최선의 손실: 0.044623\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.049789\t최선의 손실: 0.044623\t정확도: 99.02%\n", - "18\t검증 세트 손실: 0.080001\t최선의 손실: 0.044623\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.052114\t최선의 손실: 0.044623\t정확도: 99.02%\n", - "20\t검증 세트 손실: 0.072481\t최선의 손실: 0.044623\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.076079\t최선의 손실: 0.044623\t정확도: 98.67%\n", - "22\t검증 세트 손실: 0.057769\t최선의 손실: 0.044623\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.079892\t최선의 손실: 0.044623\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.077849\t최선의 손실: 0.044623\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.071438\t최선의 손실: 0.044623\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.070310\t최선의 손실: 0.044623\t정확도: 98.36%\n", - "27\t검증 세트 손실: 0.083621\t최선의 손실: 0.044623\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.073572\t최선의 손실: 0.044623\t정확도: 98.71%\n", - "29\t검증 세트 손실: 0.077124\t최선의 손실: 0.044623\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.057518\t최선의 손실: 0.044623\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.083708\t최선의 손실: 0.044623\t정확도: 98.79%\n", - "조기 종료!\n" + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 3.0s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.121900\t최선의 손실: 0.121900\t정확도: 96.05%\n", + "1\t검증 세트 손실: 0.071145\t최선의 손실: 0.071145\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.058681\t최선의 손실: 0.058681\t정확도: 98.12%\n", + "3\t검증 세트 손실: 0.068078\t최선의 손실: 0.058681\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.054315\t최선의 손실: 0.054315\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.048792\t최선의 손실: 0.048792\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.052907\t최선의 손실: 0.048792\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.053556\t최선의 손실: 0.048792\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.053556\t최선의 손실: 0.048792\t정확도: 98.44%\n", + "9\t검증 세트 손실: 0.048274\t최선의 손실: 0.048274\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.043251\t최선의 손실: 0.043251\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.064876\t최선의 손실: 0.043251\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.072297\t최선의 손실: 0.043251\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.055987\t최선의 손실: 0.043251\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.061894\t최선의 손실: 0.043251\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.058672\t최선의 손실: 0.043251\t정확도: 98.51%\n", + "16\t검증 세트 손실: 0.103805\t최선의 손실: 0.043251\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.059497\t최선의 손실: 0.043251\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.076005\t최선의 손실: 0.043251\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.074654\t최선의 손실: 0.043251\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.069274\t최선의 손실: 0.043251\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.051730\t최선의 손실: 0.043251\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.056219\t최선의 손실: 0.043251\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.061472\t최선의 손실: 0.043251\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.051870\t최선의 손실: 0.043251\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.066380\t최선의 손실: 0.043251\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.065971\t최선의 손실: 0.043251\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.071776\t최선의 손실: 0.043251\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.062015\t최선의 손실: 0.043251\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.898324\t최선의 손실: 0.043251\t정확도: 70.91%\n", + "30\t검증 세트 손실: 0.152535\t최선의 손실: 0.043251\t정확도: 97.50%\n", + "31\t검증 세트 손실: 0.081333\t최선의 손실: 0.043251\t정확도: 98.16%\n", + "조기 종료!\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.7s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=120, total= 3.0s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.104860\t최선의 손실: 0.104860\t정확도: 96.83%\n", - "1\t검증 세트 손실: 0.063637\t최선의 손실: 0.063637\t정확도: 98.01%\n", - "2\t검증 세트 손실: 0.056582\t최선의 손실: 0.056582\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.075052\t최선의 손실: 0.056582\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.057609\t최선의 손실: 0.056582\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.045507\t최선의 손실: 0.045507\t정확도: 98.48%\n", - "6\t검증 세트 손실: 0.049195\t최선의 손실: 0.045507\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.069034\t최선의 손실: 0.045507\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.049007\t최선의 손실: 0.045507\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.052319\t최선의 손실: 0.045507\t정확도: 98.36%\n", - "10\t검증 세트 손실: 0.043772\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.045685\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "12\t검증 세트 손실: 0.056483\t최선의 손실: 0.043772\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.044548\t최선의 손실: 0.043772\t정확도: 99.02%\n", - "14\t검증 세트 손실: 0.068830\t최선의 손실: 0.043772\t정확도: 98.51%\n", - "15\t검증 세트 손실: 0.058750\t최선의 손실: 0.043772\t정확도: 98.75%\n", - "16\t검증 세트 손실: 0.046024\t최선의 손실: 0.043772\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.052285\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.049637\t최선의 손실: 0.043772\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.049103\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.049867\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.061481\t최선의 손실: 0.043772\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.080012\t최선의 손실: 0.043772\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.044825\t최선의 손실: 0.043772\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.053555\t최선의 손실: 0.043772\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.064046\t최선의 손실: 0.043772\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.060272\t최선의 손실: 0.043772\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.057582\t최선의 손실: 0.043772\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.069431\t최선의 손실: 0.043772\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.064404\t최선의 손실: 0.043772\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.054434\t최선의 손실: 0.043772\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.047485\t최선의 손실: 0.043772\t정확도: 99.06%\n", + "0\t검증 세트 손실: 0.105183\t최선의 손실: 0.105183\t정확도: 96.68%\n", + "1\t검증 세트 손실: 0.062150\t최선의 손실: 0.062150\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.055508\t최선의 손실: 0.055508\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.076759\t최선의 손실: 0.055508\t정확도: 98.12%\n", + "4\t검증 세트 손실: 0.050423\t최선의 손실: 0.050423\t정확도: 98.32%\n", + "5\t검증 세트 손실: 0.079935\t최선의 손실: 0.050423\t정확도: 98.24%\n", + "6\t검증 세트 손실: 0.077785\t최선의 손실: 0.050423\t정확도: 97.85%\n", + "7\t검증 세트 손실: 0.064588\t최선의 손실: 0.050423\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.077657\t최선의 손실: 0.050423\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.070755\t최선의 손실: 0.050423\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.043284\t최선의 손실: 0.043284\t정확도: 99.06%\n", + "11\t검증 세트 손실: 0.064598\t최선의 손실: 0.043284\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.068901\t최선의 손실: 0.043284\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.059892\t최선의 손실: 0.043284\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.056418\t최선의 손실: 0.043284\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.068464\t최선의 손실: 0.043284\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.076347\t최선의 손실: 0.043284\t정확도: 98.51%\n", + "17\t검증 세트 손실: 0.102947\t최선의 손실: 0.043284\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.072885\t최선의 손실: 0.043284\t정확도: 98.79%\n", + "19\t검증 세트 손실: 0.098539\t최선의 손실: 0.043284\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.086315\t최선의 손실: 0.043284\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.083578\t최선의 손실: 0.043284\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.083792\t최선의 손실: 0.043284\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.091637\t최선의 손실: 0.043284\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.069790\t최선의 손실: 0.043284\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.079677\t최선의 손실: 0.043284\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.093808\t최선의 손실: 0.043284\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.074574\t최선의 손실: 0.043284\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.058815\t최선의 손실: 0.043284\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.087305\t최선의 손실: 0.043284\t정확도: 98.87%\n", + "30\t검증 세트 손실: 0.073995\t최선의 손실: 0.043284\t정확도: 98.63%\n", + "31\t검증 세트 손실: 0.069907\t최선의 손실: 0.043284\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90, total= 3.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.098019\t최선의 손실: 0.098019\t정확도: 96.52%\n", - "1\t검증 세트 손실: 0.064768\t최선의 손실: 0.064768\t정확도: 98.05%\n", - "2\t검증 세트 손실: 0.073431\t최선의 손실: 0.064768\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.061744\t최선의 손실: 0.061744\t정확도: 98.40%\n", - "4\t검증 세트 손실: 0.073912\t최선의 손실: 0.061744\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.061302\t최선의 손실: 0.061302\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.056094\t최선의 손실: 0.056094\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.053869\t최선의 손실: 0.053869\t정확도: 98.63%\n", - "8\t검증 세트 손실: 0.088458\t최선의 손실: 0.053869\t정확도: 98.28%\n", - "9\t검증 세트 손실: 0.061973\t최선의 손실: 0.053869\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.075527\t최선의 손실: 0.053869\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.070365\t최선의 손실: 0.053869\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.070385\t최선의 손실: 0.053869\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.070137\t최선의 손실: 0.053869\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.081736\t최선의 손실: 0.053869\t정확도: 98.16%\n", - "15\t검증 세트 손실: 0.070439\t최선의 손실: 0.053869\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.055508\t최선의 손실: 0.053869\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.055728\t최선의 손실: 0.053869\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.088348\t최선의 손실: 0.053869\t정확도: 98.44%\n", - "19\t검증 세트 손실: 0.104571\t최선의 손실: 0.053869\t정확도: 97.97%\n", - "20\t검증 세트 손실: 0.069832\t최선의 손실: 0.053869\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.066238\t최선의 손실: 0.053869\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.077768\t최선의 손실: 0.053869\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.076351\t최선의 손실: 0.053869\t정확도: 98.59%\n", - "24\t검증 세트 손실: 0.066137\t최선의 손실: 0.053869\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.095149\t최선의 손실: 0.053869\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.102762\t최선의 손실: 0.053869\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.060888\t최선의 손실: 0.053869\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.065960\t최선의 손실: 0.053869\t정확도: 98.83%\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.7s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.096781\t최선의 손실: 0.096781\t정확도: 97.19%\n", + "1\t검증 세트 손실: 0.063275\t최선의 손실: 0.063275\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.049017\t최선의 손실: 0.049017\t정확도: 98.48%\n", + "3\t검증 세트 손실: 0.061780\t최선의 손실: 0.049017\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.049951\t최선의 손실: 0.049017\t정확도: 98.67%\n", + "5\t검증 세트 손실: 0.043319\t최선의 손실: 0.043319\t정확도: 98.98%\n", + "6\t검증 세트 손실: 0.040633\t최선의 손실: 0.040633\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.041758\t최선의 손실: 0.040633\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.044111\t최선의 손실: 0.040633\t정확도: 98.83%\n", + "9\t검증 세트 손실: 0.058495\t최선의 손실: 0.040633\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.037890\t최선의 손실: 0.037890\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.052183\t최선의 손실: 0.037890\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.040357\t최선의 손실: 0.037890\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.063270\t최선의 손실: 0.037890\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.056433\t최선의 손실: 0.037890\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.065065\t최선의 손실: 0.037890\t정확도: 98.91%\n", + "16\t검증 세트 손실: 0.054885\t최선의 손실: 0.037890\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.048936\t최선의 손실: 0.037890\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.064123\t최선의 손실: 0.037890\t정확도: 98.71%\n", + "19\t검증 세트 손실: 0.042875\t최선의 손실: 0.037890\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.044415\t최선의 손실: 0.037890\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.057240\t최선의 손실: 0.037890\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.056543\t최선의 손실: 0.037890\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.058032\t최선의 손실: 0.037890\t정확도: 98.48%\n", + "24\t검증 세트 손실: 0.060646\t최선의 손실: 0.037890\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.048717\t최선의 손실: 0.037890\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.062105\t최선의 손실: 0.037890\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.070763\t최선의 손실: 0.037890\t정확도: 98.59%\n", + "28\t검증 세트 손실: 0.083534\t최선의 손실: 0.037890\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.088074\t최선의 손실: 0.037890\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.054456\t최선의 손실: 0.037890\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.073401\t최선의 손실: 0.037890\t정확도: 98.67%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90, total= 3.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.081412\t최선의 손실: 0.081412\t정확도: 97.54%\n", - "1\t검증 세트 손실: 0.070878\t최선의 손실: 0.070878\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.066145\t최선의 손실: 0.066145\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.060662\t최선의 손실: 0.060662\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.045459\t최선의 손실: 0.045459\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.047400\t최선의 손실: 0.045459\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.057726\t최선의 손실: 0.045459\t정확도: 98.32%\n", - "7\t검증 세트 손실: 0.060481\t최선의 손실: 0.045459\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.080229\t최선의 손실: 0.045459\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.046444\t최선의 손실: 0.045459\t정확도: 98.87%\n", - "10\t검증 세트 손실: 0.068748\t최선의 손실: 0.045459\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.054034\t최선의 손실: 0.045459\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.053028\t최선의 손실: 0.045459\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.064798\t최선의 손실: 0.045459\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.060597\t최선의 손실: 0.045459\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.067788\t최선의 손실: 0.045459\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.059558\t최선의 손실: 0.045459\t정확도: 98.63%\n", - "17\t검증 세트 손실: 0.054059\t최선의 손실: 0.045459\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.056300\t최선의 손실: 0.045459\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.066750\t최선의 손실: 0.045459\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.066124\t최선의 손실: 0.045459\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.085799\t최선의 손실: 0.045459\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.059779\t최선의 손실: 0.045459\t정확도: 98.75%\n", - "23\t검증 세트 손실: 0.062951\t최선의 손실: 0.045459\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.070578\t최선의 손실: 0.045459\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.071260\t최선의 손실: 0.045459\t정확도: 98.75%\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.6s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.082425\t최선의 손실: 0.082425\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.064244\t최선의 손실: 0.064244\t정확도: 98.24%\n", + "2\t검증 세트 손실: 0.059929\t최선의 손실: 0.059929\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.046879\t최선의 손실: 0.046879\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.039042\t최선의 손실: 0.039042\t정확도: 98.98%\n", + "5\t검증 세트 손실: 0.047576\t최선의 손실: 0.039042\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.055403\t최선의 손실: 0.039042\t정확도: 98.67%\n", + "7\t검증 세트 손실: 0.051158\t최선의 손실: 0.039042\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.057707\t최선의 손실: 0.039042\t정확도: 98.48%\n", + "9\t검증 세트 손실: 0.056710\t최선의 손실: 0.039042\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.048422\t최선의 손실: 0.039042\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.062223\t최선의 손실: 0.039042\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.044561\t최선의 손실: 0.039042\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.047557\t최선의 손실: 0.039042\t정확도: 98.98%\n", + "14\t검증 세트 손실: 0.062325\t최선의 손실: 0.039042\t정확도: 98.94%\n", + "15\t검증 세트 손실: 0.056142\t최선의 손실: 0.039042\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.055000\t최선의 손실: 0.039042\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.044082\t최선의 손실: 0.039042\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.045936\t최선의 손실: 0.039042\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.070086\t최선의 손실: 0.039042\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.050047\t최선의 손실: 0.039042\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.047290\t최선의 손실: 0.039042\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.071232\t최선의 손실: 0.039042\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.074086\t최선의 손실: 0.039042\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.045525\t최선의 손실: 0.039042\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.076226\t최선의 손실: 0.039042\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.01, n_neurons=90, total= 2.6s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140 \n", - "0\t검증 세트 손실: 0.140914\t최선의 손실: 0.140914\t정확도: 95.39%\n", - "1\t검증 세트 손실: 0.082843\t최선의 손실: 0.082843\t정확도: 97.62%\n", - "2\t검증 세트 손실: 0.086208\t최선의 손실: 0.082843\t정확도: 97.38%\n", - "3\t검증 세트 손실: 0.073511\t최선의 손실: 0.073511\t정확도: 97.54%\n", - "4\t검증 세트 손실: 0.062359\t최선의 손실: 0.062359\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.055234\t최선의 손실: 0.055234\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.058129\t최선의 손실: 0.055234\t정확도: 98.28%\n", - "7\t검증 세트 손실: 0.058522\t최선의 손실: 0.055234\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.072050\t최선의 손실: 0.055234\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.060180\t최선의 손실: 0.055234\t정확도: 98.32%\n", - "10\t검증 세트 손실: 0.060058\t최선의 손실: 0.055234\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.059316\t최선의 손실: 0.055234\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.067020\t최선의 손실: 0.055234\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.089801\t최선의 손실: 0.055234\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.057018\t최선의 손실: 0.055234\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.075723\t최선의 손실: 0.055234\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.055992\t최선의 손실: 0.055234\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.063138\t최선의 손실: 0.055234\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.083351\t최선의 손실: 0.055234\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.097937\t최선의 손실: 0.055234\t정확도: 98.28%\n", - "20\t검증 세트 손실: 0.088433\t최선의 손실: 0.055234\t정확도: 97.30%\n", - "21\t검증 세트 손실: 0.058375\t최선의 손실: 0.055234\t정확도: 98.59%\n", - "22\t검증 세트 손실: 0.054606\t최선의 손실: 0.054606\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.055023\t최선의 손실: 0.054606\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.065253\t최선의 손실: 0.054606\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.054023\t최선의 손실: 0.054023\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.053618\t최선의 손실: 0.053618\t정확도: 98.91%\n", - "27\t검증 세트 손실: 0.057054\t최선의 손실: 0.053618\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.057692\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.057957\t최선의 손실: 0.053618\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.059506\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.060461\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.061301\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.062103\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "34\t검증 세트 손실: 0.062749\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.063474\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "36\t검증 세트 손실: 0.064156\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "37\t검증 세트 손실: 0.064709\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "38\t검증 세트 손실: 0.065248\t최선의 손실: 0.053618\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.065800\t최선의 손실: 0.053618\t정확도: 98.94%\n", - "40\t검증 세트 손실: 0.066506\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "41\t검증 세트 손실: 0.066900\t최선의 손실: 0.053618\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.067465\t최선의 손실: 0.053618\t정확도: 99.02%\n", - "43\t검증 세트 손실: 0.067890\t최선의 손실: 0.053618\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.068309\t최선의 손실: 0.053618\t정확도: 98.94%\n", - "45\t검증 세트 손실: 0.068612\t최선의 손실: 0.053618\t정확도: 98.94%\n", - "46\t검증 세트 손실: 0.069083\t최선의 손실: 0.053618\t정확도: 98.98%\n", - "47\t검증 세트 손실: 0.069538\t최선의 손실: 0.053618\t정확도: 98.94%\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.2s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.125782\t최선의 손실: 0.125782\t정확도: 95.90%\n", + "1\t검증 세트 손실: 0.085376\t최선의 손실: 0.085376\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.083946\t최선의 손실: 0.083946\t정확도: 97.46%\n", + "3\t검증 세트 손실: 0.063492\t최선의 손실: 0.063492\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.067948\t최선의 손실: 0.063492\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.056756\t최선의 손실: 0.056756\t정확도: 98.63%\n", + "6\t검증 세트 손실: 0.059949\t최선의 손실: 0.056756\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.046520\t최선의 손실: 0.046520\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.054877\t최선의 손실: 0.046520\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.044607\t최선의 손실: 0.044607\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.054964\t최선의 손실: 0.044607\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.049587\t최선의 손실: 0.044607\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.069633\t최선의 손실: 0.044607\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.044870\t최선의 손실: 0.044607\t정확도: 98.98%\n", + "14\t검증 세트 손실: 0.048418\t최선의 손실: 0.044607\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.048277\t최선의 손실: 0.044607\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.062626\t최선의 손실: 0.044607\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.073951\t최선의 손실: 0.044607\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.042560\t최선의 손실: 0.042560\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.041968\t최선의 손실: 0.041968\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.057507\t최선의 손실: 0.041968\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.062963\t최선의 손실: 0.041968\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.046599\t최선의 손실: 0.041968\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.051728\t최선의 손실: 0.041968\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.082750\t최선의 손실: 0.041968\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.074999\t최선의 손실: 0.041968\t정확도: 98.55%\n", + "26\t검증 세트 손실: 0.045490\t최선의 손실: 0.041968\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.077803\t최선의 손실: 0.041968\t정확도: 98.44%\n", + "28\t검증 세트 손실: 0.063174\t최선의 손실: 0.041968\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.083494\t최선의 손실: 0.041968\t정확도: 98.24%\n", + "30\t검증 세트 손실: 0.063519\t최선의 손실: 0.041968\t정확도: 98.87%\n", + "31\t검증 세트 손실: 0.058138\t최선의 손실: 0.041968\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.058818\t최선의 손실: 0.041968\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.057307\t최선의 손실: 0.041968\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.078428\t최선의 손실: 0.041968\t정확도: 98.12%\n", + "35\t검증 세트 손실: 0.057747\t최선의 손실: 0.041968\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.083739\t최선의 손실: 0.041968\t정확도: 98.28%\n", + "37\t검증 세트 손실: 0.044872\t최선의 손실: 0.041968\t정확도: 98.94%\n", + "38\t검증 세트 손실: 0.057018\t최선의 손실: 0.041968\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.069394\t최선의 손실: 0.041968\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.059569\t최선의 손실: 0.041968\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140, total= 4.1s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140 \n" + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=, total= 2.9s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.133312\t최선의 손실: 0.133312\t정확도: 95.70%\n", + "1\t검증 세트 손실: 0.081172\t최선의 손실: 0.081172\t정확도: 97.46%\n", + "2\t검증 세트 손실: 0.067674\t최선의 손실: 0.067674\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.058299\t최선의 손실: 0.058299\t정확도: 98.28%\n", + "4\t검증 세트 손실: 0.065549\t최선의 손실: 0.058299\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.056145\t최선의 손실: 0.056145\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.057568\t최선의 손실: 0.056145\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.051622\t최선의 손실: 0.051622\t정확도: 98.71%\n", + "8\t검증 세트 손실: 0.043158\t최선의 손실: 0.043158\t정확도: 98.67%\n", + "9\t검증 세트 손실: 0.062297\t최선의 손실: 0.043158\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.051894\t최선의 손실: 0.043158\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.060582\t최선의 손실: 0.043158\t정확도: 98.67%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.127971\t최선의 손실: 0.127971\t정확도: 95.93%\n", - "1\t검증 세트 손실: 0.076743\t최선의 손실: 0.076743\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.059686\t최선의 손실: 0.059686\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.055500\t최선의 손실: 0.055500\t정확도: 98.40%\n", - "4\t검증 세트 손실: 0.049846\t최선의 손실: 0.049846\t정확도: 98.36%\n", - "5\t검증 세트 손실: 0.050812\t최선의 손실: 0.049846\t정확도: 98.44%\n", - "6\t검증 세트 손실: 0.036367\t최선의 손실: 0.036367\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.040803\t최선의 손실: 0.036367\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.055379\t최선의 손실: 0.036367\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.053489\t최선의 손실: 0.036367\t정확도: 98.48%\n", - "10\t검증 세트 손실: 0.054987\t최선의 손실: 0.036367\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.060149\t최선의 손실: 0.036367\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.047267\t최선의 손실: 0.036367\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.053801\t최선의 손실: 0.036367\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.049535\t최선의 손실: 0.036367\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.043959\t최선의 손실: 0.036367\t정확도: 99.10%\n", - "16\t검증 세트 손실: 0.059245\t최선의 손실: 0.036367\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.053413\t최선의 손실: 0.036367\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.072318\t최선의 손실: 0.036367\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.055238\t최선의 손실: 0.036367\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.057511\t최선의 손실: 0.036367\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.066092\t최선의 손실: 0.036367\t정확도: 98.55%\n", - "22\t검증 세트 손실: 0.057374\t최선의 손실: 0.036367\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.063126\t최선의 손실: 0.036367\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.044008\t최선의 손실: 0.036367\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.064212\t최선의 손실: 0.036367\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.051263\t최선의 손실: 0.036367\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.057779\t최선의 손실: 0.036367\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.044773\t최선의 손실: 0.043158\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.047999\t최선의 손실: 0.043158\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.053666\t최선의 손실: 0.043158\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.046754\t최선의 손실: 0.043158\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.056650\t최선의 손실: 0.043158\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.055145\t최선의 손실: 0.043158\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.056673\t최선의 손실: 0.043158\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.047466\t최선의 손실: 0.043158\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.061681\t최선의 손실: 0.043158\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.066502\t최선의 손실: 0.043158\t정확도: 98.67%\n", + "22\t검증 세트 손실: 0.059887\t최선의 손실: 0.043158\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.063679\t최선의 손실: 0.043158\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.076010\t최선의 손실: 0.043158\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.057502\t최선의 손실: 0.043158\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.065321\t최선의 손실: 0.043158\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.054085\t최선의 손실: 0.043158\t정확도: 98.75%\n", + "28\t검증 세트 손실: 0.063909\t최선의 손실: 0.043158\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.072592\t최선의 손실: 0.043158\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140, total= 2.7s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140 \n", - "0\t검증 세트 손실: 0.122151\t최선의 손실: 0.122151\t정확도: 95.93%\n", - "1\t검증 세트 손실: 0.085570\t최선의 손실: 0.085570\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.070517\t최선의 손실: 0.070517\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.049195\t최선의 손실: 0.049195\t정확도: 98.48%\n", - "4\t검증 세트 손실: 0.051055\t최선의 손실: 0.049195\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.045652\t최선의 손실: 0.045652\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.050153\t최선의 손실: 0.045652\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.043203\t최선의 손실: 0.043203\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.060054\t최선의 손실: 0.043203\t정확도: 98.28%\n", - "9\t검증 세트 손실: 0.042490\t최선의 손실: 0.042490\t정확도: 98.94%\n", - "10\t검증 세트 손실: 0.054238\t최선의 손실: 0.042490\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.049426\t최선의 손실: 0.042490\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.047042\t최선의 손실: 0.042490\t정확도: 98.98%\n", - "13\t검증 세트 손실: 0.045060\t최선의 손실: 0.042490\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.070199\t최선의 손실: 0.042490\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.089735\t최선의 손실: 0.042490\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.047618\t최선의 손실: 0.042490\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.048529\t최선의 손실: 0.042490\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.058544\t최선의 손실: 0.042490\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.053611\t최선의 손실: 0.042490\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.040155\t최선의 손실: 0.040155\t정확도: 99.10%\n", - "21\t검증 세트 손실: 0.056456\t최선의 손실: 0.040155\t정확도: 98.67%\n", - "22\t검증 세트 손실: 0.043374\t최선의 손실: 0.040155\t정확도: 99.02%\n", - "23\t검증 세트 손실: 0.040023\t최선의 손실: 0.040023\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.062493\t최선의 손실: 0.040023\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.057333\t최선의 손실: 0.040023\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.069200\t최선의 손실: 0.040023\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.076313\t최선의 손실: 0.040023\t정확도: 98.83%\n", - "28\t검증 세트 손실: 0.049476\t최선의 손실: 0.040023\t정확도: 98.83%\n", - "29\t검증 세트 손실: 0.056255\t최선의 손실: 0.040023\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.046781\t최선의 손실: 0.040023\t정확도: 99.14%\n", - "31\t검증 세트 손실: 0.045267\t최선의 손실: 0.040023\t정확도: 99.14%\n", - "32\t검증 세트 손실: 0.043644\t최선의 손실: 0.040023\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.053942\t최선의 손실: 0.040023\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.062772\t최선의 손실: 0.040023\t정확도: 98.67%\n", - "35\t검증 세트 손실: 0.058241\t최선의 손실: 0.040023\t정확도: 99.10%\n", - "36\t검증 세트 손실: 0.078497\t최선의 손실: 0.040023\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.037670\t최선의 손실: 0.037670\t정확도: 99.06%\n", - "38\t검증 세트 손실: 0.057495\t최선의 손실: 0.037670\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.069040\t최선의 손실: 0.037670\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.060888\t최선의 손실: 0.037670\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.051018\t최선의 손실: 0.037670\t정확도: 98.79%\n", - "42\t검증 세트 손실: 0.050367\t최선의 손실: 0.037670\t정확도: 99.14%\n", - "43\t검증 세트 손실: 0.058271\t최선의 손실: 0.037670\t정확도: 99.02%\n", - "44\t검증 세트 손실: 0.059966\t최선의 손실: 0.037670\t정확도: 99.14%\n", - "45\t검증 세트 손실: 0.064093\t최선의 손실: 0.037670\t정확도: 99.22%\n", - "46\t검증 세트 손실: 0.080976\t최선의 손실: 0.037670\t정확도: 98.55%\n", - "47\t검증 세트 손실: 0.068146\t최선의 손실: 0.037670\t정확도: 98.71%\n", - "48\t검증 세트 손실: 0.065466\t최선의 손실: 0.037670\t정확도: 98.91%\n", - "49\t검증 세트 손실: 0.058348\t최선의 손실: 0.037670\t정확도: 98.91%\n", - "50\t검증 세트 손실: 0.073661\t최선의 손실: 0.037670\t정확도: 98.94%\n", - "51\t검증 세트 손실: 0.047907\t최선의 손실: 0.037670\t정확도: 99.26%\n", - "52\t검증 세트 손실: 0.065923\t최선의 손실: 0.037670\t정확도: 99.02%\n", - "53\t검증 세트 손실: 0.062081\t최선의 손실: 0.037670\t정확도: 98.59%\n", - "54\t검증 세트 손실: 0.048828\t최선의 손실: 0.037670\t정확도: 98.98%\n", - "55\t검증 세트 손실: 0.046497\t최선의 손실: 0.037670\t정확도: 99.02%\n", - "56\t검증 세트 손실: 0.049490\t최선의 손실: 0.037670\t정확도: 99.06%\n", - "57\t검증 세트 손실: 0.067472\t최선의 손실: 0.037670\t정확도: 98.91%\n", - "58\t검증 세트 손실: 0.063062\t최선의 손실: 0.037670\t정확도: 98.55%\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=, total= 2.2s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.127921\t최선의 손실: 0.127921\t정확도: 96.33%\n", + "1\t검증 세트 손실: 0.078285\t최선의 손실: 0.078285\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.063932\t최선의 손실: 0.063932\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.061658\t최선의 손실: 0.061658\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.049285\t최선의 손실: 0.049285\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.047062\t최선의 손실: 0.047062\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.059378\t최선의 손실: 0.047062\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.045427\t최선의 손실: 0.045427\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.046370\t최선의 손실: 0.045427\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.050390\t최선의 손실: 0.045427\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.043046\t최선의 손실: 0.043046\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.049095\t최선의 손실: 0.043046\t정확도: 98.87%\n", + "12\t검증 세트 손실: 0.056683\t최선의 손실: 0.043046\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.051933\t최선의 손실: 0.043046\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.060362\t최선의 손실: 0.043046\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.060374\t최선의 손실: 0.043046\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.064859\t최선의 손실: 0.043046\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.043226\t최선의 손실: 0.043046\t정확도: 98.94%\n", + "18\t검증 세트 손실: 0.063325\t최선의 손실: 0.043046\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.059633\t최선의 손실: 0.043046\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.060358\t최선의 손실: 0.043046\t정확도: 98.55%\n", + "21\t검증 세트 손실: 0.056095\t최선의 손실: 0.043046\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.056790\t최선의 손실: 0.043046\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.066982\t최선의 손실: 0.043046\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.072779\t최선의 손실: 0.043046\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.080328\t최선의 손실: 0.043046\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.050394\t최선의 손실: 0.043046\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.058176\t최선의 손실: 0.043046\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.083492\t최선의 손실: 0.043046\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.063729\t최선의 손실: 0.043046\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.070619\t최선의 손실: 0.043046\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.080266\t최선의 손실: 0.043046\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=140, total= 5.0s\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 1.637586\t최선의 손실: 1.637586\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.621897\t최선의 손실: 1.621897\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.619832\t최선의 손실: 1.619832\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.616522\t최선의 손실: 1.616522\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.654961\t최선의 손실: 1.616522\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.621477\t최선의 손실: 1.616522\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.632695\t최선의 손실: 1.616522\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.614865\t최선의 손실: 1.614865\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.642610\t최선의 손실: 1.614865\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.639825\t최선의 손실: 1.614865\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.615379\t최선의 손실: 1.614865\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.630566\t최선의 손실: 1.614865\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.636741\t최선의 손실: 1.614865\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.613105\t최선의 손실: 1.613105\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.629265\t최선의 손실: 1.613105\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.617145\t최선의 손실: 1.613105\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.626926\t최선의 손실: 1.613105\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.608595\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.624733\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.624033\t최선의 손실: 1.608595\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.615446\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.629647\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.619092\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.621078\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.633986\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.647180\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.614127\t최선의 손실: 1.608595\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.638544\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.656266\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "29\t검증 세트 손실: 1.617746\t최선의 손실: 1.608595\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.641872\t최선의 손실: 1.608595\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.631482\t최선의 손실: 1.608595\t정확도: 18.73%\n", - "32\t검증 세트 손실: 1.641181\t최선의 손실: 1.608595\t정확도: 18.73%\n", - "33\t검증 세트 손실: 1.647447\t최선의 손실: 1.608595\t정확도: 19.08%\n", - "34\t검증 세트 손실: 1.610285\t최선의 손실: 1.608595\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.624696\t최선의 손실: 1.608595\t정확도: 19.08%\n", - "36\t검증 세트 손실: 1.630856\t최선의 손실: 1.608595\t정확도: 18.73%\n", - "37\t검증 세트 손실: 1.632279\t최선의 손실: 1.608595\t정확도: 18.73%\n", - "38\t검증 세트 손실: 1.631023\t최선의 손실: 1.608595\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.637290\t최선의 손실: 1.637290\t정확도: 19.31%\n", + "1\t검증 세트 손실: 1.621570\t최선의 손실: 1.621570\t정확도: 19.31%\n", + "2\t검증 세트 손실: 1.619521\t최선의 손실: 1.619521\t정확도: 19.31%\n", + "3\t검증 세트 손실: 1.616241\t최선의 손실: 1.616241\t정확도: 19.31%\n", + "4\t검증 세트 손실: 1.654658\t최선의 손실: 1.616241\t정확도: 22.05%\n", + "5\t검증 세트 손실: 1.621191\t최선의 손실: 1.616241\t정확도: 22.05%\n", + "6\t검증 세트 손실: 1.632400\t최선의 손실: 1.616241\t정확도: 19.31%\n", + "7\t검증 세트 손실: 1.614563\t최선의 손실: 1.614563\t정확도: 19.31%\n", + "8\t검증 세트 손실: 1.642283\t최선의 손실: 1.614563\t정확도: 19.31%\n", + "9\t검증 세트 손실: 1.639494\t최선의 손실: 1.614563\t정확도: 19.31%\n", + "10\t검증 세트 손실: 1.615069\t최선의 손실: 1.614563\t정확도: 22.05%\n", + "11\t검증 세트 손실: 1.630247\t최선의 손실: 1.614563\t정확도: 22.05%\n", + "12\t검증 세트 손실: 1.636422\t최선의 손실: 1.614563\t정확도: 19.12%\n", + "13\t검증 세트 손실: 1.612811\t최선의 손실: 1.612811\t정확도: 19.31%\n", + "14\t검증 세트 손실: 1.628910\t최선의 손실: 1.612811\t정확도: 19.12%\n", + "15\t검증 세트 손실: 1.616826\t최선의 손실: 1.612811\t정확도: 22.05%\n", + "16\t검증 세트 손실: 1.626640\t최선의 손실: 1.612811\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.608286\t최선의 손실: 1.608286\t정확도: 22.05%\n", + "18\t검증 세트 손실: 1.624448\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "19\t검증 세트 손실: 1.623748\t최선의 손실: 1.608286\t정확도: 20.95%\n", + "20\t검증 세트 손실: 1.615121\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "21\t검증 세트 손실: 1.629334\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "22\t검증 세트 손실: 1.618770\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "23\t검증 세트 손실: 1.620753\t최선의 손실: 1.608286\t정확도: 22.05%\n", + "24\t검증 세트 손실: 1.633707\t최선의 손실: 1.608286\t정확도: 22.05%\n", + "25\t검증 세트 손실: 1.646807\t최선의 손실: 1.608286\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.613815\t최선의 손실: 1.608286\t정확도: 19.12%\n", + "27\t검증 세트 손실: 1.638237\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "28\t검증 세트 손실: 1.655872\t최선의 손실: 1.608286\t정확도: 22.05%\n", + "29\t검증 세트 손실: 1.617476\t최선의 손실: 1.608286\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.641590\t최선의 손실: 1.608286\t정확도: 19.31%\n", + "31\t검증 세트 손실: 1.631203\t최선의 손실: 1.608286\t정확도: 18.73%\n", + "32\t검증 세트 손실: 1.640919\t최선의 손실: 1.608286\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.647128\t최선의 손실: 1.608286\t정확도: 19.12%\n", + "34\t검증 세트 손실: 1.609976\t최선의 손실: 1.608286\t정확도: 22.05%\n", + "35\t검증 세트 손실: 1.624351\t최선의 손실: 1.608286\t정확도: 19.12%\n", + "36\t검증 세트 손실: 1.630583\t최선의 손실: 1.608286\t정확도: 18.73%\n", + "37\t검증 세트 손실: 1.632025\t최선의 손실: 1.608286\t정확도: 18.73%\n", + "38\t검증 세트 손실: 1.630727\t최선의 손실: 1.608286\t정확도: 22.05%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50, total= 1.0min\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 1.631925\t최선의 손실: 1.631925\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.644837\t최선의 손실: 1.631925\t정확도: 19.08%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation=, total= 1.0min\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.631878\t최선의 손실: 1.631878\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.644812\t최선의 손실: 1.631878\t정확도: 19.08%\n", "2\t검증 세트 손실: 1.611660\t최선의 손실: 1.611660\t정확도: 22.01%\n", "3\t검증 세트 손실: 1.614181\t최선의 손실: 1.611660\t정확도: 22.01%\n", "4\t검증 세트 손실: 1.617812\t최선의 손실: 1.611660\t정확도: 22.01%\n", @@ -1529,13 +1499,7 @@ "19\t검증 세트 손실: 1.611823\t최선의 손실: 1.609592\t정확도: 22.01%\n", "20\t검증 세트 손실: 1.612159\t최선의 손실: 1.609592\t정확도: 20.91%\n", "21\t검증 세트 손실: 1.657980\t최선의 손실: 1.609592\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.643385\t최선의 손실: 1.609592\t정확도: 19.27%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ + "22\t검증 세트 손실: 1.643385\t최선의 손실: 1.609592\t정확도: 19.27%\n", "23\t검증 세트 손실: 1.647554\t최선의 손실: 1.609592\t정확도: 22.01%\n", "24\t검증 세트 손실: 1.652203\t최선의 손실: 1.609592\t정확도: 18.73%\n", "25\t검증 세트 손실: 1.610976\t최선의 손실: 1.609592\t정확도: 20.91%\n", @@ -1561,38 +1525,44 @@ "45\t검증 세트 손실: 1.629384\t최선의 손실: 1.607884\t정확도: 22.01%\n", "46\t검증 세트 손실: 1.637659\t최선의 손실: 1.607884\t정확도: 18.73%\n", "47\t검증 세트 손실: 1.609606\t최선의 손실: 1.607884\t정확도: 22.01%\n", - "48\t검증 세트 손실: 1.612162\t최선의 손실: 1.607884\t정확도: 22.01%\n", + "48\t검증 세트 손실: 1.612161\t최선의 손실: 1.607884\t정확도: 22.01%\n", "49\t검증 세트 손실: 1.643129\t최선의 손실: 1.607884\t정확도: 19.27%\n", "50\t검증 세트 손실: 1.611989\t최선의 손실: 1.607884\t정확도: 22.01%\n", "51\t검증 세트 손실: 1.619973\t최선의 손실: 1.607884\t정확도: 19.08%\n", "52\t검증 세트 손실: 1.627020\t최선의 손실: 1.607884\t정확도: 19.08%\n", - "53\t검증 세트 손실: 1.618522\t최선의 손실: 1.607884\t정확도: 22.01%\n", + "53\t검증 세트 손실: 1.618523\t최선의 손실: 1.607884\t정확도: 22.01%\n", "54\t검증 세트 손실: 1.654810\t최선의 손실: 1.607884\t정확도: 18.73%\n", "55\t검증 세트 손실: 1.645115\t최선의 손실: 1.607884\t정확도: 18.73%\n", "56\t검증 세트 손실: 1.669472\t최선의 손실: 1.607884\t정확도: 19.08%\n", "57\t검증 세트 손실: 1.619668\t최선의 손실: 1.607884\t정확도: 18.73%\n", "58\t검증 세트 손실: 1.612547\t최선의 손실: 1.607884\t정확도: 22.01%\n", - "59\t검증 세트 손실: 1.619514\t최선의 손실: 1.607884\t정확도: 22.01%\n", + "59\t검증 세트 손실: 1.619514\t최선의 손실: 1.607884\t정확도: 22.01%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ "60\t검증 세트 손실: 1.635965\t최선의 손실: 1.607884\t정확도: 18.73%\n", - "61\t검증 세트 손실: 1.627399\t최선의 손실: 1.607884\t정확도: 22.01%\n", + "61\t검증 세트 손실: 1.627400\t최선의 손실: 1.607884\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50, total= 1.6min\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 1.644320\t최선의 손실: 1.644320\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.624583\t최선의 손실: 1.624583\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.614159\t최선의 손실: 1.614159\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.616997\t최선의 손실: 1.614159\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.614503\t최선의 손실: 1.614159\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.627702\t최선의 손실: 1.614159\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.648679\t최선의 손실: 1.614159\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.627600\t최선의 손실: 1.614159\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.625684\t최선의 손실: 1.614159\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.615556\t최선의 손실: 1.614159\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.619122\t최선의 손실: 1.614159\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.639598\t최선의 손실: 1.614159\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.627612\t최선의 손실: 1.614159\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.615013\t최선의 손실: 1.614159\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.624332\t최선의 손실: 1.614159\t정확도: 19.08%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation=, total= 1.6min\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.644700\t최선의 손실: 1.644700\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.624599\t최선의 손실: 1.624599\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.614161\t최선의 손실: 1.614161\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.616997\t최선의 손실: 1.614161\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.614504\t최선의 손실: 1.614161\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.627702\t최선의 손실: 1.614161\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.648679\t최선의 손실: 1.614161\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.627600\t최선의 손실: 1.614161\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.625684\t최선의 손실: 1.614161\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.615555\t최선의 손실: 1.614161\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.619122\t최선의 손실: 1.614161\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.639598\t최선의 손실: 1.614161\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.627612\t최선의 손실: 1.614161\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.615013\t최선의 손실: 1.614161\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.624332\t최선의 손실: 1.614161\t정확도: 19.08%\n", "15\t검증 세트 손실: 1.612442\t최선의 손실: 1.612442\t정확도: 22.01%\n", "16\t검증 세트 손실: 1.627837\t최선의 손실: 1.612442\t정확도: 22.01%\n", "17\t검증 세트 손실: 1.613230\t최선의 손실: 1.612442\t정확도: 18.73%\n", @@ -1606,7 +1576,7 @@ "25\t검증 세트 손실: 1.619330\t최선의 손실: 1.609109\t정확도: 19.27%\n", "26\t검증 세트 손실: 1.611331\t최선의 손실: 1.609109\t정확도: 22.01%\n", "27\t검증 세트 손실: 1.614303\t최선의 손실: 1.609109\t정확도: 20.91%\n", - "28\t검증 세트 손실: 1.628117\t최선의 손실: 1.609109\t정확도: 19.08%\n", + "28\t검증 세트 손실: 1.628118\t최선의 손실: 1.609109\t정확도: 19.08%\n", "29\t검증 세트 손실: 1.610351\t최선의 손실: 1.609109\t정확도: 20.91%\n", "30\t검증 세트 손실: 1.626937\t최선의 손실: 1.609109\t정확도: 20.91%\n", "31\t검증 세트 손실: 1.633268\t최선의 손실: 1.609109\t정확도: 18.73%\n", @@ -1619,7 +1589,7 @@ "38\t검증 세트 손실: 1.614501\t최선의 손실: 1.609064\t정확도: 22.01%\n", "39\t검증 세트 손실: 1.617749\t최선의 손실: 1.609064\t정확도: 19.27%\n", "40\t검증 세트 손실: 1.623126\t최선의 손실: 1.609064\t정확도: 22.01%\n", - "41\t검증 세트 손실: 1.615781\t최선의 손실: 1.609064\t정확도: 19.27%\n", + "41\t검증 세트 손실: 1.615782\t최선의 손실: 1.609064\t정확도: 19.27%\n", "42\t검증 세트 손실: 1.617480\t최선의 손실: 1.609064\t정확도: 19.27%\n", "43\t검증 세트 손실: 1.617777\t최선의 손실: 1.609064\t정확도: 19.08%\n", "44\t검증 세트 손실: 1.626857\t최선의 손실: 1.609064\t정확도: 22.01%\n", @@ -1633,3582 +1603,3690 @@ "52\t검증 세트 손실: 1.620595\t최선의 손실: 1.609064\t정확도: 18.73%\n", "53\t검증 세트 손실: 1.617682\t최선의 손실: 1.609064\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=50, total= 1.4min\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.107880\t최선의 손실: 0.107880\t정확도: 96.99%\n", - "1\t검증 세트 손실: 0.116085\t최선의 손실: 0.107880\t정확도: 96.99%\n", - "2\t검증 세트 손실: 0.101172\t최선의 손실: 0.101172\t정확도: 97.26%\n", - "3\t검증 세트 손실: 0.105067\t최선의 손실: 0.101172\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.084716\t최선의 손실: 0.084716\t정확도: 97.62%\n", - "5\t검증 세트 손실: 0.089455\t최선의 손실: 0.084716\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.079002\t최선의 손실: 0.079002\t정확도: 97.73%\n", - "7\t검증 세트 손실: 0.078476\t최선의 손실: 0.078476\t정확도: 97.50%\n", - "8\t검증 세트 손실: 0.067152\t최선의 손실: 0.067152\t정확도: 98.12%\n", - "9\t검증 세트 손실: 0.091263\t최선의 손실: 0.067152\t정확도: 97.69%\n", - "10\t검증 세트 손실: 0.111605\t최선의 손실: 0.067152\t정확도: 97.69%\n", - "11\t검증 세트 손실: 0.088740\t최선의 손실: 0.067152\t정확도: 97.85%\n", - "12\t검증 세트 손실: 0.082147\t최선의 손실: 0.067152\t정확도: 97.69%\n", - "13\t검증 세트 손실: 0.077458\t최선의 손실: 0.067152\t정확도: 97.93%\n", - "14\t검증 세트 손실: 0.115961\t최선의 손실: 0.067152\t정확도: 97.22%\n", - "15\t검증 세트 손실: 0.131673\t최선의 손실: 0.067152\t정확도: 97.50%\n", - "16\t검증 세트 손실: 0.081151\t최선의 손실: 0.067152\t정확도: 97.97%\n", - "17\t검증 세트 손실: 0.075369\t최선의 손실: 0.067152\t정확도: 98.05%\n", - "18\t검증 세트 손실: 0.088948\t최선의 손실: 0.067152\t정확도: 97.58%\n", - "19\t검증 세트 손실: 0.080407\t최선의 손실: 0.067152\t정확도: 98.05%\n", - "20\t검증 세트 손실: 0.099786\t최선의 손실: 0.067152\t정확도: 97.97%\n", - "21\t검증 세트 손실: 0.080877\t최선의 손실: 0.067152\t정확도: 97.89%\n", - "22\t검증 세트 손실: 0.123441\t최선의 손실: 0.067152\t정확도: 97.03%\n", - "23\t검증 세트 손실: 0.114029\t최선의 손실: 0.067152\t정확도: 97.15%\n", - "24\t검증 세트 손실: 0.149343\t최선의 손실: 0.067152\t정확도: 96.79%\n", - "25\t검증 세트 손실: 0.095381\t최선의 손실: 0.067152\t정확도: 98.01%\n", - "26\t검증 세트 손실: 0.098636\t최선의 손실: 0.067152\t정확도: 97.58%\n", - "27\t검증 세트 손실: 0.083231\t최선의 손실: 0.067152\t정확도: 97.62%\n", - "28\t검증 세트 손실: 0.082398\t최선의 손실: 0.067152\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.093786\t최선의 손실: 0.067152\t정확도: 98.28%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=10, activation=, total= 1.4min\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.146619\t최선의 손실: 0.146619\t정확도: 95.90%\n", + "1\t검증 세트 손실: 0.109646\t최선의 손실: 0.109646\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.080094\t최선의 손실: 0.080094\t정확도: 97.62%\n", + "3\t검증 세트 손실: 0.094194\t최선의 손실: 0.080094\t정확도: 97.62%\n", + "4\t검증 세트 손실: 0.092750\t최선의 손실: 0.080094\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.085343\t최선의 손실: 0.080094\t정확도: 97.54%\n", + "6\t검증 세트 손실: 0.082305\t최선의 손실: 0.080094\t정확도: 97.38%\n", + "7\t검증 세트 손실: 0.083869\t최선의 손실: 0.080094\t정확도: 98.01%\n", + "8\t검증 세트 손실: 0.076928\t최선의 손실: 0.076928\t정확도: 98.05%\n", + "9\t검증 세트 손실: 0.079442\t최선의 손실: 0.076928\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.119957\t최선의 손실: 0.076928\t정확도: 97.22%\n", + "11\t검증 세트 손실: 0.091838\t최선의 손실: 0.076928\t정확도: 98.01%\n", + "12\t검증 세트 손실: 0.083249\t최선의 손실: 0.076928\t정확도: 98.16%\n", + "13\t검증 세트 손실: 0.084876\t최선의 손실: 0.076928\t정확도: 97.58%\n", + "14\t검증 세트 손실: 0.100463\t최선의 손실: 0.076928\t정확도: 98.12%\n", + "15\t검증 세트 손실: 0.149656\t최선의 손실: 0.076928\t정확도: 96.83%\n", + "16\t검증 세트 손실: 0.412432\t최선의 손실: 0.076928\t정확도: 88.04%\n", + "17\t검증 세트 손실: 0.118496\t최선의 손실: 0.076928\t정확도: 96.52%\n", + "18\t검증 세트 손실: 0.182660\t최선의 손실: 0.076928\t정확도: 95.62%\n", + "19\t검증 세트 손실: 0.117917\t최선의 손실: 0.076928\t정확도: 97.58%\n", + "20\t검증 세트 손실: 0.117227\t최선의 손실: 0.076928\t정확도: 96.91%\n", + "21\t검증 세트 손실: 0.092168\t최선의 손실: 0.076928\t정확도: 97.85%\n", + "22\t검증 세트 손실: 0.094764\t최선의 손실: 0.076928\t정확도: 97.65%\n", + "23\t검증 세트 손실: 0.188050\t최선의 손실: 0.076928\t정확도: 96.79%\n", + "24\t검증 세트 손실: 0.106848\t최선의 손실: 0.076928\t정확도: 97.30%\n", + "25\t검증 세트 손실: 0.158187\t최선의 손실: 0.076928\t정확도: 95.90%\n", + "26\t검증 세트 손실: 0.104695\t최선의 손실: 0.076928\t정확도: 97.65%\n", + "27\t검증 세트 손실: 0.217635\t최선의 손실: 0.076928\t정확도: 96.29%\n", + "28\t검증 세트 손실: 0.119450\t최선의 손실: 0.076928\t정확도: 97.58%\n", + "29\t검증 세트 손실: 0.096190\t최선의 손실: 0.076928\t정확도: 97.89%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30, total= 5.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.105974\t최선의 손실: 0.105974\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.096178\t최선의 손실: 0.096178\t정확도: 96.83%\n", - "2\t검증 세트 손실: 0.109713\t최선의 손실: 0.096178\t정확도: 97.11%\n", - "3\t검증 세트 손실: 0.086026\t최선의 손실: 0.086026\t정확도: 97.54%\n", - "4\t검증 세트 손실: 0.089247\t최선의 손실: 0.086026\t정확도: 97.58%\n", - "5\t검증 세트 손실: 0.083310\t최선의 손실: 0.083310\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.078221\t최선의 손실: 0.078221\t정확도: 97.46%\n", - "7\t검증 세트 손실: 0.147870\t최선의 손실: 0.078221\t정확도: 97.03%\n", - "8\t검증 세트 손실: 0.072606\t최선의 손실: 0.072606\t정확도: 98.12%\n", - "9\t검증 세트 손실: 0.105270\t최선의 손실: 0.072606\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.092718\t최선의 손실: 0.072606\t정확도: 97.54%\n", - "11\t검증 세트 손실: 0.079112\t최선의 손실: 0.072606\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.067963\t최선의 손실: 0.067963\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.087775\t최선의 손실: 0.067963\t정확도: 98.01%\n", - "14\t검증 세트 손실: 0.089214\t최선의 손실: 0.067963\t정확도: 97.85%\n", - "15\t검증 세트 손실: 0.122234\t최선의 손실: 0.067963\t정확도: 97.50%\n", - "16\t검증 세트 손실: 0.101987\t최선의 손실: 0.067963\t정확도: 97.73%\n", - "17\t검증 세트 손실: 0.095182\t최선의 손실: 0.067963\t정확도: 97.50%\n", - "18\t검증 세트 손실: 0.089304\t최선의 손실: 0.067963\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.089892\t최선의 손실: 0.067963\t정확도: 97.77%\n", - "20\t검증 세트 손실: 0.070597\t최선의 손실: 0.067963\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.139731\t최선의 손실: 0.067963\t정확도: 97.85%\n", - "22\t검증 세트 손실: 0.129323\t최선의 손실: 0.067963\t정확도: 97.77%\n", - "23\t검증 세트 손실: 0.108652\t최선의 손실: 0.067963\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.109841\t최선의 손실: 0.067963\t정확도: 97.69%\n", - "25\t검증 세트 손실: 0.089324\t최선의 손실: 0.067963\t정확도: 98.20%\n" + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=, total= 5.6s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.133344\t최선의 손실: 0.133344\t정확도: 96.52%\n", + "1\t검증 세트 손실: 0.090318\t최선의 손실: 0.090318\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.086024\t최선의 손실: 0.086024\t정확도: 97.50%\n", + "3\t검증 세트 손실: 0.078711\t최선의 손실: 0.078711\t정확도: 97.93%\n", + "4\t검증 세트 손실: 0.090729\t최선의 손실: 0.078711\t정확도: 98.05%\n", + "5\t검증 세트 손실: 0.082534\t최선의 손실: 0.078711\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.076113\t최선의 손실: 0.076113\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.113575\t최선의 손실: 0.076113\t정확도: 97.46%\n", + "8\t검증 세트 손실: 0.078798\t최선의 손실: 0.076113\t정확도: 98.08%\n", + "9\t검증 세트 손실: 0.085035\t최선의 손실: 0.076113\t정확도: 98.20%\n", + "10\t검증 세트 손실: 0.146653\t최선의 손실: 0.076113\t정확도: 97.77%\n", + "11\t검증 세트 손실: 0.077019\t최선의 손실: 0.076113\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.079146\t최선의 손실: 0.076113\t정확도: 98.24%\n", + "13\t검증 세트 손실: 0.100626\t최선의 손실: 0.076113\t정확도: 98.01%\n", + "14\t검증 세트 손실: 0.066780\t최선의 손실: 0.066780\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.068799\t최선의 손실: 0.066780\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.088605\t최선의 손실: 0.066780\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.134050\t최선의 손실: 0.066780\t정확도: 96.95%\n", + "18\t검증 세트 손실: 0.084593\t최선의 손실: 0.066780\t정확도: 98.05%\n", + "19\t검증 세트 손실: 0.089678\t최선의 손실: 0.066780\t정확도: 97.81%\n", + "20\t검증 세트 손실: 0.065399\t최선의 손실: 0.065399\t정확도: 98.51%\n", + "21\t검증 세트 손실: 0.075460\t최선의 손실: 0.065399\t정확도: 98.16%\n", + "22\t검증 세트 손실: 0.083585\t최선의 손실: 0.065399\t정확도: 98.28%\n", + "23\t검증 세트 손실: 0.080679\t최선의 손실: 0.065399\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.097904\t최선의 손실: 0.065399\t정확도: 98.32%\n", + "25\t검증 세트 손실: 0.087854\t최선의 손실: 0.065399\t정확도: 98.08%\n", + "26\t검증 세트 손실: 0.106345\t최선의 손실: 0.065399\t정확도: 96.95%\n", + "27\t검증 세트 손실: 0.101296\t최선의 손실: 0.065399\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.101773\t최선의 손실: 0.065399\t정확도: 98.28%\n", + "29\t검증 세트 손실: 0.085463\t최선의 손실: 0.065399\t정확도: 98.16%\n", + "30\t검증 세트 손실: 0.107301\t최선의 손실: 0.065399\t정확도: 97.54%\n", + "31\t검증 세트 손실: 0.090045\t최선의 손실: 0.065399\t정확도: 97.11%\n", + "32\t검증 세트 손실: 0.104120\t최선의 손실: 0.065399\t정확도: 97.89%\n", + "33\t검증 세트 손실: 0.103268\t최선의 손실: 0.065399\t정확도: 97.38%\n", + "34\t검증 세트 손실: 0.077971\t최선의 손실: 0.065399\t정확도: 98.36%\n", + "35\t검증 세트 손실: 0.082399\t최선의 손실: 0.065399\t정확도: 98.55%\n", + "36\t검증 세트 손실: 0.152046\t최선의 손실: 0.065399\t정확도: 97.34%\n", + "37\t검증 세트 손실: 0.130523\t최선의 손실: 0.065399\t정확도: 96.21%\n", + "38\t검증 세트 손실: 0.140115\t최선의 손실: 0.065399\t정확도: 97.97%\n", + "39\t검증 세트 손실: 0.109216\t최선의 손실: 0.065399\t정확도: 98.20%\n", + "40\t검증 세트 손실: 0.114199\t최선의 손실: 0.065399\t정확도: 98.01%\n", + "41\t검증 세트 손실: 0.110940\t최선의 손실: 0.065399\t정확도: 98.01%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=, total= 7.8s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.103264\t최선의 손실: 0.103264\t정확도: 97.22%\n", + "1\t검증 세트 손실: 0.119141\t최선의 손실: 0.103264\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.083212\t최선의 손실: 0.083212\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.083304\t최선의 손실: 0.083212\t정확도: 97.73%\n", + "4\t검증 세트 손실: 0.074369\t최선의 손실: 0.074369\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.102235\t최선의 손실: 0.074369\t정확도: 98.08%\n", + "6\t검증 세트 손실: 0.067526\t최선의 손실: 0.067526\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.077168\t최선의 손실: 0.067526\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.058988\t최선의 손실: 0.058988\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.076899\t최선의 손실: 0.058988\t정확도: 97.97%\n", + "10\t검증 세트 손실: 0.072458\t최선의 손실: 0.058988\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.091099\t최선의 손실: 0.058988\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.103713\t최선의 손실: 0.058988\t정확도: 97.42%\n", + "13\t검증 세트 손실: 0.100105\t최선의 손실: 0.058988\t정확도: 97.93%\n", + "14\t검증 세트 손실: 0.101094\t최선의 손실: 0.058988\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.191319\t최선의 손실: 0.058988\t정확도: 96.48%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "26\t검증 세트 손실: 0.108104\t최선의 손실: 0.067963\t정확도: 97.85%\n", - "27\t검증 세트 손실: 0.219004\t최선의 손실: 0.067963\t정확도: 97.07%\n", - "28\t검증 세트 손실: 0.108362\t최선의 손실: 0.067963\t정확도: 97.77%\n", - "29\t검증 세트 손실: 0.098935\t최선의 손실: 0.067963\t정확도: 97.89%\n", - "30\t검증 세트 손실: 0.100086\t최선의 손실: 0.067963\t정확도: 97.54%\n", - "31\t검증 세트 손실: 0.091291\t최선의 손실: 0.067963\t정확도: 98.24%\n", - "32\t검증 세트 손실: 0.371474\t최선의 손실: 0.067963\t정확도: 98.32%\n", - "33\t검증 세트 손실: 0.111307\t최선의 손실: 0.067963\t정확도: 97.54%\n", + "16\t검증 세트 손실: 0.114933\t최선의 손실: 0.058988\t정확도: 97.81%\n", + "17\t검증 세트 손실: 0.118699\t최선의 손실: 0.058988\t정확도: 98.01%\n", + "18\t검증 세트 손실: 0.082592\t최선의 손실: 0.058988\t정확도: 98.08%\n", + "19\t검증 세트 손실: 0.107904\t최선의 손실: 0.058988\t정확도: 98.12%\n", + "20\t검증 세트 손실: 0.109993\t최선의 손실: 0.058988\t정확도: 97.42%\n", + "21\t검증 세트 손실: 0.100516\t최선의 손실: 0.058988\t정확도: 98.01%\n", + "22\t검증 세트 손실: 0.106056\t최선의 손실: 0.058988\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.086669\t최선의 손실: 0.058988\t정확도: 97.85%\n", + "24\t검증 세트 손실: 0.107487\t최선의 손실: 0.058988\t정확도: 98.01%\n", + "25\t검증 세트 손실: 0.119760\t최선의 손실: 0.058988\t정확도: 97.93%\n", + "26\t검증 세트 손실: 0.086470\t최선의 손실: 0.058988\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.091485\t최선의 손실: 0.058988\t정확도: 98.24%\n", + "28\t검증 세트 손실: 0.318420\t최선의 손실: 0.058988\t정확도: 93.35%\n", + "29\t검증 세트 손실: 0.282315\t최선의 손실: 0.058988\t정확도: 96.13%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30, total= 6.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.089817\t최선의 손실: 0.089817\t정확도: 97.65%\n", - "1\t검증 세트 손실: 0.099206\t최선의 손실: 0.089817\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.093683\t최선의 손실: 0.089817\t정확도: 97.46%\n", - "3\t검증 세트 손실: 0.093219\t최선의 손실: 0.089817\t정확도: 97.54%\n", - "4\t검증 세트 손실: 0.081220\t최선의 손실: 0.081220\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.085970\t최선의 손실: 0.081220\t정확도: 97.77%\n", - "6\t검증 세트 손실: 0.097083\t최선의 손실: 0.081220\t정확도: 96.95%\n", - "7\t검증 세트 손실: 0.093486\t최선의 손실: 0.081220\t정확도: 97.50%\n", - "8\t검증 세트 손실: 0.102408\t최선의 손실: 0.081220\t정확도: 97.77%\n", - "9\t검증 세트 손실: 0.115371\t최선의 손실: 0.081220\t정확도: 97.89%\n", - "10\t검증 세트 손실: 0.086811\t최선의 손실: 0.081220\t정확도: 97.89%\n", - "11\t검증 세트 손실: 0.114072\t최선의 손실: 0.081220\t정확도: 96.79%\n", - "12\t검증 세트 손실: 0.076541\t최선의 손실: 0.076541\t정확도: 97.69%\n", - "13\t검증 세트 손실: 0.230332\t최선의 손실: 0.076541\t정확도: 94.92%\n", - "14\t검증 세트 손실: 0.082088\t최선의 손실: 0.076541\t정확도: 97.46%\n", - "15\t검증 세트 손실: 0.078963\t최선의 손실: 0.076541\t정확도: 98.05%\n", - "16\t검증 세트 손실: 0.094094\t최선의 손실: 0.076541\t정확도: 97.93%\n", - "17\t검증 세트 손실: 0.122267\t최선의 손실: 0.076541\t정확도: 97.81%\n", - "18\t검증 세트 손실: 0.092557\t최선의 손실: 0.076541\t정확도: 98.08%\n", - "19\t검증 세트 손실: 0.084450\t최선의 손실: 0.076541\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.110771\t최선의 손실: 0.076541\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.080215\t최선의 손실: 0.076541\t정확도: 98.01%\n", - "22\t검증 세트 손실: 0.067613\t최선의 손실: 0.067613\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.077307\t최선의 손실: 0.067613\t정확도: 98.20%\n", - "24\t검증 세트 손실: 0.076811\t최선의 손실: 0.067613\t정확도: 98.20%\n", - "25\t검증 세트 손실: 0.097404\t최선의 손실: 0.067613\t정확도: 98.24%\n", - "26\t검증 세트 손실: 0.081096\t최선의 손실: 0.067613\t정확도: 98.20%\n", - "27\t검증 세트 손실: 0.082617\t최선의 손실: 0.067613\t정확도: 98.28%\n", - "28\t검증 세트 손실: 0.130741\t최선의 손실: 0.067613\t정확도: 97.58%\n", - "29\t검증 세트 손실: 0.073137\t최선의 손실: 0.067613\t정확도: 98.16%\n", - "30\t검증 세트 손실: 0.136117\t최선의 손실: 0.067613\t정확도: 97.42%\n", - "31\t검증 세트 손실: 0.068615\t최선의 손실: 0.067613\t정확도: 98.16%\n", - "32\t검증 세트 손실: 0.084258\t최선의 손실: 0.067613\t정확도: 97.97%\n", - "33\t검증 세트 손실: 0.097888\t최선의 손실: 0.067613\t정확도: 97.58%\n", - "34\t검증 세트 손실: 0.089018\t최선의 손실: 0.067613\t정확도: 97.97%\n", - "35\t검증 세트 손실: 0.085503\t최선의 손실: 0.067613\t정확도: 98.40%\n", - "36\t검증 세트 손실: 0.099707\t최선의 손실: 0.067613\t정확도: 98.12%\n", - "37\t검증 세트 손실: 0.079744\t최선의 손실: 0.067613\t정확도: 98.44%\n", - "38\t검증 세트 손실: 0.075756\t최선의 손실: 0.067613\t정확도: 97.85%\n", - "39\t검증 세트 손실: 0.065852\t최선의 손실: 0.065852\t정확도: 97.89%\n", - "40\t검증 세트 손실: 0.070889\t최선의 손실: 0.065852\t정확도: 98.28%\n", - "41\t검증 세트 손실: 0.078918\t최선의 손실: 0.065852\t정확도: 98.36%\n", - "42\t검증 세트 손실: 0.135299\t최선의 손실: 0.065852\t정확도: 98.24%\n", - "43\t검증 세트 손실: 0.209663\t최선의 손실: 0.065852\t정확도: 97.42%\n", - "44\t검증 세트 손실: 0.102574\t최선의 손실: 0.065852\t정확도: 97.73%\n", - "45\t검증 세트 손실: 0.190972\t최선의 손실: 0.065852\t정확도: 95.62%\n", - "46\t검증 세트 손실: 0.124340\t최선의 손실: 0.065852\t정확도: 97.03%\n", - "47\t검증 세트 손실: 0.118770\t최선의 손실: 0.065852\t정확도: 97.11%\n", - "48\t검증 세트 손실: 0.150175\t최선의 손실: 0.065852\t정확도: 96.21%\n", - "49\t검증 세트 손실: 0.126142\t최선의 손실: 0.065852\t정확도: 97.03%\n", - "50\t검증 세트 손실: 0.163138\t최선의 손실: 0.065852\t정확도: 95.82%\n", - "51\t검증 세트 손실: 0.116130\t최선의 손실: 0.065852\t정확도: 97.77%\n", - "52\t검증 세트 손실: 0.108413\t최선의 손실: 0.065852\t정확도: 97.65%\n", - "53\t검증 세트 손실: 0.219239\t최선의 손실: 0.065852\t정확도: 97.77%\n", - "54\t검증 세트 손실: 0.118316\t최선의 손실: 0.065852\t정확도: 97.26%\n", - "55\t검증 세트 손실: 0.126674\t최선의 손실: 0.065852\t정확도: 97.19%\n", - "56\t검증 세트 손실: 0.150349\t최선의 손실: 0.065852\t정확도: 96.17%\n", - "57\t검증 세트 손실: 0.119968\t최선의 손실: 0.065852\t정확도: 97.65%\n", - "58\t검증 세트 손실: 0.209942\t최선의 손실: 0.065852\t정확도: 96.29%\n", - "59\t검증 세트 손실: 0.122797\t최선의 손실: 0.065852\t정확도: 97.15%\n", - "60\t검증 세트 손실: 0.109410\t최선의 손실: 0.065852\t정확도: 97.73%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=, total= 5.6s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.221475\t최선의 손실: 0.221475\t정확도: 94.92%\n", + "1\t검증 세트 손실: 19.493448\t최선의 손실: 0.221475\t정확도: 21.77%\n", + "2\t검증 세트 손실: 0.911645\t최선의 손실: 0.221475\t정확도: 61.53%\n", + "3\t검증 세트 손실: 0.706525\t최선의 손실: 0.221475\t정확도: 70.33%\n", + "4\t검증 세트 손실: 0.549704\t최선의 손실: 0.221475\t정확도: 80.96%\n", + "5\t검증 세트 손실: 0.447724\t최선의 손실: 0.221475\t정확도: 83.70%\n", + "6\t검증 세트 손실: 0.411843\t최선의 손실: 0.221475\t정확도: 86.47%\n", + "7\t검증 세트 손실: 0.527754\t최선의 손실: 0.221475\t정확도: 84.13%\n", + "8\t검증 세트 손실: 0.393909\t최선의 손실: 0.221475\t정확도: 88.70%\n", + "9\t검증 세트 손실: 0.277491\t최선의 손실: 0.221475\t정확도: 91.36%\n", + "10\t검증 세트 손실: 0.217530\t최선의 손실: 0.217530\t정확도: 93.71%\n", + "11\t검증 세트 손실: 0.212189\t최선의 손실: 0.212189\t정확도: 93.59%\n", + "12\t검증 세트 손실: 15825.740234\t최선의 손실: 0.212189\t정확도: 22.52%\n", + "13\t검증 세트 손실: 3.570318\t최선의 손실: 0.212189\t정확도: 53.32%\n", + "14\t검증 세트 손실: 1.876794\t최선의 손실: 0.212189\t정확도: 61.57%\n", + "15\t검증 세트 손실: 1.443449\t최선의 손실: 0.212189\t정확도: 62.47%\n", + "16\t검증 세트 손실: 2.026128\t최선의 손실: 0.212189\t정확도: 57.19%\n", + "17\t검증 세트 손실: 1.728473\t최선의 손실: 0.212189\t정확도: 57.39%\n", + "18\t검증 세트 손실: 1.574143\t최선의 손실: 0.212189\t정확도: 62.31%\n", + "19\t검증 세트 손실: 1.086988\t최선의 손실: 0.212189\t정확도: 66.11%\n", + "20\t검증 세트 손실: 0.980515\t최선의 손실: 0.212189\t정확도: 66.22%\n", + "21\t검증 세트 손실: 1.559600\t최선의 손실: 0.212189\t정확도: 58.48%\n", + "22\t검증 세트 손실: 1.254594\t최선의 손실: 0.212189\t정확도: 66.46%\n", + "23\t검증 세트 손실: 1.100592\t최선의 손실: 0.212189\t정확도: 64.82%\n", + "24\t검증 세트 손실: 0.983311\t최선의 손실: 0.212189\t정확도: 64.97%\n", + "25\t검증 세트 손실: 40.791092\t최선의 손실: 0.212189\t정확도: 19.16%\n", + "26\t검증 세트 손실: 3.725766\t최선의 손실: 0.212189\t정확도: 39.41%\n", + "27\t검증 세트 손실: 3.495462\t최선의 손실: 0.212189\t정확도: 48.32%\n", + "28\t검증 세트 손실: 1.368308\t최선의 손실: 0.212189\t정확도: 55.12%\n", + "29\t검증 세트 손실: 1.101169\t최선의 손실: 0.212189\t정확도: 62.16%\n", + "30\t검증 세트 손실: 0.997367\t최선의 손실: 0.212189\t정확도: 65.44%\n", + "31\t검증 세트 손실: 1.833351\t최선의 손실: 0.212189\t정확도: 53.83%\n", + "32\t검증 세트 손실: 4.644372\t최선의 손실: 0.212189\t정확도: 38.62%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=30, total= 11.3s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.132927\t최선의 손실: 0.132927\t정확도: 95.90%\n", - "1\t검증 세트 손실: 0.111200\t최선의 손실: 0.111200\t정확도: 96.79%\n", - "2\t검증 세트 손실: 37.050770\t최선의 손실: 0.111200\t정확도: 39.48%\n", - "3\t검증 세트 손실: 1.138917\t최선의 손실: 0.111200\t정확도: 55.04%\n", - "4\t검증 세트 손실: 1.157438\t최선의 손실: 0.111200\t정확도: 57.15%\n", - "5\t검증 세트 손실: 0.975950\t최선의 손실: 0.111200\t정확도: 63.92%\n", - "6\t검증 세트 손실: 0.902163\t최선의 손실: 0.111200\t정확도: 70.09%\n", - "7\t검증 세트 손실: 0.732203\t최선의 손실: 0.111200\t정확도: 72.83%\n", - "8\t검증 세트 손실: 0.601421\t최선의 손실: 0.111200\t정확도: 79.98%\n", - "9\t검증 세트 손실: 0.542954\t최선의 손실: 0.111200\t정확도: 81.67%\n", - "10\t검증 세트 손실: 0.514194\t최선의 손실: 0.111200\t정확도: 83.03%\n", - "11\t검증 세트 손실: 0.399974\t최선의 손실: 0.111200\t정확도: 88.23%\n", - "12\t검증 세트 손실: 18.918188\t최선의 손실: 0.111200\t정확도: 19.12%\n", - "13\t검증 세트 손실: 1.381926\t최선의 손실: 0.111200\t정확도: 50.31%\n", - "14\t검증 세트 손실: 0.918248\t최선의 손실: 0.111200\t정확도: 63.25%\n", - "15\t검증 세트 손실: 0.616825\t최선의 손실: 0.111200\t정확도: 77.95%\n", - "16\t검증 세트 손실: 0.562620\t최선의 손실: 0.111200\t정확도: 78.50%\n", - "17\t검증 세트 손실: 0.505384\t최선의 손실: 0.111200\t정확도: 81.59%\n", - "18\t검증 세트 손실: 0.636875\t최선의 손실: 0.111200\t정확도: 77.48%\n", - "19\t검증 세트 손실: 0.448416\t최선의 손실: 0.111200\t정확도: 84.91%\n", - "20\t검증 세트 손실: 0.419162\t최선의 손실: 0.111200\t정확도: 85.97%\n", - "21\t검증 세트 손실: 1554.238892\t최선의 손실: 0.111200\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1050.457397\t최선의 손실: 0.111200\t정확도: 18.73%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 8.2s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.231649\t최선의 손실: 0.231649\t정확도: 93.94%\n", + "1\t검증 세트 손실: 0.959024\t최선의 손실: 0.231649\t정확도: 58.09%\n", + "2\t검증 세트 손실: 1.176781\t최선의 손실: 0.231649\t정확도: 68.88%\n", + "3\t검증 세트 손실: 4.139997\t최선의 손실: 0.231649\t정확도: 81.86%\n", + "4\t검증 세트 손실: 0.405584\t최선의 손실: 0.231649\t정확도: 86.00%\n", + "5\t검증 세트 손실: 0.488255\t최선의 손실: 0.231649\t정확도: 86.16%\n", + "6\t검증 세트 손실: 0.389651\t최선의 손실: 0.231649\t정확도: 87.72%\n", + "7\t검증 세트 손실: 0.399815\t최선의 손실: 0.231649\t정확도: 88.70%\n", + "8\t검증 세트 손실: 0.259915\t최선의 손실: 0.231649\t정확도: 92.73%\n", + "9\t검증 세트 손실: 1053.529053\t최선의 손실: 0.231649\t정확도: 38.98%\n", + "10\t검증 세트 손실: 34.997845\t최선의 손실: 0.231649\t정확도: 46.48%\n", + "11\t검증 세트 손실: 18.353401\t최선의 손실: 0.231649\t정확도: 67.94%\n", + "12\t검증 세트 손실: 8.430605\t최선의 손실: 0.231649\t정확도: 59.19%\n", + "13\t검증 세트 손실: 5.348340\t최선의 손실: 0.231649\t정확도: 74.35%\n", + "14\t검증 세트 손실: 3.080935\t최선의 손실: 0.231649\t정확도: 75.72%\n", + "15\t검증 세트 손실: 2.422867\t최선의 손실: 0.231649\t정확도: 78.26%\n", + "16\t검증 세트 손실: 2.147181\t최선의 손실: 0.231649\t정확도: 80.92%\n", + "17\t검증 세트 손실: 6.019710\t최선의 손실: 0.231649\t정확도: 71.15%\n", + "18\t검증 세트 손실: 3.826835\t최선의 손실: 0.231649\t정확도: 70.33%\n", + "19\t검증 세트 손실: 2.972713\t최선의 손실: 0.231649\t정확도: 69.04%\n", + "20\t검증 세트 손실: 1.828682\t최선의 손실: 0.231649\t정확도: 79.28%\n", + "21\t검증 세트 손실: 1.874863\t최선의 손실: 0.231649\t정확도: 74.43%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50, total= 6.0s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.158531\t최선의 손실: 0.158531\t정확도: 95.62%\n", - "1\t검증 세트 손실: 0.113408\t최선의 손실: 0.113408\t정확도: 96.52%\n", - "2\t검증 세트 손실: 229.098495\t최선의 손실: 0.113408\t정확도: 22.99%\n", - "3\t검증 세트 손실: 2.362132\t최선의 손실: 0.113408\t정확도: 58.68%\n", - "4\t검증 세트 손실: 1.079743\t최선의 손실: 0.113408\t정확도: 70.48%\n", - "5\t검증 세트 손실: 1.070271\t최선의 손실: 0.113408\t정확도: 70.80%\n", - "6\t검증 세트 손실: 0.634102\t최선의 손실: 0.113408\t정확도: 78.19%\n", - "7\t검증 세트 손실: 1.711234\t최선의 손실: 0.113408\t정확도: 64.66%\n", - "8\t검증 세트 손실: 0.498184\t최선의 손실: 0.113408\t정확도: 83.97%\n", - "9\t검증 세트 손실: 0.538831\t최선의 손실: 0.113408\t정확도: 80.65%\n", - "10\t검증 세트 손실: 0.809379\t최선의 손실: 0.113408\t정확도: 72.75%\n", - "11\t검증 세트 손실: 1.353109\t최선의 손실: 0.113408\t정확도: 75.10%\n", - "12\t검증 세트 손실: 0.458012\t최선의 손실: 0.113408\t정확도: 85.93%\n", - "13\t검증 세트 손실: 0.448484\t최선의 손실: 0.113408\t정확도: 86.94%\n", - "14\t검증 세트 손실: 0.312879\t최선의 손실: 0.113408\t정확도: 91.67%\n", - "15\t검증 세트 손실: 0.367759\t최선의 손실: 0.113408\t정확도: 90.50%\n", - "16\t검증 세트 손실: 0.345461\t최선의 손실: 0.113408\t정확도: 90.38%\n", - "17\t검증 세트 손실: 410.613312\t최선의 손실: 0.113408\t정확도: 21.77%\n", - "18\t검증 세트 손실: 15.462116\t최선의 손실: 0.113408\t정확도: 48.51%\n", - "19\t검증 세트 손실: 4.375600\t최선의 손실: 0.113408\t정확도: 65.36%\n", - "20\t검증 세트 손실: 7.017228\t최선의 손실: 0.113408\t정확도: 59.54%\n", - "21\t검증 세트 손실: 4.358530\t최선의 손실: 0.113408\t정확도: 66.38%\n", - "22\t검증 세트 손실: 6.039410\t최선의 손실: 0.113408\t정확도: 58.17%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 5.6s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.249136\t최선의 손실: 0.249136\t정확도: 93.94%\n", + "1\t검증 세트 손실: 0.154903\t최선의 손실: 0.154903\t정확도: 95.93%\n", + "2\t검증 세트 손실: 19.970640\t최선의 손실: 0.154903\t정확도: 33.93%\n", + "3\t검증 세트 손실: 1.547787\t최선의 손실: 0.154903\t정확도: 59.70%\n", + "4\t검증 세트 손실: 0.846778\t최선의 손실: 0.154903\t정확도: 70.72%\n", + "5\t검증 세트 손실: 0.949625\t최선의 손실: 0.154903\t정확도: 72.60%\n", + "6\t검증 세트 손실: 0.623869\t최선의 손실: 0.154903\t정확도: 81.27%\n", + "7\t검증 세트 손실: 0.519121\t최선의 손실: 0.154903\t정확도: 85.34%\n", + "8\t검증 세트 손실: 0.493901\t최선의 손실: 0.154903\t정확도: 84.95%\n", + "9\t검증 세트 손실: 1.164205\t최선의 손실: 0.154903\t정확도: 78.66%\n", + "10\t검증 세트 손실: 0.410936\t최선의 손실: 0.154903\t정확도: 90.81%\n", + "11\t검증 세트 손실: 0.521839\t최선의 손실: 0.154903\t정확도: 86.47%\n", + "12\t검증 세트 손실: 0.309186\t최선의 손실: 0.154903\t정확도: 92.57%\n", + "13\t검증 세트 손실: 0.325138\t최선의 손실: 0.154903\t정확도: 91.48%\n", + "14\t검증 세트 손실: 0.280643\t최선의 손실: 0.154903\t정확도: 93.75%\n", + "15\t검증 세트 손실: 0.239250\t최선의 손실: 0.154903\t정확도: 93.71%\n", + "16\t검증 세트 손실: 0.230164\t최선의 손실: 0.154903\t정확도: 93.86%\n", + "17\t검증 세트 손실: 0.259843\t최선의 손실: 0.154903\t정확도: 93.67%\n", + "18\t검증 세트 손실: 0.230165\t최선의 손실: 0.154903\t정확도: 94.21%\n", + "19\t검증 세트 손실: 0.423830\t최선의 손실: 0.154903\t정확도: 86.40%\n", + "20\t검증 세트 손실: 0.208205\t최선의 손실: 0.154903\t정확도: 94.76%\n", + "21\t검증 세트 손실: 0.207338\t최선의 손실: 0.154903\t정확도: 94.80%\n", + "22\t검증 세트 손실: 0.193785\t최선의 손실: 0.154903\t정확도: 94.76%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50, total= 6.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.145438\t최선의 손실: 0.145438\t정확도: 95.82%\n", - "1\t검증 세트 손실: 3.877617\t최선의 손실: 0.145438\t정확도: 50.39%\n", - "2\t검증 세트 손실: 27.619528\t최선의 손실: 0.145438\t정확도: 48.51%\n", - "3\t검증 세트 손실: 2.913589\t최선의 손실: 0.145438\t정확도: 47.65%\n", - "4\t검증 세트 손실: 0.876097\t최선의 손실: 0.145438\t정확도: 73.53%\n", - "5\t검증 세트 손실: 0.925830\t최선의 손실: 0.145438\t정확도: 70.02%\n", - "6\t검증 세트 손실: 0.674014\t최선의 손실: 0.145438\t정확도: 77.95%\n", - "7\t검증 세트 손실: 0.630606\t최선의 손실: 0.145438\t정확도: 79.32%\n", - "8\t검증 세트 손실: 0.575127\t최선의 손실: 0.145438\t정확도: 83.62%\n", - "9\t검증 세트 손실: 0.806705\t최선의 손실: 0.145438\t정확도: 76.54%\n", - "10\t검증 세트 손실: 0.535571\t최선의 손실: 0.145438\t정확도: 83.46%\n", - "11\t검증 세트 손실: 0.642189\t최선의 손실: 0.145438\t정확도: 83.46%\n", - "12\t검증 세트 손실: 0.507052\t최선의 손실: 0.145438\t정확도: 86.36%\n", - "13\t검증 세트 손실: 0.465312\t최선의 손실: 0.145438\t정확도: 88.08%\n", - "14\t검증 세트 손실: 0.369507\t최선의 손실: 0.145438\t정확도: 90.70%\n", - "15\t검증 세트 손실: 0.403651\t최선의 손실: 0.145438\t정확도: 89.68%\n", - "16\t검증 세트 손실: 0.301971\t최선의 손실: 0.145438\t정확도: 91.75%\n", - "17\t검증 세트 손실: 30.116100\t최선의 손실: 0.145438\t정확도: 22.79%\n", - "18\t검증 세트 손실: 20.000879\t최선의 손실: 0.145438\t정확도: 18.80%\n", - "19\t검증 세트 손실: 3.623142\t최선의 손실: 0.145438\t정확도: 45.00%\n", - "20\t검증 세트 손실: 2.489800\t최선의 손실: 0.145438\t정확도: 43.94%\n", - "21\t검증 세트 손실: 2.083584\t최선의 손실: 0.145438\t정확도: 47.73%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 5.8s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.138481\t최선의 손실: 0.138481\t정확도: 96.56%\n", + "1\t검증 세트 손실: 0.090846\t최선의 손실: 0.090846\t정확도: 97.77%\n", + "2\t검증 세트 손실: 0.090659\t최선의 손실: 0.090659\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.101629\t최선의 손실: 0.090659\t정확도: 96.95%\n", + "4\t검증 세트 손실: 0.054162\t최선의 손실: 0.054162\t정확도: 98.32%\n", + "5\t검증 세트 손실: 0.118390\t최선의 손실: 0.054162\t정확도: 97.15%\n", + "6\t검증 세트 손실: 0.103618\t최선의 손실: 0.054162\t정확도: 97.03%\n", + "7\t검증 세트 손실: 0.136227\t최선의 손실: 0.054162\t정확도: 97.46%\n", + "8\t검증 세트 손실: 0.081187\t최선의 손실: 0.054162\t정확도: 98.05%\n", + "9\t검증 세트 손실: 0.145444\t최선의 손실: 0.054162\t정확도: 97.89%\n", + "10\t검증 세트 손실: 0.143593\t최선의 손실: 0.054162\t정확도: 97.34%\n", + "11\t검증 세트 손실: 0.135452\t최선의 손실: 0.054162\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.157035\t최선의 손실: 0.054162\t정확도: 97.26%\n", + "13\t검증 세트 손실: 0.336965\t최선의 손실: 0.054162\t정확도: 94.49%\n", + "14\t검증 세트 손실: 0.118366\t최선의 손실: 0.054162\t정확도: 97.58%\n", + "15\t검증 세트 손실: 0.111847\t최선의 손실: 0.054162\t정확도: 98.05%\n", + "16\t검증 세트 손실: 0.119081\t최선의 손실: 0.054162\t정확도: 98.24%\n", + "17\t검증 세트 손실: 0.128084\t최선의 손실: 0.054162\t정확도: 97.81%\n", + "18\t검증 세트 손실: 0.150642\t최선의 손실: 0.054162\t정확도: 98.08%\n", + "19\t검증 세트 손실: 7.594686\t최선의 손실: 0.054162\t정확도: 92.03%\n", + "20\t검증 세트 손실: 0.392382\t최선의 손실: 0.054162\t정확도: 97.38%\n", + "21\t검증 세트 손실: 0.265335\t최선의 손실: 0.054162\t정확도: 96.87%\n", + "22\t검증 세트 손실: 0.244726\t최선의 손실: 0.054162\t정확도: 97.62%\n", + "23\t검증 세트 손실: 0.305164\t최선의 손실: 0.054162\t정확도: 97.73%\n", + "24\t검증 세트 손실: 0.352364\t최선의 손실: 0.054162\t정확도: 97.85%\n", + "25\t검증 세트 손실: 0.284269\t최선의 손실: 0.054162\t정확도: 97.89%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=50, total= 5.7s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50 \n" + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 12.4s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.102366\t최선의 손실: 0.102366\t정확도: 96.95%\n", + "1\t검증 세트 손실: 0.071826\t최선의 손실: 0.071826\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.099576\t최선의 손실: 0.071826\t정확도: 97.11%\n", + "3\t검증 세트 손실: 0.068611\t최선의 손실: 0.068611\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.300924\t최선의 손실: 0.068611\t정확도: 96.60%\n", + "5\t검증 세트 손실: 0.093825\t최선의 손실: 0.068611\t정확도: 97.85%\n", + "6\t검증 세트 손실: 0.068354\t최선의 손실: 0.068354\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.080538\t최선의 손실: 0.068354\t정확도: 98.16%\n", + "8\t검증 세트 손실: 0.098688\t최선의 손실: 0.068354\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.123824\t최선의 손실: 0.068354\t정확도: 98.20%\n", + "10\t검증 세트 손실: 0.105179\t최선의 손실: 0.068354\t정확도: 98.12%\n", + "11\t검증 세트 손실: 0.094786\t최선의 손실: 0.068354\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.219165\t최선의 손실: 0.068354\t정확도: 97.34%\n", + "13\t검증 세트 손실: 0.062228\t최선의 손실: 0.062228\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.117933\t최선의 손실: 0.062228\t정확도: 97.89%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.121137\t최선의 손실: 0.121137\t정확도: 97.30%\n", - "1\t검증 세트 손실: 0.070906\t최선의 손실: 0.070906\t정확도: 98.08%\n", - "2\t검증 세트 손실: 0.085365\t최선의 손실: 0.070906\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.085952\t최선의 손실: 0.070906\t정확도: 97.73%\n", - "4\t검증 세트 손실: 0.095008\t최선의 손실: 0.070906\t정확도: 97.97%\n", - "5\t검증 세트 손실: 0.057167\t최선의 손실: 0.057167\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.144764\t최선의 손실: 0.057167\t정확도: 97.30%\n", - "7\t검증 세트 손실: 0.217731\t최선의 손실: 0.057167\t정확도: 96.17%\n", - "8\t검증 세트 손실: 0.090277\t최선의 손실: 0.057167\t정확도: 97.62%\n", - "9\t검증 세트 손실: 0.090789\t최선의 손실: 0.057167\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.095652\t최선의 손실: 0.057167\t정확도: 98.08%\n", - "11\t검증 세트 손실: 0.073820\t최선의 손실: 0.057167\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.110818\t최선의 손실: 0.057167\t정확도: 98.05%\n", - "13\t검증 세트 손실: 0.100247\t최선의 손실: 0.057167\t정확도: 97.73%\n", - "14\t검증 세트 손실: 0.099558\t최선의 손실: 0.057167\t정확도: 98.05%\n", - "15\t검증 세트 손실: 0.126182\t최선의 손실: 0.057167\t정확도: 97.77%\n", - "16\t검증 세트 손실: 0.072048\t최선의 손실: 0.057167\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.099430\t최선의 손실: 0.057167\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.131276\t최선의 손실: 0.057167\t정확도: 98.12%\n", - "19\t검증 세트 손실: 4.010344\t최선의 손실: 0.057167\t정확도: 92.92%\n", - "20\t검증 세트 손실: 0.283552\t최선의 손실: 0.057167\t정확도: 97.46%\n", - "21\t검증 세트 손실: 0.298757\t최선의 손실: 0.057167\t정확도: 97.77%\n", - "22\t검증 세트 손실: 0.241401\t최선의 손실: 0.057167\t정확도: 98.05%\n", - "23\t검증 세트 손실: 0.268764\t최선의 손실: 0.057167\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.203203\t최선의 손실: 0.057167\t정확도: 98.20%\n", - "25\t검증 세트 손실: 0.208211\t최선의 손실: 0.057167\t정확도: 98.32%\n", - "26\t검증 세트 손실: 0.224445\t최선의 손실: 0.057167\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.548299\t최선의 손실: 0.062228\t정확도: 95.78%\n", + "16\t검증 세트 손실: 0.157959\t최선의 손실: 0.062228\t정확도: 97.38%\n", + "17\t검증 세트 손실: 0.115973\t최선의 손실: 0.062228\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.158898\t최선의 손실: 0.062228\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.091144\t최선의 손실: 0.062228\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.124017\t최선의 손실: 0.062228\t정확도: 97.50%\n", + "21\t검증 세트 손실: 0.142588\t최선의 손실: 0.062228\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.100528\t최선의 손실: 0.062228\t정확도: 98.05%\n", + "23\t검증 세트 손실: 0.168163\t최선의 손실: 0.062228\t정확도: 98.40%\n", + "24\t검증 세트 손실: 2.412129\t최선의 손실: 0.062228\t정확도: 95.11%\n", + "25\t검증 세트 손실: 0.138783\t최선의 손실: 0.062228\t정확도: 97.62%\n", + "26\t검증 세트 손실: 0.084383\t최선의 손실: 0.062228\t정확도: 98.12%\n", + "27\t검증 세트 손실: 0.088495\t최선의 손실: 0.062228\t정확도: 98.05%\n", + "28\t검증 세트 손실: 0.170924\t최선의 손실: 0.062228\t정확도: 98.16%\n", + "29\t검증 세트 손실: 0.132540\t최선의 손실: 0.062228\t정확도: 98.24%\n", + "30\t검증 세트 손실: 0.446264\t최선의 손실: 0.062228\t정확도: 94.02%\n", + "31\t검증 세트 손실: 0.120299\t최선의 손실: 0.062228\t정확도: 97.73%\n", + "32\t검증 세트 손실: 0.095034\t최선의 손실: 0.062228\t정확도: 98.20%\n", + "33\t검증 세트 손실: 0.085257\t최선의 손실: 0.062228\t정확도: 98.40%\n", + "34\t검증 세트 손실: 0.095926\t최선의 손실: 0.062228\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50, total= 13.7s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50 \n", - "0\t검증 세트 손실: 0.105112\t최선의 손실: 0.105112\t정확도: 96.83%\n", - "1\t검증 세트 손실: 0.119679\t최선의 손실: 0.105112\t정확도: 96.72%\n", - "2\t검증 세트 손실: 0.070298\t최선의 손실: 0.070298\t정확도: 97.65%\n", - "3\t검증 세트 손실: 0.061979\t최선의 손실: 0.061979\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.063616\t최선의 손실: 0.061979\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.159490\t최선의 손실: 0.061979\t정확도: 96.83%\n", - "6\t검증 세트 손실: 0.174766\t최선의 손실: 0.061979\t정확도: 95.97%\n", - "7\t검증 세트 손실: 0.084139\t최선의 손실: 0.061979\t정확도: 97.50%\n", - "8\t검증 세트 손실: 0.103106\t최선의 손실: 0.061979\t정확도: 97.50%\n", - "9\t검증 세트 손실: 0.069663\t최선의 손실: 0.061979\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.070249\t최선의 손실: 0.061979\t정확도: 98.48%\n", - "11\t검증 세트 손실: 0.070775\t최선의 손실: 0.061979\t정확도: 98.36%\n", - "12\t검증 세트 손실: 0.077920\t최선의 손실: 0.061979\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.080037\t최선의 손실: 0.061979\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.068783\t최선의 손실: 0.061979\t정확도: 98.44%\n", - "15\t검증 세트 손실: 0.123447\t최선의 손실: 0.061979\t정확도: 97.81%\n", - "16\t검증 세트 손실: 0.401022\t최선의 손실: 0.061979\t정확도: 97.07%\n", - "17\t검증 세트 손실: 0.205209\t최선의 손실: 0.061979\t정확도: 97.38%\n", - "18\t검증 세트 손실: 0.175490\t최선의 손실: 0.061979\t정확도: 97.97%\n", - "19\t검증 세트 손실: 0.132414\t최선의 손실: 0.061979\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.183627\t최선의 손실: 0.061979\t정확도: 98.36%\n", - "21\t검증 세트 손실: 0.119784\t최선의 손실: 0.061979\t정확도: 98.28%\n", - "22\t검증 세트 손실: 0.181573\t최선의 손실: 0.061979\t정확도: 97.89%\n", - "23\t검증 세트 손실: 0.172342\t최선의 손실: 0.061979\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.172872\t최선의 손실: 0.061979\t정확도: 97.85%\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 16.6s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.090827\t최선의 손실: 0.090827\t정확도: 97.46%\n", + "1\t검증 세트 손실: 0.136834\t최선의 손실: 0.090827\t정확도: 96.60%\n", + "2\t검증 세트 손실: 0.067427\t최선의 손실: 0.067427\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.093009\t최선의 손실: 0.067427\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.113499\t최선의 손실: 0.067427\t정확도: 97.97%\n", + "5\t검증 세트 손실: 0.097950\t최선의 손실: 0.067427\t정확도: 97.46%\n", + "6\t검증 세트 손실: 0.077831\t최선의 손실: 0.067427\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.124879\t최선의 손실: 0.067427\t정확도: 97.50%\n", + "8\t검증 세트 손실: 0.053941\t최선의 손실: 0.053941\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.062078\t최선의 손실: 0.053941\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.115275\t최선의 손실: 0.053941\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.079267\t최선의 손실: 0.053941\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.109662\t최선의 손실: 0.053941\t정확도: 97.77%\n", + "13\t검증 세트 손실: 0.083829\t최선의 손실: 0.053941\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.101509\t최선의 손실: 0.053941\t정확도: 97.97%\n", + "15\t검증 세트 손실: 0.075049\t최선의 손실: 0.053941\t정확도: 98.44%\n", + "16\t검증 세트 손실: 0.100331\t최선의 손실: 0.053941\t정확도: 98.24%\n", + "17\t검증 세트 손실: 0.285082\t최선의 손실: 0.053941\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.160036\t최선의 손실: 0.053941\t정확도: 96.68%\n", + "19\t검증 세트 손실: 0.107135\t최선의 손실: 0.053941\t정확도: 98.05%\n", + "20\t검증 세트 손실: 0.096561\t최선의 손실: 0.053941\t정확도: 98.01%\n", + "21\t검증 세트 손실: 0.094391\t최선의 손실: 0.053941\t정확도: 98.08%\n", + "22\t검증 세트 손실: 0.139673\t최선의 손실: 0.053941\t정확도: 98.05%\n", + "23\t검증 세트 손실: 0.086908\t최선의 손실: 0.053941\t정확도: 98.48%\n", + "24\t검증 세트 손실: 0.094052\t최선의 손실: 0.053941\t정확도: 98.16%\n", + "25\t검증 세트 손실: 0.105610\t최선의 손실: 0.053941\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.130686\t최선의 손실: 0.053941\t정확도: 98.05%\n", + "27\t검증 세트 손실: 0.221740\t최선의 손실: 0.053941\t정확도: 97.46%\n", + "28\t검증 세트 손실: 0.161651\t최선의 손실: 0.053941\t정확도: 98.36%\n", + "29\t검증 세트 손실: 0.448802\t최선의 손실: 0.053941\t정확도: 97.30%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50, total= 13.2s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50 \n", - "0\t검증 세트 손실: 0.091645\t최선의 손실: 0.091645\t정확도: 97.73%\n", - "1\t검증 세트 손실: 0.098688\t최선의 손실: 0.091645\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.074697\t최선의 손실: 0.074697\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.080217\t최선의 손실: 0.074697\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.172856\t최선의 손실: 0.074697\t정확도: 95.70%\n", - "5\t검증 세트 손실: 0.226557\t최선의 손실: 0.074697\t정확도: 96.29%\n", - "6\t검증 세트 손실: 0.223732\t최선의 손실: 0.074697\t정확도: 96.48%\n", - "7\t검증 세트 손실: 0.093877\t최선의 손실: 0.074697\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.106671\t최선의 손실: 0.074697\t정확도: 98.16%\n", - "9\t검증 세트 손실: 0.113766\t최선의 손실: 0.074697\t정확도: 98.01%\n", - "10\t검증 세트 손실: 0.101972\t최선의 손실: 0.074697\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.158243\t최선의 손실: 0.074697\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.114188\t최선의 손실: 0.074697\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.192354\t최선의 손실: 0.074697\t정확도: 97.62%\n", - "14\t검증 세트 손실: 0.300916\t최선의 손실: 0.074697\t정확도: 95.50%\n", - "15\t검증 세트 손실: 0.331469\t최선의 손실: 0.074697\t정확도: 96.87%\n", - "16\t검증 세트 손실: 0.090687\t최선의 손실: 0.074697\t정확도: 98.08%\n", - "17\t검증 세트 손실: 0.113787\t최선의 손실: 0.074697\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.093577\t최선의 손실: 0.074697\t정확도: 98.44%\n", - "19\t검증 세트 손실: 0.941514\t최선의 손실: 0.074697\t정확도: 98.44%\n", - "20\t검증 세트 손실: 0.284207\t최선의 손실: 0.074697\t정확도: 98.12%\n", - "21\t검증 세트 손실: 0.587284\t최선의 손실: 0.074697\t정확도: 97.97%\n", - "22\t검증 세트 손실: 0.250640\t최선의 손실: 0.074697\t정확도: 97.73%\n", - "23\t검증 세트 손실: 0.134260\t최선의 손실: 0.074697\t정확도: 98.20%\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 14.4s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 1.312701\t최선의 손실: 1.312701\t정확도: 92.49%\n", + "1\t검증 세트 손실: 0.762542\t최선의 손실: 0.762542\t정확도: 95.50%\n", + "2\t검증 세트 손실: 249.859589\t최선의 손실: 0.762542\t정확도: 91.28%\n", + "3\t검증 세트 손실: 34.614529\t최선의 손실: 0.762542\t정확도: 96.21%\n", + "4\t검증 세트 손실: 313.906342\t최선의 손실: 0.762542\t정확도: 84.99%\n", + "5\t검증 세트 손실: 98.902550\t최선의 손실: 0.762542\t정확도: 94.25%\n", + "6\t검증 세트 손실: 1611.064941\t최선의 손실: 0.762542\t정확도: 94.80%\n", + "7\t검증 세트 손실: 131.183395\t최선의 손실: 0.762542\t정확도: 96.52%\n", + "8\t검증 세트 손실: 229.973740\t최선의 손실: 0.762542\t정확도: 95.97%\n", + "9\t검증 세트 손실: 206.505814\t최선의 손실: 0.762542\t정확도: 96.83%\n", + "10\t검증 세트 손실: 3870.308838\t최선의 손실: 0.762542\t정확도: 96.33%\n", + "11\t검증 세트 손실: 1706.410278\t최선의 손실: 0.762542\t정확도: 97.38%\n", + "12\t검증 세트 손실: 1698.663818\t최선의 손실: 0.762542\t정확도: 96.64%\n", + "13\t검증 세트 손실: 31500.634766\t최선의 손실: 0.762542\t정확도: 96.13%\n", + "14\t검증 세트 손실: 2726.080811\t최선의 손실: 0.762542\t정확도: 95.23%\n", + "15\t검증 세트 손실: 1572.135010\t최선의 손실: 0.762542\t정확도: 97.54%\n", + "16\t검증 세트 손실: 1679.919312\t최선의 손실: 0.762542\t정확도: 96.68%\n", + "17\t검증 세트 손실: 17126.480469\t최선의 손실: 0.762542\t정확도: 97.30%\n", + "18\t검증 세트 손실: 4180.117676\t최선의 손실: 0.762542\t정확도: 96.29%\n", + "19\t검증 세트 손실: 7803.385254\t최선의 손실: 0.762542\t정확도: 97.38%\n", + "20\t검증 세트 손실: 3907.536865\t최선의 손실: 0.762542\t정확도: 95.82%\n", + "21\t검증 세트 손실: 2428.490479\t최선의 손실: 0.762542\t정확도: 96.83%\n", + "22\t검증 세트 손실: 9499.864258\t최선의 손실: 0.762542\t정확도: 97.07%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=50, total= 12.4s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 2.191029\t최선의 손실: 2.191029\t정확도: 94.29%\n", - "1\t검증 세트 손실: 0.550576\t최선의 손실: 0.550576\t정확도: 94.64%\n", - "2\t검증 세트 손실: 468.513306\t최선의 손실: 0.550576\t정확도: 89.68%\n", - "3\t검증 세트 손실: 143.625900\t최선의 손실: 0.550576\t정확도: 95.11%\n", - "4\t검증 세트 손실: 1367.518921\t최선의 손실: 0.550576\t정확도: 93.82%\n", - "5\t검증 세트 손실: 549.279602\t최선의 손실: 0.550576\t정확도: 90.11%\n", - "6\t검증 세트 손실: 70.266670\t최선의 손실: 0.550576\t정확도: 96.33%\n", - "7\t검증 세트 손실: 2655.786621\t최선의 손실: 0.550576\t정확도: 93.35%\n", - "8\t검증 세트 손실: 1381.712769\t최선의 손실: 0.550576\t정확도: 95.78%\n", - "9\t검증 세트 손실: 1554.111816\t최선의 손실: 0.550576\t정확도: 97.03%\n", - "10\t검증 세트 손실: 24602.771484\t최선의 손실: 0.550576\t정확도: 81.63%\n", - "11\t검증 세트 손실: 2799.895508\t최선의 손실: 0.550576\t정확도: 95.43%\n", - "12\t검증 세트 손실: 7181.537109\t최선의 손실: 0.550576\t정확도: 96.01%\n", - "13\t검증 세트 손실: 4905.388672\t최선의 손실: 0.550576\t정확도: 96.52%\n", - "14\t검증 세트 손실: 1159.943115\t최선의 손실: 0.550576\t정확도: 93.90%\n", - "15\t검증 세트 손실: 2589.167236\t최선의 손실: 0.550576\t정확도: 97.11%\n", - "16\t검증 세트 손실: 3253.500000\t최선의 손실: 0.550576\t정확도: 94.37%\n", - "17\t검증 세트 손실: 5564.344238\t최선의 손실: 0.550576\t정확도: 96.40%\n", - "18\t검증 세트 손실: 3185.916992\t최선의 손실: 0.550576\t정확도: 95.70%\n", - "19\t검증 세트 손실: 6553.982422\t최선의 손실: 0.550576\t정확도: 94.14%\n", - "20\t검증 세트 손실: 1450.538574\t최선의 손실: 0.550576\t정확도: 97.73%\n", - "21\t검증 세트 손실: 4040.645020\t최선의 손실: 0.550576\t정확도: 97.62%\n", - "22\t검증 세트 손실: 4721.737793\t최선의 손실: 0.550576\t정확도: 97.85%\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 48.5s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 14.325761\t최선의 손실: 14.325761\t정확도: 90.58%\n", + "1\t검증 세트 손실: 70.137459\t최선의 손실: 14.325761\t정확도: 94.53%\n", + "2\t검증 세트 손실: 36.728592\t최선의 손실: 14.325761\t정확도: 93.59%\n", + "3\t검증 세트 손실: 915.429932\t최선의 손실: 14.325761\t정확도: 93.71%\n", + "4\t검증 세트 손실: 129.709686\t최선의 손실: 14.325761\t정확도: 94.61%\n", + "5\t검증 세트 손실: 46.370987\t최선의 손실: 14.325761\t정확도: 96.17%\n", + "6\t검증 세트 손실: 10899.466797\t최선의 손실: 14.325761\t정확도: 95.54%\n", + "7\t검증 세트 손실: 709.869263\t최선의 손실: 14.325761\t정확도: 94.57%\n", + "8\t검증 세트 손실: 553.148804\t최선의 손실: 14.325761\t정확도: 96.17%\n", + "9\t검증 세트 손실: 19511.814453\t최선의 손실: 14.325761\t정확도: 94.61%\n", + "10\t검증 세트 손실: 863.486145\t최선의 손실: 14.325761\t정확도: 96.01%\n", + "11\t검증 세트 손실: 987.998657\t최선의 손실: 14.325761\t정확도: 95.11%\n", + "12\t검증 세트 손실: 1424.074829\t최선의 손실: 14.325761\t정확도: 95.11%\n", + "13\t검증 세트 손실: 22998.408203\t최선의 손실: 14.325761\t정확도: 90.42%\n", + "14\t검증 세트 손실: 1392.955566\t최선의 손실: 14.325761\t정확도: 95.82%\n", + "15\t검증 세트 손실: 1497.660278\t최선의 손실: 14.325761\t정확도: 96.79%\n", + "16\t검증 세트 손실: 106977.679688\t최선의 손실: 14.325761\t정확도: 91.79%\n", + "17\t검증 세트 손실: 2934.916260\t최선의 손실: 14.325761\t정확도: 96.76%\n", + "18\t검증 세트 손실: 8683.708984\t최선의 손실: 14.325761\t정확도: 97.22%\n", + "19\t검증 세트 손실: 4900.908203\t최선의 손실: 14.325761\t정확도: 96.79%\n", + "20\t검증 세트 손실: 3848.331543\t최선의 손실: 14.325761\t정확도: 97.42%\n", + "21\t검증 세트 손실: 8611.396484\t최선의 손실: 14.325761\t정확도: 97.54%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120, total= 52.3s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 0.888117\t최선의 손실: 0.888117\t정확도: 93.04%\n", - "1\t검증 세트 손실: 1451.503662\t최선의 손실: 0.888117\t정확도: 86.40%\n", - "2\t검증 세트 손실: 902.686279\t최선의 손실: 0.888117\t정확도: 84.56%\n", - "3\t검증 세트 손실: 116.941811\t최선의 손실: 0.888117\t정확도: 95.27%\n", - "4\t검증 세트 손실: 1044.688965\t최선의 손실: 0.888117\t정확도: 90.30%\n", - "5\t검증 세트 손실: 60.188244\t최선의 손실: 0.888117\t정확도: 96.76%\n", - "6\t검증 세트 손실: 582.721558\t최선의 손실: 0.888117\t정확도: 95.78%\n", - "7\t검증 세트 손실: 161.514236\t최선의 손실: 0.888117\t정확도: 96.52%\n", - "8\t검증 세트 손실: 23808.359375\t최선의 손실: 0.888117\t정확도: 93.00%\n", - "9\t검증 세트 손실: 1830.198608\t최선의 손실: 0.888117\t정확도: 94.61%\n", - "10\t검증 세트 손실: 1752.950195\t최선의 손실: 0.888117\t정확도: 97.07%\n", - "11\t검증 세트 손실: 64718.109375\t최선의 손실: 0.888117\t정확도: 90.73%\n", - "12\t검증 세트 손실: 2440.778564\t최선의 손실: 0.888117\t정확도: 96.72%\n", - "13\t검증 세트 손실: 2417.018066\t최선의 손실: 0.888117\t정확도: 95.35%\n", - "14\t검증 세트 손실: 3608.109863\t최선의 손실: 0.888117\t정확도: 96.95%\n", - "15\t검증 세트 손실: 3748.943359\t최선의 손실: 0.888117\t정확도: 96.87%\n", - "16\t검증 세트 손실: 3390.311279\t최선의 손실: 0.888117\t정확도: 91.52%\n", - "17\t검증 세트 손실: 10835.370117\t최선의 손실: 0.888117\t정확도: 96.40%\n", - "18\t검증 세트 손실: 3144.320801\t최선의 손실: 0.888117\t정확도: 97.15%\n", - "19\t검증 세트 손실: 2038.895630\t최선의 손실: 0.888117\t정확도: 97.30%\n", - "20\t검증 세트 손실: 67374.390625\t최선의 손실: 0.888117\t정확도: 96.40%\n", - "21\t검증 세트 손실: 11923.332031\t최선의 손실: 0.888117\t정확도: 97.15%\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 46.6s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 1829.646851\t최선의 손실: 1829.646851\t정확도: 47.62%\n", + "1\t검증 세트 손실: 77.968071\t최선의 손실: 77.968071\t정확도: 95.11%\n", + "2\t검증 세트 손실: 83.768089\t최선의 손실: 77.968071\t정확도: 93.67%\n", + "3\t검증 세트 손실: 167.440018\t최선의 손실: 77.968071\t정확도: 94.41%\n", + "4\t검증 세트 손실: 1091.930054\t최선의 손실: 77.968071\t정확도: 95.66%\n", + "5\t검증 세트 손실: 107.904732\t최선의 손실: 77.968071\t정확도: 96.72%\n", + "6\t검증 세트 손실: 10451.790039\t최선의 손실: 77.968071\t정확도: 95.11%\n", + "7\t검증 세트 손실: 1026.292480\t최선의 손실: 77.968071\t정확도: 94.76%\n", + "8\t검증 세트 손실: 5017.815430\t최선의 손실: 77.968071\t정확도: 78.19%\n", + "9\t검증 세트 손실: 662.068420\t최선의 손실: 77.968071\t정확도: 97.26%\n", + "10\t검증 세트 손실: 45943.960938\t최선의 손실: 77.968071\t정확도: 92.85%\n", + "11\t검증 세트 손실: 905.766724\t최선의 손실: 77.968071\t정확도: 97.07%\n", + "12\t검증 세트 손실: 734.149658\t최선의 손실: 77.968071\t정확도: 95.39%\n", + "13\t검증 세트 손실: 5384.620117\t최선의 손실: 77.968071\t정확도: 96.05%\n", + "14\t검증 세트 손실: 1305.375977\t최선의 손실: 77.968071\t정확도: 97.03%\n", + "15\t검증 세트 손실: 1186.859619\t최선의 손실: 77.968071\t정확도: 95.97%\n", + "16\t검증 세트 손실: 5646.849121\t최선의 손실: 77.968071\t정확도: 97.22%\n", + "17\t검증 세트 손실: 2375.617432\t최선의 손실: 77.968071\t정확도: 97.03%\n", + "18\t검증 세트 손실: 3187.966553\t최선의 손실: 77.968071\t정확도: 96.17%\n", + "19\t검증 세트 손실: 8160.786621\t최선의 손실: 77.968071\t정확도: 95.82%\n", + "20\t검증 세트 손실: 9890.151367\t최선의 손실: 77.968071\t정확도: 97.15%\n", + "21\t검증 세트 손실: 4887.056152\t최선의 손실: 77.968071\t정확도: 95.86%\n", + "22\t검증 세트 손실: 9573.449219\t최선의 손실: 77.968071\t정확도: 97.77%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120, total= 48.3s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 2.861630\t최선의 손실: 2.861630\t정확도: 84.91%\n", - "1\t검증 세트 손실: 7026.324707\t최선의 손실: 2.861630\t정확도: 65.56%\n", - "2\t검증 세트 손실: 28.677971\t최선의 손실: 2.861630\t정확도: 95.47%\n", - "3\t검증 세트 손실: 22.225904\t최선의 손실: 2.861630\t정확도: 95.00%\n", - "4\t검증 세트 손실: 712.787292\t최선의 손실: 2.861630\t정확도: 94.45%\n", - "5\t검증 세트 손실: 505.192535\t최선의 손실: 2.861630\t정확도: 91.52%\n", - "6\t검증 세트 손실: 581.789978\t최선의 손실: 2.861630\t정확도: 94.96%\n", - "7\t검증 세트 손실: 60.615391\t최선의 손실: 2.861630\t정확도: 96.48%\n", - "8\t검증 세트 손실: 4728.928711\t최선의 손실: 2.861630\t정확도: 90.38%\n" + "[CV] n_neurons=120, learning_rate=0.02, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 48.8s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.900360\t최선의 손실: 0.900360\t정확도: 58.99%\n", + "1\t검증 세트 손실: 0.508025\t최선의 손실: 0.508025\t정확도: 81.39%\n", + "2\t검증 세트 손실: 0.307148\t최선의 손실: 0.307148\t정확도: 91.44%\n", + "3\t검증 세트 손실: 0.300148\t최선의 손실: 0.300148\t정확도: 90.77%\n", + "4\t검증 세트 손실: 0.214248\t최선의 손실: 0.214248\t정확도: 94.18%\n", + "5\t검증 세트 손실: 0.206679\t최선의 손실: 0.206679\t정확도: 95.27%\n", + "6\t검증 세트 손실: 0.183758\t최선의 손실: 0.183758\t정확도: 95.23%\n", + "7\t검증 세트 손실: 0.212786\t최선의 손실: 0.183758\t정확도: 94.84%\n", + "8\t검증 세트 손실: 0.267476\t최선의 손실: 0.183758\t정확도: 91.99%\n", + "9\t검증 세트 손실: 0.180150\t최선의 손실: 0.180150\t정확도: 96.29%\n", + "10\t검증 세트 손실: 0.187788\t최선의 손실: 0.180150\t정확도: 95.31%\n", + "11\t검증 세트 손실: 0.152889\t최선의 손실: 0.152889\t정확도: 96.44%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "9\t검증 세트 손실: 526.303162\t최선의 손실: 2.861630\t정확도: 96.21%\n", - "10\t검증 세트 손실: 558.767883\t최선의 손실: 2.861630\t정확도: 94.25%\n", - "11\t검증 세트 손실: 1046.698486\t최선의 손실: 2.861630\t정확도: 96.17%\n", - "12\t검증 세트 손실: 445.640015\t최선의 손실: 2.861630\t정확도: 95.82%\n", - "13\t검증 세트 손실: 650.660645\t최선의 손실: 2.861630\t정확도: 96.29%\n", - "14\t검증 세트 손실: 633.673401\t최선의 손실: 2.861630\t정확도: 96.99%\n", - "15\t검증 세트 손실: 4291.384766\t최선의 손실: 2.861630\t정확도: 96.56%\n", - "16\t검증 세트 손실: 1141.078003\t최선의 손실: 2.861630\t정확도: 96.99%\n", - "17\t검증 세트 손실: 1373.047363\t최선의 손실: 2.861630\t정확도: 97.46%\n", - "18\t검증 세트 손실: 3618.889404\t최선의 손실: 2.861630\t정확도: 96.64%\n", - "19\t검증 세트 손실: 3446.796387\t최선의 손실: 2.861630\t정확도: 95.35%\n", - "20\t검증 세트 손실: 2572.293701\t최선의 손실: 2.861630\t정확도: 96.95%\n", - "21\t검증 세트 손실: 2632.004395\t최선의 손실: 2.861630\t정확도: 96.76%\n", + "12\t검증 세트 손실: 0.126588\t최선의 손실: 0.126588\t정확도: 96.72%\n", + "13\t검증 세트 손실: 0.147774\t최선의 손실: 0.126588\t정확도: 96.60%\n", + "14\t검증 세트 손실: 0.138966\t최선의 손실: 0.126588\t정확도: 96.60%\n", + "15\t검증 세트 손실: 0.139981\t최선의 손실: 0.126588\t정확도: 96.95%\n", + "16\t검증 세트 손실: 0.124748\t최선의 손실: 0.124748\t정확도: 97.03%\n", + "17\t검증 세트 손실: 0.134454\t최선의 손실: 0.124748\t정확도: 97.11%\n", + "18\t검증 세트 손실: 0.134459\t최선의 손실: 0.124748\t정확도: 97.19%\n", + "19\t검증 세트 손실: 0.144621\t최선의 손실: 0.124748\t정확도: 96.76%\n", + "20\t검증 세트 손실: 0.139736\t최선의 손실: 0.124748\t정확도: 96.87%\n", + "21\t검증 세트 손실: 0.145177\t최선의 손실: 0.124748\t정확도: 96.68%\n", + "22\t검증 세트 손실: 0.114993\t최선의 손실: 0.114993\t정확도: 97.34%\n", + "23\t검증 세트 손실: 0.121165\t최선의 손실: 0.114993\t정확도: 97.03%\n", + "24\t검증 세트 손실: 0.129509\t최선의 손실: 0.114993\t정확도: 97.26%\n", + "25\t검증 세트 손실: 0.120026\t최선의 손실: 0.114993\t정확도: 97.38%\n", + "26\t검증 세트 손실: 0.125088\t최선의 손실: 0.114993\t정확도: 97.30%\n", + "27\t검증 세트 손실: 0.133975\t최선의 손실: 0.114993\t정확도: 97.54%\n", + "28\t검증 세트 손실: 0.121667\t최선의 손실: 0.114993\t정확도: 97.19%\n", + "29\t검증 세트 손실: 0.146491\t최선의 손실: 0.114993\t정확도: 97.15%\n", + "30\t검증 세트 손실: 0.134108\t최선의 손실: 0.114993\t정확도: 97.26%\n", + "31\t검증 세트 손실: 0.165341\t최선의 손실: 0.114993\t정확도: 97.22%\n", + "32\t검증 세트 손실: 0.139099\t최선의 손실: 0.114993\t정확도: 97.26%\n", + "33\t검증 세트 손실: 0.131882\t최선의 손실: 0.114993\t정확도: 97.19%\n", + "34\t검증 세트 손실: 0.125766\t최선의 손실: 0.114993\t정확도: 97.38%\n", + "35\t검증 세트 손실: 0.199772\t최선의 손실: 0.114993\t정확도: 96.79%\n", + "36\t검증 세트 손실: 0.185112\t최선의 손실: 0.114993\t정확도: 97.46%\n", + "37\t검증 세트 손실: 0.130748\t최선의 손실: 0.114993\t정확도: 97.03%\n", + "38\t검증 세트 손실: 0.176129\t최선의 손실: 0.114993\t정확도: 97.34%\n", + "39\t검증 세트 손실: 0.245844\t최선의 손실: 0.114993\t정확도: 95.66%\n", + "40\t검증 세트 손실: 0.151991\t최선의 손실: 0.114993\t정확도: 97.54%\n", + "41\t검증 세트 손실: 0.136046\t최선의 손실: 0.114993\t정확도: 97.54%\n", + "42\t검증 세트 손실: 0.137890\t최선의 손실: 0.114993\t정확도: 97.58%\n", + "43\t검증 세트 손실: 0.134780\t최선의 손실: 0.114993\t정확도: 97.38%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=120, total= 52.5s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 1.806977\t최선의 손실: 1.806977\t정확도: 59.19%\n", - "1\t검증 세트 손실: 0.809881\t최선의 손실: 0.809881\t정확도: 67.40%\n", - "2\t검증 세트 손실: 0.559785\t최선의 손실: 0.559785\t정확도: 83.78%\n", - "3\t검증 세트 손실: 0.492852\t최선의 손실: 0.492852\t정확도: 84.83%\n", - "4\t검증 세트 손실: 0.379005\t최선의 손실: 0.379005\t정확도: 89.13%\n", - "5\t검증 세트 손실: 0.379707\t최선의 손실: 0.379005\t정확도: 89.52%\n", - "6\t검증 세트 손실: 0.323126\t최선의 손실: 0.323126\t정확도: 91.28%\n", - "7\t검증 세트 손실: 0.346183\t최선의 손실: 0.323126\t정확도: 90.66%\n", - "8\t검증 세트 손실: 0.295331\t최선의 손실: 0.295331\t정확도: 92.06%\n", - "9\t검증 세트 손실: 0.269320\t최선의 손실: 0.269320\t정확도: 93.28%\n", - "10\t검증 세트 손실: 0.258228\t최선의 손실: 0.258228\t정확도: 93.59%\n", - "11\t검증 세트 손실: 0.294986\t최선의 손실: 0.258228\t정확도: 93.20%\n", - "12\t검증 세트 손실: 0.234410\t최선의 손실: 0.234410\t정확도: 94.80%\n", - "13\t검증 세트 손실: 0.244054\t최선의 손실: 0.234410\t정확도: 95.39%\n", - "14\t검증 세트 손실: 0.269746\t최선의 손실: 0.234410\t정확도: 94.06%\n", - "15\t검증 세트 손실: 0.240322\t최선의 손실: 0.234410\t정확도: 95.11%\n", - "16\t검증 세트 손실: 0.226761\t최선의 손실: 0.226761\t정확도: 95.74%\n", - "17\t검증 세트 손실: 0.254592\t최선의 손실: 0.226761\t정확도: 95.43%\n", - "18\t검증 세트 손실: 0.193520\t최선의 손실: 0.193520\t정확도: 96.17%\n", - "19\t검증 세트 손실: 0.176751\t최선의 손실: 0.176751\t정확도: 96.60%\n", - "20\t검증 세트 손실: 0.158227\t최선의 손실: 0.158227\t정확도: 97.19%\n", - "21\t검증 세트 손실: 0.191871\t최선의 손실: 0.158227\t정확도: 96.68%\n", - "22\t검증 세트 손실: 0.163650\t최선의 손실: 0.158227\t정확도: 96.68%\n", - "23\t검증 세트 손실: 0.161560\t최선의 손실: 0.158227\t정확도: 96.99%\n", - "24\t검증 세트 손실: 0.194619\t최선의 손실: 0.158227\t정확도: 96.36%\n", - "25\t검증 세트 손실: 0.131908\t최선의 손실: 0.131908\t정확도: 96.95%\n", - "26\t검증 세트 손실: 0.174713\t최선의 손실: 0.131908\t정확도: 96.48%\n", - "27\t검증 세트 손실: 0.148331\t최선의 손실: 0.131908\t정확도: 97.50%\n", - "28\t검증 세트 손실: 0.151780\t최선의 손실: 0.131908\t정확도: 97.07%\n", - "29\t검증 세트 손실: 0.180111\t최선의 손실: 0.131908\t정확도: 96.83%\n", - "30\t검증 세트 손실: 0.152027\t최선의 손실: 0.131908\t정확도: 97.22%\n", - "31\t검증 세트 손실: 0.138725\t최선의 손실: 0.131908\t정확도: 97.26%\n", - "32\t검증 세트 손실: 0.169938\t최선의 손실: 0.131908\t정확도: 97.22%\n", - "33\t검증 세트 손실: 0.135861\t최선의 손실: 0.131908\t정확도: 97.34%\n", - "34\t검증 세트 손실: 0.152764\t최선의 손실: 0.131908\t정확도: 97.15%\n", - "35\t검증 세트 손실: 0.168375\t최선의 손실: 0.131908\t정확도: 96.72%\n", - "36\t검증 세트 손실: 0.156932\t최선의 손실: 0.131908\t정확도: 97.62%\n", - "37\t검증 세트 손실: 0.143252\t최선의 손실: 0.131908\t정확도: 97.15%\n", - "38\t검증 세트 손실: 0.154851\t최선의 손실: 0.131908\t정확도: 97.07%\n", - "39\t검증 세트 손실: 0.136753\t최선의 손실: 0.131908\t정확도: 97.50%\n", - "40\t검증 세트 손실: 0.154372\t최선의 손실: 0.131908\t정확도: 97.19%\n", - "41\t검증 세트 손실: 0.146505\t최선의 손실: 0.131908\t정확도: 97.46%\n", - "42\t검증 세트 손실: 0.151017\t최선의 손실: 0.131908\t정확도: 97.22%\n", - "43\t검증 세트 손실: 0.153815\t최선의 손실: 0.131908\t정확도: 97.42%\n", - "44\t검증 세트 손실: 0.178019\t최선의 손실: 0.131908\t정확도: 97.07%\n", - "45\t검증 세트 손실: 0.159920\t최선의 손실: 0.131908\t정확도: 97.34%\n", - "46\t검증 세트 손실: 0.130484\t최선의 손실: 0.130484\t정확도: 97.77%\n", - "47\t검증 세트 손실: 0.150000\t최선의 손실: 0.130484\t정확도: 97.38%\n", - "48\t검증 세트 손실: 0.145951\t최선의 손실: 0.130484\t정확도: 97.38%\n", - "49\t검증 세트 손실: 0.163293\t최선의 손실: 0.130484\t정확도: 96.95%\n", - "50\t검증 세트 손실: 0.145887\t최선의 손실: 0.130484\t정확도: 97.42%\n", - "51\t검증 세트 손실: 0.147842\t최선의 손실: 0.130484\t정확도: 97.15%\n", - "52\t검증 세트 손실: 0.139897\t최선의 손실: 0.130484\t정확도: 97.34%\n", - "53\t검증 세트 손실: 0.163539\t최선의 손실: 0.130484\t정확도: 97.26%\n", - "54\t검증 세트 손실: 0.163130\t최선의 손실: 0.130484\t정확도: 96.79%\n", - "55\t검증 세트 손실: 0.142913\t최선의 손실: 0.130484\t정확도: 97.38%\n", - "56\t검증 세트 손실: 0.152211\t최선의 손실: 0.130484\t정확도: 96.95%\n", - "57\t검증 세트 손실: 0.191550\t최선의 손실: 0.130484\t정확도: 96.79%\n", - "58\t검증 세트 손실: 0.138296\t최선의 손실: 0.130484\t정확도: 97.26%\n", - "59\t검증 세트 손실: 0.174876\t최선의 손실: 0.130484\t정확도: 96.95%\n", - "60\t검증 세트 손실: 0.146157\t최선의 손실: 0.130484\t정확도: 97.65%\n", - "61\t검증 세트 손실: 0.169633\t최선의 손실: 0.130484\t정확도: 97.34%\n", - "62\t검증 세트 손실: 0.180838\t최선의 손실: 0.130484\t정확도: 97.07%\n", - "63\t검증 세트 손실: 0.179646\t최선의 손실: 0.130484\t정확도: 97.26%\n", - "64\t검증 세트 손실: 0.178301\t최선의 손실: 0.130484\t정확도: 97.54%\n", - "65\t검증 세트 손실: 0.170125\t최선의 손실: 0.130484\t정확도: 97.30%\n", - "66\t검증 세트 손실: 0.199896\t최선의 손실: 0.130484\t정확도: 97.38%\n", - "67\t검증 세트 손실: 0.188461\t최선의 손실: 0.130484\t정확도: 97.22%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=, total= 2.9s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.490315\t최선의 손실: 0.490315\t정확도: 80.26%\n", + "1\t검증 세트 손실: 0.352010\t최선의 손실: 0.352010\t정확도: 89.17%\n", + "2\t검증 세트 손실: 0.183750\t최선의 손실: 0.183750\t정확도: 94.21%\n", + "3\t검증 세트 손실: 0.146983\t최선의 손실: 0.146983\t정확도: 95.74%\n", + "4\t검증 세트 손실: 0.140204\t최선의 손실: 0.140204\t정확도: 96.36%\n", + "5\t검증 세트 손실: 0.151798\t최선의 손실: 0.140204\t정확도: 95.82%\n", + "6\t검증 세트 손실: 0.115574\t최선의 손실: 0.115574\t정확도: 97.03%\n", + "7\t검증 세트 손실: 0.122439\t최선의 손실: 0.115574\t정확도: 96.52%\n", + "8\t검증 세트 손실: 0.134584\t최선의 손실: 0.115574\t정확도: 96.91%\n", + "9\t검증 세트 손실: 0.119890\t최선의 손실: 0.115574\t정확도: 97.22%\n", + "10\t검증 세트 손실: 0.116296\t최선의 손실: 0.115574\t정확도: 97.07%\n", + "11\t검증 세트 손실: 0.118845\t최선의 손실: 0.115574\t정확도: 97.07%\n", + "12\t검증 세트 손실: 0.141965\t최선의 손실: 0.115574\t정확도: 96.29%\n", + "13\t검증 세트 손실: 0.109899\t최선의 손실: 0.109899\t정확도: 96.91%\n", + "14\t검증 세트 손실: 0.119156\t최선의 손실: 0.109899\t정확도: 97.07%\n", + "15\t검증 세트 손실: 0.128257\t최선의 손실: 0.109899\t정확도: 96.33%\n", + "16\t검증 세트 손실: 0.129756\t최선의 손실: 0.109899\t정확도: 96.56%\n", + "17\t검증 세트 손실: 0.110828\t최선의 손실: 0.109899\t정확도: 96.99%\n", + "18\t검증 세트 손실: 0.168807\t최선의 손실: 0.109899\t정확도: 96.52%\n", + "19\t검증 세트 손실: 0.128299\t최선의 손실: 0.109899\t정확도: 96.72%\n", + "20\t검증 세트 손실: 0.120672\t최선의 손실: 0.109899\t정확도: 96.40%\n", + "21\t검증 세트 손실: 0.132809\t최선의 손실: 0.109899\t정확도: 96.99%\n", + "22\t검증 세트 손실: 0.113561\t최선의 손실: 0.109899\t정확도: 97.15%\n", + "23\t검증 세트 손실: 0.128495\t최선의 손실: 0.109899\t정확도: 96.79%\n", + "24\t검증 세트 손실: 0.117929\t최선의 손실: 0.109899\t정확도: 97.11%\n", + "25\t검증 세트 손실: 0.105230\t최선의 손실: 0.105230\t정확도: 97.38%\n", + "26\t검증 세트 손실: 0.130919\t최선의 손실: 0.105230\t정확도: 95.97%\n", + "27\t검증 세트 손실: 0.111582\t최선의 손실: 0.105230\t정확도: 97.30%\n", + "28\t검증 세트 손실: 0.147635\t최선의 손실: 0.105230\t정확도: 96.64%\n", + "29\t검증 세트 손실: 0.157496\t최선의 손실: 0.105230\t정확도: 96.40%\n", + "30\t검증 세트 손실: 0.110687\t최선의 손실: 0.105230\t정확도: 97.26%\n", + "31\t검증 세트 손실: 0.102060\t최선의 손실: 0.102060\t정확도: 97.19%\n", + "32\t검증 세트 손실: 0.107587\t최선의 손실: 0.102060\t정확도: 97.03%\n", + "33\t검증 세트 손실: 0.125583\t최선의 손실: 0.102060\t정확도: 97.38%\n", + "34\t검증 세트 손실: 0.265348\t최선의 손실: 0.102060\t정확도: 94.68%\n", + "35\t검증 세트 손실: 0.216642\t최선의 손실: 0.102060\t정확도: 95.35%\n", + "36\t검증 세트 손실: 0.137284\t최선의 손실: 0.102060\t정확도: 96.83%\n", + "37\t검증 세트 손실: 0.144876\t최선의 손실: 0.102060\t정확도: 96.91%\n", + "38\t검증 세트 손실: 0.128198\t최선의 손실: 0.102060\t정확도: 96.95%\n", + "39\t검증 세트 손실: 0.137774\t최선의 손실: 0.102060\t정확도: 96.95%\n", + "40\t검증 세트 손실: 0.110625\t최선의 손실: 0.102060\t정확도: 97.42%\n", + "41\t검증 세트 손실: 0.106553\t최선의 손실: 0.102060\t정확도: 97.42%\n", + "42\t검증 세트 손실: 0.100584\t최선의 손실: 0.100584\t정확도: 97.81%\n", + "43\t검증 세트 손실: 0.142774\t최선의 손실: 0.100584\t정확도: 97.11%\n", + "44\t검증 세트 손실: 0.117894\t최선의 손실: 0.100584\t정확도: 97.11%\n", + "45\t검증 세트 손실: 0.123951\t최선의 손실: 0.100584\t정확도: 97.30%\n", + "46\t검증 세트 손실: 0.112848\t최선의 손실: 0.100584\t정확도: 97.30%\n", + "47\t검증 세트 손실: 0.151597\t최선의 손실: 0.100584\t정확도: 97.11%\n", + "48\t검증 세트 손실: 0.140804\t최선의 손실: 0.100584\t정확도: 97.26%\n", + "49\t검증 세트 손실: 0.135355\t최선의 손실: 0.100584\t정확도: 97.22%\n", + "50\t검증 세트 손실: 0.179031\t최선의 손실: 0.100584\t정확도: 97.34%\n", + "51\t검증 세트 손실: 0.132474\t최선의 손실: 0.100584\t정확도: 97.38%\n", + "52\t검증 세트 손실: 0.224892\t최선의 손실: 0.100584\t정확도: 97.11%\n", + "53\t검증 세트 손실: 734.188293\t최선의 손실: 0.100584\t정확도: 19.08%\n", + "54\t검증 세트 손실: 3.648514\t최선의 손실: 0.100584\t정확도: 19.27%\n", + "55\t검증 세트 손실: 1.652338\t최선의 손실: 0.100584\t정확도: 18.73%\n", + "56\t검증 세트 손실: 1.609298\t최선의 손실: 0.100584\t정확도: 22.01%\n", + "57\t검증 세트 손실: 1.620547\t최선의 손실: 0.100584\t정확도: 20.91%\n", + "58\t검증 세트 손실: 1.611320\t최선의 손실: 0.100584\t정확도: 22.01%\n", + "59\t검증 세트 손실: 1.613720\t최선의 손실: 0.100584\t정확도: 22.01%\n", + "60\t검증 세트 손실: 1.618274\t최선의 손실: 0.100584\t정확도: 19.27%\n", + "61\t검증 세트 손실: 1.608186\t최선의 손실: 0.100584\t정확도: 20.91%\n", + "62\t검증 세트 손실: 1.608510\t최선의 손실: 0.100584\t정확도: 22.01%\n", + "63\t검증 세트 손실: 1.614562\t최선의 손실: 0.100584\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50, total= 5.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 0.781046\t최선의 손실: 0.781046\t정확도: 75.84%\n", - "1\t검증 세트 손실: 0.291295\t최선의 손실: 0.291295\t정확도: 91.28%\n", - "2\t검증 세트 손실: 0.203184\t최선의 손실: 0.203184\t정확도: 94.41%\n", - "3\t검증 세트 손실: 0.177062\t최선의 손실: 0.177062\t정확도: 95.43%\n", - "4\t검증 세트 손실: 0.177654\t최선의 손실: 0.177062\t정확도: 95.27%\n", - "5\t검증 세트 손실: 0.251902\t최선의 손실: 0.177062\t정확도: 96.52%\n", - "6\t검증 세트 손실: 0.137736\t최선의 손실: 0.137736\t정확도: 96.52%\n", - "7\t검증 세트 손실: 0.138122\t최선의 손실: 0.137736\t정확도: 96.68%\n", - "8\t검증 세트 손실: 0.220462\t최선의 손실: 0.137736\t정확도: 96.05%\n", - "9\t검증 세트 손실: 0.193657\t최선의 손실: 0.137736\t정확도: 96.99%\n", - "10\t검증 세트 손실: 0.157444\t최선의 손실: 0.137736\t정확도: 96.36%\n", - "11\t검증 세트 손실: 0.159819\t최선의 손실: 0.137736\t정확도: 95.78%\n", - "12\t검증 세트 손실: 0.131291\t최선의 손실: 0.131291\t정확도: 96.60%\n", - "13\t검증 세트 손실: 0.146173\t최선의 손실: 0.131291\t정확도: 96.48%\n", - "14\t검증 세트 손실: 0.124065\t최선의 손실: 0.124065\t정확도: 96.91%\n", - "15\t검증 세트 손실: 0.133700\t최선의 손실: 0.124065\t정확도: 96.72%\n", - "16\t검증 세트 손실: 0.140085\t최선의 손실: 0.124065\t정확도: 96.64%\n", - "17\t검증 세트 손실: 0.118738\t최선의 손실: 0.118738\t정확도: 96.99%\n", - "18\t검증 세트 손실: 0.145952\t최선의 손실: 0.118738\t정확도: 96.64%\n", - "19\t검증 세트 손실: 0.127597\t최선의 손실: 0.118738\t정확도: 97.07%\n", - "20\t검증 세트 손실: 0.132488\t최선의 손실: 0.118738\t정확도: 96.79%\n", - "21\t검증 세트 손실: 0.120681\t최선의 손실: 0.118738\t정확도: 97.11%\n", - "22\t검증 세트 손실: 0.171823\t최선의 손실: 0.118738\t정확도: 96.21%\n", - "23\t검증 세트 손실: 0.131154\t최선의 손실: 0.118738\t정확도: 96.95%\n", - "24\t검증 세트 손실: 0.120292\t최선의 손실: 0.118738\t정확도: 96.87%\n", - "25\t검증 세트 손실: 0.128713\t최선의 손실: 0.118738\t정확도: 96.87%\n", - "26\t검증 세트 손실: 0.123390\t최선의 손실: 0.118738\t정확도: 97.07%\n", - "27\t검증 세트 손실: 0.134952\t최선의 손실: 0.118738\t정확도: 96.95%\n", - "28\t검증 세트 손실: 0.142447\t최선의 손실: 0.118738\t정확도: 96.95%\n", - "29\t검증 세트 손실: 0.139623\t최선의 손실: 0.118738\t정확도: 97.26%\n", - "30\t검증 세트 손실: 0.136778\t최선의 손실: 0.118738\t정확도: 97.07%\n", - "31\t검증 세트 손실: 0.166253\t최선의 손실: 0.118738\t정확도: 96.83%\n", - "32\t검증 세트 손실: 0.231107\t최선의 손실: 0.118738\t정확도: 96.29%\n", - "33\t검증 세트 손실: 0.145661\t최선의 손실: 0.118738\t정확도: 96.05%\n", - "34\t검증 세트 손실: 0.127940\t최선의 손실: 0.118738\t정확도: 96.91%\n", - "35\t검증 세트 손실: 0.133446\t최선의 손실: 0.118738\t정확도: 97.26%\n", - "36\t검증 세트 손실: 0.139976\t최선의 손실: 0.118738\t정확도: 96.72%\n", - "37\t검증 세트 손실: 0.160298\t최선의 손실: 0.118738\t정확도: 96.64%\n", - "38\t검증 세트 손실: 0.153905\t최선의 손실: 0.118738\t정확도: 96.87%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=, total= 4.1s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.482961\t최선의 손실: 0.482961\t정확도: 86.90%\n", + "1\t검증 세트 손실: 0.317712\t최선의 손실: 0.317712\t정확도: 92.77%\n", + "2\t검증 세트 손실: 0.180270\t최선의 손실: 0.180270\t정확도: 95.39%\n", + "3\t검증 세트 손실: 0.153838\t최선의 손실: 0.153838\t정확도: 95.82%\n", + "4\t검증 세트 손실: 0.127846\t최선의 손실: 0.127846\t정확도: 96.17%\n", + "5\t검증 세트 손실: 0.126650\t최선의 손실: 0.126650\t정확도: 96.29%\n", + "6\t검증 세트 손실: 0.126474\t최선의 손실: 0.126474\t정확도: 96.79%\n", + "7\t검증 세트 손실: 0.115296\t최선의 손실: 0.115296\t정확도: 97.03%\n", + "8\t검증 세트 손실: 0.116341\t최선의 손실: 0.115296\t정확도: 97.03%\n", + "9\t검증 세트 손실: 0.102052\t최선의 손실: 0.102052\t정확도: 97.11%\n", + "10\t검증 세트 손실: 0.110923\t최선의 손실: 0.102052\t정확도: 96.91%\n", + "11\t검증 세트 손실: 0.099292\t최선의 손실: 0.099292\t정확도: 97.46%\n", + "12\t검증 세트 손실: 0.152142\t최선의 손실: 0.099292\t정확도: 96.05%\n", + "13\t검증 세트 손실: 0.107681\t최선의 손실: 0.099292\t정확도: 97.26%\n", + "14\t검증 세트 손실: 0.143261\t최선의 손실: 0.099292\t정확도: 97.26%\n", + "15\t검증 세트 손실: 0.142046\t최선의 손실: 0.099292\t정확도: 96.95%\n", + "16\t검증 세트 손실: 0.109446\t최선의 손실: 0.099292\t정확도: 97.11%\n", + "17\t검증 세트 손실: 0.103098\t최선의 손실: 0.099292\t정확도: 97.34%\n", + "18\t검증 세트 손실: 0.108722\t최선의 손실: 0.099292\t정확도: 97.11%\n", + "19\t검증 세트 손실: 0.142033\t최선의 손실: 0.099292\t정확도: 97.22%\n", + "20\t검증 세트 손실: 0.100700\t최선의 손실: 0.099292\t정확도: 97.54%\n", + "21\t검증 세트 손실: 0.117023\t최선의 손실: 0.099292\t정확도: 97.58%\n", + "22\t검증 세트 손실: 0.109533\t최선의 손실: 0.099292\t정확도: 97.22%\n", + "23\t검증 세트 손실: 0.123090\t최선의 손실: 0.099292\t정확도: 97.54%\n", + "24\t검증 세트 손실: 0.118169\t최선의 손실: 0.099292\t정확도: 97.42%\n", + "25\t검증 세트 손실: 0.171522\t최선의 손실: 0.099292\t정확도: 97.11%\n", + "26\t검증 세트 손실: 0.174408\t최선의 손실: 0.099292\t정확도: 97.15%\n", + "27\t검증 세트 손실: 0.112213\t최선의 손실: 0.099292\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.115100\t최선의 손실: 0.099292\t정확도: 97.34%\n", + "29\t검증 세트 손실: 0.122029\t최선의 손실: 0.099292\t정확도: 97.22%\n", + "30\t검증 세트 손실: 0.112160\t최선의 손실: 0.099292\t정확도: 96.95%\n", + "31\t검증 세트 손실: 0.152719\t최선의 손실: 0.099292\t정확도: 97.46%\n", + "32\t검증 세트 손실: 0.125208\t최선의 손실: 0.099292\t정확도: 97.38%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50, total= 3.0s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 0.839977\t최선의 손실: 0.839977\t정확도: 69.47%\n", - "1\t검증 세트 손실: 0.398734\t최선의 손실: 0.398734\t정확도: 85.54%\n", - "2\t검증 세트 손실: 0.289568\t최선의 손실: 0.289568\t정확도: 91.24%\n", - "3\t검증 세트 손실: 0.225639\t최선의 손실: 0.225639\t정확도: 93.51%\n", - "4\t검증 세트 손실: 0.181285\t최선의 손실: 0.181285\t정확도: 95.11%\n", - "5\t검증 세트 손실: 0.163609\t최선의 손실: 0.163609\t정확도: 95.39%\n", - "6\t검증 세트 손실: 0.162064\t최선의 손실: 0.162064\t정확도: 95.97%\n", - "7\t검증 세트 손실: 0.136860\t최선의 손실: 0.136860\t정확도: 95.82%\n", - "8\t검증 세트 손실: 0.159193\t최선의 손실: 0.136860\t정확도: 95.70%\n", - "9\t검증 세트 손실: 0.125925\t최선의 손실: 0.125925\t정확도: 96.56%\n", - "10\t검증 세트 손실: 0.139119\t최선의 손실: 0.125925\t정확도: 95.86%\n", - "11\t검증 세트 손실: 0.131127\t최선의 손실: 0.125925\t정확도: 96.56%\n", - "12\t검증 세트 손실: 0.129788\t최선의 손실: 0.125925\t정확도: 96.56%\n", - "13\t검증 세트 손실: 0.134593\t최선의 손실: 0.125925\t정확도: 96.29%\n", - "14\t검증 세트 손실: 0.133004\t최선의 손실: 0.125925\t정확도: 96.40%\n", - "15\t검증 세트 손실: 0.124415\t최선의 손실: 0.124415\t정확도: 96.64%\n", - "16\t검증 세트 손실: 0.126594\t최선의 손실: 0.124415\t정확도: 96.56%\n", - "17\t검증 세트 손실: 0.142581\t최선의 손실: 0.124415\t정확도: 96.33%\n", - "18\t검증 세트 손실: 0.134940\t최선의 손실: 0.124415\t정확도: 96.76%\n", - "19\t검증 세트 손실: 0.165898\t최선의 손실: 0.124415\t정확도: 96.13%\n", - "20\t검증 세트 손실: 0.143502\t최선의 손실: 0.124415\t정확도: 96.56%\n", - "21\t검증 세트 손실: 3.112810\t최선의 손실: 0.124415\t정확도: 22.99%\n", - "22\t검증 세트 손실: 1.694839\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.610992\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.614075\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.628404\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.619276\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.613198\t최선의 손실: 0.124415\t정확도: 19.27%\n" + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=, total= 2.3s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.813995\t최선의 손실: 0.813995\t정확도: 65.25%\n", + "1\t검증 세트 손실: 101678.640625\t최선의 손실: 0.813995\t정확도: 17.12%\n", + "2\t검증 세트 손실: 8739.899414\t최선의 손실: 0.813995\t정확도: 46.56%\n", + "3\t검증 세트 손실: 12787.490234\t최선의 손실: 0.813995\t정확도: 50.20%\n", + "4\t검증 세트 손실: 4385.192871\t최선의 손실: 0.813995\t정확도: 68.33%\n", + "5\t검증 세트 손실: 2588.349365\t최선의 손실: 0.813995\t정확도: 71.81%\n", + "6\t검증 세트 손실: 2856.573975\t최선의 손실: 0.813995\t정확도: 72.87%\n", + "7\t검증 세트 손실: 6260.032227\t최선의 손실: 0.813995\t정확도: 61.18%\n", + "8\t검증 세트 손실: 899.716675\t최선의 손실: 0.813995\t정확도: 86.63%\n", + "9\t검증 세트 손실: 1505.332764\t최선의 손실: 0.813995\t정확도: 83.42%\n", + "10\t검증 세트 손실: 2843.254883\t최선의 손실: 0.813995\t정확도: 72.52%\n", + "11\t검증 세트 손실: 3210.063232\t최선의 손실: 0.813995\t정확도: 84.01%\n", + "12\t검증 세트 손실: 2561.946777\t최선의 손실: 0.813995\t정확도: 82.92%\n", + "13\t검증 세트 손실: 24544252.000000\t최선의 손실: 0.813995\t정확도: 34.21%\n", + "14\t검증 세트 손실: 73023.523438\t최선의 손실: 0.813995\t정확도: 82.84%\n", + "15\t검증 세트 손실: 49479.851562\t최선의 손실: 0.813995\t정확도: 90.11%\n", + "16\t검증 세트 손실: 22868.875000\t최선의 손실: 0.813995\t정확도: 93.24%\n", + "17\t검증 세트 손실: 37109.949219\t최선의 손실: 0.813995\t정확도: 84.75%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "28\t검증 세트 손실: 1.631046\t최선의 손실: 0.124415\t정확도: 18.73%\n", - "29\t검증 세트 손실: 1.618762\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "30\t검증 세트 손실: 1.615479\t최선의 손실: 0.124415\t정확도: 20.91%\n", - "31\t검증 세트 손실: 1.616488\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.610171\t최선의 손실: 0.124415\t정확도: 22.01%\n", - "33\t검증 세트 손실: 1.623160\t최선의 손실: 0.124415\t정확도: 19.08%\n", - "34\t검증 세트 손실: 1.627331\t최선의 손실: 0.124415\t정확도: 20.91%\n", - "35\t검증 세트 손실: 1.627435\t최선의 손실: 0.124415\t정확도: 19.27%\n", - "36\t검증 세트 손실: 1.618342\t최선의 손실: 0.124415\t정확도: 19.27%\n", + "18\t검증 세트 손실: 24182.732422\t최선의 손실: 0.813995\t정확도: 93.67%\n", + "19\t검증 세트 손실: 16177.547852\t최선의 손실: 0.813995\t정확도: 94.72%\n", + "20\t검증 세트 손실: 19482.226562\t최선의 손실: 0.813995\t정확도: 95.23%\n", + "21\t검증 세트 손실: 24120.117188\t최선의 손실: 0.813995\t정확도: 93.00%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, n_neurons=50, total= 3.0s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 6.036595\t최선의 손실: 6.036595\t정확도: 69.59%\n", - "1\t검증 세트 손실: 2.043573\t최선의 손실: 2.043573\t정확도: 72.87%\n", - "2\t검증 세트 손실: 0.484242\t최선의 손실: 0.484242\t정확도: 87.65%\n", - "3\t검증 세트 손실: 1.541157\t최선의 손실: 0.484242\t정확도: 73.81%\n", - "4\t검증 세트 손실: 699320.437500\t최선의 손실: 0.484242\t정확도: 19.27%\n", - "5\t검증 세트 손실: 90903.320312\t최선의 손실: 0.484242\t정확도: 19.16%\n", - "6\t검증 세트 손실: 88216.609375\t최선의 손실: 0.484242\t정확도: 18.80%\n", - "7\t검증 세트 손실: 73468.218750\t최선의 손실: 0.484242\t정확도: 22.95%\n", - "8\t검증 세트 손실: 23802.373047\t최선의 손실: 0.484242\t정확도: 31.20%\n", - "9\t검증 세트 손실: 327091.750000\t최선의 손실: 0.484242\t정확도: 25.92%\n", - "10\t검증 세트 손실: 5122195.500000\t최선의 손실: 0.484242\t정확도: 32.76%\n", - "11\t검증 세트 손실: 26600.587891\t최선의 손실: 0.484242\t정확도: 16.85%\n", - "12\t검증 세트 손실: 25212.904297\t최선의 손실: 0.484242\t정확도: 23.61%\n", - "13\t검증 세트 손실: 9658.112305\t최선의 손실: 0.484242\t정확도: 43.82%\n", - "14\t검증 세트 손실: 7743.038086\t최선의 손실: 0.484242\t정확도: 37.61%\n", - "15\t검증 세트 손실: 17401.955078\t최선의 손실: 0.484242\t정확도: 39.84%\n", - "16\t검증 세트 손실: 4059.947510\t최선의 손실: 0.484242\t정확도: 47.26%\n", - "17\t검증 세트 손실: 4344.253906\t최선의 손실: 0.484242\t정확도: 50.98%\n", - "18\t검증 세트 손실: 7808.818848\t최선의 손실: 0.484242\t정확도: 41.95%\n", - "19\t검증 세트 손실: 6955.620605\t최선의 손실: 0.484242\t정확도: 54.26%\n", - "20\t검증 세트 손실: 1842.103394\t최선의 손실: 0.484242\t정확도: 64.74%\n", - "21\t검증 세트 손실: 3608.283936\t최선의 손실: 0.484242\t정확도: 47.97%\n", - "22\t검증 세트 손실: 4201.949707\t최선의 손실: 0.484242\t정확도: 62.71%\n", - "23\t검증 세트 손실: 2242.165039\t최선의 손실: 0.484242\t정확도: 70.68%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 10.4s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 5581.382324\t최선의 손실: 5581.382324\t정확도: 26.15%\n", + "1\t검증 세트 손실: 42.626511\t최선의 손실: 42.626511\t정확도: 24.63%\n", + "2\t검증 세트 손실: 20.493179\t최선의 손실: 20.493179\t정확도: 28.23%\n", + "3\t검증 세트 손실: 11.571117\t최선의 손실: 11.571117\t정확도: 32.76%\n", + "4\t검증 세트 손실: 109.862343\t최선의 손실: 11.571117\t정확도: 30.53%\n", + "5\t검증 세트 손실: 21.474987\t최선의 손실: 11.571117\t정확도: 47.77%\n", + "6\t검증 세트 손실: 23.930712\t최선의 손실: 11.571117\t정확도: 37.14%\n", + "7\t검증 세트 손실: 16.683889\t최선의 손실: 11.571117\t정확도: 42.14%\n", + "8\t검증 세트 손실: 21.667984\t최선의 손실: 11.571117\t정확도: 40.62%\n", + "9\t검증 세트 손실: 7.242655\t최선의 손실: 7.242655\t정확도: 45.74%\n", + "10\t검증 세트 손실: 3.017959\t최선의 손실: 3.017959\t정확도: 57.51%\n", + "11\t검증 세트 손실: 22.558538\t최선의 손실: 3.017959\t정확도: 39.29%\n", + "12\t검증 세트 손실: 27.495352\t최선의 손실: 3.017959\t정확도: 41.95%\n", + "13\t검증 세트 손실: 6.907792\t최선의 손실: 3.017959\t정확도: 51.09%\n", + "14\t검증 세트 손실: 5.006581\t최선의 손실: 3.017959\t정확도: 53.91%\n", + "15\t검증 세트 손실: 4.430744\t최선의 손실: 3.017959\t정확도: 51.49%\n", + "16\t검증 세트 손실: 155674.578125\t최선의 손실: 3.017959\t정확도: 24.39%\n", + "17\t검증 세트 손실: 1621.195801\t최선의 손실: 3.017959\t정확도: 73.57%\n", + "18\t검증 세트 손실: 5278.576172\t최선의 손실: 3.017959\t정확도: 69.27%\n", + "19\t검증 세트 손실: 880.416077\t최선의 손실: 3.017959\t정확도: 81.04%\n", + "20\t검증 세트 손실: 494.811584\t최선의 손실: 3.017959\t정확도: 82.45%\n", + "21\t검증 세트 손실: 1898.524292\t최선의 손실: 3.017959\t정확도: 72.91%\n", + "22\t검증 세트 손실: 445.044067\t최선의 손실: 3.017959\t정확도: 84.48%\n", + "23\t검증 세트 손실: 1002.579041\t최선의 손실: 3.017959\t정확도: 87.84%\n", + "24\t검증 세트 손실: 84961.203125\t최선의 손실: 3.017959\t정확도: 89.95%\n", + "25\t검증 세트 손실: 3774.416748\t최선의 손실: 3.017959\t정확도: 62.16%\n", + "26\t검증 세트 손실: 1302.121094\t최선의 손실: 3.017959\t정확도: 81.98%\n", + "27\t검증 세트 손실: 2211.866699\t최선의 손실: 3.017959\t정확도: 74.39%\n", + "28\t검증 세트 손실: 66537.304688\t최선의 손실: 3.017959\t정확도: 65.83%\n", + "29\t검증 세트 손실: 6726.865723\t최선의 손실: 3.017959\t정확도: 80.73%\n", + "30\t검증 세트 손실: 4183.500977\t최선의 손실: 3.017959\t정확도: 82.99%\n", + "31\t검증 세트 손실: 4824.794922\t최선의 손실: 3.017959\t정확도: 89.13%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100, total= 12.8s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 1.164671\t최선의 손실: 1.164671\t정확도: 48.71%\n", - "1\t검증 세트 손실: 0.790552\t최선의 손실: 0.790552\t정확도: 69.74%\n", - "2\t검증 세트 손실: 0.970793\t최선의 손실: 0.790552\t정확도: 57.35%\n", - "3\t검증 세트 손실: 2941387.500000\t최선의 손실: 0.790552\t정확도: 19.08%\n", - "4\t검증 세트 손실: 7641.762207\t최선의 손실: 0.790552\t정확도: 53.67%\n", - "5\t검증 세트 손실: 12138.183594\t최선의 손실: 0.790552\t정확도: 63.14%\n", - "6\t검증 세트 손실: 5672.643066\t최선의 손실: 0.790552\t정확도: 64.89%\n", - "7\t검증 세트 손실: 8377.610352\t최선의 손실: 0.790552\t정확도: 62.31%\n", - "8\t검증 세트 손실: 1999.374756\t최선의 손실: 0.790552\t정확도: 86.63%\n", - "9\t검증 세트 손실: 3335.918701\t최선의 손실: 0.790552\t정확도: 87.45%\n", - "10\t검증 세트 손실: 3753.828369\t최선의 손실: 0.790552\t정확도: 86.24%\n", - "11\t검증 세트 손실: 4737.047852\t최선의 손실: 0.790552\t정확도: 85.93%\n", - "12\t검증 세트 손실: 2261.474121\t최선의 손실: 0.790552\t정확도: 92.77%\n", - "13\t검증 세트 손실: 2852.490479\t최선의 손실: 0.790552\t정확도: 89.29%\n", - "14\t검증 세트 손실: 1982.741821\t최선의 손실: 0.790552\t정확도: 94.76%\n", - "15\t검증 세트 손실: 916.144470\t최선의 손실: 0.790552\t정확도: 95.07%\n", - "16\t검증 세트 손실: 13890.856445\t최선의 손실: 0.790552\t정확도: 86.20%\n", - "17\t검증 세트 손실: 2817.363281\t최선의 손실: 0.790552\t정확도: 90.97%\n", - "18\t검증 세트 손실: 2156.271729\t최선의 손실: 0.790552\t정확도: 94.68%\n", - "19\t검증 세트 손실: 1415.136963\t최선의 손실: 0.790552\t정확도: 95.62%\n", - "20\t검증 세트 손실: 28429.826172\t최선의 손실: 0.790552\t정확도: 88.15%\n", - "21\t검증 세트 손실: 8520.758789\t최선의 손실: 0.790552\t정확도: 90.23%\n", - "22\t검증 세트 손실: 3743.801758\t최선의 손실: 0.790552\t정확도: 93.90%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 15.0s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.289973\t최선의 손실: 0.289973\t정확도: 92.22%\n", + "1\t검증 세트 손실: 10328.275391\t최선의 손실: 0.289973\t정확도: 35.34%\n", + "2\t검증 세트 손실: 5283.094727\t최선의 손실: 0.289973\t정확도: 40.50%\n", + "3\t검증 세트 손실: 60969.437500\t최선의 손실: 0.289973\t정확도: 36.71%\n", + "4\t검증 세트 손실: 4608.683105\t최선의 손실: 0.289973\t정확도: 42.57%\n", + "5\t검증 세트 손실: 3211.744873\t최선의 손실: 0.289973\t정확도: 56.53%\n", + "6\t검증 세트 손실: 873.409302\t최선의 손실: 0.289973\t정확도: 68.57%\n", + "7\t검증 세트 손실: 1029.038086\t최선의 손실: 0.289973\t정확도: 55.16%\n", + "8\t검증 세트 손실: 661.878967\t최선의 손실: 0.289973\t정확도: 60.83%\n", + "9\t검증 세트 손실: 797.603149\t최선의 손실: 0.289973\t정확도: 63.64%\n", + "10\t검증 세트 손실: 364.504120\t최선의 손실: 0.289973\t정확도: 82.13%\n", + "11\t검증 세트 손실: 81338.382812\t최선의 손실: 0.289973\t정확도: 35.22%\n", + "12\t검증 세트 손실: 1641.637451\t최선의 손실: 0.289973\t정확도: 74.98%\n", + "13\t검증 세트 손실: 9437.868164\t최선의 손실: 0.289973\t정확도: 59.03%\n", + "14\t검증 세트 손실: 3646.007324\t최선의 손실: 0.289973\t정확도: 66.07%\n", + "15\t검증 세트 손실: 15537.610352\t최선의 손실: 0.289973\t정확도: 47.58%\n", + "16\t검증 세트 손실: 2655.621094\t최선의 손실: 0.289973\t정확도: 74.59%\n", + "17\t검증 세트 손실: 1871.388916\t최선의 손실: 0.289973\t정확도: 72.32%\n", + "18\t검증 세트 손실: 4001.791992\t최선의 손실: 0.289973\t정확도: 62.51%\n", + "19\t검증 세트 손실: 1525.261353\t최선의 손실: 0.289973\t정확도: 80.61%\n", + "20\t검증 세트 손실: 792.526367\t최선의 손실: 0.289973\t정확도: 76.08%\n", + "21\t검증 세트 손실: 1441.532227\t최선의 손실: 0.289973\t정확도: 75.02%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100, total= 11.9s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 142.923111\t최선의 손실: 142.923111\t정확도: 24.20%\n", - "1\t검증 세트 손실: 29.855112\t최선의 손실: 29.855112\t정확도: 35.26%\n", - "2\t검증 세트 손실: 14.329179\t최선의 손실: 14.329179\t정확도: 55.12%\n", - "3\t검증 세트 손실: 7.141100\t최선의 손실: 7.141100\t정확도: 46.95%\n", - "4\t검증 세트 손실: 15564.836914\t최선의 손실: 7.141100\t정확도: 37.76%\n", - "5\t검증 세트 손실: 49132.343750\t최선의 손실: 7.141100\t정확도: 33.93%\n", - "6\t검증 세트 손실: 5029.900391\t최선의 손실: 7.141100\t정확도: 56.02%\n", - "7\t검증 세트 손실: 4776.240723\t최선의 손실: 7.141100\t정확도: 37.10%\n", - "8\t검증 세트 손실: 6642.529297\t최선의 손실: 7.141100\t정확도: 35.81%\n", - "9\t검증 세트 손실: 2295.722412\t최선의 손실: 7.141100\t정확도: 69.04%\n", - "10\t검증 세트 손실: 3680.871094\t최선의 손실: 7.141100\t정확도: 51.60%\n", - "11\t검증 세트 손실: 1622.592896\t최선의 손실: 7.141100\t정확도: 76.04%\n", - "12\t검증 세트 손실: 783.341919\t최선의 손실: 7.141100\t정확도: 86.20%\n", - "13\t검증 세트 손실: 1776.053955\t최선의 손실: 7.141100\t정확도: 75.33%\n", - "14\t검증 세트 손실: 1809.907593\t최선의 손실: 7.141100\t정확도: 77.95%\n", - "15\t검증 세트 손실: 893.129578\t최선의 손실: 7.141100\t정확도: 88.98%\n", - "16\t검증 세트 손실: 1499.173340\t최선의 손실: 7.141100\t정확도: 77.87%\n", - "17\t검증 세트 손실: 1079123.250000\t최선의 손실: 7.141100\t정확도: 40.03%\n", - "18\t검증 세트 손실: 11388.935547\t최선의 손실: 7.141100\t정확도: 70.80%\n", - "19\t검증 세트 손실: 2554.880859\t최선의 손실: 7.141100\t정확도: 84.79%\n", - "20\t검증 세트 손실: 2799.998779\t최선의 손실: 7.141100\t정확도: 82.45%\n", - "21\t검증 세트 손실: 2527.630859\t최선의 손실: 7.141100\t정확도: 81.51%\n", - "22\t검증 세트 손실: 1364.217896\t최선의 손실: 7.141100\t정확도: 91.36%\n", - "23\t검증 세트 손실: 2490.092773\t최선의 손실: 7.141100\t정확도: 82.84%\n", - "24\t검증 세트 손실: 1355.910400\t최선의 손실: 7.141100\t정확도: 91.71%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 10.7s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 1.122370\t최선의 손실: 1.122370\t정확도: 89.17%\n", + "1\t검증 세트 손실: 0.438729\t최선의 손실: 0.438729\t정확도: 94.45%\n", + "2\t검증 세트 손실: 0.266353\t최선의 손실: 0.266353\t정확도: 94.18%\n", + "3\t검증 세트 손실: 0.202160\t최선의 손실: 0.202160\t정확도: 94.96%\n", + "4\t검증 세트 손실: 0.153974\t최선의 손실: 0.153974\t정확도: 95.93%\n", + "5\t검증 세트 손실: 0.203446\t최선의 손실: 0.153974\t정확도: 96.68%\n", + "6\t검증 세트 손실: 0.197135\t최선의 손실: 0.153974\t정확도: 95.39%\n", + "7\t검증 세트 손실: 0.236177\t최선의 손실: 0.153974\t정확도: 94.57%\n", + "8\t검증 세트 손실: 0.165206\t최선의 손실: 0.153974\t정확도: 97.07%\n", + "9\t검증 세트 손실: 0.170037\t최선의 손실: 0.153974\t정확도: 96.91%\n", + "10\t검증 세트 손실: 115836.687500\t최선의 손실: 0.153974\t정확도: 72.99%\n", + "11\t검증 세트 손실: 26363.318359\t최선의 손실: 0.153974\t정확도: 84.17%\n", + "12\t검증 세트 손실: 20228.384766\t최선의 손실: 0.153974\t정확도: 78.30%\n", + "13\t검증 세트 손실: 26341.234375\t최선의 손실: 0.153974\t정확도: 84.71%\n", + "14\t검증 세트 손실: 13047.840820\t최선의 손실: 0.153974\t정확도: 86.04%\n", + "15\t검증 세트 손실: 15489.456055\t최선의 손실: 0.153974\t정확도: 83.89%\n", + "16\t검증 세트 손실: 5474.443848\t최선의 손실: 0.153974\t정확도: 92.73%\n", + "17\t검증 세트 손실: 8625.363281\t최선의 손실: 0.153974\t정확도: 85.89%\n", + "18\t검증 세트 손실: 9247.919922\t최선의 손실: 0.153974\t정확도: 89.68%\n", + "19\t검증 세트 손실: 5968.983398\t최선의 손실: 0.153974\t정확도: 93.75%\n", + "20\t검증 세트 손실: 7811.758301\t최선의 손실: 0.153974\t정확도: 90.50%\n", + "21\t검증 세트 손실: 3747.338623\t최선의 손실: 0.153974\t정확도: 93.94%\n", + "22\t검증 세트 손실: 4731.319824\t최선의 손실: 0.153974\t정확도: 94.72%\n", + "23\t검증 세트 손실: 26146.263672\t최선의 손실: 0.153974\t정확도: 77.01%\n", + "24\t검증 세트 손실: 11910.111328\t최선의 손실: 0.153974\t정확도: 93.59%\n", + "25\t검증 세트 손실: 7630.098633\t최선의 손실: 0.153974\t정확도: 94.29%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=100, total= 12.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 83.126709\t최선의 손실: 83.126709\t정확도: 69.82%\n", - "1\t검증 세트 손실: 12.327357\t최선의 손실: 12.327357\t정확도: 90.30%\n", - "2\t검증 세트 손실: 8.727623\t최선의 손실: 8.727623\t정확도: 91.95%\n", - "3\t검증 세트 손실: 5.870103\t최선의 손실: 5.870103\t정확도: 94.02%\n", - "4\t검증 세트 손실: 6.386273\t최선의 손실: 5.870103\t정확도: 94.80%\n", - "5\t검증 세트 손실: 6.119045\t최선의 손실: 5.870103\t정확도: 95.62%\n", - "6\t검증 세트 손실: 6.039952\t최선의 손실: 5.870103\t정확도: 93.12%\n", - "7\t검증 세트 손실: 7.730052\t최선의 손실: 5.870103\t정확도: 93.63%\n", - "8\t검증 세트 손실: 7.727905\t최선의 손실: 5.870103\t정확도: 90.19%\n", - "9\t검증 세트 손실: 2.480627\t최선의 손실: 2.480627\t정확도: 94.49%\n", - "10\t검증 세트 손실: 5.616520\t최선의 손실: 2.480627\t정확도: 94.72%\n", - "11\t검증 세트 손실: 19383864.000000\t최선의 손실: 2.480627\t정확도: 44.88%\n", - "12\t검증 세트 손실: 150023.953125\t최선의 손실: 2.480627\t정확도: 84.44%\n", - "13\t검증 세트 손실: 280061.906250\t최선의 손실: 2.480627\t정확도: 77.87%\n", - "14\t검증 세트 손실: 50015.339844\t최선의 손실: 2.480627\t정확도: 92.77%\n", - "15\t검증 세트 손실: 59763.019531\t최선의 손실: 2.480627\t정확도: 92.61%\n", - "16\t검증 세트 손실: 50495.222656\t최선의 손실: 2.480627\t정확도: 91.48%\n", - "17\t검증 세트 손실: 40739.222656\t최선의 손실: 2.480627\t정확도: 92.53%\n", - "18\t검증 세트 손실: 30827.220703\t최선의 손실: 2.480627\t정확도: 94.88%\n", - "19\t검증 세트 손실: 28979.734375\t최선의 손실: 2.480627\t정확도: 94.92%\n", - "20\t검증 세트 손실: 27522.001953\t최선의 손실: 2.480627\t정확도: 95.86%\n", - "21\t검증 세트 손실: 51740.640625\t최선의 손실: 2.480627\t정확도: 91.56%\n", - "22\t검증 세트 손실: 29873.216797\t최선의 손실: 2.480627\t정확도: 93.94%\n", - "23\t검증 세트 손실: 24277.392578\t최선의 손실: 2.480627\t정확도: 94.02%\n", - "24\t검증 세트 손실: 65393.214844\t최선의 손실: 2.480627\t정확도: 88.62%\n", - "25\t검증 세트 손실: 23980.199219\t최선의 손실: 2.480627\t정확도: 95.07%\n", - "26\t검증 세트 손실: 31407.361328\t최선의 손실: 2.480627\t정확도: 95.97%\n", - "27\t검증 세트 손실: 42031.664062\t최선의 손실: 2.480627\t정확도: 92.38%\n", - "28\t검증 세트 손실: 15289.069336\t최선의 손실: 2.480627\t정확도: 96.72%\n", - "29\t검증 세트 손실: 13410.017578\t최선의 손실: 2.480627\t정확도: 97.03%\n", - "30\t검증 세트 손실: 24539.708984\t최선의 손실: 2.480627\t정확도: 93.32%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 6.7s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.979650\t최선의 손실: 0.979650\t정확도: 91.28%\n", + "1\t검증 세트 손실: 0.271495\t최선의 손실: 0.271495\t정확도: 94.06%\n", + "2\t검증 세트 손실: 0.280842\t최선의 손실: 0.271495\t정확도: 94.41%\n", + "3\t검증 세트 손실: 0.221203\t최선의 손실: 0.221203\t정확도: 94.92%\n", + "4\t검증 세트 손실: 0.156075\t최선의 손실: 0.156075\t정확도: 95.70%\n", + "5\t검증 세트 손실: 0.211842\t최선의 손실: 0.156075\t정확도: 94.64%\n", + "6\t검증 세트 손실: 0.134892\t최선의 손실: 0.134892\t정확도: 96.29%\n", + "7\t검증 세트 손실: 0.086973\t최선의 손실: 0.086973\t정확도: 97.46%\n", + "8\t검증 세트 손실: 0.096292\t최선의 손실: 0.086973\t정확도: 96.95%\n", + "9\t검증 세트 손실: 0.131343\t최선의 손실: 0.086973\t정확도: 96.52%\n", + "10\t검증 세트 손실: 0.079809\t최선의 손실: 0.079809\t정확도: 97.46%\n", + "11\t검증 세트 손실: 0.079602\t최선의 손실: 0.079602\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.079983\t최선의 손실: 0.079602\t정확도: 97.46%\n", + "13\t검증 세트 손실: 0.098033\t최선의 손실: 0.079602\t정확도: 97.38%\n", + "14\t검증 세트 손실: 0.137113\t최선의 손실: 0.079602\t정확도: 97.07%\n", + "15\t검증 세트 손실: 0.109847\t최선의 손실: 0.079602\t정확도: 97.19%\n", + "16\t검증 세트 손실: 1150747.875000\t최선의 손실: 0.079602\t정확도: 46.64%\n", + "17\t검증 세트 손실: 58252.617188\t최선의 손실: 0.079602\t정확도: 67.04%\n", + "18\t검증 세트 손실: 13784.515625\t최선의 손실: 0.079602\t정확도: 86.40%\n", + "19\t검증 세트 손실: 14090.746094\t최선의 손실: 0.079602\t정확도: 87.96%\n", + "20\t검증 세트 손실: 24150.960938\t최선의 손실: 0.079602\t정확도: 81.94%\n", + "21\t검증 세트 손실: 17433.119141\t최선의 손실: 0.079602\t정확도: 87.29%\n", + "22\t검증 세트 손실: 685521.937500\t최선의 손실: 0.079602\t정확도: 50.27%\n", + "23\t검증 세트 손실: 24633.494141\t최선의 손실: 0.079602\t정확도: 91.40%\n", + "24\t검증 세트 손실: 17777.150391\t최선의 손실: 0.079602\t정확도: 92.10%\n", + "25\t검증 세트 손실: 25050.771484\t최선의 손실: 0.079602\t정확도: 88.39%\n", + "26\t검증 세트 손실: 8901.370117\t최선의 손실: 0.079602\t정확도: 93.90%\n", + "27\t검증 세트 손실: 5525.252930\t최선의 손실: 0.079602\t정확도: 94.64%\n", + "28\t검증 세트 손실: 6248.634277\t최선의 손실: 0.079602\t정확도: 94.96%\n", + "29\t검증 세트 손실: 6192.513184\t최선의 손실: 0.079602\t정확도: 92.49%\n", + "30\t검증 세트 손실: 4807.810547\t최선의 손실: 0.079602\t정확도: 95.00%\n", + "31\t검증 세트 손실: 5806.671387\t최선의 손실: 0.079602\t정확도: 95.47%\n", + "32\t검증 세트 손실: 8570.334961\t최선의 손실: 0.079602\t정확도: 95.19%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 8.2s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 0.655982\t최선의 손실: 0.655982\t정확도: 93.43%\n", - "1\t검증 세트 손실: 0.247061\t최선의 손실: 0.247061\t정확도: 95.43%\n", - "2\t검증 세트 손실: 0.251590\t최선의 손실: 0.247061\t정확도: 96.05%\n", - "3\t검증 세트 손실: 1.551615\t최선의 손실: 0.247061\t정확도: 92.14%\n", - "4\t검증 세트 손실: 0.573421\t최선의 손실: 0.247061\t정확도: 92.96%\n", - "5\t검증 세트 손실: 0.729028\t최선의 손실: 0.247061\t정확도: 90.23%\n", - "6\t검증 세트 손실: 0.148618\t최선의 손실: 0.148618\t정확도: 96.64%\n", - "7\t검증 세트 손실: 0.188756\t최선의 손실: 0.148618\t정확도: 96.25%\n", - "8\t검증 세트 손실: 0.191839\t최선의 손실: 0.148618\t정확도: 96.29%\n", - "9\t검증 세트 손실: 0.131412\t최선의 손실: 0.131412\t정확도: 97.54%\n", - "10\t검증 세트 손실: 0.180036\t최선의 손실: 0.131412\t정확도: 97.58%\n", - "11\t검증 세트 손실: 0.121361\t최선의 손실: 0.121361\t정확도: 97.26%\n", - "12\t검증 세트 손실: 26.170311\t최선의 손실: 0.121361\t정확도: 87.29%\n", - "13\t검증 세트 손실: 26316.294922\t최선의 손실: 0.121361\t정확도: 87.49%\n", - "14\t검증 세트 손실: 7366.489258\t최선의 손실: 0.121361\t정확도: 93.90%\n" + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 8.2s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.495190\t최선의 손실: 0.495190\t정확도: 93.08%\n", + "1\t검증 세트 손실: 0.320072\t최선의 손실: 0.320072\t정확도: 94.61%\n", + "2\t검증 세트 손실: 0.168887\t최선의 손실: 0.168887\t정확도: 96.29%\n", + "3\t검증 세트 손실: 0.160739\t최선의 손실: 0.160739\t정확도: 96.40%\n", + "4\t검증 세트 손실: 0.128880\t최선의 손실: 0.128880\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.152590\t최선의 손실: 0.128880\t정확도: 96.79%\n", + "6\t검증 세트 손실: 0.266080\t최선의 손실: 0.128880\t정확도: 96.17%\n", + "7\t검증 세트 손실: 0.117176\t최선의 손실: 0.117176\t정확도: 97.58%\n", + "8\t검증 세트 손실: 0.159555\t최선의 손실: 0.117176\t정확도: 96.91%\n", + "9\t검증 세트 손실: 0.193559\t최선의 손실: 0.117176\t정확도: 96.56%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 10705.510742\t최선의 손실: 0.121361\t정확도: 92.06%\n", - "16\t검증 세트 손실: 5004.265137\t최선의 손실: 0.121361\t정확도: 95.39%\n", - "17\t검증 세트 손실: 5891.799805\t최선의 손실: 0.121361\t정확도: 95.62%\n", - "18\t검증 세트 손실: 3836.821777\t최선의 손실: 0.121361\t정확도: 96.48%\n", - "19\t검증 세트 손실: 3843.629883\t최선의 손실: 0.121361\t정확도: 96.83%\n", - "20\t검증 세트 손실: 2667.820312\t최선의 손실: 0.121361\t정확도: 96.83%\n", - "21\t검증 세트 손실: 3475.297852\t최선의 손실: 0.121361\t정확도: 95.58%\n", - "22\t검증 세트 손실: 2551.543701\t최선의 손실: 0.121361\t정확도: 96.05%\n", - "23\t검증 세트 손실: 3031.558594\t최선의 손실: 0.121361\t정확도: 95.23%\n", - "24\t검증 세트 손실: 1891.486084\t최선의 손실: 0.121361\t정확도: 97.19%\n", - "25\t검증 세트 손실: 2338.679932\t최선의 손실: 0.121361\t정확도: 96.64%\n", - "26\t검증 세트 손실: 2014.508545\t최선의 손실: 0.121361\t정확도: 95.66%\n", - "27\t검증 세트 손실: 2405.554443\t최선의 손실: 0.121361\t정확도: 96.60%\n", - "28\t검증 세트 손실: 3458.688477\t최선의 손실: 0.121361\t정확도: 94.64%\n", - "29\t검증 세트 손실: 17461.615234\t최선의 손실: 0.121361\t정확도: 94.06%\n", - "30\t검증 세트 손실: 2813.408203\t최선의 손실: 0.121361\t정확도: 96.17%\n", - "31\t검증 세트 손실: 5106.535156\t최선의 손실: 0.121361\t정확도: 93.20%\n", - "32\t검증 세트 손실: 5045.147949\t최선의 손실: 0.121361\t정확도: 93.59%\n", + "10\t검증 세트 손실: 0.134776\t최선의 손실: 0.117176\t정확도: 97.19%\n", + "11\t검증 세트 손실: 0.111272\t최선의 손실: 0.111272\t정확도: 97.58%\n", + "12\t검증 세트 손실: 0.119993\t최선의 손실: 0.111272\t정확도: 97.42%\n", + "13\t검증 세트 손실: 0.101747\t최선의 손실: 0.101747\t정확도: 97.93%\n", + "14\t검증 세트 손실: 0.115033\t최선의 손실: 0.101747\t정확도: 97.81%\n", + "15\t검증 세트 손실: 0.114155\t최선의 손실: 0.101747\t정확도: 97.97%\n", + "16\t검증 세트 손실: 0.151760\t최선의 손실: 0.101747\t정확도: 96.95%\n", + "17\t검증 세트 손실: 114038688.000000\t최선의 손실: 0.101747\t정확도: 18.73%\n", + "18\t검증 세트 손실: 24119.214844\t최선의 손실: 0.101747\t정확도: 87.80%\n", + "19\t검증 세트 손실: 20886.140625\t최선의 손실: 0.101747\t정확도: 86.16%\n", + "20\t검증 세트 손실: 15851.966797\t최선의 손실: 0.101747\t정확도: 88.15%\n", + "21\t검증 세트 손실: 16214.166016\t최선의 손실: 0.101747\t정확도: 90.30%\n", + "22\t검증 세트 손실: 6434.910645\t최선의 손실: 0.101747\t정확도: 92.14%\n", + "23\t검증 세트 손실: 4669.493164\t최선의 손실: 0.101747\t정확도: 95.15%\n", + "24\t검증 세트 손실: 6963.567871\t최선의 손실: 0.101747\t정확도: 92.34%\n", + "25\t검증 세트 손실: 7147.170410\t최선의 손실: 0.101747\t정확도: 92.65%\n", + "26\t검증 세트 손실: 4758.573730\t최선의 손실: 0.101747\t정확도: 95.04%\n", + "27\t검증 세트 손실: 3946.893555\t최선의 손실: 0.101747\t정확도: 95.23%\n", + "28\t검증 세트 손실: 3893.087158\t최선의 손실: 0.101747\t정확도: 95.93%\n", + "29\t검증 세트 손실: 6746.493164\t최선의 손실: 0.101747\t정확도: 93.08%\n", + "30\t검증 세트 손실: 7150.086914\t최선의 손실: 0.101747\t정확도: 92.22%\n", + "31\t검증 세트 손실: 3885.372559\t최선의 손실: 0.101747\t정확도: 96.33%\n", + "32\t검증 세트 손실: 5336.498047\t최선의 손실: 0.101747\t정확도: 95.39%\n", + "33\t검증 세트 손실: 4062.226074\t최선의 손실: 0.101747\t정확도: 95.82%\n", + "34\t검증 세트 손실: 4417.700684\t최선의 손실: 0.101747\t정확도: 96.36%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 8.7s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 0.475914\t최선의 손실: 0.475914\t정확도: 92.03%\n", - "1\t검증 세트 손실: 0.276809\t최선의 손실: 0.276809\t정확도: 94.14%\n", - "2\t검증 세트 손실: 0.147532\t최선의 손실: 0.147532\t정확도: 96.79%\n", - "3\t검증 세트 손실: 0.193318\t최선의 손실: 0.147532\t정확도: 95.70%\n", - "4\t검증 세트 손실: 0.131158\t최선의 손실: 0.131158\t정확도: 96.52%\n", - "5\t검증 세트 손실: 0.124747\t최선의 손실: 0.124747\t정확도: 96.52%\n", - "6\t검증 세트 손실: 0.143715\t최선의 손실: 0.124747\t정확도: 96.91%\n", - "7\t검증 세트 손실: 0.455844\t최선의 손실: 0.124747\t정확도: 89.60%\n", - "8\t검증 세트 손실: 38552.222656\t최선의 손실: 0.124747\t정확도: 80.06%\n", - "9\t검증 세트 손실: 6882.469727\t최선의 손실: 0.124747\t정확도: 93.43%\n", - "10\t검증 세트 손실: 6768.856934\t최선의 손실: 0.124747\t정확도: 91.48%\n", - "11\t검증 세트 손실: 5060.610840\t최선의 손실: 0.124747\t정확도: 93.55%\n", - "12\t검증 세트 손실: 5545.289062\t최선의 손실: 0.124747\t정확도: 94.84%\n", - "13\t검증 세트 손실: 6497.045410\t최선의 손실: 0.124747\t정확도: 95.11%\n", - "14\t검증 세트 손실: 7212.971191\t최선의 손실: 0.124747\t정확도: 92.81%\n", - "15\t검증 세트 손실: 2851.519531\t최선의 손실: 0.124747\t정확도: 95.19%\n", - "16\t검증 세트 손실: 1474.055542\t최선의 손실: 0.124747\t정확도: 96.09%\n", - "17\t검증 세트 손실: 2161.396240\t최선의 손실: 0.124747\t정확도: 94.10%\n", - "18\t검증 세트 손실: 5285.481445\t최선의 손실: 0.124747\t정확도: 87.92%\n", - "19\t검증 세트 손실: 3471.203369\t최선의 손실: 0.124747\t정확도: 89.44%\n", - "20\t검증 세트 손실: 1261.343994\t최선의 손실: 0.124747\t정확도: 96.95%\n", - "21\t검증 세트 손실: 1978.592285\t최선의 손실: 0.124747\t정확도: 95.19%\n", - "22\t검증 세트 손실: 1779.017456\t최선의 손실: 0.124747\t정확도: 95.15%\n", - "23\t검증 세트 손실: 1385.271118\t최선의 손실: 0.124747\t정확도: 96.05%\n", - "24\t검증 세트 손실: 2275.356934\t최선의 손실: 0.124747\t정확도: 96.95%\n", - "25\t검증 세트 손실: 5435.272461\t최선의 손실: 0.124747\t정확도: 95.04%\n", - "26\t검증 세트 손실: 8076.832031\t최선의 손실: 0.124747\t정확도: 94.96%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 8.7s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 2.062495\t최선의 손실: 2.062495\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.991637\t최선의 손실: 1.991637\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.922055\t최선의 손실: 1.922055\t정확도: 18.73%\n", + "3\t검증 세트 손실: 2.204546\t최선의 손실: 1.922055\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.883166\t최선의 손실: 1.883166\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.632160\t최선의 손실: 1.632160\t정확도: 22.01%\n", + "6\t검증 세트 손실: 2.055040\t최선의 손실: 1.632160\t정확도: 18.73%\n", + "7\t검증 세트 손실: 2.041521\t최선의 손실: 1.632160\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.879895\t최선의 손실: 1.632160\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2.483920\t최선의 손실: 1.632160\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.725849\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.677554\t최선의 손실: 1.632160\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.999845\t최선의 손실: 1.632160\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.756564\t최선의 손실: 1.632160\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2.995748\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.696038\t최선의 손실: 1.632160\t정확도: 19.27%\n", + "16\t검증 세트 손실: 2.644180\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "17\t검증 세트 손실: 2.019517\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2.568134\t최선의 손실: 1.632160\t정확도: 22.01%\n", + "19\t검증 세트 손실: 2.833771\t최선의 손실: 1.632160\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.283543\t최선의 손실: 1.632160\t정확도: 22.01%\n", + "21\t검증 세트 손실: 2.377193\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "22\t검증 세트 손실: 1.983354\t최선의 손실: 1.632160\t정확도: 18.73%\n", + "23\t검증 세트 손실: 2.143963\t최선의 손실: 1.632160\t정확도: 19.27%\n", + "24\t검증 세트 손실: 2.032375\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.827977\t최선의 손실: 1.632160\t정확도: 20.91%\n", + "26\t검증 세트 손실: 1.893215\t최선의 손실: 1.632160\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=70, total= 8.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100 \n", - "0\t검증 세트 손실: 2.088119\t최선의 손실: 2.088119\t정확도: 18.73%\n", - "1\t검증 세트 손실: 2.474890\t최선의 손실: 2.088119\t정확도: 18.73%\n", - "2\t검증 세트 손실: 2.227653\t최선의 손실: 2.088119\t정확도: 19.27%\n", - "3\t검증 세트 손실: 2.281022\t최선의 손실: 2.088119\t정확도: 19.27%\n", - "4\t검증 세트 손실: 2.067660\t최선의 손실: 2.067660\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1.691264\t최선의 손실: 1.691264\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.097506\t최선의 손실: 1.691264\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.991475\t최선의 손실: 1.691264\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.886126\t최선의 손실: 1.691264\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2.482887\t최선의 손실: 1.691264\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.726879\t최선의 손실: 1.691264\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.677547\t최선의 손실: 1.677547\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.999843\t최선의 손실: 1.677547\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.756568\t최선의 손실: 1.677547\t정확도: 19.08%\n", - "14\t검증 세트 손실: 2.995760\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.696038\t최선의 손실: 1.677547\t정확도: 19.27%\n", - "16\t검증 세트 손실: 2.644184\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "17\t검증 세트 손실: 2.019513\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "18\t검증 세트 손실: 2.568111\t최선의 손실: 1.677547\t정확도: 22.01%\n", - "19\t검증 세트 손실: 2.833771\t최선의 손실: 1.677547\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.283541\t최선의 손실: 1.677547\t정확도: 22.01%\n", - "21\t검증 세트 손실: 2.377193\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "22\t검증 세트 손실: 1.983343\t최선의 손실: 1.677547\t정확도: 18.73%\n", - "23\t검증 세트 손실: 2.143953\t최선의 손실: 1.677547\t정확도: 19.27%\n", - "24\t검증 세트 손실: 2.032369\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.827990\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.893215\t최선의 손실: 1.677547\t정확도: 19.08%\n", - "27\t검증 세트 손실: 2.163732\t최선의 손실: 1.677547\t정확도: 22.01%\n", - "28\t검증 세트 손실: 2.621585\t최선의 손실: 1.677547\t정확도: 19.08%\n", - "29\t검증 세트 손실: 2.281029\t최선의 손실: 1.677547\t정확도: 20.91%\n", - "30\t검증 세트 손실: 1.913919\t최선의 손실: 1.677547\t정확도: 19.27%\n", - "31\t검증 세트 손실: 2.141618\t최선의 손실: 1.677547\t정확도: 19.27%\n", - "32\t검증 세트 손실: 2.017598\t최선의 손실: 1.677547\t정확도: 19.27%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100, total= 52.4s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100 \n", - "0\t검증 세트 손실: 2.002813\t최선의 손실: 2.002813\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.969606\t최선의 손실: 1.969606\t정확도: 22.01%\n", - "2\t검증 세트 손실: 2.180912\t최선의 손실: 1.969606\t정확도: 22.01%\n", - "3\t검증 세트 손실: 2.180711\t최선의 손실: 1.969606\t정확도: 22.01%\n", - "4\t검증 세트 손실: 2.003936\t최선의 손실: 1.969606\t정확도: 20.91%\n", - "5\t검증 세트 손실: 2.124589\t최선의 손실: 1.969606\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.798478\t최선의 손실: 1.798478\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.029039\t최선의 손실: 1.798478\t정확도: 19.08%\n", - "8\t검증 세트 손실: 2.358032\t최선의 손실: 1.798478\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.772402\t최선의 손실: 1.772402\t정확도: 19.27%\n", - "10\t검증 세트 손실: 2.146578\t최선의 손실: 1.772402\t정확도: 19.08%\n", - "11\t검증 세트 손실: 2.741047\t최선의 손실: 1.772402\t정확도: 22.01%\n", - "12\t검증 세트 손실: 2.146332\t최선의 손실: 1.772402\t정확도: 19.27%\n", - "13\t검증 세트 손실: 2.504782\t최선의 손실: 1.772402\t정확도: 19.27%\n", - "14\t검증 세트 손실: 2.295664\t최선의 손실: 1.772402\t정확도: 19.27%\n", - "15\t검증 세트 손실: 2.064213\t최선의 손실: 1.772402\t정확도: 18.73%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation=, total= 42.2s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.713733\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.923510\t최선의 손실: 1.713733\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.919315\t최선의 손실: 1.713733\t정확도: 22.01%\n", + "3\t검증 세트 손실: 2.114502\t최선의 손실: 1.713733\t정확도: 22.01%\n", + "4\t검증 세트 손실: 2.000187\t최선의 손실: 1.713733\t정확도: 20.91%\n", + "5\t검증 세트 손실: 2.187540\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.844666\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.057125\t최선의 손실: 1.713733\t정확도: 19.08%\n", + "8\t검증 세트 손실: 2.321504\t최선의 손실: 1.713733\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.772370\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "10\t검증 세트 손실: 2.147244\t최선의 손실: 1.713733\t정확도: 19.08%\n", + "11\t검증 세트 손실: 2.746797\t최선의 손실: 1.713733\t정확도: 22.01%\n", + "12\t검증 세트 손실: 2.135700\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "13\t검증 세트 손실: 2.503226\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "14\t검증 세트 손실: 2.295794\t최선의 손실: 1.713733\t정확도: 19.27%\n", + "15\t검증 세트 손실: 2.062525\t최선의 손실: 1.713733\t정확도: 18.73%\n", "16\t검증 세트 손실: 1.657115\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.927626\t최선의 손실: 1.657115\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.869214\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "19\t검증 세트 손실: 2.003770\t최선의 손실: 1.657115\t정확도: 18.73%\n", - "20\t검증 세트 손실: 2.406379\t최선의 손실: 1.657115\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.857646\t최선의 손실: 1.657115\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.927312\t최선의 손실: 1.657115\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.868942\t최선의 손실: 1.657115\t정확도: 19.08%\n", + "19\t검증 세트 손실: 2.003772\t최선의 손실: 1.657115\t정확도: 18.73%\n", + "20\t검증 세트 손실: 2.406410\t최선의 손실: 1.657115\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.857644\t최선의 손실: 1.657115\t정확도: 19.27%\n", "22\t검증 세트 손실: 2.096557\t최선의 손실: 1.657115\t정확도: 19.27%\n", - "23\t검증 세트 손실: 2.520510\t최선의 손실: 1.657115\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.893650\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "25\t검증 세트 손실: 2.078130\t최선의 손실: 1.657115\t정확도: 22.01%\n", - "26\t검증 세트 손실: 2.804218\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "27\t검증 세트 손실: 2.394269\t최선의 손실: 1.657115\t정확도: 20.91%\n", - "28\t검증 세트 손실: 1.977030\t최선의 손실: 1.657115\t정확도: 20.91%\n", + "23\t검증 세트 손실: 2.520499\t최선의 손실: 1.657115\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.893647\t최선의 손실: 1.657115\t정확도: 19.08%\n", + "25\t검증 세트 손실: 2.078128\t최선의 손실: 1.657115\t정확도: 22.01%\n", + "26\t검증 세트 손실: 2.804216\t최선의 손실: 1.657115\t정확도: 19.08%\n", + "27\t검증 세트 손실: 2.394266\t최선의 손실: 1.657115\t정확도: 20.91%\n", + "28\t검증 세트 손실: 1.977028\t최선의 손실: 1.657115\t정확도: 20.91%\n", "29\t검증 세트 손실: 1.721669\t최선의 손실: 1.657115\t정확도: 19.27%\n", - "30\t검증 세트 손실: 2.203090\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "31\t검증 세트 손실: 2.605250\t최선의 손실: 1.657115\t정확도: 22.01%\n", - "32\t검증 세트 손실: 2.066093\t최선의 손실: 1.657115\t정확도: 18.73%\n", - "33\t검증 세트 손실: 2.527796\t최선의 손실: 1.657115\t정확도: 19.08%\n", - "34\t검증 세트 손실: 2.730633\t최선의 손실: 1.657115\t정확도: 18.73%\n", - "35\t검증 세트 손실: 2.582782\t최선의 손실: 1.657115\t정확도: 22.01%\n", - "36\t검증 세트 손실: 2.845665\t최선의 손실: 1.657115\t정확도: 19.27%\n", + "30\t검증 세트 손실: 2.203365\t최선의 손실: 1.657115\t정확도: 19.08%\n", + "31\t검증 세트 손실: 2.605241\t최선의 손실: 1.657115\t정확도: 22.01%\n", + "32\t검증 세트 손실: 2.066091\t최선의 손실: 1.657115\t정확도: 18.73%\n", + "33\t검증 세트 손실: 2.527804\t최선의 손실: 1.657115\t정확도: 19.08%\n", + "34\t검증 세트 손실: 2.730582\t최선의 손실: 1.657115\t정확도: 18.73%\n", + "35\t검증 세트 손실: 2.582783\t최선의 손실: 1.657115\t정확도: 22.01%\n", + "36\t검증 세트 손실: 2.845670\t최선의 손실: 1.657115\t정확도: 19.27%\n", "37\t검증 세트 손실: 1.998367\t최선의 손실: 1.657115\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100, total= 59.9s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100 \n", - "0\t검증 세트 손실: 1.802910\t최선의 손실: 1.802910\t정확도: 22.01%\n", - "1\t검증 세트 손실: 2.206211\t최선의 손실: 1.802910\t정확도: 22.01%\n", - "2\t검증 세트 손실: 2.173965\t최선의 손실: 1.802910\t정확도: 19.08%\n", - "3\t검증 세트 손실: 2.142203\t최선의 손실: 1.802910\t정확도: 19.27%\n", - "4\t검증 세트 손실: 3.100131\t최선의 손실: 1.802910\t정확도: 20.91%\n", - "5\t검증 세트 손실: 2.463806\t최선의 손실: 1.802910\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.003303\t최선의 손실: 1.802910\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.763765\t최선의 손실: 1.763765\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.700590\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "9\t검증 세트 손실: 2.334472\t최선의 손실: 1.700590\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.853944\t최선의 손실: 1.700590\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.842179\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "12\t검증 세트 손실: 2.091017\t최선의 손실: 1.700590\t정확도: 20.91%\n", - "13\t검증 세트 손실: 3.280353\t최선의 손실: 1.700590\t정확도: 19.08%\n", - "14\t검증 세트 손실: 2.147483\t최선의 손실: 1.700590\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.816309\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "16\t검증 세트 손실: 1.802172\t최선의 손실: 1.700590\t정확도: 18.73%\n", - "17\t검증 세트 손실: 2.435375\t최선의 손실: 1.700590\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.970478\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "19\t검증 세트 손실: 2.368727\t최선의 손실: 1.700590\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.211055\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "21\t검증 세트 손실: 2.549932\t최선의 손실: 1.700590\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.926627\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "23\t검증 세트 손실: 2.675274\t최선의 손실: 1.700590\t정확도: 19.08%\n" + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation=, total= 59.4s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.915805\t최선의 손실: 1.915805\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.986556\t최선의 손실: 1.915805\t정확도: 22.01%\n", + "2\t검증 세트 손실: 2.207309\t최선의 손실: 1.915805\t정확도: 19.08%\n", + "3\t검증 세트 손실: 2.145632\t최선의 손실: 1.915805\t정확도: 19.27%\n", + "4\t검증 세트 손실: 3.100799\t최선의 손실: 1.915805\t정확도: 20.91%\n", + "5\t검증 세트 손실: 2.464481\t최선의 손실: 1.915805\t정확도: 20.91%\n", + "6\t검증 세트 손실: 2.003334\t최선의 손실: 1.915805\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.763760\t최선의 손실: 1.763760\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.700588\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "9\t검증 세트 손실: 2.334472\t최선의 손실: 1.700588\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.853931\t최선의 손실: 1.700588\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.842176\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "12\t검증 세트 손실: 2.090993\t최선의 손실: 1.700588\t정확도: 20.91%\n", + "13\t검증 세트 손실: 3.280326\t최선의 손실: 1.700588\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2.147485\t최선의 손실: 1.700588\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.816309\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1.802175\t최선의 손실: 1.700588\t정확도: 18.73%\n", + "17\t검증 세트 손실: 2.435383\t최선의 손실: 1.700588\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.970501\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "19\t검증 세트 손실: 2.368729\t최선의 손실: 1.700588\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.211072\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "21\t검증 세트 손실: 2.549932\t최선의 손실: 1.700588\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.926687\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "23\t검증 세트 손실: 2.680290\t최선의 손실: 1.700588\t정확도: 19.08%\n", + "24\t검증 세트 손실: 2.483638\t최선의 손실: 1.700588\t정확도: 19.27%\n", + "25\t검증 세트 손실: 1.703231\t최선의 손실: 1.700588\t정확도: 22.01%\n", + "26\t검증 세트 손실: 2.281157\t최선의 손실: 1.700588\t정확도: 18.73%\n", + "27\t검증 세트 손실: 1.998102\t최선의 손실: 1.700588\t정확도: 18.73%\n", + "28\t검증 세트 손실: 2.451714\t최선의 손실: 1.700588\t정확도: 19.08%\n", + "29\t검증 세트 손실: 2.781869\t최선의 손실: 1.700588\t정확도: 20.91%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=10, activation=, total= 46.7s\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.135655\t최선의 손실: 0.135655\t정확도: 95.54%\n", + "1\t검증 세트 손실: 0.095023\t최선의 손실: 0.095023\t정확도: 96.68%\n", + "2\t검증 세트 손실: 0.084920\t최선의 손실: 0.084920\t정확도: 97.26%\n", + "3\t검증 세트 손실: 0.080172\t최선의 손실: 0.080172\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.072163\t최선의 손실: 0.072163\t정확도: 98.01%\n", + "5\t검증 세트 손실: 0.059119\t최선의 손실: 0.059119\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.077558\t최선의 손실: 0.059119\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.081049\t최선의 손실: 0.059119\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.069143\t최선의 손실: 0.059119\t정확도: 98.05%\n", + "9\t검증 세트 손실: 0.060809\t최선의 손실: 0.059119\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.060059\t최선의 손실: 0.059119\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.053727\t최선의 손실: 0.053727\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.051787\t최선의 손실: 0.051787\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.073942\t최선의 손실: 0.051787\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.063912\t최선의 손실: 0.051787\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.061592\t최선의 손실: 0.051787\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.094317\t최선의 손실: 0.051787\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.057161\t최선의 손실: 0.051787\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.058118\t최선의 손실: 0.051787\t정확도: 98.79%\n", + "19\t검증 세트 손실: 0.065742\t최선의 손실: 0.051787\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.075180\t최선의 손실: 0.051787\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.067469\t최선의 손실: 0.051787\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.056214\t최선의 손실: 0.051787\t정확도: 98.63%\n", + "23\t검증 세트 손실: 0.076800\t최선의 손실: 0.051787\t정확도: 98.55%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "24\t검증 세트 손실: 2.497146\t최선의 손실: 1.700590\t정확도: 19.27%\n", - "25\t검증 세트 손실: 1.703904\t최선의 손실: 1.700590\t정확도: 22.01%\n", - "26\t검증 세트 손실: 2.280939\t최선의 손실: 1.700590\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.996808\t최선의 손실: 1.700590\t정확도: 18.73%\n", - "28\t검증 세트 손실: 2.451432\t최선의 손실: 1.700590\t정확도: 19.08%\n", - "29\t검증 세트 손실: 2.785381\t최선의 손실: 1.700590\t정확도: 20.91%\n", + "24\t검증 세트 손실: 0.056701\t최선의 손실: 0.051787\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.082195\t최선의 손실: 0.051787\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.097880\t최선의 손실: 0.051787\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.064273\t최선의 손실: 0.051787\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.087324\t최선의 손실: 0.051787\t정확도: 98.28%\n", + "29\t검증 세트 손실: 0.080798\t최선의 손실: 0.051787\t정확도: 98.40%\n", + "30\t검증 세트 손실: 0.062006\t최선의 손실: 0.051787\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.091805\t최선의 손실: 0.051787\t정확도: 98.24%\n", + "32\t검증 세트 손실: 0.088153\t최선의 손실: 0.051787\t정확도: 98.55%\n", + "33\t검증 세트 손실: 0.079292\t최선의 손실: 0.051787\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=100, total= 47.2s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90 \n", - "0\t검증 세트 손실: 0.146550\t최선의 손실: 0.146550\t정확도: 94.84%\n", - "1\t검증 세트 손실: 0.094867\t최선의 손실: 0.094867\t정확도: 96.87%\n", - "2\t검증 세트 손실: 0.095423\t최선의 손실: 0.094867\t정확도: 96.56%\n", - "3\t검증 세트 손실: 0.064081\t최선의 손실: 0.064081\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.064736\t최선의 손실: 0.064081\t정확도: 97.89%\n", - "5\t검증 세트 손실: 0.066322\t최선의 손실: 0.064081\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.063930\t최선의 손실: 0.063930\t정확도: 98.12%\n", - "7\t검증 세트 손실: 0.064293\t최선의 손실: 0.063930\t정확도: 98.08%\n", - "8\t검증 세트 손실: 0.055577\t최선의 손실: 0.055577\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.058049\t최선의 손실: 0.055577\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.069408\t최선의 손실: 0.055577\t정확도: 98.32%\n", - "11\t검증 세트 손실: 0.067740\t최선의 손실: 0.055577\t정확도: 98.24%\n", - "12\t검증 세트 손실: 0.077918\t최선의 손실: 0.055577\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.072366\t최선의 손실: 0.055577\t정확도: 98.12%\n", - "14\t검증 세트 손실: 0.062674\t최선의 손실: 0.055577\t정확도: 98.44%\n", - "15\t검증 세트 손실: 0.075901\t최선의 손실: 0.055577\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.077503\t최선의 손실: 0.055577\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.062158\t최선의 손실: 0.055577\t정확도: 98.36%\n", - "18\t검증 세트 손실: 0.067350\t최선의 손실: 0.055577\t정확도: 98.36%\n", - "19\t검증 세트 손실: 0.078718\t최선의 손실: 0.055577\t정확도: 98.28%\n", - "20\t검증 세트 손실: 0.074724\t최선의 손실: 0.055577\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.105794\t최선의 손실: 0.055577\t정확도: 98.12%\n", - "22\t검증 세트 손실: 0.064985\t최선의 손실: 0.055577\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.063155\t최선의 손실: 0.055577\t정확도: 98.59%\n", - "24\t검증 세트 손실: 0.073929\t최선의 손실: 0.055577\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.101777\t최선의 손실: 0.055577\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.088768\t최선의 손실: 0.055577\t정확도: 98.20%\n", - "27\t검증 세트 손실: 0.093053\t최선의 손실: 0.055577\t정확도: 98.44%\n", - "28\t검증 세트 손실: 0.097961\t최선의 손실: 0.055577\t정확도: 98.48%\n", - "29\t검증 세트 손실: 0.117461\t최선의 손실: 0.055577\t정확도: 98.12%\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.132233\t최선의 손실: 0.132233\t정확도: 95.93%\n", + "1\t검증 세트 손실: 0.079551\t최선의 손실: 0.079551\t정확도: 97.54%\n", + "2\t검증 세트 손실: 0.062300\t최선의 손실: 0.062300\t정확도: 98.05%\n", + "3\t검증 세트 손실: 0.055876\t최선의 손실: 0.055876\t정확도: 98.40%\n", + "4\t검증 세트 손실: 0.061177\t최선의 손실: 0.055876\t정확도: 98.16%\n", + "5\t검증 세트 손실: 0.066275\t최선의 손실: 0.055876\t정확도: 98.20%\n", + "6\t검증 세트 손실: 0.047433\t최선의 손실: 0.047433\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.057897\t최선의 손실: 0.047433\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.104208\t최선의 손실: 0.047433\t정확도: 97.81%\n", + "9\t검증 세트 손실: 0.113372\t최선의 손실: 0.047433\t정확도: 96.95%\n", + "10\t검증 세트 손실: 0.067767\t최선의 손실: 0.047433\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.067239\t최선의 손실: 0.047433\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.047783\t최선의 손실: 0.047433\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.049406\t최선의 손실: 0.047433\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.070483\t최선의 손실: 0.047433\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.065679\t최선의 손실: 0.047433\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.053990\t최선의 손실: 0.047433\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.071080\t최선의 손실: 0.047433\t정확도: 98.36%\n", + "18\t검증 세트 손실: 0.074373\t최선의 손실: 0.047433\t정확도: 98.40%\n", + "19\t검증 세트 손실: 0.054544\t최선의 손실: 0.047433\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.052724\t최선의 손실: 0.047433\t정확도: 98.91%\n", + "21\t검증 세트 손실: 0.070872\t최선의 손실: 0.047433\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.068896\t최선의 손실: 0.047433\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.063021\t최선의 손실: 0.047433\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.075643\t최선의 손실: 0.047433\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.083829\t최선의 손실: 0.047433\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.062397\t최선의 손실: 0.047433\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.068107\t최선의 손실: 0.047433\t정확도: 98.67%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90, total= 2.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90 \n", - "0\t검증 세트 손실: 0.158881\t최선의 손실: 0.158881\t정확도: 95.23%\n", - "1\t검증 세트 손실: 0.096742\t최선의 손실: 0.096742\t정확도: 96.79%\n", - "2\t검증 세트 손실: 0.076127\t최선의 손실: 0.076127\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.072875\t최선의 손실: 0.072875\t정확도: 97.77%\n", - "4\t검증 세트 손실: 0.067349\t최선의 손실: 0.067349\t정확도: 97.97%\n", - "5\t검증 세트 손실: 0.059423\t최선의 손실: 0.059423\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.059172\t최선의 손실: 0.059172\t정확도: 98.36%\n", - "7\t검증 세트 손실: 0.053208\t최선의 손실: 0.053208\t정확도: 98.48%\n", - "8\t검증 세트 손실: 0.058086\t최선의 손실: 0.053208\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.048196\t최선의 손실: 0.048196\t정확도: 98.63%\n", - "10\t검증 세트 손실: 0.047804\t최선의 손실: 0.047804\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.073028\t최선의 손실: 0.047804\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.055050\t최선의 손실: 0.047804\t정확도: 98.51%\n", - "13\t검증 세트 손실: 0.079629\t최선의 손실: 0.047804\t정확도: 98.16%\n", - "14\t검증 세트 손실: 0.046765\t최선의 손실: 0.046765\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.058802\t최선의 손실: 0.046765\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.071269\t최선의 손실: 0.046765\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.063493\t최선의 손실: 0.046765\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.043272\t최선의 손실: 0.043272\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.052531\t최선의 손실: 0.043272\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.050159\t최선의 손실: 0.043272\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.067074\t최선의 손실: 0.043272\t정확도: 98.71%\n", - "22\t검증 세트 손실: 0.051822\t최선의 손실: 0.043272\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.050157\t최선의 손실: 0.043272\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.058223\t최선의 손실: 0.043272\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.062174\t최선의 손실: 0.043272\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.056458\t최선의 손실: 0.043272\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.059603\t최선의 손실: 0.043272\t정확도: 98.94%\n", - "28\t검증 세트 손실: 0.060543\t최선의 손실: 0.043272\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.060816\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.061481\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.061855\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.062419\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.062981\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "34\t검증 세트 손실: 0.063243\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.063618\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "36\t검증 세트 손실: 0.064015\t최선의 손실: 0.043272\t정확도: 99.10%\n", - "37\t검증 세트 손실: 0.064373\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "38\t검증 세트 손실: 0.064755\t최선의 손실: 0.043272\t정확도: 99.06%\n", - "39\t검증 세트 손실: 0.065099\t최선의 손실: 0.043272\t정확도: 99.06%\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation=, total= 2.0s\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.132466\t최선의 손실: 0.132466\t정확도: 95.97%\n", + "1\t검증 세트 손실: 0.079683\t최선의 손실: 0.079683\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.068473\t최선의 손실: 0.068473\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.051311\t최선의 손실: 0.051311\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.059262\t최선의 손실: 0.051311\t정확도: 98.48%\n", + "5\t검증 세트 손실: 0.046882\t최선의 손실: 0.046882\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.054540\t최선의 손실: 0.046882\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.047415\t최선의 손실: 0.046882\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.044632\t최선의 손실: 0.044632\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.075221\t최선의 손실: 0.044632\t정확도: 98.28%\n", + "10\t검증 세트 손실: 0.062709\t최선의 손실: 0.044632\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.069257\t최선의 손실: 0.044632\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.059542\t최선의 손실: 0.044632\t정확도: 98.63%\n", + "13\t검증 세트 손실: 0.053013\t최선의 손실: 0.044632\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.051254\t최선의 손실: 0.044632\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.052059\t최선의 손실: 0.044632\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.048598\t최선의 손실: 0.044632\t정확도: 98.83%\n", + "17\t검증 세트 손실: 0.062785\t최선의 손실: 0.044632\t정확도: 98.98%\n", + "18\t검증 세트 손실: 0.062980\t최선의 손실: 0.044632\t정확도: 98.79%\n", + "19\t검증 세트 손실: 0.058535\t최선의 손실: 0.044632\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.050616\t최선의 손실: 0.044632\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.051059\t최선의 손실: 0.044632\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.049285\t최선의 손실: 0.044632\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.051298\t최선의 손실: 0.044632\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.064808\t최선의 손실: 0.044632\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.056508\t최선의 손실: 0.044632\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.055747\t최선의 손실: 0.044632\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.063116\t최선의 손실: 0.044632\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.067894\t최선의 손실: 0.044632\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.058895\t최선의 손실: 0.044632\t정확도: 98.91%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90, total= 3.3s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90 \n", - "0\t검증 세트 손실: 0.154424\t최선의 손실: 0.154424\t정확도: 94.88%\n", - "1\t검증 세트 손실: 0.099753\t최선의 손실: 0.099753\t정확도: 96.91%\n", - "2\t검증 세트 손실: 0.092431\t최선의 손실: 0.092431\t정확도: 97.42%\n", - "3\t검증 세트 손실: 0.067389\t최선의 손실: 0.067389\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.058412\t최선의 손실: 0.058412\t정확도: 98.16%\n", - "5\t검증 세트 손실: 0.059779\t최선의 손실: 0.058412\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.055561\t최선의 손실: 0.055561\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.047204\t최선의 손실: 0.047204\t정확도: 98.44%\n", - "8\t검증 세트 손실: 0.060022\t최선의 손실: 0.047204\t정확도: 98.08%\n", - "9\t검증 세트 손실: 0.046195\t최선의 손실: 0.046195\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.055300\t최선의 손실: 0.046195\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.051454\t최선의 손실: 0.046195\t정확도: 98.91%\n", - "12\t검증 세트 손실: 0.054987\t최선의 손실: 0.046195\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.068825\t최선의 손실: 0.046195\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.059701\t최선의 손실: 0.046195\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.069635\t최선의 손실: 0.046195\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.068311\t최선의 손실: 0.046195\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.056853\t최선의 손실: 0.046195\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.060310\t최선의 손실: 0.046195\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.059858\t최선의 손실: 0.046195\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.088564\t최선의 손실: 0.046195\t정확도: 98.44%\n", - "21\t검증 세트 손실: 0.063994\t최선의 손실: 0.046195\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.054595\t최선의 손실: 0.046195\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.065719\t최선의 손실: 0.046195\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.066579\t최선의 손실: 0.046195\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.064999\t최선의 손실: 0.046195\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.065419\t최선의 손실: 0.046195\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.066912\t최선의 손실: 0.046195\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.067712\t최선의 손실: 0.046195\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.068452\t최선의 손실: 0.046195\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.069111\t최선의 손실: 0.046195\t정확도: 99.06%\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=500, activation=, total= 2.2s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.176589\t최선의 손실: 0.176589\t정확도: 95.15%\n", + "1\t검증 세트 손실: 2.222912\t최선의 손실: 0.176589\t정확도: 78.03%\n", + "2\t검증 세트 손실: 1.163448\t최선의 손실: 0.176589\t정확도: 40.23%\n", + "3\t검증 세트 손실: 1.219683\t최선의 손실: 0.176589\t정확도: 40.38%\n", + "4\t검증 세트 손실: 1.160657\t최선의 손실: 0.176589\t정확도: 40.54%\n", + "5\t검증 세트 손실: 1.472090\t최선의 손실: 0.176589\t정확도: 27.76%\n", + "6\t검증 세트 손실: 1.212417\t최선의 손실: 0.176589\t정확도: 40.50%\n", + "7\t검증 세트 손실: 1.213946\t최선의 손실: 0.176589\t정확도: 40.54%\n", + "8\t검증 세트 손실: 1.232089\t최선의 손실: 0.176589\t정확도: 40.70%\n", + "9\t검증 세트 손실: 1.120774\t최선의 손실: 0.176589\t정확도: 41.40%\n", + "10\t검증 세트 손실: 1.128758\t최선의 손실: 0.176589\t정확도: 40.50%\n", + "11\t검증 세트 손실: 1.292415\t최선의 손실: 0.176589\t정확도: 39.37%\n", + "12\t검증 세트 손실: 1.200911\t최선의 손실: 0.176589\t정확도: 40.15%\n", + "13\t검증 세트 손실: 1.319158\t최선의 손실: 0.176589\t정확도: 40.46%\n", + "14\t검증 세트 손실: 1.230171\t최선의 손실: 0.176589\t정확도: 40.58%\n", + "15\t검증 세트 손실: 1.186106\t최선의 손실: 0.176589\t정확도: 40.58%\n", + "16\t검증 세트 손실: 1.425670\t최선의 손실: 0.176589\t정확도: 34.13%\n", + "17\t검증 세트 손실: 1.225763\t최선의 손실: 0.176589\t정확도: 40.77%\n", + "18\t검증 세트 손실: 1.168665\t최선의 손실: 0.176589\t정확도: 40.38%\n", + "19\t검증 세트 손실: 1.157672\t최선의 손실: 0.176589\t정확도: 40.38%\n", + "20\t검증 세트 손실: 1.153339\t최선의 손실: 0.176589\t정확도: 41.95%\n", + "21\t검증 세트 손실: 1.166924\t최선의 손실: 0.176589\t정확도: 34.21%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=90, total= 2.5s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 0.154114\t최선의 손실: 0.154114\t정확도: 96.68%\n", - "1\t검증 세트 손실: 0.222299\t최선의 손실: 0.154114\t정확도: 93.47%\n", - "2\t검증 세트 손실: 0.729852\t최선의 손실: 0.154114\t정확도: 79.98%\n", - "3\t검증 세트 손실: 0.868618\t최선의 손실: 0.154114\t정확도: 76.08%\n", - "4\t검증 세트 손실: 0.438869\t최선의 손실: 0.154114\t정확도: 89.64%\n", - "5\t검증 세트 손실: 0.526391\t최선의 손실: 0.154114\t정확도: 87.22%\n", - "6\t검증 세트 손실: 0.448938\t최선의 손실: 0.154114\t정확도: 89.01%\n", - "7\t검증 세트 손실: 0.596725\t최선의 손실: 0.154114\t정확도: 80.18%\n", - "8\t검증 세트 손실: 0.576775\t최선의 손실: 0.154114\t정확도: 80.69%\n", - "9\t검증 세트 손실: 0.532032\t최선의 손실: 0.154114\t정확도: 84.40%\n", - "10\t검증 세트 손실: 0.545526\t최선의 손실: 0.154114\t정확도: 82.06%\n", - "11\t검증 세트 손실: 0.644569\t최선의 손실: 0.154114\t정확도: 79.91%\n", - "12\t검증 세트 손실: 0.522775\t최선의 손실: 0.154114\t정확도: 84.79%\n", - "13\t검증 세트 손실: 0.427011\t최선의 손실: 0.154114\t정확도: 89.44%\n", - "14\t검증 세트 손실: 0.558450\t최선의 손실: 0.154114\t정확도: 71.74%\n", - "15\t검증 세트 손실: 0.551022\t최선의 손실: 0.154114\t정확도: 72.13%\n", - "16\t검증 세트 손실: 0.562261\t최선의 손실: 0.154114\t정확도: 71.89%\n", - "17\t검증 세트 손실: 0.624466\t최선의 손실: 0.154114\t정확도: 70.80%\n", - "18\t검증 세트 손실: 0.802376\t최선의 손실: 0.154114\t정확도: 65.01%\n", - "19\t검증 세트 손실: 0.781837\t최선의 손실: 0.154114\t정확도: 65.13%\n", - "20\t검증 세트 손실: 0.876148\t최선의 손실: 0.154114\t정확도: 57.11%\n", - "21\t검증 세트 손실: 1.516996\t최선의 손실: 0.154114\t정확도: 27.52%\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation=, total= 7.8s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.473290\t최선의 손실: 0.473290\t정확도: 76.97%\n", + "1\t검증 세트 손실: 0.402922\t최선의 손실: 0.402922\t정확도: 80.84%\n", + "2\t검증 세트 손실: 0.399423\t최선의 손실: 0.399423\t정확도: 84.71%\n", + "3\t검증 세트 손실: 0.327952\t최선의 손실: 0.327952\t정확도: 89.41%\n", + "4\t검증 세트 손실: 0.398308\t최선의 손실: 0.327952\t정확도: 84.64%\n", + "5\t검증 세트 손실: 0.361860\t최선의 손실: 0.327952\t정확도: 86.00%\n", + "6\t검증 세트 손실: 0.390611\t최선의 손실: 0.327952\t정확도: 86.51%\n", + "7\t검증 세트 손실: 0.489323\t최선의 손실: 0.327952\t정확도: 78.19%\n", + "8\t검증 세트 손실: 0.861380\t최선의 손실: 0.327952\t정확도: 83.07%\n", + "9\t검증 세트 손실: 0.351928\t최선의 손실: 0.327952\t정확도: 87.37%\n", + "10\t검증 세트 손실: 0.692284\t최선의 손실: 0.327952\t정확도: 74.67%\n", + "11\t검증 세트 손실: 0.420939\t최선의 손실: 0.327952\t정확도: 87.37%\n", + "12\t검증 세트 손실: 0.469019\t최선의 손실: 0.327952\t정확도: 81.78%\n", + "13\t검증 세트 손실: 0.454232\t최선의 손실: 0.327952\t정확도: 81.24%\n", + "14\t검증 세트 손실: 0.512693\t최선의 손실: 0.327952\t정확도: 78.85%\n", + "15\t검증 세트 손실: 0.471201\t최선의 손실: 0.327952\t정확도: 80.53%\n", + "16\t검증 세트 손실: 0.515144\t최선의 손실: 0.327952\t정확도: 77.91%\n", + "17\t검증 세트 손실: 0.466249\t최선의 손실: 0.327952\t정확도: 85.97%\n", + "18\t검증 세트 손실: 0.443963\t최선의 손실: 0.327952\t정확도: 84.99%\n", + "19\t검증 세트 손실: 0.532088\t최선의 손실: 0.327952\t정확도: 75.80%\n", + "20\t검증 세트 손실: 0.515546\t최선의 손실: 0.327952\t정확도: 81.00%\n", + "21\t검증 세트 손실: 0.792181\t최선의 손실: 0.327952\t정확도: 68.37%\n", + "22\t검증 세트 손실: 0.564568\t최선의 손실: 0.327952\t정확도: 77.91%\n", + "23\t검증 세트 손실: 0.552715\t최선의 손실: 0.327952\t정확도: 78.30%\n", + "24\t검증 세트 손실: 0.558176\t최선의 손실: 0.327952\t정확도: 78.54%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30, total= 7.9s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 0.170579\t최선의 손실: 0.170579\t정확도: 95.27%\n", - "1\t검증 세트 손실: 0.304907\t최선의 손실: 0.170579\t정확도: 93.43%\n", - "2\t검증 세트 손실: 0.761635\t최선의 손실: 0.170579\t정확도: 66.46%\n", - "3\t검증 세트 손실: 0.593629\t최선의 손실: 0.170579\t정확도: 81.20%\n", - "4\t검증 세트 손실: 1.281537\t최선의 손실: 0.170579\t정확도: 37.41%\n", - "5\t검증 세트 손실: 1.587119\t최선의 손실: 0.170579\t정확도: 23.38%\n", - "6\t검증 세트 손실: 1.588985\t최선의 손실: 0.170579\t정확도: 20.91%\n", - "7\t검증 세트 손실: 1.585827\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "8\t검증 세트 손실: 1.581620\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "9\t검증 세트 손실: 1.580047\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "10\t검증 세트 손실: 1.587766\t최선의 손실: 0.170579\t정확도: 23.65%\n" + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation=, total= 8.8s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.473558\t최선의 손실: 0.473558\t정확도: 77.52%\n", + "1\t검증 세트 손실: 0.557281\t최선의 손실: 0.473558\t정확도: 78.89%\n", + "2\t검증 세트 손실: 0.323825\t최선의 손실: 0.323825\t정확도: 90.19%\n", + "3\t검증 세트 손실: 0.332934\t최선의 손실: 0.323825\t정확도: 88.94%\n", + "4\t검증 세트 손실: 0.308196\t최선의 손실: 0.308196\t정확도: 90.97%\n", + "5\t검증 세트 손실: 0.356711\t최선의 손실: 0.308196\t정확도: 84.83%\n", + "6\t검증 세트 손실: 0.558054\t최선의 손실: 0.308196\t정확도: 74.32%\n", + "7\t검증 세트 손실: 0.575886\t최선의 손실: 0.308196\t정확도: 76.82%\n", + "8\t검증 세트 손실: 0.823342\t최선의 손실: 0.308196\t정확도: 61.10%\n", + "9\t검증 세트 손실: 0.595095\t최선의 손실: 0.308196\t정확도: 73.92%\n", + "10\t검증 세트 손실: 0.660953\t최선의 손실: 0.308196\t정확도: 71.89%\n", + "11\t검증 세트 손실: 0.865134\t최선의 손실: 0.308196\t정확도: 52.11%\n", + "12\t검증 세트 손실: 1.175349\t최선의 손실: 0.308196\t정확도: 42.22%\n", + "13\t검증 세트 손실: 0.766482\t최선의 손실: 0.308196\t정확도: 59.66%\n", + "14\t검증 세트 손실: 0.765809\t최선의 손실: 0.308196\t정확도: 58.44%\n", + "15\t검증 세트 손실: 0.743810\t최선의 손실: 0.308196\t정확도: 59.30%\n", + "16\t검증 세트 손실: 0.798654\t최선의 손실: 0.308196\t정확도: 55.90%\n", + "17\t검증 세트 손실: 0.822896\t최선의 손실: 0.308196\t정확도: 55.28%\n", + "18\t검증 세트 손실: 1.218586\t최선의 손실: 0.308196\t정확도: 40.50%\n", + "19\t검증 세트 손실: 1.194946\t최선의 손실: 0.308196\t정확도: 41.05%\n", + "20\t검증 세트 손실: 1.159693\t최선의 손실: 0.308196\t정확도: 39.41%\n", + "21\t검증 세트 손실: 1.613571\t최선의 손실: 0.308196\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.613928\t최선의 손실: 0.308196\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.611108\t최선의 손실: 0.308196\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.611076\t최선의 손실: 0.308196\t정확도: 20.91%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "11\t검증 세트 손실: 1.582595\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "12\t검증 세트 손실: 1.580916\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "13\t검증 세트 손실: 1.583850\t최선의 손실: 0.170579\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.581269\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "15\t검증 세트 손실: 1.581416\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "16\t검증 세트 손실: 1.585085\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "17\t검증 세트 손실: 1.587295\t최선의 손실: 0.170579\t정확도: 20.72%\n", - "18\t검증 세트 손실: 1.582088\t최선의 손실: 0.170579\t정확도: 23.65%\n", - "19\t검증 세트 손실: 1.270253\t최선의 손실: 0.170579\t정확도: 39.56%\n", - "20\t검증 세트 손실: 1.575266\t최선의 손실: 0.170579\t정확도: 24.32%\n", - "21\t검증 세트 손실: 1.576395\t최선의 손실: 0.170579\t정확도: 24.32%\n", + "25\t검증 세트 손실: 1.614432\t최선의 손실: 0.308196\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30, total= 7.9s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 0.213169\t최선의 손실: 0.213169\t정확도: 95.50%\n", - "1\t검증 세트 손실: 0.517129\t최선의 손실: 0.213169\t정확도: 74.75%\n", - "2\t검증 세트 손실: 1.409116\t최선의 손실: 0.213169\t정확도: 34.40%\n", - "3\t검증 세트 손실: 1.311955\t최선의 손실: 0.213169\t정확도: 35.38%\n", - "4\t검증 세트 손실: 1.265677\t최선의 손실: 0.213169\t정확도: 37.45%\n", - "5\t검증 세트 손실: 1.257055\t최선의 손실: 0.213169\t정확도: 37.22%\n", - "6\t검증 세트 손실: 1.018267\t최선의 손실: 0.213169\t정확도: 47.93%\n", - "7\t검증 세트 손실: 0.991482\t최선의 손실: 0.213169\t정확도: 53.75%\n", - "8\t검증 세트 손실: 0.943871\t최선의 손실: 0.213169\t정확도: 53.21%\n", - "9\t검증 세트 손실: 0.927410\t최선의 손실: 0.213169\t정확도: 57.27%\n", - "10\t검증 세트 손실: 1.062522\t최선의 손실: 0.213169\t정확도: 54.57%\n", - "11\t검증 세트 손실: 0.883424\t최선의 손실: 0.213169\t정확도: 59.23%\n", - "12\t검증 세트 손실: 0.898039\t최선의 손실: 0.213169\t정확도: 56.10%\n", - "13\t검증 세트 손실: 0.862216\t최선의 손실: 0.213169\t정확도: 55.24%\n", - "14\t검증 세트 손실: 0.828746\t최선의 손실: 0.213169\t정확도: 59.73%\n", - "15\t검증 세트 손실: 0.827358\t최선의 손실: 0.213169\t정확도: 59.73%\n", - "16\t검증 세트 손실: 0.833474\t최선의 손실: 0.213169\t정확도: 59.73%\n", - "17\t검증 세트 손실: 0.840201\t최선의 손실: 0.213169\t정확도: 55.75%\n", - "18\t검증 세트 손실: 0.823117\t최선의 손실: 0.213169\t정확도: 59.73%\n", - "19\t검증 세트 손실: 0.846446\t최선의 손실: 0.213169\t정확도: 55.75%\n", - "20\t검증 세트 손실: 0.823826\t최선의 손실: 0.213169\t정확도: 56.72%\n", - "21\t검증 세트 손실: 0.839755\t최선의 손실: 0.213169\t정확도: 59.73%\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=50, activation=, total= 9.2s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.218324\t최선의 손실: 0.218324\t정확도: 96.09%\n", + "1\t검증 세트 손실: 147.053955\t최선의 손실: 0.218324\t정확도: 68.06%\n", + "2\t검증 세트 손실: 1.401268\t최선의 손실: 0.218324\t정확도: 91.95%\n", + "3\t검증 세트 손실: 1.593924\t최선의 손실: 0.218324\t정확도: 89.84%\n", + "4\t검증 세트 손실: 0.765481\t최선의 손실: 0.218324\t정확도: 94.84%\n", + "5\t검증 세트 손실: 3.340133\t최선의 손실: 0.218324\t정확도: 93.43%\n", + "6\t검증 세트 손실: 1.033821\t최선의 손실: 0.218324\t정확도: 88.23%\n", + "7\t검증 세트 손실: 1.173966\t최선의 손실: 0.218324\t정확도: 86.75%\n", + "8\t검증 세트 손실: 0.647666\t최선의 손실: 0.218324\t정확도: 90.42%\n", + "9\t검증 세트 손실: 0.414452\t최선의 손실: 0.218324\t정확도: 94.37%\n", + "10\t검증 세트 손실: 0.291567\t최선의 손실: 0.218324\t정확도: 96.25%\n", + "11\t검증 세트 손실: 0.400848\t최선의 손실: 0.218324\t정확도: 95.19%\n", + "12\t검증 세트 손실: 0.456824\t최선의 손실: 0.218324\t정확도: 96.56%\n", + "13\t검증 세트 손실: 0.531226\t최선의 손실: 0.218324\t정확도: 94.88%\n", + "14\t검증 세트 손실: 0.633532\t최선의 손실: 0.218324\t정확도: 96.64%\n", + "15\t검증 세트 손실: 0.492878\t최선의 손실: 0.218324\t정확도: 96.33%\n", + "16\t검증 세트 손실: 0.604712\t최선의 손실: 0.218324\t정확도: 96.01%\n", + "17\t검증 세트 손실: 0.339925\t최선의 손실: 0.218324\t정확도: 92.85%\n", + "18\t검증 세트 손실: 0.561012\t최선의 손실: 0.218324\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.756154\t최선의 손실: 0.218324\t정확도: 95.62%\n", + "20\t검증 세트 손실: 148027.359375\t최선의 손실: 0.218324\t정확도: 20.91%\n", + "21\t검증 세트 손실: 228.210220\t최선의 손실: 0.218324\t정확도: 69.74%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, n_neurons=30, total= 7.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.207863\t최선의 손실: 0.207863\t정확도: 93.32%\n", - "1\t검증 세트 손실: 0.116150\t최선의 손실: 0.116150\t정확도: 96.60%\n", - "2\t검증 세트 손실: 4865.910645\t최선의 손실: 0.116150\t정확도: 20.25%\n", - "3\t검증 세트 손실: 16.174971\t최선의 손실: 0.116150\t정확도: 72.71%\n", - "4\t검증 세트 손실: 3.151557\t최선의 손실: 0.116150\t정확도: 88.39%\n", - "5\t검증 세트 손실: 1.583676\t최선의 손실: 0.116150\t정확도: 93.59%\n", - "6\t검증 세트 손실: 1.383922\t최선의 손실: 0.116150\t정확도: 92.57%\n", - "7\t검증 세트 손실: 0.940549\t최선의 손실: 0.116150\t정확도: 94.45%\n", - "8\t검증 세트 손실: 0.797701\t최선의 손실: 0.116150\t정확도: 94.96%\n", - "9\t검증 세트 손실: 1.165885\t최선의 손실: 0.116150\t정확도: 93.12%\n", - "10\t검증 세트 손실: 1.159082\t최선의 손실: 0.116150\t정확도: 93.43%\n", - "11\t검증 세트 손실: 1.846297\t최선의 손실: 0.116150\t정확도: 87.84%\n", - "12\t검증 세트 손실: 0.508150\t최선의 손실: 0.116150\t정확도: 95.54%\n", - "13\t검증 세트 손실: 0.566183\t최선의 손실: 0.116150\t정확도: 95.54%\n", - "14\t검증 세트 손실: 0.731023\t최선의 손실: 0.116150\t정확도: 93.51%\n", - "15\t검증 세트 손실: 0.720464\t최선의 손실: 0.116150\t정확도: 94.53%\n", - "16\t검증 세트 손실: 0.780148\t최선의 손실: 0.116150\t정확도: 93.94%\n", - "17\t검증 세트 손실: 0.459359\t최선의 손실: 0.116150\t정확도: 95.74%\n", - "18\t검증 세트 손실: 0.864795\t최선의 손실: 0.116150\t정확도: 93.12%\n", - "19\t검증 세트 손실: 0.455302\t최선의 손실: 0.116150\t정확도: 95.66%\n", - "20\t검증 세트 손실: 0.345717\t최선의 손실: 0.116150\t정확도: 96.52%\n", - "21\t검증 세트 손실: 0.358819\t최선의 손실: 0.116150\t정확도: 95.82%\n", - "22\t검증 세트 손실: 0.368642\t최선의 손실: 0.116150\t정확도: 96.95%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.7s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.154111\t최선의 손실: 0.154111\t정확도: 95.04%\n", + "1\t검증 세트 손실: 0.105010\t최선의 손실: 0.105010\t정확도: 96.99%\n", + "2\t검증 세트 손실: 0.093028\t최선의 손실: 0.093028\t정확도: 97.19%\n", + "3\t검증 세트 손실: 0.092340\t최선의 손실: 0.092340\t정확도: 97.34%\n", + "4\t검증 세트 손실: 10572.413086\t최선의 손실: 0.092340\t정확도: 26.86%\n", + "5\t검증 세트 손실: 64.950020\t최선의 손실: 0.092340\t정확도: 83.39%\n", + "6\t검증 세트 손실: 18.626427\t최선의 손실: 0.092340\t정확도: 92.26%\n", + "7\t검증 세트 손실: 14.666029\t최선의 손실: 0.092340\t정확도: 92.73%\n", + "8\t검증 세트 손실: 12.693595\t최선의 손실: 0.092340\t정확도: 91.09%\n", + "9\t검증 세트 손실: 7.673214\t최선의 손실: 0.092340\t정확도: 94.14%\n", + "10\t검증 세트 손실: 9.147356\t최선의 손실: 0.092340\t정확도: 94.33%\n", + "11\t검증 세트 손실: 4.568550\t최선의 손실: 0.092340\t정확도: 96.21%\n", + "12\t검증 세트 손실: 6.123651\t최선의 손실: 0.092340\t정확도: 93.75%\n", + "13\t검증 세트 손실: 16.756584\t최선의 손실: 0.092340\t정확도: 86.51%\n", + "14\t검증 세트 손실: 8.930738\t최선의 손실: 0.092340\t정확도: 92.96%\n", + "15\t검증 세트 손실: 4.058234\t최선의 손실: 0.092340\t정확도: 96.76%\n", + "16\t검증 세트 손실: 5.894042\t최선의 손실: 0.092340\t정확도: 94.68%\n", + "17\t검증 세트 손실: 6.106359\t최선의 손실: 0.092340\t정확도: 95.74%\n", + "18\t검증 세트 손실: 4.506763\t최선의 손실: 0.092340\t정확도: 96.56%\n", + "19\t검증 세트 손실: 4.701051\t최선의 손실: 0.092340\t정확도: 96.36%\n", + "20\t검증 세트 손실: 7.225590\t최선의 손실: 0.092340\t정확도: 94.14%\n", + "21\t검증 세트 손실: 2.360377\t최선의 손실: 0.092340\t정확도: 97.46%\n", + "22\t검증 세트 손실: 4.878365\t최선의 손실: 0.092340\t정확도: 94.76%\n", + "23\t검증 세트 손실: 3.350983\t최선의 손실: 0.092340\t정확도: 97.03%\n", + "24\t검증 세트 손실: 2.613224\t최선의 손실: 0.092340\t정확도: 96.60%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 6.6s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.128376\t최선의 손실: 0.128376\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.180738\t최선의 손실: 0.128376\t정확도: 95.35%\n", - "2\t검증 세트 손실: 0.095937\t최선의 손실: 0.095937\t정확도: 97.58%\n", - "3\t검증 세트 손실: 58.235878\t최선의 손실: 0.095937\t정확도: 87.29%\n", - "4\t검증 세트 손실: 20.941236\t최선의 손실: 0.095937\t정확도: 91.95%\n", - "5\t검증 세트 손실: 17.023081\t최선의 손실: 0.095937\t정확도: 84.99%\n", - "6\t검증 세트 손실: 12.311157\t최선의 손실: 0.095937\t정확도: 91.28%\n", - "7\t검증 세트 손실: 4.557021\t최선의 손실: 0.095937\t정확도: 93.67%\n", - "8\t검증 세트 손실: 3.954118\t최선의 손실: 0.095937\t정확도: 94.61%\n", - "9\t검증 세트 손실: 3.380944\t최선의 손실: 0.095937\t정확도: 95.54%\n", - "10\t검증 세트 손실: 2.290258\t최선의 손실: 0.095937\t정확도: 96.33%\n", - "11\t검증 세트 손실: 2.672034\t최선의 손실: 0.095937\t정확도: 95.70%\n", - "12\t검증 세트 손실: 2.849624\t최선의 손실: 0.095937\t정확도: 96.01%\n", - "13\t검증 세트 손실: 2.584081\t최선의 손실: 0.095937\t정확도: 93.35%\n", - "14\t검증 세트 손실: 3.317739\t최선의 손실: 0.095937\t정확도: 93.16%\n", - "15\t검증 세트 손실: 1.830962\t최선의 손실: 0.095937\t정확도: 95.47%\n", - "16\t검증 세트 손실: 3.222162\t최선의 손실: 0.095937\t정확도: 93.28%\n", - "17\t검증 세트 손실: 3.994379\t최선의 손실: 0.095937\t정확도: 93.00%\n", - "18\t검증 세트 손실: 2.577537\t최선의 손실: 0.095937\t정확도: 95.23%\n", - "19\t검증 세트 손실: 2.272468\t최선의 손실: 0.095937\t정확도: 95.47%\n", - "20\t검증 세트 손실: 1.970981\t최선의 손실: 0.095937\t정확도: 96.76%\n", - "21\t검증 세트 손실: 3.708265\t최선의 손실: 0.095937\t정확도: 94.45%\n", - "22\t검증 세트 손실: 32.994152\t최선의 손실: 0.095937\t정확도: 84.36%\n", - "23\t검증 세트 손실: 295.254303\t최선의 손실: 0.095937\t정확도: 88.90%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 6.4s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.123520\t최선의 손실: 0.123520\t정확도: 96.56%\n", + "1\t검증 세트 손실: 0.159144\t최선의 손실: 0.123520\t정확도: 96.29%\n", + "2\t검증 세트 손실: 17.724030\t최선의 손실: 0.123520\t정확도: 68.49%\n", + "3\t검증 세트 손실: 2.029984\t최선의 손실: 0.123520\t정확도: 83.93%\n", + "4\t검증 세트 손실: 1.778423\t최선의 손실: 0.123520\t정확도: 83.42%\n", + "5\t검증 세트 손실: 1.372523\t최선의 손실: 0.123520\t정확도: 90.07%\n", + "6\t검증 세트 손실: 1.141820\t최선의 손실: 0.123520\t정확도: 88.66%\n", + "7\t검증 세트 손실: 1.060335\t최선의 손실: 0.123520\t정확도: 89.48%\n", + "8\t검증 세트 손실: 0.860972\t최선의 손실: 0.123520\t정확도: 92.42%\n", + "9\t검증 세트 손실: 0.745823\t최선의 손실: 0.123520\t정확도: 93.90%\n", + "10\t검증 세트 손실: 0.621098\t최선의 손실: 0.123520\t정확도: 93.78%\n", + "11\t검증 세트 손실: 0.641895\t최선의 손실: 0.123520\t정확도: 93.75%\n", + "12\t검증 세트 손실: 0.773711\t최선의 손실: 0.123520\t정확도: 91.16%\n", + "13\t검증 세트 손실: 0.925101\t최선의 손실: 0.123520\t정확도: 94.41%\n", + "14\t검증 세트 손실: 1.048447\t최선의 손실: 0.123520\t정확도: 87.72%\n", + "15\t검증 세트 손실: 0.595443\t최선의 손실: 0.123520\t정확도: 94.29%\n", + "16\t검증 세트 손실: 0.518832\t최선의 손실: 0.123520\t정확도: 94.76%\n", + "17\t검증 세트 손실: 0.451624\t최선의 손실: 0.123520\t정확도: 96.05%\n", + "18\t검증 세트 손실: 0.581721\t최선의 손실: 0.123520\t정확도: 93.94%\n", + "19\t검증 세트 손실: 0.664205\t최선의 손실: 0.123520\t정확도: 93.24%\n", + "20\t검증 세트 손실: 0.719298\t최선의 손실: 0.123520\t정확도: 90.85%\n", + "21\t검증 세트 손실: 0.730123\t최선의 손실: 0.123520\t정확도: 90.19%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 6.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.135876\t최선의 손실: 0.135876\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.115954\t최선의 손실: 0.115954\t정확도: 96.87%\n", - "2\t검증 세트 손실: 0.154973\t최선의 손실: 0.115954\t정확도: 96.79%\n", - "3\t검증 세트 손실: 4283.950195\t최선의 손실: 0.115954\t정확도: 40.03%\n", - "4\t검증 세트 손실: 16.348341\t최선의 손실: 0.115954\t정확도: 92.18%\n", - "5\t검증 세트 손실: 14.281738\t최선의 손실: 0.115954\t정확도: 90.54%\n", - "6\t검증 세트 손실: 6.059865\t최선의 손실: 0.115954\t정확도: 95.78%\n", - "7\t검증 세트 손실: 5.353794\t최선의 손실: 0.115954\t정확도: 95.78%\n", - "8\t검증 세트 손실: 4.916859\t최선의 손실: 0.115954\t정확도: 94.45%\n", - "9\t검증 세트 손실: 6.142323\t최선의 손실: 0.115954\t정확도: 90.42%\n", - "10\t검증 세트 손실: 5.301787\t최선의 손실: 0.115954\t정확도: 92.10%\n", - "11\t검증 세트 손실: 2.801515\t최선의 손실: 0.115954\t정확도: 96.01%\n", - "12\t검증 세트 손실: 3.696591\t최선의 손실: 0.115954\t정확도: 94.92%\n", - "13\t검증 세트 손실: 2.594696\t최선의 손실: 0.115954\t정확도: 94.29%\n", - "14\t검증 세트 손실: 2.553940\t최선의 손실: 0.115954\t정확도: 95.50%\n", - "15\t검증 세트 손실: 3.046704\t최선의 손실: 0.115954\t정확도: 94.18%\n", - "16\t검증 세트 손실: 2.616475\t최선의 손실: 0.115954\t정확도: 95.78%\n", - "17\t검증 세트 손실: 1.756856\t최선의 손실: 0.115954\t정확도: 97.03%\n", - "18\t검증 세트 손실: 2.703667\t최선의 손실: 0.115954\t정확도: 94.72%\n", - "19\t검증 세트 손실: 4.286672\t최선의 손실: 0.115954\t정확도: 95.50%\n", - "20\t검증 세트 손실: 6.111000\t최선의 손실: 0.115954\t정확도: 95.47%\n", - "21\t검증 세트 손실: 6251.285645\t최선의 손실: 0.115954\t정확도: 88.66%\n", - "22\t검증 세트 손실: 1339.132080\t최선의 손실: 0.115954\t정확도: 93.12%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.7s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.225901\t최선의 손실: 0.225901\t정확도: 95.54%\n", + "1\t검증 세트 손실: 0.164971\t최선의 손실: 0.164971\t정확도: 95.04%\n", + "2\t검증 세트 손실: 0.162915\t최선의 손실: 0.162915\t정확도: 97.03%\n", + "3\t검증 세트 손실: 0.150678\t최선의 손실: 0.150678\t정확도: 96.72%\n", + "4\t검증 세트 손실: 0.167895\t최선의 손실: 0.150678\t정확도: 96.44%\n", + "5\t검증 세트 손실: 0.173291\t최선의 손실: 0.150678\t정확도: 96.44%\n", + "6\t검증 세트 손실: 0.131243\t최선의 손실: 0.131243\t정확도: 96.56%\n", + "7\t검증 세트 손실: 0.151798\t최선의 손실: 0.131243\t정확도: 96.95%\n", + "8\t검증 세트 손실: 0.123513\t최선의 손실: 0.123513\t정확도: 97.22%\n", + "9\t검증 세트 손실: 0.157084\t최선의 손실: 0.123513\t정확도: 96.72%\n", + "10\t검증 세트 손실: 0.145803\t최선의 손실: 0.123513\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.106975\t최선의 손실: 0.106975\t정확도: 97.30%\n", + "12\t검증 세트 손실: 0.147833\t최선의 손실: 0.106975\t정확도: 96.99%\n", + "13\t검증 세트 손실: 0.152112\t최선의 손실: 0.106975\t정확도: 96.76%\n", + "14\t검증 세트 손실: 0.131046\t최선의 손실: 0.106975\t정확도: 97.03%\n", + "15\t검증 세트 손실: 2.054486\t최선의 손실: 0.106975\t정확도: 90.66%\n", + "16\t검증 세트 손실: 0.242230\t최선의 손실: 0.106975\t정확도: 94.96%\n", + "17\t검증 세트 손실: 0.168565\t최선의 손실: 0.106975\t정확도: 96.60%\n", + "18\t검증 세트 손실: 0.156704\t최선의 손실: 0.106975\t정확도: 96.79%\n", + "19\t검증 세트 손실: 0.179901\t최선의 손실: 0.106975\t정확도: 95.97%\n", + "20\t검증 세트 손실: 1.509966\t최선의 손실: 0.106975\t정확도: 76.11%\n", + "21\t검증 세트 손실: 0.174958\t최선의 손실: 0.106975\t정확도: 96.72%\n", + "22\t검증 세트 손실: 0.183456\t최선의 손실: 0.106975\t정확도: 96.05%\n", + "23\t검증 세트 손실: 0.253514\t최선의 손실: 0.106975\t정확도: 96.13%\n", + "24\t검증 세트 손실: 0.172795\t최선의 손실: 0.106975\t정확도: 97.03%\n", + "25\t검증 세트 손실: 0.454183\t최선의 손실: 0.106975\t정확도: 76.04%\n", + "26\t검증 세트 손실: 0.456753\t최선의 손실: 0.106975\t정확도: 75.76%\n", + "27\t검증 세트 손실: 0.612693\t최선의 손실: 0.106975\t정확도: 70.88%\n", + "28\t검증 세트 손실: 0.466373\t최선의 손실: 0.106975\t정확도: 76.15%\n", + "29\t검증 세트 손실: 0.494275\t최선의 손실: 0.106975\t정확도: 74.51%\n", + "30\t검증 세트 손실: 0.673052\t최선의 손실: 0.106975\t정확도: 94.92%\n", + "31\t검증 세트 손실: 0.496995\t최선의 손실: 0.106975\t정확도: 74.28%\n", + "32\t검증 세트 손실: 0.799436\t최선의 손실: 0.106975\t정확도: 57.54%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 6.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.187205\t최선의 손실: 0.187205\t정확도: 95.31%\n", - "1\t검증 세트 손실: 0.155600\t최선의 손실: 0.155600\t정확도: 95.54%\n", - "2\t검증 세트 손실: 0.201718\t최선의 손실: 0.155600\t정확도: 95.27%\n", - "3\t검증 세트 손실: 0.193190\t최선의 손실: 0.155600\t정확도: 95.07%\n", - "4\t검증 세트 손실: 0.339775\t최선의 손실: 0.155600\t정확도: 93.51%\n", - "5\t검증 세트 손실: 0.257080\t최선의 손실: 0.155600\t정확도: 92.22%\n", - "6\t검증 세트 손실: 0.230981\t최선의 손실: 0.155600\t정확도: 93.90%\n", - "7\t검증 세트 손실: 0.323723\t최선의 손실: 0.155600\t정확도: 92.57%\n", - "8\t검증 세트 손실: 0.213642\t최선의 손실: 0.155600\t정확도: 94.64%\n", - "9\t검증 세트 손실: 0.561179\t최선의 손실: 0.155600\t정확도: 74.39%\n", - "10\t검증 세트 손실: 0.582037\t최선의 손실: 0.155600\t정확도: 76.58%\n", - "11\t검증 세트 손실: 0.257203\t최선의 손실: 0.155600\t정확도: 91.87%\n", - "12\t검증 세트 손실: 0.217545\t최선의 손실: 0.155600\t정확도: 95.15%\n", - "13\t검증 세트 손실: 0.336808\t최선의 손실: 0.155600\t정확도: 94.76%\n", - "14\t검증 세트 손실: 0.496656\t최선의 손실: 0.155600\t정확도: 75.25%\n", - "15\t검증 세트 손실: 0.534746\t최선의 손실: 0.155600\t정확도: 75.37%\n", - "16\t검증 세트 손실: 0.539472\t최선의 손실: 0.155600\t정확도: 76.43%\n", - "17\t검증 세트 손실: 0.292615\t최선의 손실: 0.155600\t정확도: 94.49%\n", - "18\t검증 세트 손실: 0.309884\t최선의 손실: 0.155600\t정확도: 93.55%\n", - "19\t검증 세트 손실: 0.378482\t최선의 손실: 0.155600\t정확도: 92.30%\n", - "20\t검증 세트 손실: 0.912774\t최선의 손실: 0.155600\t정확도: 63.76%\n", - "21\t검증 세트 손실: 0.685795\t최선의 손실: 0.155600\t정확도: 71.62%\n", - "22\t검증 세트 손실: 0.501723\t최선의 손실: 0.155600\t정확도: 77.29%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation=, total= 51.5s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.144071\t최선의 손실: 0.144071\t정확도: 95.93%\n", + "1\t검증 세트 손실: 0.161611\t최선의 손실: 0.144071\t정확도: 95.54%\n", + "2\t검증 세트 손실: 0.203402\t최선의 손실: 0.144071\t정확도: 94.45%\n", + "3\t검증 세트 손실: 0.152735\t최선의 손실: 0.144071\t정확도: 96.25%\n", + "4\t검증 세트 손실: 0.178797\t최선의 손실: 0.144071\t정확도: 95.54%\n", + "5\t검증 세트 손실: 0.237836\t최선의 손실: 0.144071\t정확도: 91.95%\n", + "6\t검증 세트 손실: 0.179136\t최선의 손실: 0.144071\t정확도: 95.35%\n", + "7\t검증 세트 손실: 0.182195\t최선의 손실: 0.144071\t정확도: 95.70%\n", + "8\t검증 세트 손실: 0.309691\t최선의 손실: 0.144071\t정확도: 94.49%\n", + "9\t검증 세트 손실: 0.267461\t최선의 손실: 0.144071\t정확도: 96.36%\n", + "10\t검증 세트 손실: 0.165717\t최선의 손실: 0.144071\t정확도: 96.40%\n", + "11\t검증 세트 손실: 0.334759\t최선의 손실: 0.144071\t정확도: 91.52%\n", + "12\t검증 세트 손실: 0.183976\t최선의 손실: 0.144071\t정확도: 95.54%\n", + "13\t검증 세트 손실: 0.151985\t최선의 손실: 0.144071\t정확도: 96.48%\n", + "14\t검증 세트 손실: 0.252669\t최선의 손실: 0.144071\t정확도: 93.55%\n", + "15\t검증 세트 손실: 0.252221\t최선의 손실: 0.144071\t정확도: 92.14%\n", + "16\t검증 세트 손실: 0.301460\t최선의 손실: 0.144071\t정확도: 95.62%\n", + "17\t검증 세트 손실: 0.223813\t최선의 손실: 0.144071\t정확도: 93.32%\n", + "18\t검증 세트 손실: 0.185474\t최선의 손실: 0.144071\t정확도: 95.43%\n", + "19\t검증 세트 손실: 0.245221\t최선의 손실: 0.144071\t정확도: 95.58%\n", + "20\t검증 세트 손실: 0.462384\t최선의 손실: 0.144071\t정확도: 88.08%\n", + "21\t검증 세트 손실: 0.515822\t최선의 손실: 0.144071\t정확도: 92.30%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10, total= 36.4s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.146041\t최선의 손실: 0.146041\t정확도: 96.64%\n", - "1\t검증 세트 손실: 0.143019\t최선의 손실: 0.143019\t정확도: 96.99%\n", - "2\t검증 세트 손실: 0.124966\t최선의 손실: 0.124966\t정확도: 96.91%\n", - "3\t검증 세트 손실: 0.179542\t최선의 손실: 0.124966\t정확도: 95.23%\n", - "4\t검증 세트 손실: 0.159705\t최선의 손실: 0.124966\t정확도: 95.82%\n" + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation=, total= 34.5s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.146864\t최선의 손실: 0.146864\t정확도: 96.60%\n", + "1\t검증 세트 손실: 0.199879\t최선의 손실: 0.146864\t정확도: 95.62%\n", + "2\t검증 세트 손실: 0.144016\t최선의 손실: 0.144016\t정확도: 96.25%\n", + "3\t검증 세트 손실: 0.140678\t최선의 손실: 0.140678\t정확도: 95.78%\n", + "4\t검증 세트 손실: 0.179615\t최선의 손실: 0.140678\t정확도: 95.23%\n", + "5\t검증 세트 손실: 0.207638\t최선의 손실: 0.140678\t정확도: 95.86%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "5\t검증 세트 손실: 0.185205\t최선의 손실: 0.124966\t정확도: 95.86%\n", - "6\t검증 세트 손실: 0.151646\t최선의 손실: 0.124966\t정확도: 96.40%\n", - "7\t검증 세트 손실: 0.164112\t최선의 손실: 0.124966\t정확도: 96.29%\n", - "8\t검증 세트 손실: 0.683742\t최선의 손실: 0.124966\t정확도: 78.81%\n", - "9\t검증 세트 손실: 1.137868\t최선의 손실: 0.124966\t정확도: 47.46%\n", - "10\t검증 세트 손실: 0.245956\t최선의 손실: 0.124966\t정확도: 92.65%\n", - "11\t검증 세트 손실: 0.459690\t최선의 손실: 0.124966\t정확도: 80.30%\n", - "12\t검증 세트 손실: 1.955078\t최선의 손실: 0.124966\t정확도: 91.52%\n", - "13\t검증 세트 손실: 0.582435\t최선의 손실: 0.124966\t정확도: 73.85%\n", - "14\t검증 세트 손실: 0.520729\t최선의 손실: 0.124966\t정확도: 77.83%\n", - "15\t검증 세트 손실: 0.762683\t최선의 손실: 0.124966\t정확도: 71.70%\n", - "16\t검증 세트 손실: 0.591740\t최선의 손실: 0.124966\t정확도: 74.28%\n", - "17\t검증 세트 손실: 1.212704\t최선의 손실: 0.124966\t정확도: 45.97%\n", - "18\t검증 세트 손실: 0.785290\t최선의 손실: 0.124966\t정확도: 70.68%\n", - "19\t검증 세트 손실: 0.664190\t최선의 손실: 0.124966\t정확도: 68.53%\n", - "20\t검증 세트 손실: 0.903928\t최선의 손실: 0.124966\t정확도: 56.84%\n", - "21\t검증 세트 손실: 1.120231\t최선의 손실: 0.124966\t정확도: 54.10%\n", - "22\t검증 세트 손실: 1.421821\t최선의 손실: 0.124966\t정확도: 57.43%\n", - "23\t검증 세트 손실: 1.060686\t최선의 손실: 0.124966\t정확도: 53.99%\n", + "6\t검증 세트 손실: 0.140107\t최선의 손실: 0.140107\t정확도: 97.22%\n", + "7\t검증 세트 손실: 0.380823\t최선의 손실: 0.140107\t정확도: 93.59%\n", + "8\t검증 세트 손실: 0.134800\t최선의 손실: 0.134800\t정확도: 96.17%\n", + "9\t검증 세트 손실: 0.157503\t최선의 손실: 0.134800\t정확도: 95.82%\n", + "10\t검증 세트 손실: 0.149711\t최선의 손실: 0.134800\t정확도: 96.09%\n", + "11\t검증 세트 손실: 0.186010\t최선의 손실: 0.134800\t정확도: 95.00%\n", + "12\t검증 세트 손실: 0.170828\t최선의 손실: 0.134800\t정확도: 95.43%\n", + "13\t검증 세트 손실: 0.463292\t최선의 손실: 0.134800\t정확도: 81.74%\n", + "14\t검증 세트 손실: 0.268664\t최선의 손실: 0.134800\t정확도: 93.78%\n", + "15\t검증 세트 손실: 0.201368\t최선의 손실: 0.134800\t정확도: 94.84%\n", + "16\t검증 세트 손실: 0.444758\t최선의 손실: 0.134800\t정확도: 78.58%\n", + "17\t검증 세트 손실: 0.486442\t최선의 손실: 0.134800\t정확도: 76.90%\n", + "18\t검증 세트 손실: 0.410348\t최선의 손실: 0.134800\t정확도: 78.03%\n", + "19\t검증 세트 손실: 0.472919\t최선의 손실: 0.134800\t정확도: 86.90%\n", + "20\t검증 세트 손실: 0.265033\t최선의 손실: 0.134800\t정확도: 93.55%\n", + "21\t검증 세트 손실: 0.479884\t최선의 손실: 0.134800\t정확도: 78.66%\n", + "22\t검증 세트 손실: 0.658440\t최선의 손실: 0.134800\t정확도: 73.06%\n", + "23\t검증 세트 손실: 0.705427\t최선의 손실: 0.134800\t정확도: 60.09%\n", + "24\t검증 세트 손실: 0.753169\t최선의 손실: 0.134800\t정확도: 65.36%\n", + "25\t검증 세트 손실: 0.717785\t최선의 손실: 0.134800\t정확도: 58.05%\n", + "26\t검증 세트 손실: 0.728297\t최선의 손실: 0.134800\t정확도: 57.19%\n", + "27\t검증 세트 손실: 1.216925\t최선의 손실: 0.134800\t정확도: 40.38%\n", + "28\t검증 세트 손실: 0.880758\t최선의 손실: 0.134800\t정확도: 58.25%\n", + "29\t검증 세트 손실: 0.724802\t최선의 손실: 0.134800\t정확도: 71.38%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10, total= 38.0s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.154843\t최선의 손실: 0.154843\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.166200\t최선의 손실: 0.154843\t정확도: 95.62%\n", - "2\t검증 세트 손실: 0.148874\t최선의 손실: 0.148874\t정확도: 96.17%\n", - "3\t검증 세트 손실: 0.171479\t최선의 손실: 0.148874\t정확도: 96.91%\n", - "4\t검증 세트 손실: 0.151820\t최선의 손실: 0.148874\t정확도: 96.25%\n", - "5\t검증 세트 손실: 0.168374\t최선의 손실: 0.148874\t정확도: 94.92%\n", - "6\t검증 세트 손실: 0.172633\t최선의 손실: 0.148874\t정확도: 96.13%\n", - "7\t검증 세트 손실: 0.236397\t최선의 손실: 0.148874\t정확도: 94.68%\n", - "8\t검증 세트 손실: 0.201140\t최선의 손실: 0.148874\t정확도: 95.62%\n", - "9\t검증 세트 손실: 0.231211\t최선의 손실: 0.148874\t정확도: 95.54%\n", - "10\t검증 세트 손실: 0.198220\t최선의 손실: 0.148874\t정확도: 96.64%\n", - "11\t검증 세트 손실: 0.213465\t최선의 손실: 0.148874\t정확도: 96.48%\n", - "12\t검증 세트 손실: 0.156489\t최선의 손실: 0.148874\t정확도: 96.87%\n", - "13\t검증 세트 손실: 0.162654\t최선의 손실: 0.148874\t정확도: 96.60%\n", - "14\t검증 세트 손실: 0.154136\t최선의 손실: 0.148874\t정확도: 96.91%\n", - "15\t검증 세트 손실: 0.589684\t최선의 손실: 0.148874\t정확도: 92.18%\n", - "16\t검증 세트 손실: 0.168494\t최선의 손실: 0.148874\t정확도: 96.33%\n", - "17\t검증 세트 손실: 0.154388\t최선의 손실: 0.148874\t정확도: 96.33%\n", - "18\t검증 세트 손실: 0.231472\t최선의 손실: 0.148874\t정확도: 93.55%\n", - "19\t검증 세트 손실: 0.273040\t최선의 손실: 0.148874\t정확도: 95.47%\n", - "20\t검증 세트 손실: 0.204334\t최선의 손실: 0.148874\t정확도: 95.23%\n", - "21\t검증 세트 손실: 0.210322\t최선의 손실: 0.148874\t정확도: 95.47%\n", - "22\t검증 세트 손실: 0.550468\t최선의 손실: 0.148874\t정확도: 77.87%\n", - "23\t검증 세트 손실: 0.436300\t최선의 손실: 0.148874\t정확도: 93.24%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=10, activation=, total= 46.8s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 15.142077\t최선의 손실: 15.142077\t정확도: 67.40%\n", + "1\t검증 세트 손실: 0.495557\t최선의 손실: 0.495557\t정확도: 92.49%\n", + "2\t검증 세트 손실: 0.342364\t최선의 손실: 0.342364\t정확도: 93.28%\n", + "3\t검증 세트 손실: 0.221105\t최선의 손실: 0.221105\t정확도: 93.98%\n", + "4\t검증 세트 손실: 0.149417\t최선의 손실: 0.149417\t정확도: 95.90%\n", + "5\t검증 세트 손실: 0.141630\t최선의 손실: 0.141630\t정확도: 95.97%\n", + "6\t검증 세트 손실: 0.131150\t최선의 손실: 0.131150\t정확도: 96.05%\n", + "7\t검증 세트 손실: 0.207314\t최선의 손실: 0.131150\t정확도: 94.37%\n", + "8\t검증 세트 손실: 0.178046\t최선의 손실: 0.131150\t정확도: 94.68%\n", + "9\t검증 세트 손실: 0.132331\t최선의 손실: 0.131150\t정확도: 96.44%\n", + "10\t검증 세트 손실: 0.140560\t최선의 손실: 0.131150\t정확도: 96.33%\n", + "11\t검증 세트 손실: 0.121614\t최선의 손실: 0.121614\t정확도: 96.56%\n", + "12\t검증 세트 손실: 0.110228\t최선의 손실: 0.110228\t정확도: 97.15%\n", + "13\t검증 세트 손실: 0.185742\t최선의 손실: 0.110228\t정확도: 96.05%\n", + "14\t검증 세트 손실: 0.105549\t최선의 손실: 0.105549\t정확도: 97.26%\n", + "15\t검증 세트 손실: 0.113226\t최선의 손실: 0.105549\t정확도: 96.76%\n", + "16\t검증 세트 손실: 0.098457\t최선의 손실: 0.098457\t정확도: 97.73%\n", + "17\t검증 세트 손실: 0.090781\t최선의 손실: 0.090781\t정확도: 97.85%\n", + "18\t검증 세트 손실: 0.115031\t최선의 손실: 0.090781\t정확도: 97.15%\n", + "19\t검증 세트 손실: 0.099266\t최선의 손실: 0.090781\t정확도: 97.85%\n", + "20\t검증 세트 손실: 0.103955\t최선의 손실: 0.090781\t정확도: 98.01%\n", + "21\t검증 세트 손실: 0.110019\t최선의 손실: 0.090781\t정확도: 97.89%\n", + "22\t검증 세트 손실: 0.102340\t최선의 손실: 0.090781\t정확도: 98.12%\n", + "23\t검증 세트 손실: 0.130757\t최선의 손실: 0.090781\t정확도: 97.93%\n", + "24\t검증 세트 손실: 0.165473\t최선의 손실: 0.090781\t정확도: 97.26%\n", + "25\t검증 세트 손실: 0.086162\t최선의 손실: 0.086162\t정확도: 98.01%\n", + "26\t검증 세트 손실: 0.083761\t최선의 손실: 0.083761\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.094779\t최선의 손실: 0.083761\t정확도: 98.08%\n", + "28\t검증 세트 손실: 0.118203\t최선의 손실: 0.083761\t정확도: 98.12%\n", + "29\t검증 세트 손실: 0.113919\t최선의 손실: 0.083761\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.131818\t최선의 손실: 0.083761\t정확도: 97.97%\n", + "31\t검증 세트 손실: 0.149823\t최선의 손실: 0.083761\t정확도: 98.01%\n", + "32\t검증 세트 손실: 0.137627\t최선의 손실: 0.083761\t정확도: 98.16%\n", + "33\t검증 세트 손실: 0.149740\t최선의 손실: 0.083761\t정확도: 98.12%\n", + "34\t검증 세트 손실: 0.169865\t최선의 손실: 0.083761\t정확도: 98.12%\n", + "35\t검증 세트 손실: 0.154702\t최선의 손실: 0.083761\t정확도: 97.73%\n", + "36\t검증 세트 손실: 0.173593\t최선의 손실: 0.083761\t정확도: 97.89%\n", + "37\t검증 세트 손실: 0.159521\t최선의 손실: 0.083761\t정확도: 97.85%\n", + "38\t검증 세트 손실: 0.165135\t최선의 손실: 0.083761\t정확도: 97.93%\n", + "39\t검증 세트 손실: 0.155159\t최선의 손실: 0.083761\t정확도: 97.93%\n", + "40\t검증 세트 손실: 0.195394\t최선의 손실: 0.083761\t정확도: 97.97%\n", + "41\t검증 세트 손실: 0.194386\t최선의 손실: 0.083761\t정확도: 97.89%\n", + "42\t검증 세트 손실: 0.232571\t최선의 손실: 0.083761\t정확도: 97.73%\n", + "43\t검증 세트 손실: 0.242109\t최선의 손실: 0.083761\t정확도: 97.73%\n", + "44\t검증 세트 손실: 0.218457\t최선의 손실: 0.083761\t정확도: 97.81%\n", + "45\t검증 세트 손실: 0.191888\t최선의 손실: 0.083761\t정확도: 98.05%\n", + "46\t검증 세트 손실: 0.230619\t최선의 손실: 0.083761\t정확도: 97.81%\n", + "47\t검증 세트 손실: 0.197877\t최선의 손실: 0.083761\t정확도: 97.73%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=10, total= 37.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140 \n", - "0\t검증 세트 손실: 1.157443\t최선의 손실: 1.157443\t정확도: 84.71%\n", - "1\t검증 세트 손실: 0.232183\t최선의 손실: 0.232183\t정확도: 94.53%\n", - "2\t검증 세트 손실: 0.145029\t최선의 손실: 0.145029\t정확도: 95.93%\n", - "3\t검증 세트 손실: 0.124508\t최선의 손실: 0.124508\t정확도: 96.52%\n", - "4\t검증 세트 손실: 0.126395\t최선의 손실: 0.124508\t정확도: 96.64%\n", - "5\t검증 세트 손실: 0.098194\t최선의 손실: 0.098194\t정확도: 96.99%\n", - "6\t검증 세트 손실: 0.107421\t최선의 손실: 0.098194\t정확도: 96.91%\n", - "7\t검증 세트 손실: 0.182254\t최선의 손실: 0.098194\t정확도: 96.99%\n", - "8\t검증 세트 손실: 0.374182\t최선의 손실: 0.098194\t정확도: 97.30%\n", - "9\t검증 세트 손실: 0.481884\t최선의 손실: 0.098194\t정확도: 97.65%\n", - "10\t검증 세트 손실: 0.740136\t최선의 손실: 0.098194\t정확도: 97.73%\n", - "11\t검증 세트 손실: 0.118991\t최선의 손실: 0.098194\t정확도: 97.26%\n", - "12\t검증 세트 손실: 0.104574\t최선의 손실: 0.098194\t정확도: 96.99%\n", - "13\t검증 세트 손실: 0.099898\t최선의 손실: 0.098194\t정확도: 97.73%\n", - "14\t검증 세트 손실: 0.113839\t최선의 손실: 0.098194\t정확도: 97.73%\n", - "15\t검증 세트 손실: 0.141195\t최선의 손실: 0.098194\t정확도: 97.69%\n", - "16\t검증 세트 손실: 0.186763\t최선의 손실: 0.098194\t정확도: 97.97%\n", - "17\t검증 세트 손실: 0.221368\t최선의 손실: 0.098194\t정확도: 98.01%\n", - "18\t검증 세트 손실: 0.126441\t최선의 손실: 0.098194\t정확도: 97.50%\n", - "19\t검증 세트 손실: 0.220052\t최선의 손실: 0.098194\t정확도: 97.85%\n", - "20\t검증 세트 손실: 0.218932\t최선의 손실: 0.098194\t정확도: 98.01%\n", - "21\t검증 세트 손실: 0.371587\t최선의 손실: 0.098194\t정확도: 98.01%\n", - "22\t검증 세트 손실: 0.327157\t최선의 손실: 0.098194\t정확도: 97.85%\n", - "23\t검증 세트 손실: 0.391303\t최선의 손실: 0.098194\t정확도: 97.81%\n", - "24\t검증 세트 손실: 0.763993\t최선의 손실: 0.098194\t정확도: 97.58%\n", - "25\t검증 세트 손실: 0.443893\t최선의 손실: 0.098194\t정확도: 98.12%\n", - "26\t검증 세트 손실: 1.643594\t최선의 손실: 0.098194\t정확도: 98.08%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 4.0s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 3.612731\t최선의 손실: 3.612731\t정확도: 74.67%\n", + "1\t검증 세트 손실: 0.401959\t최선의 손실: 0.401959\t정확도: 92.77%\n", + "2\t검증 세트 손실: 0.201580\t최선의 손실: 0.201580\t정확도: 94.96%\n", + "3\t검증 세트 손실: 0.158121\t최선의 손실: 0.158121\t정확도: 95.50%\n", + "4\t검증 세트 손실: 0.138616\t최선의 손실: 0.138616\t정확도: 96.40%\n", + "5\t검증 세트 손실: 0.122444\t최선의 손실: 0.122444\t정확도: 96.68%\n", + "6\t검증 세트 손실: 0.117817\t최선의 손실: 0.117817\t정확도: 96.79%\n", + "7\t검증 세트 손실: 0.114742\t최선의 손실: 0.114742\t정확도: 96.68%\n", + "8\t검증 세트 손실: 0.109611\t최선의 손실: 0.109611\t정확도: 96.83%\n", + "9\t검증 세트 손실: 0.124268\t최선의 손실: 0.109611\t정확도: 96.87%\n", + "10\t검증 세트 손실: 0.121005\t최선의 손실: 0.109611\t정확도: 97.15%\n", + "11\t검증 세트 손실: 0.101619\t최선의 손실: 0.101619\t정확도: 97.22%\n", + "12\t검증 세트 손실: 0.089888\t최선의 손실: 0.089888\t정확도: 97.50%\n", + "13\t검증 세트 손실: 0.103289\t최선의 손실: 0.089888\t정확도: 97.34%\n", + "14\t검증 세트 손실: 0.089038\t최선의 손실: 0.089038\t정확도: 97.62%\n", + "15\t검증 세트 손실: 0.086514\t최선의 손실: 0.086514\t정확도: 97.73%\n", + "16\t검증 세트 손실: 0.077146\t최선의 손실: 0.077146\t정확도: 97.89%\n", + "17\t검증 세트 손실: 0.082312\t최선의 손실: 0.077146\t정확도: 97.93%\n", + "18\t검증 세트 손실: 0.082443\t최선의 손실: 0.077146\t정확도: 97.97%\n", + "19\t검증 세트 손실: 0.084557\t최선의 손실: 0.077146\t정확도: 97.62%\n", + "20\t검증 세트 손실: 0.089573\t최선의 손실: 0.077146\t정확도: 97.22%\n", + "21\t검증 세트 손실: 0.118088\t최선의 손실: 0.077146\t정확도: 97.58%\n", + "22\t검증 세트 손실: 0.077471\t최선의 손실: 0.077146\t정확도: 97.62%\n", + "23\t검증 세트 손실: 0.072543\t최선의 손실: 0.072543\t정확도: 97.93%\n", + "24\t검증 세트 손실: 0.066548\t최선의 손실: 0.066548\t정확도: 98.48%\n", + "25\t검증 세트 손실: 0.071493\t최선의 손실: 0.066548\t정확도: 98.12%\n", + "26\t검증 세트 손실: 0.095277\t최선의 손실: 0.066548\t정확도: 98.08%\n", + "27\t검증 세트 손실: 0.093521\t최선의 손실: 0.066548\t정확도: 98.16%\n", + "28\t검증 세트 손실: 0.087305\t최선의 손실: 0.066548\t정확도: 97.97%\n", + "29\t검증 세트 손실: 0.070877\t최선의 손실: 0.066548\t정확도: 98.48%\n", + "30\t검증 세트 손실: 0.111804\t최선의 손실: 0.066548\t정확도: 97.69%\n", + "31\t검증 세트 손실: 0.077997\t최선의 손실: 0.066548\t정확도: 98.24%\n", + "32\t검증 세트 손실: 0.077809\t최선의 손실: 0.066548\t정확도: 98.40%\n", + "33\t검증 세트 손실: 0.110878\t최선의 손실: 0.066548\t정확도: 98.12%\n", + "34\t검증 세트 손실: 0.149801\t최선의 손실: 0.066548\t정확도: 97.81%\n", + "35\t검증 세트 손실: 0.083883\t최선의 손실: 0.066548\t정확도: 98.32%\n", + "36\t검증 세트 손실: 0.100068\t최선의 손실: 0.066548\t정확도: 98.24%\n", + "37\t검증 세트 손실: 0.090756\t최선의 손실: 0.066548\t정확도: 98.24%\n", + "38\t검증 세트 손실: 0.111320\t최선의 손실: 0.066548\t정확도: 97.73%\n", + "39\t검증 세트 손실: 0.122778\t최선의 손실: 0.066548\t정확도: 98.08%\n", + "40\t검증 세트 손실: 0.126857\t최선의 손실: 0.066548\t정확도: 97.73%\n", + "41\t검증 세트 손실: 0.112834\t최선의 손실: 0.066548\t정확도: 97.89%\n", + "42\t검증 세트 손실: 0.096934\t최선의 손실: 0.066548\t정확도: 98.48%\n", + "43\t검증 세트 손실: 0.107264\t최선의 손실: 0.066548\t정확도: 97.93%\n", + "44\t검증 세트 손실: 0.107142\t최선의 손실: 0.066548\t정확도: 98.24%\n", + "45\t검증 세트 손실: 0.321389\t최선의 손실: 0.066548\t정확도: 96.87%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140, total= 2.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140 \n", - "0\t검증 세트 손실: 5.672205\t최선의 손실: 5.672205\t정확도: 76.11%\n", - "1\t검증 세트 손실: 0.386186\t최선의 손실: 0.386186\t정확도: 94.64%\n", - "2\t검증 세트 손실: 0.231733\t최선의 손실: 0.231733\t정확도: 94.33%\n", - "3\t검증 세트 손실: 0.170750\t최선의 손실: 0.170750\t정확도: 96.25%\n", - "4\t검증 세트 손실: 0.141344\t최선의 손실: 0.141344\t정확도: 96.76%\n", - "5\t검증 세트 손실: 0.159313\t최선의 손실: 0.141344\t정확도: 96.05%\n", - "6\t검증 세트 손실: 0.122773\t최선의 손실: 0.122773\t정확도: 96.60%\n", - "7\t검증 세트 손실: 0.175810\t최선의 손실: 0.122773\t정확도: 95.74%\n", - "8\t검증 세트 손실: 0.140915\t최선의 손실: 0.122773\t정확도: 96.76%\n", - "9\t검증 세트 손실: 0.107318\t최선의 손실: 0.107318\t정확도: 97.03%\n", - "10\t검증 세트 손실: 0.129378\t최선의 손실: 0.107318\t정확도: 97.11%\n", - "11\t검증 세트 손실: 0.117297\t최선의 손실: 0.107318\t정확도: 97.19%\n", - "12\t검증 세트 손실: 0.125791\t최선의 손실: 0.107318\t정확도: 97.22%\n", - "13\t검증 세트 손실: 0.109519\t최선의 손실: 0.107318\t정확도: 97.38%\n", - "14\t검증 세트 손실: 0.114122\t최선의 손실: 0.107318\t정확도: 97.30%\n", - "15\t검증 세트 손실: 0.126638\t최선의 손실: 0.107318\t정확도: 96.91%\n", - "16\t검증 세트 손실: 0.102796\t최선의 손실: 0.102796\t정확도: 97.30%\n", - "17\t검증 세트 손실: 0.118342\t최선의 손실: 0.102796\t정확도: 97.54%\n", - "18\t검증 세트 손실: 0.103873\t최선의 손실: 0.102796\t정확도: 97.77%\n", - "19\t검증 세트 손실: 0.105319\t최선의 손실: 0.102796\t정확도: 97.73%\n", - "20\t검증 세트 손실: 0.096005\t최선의 손실: 0.096005\t정확도: 97.73%\n", - "21\t검증 세트 손실: 0.099639\t최선의 손실: 0.096005\t정확도: 97.77%\n", - "22\t검증 세트 손실: 0.130762\t최선의 손실: 0.096005\t정확도: 97.30%\n", - "23\t검증 세트 손실: 0.120652\t최선의 손실: 0.096005\t정확도: 97.85%\n", - "24\t검증 세트 손실: 0.107850\t최선의 손실: 0.096005\t정확도: 97.58%\n", - "25\t검증 세트 손실: 0.114519\t최선의 손실: 0.096005\t정확도: 97.93%\n", - "26\t검증 세트 손실: 0.105212\t최선의 손실: 0.096005\t정확도: 98.05%\n", - "27\t검증 세트 손실: 0.120313\t최선의 손실: 0.096005\t정확도: 97.38%\n", - "28\t검증 세트 손실: 0.110441\t최선의 손실: 0.096005\t정확도: 97.62%\n", - "29\t검증 세트 손실: 0.098783\t최선의 손실: 0.096005\t정확도: 98.08%\n", - "30\t검증 세트 손실: 0.103371\t최선의 손실: 0.096005\t정확도: 97.69%\n", - "31\t검증 세트 손실: 0.135528\t최선의 손실: 0.096005\t정확도: 97.85%\n", - "32\t검증 세트 손실: 0.129523\t최선의 손실: 0.096005\t정확도: 97.26%\n", - "33\t검증 세트 손실: 0.123512\t최선의 손실: 0.096005\t정확도: 98.20%\n", - "34\t검증 세트 손실: 0.083394\t최선의 손실: 0.083394\t정확도: 98.16%\n", - "35\t검증 세트 손실: 0.082598\t최선의 손실: 0.082598\t정확도: 98.08%\n", - "36\t검증 세트 손실: 0.096071\t최선의 손실: 0.082598\t정확도: 98.36%\n", - "37\t검증 세트 손실: 0.088197\t최선의 손실: 0.082598\t정확도: 98.32%\n", - "38\t검증 세트 손실: 0.123205\t최선의 손실: 0.082598\t정확도: 97.89%\n", - "39\t검증 세트 손실: 0.121883\t최선의 손실: 0.082598\t정확도: 98.08%\n", - "40\t검증 세트 손실: 0.115641\t최선의 손실: 0.082598\t정확도: 97.97%\n", - "41\t검증 세트 손실: 0.146359\t최선의 손실: 0.082598\t정확도: 97.81%\n", - "42\t검증 세트 손실: 0.145872\t최선의 손실: 0.082598\t정확도: 97.97%\n", - "43\t검증 세트 손실: 0.151714\t최선의 손실: 0.082598\t정확도: 98.01%\n", - "44\t검증 세트 손실: 0.155411\t최선의 손실: 0.082598\t정확도: 97.93%\n", - "45\t검증 세트 손실: 0.131183\t최선의 손실: 0.082598\t정확도: 98.48%\n", - "46\t검증 세트 손실: 0.166692\t최선의 손실: 0.082598\t정확도: 98.16%\n", - "47\t검증 세트 손실: 0.151311\t최선의 손실: 0.082598\t정확도: 97.73%\n", - "48\t검증 세트 손실: 0.129393\t최선의 손실: 0.082598\t정확도: 97.58%\n", - "49\t검증 세트 손실: 728971.562500\t최선의 손실: 0.082598\t정확도: 32.45%\n", - "50\t검증 세트 손실: 138147.328125\t최선의 손실: 0.082598\t정확도: 63.68%\n", - "51\t검증 세트 손실: 9092.852539\t최선의 손실: 0.082598\t정확도: 90.85%\n", - "52\t검증 세트 손실: 3705.204102\t최선의 손실: 0.082598\t정확도: 94.41%\n", - "53\t검증 세트 손실: 2758.589844\t최선의 손실: 0.082598\t정확도: 93.59%\n", - "54\t검증 세트 손실: 2018.196777\t최선의 손실: 0.082598\t정확도: 95.39%\n", - "55\t검증 세트 손실: 1641.911987\t최선의 손실: 0.082598\t정확도: 95.93%\n", - "56\t검증 세트 손실: 1519.194336\t최선의 손실: 0.082598\t정확도: 95.50%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140, total= 5.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140 \n", - "0\t검증 세트 손실: 4.388824\t최선의 손실: 4.388824\t정확도: 65.13%\n", - "1\t검증 세트 손실: 0.373368\t최선의 손실: 0.373368\t정확도: 93.00%\n", - "2\t검증 세트 손실: 0.265943\t최선의 손실: 0.265943\t정확도: 95.27%\n", - "3\t검증 세트 손실: 0.161400\t최선의 손실: 0.161400\t정확도: 96.09%\n", - "4\t검증 세트 손실: 0.147365\t최선의 손실: 0.147365\t정확도: 96.13%\n", - "5\t검증 세트 손실: 0.164545\t최선의 손실: 0.147365\t정확도: 96.01%\n", - "6\t검증 세트 손실: 0.110799\t최선의 손실: 0.110799\t정확도: 96.79%\n", - "7\t검증 세트 손실: 0.136099\t최선의 손실: 0.110799\t정확도: 96.17%\n", - "8\t검증 세트 손실: 0.140970\t최선의 손실: 0.110799\t정확도: 96.52%\n", - "9\t검증 세트 손실: 0.123529\t최선의 손실: 0.110799\t정확도: 96.25%\n", - "10\t검증 세트 손실: 0.127387\t최선의 손실: 0.110799\t정확도: 96.79%\n", - "11\t검증 세트 손실: 0.082641\t최선의 손실: 0.082641\t정확도: 97.54%\n", - "12\t검증 세트 손실: 0.083702\t최선의 손실: 0.082641\t정확도: 97.69%\n", - "13\t검증 세트 손실: 0.079665\t최선의 손실: 0.079665\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.080880\t최선의 손실: 0.079665\t정확도: 97.62%\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 3.8s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.580382\t최선의 손실: 0.580382\t정확도: 88.98%\n", + "1\t검증 세트 손실: 1.920395\t최선의 손실: 0.580382\t정확도: 92.77%\n", + "2\t검증 세트 손실: 0.273709\t최선의 손실: 0.273709\t정확도: 95.47%\n", + "3\t검증 세트 손실: 0.122721\t최선의 손실: 0.122721\t정확도: 96.95%\n", + "4\t검증 세트 손실: 0.096565\t최선의 손실: 0.096565\t정확도: 97.34%\n", + "5\t검증 세트 손실: 0.093285\t최선의 손실: 0.093285\t정확도: 97.46%\n", + "6\t검증 세트 손실: 0.082191\t최선의 손실: 0.082191\t정확도: 97.69%\n", + "7\t검증 세트 손실: 0.081882\t최선의 손실: 0.081882\t정확도: 97.69%\n", + "8\t검증 세트 손실: 0.113792\t최선의 손실: 0.081882\t정확도: 96.99%\n", + "9\t검증 세트 손실: 0.100461\t최선의 손실: 0.081882\t정확도: 97.73%\n", + "10\t검증 세트 손실: 0.091685\t최선의 손실: 0.081882\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.077734\t최선의 손실: 0.077734\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.069754\t최선의 손실: 0.069754\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.081068\t최선의 손실: 0.069754\t정확도: 98.05%\n", + "14\t검증 세트 손실: 0.088186\t최선의 손실: 0.069754\t정확도: 97.46%\n", + "15\t검증 세트 손실: 0.070040\t최선의 손실: 0.069754\t정확도: 98.24%\n", + "16\t검증 세트 손실: 0.084430\t최선의 손실: 0.069754\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.078786\t최선의 손실: 0.069754\t정확도: 98.05%\n", + "18\t검증 세트 손실: 0.079792\t최선의 손실: 0.069754\t정확도: 98.20%\n", + "19\t검증 세트 손실: 0.100464\t최선의 손실: 0.069754\t정확도: 98.40%\n", + "20\t검증 세트 손실: 0.088462\t최선의 손실: 0.069754\t정확도: 98.08%\n", + "21\t검증 세트 손실: 0.082022\t최선의 손실: 0.069754\t정확도: 98.40%\n", + "22\t검증 세트 손실: 0.087243\t최선의 손실: 0.069754\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.067903\t최선의 손실: 0.067903\t정확도: 98.08%\n", + "24\t검증 세트 손실: 0.090192\t최선의 손실: 0.067903\t정확도: 98.08%\n", + "25\t검증 세트 손실: 0.098544\t최선의 손실: 0.067903\t정확도: 98.32%\n", + "26\t검증 세트 손실: 0.097511\t최선의 손실: 0.067903\t정확도: 98.05%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 0.093466\t최선의 손실: 0.079665\t정확도: 97.54%\n", - "16\t검증 세트 손실: 0.079792\t최선의 손실: 0.079665\t정확도: 97.89%\n", - "17\t검증 세트 손실: 0.109453\t최선의 손실: 0.079665\t정확도: 97.38%\n", - "18\t검증 세트 손실: 0.080300\t최선의 손실: 0.079665\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.110411\t최선의 손실: 0.079665\t정확도: 97.46%\n", - "20\t검증 세트 손실: 0.075459\t최선의 손실: 0.075459\t정확도: 97.85%\n", - "21\t검증 세트 손실: 0.074641\t최선의 손실: 0.074641\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.062378\t최선의 손실: 0.062378\t정확도: 98.24%\n", - "23\t검증 세트 손실: 0.068209\t최선의 손실: 0.062378\t정확도: 98.32%\n", - "24\t검증 세트 손실: 0.076480\t최선의 손실: 0.062378\t정확도: 98.08%\n", - "25\t검증 세트 손실: 0.087372\t최선의 손실: 0.062378\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.120130\t최선의 손실: 0.062378\t정확도: 97.58%\n", - "27\t검증 세트 손실: 0.078843\t최선의 손실: 0.062378\t정확도: 98.24%\n", - "28\t검증 세트 손실: 0.066052\t최선의 손실: 0.062378\t정확도: 98.51%\n", - "29\t검증 세트 손실: 0.077615\t최선의 손실: 0.062378\t정확도: 98.28%\n", - "30\t검증 세트 손실: 0.086158\t최선의 손실: 0.062378\t정확도: 98.28%\n", - "31\t검증 세트 손실: 0.138006\t최선의 손실: 0.062378\t정확도: 98.16%\n", - "32\t검증 세트 손실: 0.125814\t최선의 손실: 0.062378\t정확도: 98.28%\n", - "33\t검증 세트 손실: 0.105276\t최선의 손실: 0.062378\t정확도: 98.20%\n", - "34\t검증 세트 손실: 0.423094\t최선의 손실: 0.062378\t정확도: 97.30%\n", - "35\t검증 세트 손실: 0.329065\t최선의 손실: 0.062378\t정확도: 95.39%\n", - "36\t검증 세트 손실: 0.106528\t최선의 손실: 0.062378\t정확도: 98.08%\n", - "37\t검증 세트 손실: 0.104373\t최선의 손실: 0.062378\t정확도: 98.01%\n", - "38\t검증 세트 손실: 0.102380\t최선의 손실: 0.062378\t정확도: 98.24%\n", - "39\t검증 세트 손실: 0.112255\t최선의 손실: 0.062378\t정확도: 98.36%\n", - "40\t검증 세트 손실: 0.125890\t최선의 손실: 0.062378\t정확도: 98.08%\n", - "41\t검증 세트 손실: 0.106239\t최선의 손실: 0.062378\t정확도: 98.48%\n", - "42\t검증 세트 손실: 0.109116\t최선의 손실: 0.062378\t정확도: 98.32%\n", - "43\t검증 세트 손실: 0.126178\t최선의 손실: 0.062378\t정확도: 98.48%\n", + "27\t검증 세트 손실: 0.072981\t최선의 손실: 0.067903\t정확도: 98.20%\n", + "28\t검증 세트 손실: 0.105617\t최선의 손실: 0.067903\t정확도: 98.24%\n", + "29\t검증 세트 손실: 0.105267\t최선의 손실: 0.067903\t정확도: 98.36%\n", + "30\t검증 세트 손실: 0.108825\t최선의 손실: 0.067903\t정확도: 98.40%\n", + "31\t검증 세트 손실: 0.101278\t최선의 손실: 0.067903\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.118406\t최선의 손실: 0.067903\t정확도: 98.08%\n", + "33\t검증 세트 손실: 0.158437\t최선의 손실: 0.067903\t정확도: 97.81%\n", + "34\t검증 세트 손실: 0.076050\t최선의 손실: 0.067903\t정확도: 98.24%\n", + "35\t검증 세트 손실: 0.089169\t최선의 손실: 0.067903\t정확도: 98.40%\n", + "36\t검증 세트 손실: 0.132084\t최선의 손실: 0.067903\t정확도: 98.28%\n", + "37\t검증 세트 손실: 0.116144\t최선의 손실: 0.067903\t정확도: 98.05%\n", + "38\t검증 세트 손실: 0.171451\t최선의 손실: 0.067903\t정확도: 98.12%\n", + "39\t검증 세트 손실: 0.239491\t최선의 손실: 0.067903\t정확도: 95.74%\n", + "40\t검증 세트 손실: 0.112158\t최선의 손실: 0.067903\t정확도: 97.81%\n", + "41\t검증 세트 손실: 0.067027\t최선의 손실: 0.067027\t정확도: 98.44%\n", + "42\t검증 세트 손실: 0.071225\t최선의 손실: 0.067027\t정확도: 98.44%\n", + "43\t검증 세트 손실: 0.091031\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "44\t검증 세트 손실: 0.079668\t최선의 손실: 0.067027\t정확도: 98.63%\n", + "45\t검증 세트 손실: 0.084095\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "46\t검증 세트 손실: 0.082197\t최선의 손실: 0.067027\t정확도: 98.71%\n", + "47\t검증 세트 손실: 0.083278\t최선의 손실: 0.067027\t정확도: 98.63%\n", + "48\t검증 세트 손실: 0.080916\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "49\t검증 세트 손실: 0.092704\t최선의 손실: 0.067027\t정확도: 98.63%\n", + "50\t검증 세트 손실: 0.107551\t최선의 손실: 0.067027\t정확도: 98.32%\n", + "51\t검증 세트 손실: 0.103001\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "52\t검증 세트 손실: 0.092386\t최선의 손실: 0.067027\t정확도: 98.63%\n", + "53\t검증 세트 손실: 0.107875\t최선의 손실: 0.067027\t정확도: 98.59%\n", + "54\t검증 세트 손실: 0.114273\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "55\t검증 세트 손실: 0.098826\t최선의 손실: 0.067027\t정확도: 98.51%\n", + "56\t검증 세트 손실: 0.118848\t최선의 손실: 0.067027\t정확도: 98.55%\n", + "57\t검증 세트 손실: 0.103606\t최선의 손실: 0.067027\t정확도: 98.44%\n", + "58\t검증 세트 손실: 0.107775\t최선의 손실: 0.067027\t정확도: 98.32%\n", + "59\t검증 세트 손실: 0.092761\t최선의 손실: 0.067027\t정확도: 98.44%\n", + "60\t검증 세트 손실: 0.080621\t최선의 손실: 0.067027\t정확도: 98.40%\n", + "61\t검증 세트 손실: 0.089622\t최선의 손실: 0.067027\t정확도: 98.44%\n", + "62\t검증 세트 손실: 0.098104\t최선의 손실: 0.067027\t정확도: 98.32%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=140, total= 4.3s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n", - "0\t검증 세트 손실: 0.170523\t최선의 손실: 0.170523\t정확도: 95.78%\n", - "1\t검증 세트 손실: 0.174640\t최선의 손실: 0.170523\t정확도: 95.62%\n", - "2\t검증 세트 손실: 0.329979\t최선의 손실: 0.170523\t정확도: 95.23%\n", - "3\t검증 세트 손실: 0.187569\t최선의 손실: 0.170523\t정확도: 95.50%\n", - "4\t검증 세트 손실: 0.202614\t최선의 손실: 0.170523\t정확도: 95.82%\n", - "5\t검증 세트 손실: 0.156649\t최선의 손실: 0.156649\t정확도: 96.13%\n", - "6\t검증 세트 손실: 0.150534\t최선의 손실: 0.150534\t정확도: 96.52%\n", - "7\t검증 세트 손실: 0.187594\t최선의 손실: 0.150534\t정확도: 95.39%\n", - "8\t검증 세트 손실: 0.182636\t최선의 손실: 0.150534\t정확도: 95.58%\n", - "9\t검증 세트 손실: 0.182917\t최선의 손실: 0.150534\t정확도: 95.82%\n", - "10\t검증 세트 손실: 0.160721\t최선의 손실: 0.150534\t정확도: 96.29%\n", - "11\t검증 세트 손실: 0.232980\t최선의 손실: 0.150534\t정확도: 94.68%\n", - "12\t검증 세트 손실: 0.527393\t최선의 손실: 0.150534\t정확도: 85.34%\n", - "13\t검증 세트 손실: 0.198471\t최선의 손실: 0.150534\t정확도: 95.62%\n", - "14\t검증 세트 손실: 0.226465\t최선의 손실: 0.150534\t정확도: 94.72%\n", - "15\t검증 세트 손실: 0.209665\t최선의 손실: 0.150534\t정확도: 95.15%\n", - "16\t검증 세트 손실: 0.551681\t최선의 손실: 0.150534\t정확도: 74.39%\n", - "17\t검증 세트 손실: 0.494566\t최선의 손실: 0.150534\t정확도: 74.86%\n", - "18\t검증 세트 손실: 0.743307\t최선의 손실: 0.150534\t정확도: 68.84%\n", - "19\t검증 세트 손실: 0.862795\t최선의 손실: 0.150534\t정확도: 53.95%\n", - "20\t검증 세트 손실: 0.927397\t최선의 손실: 0.150534\t정확도: 57.43%\n", - "21\t검증 세트 손실: 0.798097\t최선의 손실: 0.150534\t정확도: 61.42%\n", - "22\t검증 세트 손실: 0.632958\t최선의 손실: 0.150534\t정확도: 73.69%\n", - "23\t검증 세트 손실: 0.663212\t최선의 손실: 0.150534\t정확도: 72.67%\n", - "24\t검증 세트 손실: 0.622458\t최선의 손실: 0.150534\t정확도: 71.42%\n", - "25\t검증 세트 손실: 0.729291\t최선의 손실: 0.150534\t정확도: 69.86%\n", - "26\t검증 세트 손실: 0.822939\t최선의 손실: 0.150534\t정확도: 64.43%\n", - "27\t검증 세트 손실: 0.629102\t최선의 손실: 0.150534\t정확도: 74.98%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.0s\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.188848\t최선의 손실: 0.188848\t정확도: 95.47%\n", + "1\t검증 세트 손실: 0.194002\t최선의 손실: 0.188848\t정확도: 95.54%\n", + "2\t검증 세트 손실: 0.195576\t최선의 손실: 0.188848\t정확도: 94.80%\n", + "3\t검증 세트 손실: 0.191470\t최선의 손실: 0.188848\t정확도: 95.23%\n", + "4\t검증 세트 손실: 0.172080\t최선의 손실: 0.172080\t정확도: 95.70%\n", + "5\t검증 세트 손실: 0.151410\t최선의 손실: 0.151410\t정확도: 96.09%\n", + "6\t검증 세트 손실: 0.139889\t최선의 손실: 0.139889\t정확도: 96.01%\n", + "7\t검증 세트 손실: 0.223698\t최선의 손실: 0.139889\t정확도: 95.62%\n", + "8\t검증 세트 손실: 0.190207\t최선의 손실: 0.139889\t정확도: 95.35%\n", + "9\t검증 세트 손실: 0.180312\t최선의 손실: 0.139889\t정확도: 95.78%\n", + "10\t검증 세트 손실: 0.234317\t최선의 손실: 0.139889\t정확도: 94.45%\n", + "11\t검증 세트 손실: 0.204726\t최선의 손실: 0.139889\t정확도: 96.09%\n", + "12\t검증 세트 손실: 0.238617\t최선의 손실: 0.139889\t정확도: 95.50%\n", + "13\t검증 세트 손실: 0.331110\t최선의 손실: 0.139889\t정확도: 92.49%\n", + "14\t검증 세트 손실: 0.769576\t최선의 손실: 0.139889\t정확도: 65.40%\n", + "15\t검증 세트 손실: 0.677876\t최선의 손실: 0.139889\t정확도: 73.69%\n", + "16\t검증 세트 손실: 0.569604\t최선의 손실: 0.139889\t정확도: 72.75%\n", + "17\t검증 세트 손실: 0.483056\t최선의 손실: 0.139889\t정확도: 78.50%\n", + "18\t검증 세트 손실: 0.473772\t최선의 손실: 0.139889\t정확도: 76.47%\n", + "19\t검증 세트 손실: 0.454212\t최선의 손실: 0.139889\t정확도: 78.34%\n", + "20\t검증 세트 손실: 0.466258\t최선의 손실: 0.139889\t정확도: 74.24%\n", + "21\t검증 세트 손실: 0.477275\t최선의 손실: 0.139889\t정확도: 74.90%\n", + "22\t검증 세트 손실: 0.454898\t최선의 손실: 0.139889\t정확도: 75.92%\n", + "23\t검증 세트 손실: 0.468072\t최선의 손실: 0.139889\t정확도: 75.88%\n", + "24\t검증 세트 손실: 0.464719\t최선의 손실: 0.139889\t정확도: 78.73%\n", + "25\t검증 세트 손실: 0.455054\t최선의 손실: 0.139889\t정확도: 74.82%\n", + "26\t검증 세트 손실: 0.440428\t최선의 손실: 0.139889\t정확도: 78.07%\n", + "27\t검증 세트 손실: 0.756762\t최선의 손실: 0.139889\t정확도: 57.35%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 5.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n", - "0\t검증 세트 손실: 0.684786\t최선의 손실: 0.684786\t정확도: 64.97%\n", - "1\t검증 세트 손실: 0.664361\t최선의 손실: 0.664361\t정확도: 66.30%\n", - "2\t검증 세트 손실: 0.655848\t최선의 손실: 0.655848\t정확도: 68.65%\n", - "3\t검증 세트 손실: 0.625136\t최선의 손실: 0.625136\t정확도: 69.04%\n", - "4\t검증 세트 손실: 0.643380\t최선의 손실: 0.625136\t정확도: 67.08%\n", - "5\t검증 세트 손실: 0.640493\t최선의 손실: 0.625136\t정확도: 67.87%\n", - "6\t검증 세트 손실: 0.625290\t최선의 손실: 0.625136\t정확도: 68.41%\n", - "7\t검증 세트 손실: 0.699419\t최선의 손실: 0.625136\t정확도: 68.57%\n", - "8\t검증 세트 손실: 0.780990\t최선의 손실: 0.625136\t정확도: 56.88%\n", - "9\t검증 세트 손실: 0.755508\t최선의 손실: 0.625136\t정확도: 57.27%\n", - "10\t검증 세트 손실: 0.711334\t최선의 손실: 0.625136\t정확도: 58.41%\n", - "11\t검증 세트 손실: 0.800180\t최선의 손실: 0.625136\t정확도: 54.65%\n", - "12\t검증 세트 손실: 0.753357\t최선의 손실: 0.625136\t정확도: 58.21%\n", - "13\t검증 세트 손실: 0.768297\t최선의 손실: 0.625136\t정확도: 56.88%\n", - "14\t검증 세트 손실: 0.728352\t최선의 손실: 0.625136\t정확도: 57.15%\n", - "15\t검증 세트 손실: 0.710964\t최선의 손실: 0.625136\t정확도: 58.48%\n", - "16\t검증 세트 손실: 0.754282\t최선의 손실: 0.625136\t정확도: 56.80%\n", - "17\t검증 세트 손실: 0.706291\t최선의 손실: 0.625136\t정확도: 57.82%\n", - "18\t검증 세트 손실: 0.692489\t최선의 손실: 0.625136\t정확도: 58.60%\n", - "19\t검증 세트 손실: 0.721068\t최선의 손실: 0.625136\t정확도: 58.17%\n", - "20\t검증 세트 손실: 0.713464\t최선의 손실: 0.625136\t정확도: 58.09%\n", - "21\t검증 세트 손실: 0.556656\t최선의 손실: 0.556656\t정확도: 73.61%\n", - "22\t검증 세트 손실: 0.738637\t최선의 손실: 0.556656\t정확도: 70.64%\n", - "23\t검증 세트 손실: 0.518988\t최선의 손실: 0.518988\t정확도: 76.97%\n", - "24\t검증 세트 손실: 0.476505\t최선의 손실: 0.476505\t정확도: 78.11%\n", - "25\t검증 세트 손실: 0.518704\t최선의 손실: 0.476505\t정확도: 76.90%\n", - "26\t검증 세트 손실: 0.689445\t최선의 손실: 0.476505\t정확도: 67.87%\n", - "27\t검증 세트 손실: 0.499047\t최선의 손실: 0.476505\t정확도: 75.57%\n", - "28\t검증 세트 손실: 0.554122\t최선의 손실: 0.476505\t정확도: 74.24%\n", - "29\t검증 세트 손실: 0.481840\t최선의 손실: 0.476505\t정확도: 77.40%\n", - "30\t검증 세트 손실: 0.467037\t최선의 손실: 0.467037\t정확도: 77.87%\n", - "31\t검증 세트 손실: 0.493988\t최선의 손실: 0.467037\t정확도: 78.30%\n", - "32\t검증 세트 손실: 0.505964\t최선의 손실: 0.467037\t정확도: 76.04%\n", - "33\t검증 세트 손실: 0.503623\t최선의 손실: 0.467037\t정확도: 77.52%\n", - "34\t검증 세트 손실: 0.559446\t최선의 손실: 0.467037\t정확도: 73.26%\n", - "35\t검증 세트 손실: 0.496419\t최선의 손실: 0.467037\t정확도: 76.90%\n", - "36\t검증 세트 손실: 0.519173\t최선의 손실: 0.467037\t정확도: 76.74%\n", - "37\t검증 세트 손실: 0.467910\t최선의 손실: 0.467037\t정확도: 75.80%\n", - "38\t검증 세트 손실: 0.486617\t최선의 손실: 0.467037\t정확도: 76.39%\n", - "39\t검증 세트 손실: 0.504105\t최선의 손실: 0.467037\t정확도: 76.94%\n", - "40\t검증 세트 손실: 0.492015\t최선의 손실: 0.467037\t정확도: 76.19%\n", - "41\t검증 세트 손실: 0.536777\t최선의 손실: 0.467037\t정확도: 75.22%\n", - "42\t검증 세트 손실: 0.490061\t최선의 손실: 0.467037\t정확도: 76.47%\n", - "43\t검증 세트 손실: 0.498000\t최선의 손실: 0.467037\t정확도: 75.72%\n", - "44\t검증 세트 손실: 0.517160\t최선의 손실: 0.467037\t정확도: 76.43%\n", - "45\t검증 세트 손실: 0.569707\t최선의 손실: 0.467037\t정확도: 73.18%\n", - "46\t검증 세트 손실: 0.507376\t최선의 손실: 0.467037\t정확도: 77.13%\n", - "47\t검증 세트 손실: 0.497331\t최선의 손실: 0.467037\t정확도: 76.08%\n", - "48\t검증 세트 손실: 0.473522\t최선의 손실: 0.467037\t정확도: 77.37%\n", - "49\t검증 세트 손실: 0.503434\t최선의 손실: 0.467037\t정확도: 77.05%\n", - "50\t검증 세트 손실: 0.491839\t최선의 손실: 0.467037\t정확도: 77.17%\n", - "51\t검증 세트 손실: 0.479974\t최선의 손실: 0.467037\t정확도: 77.37%\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 5.2s\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.329411\t최선의 손실: 0.329411\t정확도: 94.49%\n", + "1\t검증 세트 손실: 0.415559\t최선의 손실: 0.329411\t정확도: 85.57%\n", + "2\t검증 세트 손실: 0.390925\t최선의 손실: 0.329411\t정확도: 88.12%\n", + "3\t검증 세트 손실: 0.258105\t최선의 손실: 0.258105\t정확도: 93.98%\n", + "4\t검증 세트 손실: 0.200502\t최선의 손실: 0.200502\t정확도: 94.14%\n", + "5\t검증 세트 손실: 0.210663\t최선의 손실: 0.200502\t정확도: 95.23%\n", + "6\t검증 세트 손실: 0.196424\t최선의 손실: 0.196424\t정확도: 94.80%\n", + "7\t검증 세트 손실: 0.255892\t최선의 손실: 0.196424\t정확도: 95.00%\n", + "8\t검증 세트 손실: 0.498046\t최선의 손실: 0.196424\t정확도: 84.91%\n", + "9\t검증 세트 손실: 0.418271\t최선의 손실: 0.196424\t정확도: 88.47%\n", + "10\t검증 세트 손실: 0.325835\t최선의 손실: 0.196424\t정확도: 92.03%\n", + "11\t검증 세트 손실: 0.368565\t최선의 손실: 0.196424\t정확도: 92.85%\n", + "12\t검증 세트 손실: 0.324206\t최선의 손실: 0.196424\t정확도: 94.21%\n", + "13\t검증 세트 손실: 0.291589\t최선의 손실: 0.196424\t정확도: 93.75%\n", + "14\t검증 세트 손실: 0.334615\t최선의 손실: 0.196424\t정확도: 93.20%\n", + "15\t검증 세트 손실: 0.312040\t최선의 손실: 0.196424\t정확도: 93.71%\n", + "16\t검증 세트 손실: 0.811714\t최선의 손실: 0.196424\t정확도: 75.02%\n", + "17\t검증 세트 손실: 0.819144\t최선의 손실: 0.196424\t정확도: 56.22%\n", + "18\t검증 세트 손실: 0.818224\t최선의 손실: 0.196424\t정확도: 60.40%\n", + "19\t검증 세트 손실: 0.832078\t최선의 손실: 0.196424\t정확도: 59.97%\n", + "20\t검증 세트 손실: 0.782098\t최선의 손실: 0.196424\t정확도: 60.36%\n", + "21\t검증 세트 손실: 0.558387\t최선의 손실: 0.196424\t정확도: 78.54%\n", + "22\t검증 세트 손실: 0.395320\t최선의 손실: 0.196424\t정확도: 89.87%\n", + "23\t검증 세트 손실: 1.211341\t최선의 손실: 0.196424\t정확도: 43.51%\n", + "24\t검증 세트 손실: 0.872883\t최선의 손실: 0.196424\t정확도: 58.72%\n", + "25\t검증 세트 손실: 0.870763\t최선의 손실: 0.196424\t정확도: 57.04%\n", + "26\t검증 세트 손실: 0.873757\t최선의 손실: 0.196424\t정확도: 55.55%\n", + "27\t검증 세트 손실: 0.954316\t최선의 손실: 0.196424\t정확도: 55.86%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 9.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10 \n", - "0\t검증 세트 손실: 0.624638\t최선의 손실: 0.624638\t정확도: 68.92%\n", - "1\t검증 세트 손실: 0.497803\t최선의 손실: 0.497803\t정확도: 81.55%\n", - "2\t검증 세트 손실: 0.442841\t최선의 손실: 0.442841\t정확도: 86.32%\n", - "3\t검증 세트 손실: 0.387590\t최선의 손실: 0.387590\t정확도: 87.76%\n", - "4\t검증 세트 손실: 0.913214\t최선의 손실: 0.387590\t정확도: 60.99%\n", - "5\t검증 세트 손실: 0.565457\t최선의 손실: 0.387590\t정확도: 76.39%\n", - "6\t검증 세트 손실: 0.552457\t최선의 손실: 0.387590\t정확도: 73.85%\n", - "7\t검증 세트 손실: 1.203449\t최선의 손실: 0.387590\t정확도: 41.32%\n", - "8\t검증 세트 손실: 0.907918\t최선의 손실: 0.387590\t정확도: 56.65%\n", - "9\t검증 세트 손실: 0.837292\t최선의 손실: 0.387590\t정확도: 59.66%\n", - "10\t검증 세트 손실: 0.822480\t최선의 손실: 0.387590\t정확도: 62.20%\n", - "11\t검증 세트 손실: 0.887609\t최선의 손실: 0.387590\t정확도: 63.96%\n", - "12\t검증 세트 손실: 1.103977\t최선의 손실: 0.387590\t정확도: 51.13%\n", - "13\t검증 세트 손실: 0.908210\t최선의 손실: 0.387590\t정확도: 60.99%\n", - "14\t검증 세트 손실: 0.922159\t최선의 손실: 0.387590\t정확도: 59.81%\n", - "15\t검증 세트 손실: 0.809119\t최선의 손실: 0.387590\t정확도: 64.97%\n", - "16\t검증 세트 손실: 0.724027\t최선의 손실: 0.387590\t정확도: 69.74%\n", - "17\t검증 세트 손실: 0.701775\t최선의 손실: 0.387590\t정확도: 69.78%\n", - "18\t검증 세트 손실: 0.742970\t최선의 손실: 0.387590\t정확도: 67.63%\n", - "19\t검증 세트 손실: 0.645720\t최선의 손실: 0.387590\t정확도: 74.63%\n", - "20\t검증 세트 손실: 0.626291\t최선의 손실: 0.387590\t정확도: 75.33%\n", - "21\t검증 세트 손실: 0.644477\t최선의 손실: 0.387590\t정확도: 72.56%\n", - "22\t검증 세트 손실: 0.668837\t최선의 손실: 0.387590\t정확도: 73.96%\n", - "23\t검증 세트 손실: 0.610075\t최선의 손실: 0.387590\t정확도: 76.00%\n", - "24\t검증 세트 손실: 0.612418\t최선의 손실: 0.387590\t정확도: 75.02%\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 5.3s\n", + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.621895\t최선의 손실: 0.621895\t정확도: 70.72%\n", + "1\t검증 세트 손실: 0.459668\t최선의 손실: 0.459668\t정확도: 84.83%\n", + "2\t검증 세트 손실: 0.349388\t최선의 손실: 0.349388\t정확도: 91.56%\n", + "3\t검증 세트 손실: 0.334761\t최선의 손실: 0.334761\t정확도: 91.91%\n", + "4\t검증 세트 손실: 0.417003\t최선의 손실: 0.334761\t정확도: 88.70%\n", + "5\t검증 세트 손실: 0.303734\t최선의 손실: 0.303734\t정확도: 93.78%\n", + "6\t검증 세트 손실: 0.268557\t최선의 손실: 0.268557\t정확도: 93.78%\n", + "7\t검증 세트 손실: 0.224452\t최선의 손실: 0.224452\t정확도: 95.70%\n", + "8\t검증 세트 손실: 0.241420\t최선의 손실: 0.224452\t정확도: 95.74%\n", + "9\t검증 세트 손실: 0.238868\t최선의 손실: 0.224452\t정확도: 96.09%\n", + "10\t검증 세트 손실: 0.301233\t최선의 손실: 0.224452\t정확도: 93.94%\n", + "11\t검증 세트 손실: 0.257727\t최선의 손실: 0.224452\t정확도: 95.74%\n", + "12\t검증 세트 손실: 0.580990\t최선의 손실: 0.224452\t정확도: 85.93%\n", + "13\t검증 세트 손실: 0.711789\t최선의 손실: 0.224452\t정확도: 69.86%\n", + "14\t검증 세트 손실: 0.701424\t최선의 손실: 0.224452\t정확도: 71.74%\n", + "15\t검증 세트 손실: 0.835968\t최선의 손실: 0.224452\t정확도: 68.22%\n", + "16\t검증 세트 손실: 0.679751\t최선의 손실: 0.224452\t정확도: 70.84%\n", + "17\t검증 세트 손실: 0.518552\t최선의 손실: 0.224452\t정확도: 83.85%\n", + "18\t검증 세트 손실: 0.526939\t최선의 손실: 0.224452\t정확도: 81.98%\n", + "19\t검증 세트 손실: 0.435245\t최선의 손실: 0.224452\t정확도: 88.94%\n", + "20\t검증 세트 손실: 0.469078\t최선의 손실: 0.224452\t정확도: 86.86%\n", + "21\t검증 세트 손실: 1.325965\t최선의 손실: 0.224452\t정확도: 34.56%\n", + "22\t검증 세트 손실: 1.349605\t최선의 손실: 0.224452\t정확도: 35.77%\n", + "23\t검증 세트 손실: 1.212406\t최선의 손실: 0.224452\t정확도: 40.85%\n", + "24\t검증 세트 손실: 1.200880\t최선의 손실: 0.224452\t정확도: 41.05%\n", + "25\t검증 세트 손실: 1.199857\t최선의 손실: 0.224452\t정확도: 41.05%\n", + "26\t검증 세트 손실: 1.199741\t최선의 손실: 0.224452\t정확도: 41.05%\n", + "27\t검증 세트 손실: 1.199598\t최선의 손실: 0.224452\t정확도: 41.05%\n", + "28\t검증 세트 손실: 1.202139\t최선의 손실: 0.224452\t정확도: 37.84%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, n_neurons=10, total= 4.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.167856\t최선의 손실: 0.167856\t정확도: 95.62%\n", - "1\t검증 세트 손실: 0.108457\t최선의 손실: 0.108457\t정확도: 96.64%\n", - "2\t검증 세트 손실: 0.115244\t최선의 손실: 0.108457\t정확도: 96.68%\n", - "3\t검증 세트 손실: 0.103707\t최선의 손실: 0.103707\t정확도: 97.11%\n", - "4\t검증 세트 손실: 0.088900\t최선의 손실: 0.088900\t정확도: 97.07%\n", - "5\t검증 세트 손실: 0.108243\t최선의 손실: 0.088900\t정확도: 96.44%\n", - "6\t검증 세트 손실: 0.102634\t최선의 손실: 0.088900\t정확도: 96.60%\n", - "7\t검증 세트 손실: 0.115583\t최선의 손실: 0.088900\t정확도: 96.44%\n", - "8\t검증 세트 손실: 0.115068\t최선의 손실: 0.088900\t정확도: 96.48%\n" + "[CV] n_neurons=10, learning_rate=0.05, batch_size=100, activation=, total= 5.4s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.260263\t최선의 손실: 0.260263\t정확도: 92.69%\n", + "1\t검증 세트 손실: 0.139456\t최선의 손실: 0.139456\t정확도: 95.82%\n", + "2\t검증 세트 손실: 0.109648\t최선의 손실: 0.109648\t정확도: 96.79%\n", + "3\t검증 세트 손실: 0.088956\t최선의 손실: 0.088956\t정확도: 97.03%\n", + "4\t검증 세트 손실: 0.092309\t최선의 손실: 0.088956\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.093771\t최선의 손실: 0.088956\t정확도: 97.50%\n", + "6\t검증 세트 손실: 0.085137\t최선의 손실: 0.085137\t정확도: 97.50%\n", + "7\t검증 세트 손실: 0.081934\t최선의 손실: 0.081934\t정확도: 97.93%\n", + "8\t검증 세트 손실: 0.078763\t최선의 손실: 0.078763\t정확도: 97.77%\n", + "9\t검증 세트 손실: 0.078033\t최선의 손실: 0.078033\t정확도: 97.85%\n", + "10\t검증 세트 손실: 0.077246\t최선의 손실: 0.077246\t정확도: 97.93%\n", + "11\t검증 세트 손실: 0.075205\t최선의 손실: 0.075205\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.113369\t최선의 손실: 0.075205\t정확도: 97.54%\n", + "13\t검증 세트 손실: 0.085339\t최선의 손실: 0.075205\t정확도: 97.77%\n", + "14\t검증 세트 손실: 0.083056\t최선의 손실: 0.075205\t정확도: 97.54%\n", + "15\t검증 세트 손실: 0.085376\t최선의 손실: 0.075205\t정확도: 97.77%\n", + "16\t검증 세트 손실: 0.081122\t최선의 손실: 0.075205\t정확도: 97.77%\n", + "17\t검증 세트 손실: 0.078464\t최선의 손실: 0.075205\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.085158\t최선의 손실: 0.075205\t정확도: 97.89%\n", + "19\t검증 세트 손실: 0.081083\t최선의 손실: 0.075205\t정확도: 97.69%\n", + "20\t검증 세트 손실: 0.091767\t최선의 손실: 0.075205\t정확도: 97.77%\n", + "21\t검증 세트 손실: 0.082053\t최선의 손실: 0.075205\t정확도: 98.08%\n", + "22\t검증 세트 손실: 0.094413\t최선의 손실: 0.075205\t정확도: 97.69%\n", + "23\t검증 세트 손실: 0.094096\t최선의 손실: 0.075205\t정확도: 97.73%\n", + "24\t검증 세트 손실: 0.107194\t최선의 손실: 0.075205\t정확도: 97.46%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "9\t검증 세트 손실: 0.087827\t최선의 손실: 0.087827\t정확도: 97.58%\n", - "10\t검증 세트 손실: 0.094932\t최선의 손실: 0.087827\t정확도: 97.19%\n", - "11\t검증 세트 손실: 0.112793\t최선의 손실: 0.087827\t정확도: 96.83%\n", - "12\t검증 세트 손실: 0.084992\t최선의 손실: 0.084992\t정확도: 97.62%\n", - "13\t검증 세트 손실: 0.101290\t최선의 손실: 0.084992\t정확도: 97.03%\n", - "14\t검증 세트 손실: 0.095391\t최선의 손실: 0.084992\t정확도: 97.46%\n", - "15\t검증 세트 손실: 0.089654\t최선의 손실: 0.084992\t정확도: 97.50%\n", - "16\t검증 세트 손실: 0.083526\t최선의 손실: 0.083526\t정확도: 97.89%\n", - "17\t검증 세트 손실: 0.104814\t최선의 손실: 0.083526\t정확도: 97.42%\n", - "18\t검증 세트 손실: 0.105825\t최선의 손실: 0.083526\t정확도: 97.54%\n", - "19\t검증 세트 손실: 0.106660\t최선의 손실: 0.083526\t정확도: 97.15%\n", - "20\t검증 세트 손실: 0.110320\t최선의 손실: 0.083526\t정확도: 97.26%\n", - "21\t검증 세트 손실: 0.093945\t최선의 손실: 0.083526\t정확도: 97.69%\n", - "22\t검증 세트 손실: 0.101414\t최선의 손실: 0.083526\t정확도: 97.69%\n", - "23\t검증 세트 손실: 0.125447\t최선의 손실: 0.083526\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.100788\t최선의 손실: 0.083526\t정확도: 97.50%\n", - "25\t검증 세트 손실: 0.127719\t최선의 손실: 0.083526\t정확도: 97.22%\n", - "26\t검증 세트 손실: 0.136075\t최선의 손실: 0.083526\t정확도: 97.46%\n", - "27\t검증 세트 손실: 0.124739\t최선의 손실: 0.083526\t정확도: 97.26%\n", - "28\t검증 세트 손실: 0.107940\t최선의 손실: 0.083526\t정확도: 97.34%\n", - "29\t검증 세트 손실: 0.104835\t최선의 손실: 0.083526\t정확도: 97.46%\n", - "30\t검증 세트 손실: 0.111142\t최선의 손실: 0.083526\t정확도: 97.22%\n", - "31\t검증 세트 손실: 0.117282\t최선의 손실: 0.083526\t정확도: 97.73%\n", - "32\t검증 세트 손실: 0.127079\t최선의 손실: 0.083526\t정확도: 97.34%\n", - "33\t검증 세트 손실: 0.129730\t최선의 손실: 0.083526\t정확도: 97.34%\n", - "34\t검증 세트 손실: 0.124026\t최선의 손실: 0.083526\t정확도: 97.62%\n", - "35\t검증 세트 손실: 0.113576\t최선의 손실: 0.083526\t정확도: 97.77%\n", - "36\t검증 세트 손실: 0.127601\t최선의 손실: 0.083526\t정확도: 97.65%\n", - "37\t검증 세트 손실: 0.140860\t최선의 손실: 0.083526\t정확도: 97.22%\n", + "25\t검증 세트 손실: 0.090743\t최선의 손실: 0.075205\t정확도: 97.73%\n", + "26\t검증 세트 손실: 0.080613\t최선의 손실: 0.075205\t정확도: 97.89%\n", + "27\t검증 세트 손실: 0.085653\t최선의 손실: 0.075205\t정확도: 98.05%\n", + "28\t검증 세트 손실: 0.115364\t최선의 손실: 0.075205\t정확도: 97.62%\n", + "29\t검증 세트 손실: 0.095113\t최선의 손실: 0.075205\t정확도: 98.05%\n", + "30\t검증 세트 손실: 0.105585\t최선의 손실: 0.075205\t정확도: 97.73%\n", + "31\t검증 세트 손실: 0.098436\t최선의 손실: 0.075205\t정확도: 98.08%\n", + "32\t검증 세트 손실: 0.117228\t최선의 손실: 0.075205\t정확도: 97.77%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10, total= 3.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.213472\t최선의 손실: 0.213472\t정확도: 94.06%\n", - "1\t검증 세트 손실: 0.145661\t최선의 손실: 0.145661\t정확도: 96.05%\n", - "2\t검증 세트 손실: 0.123632\t최선의 손실: 0.123632\t정확도: 96.36%\n", - "3\t검증 세트 손실: 0.124052\t최선의 손실: 0.123632\t정확도: 96.44%\n", - "4\t검증 세트 손실: 0.144889\t최선의 손실: 0.123632\t정확도: 96.13%\n", - "5\t검증 세트 손실: 0.110220\t최선의 손실: 0.110220\t정확도: 97.11%\n", - "6\t검증 세트 손실: 0.120046\t최선의 손실: 0.110220\t정확도: 96.83%\n", - "7\t검증 세트 손실: 0.104886\t최선의 손실: 0.104886\t정확도: 97.34%\n", - "8\t검증 세트 손실: 0.110804\t최선의 손실: 0.104886\t정확도: 96.91%\n", - "9\t검증 세트 손실: 0.114845\t최선의 손실: 0.104886\t정확도: 96.76%\n", - "10\t검증 세트 손실: 0.116173\t최선의 손실: 0.104886\t정확도: 96.95%\n", - "11\t검증 세트 손실: 0.124587\t최선의 손실: 0.104886\t정확도: 96.76%\n", - "12\t검증 세트 손실: 0.108523\t최선의 손실: 0.104886\t정확도: 97.15%\n", - "13\t검증 세트 손실: 0.107945\t최선의 손실: 0.104886\t정확도: 97.15%\n", - "14\t검증 세트 손실: 0.100707\t최선의 손실: 0.100707\t정확도: 97.30%\n", - "15\t검증 세트 손실: 0.106083\t최선의 손실: 0.100707\t정확도: 97.11%\n", - "16\t검증 세트 손실: 0.099621\t최선의 손실: 0.099621\t정확도: 97.46%\n", - "17\t검증 세트 손실: 0.101612\t최선의 손실: 0.099621\t정확도: 97.03%\n", - "18\t검증 세트 손실: 0.121625\t최선의 손실: 0.099621\t정확도: 96.60%\n", - "19\t검증 세트 손실: 0.111096\t최선의 손실: 0.099621\t정확도: 96.87%\n", - "20\t검증 세트 손실: 0.109175\t최선의 손실: 0.099621\t정확도: 97.22%\n", - "21\t검증 세트 손실: 0.110920\t최선의 손실: 0.099621\t정확도: 97.42%\n", - "22\t검증 세트 손실: 0.096081\t최선의 손실: 0.096081\t정확도: 97.54%\n", - "23\t검증 세트 손실: 0.114144\t최선의 손실: 0.096081\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.105850\t최선의 손실: 0.096081\t정확도: 97.34%\n", - "25\t검증 세트 손실: 0.110524\t최선의 손실: 0.096081\t정확도: 97.50%\n", - "26\t검증 세트 손실: 0.097885\t최선의 손실: 0.096081\t정확도: 97.69%\n", - "27\t검증 세트 손실: 0.123684\t최선의 손실: 0.096081\t정확도: 97.46%\n", - "28\t검증 세트 손실: 0.113832\t최선의 손실: 0.096081\t정확도: 97.26%\n", - "29\t검증 세트 손실: 0.143234\t최선의 손실: 0.096081\t정확도: 97.22%\n", - "30\t검증 세트 손실: 0.145033\t최선의 손실: 0.096081\t정확도: 97.26%\n", - "31\t검증 세트 손실: 0.115267\t최선의 손실: 0.096081\t정확도: 97.38%\n", - "32\t검증 세트 손실: 0.131718\t최선의 손실: 0.096081\t정확도: 97.30%\n", - "33\t검증 세트 손실: 0.125927\t최선의 손실: 0.096081\t정확도: 97.38%\n", - "34\t검증 세트 손실: 0.096799\t최선의 손실: 0.096081\t정확도: 97.46%\n", - "35\t검증 세트 손실: 0.117402\t최선의 손실: 0.096081\t정확도: 97.54%\n", - "36\t검증 세트 손실: 0.112056\t최선의 손실: 0.096081\t정확도: 97.46%\n", - "37\t검증 세트 손실: 0.105629\t최선의 손실: 0.096081\t정확도: 97.62%\n", - "38\t검증 세트 손실: 0.117222\t최선의 손실: 0.096081\t정확도: 97.42%\n", - "39\t검증 세트 손실: 0.132882\t최선의 손실: 0.096081\t정확도: 97.38%\n", - "40\t검증 세트 손실: 0.157051\t최선의 손실: 0.096081\t정확도: 97.19%\n", - "41\t검증 세트 손실: 0.105921\t최선의 손실: 0.096081\t정확도: 97.77%\n", - "42\t검증 세트 손실: 0.120951\t최선의 손실: 0.096081\t정확도: 97.54%\n", - "43\t검증 세트 손실: 0.127499\t최선의 손실: 0.096081\t정확도: 97.26%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.7s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.180241\t최선의 손실: 0.180241\t정확도: 94.76%\n", + "1\t검증 세트 손실: 0.119239\t최선의 손실: 0.119239\t정확도: 96.72%\n", + "2\t검증 세트 손실: 0.104731\t최선의 손실: 0.104731\t정확도: 96.99%\n", + "3\t검증 세트 손실: 0.103245\t최선의 손실: 0.103245\t정확도: 97.03%\n", + "4\t검증 세트 손실: 0.099223\t최선의 손실: 0.099223\t정확도: 97.26%\n", + "5\t검증 세트 손실: 0.091124\t최선의 손실: 0.091124\t정확도: 97.42%\n", + "6\t검증 세트 손실: 0.102714\t최선의 손실: 0.091124\t정확도: 97.19%\n", + "7\t검증 세트 손실: 0.103323\t최선의 손실: 0.091124\t정확도: 97.07%\n", + "8\t검증 세트 손실: 0.090576\t최선의 손실: 0.090576\t정확도: 97.26%\n", + "9\t검증 세트 손실: 0.103835\t최선의 손실: 0.090576\t정확도: 97.22%\n", + "10\t검증 세트 손실: 0.100675\t최선의 손실: 0.090576\t정확도: 97.46%\n", + "11\t검증 세트 손실: 0.108399\t최선의 손실: 0.090576\t정확도: 97.15%\n", + "12\t검증 세트 손실: 0.103664\t최선의 손실: 0.090576\t정확도: 97.38%\n", + "13\t검증 세트 손실: 0.117602\t최선의 손실: 0.090576\t정확도: 96.99%\n", + "14\t검증 세트 손실: 0.093937\t최선의 손실: 0.090576\t정확도: 97.58%\n", + "15\t검증 세트 손실: 0.113004\t최선의 손실: 0.090576\t정확도: 97.42%\n", + "16\t검증 세트 손실: 0.110264\t최선의 손실: 0.090576\t정확도: 97.42%\n", + "17\t검증 세트 손실: 0.097446\t최선의 손실: 0.090576\t정확도: 97.58%\n", + "18\t검증 세트 손실: 0.100616\t최선의 손실: 0.090576\t정확도: 97.62%\n", + "19\t검증 세트 손실: 0.096815\t최선의 손실: 0.090576\t정확도: 97.62%\n", + "20\t검증 세트 손실: 0.107930\t최선의 손실: 0.090576\t정확도: 97.58%\n", + "21\t검증 세트 손실: 0.118187\t최선의 손실: 0.090576\t정확도: 97.62%\n", + "22\t검증 세트 손실: 0.101849\t최선의 손실: 0.090576\t정확도: 97.34%\n", + "23\t검증 세트 손실: 0.120108\t최선의 손실: 0.090576\t정확도: 97.77%\n", + "24\t검증 세트 손실: 0.105662\t최선의 손실: 0.090576\t정확도: 97.69%\n", + "25\t검증 세트 손실: 0.110025\t최선의 손실: 0.090576\t정확도: 97.62%\n", + "26\t검증 세트 손실: 0.110671\t최선의 손실: 0.090576\t정확도: 97.30%\n", + "27\t검증 세트 손실: 0.142336\t최선의 손실: 0.090576\t정확도: 96.91%\n", + "28\t검증 세트 손실: 0.125112\t최선의 손실: 0.090576\t정확도: 97.46%\n", + "29\t검증 세트 손실: 0.121038\t최선의 손실: 0.090576\t정확도: 97.54%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10, total= 4.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.229440\t최선의 손실: 0.229440\t정확도: 94.02%\n", - "1\t검증 세트 손실: 0.148883\t최선의 손실: 0.148883\t정확도: 95.58%\n", - "2\t검증 세트 손실: 0.141299\t최선의 손실: 0.141299\t정확도: 96.29%\n", - "3\t검증 세트 손실: 0.124889\t최선의 손실: 0.124889\t정확도: 96.48%\n", - "4\t검증 세트 손실: 0.135961\t최선의 손실: 0.124889\t정확도: 96.79%\n", - "5\t검증 세트 손실: 0.119037\t최선의 손실: 0.119037\t정확도: 96.87%\n", - "6\t검증 세트 손실: 0.109765\t최선의 손실: 0.109765\t정확도: 97.03%\n", - "7\t검증 세트 손실: 0.119925\t최선의 손실: 0.109765\t정확도: 96.76%\n", - "8\t검증 세트 손실: 0.108676\t최선의 손실: 0.108676\t정확도: 97.15%\n", - "9\t검증 세트 손실: 0.104914\t최선의 손실: 0.104914\t정확도: 96.99%\n", - "10\t검증 세트 손실: 0.107098\t최선의 손실: 0.104914\t정확도: 97.50%\n", - "11\t검증 세트 손실: 0.106003\t최선의 손실: 0.104914\t정확도: 97.50%\n", - "12\t검증 세트 손실: 0.095941\t최선의 손실: 0.095941\t정확도: 97.50%\n", - "13\t검증 세트 손실: 0.100579\t최선의 손실: 0.095941\t정확도: 97.62%\n", - "14\t검증 세트 손실: 0.131193\t최선의 손실: 0.095941\t정확도: 97.07%\n", - "15\t검증 세트 손실: 0.082981\t최선의 손실: 0.082981\t정확도: 97.85%\n", - "16\t검증 세트 손실: 0.091641\t최선의 손실: 0.082981\t정확도: 97.69%\n", - "17\t검증 세트 손실: 0.084437\t최선의 손실: 0.082981\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.100398\t최선의 손실: 0.082981\t정확도: 97.46%\n", - "19\t검증 세트 손실: 0.098047\t최선의 손실: 0.082981\t정확도: 97.93%\n", - "20\t검증 세트 손실: 0.101944\t최선의 손실: 0.082981\t정확도: 97.69%\n", - "21\t검증 세트 손실: 0.093215\t최선의 손실: 0.082981\t정확도: 97.62%\n", - "22\t검증 세트 손실: 0.093235\t최선의 손실: 0.082981\t정확도: 97.50%\n", - "23\t검증 세트 손실: 0.084818\t최선의 손실: 0.082981\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.094919\t최선의 손실: 0.082981\t정확도: 98.01%\n", - "25\t검증 세트 손실: 0.095856\t최선의 손실: 0.082981\t정확도: 97.81%\n", - "26\t검증 세트 손실: 0.109810\t최선의 손실: 0.082981\t정확도: 97.77%\n", - "27\t검증 세트 손실: 0.103441\t최선의 손실: 0.082981\t정확도: 97.42%\n", - "28\t검증 세트 손실: 0.089491\t최선의 손실: 0.082981\t정확도: 97.89%\n", - "29\t검증 세트 손실: 0.093624\t최선의 손실: 0.082981\t정확도: 97.73%\n", - "30\t검증 세트 손실: 0.097720\t최선의 손실: 0.082981\t정확도: 97.77%\n", - "31\t검증 세트 손실: 0.093149\t최선의 손실: 0.082981\t정확도: 97.93%\n", - "32\t검증 세트 손실: 0.095089\t최선의 손실: 0.082981\t정확도: 97.65%\n", - "33\t검증 세트 손실: 0.126067\t최선의 손실: 0.082981\t정확도: 97.34%\n", - "34\t검증 세트 손실: 0.106720\t최선의 손실: 0.082981\t정확도: 97.50%\n", - "35\t검증 세트 손실: 0.106553\t최선의 손실: 0.082981\t정확도: 97.65%\n", - "36\t검증 세트 손실: 0.102629\t최선의 손실: 0.082981\t정확도: 97.97%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.6s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.449711\t최선의 손실: 0.449711\t정확도: 86.16%\n", + "1\t검증 세트 손실: 0.206291\t최선의 손실: 0.206291\t정확도: 94.61%\n", + "2\t검증 세트 손실: 0.150518\t최선의 손실: 0.150518\t정확도: 96.29%\n", + "3\t검증 세트 손실: 0.111798\t최선의 손실: 0.111798\t정확도: 96.56%\n", + "4\t검증 세트 손실: 0.101663\t최선의 손실: 0.101663\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.100731\t최선의 손실: 0.100731\t정확도: 97.19%\n", + "6\t검증 세트 손실: 0.110078\t최선의 손실: 0.100731\t정확도: 96.72%\n", + "7\t검증 세트 손실: 0.096245\t최선의 손실: 0.096245\t정확도: 97.34%\n", + "8\t검증 세트 손실: 0.108747\t최선의 손실: 0.096245\t정확도: 96.76%\n", + "9\t검증 세트 손실: 0.091002\t최선의 손실: 0.091002\t정확도: 97.54%\n", + "10\t검증 세트 손실: 0.102599\t최선의 손실: 0.091002\t정확도: 97.03%\n", + "11\t검증 세트 손실: 0.091818\t최선의 손실: 0.091002\t정확도: 97.30%\n", + "12\t검증 세트 손실: 0.083556\t최선의 손실: 0.083556\t정확도: 97.50%\n", + "13\t검증 세트 손실: 0.104689\t최선의 손실: 0.083556\t정확도: 97.42%\n", + "14\t검증 세트 손실: 0.108038\t최선의 손실: 0.083556\t정확도: 97.30%\n", + "15\t검증 세트 손실: 0.111717\t최선의 손실: 0.083556\t정확도: 97.62%\n", + "16\t검증 세트 손실: 0.095397\t최선의 손실: 0.083556\t정확도: 97.54%\n", + "17\t검증 세트 손실: 0.089894\t최선의 손실: 0.083556\t정확도: 97.50%\n", + "18\t검증 세트 손실: 0.094817\t최선의 손실: 0.083556\t정확도: 97.46%\n", + "19\t검증 세트 손실: 0.082387\t최선의 손실: 0.082387\t정확도: 98.01%\n", + "20\t검증 세트 손실: 0.103198\t최선의 손실: 0.082387\t정확도: 97.85%\n", + "21\t검증 세트 손실: 0.084987\t최선의 손실: 0.082387\t정확도: 97.81%\n", + "22\t검증 세트 손실: 0.112272\t최선의 손실: 0.082387\t정확도: 97.73%\n", + "23\t검증 세트 손실: 0.112451\t최선의 손실: 0.082387\t정확도: 98.32%\n", + "24\t검증 세트 손실: 0.085709\t최선의 손실: 0.082387\t정확도: 98.08%\n", + "25\t검증 세트 손실: 0.094987\t최선의 손실: 0.082387\t정확도: 97.69%\n", + "26\t검증 세트 손실: 0.100797\t최선의 손실: 0.082387\t정확도: 97.89%\n", + "27\t검증 세트 손실: 0.102285\t최선의 손실: 0.082387\t정확도: 97.93%\n", + "28\t검증 세트 손실: 0.106833\t최선의 손실: 0.082387\t정확도: 97.77%\n", + "29\t검증 세트 손실: 0.116162\t최선의 손실: 0.082387\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.101598\t최선의 손실: 0.082387\t정확도: 98.05%\n", + "31\t검증 세트 손실: 0.115320\t최선의 손실: 0.082387\t정확도: 98.01%\n", + "32\t검증 세트 손실: 0.105256\t최선의 손실: 0.082387\t정확도: 97.89%\n", + "33\t검증 세트 손실: 0.109465\t최선의 손실: 0.082387\t정확도: 97.54%\n", + "34\t검증 세트 손실: 0.102984\t최선의 손실: 0.082387\t정확도: 97.89%\n", + "35\t검증 세트 손실: 0.120498\t최선의 손실: 0.082387\t정확도: 97.69%\n", + "36\t검증 세트 손실: 0.106008\t최선의 손실: 0.082387\t정확도: 97.81%\n", + "37\t검증 세트 손실: 0.100618\t최선의 손실: 0.082387\t정확도: 98.05%\n", + "38\t검증 세트 손실: 0.110631\t최선의 손실: 0.082387\t정확도: 98.08%\n", + "39\t검증 세트 손실: 0.121442\t최선의 손실: 0.082387\t정확도: 97.97%\n", + "40\t검증 세트 손실: 0.128497\t최선의 손실: 0.082387\t정확도: 98.08%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=10, total= 3.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.087686\t최선의 손실: 0.087686\t정확도: 97.38%\n", - "1\t검증 세트 손실: 0.085174\t최선의 손실: 0.085174\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.085704\t최선의 손실: 0.085174\t정확도: 97.62%\n", - "3\t검증 세트 손실: 0.092375\t최선의 손실: 0.085174\t정확도: 97.38%\n", - "4\t검증 세트 손실: 0.063319\t최선의 손실: 0.063319\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.094933\t최선의 손실: 0.063319\t정확도: 97.62%\n", - "6\t검증 세트 손실: 0.102323\t최선의 손실: 0.063319\t정확도: 97.81%\n", - "7\t검증 세트 손실: 0.136986\t최선의 손실: 0.063319\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.217947\t최선의 손실: 0.063319\t정확도: 94.53%\n", - "9\t검증 세트 손실: 1.658626\t최선의 손실: 0.063319\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.649404\t최선의 손실: 0.063319\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.662151\t최선의 손실: 0.063319\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.612890\t최선의 손실: 0.063319\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.614011\t최선의 손실: 0.063319\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.642151\t최선의 손실: 0.063319\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.623434\t최선의 손실: 0.063319\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.641410\t최선의 손실: 0.063319\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.651077\t최선의 손실: 0.063319\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.664958\t최선의 손실: 0.063319\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.621747\t최선의 손실: 0.063319\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.648838\t최선의 손실: 0.063319\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.653800\t최선의 손실: 0.063319\t정확도: 19.08%\n", - "22\t검증 세트 손실: 1.613054\t최선의 손실: 0.063319\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.621140\t최선의 손실: 0.063319\t정확도: 19.08%\n", - "24\t검증 세트 손실: 1.654621\t최선의 손실: 0.063319\t정확도: 19.27%\n", - "25\t검증 세트 손실: 1.664644\t최선의 손실: 0.063319\t정확도: 22.01%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 3.3s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.090051\t최선의 손실: 0.090051\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.125896\t최선의 손실: 0.090051\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.071641\t최선의 손실: 0.071641\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.078671\t최선의 손실: 0.071641\t정확도: 97.93%\n", + "4\t검증 세트 손실: 0.085015\t최선의 손실: 0.071641\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.114887\t최선의 손실: 0.071641\t정확도: 96.95%\n", + "6\t검증 세트 손실: 1.622398\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.642126\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.660181\t최선의 손실: 0.071641\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.699606\t최선의 손실: 0.071641\t정확도: 18.73%\n", + "10\t검증 세트 손실: 1.626515\t최선의 손실: 0.071641\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.620846\t최선의 손실: 0.071641\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.634866\t최선의 손실: 0.071641\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.613058\t최선의 손실: 0.071641\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.635746\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.616353\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.625894\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.653132\t최선의 손실: 0.071641\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.678430\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.625359\t최선의 손실: 0.071641\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.655281\t최선의 손실: 0.071641\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.664002\t최선의 손실: 0.071641\t정확도: 19.08%\n", + "22\t검증 세트 손실: 1.618428\t최선의 손실: 0.071641\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.618948\t최선의 손실: 0.071641\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70, total= 5.1s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.100504\t최선의 손실: 0.100504\t정확도: 97.34%\n", - "1\t검증 세트 손실: 0.077670\t최선의 손실: 0.077670\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.070908\t최선의 손실: 0.070908\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.080686\t최선의 손실: 0.070908\t정확도: 97.77%\n" + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=, total= 4.6s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.133975\t최선의 손실: 0.133975\t정확도: 96.76%\n", + "1\t검증 세트 손실: 0.092086\t최선의 손실: 0.092086\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.073541\t최선의 손실: 0.073541\t정확도: 97.69%\n", + "3\t검증 세트 손실: 0.140796\t최선의 손실: 0.073541\t정확도: 97.03%\n", + "4\t검증 세트 손실: 0.078212\t최선의 손실: 0.073541\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.791980\t최선의 손실: 0.073541\t정확도: 80.34%\n", + "6\t검증 세트 손실: 1.260657\t최선의 손실: 0.073541\t정확도: 39.05%\n", + "7\t검증 세트 손실: 1.193803\t최선의 손실: 0.073541\t정확도: 39.25%\n", + "8\t검증 세트 손실: 1.186691\t최선의 손실: 0.073541\t정확도: 39.17%\n", + "9\t검증 세트 손실: 0.916426\t최선의 손실: 0.073541\t정확도: 57.70%\n", + "10\t검증 세트 손실: 0.791000\t최선의 손실: 0.073541\t정확도: 61.26%\n", + "11\t검증 세트 손실: 0.382466\t최선의 손실: 0.073541\t정확도: 90.46%\n", + "12\t검증 세트 손실: 0.481834\t최선의 손실: 0.073541\t정확도: 84.87%\n", + "13\t검증 세트 손실: 0.259065\t최선의 손실: 0.073541\t정확도: 96.91%\n", + "14\t검증 세트 손실: 0.239519\t최선의 손실: 0.073541\t정확도: 97.15%\n", + "15\t검증 세트 손실: 0.290558\t최선의 손실: 0.073541\t정확도: 96.40%\n", + "16\t검증 세트 손실: 0.435863\t최선의 손실: 0.073541\t정확도: 96.95%\n", + "17\t검증 세트 손실: 0.386246\t최선의 손실: 0.073541\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.517636\t최선의 손실: 0.073541\t정확도: 97.77%\n", + "19\t검증 세트 손실: 0.528356\t최선의 손실: 0.073541\t정확도: 97.30%\n", + "20\t검증 세트 손실: 0.951219\t최선의 손실: 0.073541\t정확도: 57.39%\n", + "21\t검증 세트 손실: 0.237064\t최선의 손실: 0.073541\t정확도: 96.48%\n", + "22\t검증 세트 손실: 0.689859\t최선의 손실: 0.073541\t정확도: 79.67%\n", + "23\t검증 세트 손실: 0.423659\t최선의 손실: 0.073541\t정확도: 95.00%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=, total= 4.6s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.111131\t최선의 손실: 0.111131\t정확도: 97.58%\n", + "1\t검증 세트 손실: 0.140523\t최선의 손실: 0.111131\t정확도: 96.40%\n", + "2\t검증 세트 손실: 0.091042\t최선의 손실: 0.091042\t정확도: 98.05%\n", + "3\t검증 세트 손실: 0.409256\t최선의 손실: 0.091042\t정확도: 91.91%\n", + "4\t검증 세트 손실: 0.134400\t최선의 손실: 0.091042\t정확도: 96.72%\n", + "5\t검증 세트 손실: 0.203951\t최선의 손실: 0.091042\t정확도: 95.62%\n", + "6\t검증 세트 손실: 0.078455\t최선의 손실: 0.078455\t정확도: 97.97%\n", + "7\t검증 세트 손실: 0.076830\t최선의 손실: 0.076830\t정확도: 98.01%\n", + "8\t검증 세트 손실: 0.082008\t최선의 손실: 0.076830\t정확도: 97.97%\n", + "9\t검증 세트 손실: 0.083154\t최선의 손실: 0.076830\t정확도: 97.81%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "4\t검증 세트 손실: 0.092688\t최선의 손실: 0.070908\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.065849\t최선의 손실: 0.065849\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.049691\t최선의 손실: 0.049691\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.083899\t최선의 손실: 0.049691\t정확도: 97.77%\n", - "8\t검증 세트 손실: 0.128899\t최선의 손실: 0.049691\t정확도: 97.97%\n", - "9\t검증 세트 손실: 1.060302\t최선의 손실: 0.049691\t정확도: 77.25%\n", - "10\t검증 세트 손실: 1.609462\t최선의 손실: 0.049691\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.622200\t최선의 손실: 0.049691\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.622142\t최선의 손실: 0.049691\t정확도: 19.27%\n", - "13\t검증 세트 손실: 1.638234\t최선의 손실: 0.049691\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.632090\t최선의 손실: 0.049691\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.627630\t최선의 손실: 0.049691\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.631667\t최선의 손실: 0.049691\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.652224\t최선의 손실: 0.049691\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.670237\t최선의 손실: 0.049691\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.639060\t최선의 손실: 0.049691\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.627109\t최선의 손실: 0.049691\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.689527\t최선의 손실: 0.049691\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.646617\t최선의 손실: 0.049691\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.669662\t최선의 손실: 0.049691\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.732146\t최선의 손실: 0.049691\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.637256\t최선의 손실: 0.049691\t정확도: 18.73%\n", - "26\t검증 세트 손실: 1.623066\t최선의 손실: 0.049691\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.644380\t최선의 손실: 0.049691\t정확도: 19.27%\n", + "10\t검증 세트 손실: 0.339145\t최선의 손실: 0.076830\t정확도: 90.38%\n", + "11\t검증 세트 손실: 0.184452\t최선의 손실: 0.076830\t정확도: 96.64%\n", + "12\t검증 세트 손실: 0.241873\t최선의 손실: 0.076830\t정확도: 97.22%\n", + "13\t검증 세트 손실: 0.138889\t최선의 손실: 0.076830\t정확도: 97.81%\n", + "14\t검증 세트 손실: 1.782311\t최선의 손실: 0.076830\t정확도: 91.99%\n", + "15\t검증 세트 손실: 1.306362\t최선의 손실: 0.076830\t정확도: 40.46%\n", + "16\t검증 세트 손실: 1.249274\t최선의 손실: 0.076830\t정확도: 40.50%\n", + "17\t검증 세트 손실: 1.197800\t최선의 손실: 0.076830\t정확도: 39.80%\n", + "18\t검증 세트 손실: 1.170524\t최선의 손실: 0.076830\t정확도: 39.95%\n", + "19\t검증 세트 손실: 1.220467\t최선의 손실: 0.076830\t정확도: 40.81%\n", + "20\t검증 세트 손실: 11.920592\t최선의 손실: 0.076830\t정확도: 21.74%\n", + "21\t검증 세트 손실: 1.635217\t최선의 손실: 0.076830\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.620421\t최선의 손실: 0.076830\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.622377\t최선의 손실: 0.076830\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.612545\t최선의 손실: 0.076830\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.611172\t최선의 손실: 0.076830\t정확도: 19.27%\n", + "26\t검증 세트 손실: 1.617331\t최선의 손실: 0.076830\t정확도: 22.01%\n", + "27\t검증 세트 손실: 1.631931\t최선의 손실: 0.076830\t정확도: 18.73%\n", + "28\t검증 세트 손실: 1.627360\t최선의 손실: 0.076830\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70, total= 5.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.093523\t최선의 손실: 0.093523\t정확도: 98.08%\n", - "1\t검증 세트 손실: 0.082070\t최선의 손실: 0.082070\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.076321\t최선의 손실: 0.076321\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.069173\t최선의 손실: 0.069173\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.096466\t최선의 손실: 0.069173\t정확도: 97.69%\n", - "5\t검증 세트 손실: 0.136112\t최선의 손실: 0.069173\t정확도: 97.03%\n", - "6\t검증 세트 손실: 0.074059\t최선의 손실: 0.069173\t정확도: 98.01%\n", - "7\t검증 세트 손실: 0.348167\t최선의 손실: 0.069173\t정확도: 94.92%\n", - "8\t검증 세트 손실: 1.539912\t최선의 손실: 0.069173\t정확도: 22.09%\n", - "9\t검증 세트 손실: 1.222259\t최선의 손실: 0.069173\t정확도: 40.73%\n", - "10\t검증 세트 손실: 1.261736\t최선의 손실: 0.069173\t정확도: 40.62%\n", - "11\t검증 세트 손실: 1.172883\t최선의 손실: 0.069173\t정확도: 55.00%\n", - "12\t검증 세트 손실: 1.100172\t최선의 손실: 0.069173\t정확도: 49.73%\n", - "13\t검증 세트 손실: 1.174639\t최선의 손실: 0.069173\t정확도: 39.33%\n", - "14\t검증 세트 손실: 1.079120\t최선의 손실: 0.069173\t정확도: 50.39%\n", - "15\t검증 세트 손실: 4.192696\t최선의 손실: 0.069173\t정확도: 39.37%\n", - "16\t검증 세트 손실: 1.606188\t최선의 손실: 0.069173\t정확도: 23.30%\n", - "17\t검증 세트 손실: 1.523751\t최선의 손실: 0.069173\t정확도: 29.24%\n", - "18\t검증 세트 손실: 1.474042\t최선의 손실: 0.069173\t정확도: 39.56%\n", - "19\t검증 세트 손실: 1.298944\t최선의 손실: 0.069173\t정확도: 41.75%\n", - "20\t검증 세트 손실: 1.467899\t최선의 손실: 0.069173\t정확도: 40.54%\n", - "21\t검증 세트 손실: 1.353439\t최선의 손실: 0.069173\t정확도: 40.58%\n", - "22\t검증 세트 손실: 1.472696\t최선의 손실: 0.069173\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.710593\t최선의 손실: 0.069173\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.732331\t최선의 손실: 0.069173\t정확도: 20.91%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=, total= 5.5s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.115320\t최선의 손실: 0.115320\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.105610\t최선의 손실: 0.105610\t정확도: 97.50%\n", + "2\t검증 세트 손실: 0.101896\t최선의 손실: 0.101896\t정확도: 97.50%\n", + "3\t검증 세트 손실: 0.108447\t최선의 손실: 0.101896\t정확도: 97.11%\n", + "4\t검증 세트 손실: 0.225361\t최선의 손실: 0.101896\t정확도: 97.89%\n", + "5\t검증 세트 손실: 1.064858\t최선의 손실: 0.101896\t정확도: 92.49%\n", + "6\t검증 세트 손실: 0.551575\t최선의 손실: 0.101896\t정확도: 94.61%\n", + "7\t검증 세트 손실: 0.177807\t최선의 손실: 0.101896\t정확도: 96.17%\n", + "8\t검증 세트 손실: 0.119156\t최선의 손실: 0.101896\t정확도: 96.91%\n", + "9\t검증 세트 손실: 0.106570\t최선의 손실: 0.101896\t정확도: 97.07%\n", + "10\t검증 세트 손실: 0.129399\t최선의 손실: 0.101896\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.119200\t최선의 손실: 0.101896\t정확도: 97.07%\n", + "12\t검증 세트 손실: 0.095615\t최선의 손실: 0.095615\t정확도: 97.46%\n", + "13\t검증 세트 손실: 0.102706\t최선의 손실: 0.095615\t정확도: 97.58%\n", + "14\t검증 세트 손실: 0.117711\t최선의 손실: 0.095615\t정확도: 96.79%\n", + "15\t검증 세트 손실: 0.102822\t최선의 손실: 0.095615\t정확도: 97.58%\n", + "16\t검증 세트 손실: 0.157338\t최선의 손실: 0.095615\t정확도: 96.91%\n", + "17\t검증 세트 손실: 0.094928\t최선의 손실: 0.094928\t정확도: 97.46%\n", + "18\t검증 세트 손실: 0.091246\t최선의 손실: 0.091246\t정확도: 97.54%\n", + "19\t검증 세트 손실: 0.109092\t최선의 손실: 0.091246\t정확도: 97.62%\n", + "20\t검증 세트 손실: 0.082878\t최선의 손실: 0.082878\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.093470\t최선의 손실: 0.082878\t정확도: 97.89%\n", + "22\t검증 세트 손실: 0.095079\t최선의 손실: 0.082878\t정확도: 98.01%\n", + "23\t검증 세트 손실: 0.112285\t최선의 손실: 0.082878\t정확도: 97.85%\n", + "24\t검증 세트 손실: 0.178403\t최선의 손실: 0.082878\t정확도: 97.34%\n", + "25\t검증 세트 손실: 0.101206\t최선의 손실: 0.082878\t정확도: 97.93%\n", + "26\t검증 세트 손실: 0.634539\t최선의 손실: 0.082878\t정확도: 86.98%\n", + "27\t검증 세트 손실: 2.165388\t최선의 손실: 0.082878\t정확도: 94.88%\n", + "28\t검증 세트 손실: 1.125070\t최선의 손실: 0.082878\t정확도: 96.95%\n", + "29\t검증 세트 손실: 1.356247\t최선의 손실: 0.082878\t정확도: 96.60%\n", + "30\t검증 세트 손실: 1.015308\t최선의 손실: 0.082878\t정확도: 96.83%\n", + "31\t검증 세트 손실: 1.018505\t최선의 손실: 0.082878\t정확도: 96.44%\n", + "32\t검증 세트 손실: 1.142223\t최선의 손실: 0.082878\t정확도: 95.31%\n", + "33\t검증 세트 손실: 0.938949\t최선의 손실: 0.082878\t정확도: 97.07%\n", + "34\t검증 세트 손실: 0.982100\t최선의 손실: 0.082878\t정확도: 95.19%\n", + "35\t검증 세트 손실: 0.829419\t최선의 손실: 0.082878\t정확도: 97.22%\n", + "36\t검증 세트 손실: 0.846604\t최선의 손실: 0.082878\t정확도: 97.03%\n", + "37\t검증 세트 손실: 0.732430\t최선의 손실: 0.082878\t정확도: 96.68%\n", + "38\t검증 세트 손실: 0.630380\t최선의 손실: 0.082878\t정확도: 96.87%\n", + "39\t검증 세트 손실: 0.714867\t최선의 손실: 0.082878\t정확도: 97.26%\n", + "40\t검증 세트 손실: 0.692232\t최선의 손실: 0.082878\t정확도: 97.38%\n", + "41\t검증 세트 손실: 1.909281\t최선의 손실: 0.082878\t정확도: 97.46%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=70, total= 4.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.101146\t최선의 손실: 0.101146\t정확도: 97.07%\n", - "1\t검증 세트 손실: 0.130169\t최선의 손실: 0.101146\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.100457\t최선의 손실: 0.100457\t정확도: 97.34%\n", - "3\t검증 세트 손실: 0.117355\t최선의 손실: 0.100457\t정확도: 96.17%\n", - "4\t검증 세트 손실: 0.081583\t최선의 손실: 0.081583\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.096482\t최선의 손실: 0.081583\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.091361\t최선의 손실: 0.081583\t정확도: 97.69%\n", - "7\t검증 세트 손실: 0.094196\t최선의 손실: 0.081583\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.107934\t최선의 손실: 0.081583\t정확도: 98.20%\n", - "9\t검증 세트 손실: 8.287700\t최선의 손실: 0.081583\t정확도: 73.85%\n", - "10\t검증 세트 손실: 0.173934\t최선의 손실: 0.081583\t정확도: 95.93%\n", - "11\t검증 세트 손실: 0.176870\t최선의 손실: 0.081583\t정확도: 95.54%\n", - "12\t검증 세트 손실: 0.125311\t최선의 손실: 0.081583\t정확도: 96.95%\n", - "13\t검증 세트 손실: 0.124417\t최선의 손실: 0.081583\t정확도: 96.76%\n", - "14\t검증 세트 손실: 0.127395\t최선의 손실: 0.081583\t정확도: 96.76%\n", - "15\t검증 세트 손실: 0.116030\t최선의 손실: 0.081583\t정확도: 97.15%\n", - "16\t검증 세트 손실: 0.108955\t최선의 손실: 0.081583\t정확도: 97.38%\n", - "17\t검증 세트 손실: 0.116104\t최선의 손실: 0.081583\t정확도: 96.68%\n", - "18\t검증 세트 손실: 0.105036\t최선의 손실: 0.081583\t정확도: 97.15%\n", - "19\t검증 세트 손실: 0.122407\t최선의 손실: 0.081583\t정확도: 96.95%\n", - "20\t검증 세트 손실: 0.102630\t최선의 손실: 0.081583\t정확도: 97.46%\n", - "21\t검증 세트 손실: 0.098233\t최선의 손실: 0.081583\t정확도: 97.50%\n", - "22\t검증 세트 손실: 0.264302\t최선의 손실: 0.081583\t정확도: 94.06%\n", - "23\t검증 세트 손실: 0.126336\t최선의 손실: 0.081583\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.121883\t최선의 손실: 0.081583\t정확도: 96.68%\n", - "25\t검증 세트 손실: 0.104375\t최선의 손실: 0.081583\t정확도: 97.03%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 10.1s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.166566\t최선의 손실: 0.166566\t정확도: 95.07%\n", + "1\t검증 세트 손실: 0.084577\t최선의 손실: 0.084577\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.087831\t최선의 손실: 0.084577\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.101132\t최선의 손실: 0.084577\t정확도: 96.87%\n", + "4\t검증 세트 손실: 0.178631\t최선의 손실: 0.084577\t정확도: 95.70%\n", + "5\t검증 세트 손실: 0.180296\t최선의 손실: 0.084577\t정확도: 95.11%\n", + "6\t검증 세트 손실: 0.113258\t최선의 손실: 0.084577\t정확도: 97.58%\n", + "7\t검증 세트 손실: 0.087188\t최선의 손실: 0.084577\t정확도: 97.77%\n", + "8\t검증 세트 손실: 0.174949\t최선의 손실: 0.084577\t정확도: 97.03%\n", + "9\t검증 세트 손실: 0.130270\t최선의 손실: 0.084577\t정확도: 97.42%\n", + "10\t검증 세트 손실: 0.092845\t최선의 손실: 0.084577\t정확도: 97.85%\n", + "11\t검증 세트 손실: 0.152355\t최선의 손실: 0.084577\t정확도: 97.62%\n", + "12\t검증 세트 손실: 0.079381\t최선의 손실: 0.079381\t정확도: 97.73%\n", + "13\t검증 세트 손실: 0.092250\t최선의 손실: 0.079381\t정확도: 97.50%\n", + "14\t검증 세트 손실: 0.092472\t최선의 손실: 0.079381\t정확도: 97.81%\n", + "15\t검증 세트 손실: 0.091784\t최선의 손실: 0.079381\t정확도: 97.73%\n", + "16\t검증 세트 손실: 0.118164\t최선의 손실: 0.079381\t정확도: 96.64%\n", + "17\t검증 세트 손실: 0.156859\t최선의 손실: 0.079381\t정확도: 97.54%\n", + "18\t검증 세트 손실: 0.185290\t최선의 손실: 0.079381\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.132094\t최선의 손실: 0.079381\t정확도: 96.76%\n", + "20\t검증 세트 손실: 15.870738\t최선의 손실: 0.079381\t정확도: 71.62%\n", + "21\t검증 세트 손실: 1.624847\t최선의 손실: 0.079381\t정확도: 93.67%\n", + "22\t검증 세트 손실: 0.543928\t최선의 손실: 0.079381\t정확도: 95.04%\n", + "23\t검증 세트 손실: 0.400509\t최선의 손실: 0.079381\t정확도: 95.93%\n", + "24\t검증 세트 손실: 0.385092\t최선의 손실: 0.079381\t정확도: 96.79%\n", + "25\t검증 세트 손실: 0.591314\t최선의 손실: 0.079381\t정확도: 95.00%\n", + "26\t검증 세트 손실: 0.277137\t최선의 손실: 0.079381\t정확도: 95.74%\n", + "27\t검증 세트 손실: 0.274085\t최선의 손실: 0.079381\t정확도: 97.26%\n", + "28\t검증 세트 손실: 0.219691\t최선의 손실: 0.079381\t정확도: 96.91%\n", + "29\t검증 세트 손실: 0.192557\t최선의 손실: 0.079381\t정확도: 97.11%\n", + "30\t검증 세트 손실: 0.215839\t최선의 손실: 0.079381\t정확도: 96.48%\n", + "31\t검증 세트 손실: 0.449596\t최선의 손실: 0.079381\t정확도: 96.48%\n", + "32\t검증 세트 손실: 0.250466\t최선의 손실: 0.079381\t정확도: 97.58%\n", + "33\t검증 세트 손실: 0.284155\t최선의 손실: 0.079381\t정확도: 97.46%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30, total= 6.7s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.124405\t최선의 손실: 0.124405\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.110886\t최선의 손실: 0.110886\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.082193\t최선의 손실: 0.082193\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.139313\t최선의 손실: 0.082193\t정확도: 95.97%\n", - "4\t검증 세트 손실: 0.070937\t최선의 손실: 0.070937\t정확도: 98.16%\n", - "5\t검증 세트 손실: 0.185676\t최선의 손실: 0.070937\t정확도: 96.44%\n", - "6\t검증 세트 손실: 0.092606\t최선의 손실: 0.070937\t정확도: 97.65%\n", - "7\t검증 세트 손실: 0.091678\t최선의 손실: 0.070937\t정확도: 97.93%\n", - "8\t검증 세트 손실: 0.106870\t최선의 손실: 0.070937\t정확도: 97.50%\n", - "9\t검증 세트 손실: 0.084350\t최선의 손실: 0.070937\t정확도: 97.97%\n", - "10\t검증 세트 손실: 0.201747\t최선의 손실: 0.070937\t정확도: 97.26%\n", - "11\t검증 세트 손실: 0.259863\t최선의 손실: 0.070937\t정확도: 97.54%\n", - "12\t검증 세트 손실: 0.267050\t최선의 손실: 0.070937\t정확도: 95.39%\n", - "13\t검증 세트 손실: 0.157687\t최선의 손실: 0.070937\t정확도: 96.56%\n", - "14\t검증 세트 손실: 0.112575\t최선의 손실: 0.070937\t정확도: 97.34%\n", - "15\t검증 세트 손실: 0.111127\t최선의 손실: 0.070937\t정확도: 97.62%\n", - "16\t검증 세트 손실: 0.127304\t최선의 손실: 0.070937\t정확도: 97.19%\n", - "17\t검증 세트 손실: 0.223683\t최선의 손실: 0.070937\t정확도: 97.62%\n", - "18\t검증 세트 손실: 0.120968\t최선의 손실: 0.070937\t정확도: 97.65%\n", - "19\t검증 세트 손실: 0.122463\t최선의 손실: 0.070937\t정확도: 97.46%\n", - "20\t검증 세트 손실: 0.133595\t최선의 손실: 0.070937\t정확도: 97.93%\n", - "21\t검증 세트 손실: 0.152281\t최선의 손실: 0.070937\t정확도: 97.69%\n", - "22\t검증 세트 손실: 0.185707\t최선의 손실: 0.070937\t정확도: 97.46%\n", - "23\t검증 세트 손실: 0.198358\t최선의 손실: 0.070937\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.118452\t최선의 손실: 0.070937\t정확도: 97.93%\n", - "25\t검증 세트 손실: 0.122375\t최선의 손실: 0.070937\t정확도: 97.19%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 8.5s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.110775\t최선의 손실: 0.110775\t정확도: 97.07%\n", + "1\t검증 세트 손실: 0.091545\t최선의 손실: 0.091545\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.076415\t최선의 손실: 0.076415\t정확도: 97.62%\n", + "3\t검증 세트 손실: 0.097845\t최선의 손실: 0.076415\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.284110\t최선의 손실: 0.076415\t정확도: 92.34%\n", + "5\t검증 세트 손실: 0.157096\t최선의 손실: 0.076415\t정확도: 95.00%\n", + "6\t검증 세트 손실: 0.160971\t최선의 손실: 0.076415\t정확도: 96.36%\n", + "7\t검증 세트 손실: 0.125431\t최선의 손실: 0.076415\t정확도: 97.03%\n", + "8\t검증 세트 손실: 0.127129\t최선의 손실: 0.076415\t정확도: 96.91%\n", + "9\t검증 세트 손실: 0.119397\t최선의 손실: 0.076415\t정확도: 96.91%\n", + "10\t검증 세트 손실: 0.114274\t최선의 손실: 0.076415\t정확도: 97.69%\n", + "11\t검증 세트 손실: 0.103886\t최선의 손실: 0.076415\t정확도: 97.97%\n", + "12\t검증 세트 손실: 0.144957\t최선의 손실: 0.076415\t정확도: 96.91%\n", + "13\t검증 세트 손실: 0.102793\t최선의 손실: 0.076415\t정확도: 97.65%\n", + "14\t검증 세트 손실: 0.096654\t최선의 손실: 0.076415\t정확도: 97.97%\n", + "15\t검증 세트 손실: 0.116030\t최선의 손실: 0.076415\t정확도: 97.89%\n", + "16\t검증 세트 손실: 0.090449\t최선의 손실: 0.076415\t정확도: 98.16%\n", + "17\t검증 세트 손실: 0.094354\t최선의 손실: 0.076415\t정확도: 98.05%\n", + "18\t검증 세트 손실: 0.177421\t최선의 손실: 0.076415\t정확도: 97.07%\n", + "19\t검증 세트 손실: 0.106591\t최선의 손실: 0.076415\t정확도: 97.62%\n", + "20\t검증 세트 손실: 0.215558\t최선의 손실: 0.076415\t정확도: 97.38%\n", + "21\t검증 세트 손실: 0.164490\t최선의 손실: 0.076415\t정확도: 97.69%\n", + "22\t검증 세트 손실: 0.155087\t최선의 손실: 0.076415\t정확도: 96.68%\n", + "23\t검증 세트 손실: 0.254224\t최선의 손실: 0.076415\t정확도: 96.21%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30, total= 7.0s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.106767\t최선의 손실: 0.106767\t정확도: 96.79%\n", - "1\t검증 세트 손실: 0.094559\t최선의 손실: 0.094559\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.114843\t최선의 손실: 0.094559\t정확도: 96.40%\n", - "3\t검증 세트 손실: 0.124342\t최선의 손실: 0.094559\t정확도: 97.22%\n", - "4\t검증 세트 손실: 0.095788\t최선의 손실: 0.094559\t정확도: 97.46%\n", - "5\t검증 세트 손실: 0.115398\t최선의 손실: 0.094559\t정확도: 97.77%\n", - "6\t검증 세트 손실: 0.126915\t최선의 손실: 0.094559\t정확도: 97.69%\n", - "7\t검증 세트 손실: 0.142426\t최선의 손실: 0.094559\t정확도: 97.42%\n", - "8\t검증 세트 손실: 0.668274\t최선의 손실: 0.094559\t정확도: 86.24%\n", - "9\t검증 세트 손실: 0.345686\t최선의 손실: 0.094559\t정확도: 90.77%\n", - "10\t검증 세트 손실: 0.282065\t최선의 손실: 0.094559\t정확도: 94.96%\n", - "11\t검증 세트 손실: 0.296174\t최선의 손실: 0.094559\t정확도: 95.31%\n", - "12\t검증 세트 손실: 0.250170\t최선의 손실: 0.094559\t정확도: 95.50%\n", - "13\t검증 세트 손실: 0.230425\t최선의 손실: 0.094559\t정확도: 97.15%\n", - "14\t검증 세트 손실: 0.257916\t최선의 손실: 0.094559\t정확도: 96.95%\n", - "15\t검증 세트 손실: 0.225920\t최선의 손실: 0.094559\t정확도: 97.62%\n", - "16\t검증 세트 손실: 0.257288\t최선의 손실: 0.094559\t정확도: 97.46%\n", - "17\t검증 세트 손실: 0.233440\t최선의 손실: 0.094559\t정확도: 97.30%\n", - "18\t검증 세트 손실: 0.234715\t최선의 손실: 0.094559\t정확도: 97.34%\n", - "19\t검증 세트 손실: 0.293865\t최선의 손실: 0.094559\t정확도: 95.74%\n", - "20\t검증 세트 손실: 0.303360\t최선의 손실: 0.094559\t정확도: 97.03%\n", - "21\t검증 세트 손실: 0.286693\t최선의 손실: 0.094559\t정확도: 97.38%\n", - "22\t검증 세트 손실: 0.283414\t최선의 손실: 0.094559\t정확도: 97.62%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=30, total= 6.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 2.072199\t최선의 손실: 2.072199\t정확도: 18.73%\n", - "1\t검증 세트 손실: 2.129733\t최선의 손실: 2.072199\t정확도: 18.73%\n", - "2\t검증 세트 손실: 2.579006\t최선의 손실: 2.072199\t정확도: 18.73%\n", - "3\t검증 세트 손실: 3.483662\t최선의 손실: 2.072199\t정확도: 22.01%\n", - "4\t검증 세트 손실: 2.872097\t최선의 손실: 2.072199\t정확도: 19.27%\n", - "5\t검증 세트 손실: 3.209298\t최선의 손실: 2.072199\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.687177\t최선의 손실: 2.072199\t정확도: 18.73%\n", - "7\t검증 세트 손실: 2.489157\t최선의 손실: 2.072199\t정확도: 20.91%\n", - "8\t검증 세트 손실: 2.409631\t최선의 손실: 2.072199\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2.627393\t최선의 손실: 2.072199\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.897247\t최선의 손실: 1.897247\t정확도: 20.91%\n", - "11\t검증 세트 손실: 2.330847\t최선의 손실: 1.897247\t정확도: 18.73%\n" + "[CV] n_neurons=30, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 6.2s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 2.134486\t최선의 손실: 2.134486\t정확도: 19.27%\n", + "1\t검증 세트 손실: 2.090878\t최선의 손실: 2.090878\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.891054\t최선의 손실: 1.891054\t정확도: 19.27%\n", + "3\t검증 세트 손실: 2.303475\t최선의 손실: 1.891054\t정확도: 20.91%\n", + "4\t검증 세트 손실: 2.776111\t최선의 손실: 1.891054\t정확도: 18.73%\n", + "5\t검증 세트 손실: 2.107796\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "6\t검증 세트 손실: 2.162728\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "7\t검증 세트 손실: 2.129625\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "8\t검증 세트 손실: 2.068625\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2.602445\t최선의 손실: 1.891054\t정확도: 22.01%\n", + "10\t검증 세트 손실: 3.035887\t최선의 손실: 1.891054\t정확도: 20.91%\n", + "11\t검증 세트 손실: 2.814160\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "12\t검증 세트 손실: 3.081405\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "13\t검증 세트 손실: 2.477942\t최선의 손실: 1.891054\t정확도: 19.27%\n", + "14\t검증 세트 손실: 3.442586\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "15\t검증 세트 손실: 2.468257\t최선의 손실: 1.891054\t정확도: 22.01%\n", + "16\t검증 세트 손실: 2.971954\t최선의 손실: 1.891054\t정확도: 22.01%\n", + "17\t검증 세트 손실: 2.829055\t최선의 손실: 1.891054\t정확도: 19.08%\n", + "18\t검증 세트 손실: 4.552179\t최선의 손실: 1.891054\t정확도: 22.01%\n", + "19\t검증 세트 손실: 4.115952\t최선의 손실: 1.891054\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.311123\t최선의 손실: 1.891054\t정확도: 20.91%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "12\t검증 세트 손실: 2.193029\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "13\t검증 세트 손실: 2.432747\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "14\t검증 세트 손실: 2.763578\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "15\t검증 세트 손실: 2.097944\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "16\t검증 세트 손실: 3.267366\t최선의 손실: 1.897247\t정확도: 20.91%\n", - "17\t검증 세트 손실: 2.947588\t최선의 손실: 1.897247\t정확도: 20.91%\n", - "18\t검증 세트 손실: 3.994301\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "19\t검증 세트 손실: 4.488717\t최선의 손실: 1.897247\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.885106\t최선의 손실: 1.897247\t정확도: 20.91%\n", - "21\t검증 세트 손실: 2.420197\t최선의 손실: 1.897247\t정확도: 20.91%\n", - "22\t검증 세트 손실: 1.643378\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.877509\t최선의 손실: 1.643378\t정확도: 19.08%\n", - "24\t검증 세트 손실: 2.305290\t최선의 손실: 1.643378\t정확도: 20.91%\n", - "25\t검증 세트 손실: 2.186714\t최선의 손실: 1.643378\t정확도: 19.08%\n", - "26\t검증 세트 손실: 2.791283\t최선의 손실: 1.643378\t정확도: 20.91%\n", - "27\t검증 세트 손실: 3.082478\t최선의 손실: 1.643378\t정확도: 22.01%\n", - "28\t검증 세트 손실: 3.760586\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "29\t검증 세트 손실: 3.059407\t최선의 손실: 1.643378\t정확도: 19.08%\n", - "30\t검증 세트 손실: 2.367162\t최선의 손실: 1.643378\t정확도: 22.01%\n", - "31\t검증 세트 손실: 2.324404\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "32\t검증 세트 손실: 2.482554\t최선의 손실: 1.643378\t정확도: 22.01%\n", - "33\t검증 세트 손실: 1.772722\t최선의 손실: 1.643378\t정확도: 19.27%\n", - "34\t검증 세트 손실: 1.831538\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "35\t검증 세트 손실: 3.448979\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "36\t검증 세트 손실: 2.424606\t최선의 손실: 1.643378\t정확도: 20.91%\n", - "37\t검증 세트 손실: 3.191264\t최선의 손실: 1.643378\t정확도: 20.91%\n", - "38\t검증 세트 손실: 2.796863\t최선의 손실: 1.643378\t정확도: 18.73%\n", - "39\t검증 세트 손실: 3.745407\t최선의 손실: 1.643378\t정확도: 19.27%\n", - "40\t검증 세트 손실: 2.954590\t최선의 손실: 1.643378\t정확도: 22.01%\n", - "41\t검증 세트 손실: 2.808969\t최선의 손실: 1.643378\t정확도: 19.27%\n", - "42\t검증 세트 손실: 3.376358\t최선의 손실: 1.643378\t정확도: 19.27%\n", - "43\t검증 세트 손실: 4.511799\t최선의 손실: 1.643378\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.888340\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "22\t검증 세트 손실: 2.116916\t최선의 손실: 1.888340\t정확도: 18.73%\n", + "23\t검증 세트 손실: 2.677225\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "24\t검증 세트 손실: 2.022904\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "25\t검증 세트 손실: 2.365452\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "26\t검증 세트 손실: 2.467832\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "27\t검증 세트 손실: 2.920141\t최선의 손실: 1.888340\t정확도: 22.01%\n", + "28\t검증 세트 손실: 3.466130\t최선의 손실: 1.888340\t정확도: 18.73%\n", + "29\t검증 세트 손실: 3.116055\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "30\t검증 세트 손실: 2.696852\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "31\t검증 세트 손실: 4.021483\t최선의 손실: 1.888340\t정확도: 20.91%\n", + "32\t검증 세트 손실: 2.023797\t최선의 손실: 1.888340\t정확도: 22.01%\n", + "33\t검증 세트 손실: 1.927966\t최선의 손실: 1.888340\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.779144\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "35\t검증 세트 손실: 1.938990\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "36\t검증 세트 손실: 3.445485\t최선의 손실: 1.779144\t정확도: 22.01%\n", + "37\t검증 세트 손실: 2.462154\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "38\t검증 세트 손실: 3.019720\t최선의 손실: 1.779144\t정확도: 19.08%\n", + "39\t검증 세트 손실: 2.398113\t최선의 손실: 1.779144\t정확도: 19.08%\n", + "40\t검증 세트 손실: 2.920436\t최선의 손실: 1.779144\t정확도: 22.01%\n", + "41\t검증 세트 손실: 3.007389\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "42\t검증 세트 손실: 3.318714\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "43\t검증 세트 손실: 3.356207\t최선의 손실: 1.779144\t정확도: 22.01%\n", + "44\t검증 세트 손실: 2.817575\t최선의 손실: 1.779144\t정확도: 19.08%\n", + "45\t검증 세트 손실: 2.586218\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "46\t검증 세트 손실: 2.601079\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "47\t검증 세트 손실: 3.572913\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "48\t검증 세트 손실: 2.796044\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "49\t검증 세트 손실: 2.295471\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "50\t검증 세트 손실: 2.463136\t최선의 손실: 1.779144\t정확도: 18.73%\n", + "51\t검증 세트 손실: 2.846280\t최선의 손실: 1.779144\t정확도: 22.01%\n", + "52\t검증 세트 손실: 1.981283\t최선의 손실: 1.779144\t정확도: 19.08%\n", + "53\t검증 세트 손실: 4.655248\t최선의 손실: 1.779144\t정확도: 19.27%\n", + "54\t검증 세트 손실: 2.034841\t최선의 손실: 1.779144\t정확도: 19.08%\n", + "55\t검증 세트 손실: 3.700153\t최선의 손실: 1.779144\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100, total= 1.2min\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 1.851923\t최선의 손실: 1.851923\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.705224\t최선의 손실: 1.705224\t정확도: 22.01%\n", - "2\t검증 세트 손실: 2.119510\t최선의 손실: 1.705224\t정확도: 22.01%\n", - "3\t검증 세트 손실: 2.388535\t최선의 손실: 1.705224\t정확도: 22.01%\n", - "4\t검증 세트 손실: 2.475481\t최선의 손실: 1.705224\t정확도: 20.91%\n", - "5\t검증 세트 손실: 2.531415\t최선의 손실: 1.705224\t정확도: 18.73%\n", - "6\t검증 세트 손실: 3.690760\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "7\t검증 세트 손실: 3.477469\t최선의 손실: 1.705224\t정확도: 20.91%\n", - "8\t검증 세트 손실: 3.788414\t최선의 손실: 1.705224\t정확도: 18.73%\n", - "9\t검증 세트 손실: 2.709978\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "10\t검증 세트 손실: 3.514318\t최선의 손실: 1.705224\t정확도: 19.08%\n", - "11\t검증 세트 손실: 5.001879\t최선의 손실: 1.705224\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.262856\t최선의 손실: 1.705224\t정확도: 20.91%\n", - "13\t검증 세트 손실: 2.445182\t최선의 손실: 1.705224\t정확도: 22.01%\n", - "14\t검증 세트 손실: 3.636562\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "15\t검증 세트 손실: 3.161936\t최선의 손실: 1.705224\t정확도: 19.08%\n", - "16\t검증 세트 손실: 2.248353\t최선의 손실: 1.705224\t정확도: 22.01%\n", - "17\t검증 세트 손실: 2.833916\t최선의 손실: 1.705224\t정확도: 19.08%\n", - "18\t검증 세트 손실: 2.085172\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "19\t검증 세트 손실: 2.978865\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "20\t검증 세트 손실: 2.268603\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "21\t검증 세트 손실: 2.397529\t최선의 손실: 1.705224\t정확도: 19.27%\n", - "22\t검증 세트 손실: 2.821512\t최선의 손실: 1.705224\t정확도: 19.27%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation=, total= 1.5min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.674955\t최선의 손실: 1.674955\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.960891\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "2\t검증 세트 손실: 1.886722\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "3\t검증 세트 손실: 2.485542\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "4\t검증 세트 손실: 2.476055\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "5\t검증 세트 손실: 2.164100\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "6\t검증 세트 손실: 4.266755\t최선의 손실: 1.674955\t정확도: 18.73%\n", + "7\t검증 세트 손실: 2.051914\t최선의 손실: 1.674955\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.791109\t최선의 손실: 1.674955\t정확도: 19.27%\n", + "9\t검증 세트 손실: 2.286161\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "10\t검증 세트 손실: 2.985364\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "11\t검증 세트 손실: 4.096668\t최선의 손실: 1.674955\t정확도: 19.08%\n", + "12\t검증 세트 손실: 3.874609\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "13\t검증 세트 손실: 3.785039\t최선의 손실: 1.674955\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2.824243\t최선의 손실: 1.674955\t정확도: 19.08%\n", + "15\t검증 세트 손실: 2.917253\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "16\t검증 세트 손실: 2.146416\t최선의 손실: 1.674955\t정확도: 22.01%\n", + "17\t검증 세트 손실: 2.479533\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.889794\t최선의 손실: 1.674955\t정확도: 20.91%\n", + "19\t검증 세트 손실: 3.609633\t최선의 손실: 1.674955\t정확도: 19.27%\n", + "20\t검증 세트 손실: 2.852011\t최선의 손실: 1.674955\t정확도: 18.73%\n", + "21\t검증 세트 손실: 2.326266\t최선의 손실: 1.674955\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100, total= 36.2s\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 1.735050\t최선의 손실: 1.735050\t정확도: 20.91%\n", - "1\t검증 세트 손실: 2.166456\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "2\t검증 세트 손실: 2.624226\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "3\t검증 세트 손실: 2.824949\t최선의 손실: 1.735050\t정확도: 22.01%\n", - "4\t검증 세트 손실: 2.040699\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "5\t검증 세트 손실: 3.497959\t최선의 손실: 1.735050\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.562282\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "7\t검증 세트 손실: 2.212391\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "8\t검증 세트 손실: 2.163023\t최선의 손실: 1.735050\t정확도: 22.01%\n", - "9\t검증 세트 손실: 2.342201\t최선의 손실: 1.735050\t정확도: 22.01%\n", - "10\t검증 세트 손실: 3.025177\t최선의 손실: 1.735050\t정확도: 18.73%\n", - "11\t검증 세트 손실: 3.098560\t최선의 손실: 1.735050\t정확도: 19.27%\n", - "12\t검증 세트 손실: 3.595425\t최선의 손실: 1.735050\t정확도: 18.73%\n", - "13\t검증 세트 손실: 5.890924\t최선의 손실: 1.735050\t정확도: 19.08%\n", - "14\t검증 세트 손실: 3.466570\t최선의 손실: 1.735050\t정확도: 19.27%\n", - "15\t검증 세트 손실: 2.526669\t최선의 손실: 1.735050\t정확도: 18.73%\n", - "16\t검증 세트 손실: 2.534619\t최선의 손실: 1.735050\t정확도: 18.73%\n", - "17\t검증 세트 손실: 3.098251\t최선의 손실: 1.735050\t정확도: 20.91%\n", - "18\t검증 세트 손실: 2.420249\t최선의 손실: 1.735050\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.810114\t최선의 손실: 1.735050\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.071054\t최선의 손실: 1.735050\t정확도: 19.27%\n", - "21\t검증 세트 손실: 3.331684\t최선의 손실: 1.735050\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation=, total= 34.6s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.656316\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "1\t검증 세트 손실: 3.200957\t최선의 손실: 1.656316\t정확도: 19.27%\n", + "2\t검증 세트 손실: 3.681861\t최선의 손실: 1.656316\t정확도: 19.08%\n", + "3\t검증 세트 손실: 3.183160\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.802944\t최선의 손실: 1.656316\t정확도: 20.91%\n", + "5\t검증 세트 손실: 3.871632\t최선의 손실: 1.656316\t정확도: 20.91%\n", + "6\t검증 세트 손실: 3.314249\t최선의 손실: 1.656316\t정확도: 19.08%\n", + "7\t검증 세트 손실: 2.783179\t최선의 손실: 1.656316\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.719241\t최선의 손실: 1.656316\t정확도: 18.73%\n", + "9\t검증 세트 손실: 2.066959\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "10\t검증 세트 손실: 2.967751\t최선의 손실: 1.656316\t정확도: 19.27%\n", + "11\t검증 세트 손실: 2.667115\t최선의 손실: 1.656316\t정확도: 19.08%\n", + "12\t검증 세트 손실: 3.407995\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "13\t검증 세트 손실: 4.917672\t최선의 손실: 1.656316\t정확도: 19.08%\n", + "14\t검증 세트 손실: 4.374042\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "15\t검증 세트 손실: 2.181658\t최선의 손실: 1.656316\t정확도: 18.73%\n", + "16\t검증 세트 손실: 1.883000\t최선의 손실: 1.656316\t정확도: 20.91%\n", + "17\t검증 세트 손실: 2.801731\t최선의 손실: 1.656316\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2.991065\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.906344\t최선의 손실: 1.656316\t정확도: 22.01%\n", + "20\t검증 세트 손실: 3.241243\t최선의 손실: 1.656316\t정확도: 20.91%\n", + "21\t검증 세트 손실: 3.484529\t최선의 손실: 1.656316\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.1, n_neurons=100, total= 35.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 1.610146\t최선의 손실: 1.610146\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.623749\t최선의 손실: 1.610146\t정확도: 22.01%\n", - "2\t검증 세트 손실: 1.618509\t최선의 손실: 1.610146\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.610027\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "4\t검증 세트 손실: 1.622788\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.618430\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.625848\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.637762\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.626076\t최선의 손실: 1.610027\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.676955\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.633169\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.613407\t최선의 손실: 1.610027\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.626840\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.613033\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.624439\t최선의 손실: 1.610027\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.638262\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.650929\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "17\t검증 세트 손실: 1.689331\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.641437\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.619905\t최선의 손실: 1.610027\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.631764\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.662911\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.646962\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.639880\t최선의 손실: 1.610027\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.659072\t최선의 손실: 1.610027\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, activation=, total= 34.6s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.614481\t최선의 손실: 1.614481\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.646740\t최선의 손실: 1.614481\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.614838\t최선의 손실: 1.614481\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.632951\t최선의 손실: 1.614481\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.664112\t최선의 손실: 1.614481\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.631729\t최선의 손실: 1.614481\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.665233\t최선의 손실: 1.614481\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.665278\t최선의 손실: 1.614481\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.725694\t최선의 손실: 1.614481\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.727916\t최선의 손실: 1.614481\t정확도: 18.73%\n", + "10\t검증 세트 손실: 1.646188\t최선의 손실: 1.614481\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.647839\t최선의 손실: 1.614481\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.611140\t최선의 손실: 1.611140\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.610652\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.645753\t최선의 손실: 1.610652\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.673605\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.624511\t최선의 손실: 1.610652\t정확도: 20.91%\n", + "17\t검증 세트 손실: 1.681826\t최선의 손실: 1.610652\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.691780\t최선의 손실: 1.610652\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.714199\t최선의 손실: 1.610652\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.750256\t최선의 손실: 1.610652\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.683262\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.674049\t최선의 손실: 1.610652\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.658961\t최선의 손실: 1.610652\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.715303\t최선의 손실: 1.610652\t정확도: 18.73%\n", + "25\t검증 세트 손실: 1.769608\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.790999\t최선의 손실: 1.610652\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.898461\t최선의 손실: 1.610652\t정확도: 19.27%\n", + "28\t검증 세트 손실: 1.892720\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "29\t검증 세트 손실: 1.666541\t최선의 손실: 1.610652\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.735386\t최선의 손실: 1.610652\t정확도: 19.08%\n", + "31\t검증 세트 손실: 1.649252\t최선의 손실: 1.610652\t정확도: 19.27%\n", + "32\t검증 세트 손실: 1.811516\t최선의 손실: 1.610652\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.982794\t최선의 손실: 1.610652\t정확도: 22.01%\n", + "34\t검증 세트 손실: 1.686929\t최선의 손실: 1.610652\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90, total= 4.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 0.475791\t최선의 손실: 0.475791\t정확도: 83.19%\n", - "1\t검증 세트 손실: 0.434308\t최선의 손실: 0.434308\t정확도: 85.50%\n", - "2\t검증 세트 손실: 0.230502\t최선의 손실: 0.230502\t정확도: 93.59%\n", - "3\t검증 세트 손실: 0.236499\t최선의 손실: 0.230502\t정확도: 92.81%\n", - "4\t검증 세트 손실: 0.287307\t최선의 손실: 0.230502\t정확도: 92.46%\n", - "5\t검증 세트 손실: 0.195621\t최선의 손실: 0.195621\t정확도: 95.31%\n", - "6\t검증 세트 손실: 0.199034\t최선의 손실: 0.195621\t정확도: 94.53%\n", - "7\t검증 세트 손실: 0.181908\t최선의 손실: 0.181908\t정확도: 95.04%\n", - "8\t검증 세트 손실: 0.183070\t최선의 손실: 0.181908\t정확도: 96.33%\n", - "9\t검증 세트 손실: 0.365571\t최선의 손실: 0.181908\t정확도: 92.34%\n", - "10\t검증 세트 손실: 0.160700\t최선의 손실: 0.160700\t정확도: 96.09%\n", - "11\t검증 세트 손실: 329.330139\t최선의 손실: 0.160700\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.619296\t최선의 손실: 0.160700\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.625582\t최선의 손실: 0.160700\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.618828\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.623297\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.644161\t최선의 손실: 0.160700\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.621000\t최선의 손실: 0.160700\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.635412\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.620329\t최선의 손실: 0.160700\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.623312\t최선의 손실: 0.160700\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.730854\t최선의 손실: 0.160700\t정확도: 18.73%\n", - "22\t검증 세트 손실: 1.623593\t최선의 손실: 0.160700\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.626812\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.686106\t최선의 손실: 0.160700\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.617290\t최선의 손실: 0.160700\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.608587\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.618588\t최선의 손실: 0.160700\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.655280\t최선의 손실: 0.160700\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.631796\t최선의 손실: 0.160700\t정확도: 22.01%\n", - "30\t검증 세트 손실: 1.624421\t최선의 손실: 0.160700\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.707929\t최선의 손실: 0.160700\t정확도: 18.73%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90, total= 6.1s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 1.610373\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.622654\t최선의 손실: 1.610373\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.612585\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.664878\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.618409\t최선의 손실: 1.610373\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.682015\t최선의 손실: 1.610373\t정확도: 22.01%\n" + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation=, total= 6.6s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.687246\t최선의 손실: 0.687246\t정확도: 70.64%\n", + "1\t검증 세트 손실: 0.381358\t최선의 손실: 0.381358\t정확도: 88.51%\n", + "2\t검증 세트 손실: 0.196920\t최선의 손실: 0.196920\t정확도: 94.29%\n", + "3\t검증 세트 손실: 0.204946\t최선의 손실: 0.196920\t정확도: 95.58%\n", + "4\t검증 세트 손실: 0.212586\t최선의 손실: 0.196920\t정확도: 94.33%\n", + "5\t검증 세트 손실: 0.190288\t최선의 손실: 0.190288\t정확도: 95.43%\n", + "6\t검증 세트 손실: 0.227178\t최선의 손실: 0.190288\t정확도: 95.58%\n", + "7\t검증 세트 손실: 0.164799\t최선의 손실: 0.164799\t정확도: 95.47%\n", + "8\t검증 세트 손실: 0.229334\t최선의 손실: 0.164799\t정확도: 95.50%\n", + "9\t검증 세트 손실: 0.144524\t최선의 손실: 0.144524\t정확도: 96.56%\n", + "10\t검증 세트 손실: 0.144431\t최선의 손실: 0.144431\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.127328\t최선의 손실: 0.127328\t정확도: 96.64%\n", + "12\t검증 세트 손실: 0.158292\t최선의 손실: 0.127328\t정확도: 96.40%\n", + "13\t검증 세트 손실: 0.736237\t최선의 손실: 0.127328\t정확도: 79.20%\n", + "14\t검증 세트 손실: 0.291812\t최선의 손실: 0.127328\t정확도: 94.29%\n", + "15\t검증 세트 손실: 0.299319\t최선의 손실: 0.127328\t정확도: 93.35%\n", + "16\t검증 세트 손실: 0.249320\t최선의 손실: 0.127328\t정확도: 95.27%\n", + "17\t검증 세트 손실: 1.633911\t최선의 손실: 0.127328\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.658661\t최선의 손실: 0.127328\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.620670\t최선의 손실: 0.127328\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.644672\t최선의 손실: 0.127328\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.647107\t최선의 손실: 0.127328\t정확도: 18.73%\n", + "22\t검증 세트 손실: 1.617908\t최선의 손실: 0.127328\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.658891\t최선의 손실: 0.127328\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.793890\t최선의 손실: 0.127328\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.667274\t최선의 손실: 0.127328\t정확도: 20.91%\n", + "26\t검증 세트 손실: 1.645009\t최선의 손실: 0.127328\t정확도: 19.27%\n", + "27\t검증 세트 손실: 1.631213\t최선의 손실: 0.127328\t정확도: 22.01%\n", + "28\t검증 세트 손실: 1.729620\t최선의 손실: 0.127328\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.690818\t최선의 손실: 0.127328\t정확도: 19.08%\n", + "30\t검증 세트 손실: 1.706215\t최선의 손실: 0.127328\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "6\t검증 세트 손실: 1.612779\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.654525\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.659124\t최선의 손실: 1.610373\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.686131\t최선의 손실: 1.610373\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.633308\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.654168\t최선의 손실: 1.610373\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.624906\t최선의 손실: 1.610373\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.680345\t최선의 손실: 1.610373\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.644989\t최선의 손실: 1.610373\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.653713\t최선의 손실: 1.610373\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1.729175\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.625388\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.632917\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.657624\t최선의 손실: 1.610373\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.648483\t최선의 손실: 1.610373\t정확도: 22.01%\n", - "21\t검증 세트 손실: 2.145180\t최선의 손실: 1.610373\t정확도: 22.01%\n", + "31\t검증 세트 손실: 1.699114\t최선의 손실: 0.127328\t정확도: 18.73%\n", + "32\t검증 세트 손실: 1.714839\t최선의 손실: 0.127328\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, n_neurons=90, total= 4.4s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 0.534450\t최선의 손실: 0.534450\t정확도: 80.02%\n", - "1\t검증 세트 손실: 0.242853\t최선의 손실: 0.242853\t정확도: 93.08%\n", - "2\t검증 세트 손실: 0.164465\t최선의 손실: 0.164465\t정확도: 95.35%\n", - "3\t검증 세트 손실: 0.179451\t최선의 손실: 0.164465\t정확도: 95.58%\n", - "4\t검증 세트 손실: 0.163037\t최선의 손실: 0.163037\t정확도: 96.25%\n", - "5\t검증 세트 손실: 0.137344\t최선의 손실: 0.137344\t정확도: 96.33%\n", - "6\t검증 세트 손실: 1.288620\t최선의 손실: 0.137344\t정확도: 38.27%\n", - "7\t검증 세트 손실: 2101.928467\t최선의 손실: 0.137344\t정확도: 42.22%\n", - "8\t검증 세트 손실: 90.610878\t최선의 손실: 0.137344\t정확도: 35.93%\n", - "9\t검증 세트 손실: 1246.037964\t최선의 손실: 0.137344\t정확도: 29.52%\n", - "10\t검증 세트 손실: 114.796776\t최선의 손실: 0.137344\t정확도: 75.68%\n", - "11\t검증 세트 손실: 43.102406\t최선의 손실: 0.137344\t정확도: 89.09%\n", - "12\t검증 세트 손실: 28.707685\t최선의 손실: 0.137344\t정확도: 89.99%\n", - "13\t검증 세트 손실: 44.073612\t최선의 손실: 0.137344\t정확도: 76.97%\n", - "14\t검증 세트 손실: 19.661518\t최선의 손실: 0.137344\t정확도: 89.33%\n", - "15\t검증 세트 손실: 23.418596\t최선의 손실: 0.137344\t정확도: 86.12%\n", - "16\t검증 세트 손실: 16.700291\t최선의 손실: 0.137344\t정확도: 82.92%\n", - "17\t검증 세트 손실: 11.804067\t최선의 손실: 0.137344\t정확도: 82.72%\n", - "18\t검증 세트 손실: 20.685619\t최선의 손실: 0.137344\t정확도: 86.75%\n", - "19\t검증 세트 손실: 10.927954\t최선의 손실: 0.137344\t정확도: 91.79%\n", - "20\t검증 세트 손실: 7.516058\t최선의 손실: 0.137344\t정확도: 92.46%\n", - "21\t검증 세트 손실: 15.552411\t최선의 손실: 0.137344\t정확도: 77.60%\n", - "22\t검증 세트 손실: 7.115134\t최선의 손실: 0.137344\t정확도: 92.03%\n", - "23\t검증 세트 손실: 7.460151\t최선의 손실: 0.137344\t정확도: 92.18%\n", - "24\t검증 세트 손실: 5.436759\t최선의 손실: 0.137344\t정확도: 92.30%\n", - "25\t검증 세트 손실: 11.147212\t최선의 손실: 0.137344\t정확도: 88.62%\n", - "26\t검증 세트 손실: 6.502192\t최선의 손실: 0.137344\t정확도: 92.42%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation=, total= 6.4s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.799894\t최선의 손실: 0.799894\t정확도: 61.81%\n", + "1\t검증 세트 손실: 0.568318\t최선의 손실: 0.568318\t정확도: 78.62%\n", + "2\t검증 세트 손실: 0.545976\t최선의 손실: 0.545976\t정확도: 74.39%\n", + "3\t검증 세트 손실: 0.408879\t최선의 손실: 0.408879\t정확도: 89.29%\n", + "4\t검증 세트 손실: 0.367148\t최선의 손실: 0.367148\t정확도: 91.99%\n", + "5\t검증 세트 손실: 0.442987\t최선의 손실: 0.367148\t정확도: 90.85%\n", + "6\t검증 세트 손실: 0.592069\t최선의 손실: 0.367148\t정확도: 78.23%\n", + "7\t검증 세트 손실: 57.694954\t최선의 손실: 0.367148\t정확도: 61.42%\n", + "8\t검증 세트 손실: 1.633476\t최선의 손실: 0.367148\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.693452\t최선의 손실: 0.367148\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.618978\t최선의 손실: 0.367148\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.701800\t최선의 손실: 0.367148\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.643371\t최선의 손실: 0.367148\t정확도: 18.73%\n", + "13\t검증 세트 손실: 1.642353\t최선의 손실: 0.367148\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.651818\t최선의 손실: 0.367148\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.668255\t최선의 손실: 0.367148\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1.670193\t최선의 손실: 0.367148\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.608709\t최선의 손실: 0.367148\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.638921\t최선의 손실: 0.367148\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.649493\t최선의 손실: 0.367148\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.663284\t최선의 손실: 0.367148\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.837892\t최선의 손실: 0.367148\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.729971\t최선의 손실: 0.367148\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.761410\t최선의 손실: 0.367148\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.645807\t최선의 손실: 0.367148\t정확도: 18.73%\n", + "25\t검증 세트 손실: 1.712526\t최선의 손실: 0.367148\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50, total= 2.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 0.422188\t최선의 손실: 0.422188\t정확도: 86.00%\n", - "1\t검증 세트 손실: 0.244317\t최선의 손실: 0.244317\t정확도: 93.47%\n", - "2\t검증 세트 손실: 0.166225\t최선의 손실: 0.166225\t정확도: 95.27%\n", - "3\t검증 세트 손실: 0.151278\t최선의 손실: 0.151278\t정확도: 95.58%\n", - "4\t검증 세트 손실: 0.150296\t최선의 손실: 0.150296\t정확도: 95.86%\n", - "5\t검증 세트 손실: 0.131763\t최선의 손실: 0.131763\t정확도: 95.90%\n", - "6\t검증 세트 손실: 0.129852\t최선의 손실: 0.129852\t정확도: 96.33%\n", - "7\t검증 세트 손실: 0.145528\t최선의 손실: 0.129852\t정확도: 95.90%\n", - "8\t검증 세트 손실: 0.119571\t최선의 손실: 0.119571\t정확도: 96.33%\n", - "9\t검증 세트 손실: 0.120829\t최선의 손실: 0.119571\t정확도: 96.60%\n", - "10\t검증 세트 손실: 0.156666\t최선의 손실: 0.119571\t정확도: 96.21%\n", - "11\t검증 세트 손실: 0.115083\t최선의 손실: 0.115083\t정확도: 96.68%\n", - "12\t검증 세트 손실: 0.114017\t최선의 손실: 0.114017\t정확도: 96.56%\n", - "13\t검증 세트 손실: 0.121444\t최선의 손실: 0.114017\t정확도: 96.21%\n", - "14\t검증 세트 손실: 0.152109\t최선의 손실: 0.114017\t정확도: 96.48%\n", - "15\t검증 세트 손실: 0.142726\t최선의 손실: 0.114017\t정확도: 96.52%\n", - "16\t검증 세트 손실: 0.133899\t최선의 손실: 0.114017\t정확도: 96.64%\n", - "17\t검증 세트 손실: 0.142289\t최선의 손실: 0.114017\t정확도: 96.79%\n", - "18\t검증 세트 손실: 0.138076\t최선의 손실: 0.114017\t정확도: 95.90%\n", - "19\t검증 세트 손실: 0.199469\t최선의 손실: 0.114017\t정확도: 96.33%\n", - "20\t검증 세트 손실: 0.155188\t최선의 손실: 0.114017\t정확도: 96.72%\n", - "21\t검증 세트 손실: 0.142691\t최선의 손실: 0.114017\t정확도: 96.64%\n", - "22\t검증 세트 손실: 0.160068\t최선의 손실: 0.114017\t정확도: 96.83%\n", - "23\t검증 세트 손실: 0.118238\t최선의 손실: 0.114017\t정확도: 97.03%\n", - "24\t검증 세트 손실: 0.135756\t최선의 손실: 0.114017\t정확도: 96.83%\n", - "25\t검증 세트 손실: 0.144372\t최선의 손실: 0.114017\t정확도: 96.76%\n", - "26\t검증 세트 손실: 0.114687\t최선의 손실: 0.114017\t정확도: 96.99%\n", - "27\t검증 세트 손실: 0.117526\t최선의 손실: 0.114017\t정확도: 96.91%\n", - "28\t검증 세트 손실: 0.156386\t최선의 손실: 0.114017\t정확도: 96.83%\n", - "29\t검증 세트 손실: 0.181003\t최선의 손실: 0.114017\t정확도: 96.25%\n", - "30\t검증 세트 손실: 0.144495\t최선의 손실: 0.114017\t정확도: 96.60%\n", - "31\t검증 세트 손실: 0.152948\t최선의 손실: 0.114017\t정확도: 96.52%\n", - "32\t검증 세트 손실: 86775.179688\t최선의 손실: 0.114017\t정확도: 19.27%\n", - "33\t검증 세트 손실: 133690.546875\t최선의 손실: 0.114017\t정확도: 19.27%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, activation=, total= 5.0s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.524127\t최선의 손실: 0.524127\t정확도: 78.85%\n", + "1\t검증 세트 손실: 0.384958\t최선의 손실: 0.384958\t정확도: 89.68%\n", + "2\t검증 세트 손실: 0.617213\t최선의 손실: 0.384958\t정확도: 87.02%\n", + "3\t검증 세트 손실: 0.240650\t최선의 손실: 0.240650\t정확도: 93.16%\n", + "4\t검증 세트 손실: 0.203326\t최선의 손실: 0.203326\t정확도: 94.84%\n", + "5\t검증 세트 손실: 0.187323\t최선의 손실: 0.187323\t정확도: 94.49%\n", + "6\t검증 세트 손실: 0.147755\t최선의 손실: 0.147755\t정확도: 95.90%\n", + "7\t검증 세트 손실: 0.144544\t최선의 손실: 0.144544\t정확도: 96.17%\n", + "8\t검증 세트 손실: 0.136102\t최선의 손실: 0.136102\t정확도: 96.17%\n", + "9\t검증 세트 손실: 0.144293\t최선의 손실: 0.136102\t정확도: 95.70%\n", + "10\t검증 세트 손실: 0.124722\t최선의 손실: 0.124722\t정확도: 96.21%\n", + "11\t검증 세트 손실: 0.123295\t최선의 손실: 0.123295\t정확도: 96.52%\n", + "12\t검증 세트 손실: 0.120367\t최선의 손실: 0.120367\t정확도: 96.33%\n", + "13\t검증 세트 손실: 0.116314\t최선의 손실: 0.116314\t정확도: 96.64%\n", + "14\t검증 세트 손실: 0.121230\t최선의 손실: 0.116314\t정확도: 95.97%\n", + "15\t검증 세트 손실: 0.115813\t최선의 손실: 0.115813\t정확도: 96.40%\n", + "16\t검증 세트 손실: 0.111967\t최선의 손실: 0.111967\t정확도: 97.03%\n", + "17\t검증 세트 손실: 0.128988\t최선의 손실: 0.111967\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.130854\t최선의 손실: 0.111967\t정확도: 96.48%\n", + "19\t검증 세트 손실: 0.146729\t최선의 손실: 0.111967\t정확도: 95.70%\n", + "20\t검증 세트 손실: 0.122620\t최선의 손실: 0.111967\t정확도: 96.76%\n", + "21\t검증 세트 손실: 0.175153\t최선의 손실: 0.111967\t정확도: 95.90%\n", + "22\t검증 세트 손실: 0.150580\t최선의 손실: 0.111967\t정확도: 96.48%\n", + "23\t검증 세트 손실: 0.116263\t최선의 손실: 0.111967\t정확도: 96.79%\n", + "24\t검증 세트 손실: 0.110249\t최선의 손실: 0.110249\t정확도: 97.07%\n", + "25\t검증 세트 손실: 0.109915\t최선의 손실: 0.109915\t정확도: 96.79%\n", + "26\t검증 세트 손실: 0.112304\t최선의 손실: 0.109915\t정확도: 97.26%\n", + "27\t검증 세트 손실: 0.158896\t최선의 손실: 0.109915\t정확도: 95.58%\n", + "28\t검증 세트 손실: 0.109923\t최선의 손실: 0.109915\t정확도: 96.76%\n", + "29\t검증 세트 손실: 0.139951\t최선의 손실: 0.109915\t정확도: 96.52%\n", + "30\t검증 세트 손실: 0.114655\t최선의 손실: 0.109915\t정확도: 96.91%\n", + "31\t검증 세트 손실: 0.122391\t최선의 손실: 0.109915\t정확도: 96.91%\n", + "32\t검증 세트 손실: 0.943397\t최선의 손실: 0.109915\t정확도: 70.09%\n", + "33\t검증 세트 손실: 19344.441406\t최선의 손실: 0.109915\t정확도: 32.02%\n", + "34\t검증 세트 손실: 197.911621\t최선의 손실: 0.109915\t정확도: 57.54%\n", + "35\t검증 세트 손실: 29.577139\t최선의 손실: 0.109915\t정확도: 46.72%\n", + "36\t검증 세트 손실: 21.326855\t최선의 손실: 0.109915\t정확도: 47.69%\n", + "37\t검증 세트 손실: 22.502834\t최선의 손실: 0.109915\t정확도: 48.87%\n", + "38\t검증 세트 손실: 7.762832\t최선의 손실: 0.109915\t정확도: 62.86%\n", + "39\t검증 세트 손실: 8.517285\t최선의 손실: 0.109915\t정확도: 64.74%\n", + "40\t검증 세트 손실: 9.063218\t최선의 손실: 0.109915\t정확도: 56.37%\n", + "41\t검증 세트 손실: 4.835268\t최선의 손실: 0.109915\t정확도: 69.31%\n", + "42\t검증 세트 손실: 6.112759\t최선의 손실: 0.109915\t정확도: 57.90%\n", + "43\t검증 세트 손실: 4.147349\t최선의 손실: 0.109915\t정확도: 67.16%\n", + "44\t검증 세트 손실: 4.575250\t최선의 손실: 0.109915\t정확도: 64.70%\n", + "45\t검증 세트 손실: 6.534204\t최선의 손실: 0.109915\t정확도: 63.92%\n", + "46\t검증 세트 손실: 5.850189\t최선의 손실: 0.109915\t정확도: 66.81%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50, total= 3.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50 \n", - "0\t검증 세트 손실: 0.505769\t최선의 손실: 0.505769\t정확도: 84.68%\n", - "1\t검증 세트 손실: 0.225978\t최선의 손실: 0.225978\t정확도: 95.15%\n", - "2\t검증 세트 손실: 0.173461\t최선의 손실: 0.173461\t정확도: 95.07%\n", - "3\t검증 세트 손실: 0.134323\t최선의 손실: 0.134323\t정확도: 96.56%\n", - "4\t검증 세트 손실: 0.144994\t최선의 손실: 0.134323\t정확도: 96.13%\n", - "5\t검증 세트 손실: 0.135564\t최선의 손실: 0.134323\t정확도: 97.03%\n", - "6\t검증 세트 손실: 0.120251\t최선의 손실: 0.120251\t정확도: 96.68%\n", - "7\t검증 세트 손실: 0.125025\t최선의 손실: 0.120251\t정확도: 96.33%\n", - "8\t검증 세트 손실: 0.122969\t최선의 손실: 0.120251\t정확도: 96.95%\n", - "9\t검증 세트 손실: 0.107851\t최선의 손실: 0.107851\t정확도: 97.19%\n", - "10\t검증 세트 손실: 0.120032\t최선의 손실: 0.107851\t정확도: 96.91%\n", - "11\t검증 세트 손실: 0.115541\t최선의 손실: 0.107851\t정확도: 96.95%\n", - "12\t검증 세트 손실: 0.132142\t최선의 손실: 0.107851\t정확도: 96.95%\n", - "13\t검증 세트 손실: 0.121362\t최선의 손실: 0.107851\t정확도: 97.03%\n", - "14\t검증 세트 손실: 0.127986\t최선의 손실: 0.107851\t정확도: 97.54%\n", - "15\t검증 세트 손실: 0.117486\t최선의 손실: 0.107851\t정확도: 97.30%\n", - "16\t검증 세트 손실: 0.129763\t최선의 손실: 0.107851\t정확도: 96.56%\n", - "17\t검증 세트 손실: 0.126127\t최선의 손실: 0.107851\t정확도: 97.30%\n", - "18\t검증 세트 손실: 0.130760\t최선의 손실: 0.107851\t정확도: 96.72%\n", - "19\t검증 세트 손실: 0.149424\t최선의 손실: 0.107851\t정확도: 96.99%\n", - "20\t검증 세트 손실: 0.159733\t최선의 손실: 0.107851\t정확도: 96.44%\n", - "21\t검증 세트 손실: 0.161975\t최선의 손실: 0.107851\t정확도: 96.91%\n", - "22\t검증 세트 손실: 0.132446\t최선의 손실: 0.107851\t정확도: 96.95%\n", - "23\t검증 세트 손실: 0.120073\t최선의 손실: 0.107851\t정확도: 97.73%\n", - "24\t검증 세트 손실: 0.181879\t최선의 손실: 0.107851\t정확도: 95.93%\n", - "25\t검증 세트 손실: 62456.683594\t최선의 손실: 0.107851\t정확도: 22.05%\n", - "26\t검증 세트 손실: 113864.531250\t최선의 손실: 0.107851\t정확도: 27.68%\n", - "27\t검증 세트 손실: 7692.474609\t최선의 손실: 0.107851\t정확도: 21.11%\n", - "28\t검증 세트 손실: 853.537842\t최선의 손실: 0.107851\t정확도: 33.97%\n", - "29\t검증 세트 손실: 338.833282\t최선의 손실: 0.107851\t정확도: 38.35%\n", - "30\t검증 세트 손실: 117.795815\t최선의 손실: 0.107851\t정확도: 38.35%\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 3.7s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.847573\t최선의 손실: 0.847573\t정확도: 55.36%\n", + "1\t검증 세트 손실: 0.481435\t최선의 손실: 0.481435\t정확도: 87.92%\n", + "2\t검증 세트 손실: 0.196414\t최선의 손실: 0.196414\t정확도: 94.76%\n", + "3\t검증 세트 손실: 0.168277\t최선의 손실: 0.168277\t정확도: 95.27%\n", + "4\t검증 세트 손실: 0.248638\t최선의 손실: 0.168277\t정확도: 93.32%\n", + "5\t검증 세트 손실: 195.644394\t최선의 손실: 0.168277\t정확도: 19.08%\n", + "6\t검증 세트 손실: 1401.437012\t최선의 손실: 0.168277\t정확도: 20.76%\n", + "7\t검증 세트 손실: 242.252441\t최선의 손실: 0.168277\t정확도: 22.01%\n", + "8\t검증 세트 손실: 203.451508\t최선의 손실: 0.168277\t정확도: 34.71%\n", + "9\t검증 세트 손실: 7.993940\t최선의 손실: 0.168277\t정확도: 39.17%\n", + "10\t검증 세트 손실: 3.220500\t최선의 손실: 0.168277\t정확도: 50.66%\n", + "11\t검증 세트 손실: 1.442252\t최선의 손실: 0.168277\t정확도: 60.40%\n", + "12\t검증 세트 손실: 1.203653\t최선의 손실: 0.168277\t정확도: 65.25%\n", + "13\t검증 세트 손실: 1.188091\t최선의 손실: 0.168277\t정확도: 65.32%\n", + "14\t검증 세트 손실: 1.117579\t최선의 손실: 0.168277\t정확도: 65.17%\n", + "15\t검증 세트 손실: 1.092631\t최선의 손실: 0.168277\t정확도: 66.46%\n", + "16\t검증 세트 손실: 0.928411\t최선의 손실: 0.168277\t정확도: 71.77%\n", + "17\t검증 세트 손실: 1.797037\t최선의 손실: 0.168277\t정확도: 65.05%\n", + "18\t검증 세트 손실: 1.116249\t최선의 손실: 0.168277\t정확도: 67.32%\n", + "19\t검증 세트 손실: 0.877918\t최선의 손실: 0.168277\t정확도: 71.11%\n", + "20\t검증 세트 손실: 0.786597\t최선의 손실: 0.168277\t정확도: 75.41%\n", + "21\t검증 세트 손실: 0.775017\t최선의 손실: 0.168277\t정확도: 74.28%\n", + "22\t검증 세트 손실: 1.026696\t최선의 손실: 0.168277\t정확도: 65.09%\n", + "23\t검증 세트 손실: 0.703977\t최선의 손실: 0.168277\t정확도: 76.74%\n", + "24\t검증 세트 손실: 0.729931\t최선의 손실: 0.168277\t정확도: 73.46%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.1, n_neurons=50, total= 2.9s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140 \n", - "0\t검증 세트 손실: 0.239338\t최선의 손실: 0.239338\t정확도: 92.81%\n", - "1\t검증 세트 손실: 0.114066\t최선의 손실: 0.114066\t정확도: 96.36%\n", - "2\t검증 세트 손실: 0.101452\t최선의 손실: 0.101452\t정확도: 96.87%\n", - "3\t검증 세트 손실: 0.082100\t최선의 손실: 0.082100\t정확도: 97.11%\n", - "4\t검증 세트 손실: 0.088032\t최선의 손실: 0.082100\t정확도: 97.30%\n", - "5\t검증 세트 손실: 0.072678\t최선의 손실: 0.072678\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.071484\t최선의 손실: 0.071484\t정확도: 97.93%\n", - "7\t검증 세트 손실: 0.070591\t최선의 손실: 0.070591\t정확도: 97.89%\n", - "8\t검증 세트 손실: 0.085810\t최선의 손실: 0.070591\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.067289\t최선의 손실: 0.067289\t정확도: 98.16%\n", - "10\t검증 세트 손실: 0.067073\t최선의 손실: 0.067073\t정확도: 98.20%\n", - "11\t검증 세트 손실: 0.058687\t최선의 손실: 0.058687\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.069050\t최선의 손실: 0.058687\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.069751\t최선의 손실: 0.058687\t정확도: 98.44%\n", - "14\t검증 세트 손실: 0.065718\t최선의 손실: 0.058687\t정확도: 98.32%\n", - "15\t검증 세트 손실: 0.079307\t최선의 손실: 0.058687\t정확도: 98.20%\n", - "16\t검증 세트 손실: 0.067547\t최선의 손실: 0.058687\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.075381\t최선의 손실: 0.058687\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.091851\t최선의 손실: 0.058687\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.084878\t최선의 손실: 0.058687\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.116638\t최선의 손실: 0.058687\t정확도: 97.81%\n", - "21\t검증 세트 손실: 0.063745\t최선의 손실: 0.058687\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.066115\t최선의 손실: 0.058687\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.059691\t최선의 손실: 0.058687\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.097625\t최선의 손실: 0.058687\t정확도: 98.05%\n", - "25\t검증 세트 손실: 0.075381\t최선의 손실: 0.058687\t정확도: 98.55%\n", - "26\t검증 세트 손실: 0.087848\t최선의 손실: 0.058687\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.074701\t최선의 손실: 0.058687\t정확도: 98.36%\n", - "28\t검증 세트 손실: 0.075509\t최선의 손실: 0.058687\t정확도: 98.48%\n", - "29\t검증 세트 손실: 0.064600\t최선의 손실: 0.058687\t정확도: 98.55%\n", - "30\t검증 세트 손실: 0.093949\t최선의 손실: 0.058687\t정확도: 98.20%\n", - "31\t검증 세트 손실: 0.080279\t최선의 손실: 0.058687\t정확도: 98.44%\n", - "32\t검증 세트 손실: 0.068379\t최선의 손실: 0.058687\t정확도: 98.51%\n", - "조기 종료!\n" + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.2s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 2.129045\t최선의 손실: 2.129045\t정확도: 38.98%\n", + "1\t검증 세트 손실: 0.976045\t최선의 손실: 0.976045\t정확도: 48.71%\n", + "2\t검증 세트 손실: 0.772890\t최선의 손실: 0.772890\t정확도: 60.28%\n", + "3\t검증 세트 손실: 0.613530\t최선의 손실: 0.613530\t정확도: 66.97%\n", + "4\t검증 세트 손실: 0.422762\t최선의 손실: 0.422762\t정확도: 81.39%\n", + "5\t검증 세트 손실: 0.289177\t최선의 손실: 0.289177\t정확도: 91.71%\n", + "6\t검증 세트 손실: 0.202105\t최선의 손실: 0.202105\t정확도: 93.24%\n", + "7\t검증 세트 손실: 0.264695\t최선의 손실: 0.202105\t정확도: 90.30%\n", + "8\t검증 세트 손실: 1094.029175\t최선의 손실: 0.202105\t정확도: 8.09%\n", + "9\t검증 세트 손실: 3996.317871\t최선의 손실: 0.202105\t정확도: 21.34%\n", + "10\t검증 세트 손실: 1995.736572\t최선의 손실: 0.202105\t정확도: 19.08%\n", + "11\t검증 세트 손실: 3538.432861\t최선의 손실: 0.202105\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1762.851685\t최선의 손실: 0.202105\t정확도: 33.62%\n", + "13\t검증 세트 손실: 136.566360\t최선의 손실: 0.202105\t정확도: 39.72%\n", + "14\t검증 세트 손실: 70.934280\t최선의 손실: 0.202105\t정확도: 55.00%\n", + "15\t검증 세트 손실: 35.613251\t최선의 손실: 0.202105\t정확도: 69.74%\n", + "16\t검증 세트 손실: 31.068510\t최선의 손실: 0.202105\t정확도: 68.22%\n", + "17\t검증 세트 손실: 59.357544\t최선의 손실: 0.202105\t정확도: 64.27%\n", + "18\t검증 세트 손실: 45.711288\t최선의 손실: 0.202105\t정확도: 60.99%\n", + "19\t검증 세트 손실: 35.346798\t최선의 손실: 0.202105\t정확도: 69.31%\n", + "20\t검증 세트 손실: 22.271633\t최선의 손실: 0.202105\t정확도: 65.25%\n", + "21\t검증 세트 손실: 26.664211\t최선의 손실: 0.202105\t정확도: 68.37%\n", + "22\t검증 세트 손실: 20.500731\t최선의 손실: 0.202105\t정확도: 72.83%\n", + "23\t검증 세트 손실: 74.312813\t최선의 손실: 0.202105\t정확도: 56.49%\n", + "24\t검증 세트 손실: 30.358761\t최선의 손실: 0.202105\t정확도: 72.13%\n", + "25\t검증 세트 손실: 17.014755\t최선의 손실: 0.202105\t정확도: 79.55%\n", + "26\t검증 세트 손실: 18.892115\t최선의 손실: 0.202105\t정확도: 63.06%\n", + "27\t검증 세트 손실: 12.808816\t최선의 손실: 0.202105\t정확도: 81.35%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 2.4s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.194612\t최선의 손실: 0.194612\t정확도: 93.67%\n", + "1\t검증 세트 손실: 0.098416\t최선의 손실: 0.098416\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.089071\t최선의 손실: 0.089071\t정확도: 97.11%\n", + "3\t검증 세트 손실: 0.071442\t최선의 손실: 0.071442\t정확도: 97.73%\n", + "4\t검증 세트 손실: 0.088891\t최선의 손실: 0.071442\t정확도: 97.30%\n", + "5\t검증 세트 손실: 0.061029\t최선의 손실: 0.061029\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.060142\t최선의 손실: 0.060142\t정확도: 98.24%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140, total= 2.9s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140 \n", - "0\t검증 세트 손실: 0.197067\t최선의 손실: 0.197067\t정확도: 94.18%\n", - "1\t검증 세트 손실: 0.106381\t최선의 손실: 0.106381\t정확도: 96.44%\n", - "2\t검증 세트 손실: 0.091681\t최선의 손실: 0.091681\t정확도: 97.07%\n", - "3\t검증 세트 손실: 0.074427\t최선의 손실: 0.074427\t정확도: 97.81%\n", - "4\t검증 세트 손실: 0.068278\t최선의 손실: 0.068278\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.061890\t최선의 손실: 0.061890\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.055001\t최선의 손실: 0.055001\t정확도: 98.20%\n", - "7\t검증 세트 손실: 0.054396\t최선의 손실: 0.054396\t정확도: 98.40%\n", - "8\t검증 세트 손실: 0.081775\t최선의 손실: 0.054396\t정확도: 97.89%\n", - "9\t검증 세트 손실: 0.049693\t최선의 손실: 0.049693\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.062691\t최선의 손실: 0.049693\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.048321\t최선의 손실: 0.048321\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.053928\t최선의 손실: 0.048321\t정확도: 98.40%\n", - "13\t검증 세트 손실: 0.045204\t최선의 손실: 0.045204\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.047268\t최선의 손실: 0.045204\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.065757\t최선의 손실: 0.045204\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.054667\t최선의 손실: 0.045204\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.065387\t최선의 손실: 0.045204\t정확도: 98.36%\n", - "18\t검증 세트 손실: 0.057643\t최선의 손실: 0.045204\t정확도: 98.63%\n", - "19\t검증 세트 손실: 0.069373\t최선의 손실: 0.045204\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.055061\t최선의 손실: 0.045204\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.060174\t최선의 손실: 0.045204\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.071010\t최선의 손실: 0.045204\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.087202\t최선의 손실: 0.045204\t정확도: 98.05%\n", - "24\t검증 세트 손실: 0.054379\t최선의 손실: 0.045204\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.068473\t최선의 손실: 0.045204\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.069386\t최선의 손실: 0.045204\t정확도: 98.55%\n", - "27\t검증 세트 손실: 0.087186\t최선의 손실: 0.045204\t정확도: 98.36%\n", - "28\t검증 세트 손실: 0.083339\t최선의 손실: 0.045204\t정확도: 98.51%\n", - "29\t검증 세트 손실: 0.064417\t최선의 손실: 0.045204\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.065300\t최선의 손실: 0.045204\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.070114\t최선의 손실: 0.045204\t정확도: 98.94%\n", - "32\t검증 세트 손실: 0.106997\t최선의 손실: 0.045204\t정확도: 98.24%\n", - "33\t검증 세트 손실: 0.063659\t최선의 손실: 0.045204\t정확도: 98.83%\n", - "34\t검증 세트 손실: 0.079765\t최선의 손실: 0.045204\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.066981\t최선의 손실: 0.060142\t정확도: 98.16%\n", + "8\t검증 세트 손실: 0.057345\t최선의 손실: 0.057345\t정확도: 98.16%\n", + "9\t검증 세트 손실: 0.056026\t최선의 손실: 0.056026\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.062934\t최선의 손실: 0.056026\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.062163\t최선의 손실: 0.056026\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.054006\t최선의 손실: 0.054006\t정확도: 98.63%\n", + "13\t검증 세트 손실: 0.064330\t최선의 손실: 0.054006\t정확도: 98.36%\n", + "14\t검증 세트 손실: 0.073583\t최선의 손실: 0.054006\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.063360\t최선의 손실: 0.054006\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.081177\t최선의 손실: 0.054006\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.074044\t최선의 손실: 0.054006\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.063628\t최선의 손실: 0.054006\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.068164\t최선의 손실: 0.054006\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.068631\t최선의 손실: 0.054006\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.072618\t최선의 손실: 0.054006\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.064016\t최선의 손실: 0.054006\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.058817\t최선의 손실: 0.054006\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.088724\t최선의 손실: 0.054006\t정확도: 98.40%\n", + "25\t검증 세트 손실: 0.078137\t최선의 손실: 0.054006\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.059855\t최선의 손실: 0.054006\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.062538\t최선의 손실: 0.054006\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.077704\t최선의 손실: 0.054006\t정확도: 98.12%\n", + "29\t검증 세트 손실: 0.084596\t최선의 손실: 0.054006\t정확도: 98.55%\n", + "30\t검증 세트 손실: 0.060937\t최선의 손실: 0.054006\t정확도: 98.59%\n", + "31\t검증 세트 손실: 0.058089\t최선의 손실: 0.054006\t정확도: 98.63%\n", + "32\t검증 세트 손실: 0.090503\t최선의 손실: 0.054006\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.077502\t최선의 손실: 0.054006\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140, total= 3.1s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140 \n", - "0\t검증 세트 손실: 0.176398\t최선의 손실: 0.176398\t정확도: 94.37%\n", - "1\t검증 세트 손실: 0.106044\t최선의 손실: 0.106044\t정확도: 96.40%\n", - "2\t검증 세트 손실: 0.068445\t최선의 손실: 0.068445\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.058436\t최선의 손실: 0.058436\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.053733\t최선의 손실: 0.053733\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.061811\t최선의 손실: 0.053733\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.053496\t최선의 손실: 0.053496\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.045420\t최선의 손실: 0.045420\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.060170\t최선의 손실: 0.045420\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.056050\t최선의 손실: 0.045420\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.050274\t최선의 손실: 0.045420\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.070461\t최선의 손실: 0.045420\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.045541\t최선의 손실: 0.045420\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.056959\t최선의 손실: 0.045420\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.058894\t최선의 손실: 0.045420\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.054790\t최선의 손실: 0.045420\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.071234\t최선의 손실: 0.045420\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.076426\t최선의 손실: 0.045420\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.065854\t최선의 손실: 0.045420\t정확도: 98.83%\n", - "19\t검증 세트 손실: 0.082783\t최선의 손실: 0.045420\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.049891\t최선의 손실: 0.045420\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.053952\t최선의 손실: 0.045420\t정확도: 98.59%\n", - "22\t검증 세트 손실: 0.071388\t최선의 손실: 0.045420\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.060695\t최선의 손실: 0.045420\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.072785\t최선의 손실: 0.045420\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.055535\t최선의 손실: 0.045420\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.058247\t최선의 손실: 0.045420\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.061225\t최선의 손실: 0.045420\t정확도: 98.71%\n", - "28\t검증 세트 손실: 0.059180\t최선의 손실: 0.045420\t정확도: 98.94%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation=, total= 2.6s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.204008\t최선의 손실: 0.204008\t정확도: 93.86%\n", + "1\t검증 세트 손실: 0.098924\t최선의 손실: 0.098924\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.076155\t최선의 손실: 0.076155\t정확도: 97.69%\n", + "3\t검증 세트 손실: 0.070732\t최선의 손실: 0.070732\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.096980\t최선의 손실: 0.070732\t정확도: 97.26%\n", + "5\t검증 세트 손실: 0.064245\t최선의 손실: 0.064245\t정확도: 97.93%\n", + "6\t검증 세트 손실: 0.068066\t최선의 손실: 0.064245\t정확도: 98.08%\n", + "7\t검증 세트 손실: 0.065588\t최선의 손실: 0.064245\t정확도: 98.32%\n", + "8\t검증 세트 손실: 0.057539\t최선의 손실: 0.057539\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.081313\t최선의 손실: 0.057539\t정확도: 98.12%\n", + "10\t검증 세트 손실: 0.064670\t최선의 손실: 0.057539\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.060667\t최선의 손실: 0.057539\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.074157\t최선의 손실: 0.057539\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.049015\t최선의 손실: 0.049015\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.085862\t최선의 손실: 0.049015\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.063543\t최선의 손실: 0.049015\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.060026\t최선의 손실: 0.049015\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.065339\t최선의 손실: 0.049015\t정확도: 98.48%\n", + "18\t검증 세트 손실: 0.066774\t최선의 손실: 0.049015\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.073559\t최선의 손실: 0.049015\t정확도: 98.71%\n", + "20\t검증 세트 손실: 0.075173\t최선의 손실: 0.049015\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.082003\t최선의 손실: 0.049015\t정확도: 98.55%\n", + "22\t검증 세트 손실: 0.080091\t최선의 손실: 0.049015\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.083995\t최선의 손실: 0.049015\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.083284\t최선의 손실: 0.049015\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.075692\t최선의 손실: 0.049015\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.076131\t최선의 손실: 0.049015\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.067768\t최선의 손실: 0.049015\t정확도: 98.75%\n", + "28\t검증 세트 손실: 0.059917\t최선의 손실: 0.049015\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.078394\t최선의 손실: 0.049015\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.074128\t최선의 손실: 0.049015\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.085716\t최선의 손실: 0.049015\t정확도: 98.63%\n", + "32\t검증 세트 손실: 0.080193\t최선의 손실: 0.049015\t정확도: 98.75%\n", + "33\t검증 세트 손실: 0.091033\t최선의 손실: 0.049015\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.091988\t최선의 손실: 0.049015\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, n_neurons=140, total= 2.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30 \n", - "0\t검증 세트 손실: 0.080899\t최선의 손실: 0.080899\t정확도: 97.62%\n", - "1\t검증 세트 손실: 0.086929\t최선의 손실: 0.080899\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.067645\t최선의 손실: 0.067645\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.097675\t최선의 손실: 0.067645\t정확도: 97.15%\n", - "4\t검증 세트 손실: 0.065275\t최선의 손실: 0.065275\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.063906\t최선의 손실: 0.063906\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.064461\t최선의 손실: 0.063906\t정확도: 98.55%\n", - "7\t검증 세트 손실: 0.069317\t최선의 손실: 0.063906\t정확도: 98.12%\n", - "8\t검증 세트 손실: 0.077867\t최선의 손실: 0.063906\t정확도: 98.16%\n", - "9\t검증 세트 손실: 0.070425\t최선의 손실: 0.063906\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.058823\t최선의 손실: 0.058823\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.068192\t최선의 손실: 0.058823\t정확도: 98.48%\n", - "12\t검증 세트 손실: 0.081103\t최선의 손실: 0.058823\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.068341\t최선의 손실: 0.058823\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.058458\t최선의 손실: 0.058458\t정확도: 98.44%\n", - "15\t검증 세트 손실: 0.082741\t최선의 손실: 0.058458\t정확도: 98.01%\n", - "16\t검증 세트 손실: 0.081735\t최선의 손실: 0.058458\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.090354\t최선의 손실: 0.058458\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.085913\t최선의 손실: 0.058458\t정확도: 98.44%\n", - "19\t검증 세트 손실: 0.072368\t최선의 손실: 0.058458\t정확도: 98.20%\n", - "20\t검증 세트 손실: 0.100350\t최선의 손실: 0.058458\t정확도: 98.32%\n", - "21\t검증 세트 손실: 0.080326\t최선의 손실: 0.058458\t정확도: 98.55%\n", - "22\t검증 세트 손실: 0.064068\t최선의 손실: 0.058458\t정확도: 98.12%\n", - "23\t검증 세트 손실: 0.092098\t최선의 손실: 0.058458\t정확도: 98.28%\n", - "24\t검증 세트 손실: 0.068865\t최선의 손실: 0.058458\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.081062\t최선의 손실: 0.058458\t정확도: 98.55%\n", - "26\t검증 세트 손실: 0.084749\t최선의 손실: 0.058458\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.079991\t최선의 손실: 0.058458\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.102478\t최선의 손실: 0.058458\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.096927\t최선의 손실: 0.058458\t정확도: 98.36%\n", - "30\t검증 세트 손실: 0.082304\t최선의 손실: 0.058458\t정확도: 98.12%\n", - "31\t검증 세트 손실: 0.091970\t최선의 손실: 0.058458\t정확도: 98.20%\n", - "32\t검증 세트 손실: 0.117607\t최선의 손실: 0.058458\t정확도: 98.59%\n", - "33\t검증 세트 손실: 0.086787\t최선의 손실: 0.058458\t정확도: 98.67%\n", - "34\t검증 세트 손실: 0.094951\t최선의 손실: 0.058458\t정확도: 98.36%\n", - "35\t검증 세트 손실: 0.125504\t최선의 손실: 0.058458\t정확도: 97.97%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation=, total= 2.6s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.191587\t최선의 손실: 0.191587\t정확도: 94.76%\n", + "1\t검증 세트 손실: 0.098329\t최선의 손실: 0.098329\t정확도: 96.95%\n", + "2\t검증 세트 손실: 0.082294\t최선의 손실: 0.082294\t정확도: 97.54%\n", + "3\t검증 세트 손실: 0.063674\t최선의 손실: 0.063674\t정확도: 98.12%\n", + "4\t검증 세트 손실: 0.069275\t최선의 손실: 0.063674\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.057260\t최선의 손실: 0.057260\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.066339\t최선의 손실: 0.057260\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.066219\t최선의 손실: 0.057260\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.064202\t최선의 손실: 0.057260\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.044129\t최선의 손실: 0.044129\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.057828\t최선의 손실: 0.044129\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.065924\t최선의 손실: 0.044129\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.072007\t최선의 손실: 0.044129\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.080304\t최선의 손실: 0.044129\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.064118\t최선의 손실: 0.044129\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.056686\t최선의 손실: 0.044129\t정확도: 98.59%\n", + "16\t검증 세트 손실: 0.072711\t최선의 손실: 0.044129\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.065387\t최선의 손실: 0.044129\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.070124\t최선의 손실: 0.044129\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.060190\t최선의 손실: 0.044129\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.074600\t최선의 손실: 0.044129\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.075130\t최선의 손실: 0.044129\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.089816\t최선의 손실: 0.044129\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.073246\t최선의 손실: 0.044129\t정확도: 98.40%\n", + "24\t검증 세트 손실: 0.074940\t최선의 손실: 0.044129\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.080209\t최선의 손실: 0.044129\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.108771\t최선의 손실: 0.044129\t정확도: 97.69%\n", + "27\t검증 세트 손실: 0.067212\t최선의 손실: 0.044129\t정확도: 98.28%\n", + "28\t검증 세트 손실: 0.065345\t최선의 손실: 0.044129\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.073620\t최선의 손실: 0.044129\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.057172\t최선의 손실: 0.044129\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30, total= 6.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30 \n", - "0\t검증 세트 손실: 0.133944\t최선의 손실: 0.133944\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.071065\t최선의 손실: 0.071065\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.080428\t최선의 손실: 0.071065\t정확도: 97.46%\n", - "3\t검증 세트 손실: 0.073572\t최선의 손실: 0.071065\t정확도: 97.81%\n", - "4\t검증 세트 손실: 0.078816\t최선의 손실: 0.071065\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.070823\t최선의 손실: 0.070823\t정확도: 97.97%\n", - "6\t검증 세트 손실: 0.068107\t최선의 손실: 0.068107\t정확도: 97.93%\n", - "7\t검증 세트 손실: 0.064171\t최선의 손실: 0.064171\t정확도: 98.08%\n", - "8\t검증 세트 손실: 0.061481\t최선의 손실: 0.061481\t정확도: 98.20%\n", - "9\t검증 세트 손실: 0.065495\t최선의 손실: 0.061481\t정확도: 98.32%\n", - "10\t검증 세트 손실: 0.074713\t최선의 손실: 0.061481\t정확도: 97.93%\n", - "11\t검증 세트 손실: 0.093392\t최선의 손실: 0.061481\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.069908\t최선의 손실: 0.061481\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.062453\t최선의 손실: 0.061481\t정확도: 98.24%\n", - "14\t검증 세트 손실: 0.080277\t최선의 손실: 0.061481\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.074390\t최선의 손실: 0.061481\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.089892\t최선의 손실: 0.061481\t정확도: 97.69%\n", - "17\t검증 세트 손실: 0.095613\t최선의 손실: 0.061481\t정확도: 97.81%\n", - "18\t검증 세트 손실: 0.087863\t최선의 손실: 0.061481\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.091383\t최선의 손실: 0.061481\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.076829\t최선의 손실: 0.061481\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.079899\t최선의 손실: 0.061481\t정확도: 98.36%\n", - "22\t검증 세트 손실: 0.126113\t최선의 손실: 0.061481\t정확도: 97.46%\n", - "23\t검증 세트 손실: 0.075031\t최선의 손실: 0.061481\t정확도: 98.32%\n", - "24\t검증 세트 손실: 0.079582\t최선의 손실: 0.061481\t정확도: 98.63%\n", - "25\t검증 세트 손실: 0.106970\t최선의 손실: 0.061481\t정확도: 98.20%\n", - "26\t검증 세트 손실: 0.081104\t최선의 손실: 0.061481\t정확도: 98.24%\n", - "27\t검증 세트 손실: 0.096702\t최선의 손실: 0.061481\t정확도: 98.08%\n", - "28\t검증 세트 손실: 0.134037\t최선의 손실: 0.061481\t정확도: 97.85%\n", - "29\t검증 세트 손실: 0.095820\t최선의 손실: 0.061481\t정확도: 97.93%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.107187\t최선의 손실: 0.107187\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.086880\t최선의 손실: 0.086880\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.079753\t최선의 손실: 0.079753\t정확도: 97.50%\n", + "3\t검증 세트 손실: 0.072893\t최선의 손실: 0.072893\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.091367\t최선의 손실: 0.072893\t정확도: 97.62%\n", + "5\t검증 세트 손실: 0.061805\t최선의 손실: 0.061805\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.060303\t최선의 손실: 0.060303\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.059934\t최선의 손실: 0.059934\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.055398\t최선의 손실: 0.055398\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.087388\t최선의 손실: 0.055398\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.052621\t최선의 손실: 0.052621\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.067186\t최선의 손실: 0.052621\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.070845\t최선의 손실: 0.052621\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.073472\t최선의 손실: 0.052621\t정확도: 98.24%\n", + "14\t검증 세트 손실: 0.069998\t최선의 손실: 0.052621\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.084525\t최선의 손실: 0.052621\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.082353\t최선의 손실: 0.052621\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.067183\t최선의 손실: 0.052621\t정확도: 98.51%\n", + "18\t검증 세트 손실: 0.061245\t최선의 손실: 0.052621\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.099791\t최선의 손실: 0.052621\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.077419\t최선의 손실: 0.052621\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.094452\t최선의 손실: 0.052621\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.089565\t최선의 손실: 0.052621\t정확도: 98.71%\n", + "23\t검증 세트 손실: 0.084795\t최선의 손실: 0.052621\t정확도: 98.05%\n", + "24\t검증 세트 손실: 0.093434\t최선의 손실: 0.052621\t정확도: 98.40%\n", + "25\t검증 세트 손실: 0.072418\t최선의 손실: 0.052621\t정확도: 98.16%\n", + "26\t검증 세트 손실: 0.099519\t최선의 손실: 0.052621\t정확도: 98.55%\n", + "27\t검증 세트 손실: 0.068201\t최선의 손실: 0.052621\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.067415\t최선의 손실: 0.052621\t정확도: 98.48%\n", + "29\t검증 세트 손실: 0.082039\t최선의 손실: 0.052621\t정확도: 98.63%\n", + "30\t검증 세트 손실: 0.090125\t최선의 손실: 0.052621\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.077919\t최선의 손실: 0.052621\t정확도: 98.28%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30, total= 5.8s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30 \n", - "0\t검증 세트 손실: 0.089724\t최선의 손실: 0.089724\t정확도: 97.50%\n", - "1\t검증 세트 손실: 0.083544\t최선의 손실: 0.083544\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.071631\t최선의 손실: 0.071631\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.077266\t최선의 손실: 0.071631\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.061176\t최선의 손실: 0.061176\t정확도: 98.32%\n", - "5\t검증 세트 손실: 0.070229\t최선의 손실: 0.061176\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.071452\t최선의 손실: 0.061176\t정확도: 98.36%\n", - "7\t검증 세트 손실: 0.058201\t최선의 손실: 0.058201\t정확도: 98.28%\n", - "8\t검증 세트 손실: 0.077724\t최선의 손실: 0.058201\t정확도: 98.48%\n", - "9\t검증 세트 손실: 0.072952\t최선의 손실: 0.058201\t정확도: 98.20%\n" + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation=, total= 6.1s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.126281\t최선의 손실: 0.126281\t정확도: 96.25%\n", + "1\t검증 세트 손실: 0.097595\t최선의 손실: 0.097595\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.063922\t최선의 손실: 0.063922\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.073158\t최선의 손실: 0.063922\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.062666\t최선의 손실: 0.062666\t정확도: 98.20%\n", + "5\t검증 세트 손실: 0.060717\t최선의 손실: 0.060717\t정확도: 98.20%\n", + "6\t검증 세트 손실: 0.063730\t최선의 손실: 0.060717\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.061865\t최선의 손실: 0.060717\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.072504\t최선의 손실: 0.060717\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.084899\t최선의 손실: 0.060717\t정확도: 97.77%\n", + "10\t검증 세트 손실: 0.072000\t최선의 손실: 0.060717\t정확도: 98.16%\n", + "11\t검증 세트 손실: 0.085472\t최선의 손실: 0.060717\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.070875\t최선의 손실: 0.060717\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.073289\t최선의 손실: 0.060717\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.085270\t최선의 손실: 0.060717\t정확도: 98.16%\n", + "15\t검증 세트 손실: 0.066707\t최선의 손실: 0.060717\t정확도: 98.28%\n", + "16\t검증 세트 손실: 0.066595\t최선의 손실: 0.060717\t정확도: 98.51%\n", + "17\t검증 세트 손실: 0.068105\t최선의 손실: 0.060717\t정확도: 98.55%\n", + "18\t검증 세트 손실: 0.079283\t최선의 손실: 0.060717\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.072981\t최선의 손실: 0.060717\t정확도: 98.44%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 0.078914\t최선의 손실: 0.058201\t정확도: 98.16%\n", - "11\t검증 세트 손실: 0.065126\t최선의 손실: 0.058201\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.084432\t최선의 손실: 0.058201\t정확도: 97.69%\n", - "13\t검증 세트 손실: 0.077058\t최선의 손실: 0.058201\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.092233\t최선의 손실: 0.058201\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.090472\t최선의 손실: 0.058201\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.105631\t최선의 손실: 0.058201\t정확도: 97.81%\n", - "17\t검증 세트 손실: 0.082115\t최선의 손실: 0.058201\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.085675\t최선의 손실: 0.058201\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.075742\t최선의 손실: 0.058201\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.069197\t최선의 손실: 0.058201\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.077932\t최선의 손실: 0.058201\t정확도: 98.55%\n", - "22\t검증 세트 손실: 0.083667\t최선의 손실: 0.058201\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.076434\t최선의 손실: 0.058201\t정확도: 98.32%\n", - "24\t검증 세트 손실: 0.105803\t최선의 손실: 0.058201\t정확도: 98.28%\n", - "25\t검증 세트 손실: 0.092556\t최선의 손실: 0.058201\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.109842\t최선의 손실: 0.058201\t정확도: 97.93%\n", - "27\t검증 세트 손실: 0.086381\t최선의 손실: 0.058201\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.081117\t최선의 손실: 0.058201\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.088357\t최선의 손실: 0.060717\t정확도: 98.40%\n", + "21\t검증 세트 손실: 0.080768\t최선의 손실: 0.060717\t정확도: 98.63%\n", + "22\t검증 세트 손실: 0.087830\t최선의 손실: 0.060717\t정확도: 98.28%\n", + "23\t검증 세트 손실: 0.085311\t최선의 손실: 0.060717\t정확도: 98.08%\n", + "24\t검증 세트 손실: 0.088354\t최선의 손실: 0.060717\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.083553\t최선의 손실: 0.060717\t정확도: 98.48%\n", + "26\t검증 세트 손실: 0.115659\t최선의 손실: 0.060717\t정확도: 98.28%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=30, total= 5.5s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.160262\t최선의 손실: 0.160262\t정확도: 95.23%\n", - "1\t검증 세트 손실: 0.100659\t최선의 손실: 0.100659\t정확도: 96.87%\n", - "2\t검증 세트 손실: 0.080187\t최선의 손실: 0.080187\t정확도: 97.38%\n", - "3\t검증 세트 손실: 0.081639\t최선의 손실: 0.080187\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.072798\t최선의 손실: 0.072798\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.077768\t최선의 손실: 0.072798\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.070504\t최선의 손실: 0.070504\t정확도: 97.85%\n", - "7\t검증 세트 손실: 0.070825\t최선의 손실: 0.070504\t정확도: 97.93%\n", - "8\t검증 세트 손실: 0.055643\t최선의 손실: 0.055643\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.076649\t최선의 손실: 0.055643\t정확도: 98.16%\n", - "10\t검증 세트 손실: 0.090530\t최선의 손실: 0.055643\t정확도: 97.81%\n", - "11\t검증 세트 손실: 0.077155\t최선의 손실: 0.055643\t정확도: 97.89%\n", - "12\t검증 세트 손실: 0.065595\t최선의 손실: 0.055643\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.075640\t최선의 손실: 0.055643\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.075739\t최선의 손실: 0.055643\t정확도: 98.05%\n", - "15\t검증 세트 손실: 0.101385\t최선의 손실: 0.055643\t정확도: 98.05%\n", - "16\t검증 세트 손실: 0.061411\t최선의 손실: 0.055643\t정확도: 98.20%\n", - "17\t검증 세트 손실: 0.121962\t최선의 손실: 0.055643\t정확도: 97.38%\n", - "18\t검증 세트 손실: 0.092972\t최선의 손실: 0.055643\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.083629\t최선의 손실: 0.055643\t정확도: 98.32%\n", - "20\t검증 세트 손실: 0.084502\t최선의 손실: 0.055643\t정확도: 98.24%\n", - "21\t검증 세트 손실: 0.124567\t최선의 손실: 0.055643\t정확도: 98.01%\n", - "22\t검증 세트 손실: 0.119193\t최선의 손실: 0.055643\t정확도: 98.16%\n", - "23\t검증 세트 손실: 0.110082\t최선의 손실: 0.055643\t정확도: 97.81%\n", - "24\t검증 세트 손실: 0.102506\t최선의 손실: 0.055643\t정확도: 97.93%\n", - "25\t검증 세트 손실: 0.089855\t최선의 손실: 0.055643\t정확도: 98.32%\n", - "26\t검증 세트 손실: 0.108907\t최선의 손실: 0.055643\t정확도: 97.85%\n", - "27\t검증 세트 손실: 0.107569\t최선의 손실: 0.055643\t정확도: 98.05%\n", - "28\t검증 세트 손실: 0.139499\t최선의 손실: 0.055643\t정확도: 98.08%\n", - "29\t검증 세트 손실: 0.099804\t최선의 손실: 0.055643\t정확도: 98.12%\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation=, total= 5.1s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.084926\t최선의 손실: 0.084926\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.118245\t최선의 손실: 0.084926\t정확도: 96.36%\n", + "2\t검증 세트 손실: 0.068262\t최선의 손실: 0.068262\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.064606\t최선의 손실: 0.064606\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.061203\t최선의 손실: 0.061203\t정확도: 98.20%\n", + "5\t검증 세트 손실: 0.079950\t최선의 손실: 0.061203\t정확도: 98.01%\n", + "6\t검증 세트 손실: 0.045502\t최선의 손실: 0.045502\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.071773\t최선의 손실: 0.045502\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.061398\t최선의 손실: 0.045502\t정확도: 98.67%\n", + "9\t검증 세트 손실: 0.060592\t최선의 손실: 0.045502\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.068786\t최선의 손실: 0.045502\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.061620\t최선의 손실: 0.045502\t정확도: 98.01%\n", + "12\t검증 세트 손실: 0.058707\t최선의 손실: 0.045502\t정확도: 98.51%\n", + "13\t검증 세트 손실: 0.067726\t최선의 손실: 0.045502\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.062331\t최선의 손실: 0.045502\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.065567\t최선의 손실: 0.045502\t정확도: 98.51%\n", + "16\t검증 세트 손실: 0.089219\t최선의 손실: 0.045502\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.067485\t최선의 손실: 0.045502\t정확도: 98.32%\n", + "18\t검증 세트 손실: 0.084847\t최선의 손실: 0.045502\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.077967\t최선의 손실: 0.045502\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.089944\t최선의 손실: 0.045502\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.079596\t최선의 손실: 0.045502\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.074627\t최선의 손실: 0.045502\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.080398\t최선의 손실: 0.045502\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.106609\t최선의 손실: 0.045502\t정확도: 98.20%\n", + "25\t검증 세트 손실: 0.090824\t최선의 손실: 0.045502\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.079267\t최선의 손실: 0.045502\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.118358\t최선의 손실: 0.045502\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 2.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.153423\t최선의 손실: 0.153423\t정확도: 95.78%\n", - "1\t검증 세트 손실: 0.102476\t최선의 손실: 0.102476\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.079294\t최선의 손실: 0.079294\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.072379\t최선의 손실: 0.072379\t정확도: 97.89%\n", - "4\t검증 세트 손실: 0.082705\t최선의 손실: 0.072379\t정확도: 97.42%\n", - "5\t검증 세트 손실: 0.075357\t최선의 손실: 0.072379\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.068994\t최선의 손실: 0.068994\t정확도: 97.85%\n", - "7\t검증 세트 손실: 0.067877\t최선의 손실: 0.067877\t정확도: 97.81%\n", - "8\t검증 세트 손실: 0.072242\t최선의 손실: 0.067877\t정확도: 98.08%\n", - "9\t검증 세트 손실: 0.082041\t최선의 손실: 0.067877\t정확도: 97.89%\n", - "10\t검증 세트 손실: 0.061254\t최선의 손실: 0.061254\t정확도: 98.16%\n", - "11\t검증 세트 손실: 0.102034\t최선의 손실: 0.061254\t정확도: 97.54%\n", - "12\t검증 세트 손실: 0.077375\t최선의 손실: 0.061254\t정확도: 98.24%\n", - "13\t검증 세트 손실: 0.094210\t최선의 손실: 0.061254\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.064804\t최선의 손실: 0.061254\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.084054\t최선의 손실: 0.061254\t정확도: 98.01%\n", - "16\t검증 세트 손실: 0.083359\t최선의 손실: 0.061254\t정확도: 97.81%\n", - "17\t검증 세트 손실: 0.063826\t최선의 손실: 0.061254\t정확도: 98.01%\n", - "18\t검증 세트 손실: 0.080522\t최선의 손실: 0.061254\t정확도: 98.16%\n", - "19\t검증 세트 손실: 0.064327\t최선의 손실: 0.061254\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.069200\t최선의 손실: 0.061254\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.079504\t최선의 손실: 0.061254\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.064423\t최선의 손실: 0.061254\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.066099\t최선의 손실: 0.061254\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.067042\t최선의 손실: 0.061254\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.076443\t최선의 손실: 0.061254\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.082615\t최선의 손실: 0.061254\t정확도: 98.01%\n", - "27\t검증 세트 손실: 0.073807\t최선의 손실: 0.061254\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.079079\t최선의 손실: 0.061254\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.076373\t최선의 손실: 0.061254\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.086683\t최선의 손실: 0.061254\t정확도: 98.16%\n", - "31\t검증 세트 손실: 0.102502\t최선의 손실: 0.061254\t정확도: 98.01%\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, activation=, total= 5.3s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.231504\t최선의 손실: 0.231504\t정확도: 93.47%\n", + "1\t검증 세트 손실: 0.103681\t최선의 손실: 0.103681\t정확도: 96.76%\n", + "2\t검증 세트 손실: 0.093133\t최선의 손실: 0.093133\t정확도: 96.95%\n", + "3\t검증 세트 손실: 0.081081\t최선의 손실: 0.081081\t정확도: 97.46%\n", + "4\t검증 세트 손실: 0.092595\t최선의 손실: 0.081081\t정확도: 97.26%\n", + "5\t검증 세트 손실: 0.079465\t최선의 손실: 0.079465\t정확도: 97.77%\n", + "6\t검증 세트 손실: 0.089236\t최선의 손실: 0.079465\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.087552\t최선의 손실: 0.079465\t정확도: 97.85%\n", + "8\t검증 세트 손실: 0.093968\t최선의 손실: 0.079465\t정확도: 97.50%\n", + "9\t검증 세트 손실: 0.074897\t최선의 손실: 0.074897\t정확도: 97.73%\n", + "10\t검증 세트 손실: 0.063561\t최선의 손실: 0.063561\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.072922\t최선의 손실: 0.063561\t정확도: 98.01%\n", + "12\t검증 세트 손실: 0.071053\t최선의 손실: 0.063561\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.080192\t최선의 손실: 0.063561\t정확도: 98.12%\n", + "14\t검증 세트 손실: 0.091031\t최선의 손실: 0.063561\t정확도: 97.77%\n", + "15\t검증 세트 손실: 0.072661\t최선의 손실: 0.063561\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.109948\t최선의 손실: 0.063561\t정확도: 97.58%\n", + "17\t검증 세트 손실: 0.083691\t최선의 손실: 0.063561\t정확도: 97.97%\n", + "18\t검증 세트 손실: 0.104706\t최선의 손실: 0.063561\t정확도: 98.36%\n", + "19\t검증 세트 손실: 0.087329\t최선의 손실: 0.063561\t정확도: 97.69%\n", + "20\t검증 세트 손실: 0.101746\t최선의 손실: 0.063561\t정확도: 98.12%\n", + "21\t검증 세트 손실: 0.088781\t최선의 손실: 0.063561\t정확도: 98.16%\n", + "22\t검증 세트 손실: 0.070656\t최선의 손실: 0.063561\t정확도: 98.55%\n", + "23\t검증 세트 손실: 0.074232\t최선의 손실: 0.063561\t정확도: 98.51%\n", + "24\t검증 세트 손실: 0.073928\t최선의 손실: 0.063561\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.089024\t최선의 손실: 0.063561\t정확도: 98.32%\n", + "26\t검증 세트 손실: 0.103423\t최선의 손실: 0.063561\t정확도: 98.20%\n", + "27\t검증 세트 손실: 0.129043\t최선의 손실: 0.063561\t정확도: 97.58%\n", + "28\t검증 세트 손실: 0.147010\t최선의 손실: 0.063561\t정확도: 97.77%\n", + "29\t검증 세트 손실: 0.127735\t최선의 손실: 0.063561\t정확도: 97.73%\n", + "30\t검증 세트 손실: 0.099344\t최선의 손실: 0.063561\t정확도: 98.16%\n", + "31\t검증 세트 손실: 0.100067\t최선의 손실: 0.063561\t정확도: 98.12%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 3.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50 \n", - "0\t검증 세트 손실: 0.197061\t최선의 손실: 0.197061\t정확도: 94.61%\n", - "1\t검증 세트 손실: 0.123727\t최선의 손실: 0.123727\t정확도: 96.36%\n", - "2\t검증 세트 손실: 0.098659\t최선의 손실: 0.098659\t정확도: 97.42%\n", - "3\t검증 세트 손실: 0.090791\t최선의 손실: 0.090791\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.085404\t최선의 손실: 0.085404\t정확도: 97.58%\n", - "5\t검증 세트 손실: 0.077603\t최선의 손실: 0.077603\t정확도: 97.73%\n", - "6\t검증 세트 손실: 0.078992\t최선의 손실: 0.077603\t정확도: 97.85%\n", - "7\t검증 세트 손실: 0.077411\t최선의 손실: 0.077411\t정확도: 97.54%\n", - "8\t검증 세트 손실: 0.075559\t최선의 손실: 0.075559\t정확도: 97.62%\n", - "9\t검증 세트 손실: 0.066374\t최선의 손실: 0.066374\t정확도: 98.32%\n", - "10\t검증 세트 손실: 0.075748\t최선의 손실: 0.066374\t정확도: 98.01%\n", - "11\t검증 세트 손실: 0.070875\t최선의 손실: 0.066374\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.087676\t최선의 손실: 0.066374\t정확도: 97.77%\n", - "13\t검증 세트 손실: 0.137549\t최선의 손실: 0.066374\t정확도: 97.07%\n", - "14\t검증 세트 손실: 0.089437\t최선의 손실: 0.066374\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.083123\t최선의 손실: 0.066374\t정확도: 97.85%\n", - "16\t검증 세트 손실: 0.093365\t최선의 손실: 0.066374\t정확도: 97.97%\n", - "17\t검증 세트 손실: 0.082568\t최선의 손실: 0.066374\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.076299\t최선의 손실: 0.066374\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.063424\t최선의 손실: 0.063424\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.060626\t최선의 손실: 0.060626\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.100935\t최선의 손실: 0.060626\t정확도: 97.73%\n", - "22\t검증 세트 손실: 0.078307\t최선의 손실: 0.060626\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.068938\t최선의 손실: 0.060626\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.074617\t최선의 손실: 0.060626\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.083491\t최선의 손실: 0.060626\t정확도: 98.01%\n", - "26\t검증 세트 손실: 0.071231\t최선의 손실: 0.060626\t정확도: 98.44%\n", - "27\t검증 세트 손실: 0.092019\t최선의 손실: 0.060626\t정확도: 98.05%\n", - "28\t검증 세트 손실: 0.100253\t최선의 손실: 0.060626\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.103174\t최선의 손실: 0.060626\t정확도: 97.93%\n", - "30\t검증 세트 손실: 0.086439\t최선의 손실: 0.060626\t정확도: 98.08%\n", - "31\t검증 세트 손실: 0.073938\t최선의 손실: 0.060626\t정확도: 98.51%\n", - "32\t검증 세트 손실: 0.074669\t최선의 손실: 0.060626\t정확도: 98.59%\n", - "33\t검증 세트 손실: 0.078257\t최선의 손실: 0.060626\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.082806\t최선의 손실: 0.060626\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.094371\t최선의 손실: 0.060626\t정확도: 98.48%\n", - "36\t검증 세트 손실: 0.083087\t최선의 손실: 0.060626\t정확도: 98.24%\n", - "37\t검증 세트 손실: 0.082361\t최선의 손실: 0.060626\t정확도: 98.44%\n", - "38\t검증 세트 손실: 0.092762\t최선의 손실: 0.060626\t정확도: 98.24%\n", - "39\t검증 세트 손실: 0.079691\t최선의 손실: 0.060626\t정확도: 98.67%\n", - "40\t검증 세트 손실: 0.089438\t최선의 손실: 0.060626\t정확도: 98.44%\n", - "41\t검증 세트 손실: 0.091520\t최선의 손실: 0.060626\t정확도: 98.32%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 2.7s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.218871\t최선의 손실: 0.218871\t정확도: 94.02%\n", + "1\t검증 세트 손실: 0.130858\t최선의 손실: 0.130858\t정확도: 95.78%\n", + "2\t검증 세트 손실: 0.081723\t최선의 손실: 0.081723\t정확도: 97.50%\n", + "3\t검증 세트 손실: 0.082946\t최선의 손실: 0.081723\t정확도: 97.50%\n", + "4\t검증 세트 손실: 0.082653\t최선의 손실: 0.081723\t정확도: 97.54%\n", + "5\t검증 세트 손실: 0.081267\t최선의 손실: 0.081267\t정확도: 97.30%\n", + "6\t검증 세트 손실: 0.093864\t최선의 손실: 0.081267\t정확도: 97.34%\n", + "7\t검증 세트 손실: 0.066194\t최선의 손실: 0.066194\t정확도: 97.89%\n", + "8\t검증 세트 손실: 0.092851\t최선의 손실: 0.066194\t정확도: 97.65%\n", + "9\t검증 세트 손실: 0.070218\t최선의 손실: 0.066194\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.080442\t최선의 손실: 0.066194\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.063918\t최선의 손실: 0.063918\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.061187\t최선의 손실: 0.061187\t정확도: 98.32%\n", + "13\t검증 세트 손실: 0.092856\t최선의 손실: 0.061187\t정확도: 97.85%\n", + "14\t검증 세트 손실: 0.099968\t최선의 손실: 0.061187\t정확도: 97.03%\n", + "15\t검증 세트 손실: 0.073104\t최선의 손실: 0.061187\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.076859\t최선의 손실: 0.061187\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.072458\t최선의 손실: 0.061187\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.065386\t최선의 손실: 0.061187\t정확도: 98.40%\n", + "19\t검증 세트 손실: 0.079545\t최선의 손실: 0.061187\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.141283\t최선의 손실: 0.061187\t정확도: 97.50%\n", + "21\t검증 세트 손실: 1195.502441\t최선의 손실: 0.061187\t정확도: 29.63%\n", + "22\t검증 세트 손실: 4206.711426\t최선의 손실: 0.061187\t정확도: 38.00%\n", + "23\t검증 세트 손실: 122.583382\t최선의 손실: 0.061187\t정확도: 76.27%\n", + "24\t검증 세트 손실: 23.165545\t최선의 손실: 0.061187\t정확도: 89.95%\n", + "25\t검증 세트 손실: 13.074283\t최선의 손실: 0.061187\t정확도: 92.81%\n", + "26\t검증 세트 손실: 10.225644\t최선의 손실: 0.061187\t정확도: 93.28%\n", + "27\t검증 세트 손실: 10.614150\t최선의 손실: 0.061187\t정확도: 91.99%\n", + "28\t검증 세트 손실: 9.347154\t최선의 손실: 0.061187\t정확도: 91.59%\n", + "29\t검증 세트 손실: 6.933113\t최선의 손실: 0.061187\t정확도: 93.78%\n", + "30\t검증 세트 손실: 6.970280\t최선의 손실: 0.061187\t정확도: 93.08%\n", + "31\t검증 세트 손실: 5.499762\t최선의 손실: 0.061187\t정확도: 94.18%\n", + "32\t검증 세트 손실: 5.790934\t최선의 손실: 0.061187\t정확도: 92.81%\n", + "33\t검증 세트 손실: 5.158338\t최선의 손실: 0.061187\t정확도: 93.82%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.05, n_neurons=50, total= 3.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.098050\t최선의 손실: 0.098050\t정확도: 97.11%\n", - "1\t검증 세트 손실: 0.121009\t최선의 손실: 0.098050\t정확도: 96.48%\n", - "2\t검증 세트 손실: 0.082243\t최선의 손실: 0.082243\t정확도: 97.58%\n", - "3\t검증 세트 손실: 0.090979\t최선의 손실: 0.082243\t정확도: 97.65%\n", - "4\t검증 세트 손실: 0.069501\t최선의 손실: 0.069501\t정확도: 98.12%\n", - "5\t검증 세트 손실: 3.556787\t최선의 손실: 0.069501\t정확도: 87.80%\n", - "6\t검증 세트 손실: 0.889255\t최선의 손실: 0.069501\t정확도: 94.10%\n", - "7\t검증 세트 손실: 0.404884\t최선의 손실: 0.069501\t정확도: 94.84%\n", - "8\t검증 세트 손실: 0.319005\t최선의 손실: 0.069501\t정확도: 96.36%\n", - "9\t검증 세트 손실: 0.259473\t최선의 손실: 0.069501\t정확도: 95.23%\n", - "10\t검증 세트 손실: 0.317733\t최선의 손실: 0.069501\t정확도: 95.90%\n", - "11\t검증 세트 손실: 0.790930\t최선의 손실: 0.069501\t정확도: 93.71%\n", - "12\t검증 세트 손실: 0.200749\t최선의 손실: 0.069501\t정확도: 96.01%\n", - "13\t검증 세트 손실: 0.177936\t최선의 손실: 0.069501\t정확도: 96.44%\n", - "14\t검증 세트 손실: 0.253150\t최선의 손실: 0.069501\t정확도: 95.50%\n", - "15\t검증 세트 손실: 0.158879\t최선의 손실: 0.069501\t정확도: 96.95%\n" + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 2.8s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.177167\t최선의 손실: 0.177167\t정확도: 94.72%\n", + "1\t검증 세트 손실: 0.094516\t최선의 손실: 0.094516\t정확도: 97.07%\n", + "2\t검증 세트 손실: 0.076459\t최선의 손실: 0.076459\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.093112\t최선의 손실: 0.076459\t정확도: 97.73%\n", + "4\t검증 세트 손실: 0.086359\t최선의 손실: 0.076459\t정확도: 97.73%\n", + "5\t검증 세트 손실: 0.077950\t최선의 손실: 0.076459\t정확도: 97.89%\n", + "6\t검증 세트 손실: 0.063568\t최선의 손실: 0.063568\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.077128\t최선의 손실: 0.063568\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.082520\t최선의 손실: 0.063568\t정확도: 97.34%\n", + "9\t검증 세트 손실: 0.074823\t최선의 손실: 0.063568\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.092240\t최선의 손실: 0.063568\t정확도: 97.93%\n", + "11\t검증 세트 손실: 0.065241\t최선의 손실: 0.063568\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.072354\t최선의 손실: 0.063568\t정확도: 98.32%\n", + "13\t검증 세트 손실: 0.078228\t최선의 손실: 0.063568\t정확도: 98.20%\n", + "14\t검증 세트 손실: 0.081299\t최선의 손실: 0.063568\t정확도: 98.12%\n", + "15\t검증 세트 손실: 0.080559\t최선의 손실: 0.063568\t정확도: 97.97%\n", + "16\t검증 세트 손실: 0.081909\t최선의 손실: 0.063568\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.099634\t최선의 손실: 0.063568\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.083080\t최선의 손실: 0.063568\t정확도: 97.89%\n", + "19\t검증 세트 손실: 0.095880\t최선의 손실: 0.063568\t정확도: 98.08%\n", + "20\t검증 세트 손실: 0.083466\t최선의 손실: 0.063568\t정확도: 98.28%\n", + "21\t검증 세트 손실: 0.064029\t최선의 손실: 0.063568\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.063688\t최선의 손실: 0.063568\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.054329\t최선의 손실: 0.054329\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.071483\t최선의 손실: 0.054329\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.075270\t최선의 손실: 0.054329\t정확도: 98.55%\n", + "26\t검증 세트 손실: 0.078103\t최선의 손실: 0.054329\t정확도: 98.40%\n", + "27\t검증 세트 손실: 0.094517\t최선의 손실: 0.054329\t정확도: 98.40%\n", + "28\t검증 세트 손실: 0.086553\t최선의 손실: 0.054329\t정확도: 98.36%\n", + "29\t검증 세트 손실: 0.087226\t최선의 손실: 0.054329\t정확도: 97.73%\n", + "30\t검증 세트 손실: 0.087995\t최선의 손실: 0.054329\t정확도: 98.12%\n", + "31\t검증 세트 손실: 0.078283\t최선의 손실: 0.054329\t정확도: 98.55%\n", + "32\t검증 세트 손실: 0.083010\t최선의 손실: 0.054329\t정확도: 98.36%\n", + "33\t검증 세트 손실: 0.084723\t최선의 손실: 0.054329\t정확도: 98.16%\n", + "34\t검증 세트 손실: 0.161365\t최선의 손실: 0.054329\t정확도: 98.51%\n", + "35\t검증 세트 손실: 17835.121094\t최선의 손실: 0.054329\t정확도: 38.27%\n", + "36\t검증 세트 손실: 683.548584\t최선의 손실: 0.054329\t정확도: 64.31%\n", + "37\t검증 세트 손실: 58.664143\t최선의 손실: 0.054329\t정확도: 93.55%\n", + "38\t검증 세트 손실: 46.832237\t최선의 손실: 0.054329\t정확도: 92.06%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "16\t검증 세트 손실: 0.144042\t최선의 손실: 0.069501\t정확도: 96.48%\n", - "17\t검증 세트 손실: 0.170115\t최선의 손실: 0.069501\t정확도: 97.03%\n", - "18\t검증 세트 손실: 0.140658\t최선의 손실: 0.069501\t정확도: 96.95%\n", - "19\t검증 세트 손실: 0.245837\t최선의 손실: 0.069501\t정확도: 94.21%\n", - "20\t검증 세트 손실: 0.180271\t최선의 손실: 0.069501\t정확도: 96.56%\n", - "21\t검증 세트 손실: 0.169416\t최선의 손실: 0.069501\t정확도: 96.33%\n", - "22\t검증 세트 손실: 0.203975\t최선의 손실: 0.069501\t정확도: 96.99%\n", - "23\t검증 세트 손실: 0.133772\t최선의 손실: 0.069501\t정확도: 96.99%\n", - "24\t검증 세트 손실: 0.446753\t최선의 손실: 0.069501\t정확도: 94.80%\n", - "25\t검증 세트 손실: 0.411719\t최선의 손실: 0.069501\t정확도: 95.58%\n", + "39\t검증 세트 손실: 40.036705\t최선의 손실: 0.054329\t정확도: 94.53%\n", + "40\t검증 세트 손실: 38.206207\t최선의 손실: 0.054329\t정확도: 94.72%\n", + "41\t검증 세트 손실: 39.729160\t최선의 손실: 0.054329\t정확도: 94.06%\n", + "42\t검증 세트 손실: 33.300644\t최선의 손실: 0.054329\t정확도: 95.11%\n", + "43\t검증 세트 손실: 44.390984\t최선의 손실: 0.054329\t정확도: 94.14%\n", + "44\t검증 세트 손실: 43.630272\t최선의 손실: 0.054329\t정확도: 94.49%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70, total= 7.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.095429\t최선의 손실: 0.095429\t정확도: 97.11%\n", - "1\t검증 세트 손실: 0.091871\t최선의 손실: 0.091871\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.075460\t최선의 손실: 0.075460\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.118922\t최선의 손실: 0.075460\t정확도: 96.95%\n", - "4\t검증 세트 손실: 0.100172\t최선의 손실: 0.075460\t정확도: 97.30%\n", - "5\t검증 세트 손실: 4.459483\t최선의 손실: 0.075460\t정확도: 95.82%\n", - "6\t검증 세트 손실: 1.384358\t최선의 손실: 0.075460\t정확도: 95.97%\n", - "7\t검증 세트 손실: 1.083951\t최선의 손실: 0.075460\t정확도: 96.72%\n", - "8\t검증 세트 손실: 0.610901\t최선의 손실: 0.075460\t정확도: 96.87%\n", - "9\t검증 세트 손실: 0.850514\t최선의 손실: 0.075460\t정확도: 94.33%\n", - "10\t검증 세트 손실: 0.739289\t최선의 손실: 0.075460\t정확도: 96.76%\n", - "11\t검증 세트 손실: 0.597405\t최선의 손실: 0.075460\t정확도: 96.64%\n", - "12\t검증 세트 손실: 0.273587\t최선의 손실: 0.075460\t정확도: 97.26%\n", - "13\t검증 세트 손실: 0.314634\t최선의 손실: 0.075460\t정확도: 97.30%\n", - "14\t검증 세트 손실: 0.432981\t최선의 손실: 0.075460\t정확도: 96.64%\n", - "15\t검증 세트 손실: 0.344430\t최선의 손실: 0.075460\t정확도: 97.22%\n", - "16\t검증 세트 손실: 0.233093\t최선의 손실: 0.075460\t정확도: 97.19%\n", - "17\t검증 세트 손실: 0.296393\t최선의 손실: 0.075460\t정확도: 97.19%\n", - "18\t검증 세트 손실: 0.405623\t최선의 손실: 0.075460\t정확도: 96.79%\n", - "19\t검증 세트 손실: 0.373033\t최선의 손실: 0.075460\t정확도: 96.56%\n", - "20\t검증 세트 손실: 0.419655\t최선의 손실: 0.075460\t정확도: 97.73%\n", - "21\t검증 세트 손실: 0.368952\t최선의 손실: 0.075460\t정확도: 96.95%\n", - "22\t검증 세트 손실: 0.294249\t최선의 손실: 0.075460\t정확도: 98.01%\n", - "23\t검증 세트 손실: 0.289043\t최선의 손실: 0.075460\t정확도: 97.73%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 3.6s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.152656\t최선의 손실: 0.152656\t정확도: 95.50%\n", + "1\t검증 세트 손실: 0.108145\t최선의 손실: 0.108145\t정확도: 97.11%\n", + "2\t검증 세트 손실: 5.094493\t최선의 손실: 0.108145\t정확도: 94.45%\n", + "3\t검증 세트 손실: 0.330644\t최선의 손실: 0.108145\t정확도: 95.54%\n", + "4\t검증 세트 손실: 0.138828\t최선의 손실: 0.108145\t정확도: 96.68%\n", + "5\t검증 세트 손실: 0.116429\t최선의 손실: 0.108145\t정확도: 97.07%\n", + "6\t검증 세트 손실: 0.115078\t최선의 손실: 0.108145\t정확도: 96.72%\n", + "7\t검증 세트 손실: 0.101065\t최선의 손실: 0.101065\t정확도: 97.46%\n", + "8\t검증 세트 손실: 0.101794\t최선의 손실: 0.101065\t정확도: 97.62%\n", + "9\t검증 세트 손실: 0.111900\t최선의 손실: 0.101065\t정확도: 97.69%\n", + "10\t검증 세트 손실: 0.156735\t최선의 손실: 0.101065\t정확도: 97.22%\n", + "11\t검증 세트 손실: 0.148847\t최선의 손실: 0.101065\t정확도: 97.26%\n", + "12\t검증 세트 손실: 0.185672\t최선의 손실: 0.101065\t정확도: 97.50%\n", + "13\t검증 세트 손실: 0.124888\t최선의 손실: 0.101065\t정확도: 97.77%\n", + "14\t검증 세트 손실: 0.116497\t최선의 손실: 0.101065\t정확도: 97.62%\n", + "15\t검증 세트 손실: 0.166481\t최선의 손실: 0.101065\t정확도: 97.15%\n", + "16\t검증 세트 손실: 0.111364\t최선의 손실: 0.101065\t정확도: 98.01%\n", + "17\t검증 세트 손실: 8.469838\t최선의 손실: 0.101065\t정확도: 94.25%\n", + "18\t검증 세트 손실: 2.375863\t최선의 손실: 0.101065\t정확도: 95.66%\n", + "19\t검증 세트 손실: 1.678312\t최선의 손실: 0.101065\t정확도: 96.44%\n", + "20\t검증 세트 손실: 1.872608\t최선의 손실: 0.101065\t정확도: 95.70%\n", + "21\t검증 세트 손실: 1.208611\t최선의 손실: 0.101065\t정확도: 96.79%\n", + "22\t검증 세트 손실: 1.163310\t최선의 손실: 0.101065\t정확도: 96.72%\n", + "23\t검증 세트 손실: 1.123242\t최선의 손실: 0.101065\t정확도: 95.93%\n", + "24\t검증 세트 손실: 0.929270\t최선의 손실: 0.101065\t정확도: 96.60%\n", + "25\t검증 세트 손실: 0.874308\t최선의 손실: 0.101065\t정확도: 96.83%\n", + "26\t검증 세트 손실: 1.037017\t최선의 손실: 0.101065\t정확도: 96.17%\n", + "27\t검증 세트 손실: 0.947058\t최선의 손실: 0.101065\t정확도: 95.97%\n", + "28\t검증 세트 손실: 0.732265\t최선의 손실: 0.101065\t정확도: 97.07%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70, total= 6.5s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70 \n", - "0\t검증 세트 손실: 0.112196\t최선의 손실: 0.112196\t정확도: 97.50%\n", - "1\t검증 세트 손실: 0.111844\t최선의 손실: 0.111844\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.078418\t최선의 손실: 0.078418\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.090784\t최선의 손실: 0.078418\t정확도: 97.65%\n", - "4\t검증 세트 손실: 313.628784\t최선의 손실: 0.078418\t정확도: 55.94%\n", - "5\t검증 세트 손실: 2.176649\t최선의 손실: 0.078418\t정확도: 92.30%\n", - "6\t검증 세트 손실: 0.888484\t최선의 손실: 0.078418\t정확도: 94.84%\n", - "7\t검증 세트 손실: 0.541041\t최선의 손실: 0.078418\t정확도: 95.82%\n", - "8\t검증 세트 손실: 0.462705\t최선의 손실: 0.078418\t정확도: 95.31%\n", - "9\t검증 세트 손실: 0.574607\t최선의 손실: 0.078418\t정확도: 92.77%\n", - "10\t검증 세트 손실: 0.449993\t최선의 손실: 0.078418\t정확도: 95.39%\n", - "11\t검증 세트 손실: 0.766099\t최선의 손실: 0.078418\t정확도: 96.17%\n", - "12\t검증 세트 손실: 0.460248\t최선의 손실: 0.078418\t정확도: 95.54%\n", - "13\t검증 세트 손실: 0.666092\t최선의 손실: 0.078418\t정확도: 96.21%\n", - "14\t검증 세트 손실: 0.502363\t최선의 손실: 0.078418\t정확도: 95.93%\n", - "15\t검증 세트 손실: 0.628674\t최선의 손실: 0.078418\t정확도: 93.63%\n", - "16\t검증 세트 손실: 0.618984\t최선의 손실: 0.078418\t정확도: 95.86%\n", - "17\t검증 세트 손실: 0.376936\t최선의 손실: 0.078418\t정확도: 96.87%\n", - "18\t검증 세트 손실: 0.503911\t최선의 손실: 0.078418\t정확도: 96.40%\n", - "19\t검증 세트 손실: 0.496745\t최선의 손실: 0.078418\t정확도: 97.03%\n", - "20\t검증 세트 손실: 0.455397\t최선의 손실: 0.078418\t정확도: 96.87%\n", - "21\t검증 세트 손실: 0.585883\t최선의 손실: 0.078418\t정확도: 96.91%\n", - "22\t검증 세트 손실: 0.239998\t최선의 손실: 0.078418\t정확도: 97.15%\n", - "23\t검증 세트 손실: 0.262028\t최선의 손실: 0.078418\t정확도: 96.52%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 7.4s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.121736\t최선의 손실: 0.121736\t정확도: 97.07%\n", + "1\t검증 세트 손실: 0.105213\t최선의 손실: 0.105213\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.887956\t최선의 손실: 0.105213\t정확도: 90.27%\n", + "3\t검증 세트 손실: 0.137650\t최선의 손실: 0.105213\t정확도: 97.62%\n", + "4\t검증 세트 손실: 27.195677\t최선의 손실: 0.105213\t정확도: 94.84%\n", + "5\t검증 세트 손실: 5.296772\t최선의 손실: 0.105213\t정확도: 93.78%\n", + "6\t검증 세트 손실: 2.374819\t최선의 손실: 0.105213\t정확도: 95.54%\n", + "7\t검증 세트 손실: 1.247427\t최선의 손실: 0.105213\t정확도: 97.19%\n", + "8\t검증 세트 손실: 1.587998\t최선의 손실: 0.105213\t정확도: 96.33%\n", + "9\t검증 세트 손실: 1.120444\t최선의 손실: 0.105213\t정확도: 96.60%\n", + "10\t검증 세트 손실: 0.753282\t최선의 손실: 0.105213\t정확도: 97.15%\n", + "11\t검증 세트 손실: 0.887676\t최선의 손실: 0.105213\t정확도: 95.93%\n", + "12\t검증 세트 손실: 0.760269\t최선의 손실: 0.105213\t정확도: 97.54%\n", + "13\t검증 세트 손실: 0.863888\t최선의 손실: 0.105213\t정확도: 96.79%\n", + "14\t검증 세트 손실: 0.856009\t최선의 손실: 0.105213\t정확도: 97.19%\n", + "15\t검증 세트 손실: 0.483422\t최선의 손실: 0.105213\t정확도: 97.42%\n", + "16\t검증 세트 손실: 0.438571\t최선의 손실: 0.105213\t정확도: 97.46%\n", + "17\t검증 세트 손실: 0.496121\t최선의 손실: 0.105213\t정확도: 97.46%\n", + "18\t검증 세트 손실: 0.853311\t최선의 손실: 0.105213\t정확도: 96.52%\n", + "19\t검증 세트 손실: 1.143547\t최선의 손실: 0.105213\t정확도: 96.91%\n", + "20\t검증 세트 손실: 0.706186\t최선의 손실: 0.105213\t정확도: 97.46%\n", + "21\t검증 세트 손실: 0.360376\t최선의 손실: 0.105213\t정확도: 97.58%\n", + "22\t검증 세트 손실: 0.387594\t최선의 손실: 0.105213\t정확도: 97.50%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.02, n_neurons=70, total= 6.8s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.575684\t최선의 손실: 0.575684\t정확도: 91.05%\n", - "1\t검증 세트 손실: 0.198513\t최선의 손실: 0.198513\t정확도: 95.70%\n", - "2\t검증 세트 손실: 1.369517\t최선의 손실: 0.198513\t정확도: 96.72%\n", - "3\t검증 세트 손실: 0.662526\t최선의 손실: 0.198513\t정확도: 95.74%\n", - "4\t검증 세트 손실: 2.235500\t최선의 손실: 0.198513\t정확도: 89.44%\n", - "5\t검증 세트 손실: 18.934570\t최선의 손실: 0.198513\t정확도: 92.81%\n", - "6\t검증 세트 손실: 1.405595\t최선의 손실: 0.198513\t정확도: 94.88%\n", - "7\t검증 세트 손실: 1.899426\t최선의 손실: 0.198513\t정확도: 96.48%\n", - "8\t검증 세트 손실: 112.991264\t최선의 손실: 0.198513\t정확도: 90.15%\n", - "9\t검증 세트 손실: 5.134137\t최선의 손실: 0.198513\t정확도: 96.56%\n", - "10\t검증 세트 손실: 2.259147\t최선의 손실: 0.198513\t정확도: 97.30%\n", - "11\t검증 세트 손실: 2.016696\t최선의 손실: 0.198513\t정확도: 96.13%\n", - "12\t검증 세트 손실: 1373.081055\t최선의 손실: 0.198513\t정확도: 84.95%\n", - "13\t검증 세트 손실: 19.274576\t최선의 손실: 0.198513\t정확도: 97.11%\n", - "14\t검증 세트 손실: 11.491969\t최선의 손실: 0.198513\t정확도: 96.99%\n", - "15\t검증 세트 손실: 18.545557\t최선의 손실: 0.198513\t정확도: 97.46%\n", - "16\t검증 세트 손실: 37.446453\t최선의 손실: 0.198513\t정확도: 96.33%\n", - "17\t검증 세트 손실: 15.326568\t최선의 손실: 0.198513\t정확도: 97.46%\n", - "18\t검증 세트 손실: 62.875854\t최선의 손실: 0.198513\t정확도: 96.79%\n", - "19\t검증 세트 손실: 33.146793\t최선의 손실: 0.198513\t정확도: 96.33%\n", - "20\t검증 세트 손실: 35.567013\t최선의 손실: 0.198513\t정확도: 95.35%\n", - "21\t검증 세트 손실: 98.442978\t최선의 손실: 0.198513\t정확도: 97.62%\n", - "22\t검증 세트 손실: 26.157816\t최선의 손실: 0.198513\t정확도: 95.97%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.9s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.099015\t최선의 손실: 0.099015\t정확도: 97.34%\n", + "1\t검증 세트 손실: 0.085920\t최선의 손실: 0.085920\t정확도: 97.69%\n", + "2\t검증 세트 손실: 5.195903\t최선의 손실: 0.085920\t정확도: 71.85%\n", + "3\t검증 세트 손실: 0.136911\t최선의 손실: 0.085920\t정확도: 96.29%\n", + "4\t검증 세트 손실: 0.117622\t최선의 손실: 0.085920\t정확도: 96.56%\n", + "5\t검증 세트 손실: 0.103756\t최선의 손실: 0.085920\t정확도: 96.91%\n", + "6\t검증 세트 손실: 0.125914\t최선의 손실: 0.085920\t정확도: 96.36%\n", + "7\t검증 세트 손실: 0.119642\t최선의 손실: 0.085920\t정확도: 97.69%\n", + "8\t검증 세트 손실: 0.084554\t최선의 손실: 0.084554\t정확도: 97.77%\n", + "9\t검증 세트 손실: 0.085029\t최선의 손실: 0.084554\t정확도: 98.12%\n", + "10\t검증 세트 손실: 0.095307\t최선의 손실: 0.084554\t정확도: 97.46%\n", + "11\t검증 세트 손실: 0.221965\t최선의 손실: 0.084554\t정확도: 97.07%\n", + "12\t검증 세트 손실: 0.133869\t최선의 손실: 0.084554\t정확도: 97.85%\n", + "13\t검증 세트 손실: 0.116469\t최선의 손실: 0.084554\t정확도: 98.20%\n", + "14\t검증 세트 손실: 0.174437\t최선의 손실: 0.084554\t정확도: 97.97%\n", + "15\t검증 세트 손실: 0.103658\t최선의 손실: 0.084554\t정확도: 98.16%\n", + "16\t검증 세트 손실: 0.093310\t최선의 손실: 0.084554\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.179422\t최선의 손실: 0.084554\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.148882\t최선의 손실: 0.084554\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.393000\t최선의 손실: 0.084554\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.585243\t최선의 손실: 0.084554\t정확도: 93.51%\n", + "21\t검증 세트 손실: 31.295855\t최선의 손실: 0.084554\t정확도: 93.04%\n", + "22\t검증 세트 손실: 11.048204\t최선의 손실: 0.084554\t정확도: 96.72%\n", + "23\t검증 세트 손실: 8.108768\t최선의 손실: 0.084554\t정확도: 96.95%\n", + "24\t검증 세트 손실: 7.928133\t최선의 손실: 0.084554\t정확도: 96.60%\n", + "25\t검증 세트 손실: 7.332392\t최선의 손실: 0.084554\t정확도: 96.05%\n", + "26\t검증 세트 손실: 4.736187\t최선의 손실: 0.084554\t정확도: 94.25%\n", + "27\t검증 세트 손실: 2.743413\t최선의 손실: 0.084554\t정확도: 97.26%\n", + "28\t검증 세트 손실: 2.463645\t최선의 손실: 0.084554\t정확도: 97.30%\n", + "29\t검증 세트 손실: 3.173187\t최선의 손실: 0.084554\t정확도: 96.87%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90, total= 51.9s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.157493\t최선의 손실: 0.157493\t정확도: 95.58%\n", - "1\t검증 세트 손실: 2.944275\t최선의 손실: 0.157493\t정확도: 94.29%\n", - "2\t검증 세트 손실: 0.581938\t최선의 손실: 0.157493\t정확도: 95.07%\n", - "3\t검증 세트 손실: 0.294728\t최선의 손실: 0.157493\t정확도: 95.86%\n", - "4\t검증 세트 손실: 7.793715\t최선의 손실: 0.157493\t정확도: 95.50%\n", - "5\t검증 세트 손실: 1.583940\t최선의 손실: 0.157493\t정확도: 96.95%\n", - "6\t검증 세트 손실: 10.767104\t최선의 손실: 0.157493\t정확도: 95.39%\n", - "7\t검증 세트 손실: 5.439963\t최선의 손실: 0.157493\t정확도: 95.62%\n", - "8\t검증 세트 손실: 9.976748\t최선의 손실: 0.157493\t정확도: 91.99%\n", - "9\t검증 세트 손실: 11.453062\t최선의 손실: 0.157493\t정확도: 94.29%\n", - "10\t검증 세트 손실: 1.557506\t최선의 손실: 0.157493\t정확도: 96.17%\n", - "11\t검증 세트 손실: 32.106136\t최선의 손실: 0.157493\t정확도: 95.31%\n", - "12\t검증 세트 손실: 3.802172\t최선의 손실: 0.157493\t정확도: 96.83%\n", - "13\t검증 세트 손실: 4.084211\t최선의 손실: 0.157493\t정확도: 95.54%\n", - "14\t검증 세트 손실: 4.434893\t최선의 손실: 0.157493\t정확도: 94.80%\n", - "15\t검증 세트 손실: 11.291752\t최선의 손실: 0.157493\t정확도: 94.06%\n", - "16\t검증 세트 손실: 36.411655\t최선의 손실: 0.157493\t정확도: 80.26%\n", - "17\t검증 세트 손실: 23.102913\t최선의 손실: 0.157493\t정확도: 96.05%\n", - "18\t검증 세트 손실: 19.616882\t최선의 손실: 0.157493\t정확도: 97.58%\n", - "19\t검증 세트 손실: 17.267912\t최선의 손실: 0.157493\t정확도: 97.42%\n", - "20\t검증 세트 손실: 89.420662\t최선의 손실: 0.157493\t정확도: 95.66%\n", - "21\t검증 세트 손실: 40.262978\t최선의 손실: 0.157493\t정확도: 97.62%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 7.6s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 73.206352\t최선의 손실: 73.206352\t정확도: 76.82%\n", + "1\t검증 세트 손실: 0.211179\t최선의 손실: 0.211179\t정확도: 95.70%\n", + "2\t검증 세트 손실: 0.519703\t최선의 손실: 0.211179\t정확도: 92.14%\n", + "3\t검증 세트 손실: 6.170825\t최선의 손실: 0.211179\t정확도: 94.25%\n", + "4\t검증 세트 손실: 1.643826\t최선의 손실: 0.211179\t정확도: 96.09%\n", + "5\t검증 세트 손실: 11.738796\t최선의 손실: 0.211179\t정확도: 95.74%\n", + "6\t검증 세트 손실: 6.259748\t최선의 손실: 0.211179\t정확도: 96.01%\n", + "7\t검증 세트 손실: 4.886211\t최선의 손실: 0.211179\t정확도: 95.23%\n", + "8\t검증 세트 손실: 39.350479\t최선의 손실: 0.211179\t정확도: 94.53%\n", + "9\t검증 세트 손실: 29.336161\t최선의 손실: 0.211179\t정확도: 97.22%\n", + "10\t검증 세트 손실: 9.986775\t최선의 손실: 0.211179\t정확도: 95.97%\n", + "11\t검증 세트 손실: 5.424365\t최선의 손실: 0.211179\t정확도: 97.42%\n", + "12\t검증 세트 손실: 57.011971\t최선의 손실: 0.211179\t정확도: 93.32%\n", + "13\t검증 세트 손실: 19.555687\t최선의 손실: 0.211179\t정확도: 86.28%\n", + "14\t검증 세트 손실: 5.940279\t최선의 손실: 0.211179\t정확도: 97.19%\n", + "15\t검증 세트 손실: 5.502500\t최선의 손실: 0.211179\t정확도: 97.46%\n", + "16\t검증 세트 손실: 33.926399\t최선의 손실: 0.211179\t정확도: 96.36%\n", + "17\t검증 세트 손실: 26.582306\t최선의 손실: 0.211179\t정확도: 96.64%\n", + "18\t검증 세트 손실: 17.425041\t최선의 손실: 0.211179\t정확도: 97.89%\n", + "19\t검증 세트 손실: 689.533508\t최선의 손실: 0.211179\t정확도: 96.79%\n", + "20\t검증 세트 손실: 71.107033\t최선의 손실: 0.211179\t정확도: 96.72%\n", + "21\t검증 세트 손실: 57.905704\t최선의 손실: 0.211179\t정확도: 97.34%\n", + "22\t검증 세트 손실: 41.301472\t최선의 손실: 0.211179\t정확도: 96.79%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90, total= 49.4s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90 \n", - "0\t검증 세트 손실: 0.154444\t최선의 손실: 0.154444\t정확도: 96.17%\n", - "1\t검증 세트 손실: 0.149705\t최선의 손실: 0.149705\t정확도: 96.21%\n", - "2\t검증 세트 손실: 4.493134\t최선의 손실: 0.149705\t정확도: 91.75%\n", - "3\t검증 세트 손실: 0.870666\t최선의 손실: 0.149705\t정확도: 96.83%\n", - "4\t검증 세트 손실: 4.619765\t최선의 손실: 0.149705\t정확도: 94.02%\n", - "5\t검증 세트 손실: 0.862156\t최선의 손실: 0.149705\t정확도: 96.25%\n", - "6\t검증 세트 손실: 1.252086\t최선의 손실: 0.149705\t정확도: 96.72%\n", - "7\t검증 세트 손실: 11.049644\t최선의 손실: 0.149705\t정확도: 93.90%\n", - "8\t검증 세트 손실: 3.773036\t최선의 손실: 0.149705\t정확도: 94.61%\n", - "9\t검증 세트 손실: 15.751504\t최선의 손실: 0.149705\t정확도: 93.63%\n", - "10\t검증 세트 손실: 7.203225\t최선의 손실: 0.149705\t정확도: 96.68%\n", - "11\t검증 세트 손실: 3.495100\t최선의 손실: 0.149705\t정확도: 97.19%\n", - "12\t검증 세트 손실: 2.774927\t최선의 손실: 0.149705\t정확도: 95.90%\n", - "13\t검증 세트 손실: 10.205169\t최선의 손실: 0.149705\t정확도: 97.38%\n", - "14\t검증 세트 손실: 128.774429\t최선의 손실: 0.149705\t정확도: 95.86%\n", - "15\t검증 세트 손실: 18.837996\t최선의 손실: 0.149705\t정확도: 96.72%\n", - "16\t검증 세트 손실: 11.180440\t최선의 손실: 0.149705\t정확도: 97.58%\n", - "17\t검증 세트 손실: 7.504907\t최선의 손실: 0.149705\t정확도: 95.78%\n", - "18\t검증 세트 손실: 24.789751\t최선의 손실: 0.149705\t정확도: 97.11%\n", - "19\t검증 세트 손실: 27.146902\t최선의 손실: 0.149705\t정확도: 97.42%\n", - "20\t검증 세트 손실: 21.985619\t최선의 손실: 0.149705\t정확도: 97.19%\n", - "21\t검증 세트 손실: 68.813683\t최선의 손실: 0.149705\t정확도: 95.15%\n", - "22\t검증 세트 손실: 49.376770\t최선의 손실: 0.149705\t정확도: 95.00%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=90, total= 52.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160 \n" + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 48.9s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.311141\t최선의 손실: 0.311141\t정확도: 93.94%\n", + "1\t검증 세트 손실: 7.151839\t최선의 손실: 0.311141\t정확도: 94.37%\n", + "2\t검증 세트 손실: 1.368263\t최선의 손실: 0.311141\t정확도: 93.82%\n", + "3\t검증 세트 손실: 1.054008\t최선의 손실: 0.311141\t정확도: 95.11%\n", + "4\t검증 세트 손실: 1.453032\t최선의 손실: 0.311141\t정확도: 95.70%\n", + "5\t검증 세트 손실: 6.759955\t최선의 손실: 0.311141\t정확도: 96.64%\n", + "6\t검증 세트 손실: 5.902097\t최선의 손실: 0.311141\t정확도: 97.46%\n", + "7\t검증 세트 손실: 5.028965\t최선의 손실: 0.311141\t정확도: 96.17%\n", + "8\t검증 세트 손실: 37.931923\t최선의 손실: 0.311141\t정확도: 96.17%\n", + "9\t검증 세트 손실: 3.097541\t최선의 손실: 0.311141\t정확도: 97.07%\n", + "10\t검증 세트 손실: 6.071642\t최선의 손실: 0.311141\t정확도: 94.92%\n", + "11\t검증 세트 손실: 112.595085\t최선의 손실: 0.311141\t정확도: 94.88%\n", + "12\t검증 세트 손실: 3.376102\t최선의 손실: 0.311141\t정확도: 97.38%\n", + "13\t검증 세트 손실: 5.848806\t최선의 손실: 0.311141\t정확도: 95.74%\n", + "14\t검증 세트 손실: 4.654660\t최선의 손실: 0.311141\t정확도: 97.26%\n", + "15\t검증 세트 손실: 16.901291\t최선의 손실: 0.311141\t정확도: 95.39%\n", + "16\t검증 세트 손실: 14.850033\t최선의 손실: 0.311141\t정확도: 91.63%\n", + "17\t검증 세트 손실: 10.284509\t최선의 손실: 0.311141\t정확도: 97.62%\n", + "18\t검증 세트 손실: 39.827335\t최선의 손실: 0.311141\t정확도: 94.45%\n", + "19\t검증 세트 손실: 16.856077\t최선의 손실: 0.311141\t정확도: 97.50%\n", + "20\t검증 세트 손실: 133.602081\t최선의 손실: 0.311141\t정확도: 86.16%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 17.200743\t최선의 손실: 17.200743\t정확도: 95.74%\n", - "1\t검증 세트 손실: 14.253987\t최선의 손실: 14.253987\t정확도: 95.97%\n", - "2\t검증 세트 손실: 5.206242\t최선의 손실: 5.206242\t정확도: 96.36%\n", - "3\t검증 세트 손실: 8.541135\t최선의 손실: 5.206242\t정확도: 95.31%\n", - "4\t검증 세트 손실: 15893812.000000\t최선의 손실: 5.206242\t정확도: 58.84%\n", - "5\t검증 세트 손실: 472927.375000\t최선의 손실: 5.206242\t정확도: 92.18%\n", - "6\t검증 세트 손실: 438728.750000\t최선의 손실: 5.206242\t정확도: 91.13%\n", - "7\t검증 세트 손실: 270036.406250\t최선의 손실: 5.206242\t정확도: 93.67%\n", - "8\t검증 세트 손실: 249133.562500\t최선의 손실: 5.206242\t정확도: 92.46%\n", - "9\t검증 세트 손실: 225087.406250\t최선의 손실: 5.206242\t정확도: 92.22%\n", - "10\t검증 세트 손실: 143029.937500\t최선의 손실: 5.206242\t정확도: 95.11%\n", - "11\t검증 세트 손실: 119648.921875\t최선의 손실: 5.206242\t정확도: 94.45%\n", - "12\t검증 세트 손실: 157800.843750\t최선의 손실: 5.206242\t정확도: 95.04%\n", - "13\t검증 세트 손실: 158027.390625\t최선의 손실: 5.206242\t정확도: 93.20%\n", - "14\t검증 세트 손실: 87231.921875\t최선의 손실: 5.206242\t정확도: 96.05%\n", - "15\t검증 세트 손실: 370445.281250\t최선의 손실: 5.206242\t정확도: 84.64%\n", - "16\t검증 세트 손실: 107828.867188\t최선의 손실: 5.206242\t정확도: 93.59%\n", - "17\t검증 세트 손실: 100835.015625\t최선의 손실: 5.206242\t정확도: 94.92%\n", - "18\t검증 세트 손실: 98477.226562\t최선의 손실: 5.206242\t정확도: 94.02%\n", - "19\t검증 세트 손실: 128852.343750\t최선의 손실: 5.206242\t정확도: 92.65%\n", - "20\t검증 세트 손실: 77158.421875\t최선의 손실: 5.206242\t정확도: 95.23%\n", - "21\t검증 세트 손실: 70546.921875\t최선의 손실: 5.206242\t정확도: 96.33%\n", - "22\t검증 세트 손실: 61966.484375\t최선의 손실: 5.206242\t정확도: 95.47%\n", - "23\t검증 세트 손실: 42823.332031\t최선의 손실: 5.206242\t정확도: 95.82%\n", + "21\t검증 세트 손실: 30.879698\t최선의 손실: 0.311141\t정확도: 95.23%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160, total= 7.0s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160 \n", - "0\t검증 세트 손실: 29.554945\t최선의 손실: 29.554945\t정확도: 95.58%\n", - "1\t검증 세트 손실: 13.937226\t최선의 손실: 13.937226\t정확도: 95.27%\n", - "2\t검증 세트 손실: 7.242129\t최선의 손실: 7.242129\t정확도: 96.01%\n", - "3\t검증 세트 손실: 8.979114\t최선의 손실: 7.242129\t정확도: 95.54%\n", - "4\t검증 세트 손실: 6.077828\t최선의 손실: 6.077828\t정확도: 95.11%\n", - "5\t검증 세트 손실: 8.596805\t최선의 손실: 6.077828\t정확도: 94.25%\n", - "6\t검증 세트 손실: 2.560314\t최선의 손실: 2.560314\t정확도: 96.79%\n", - "7\t검증 세트 손실: 3.615873\t최선의 손실: 2.560314\t정확도: 97.11%\n", - "8\t검증 세트 손실: 3.827514\t최선의 손실: 2.560314\t정확도: 96.52%\n", - "9\t검증 세트 손실: 1.723601\t최선의 손실: 1.723601\t정확도: 96.36%\n", - "10\t검증 세트 손실: 1.404683\t최선의 손실: 1.404683\t정확도: 97.38%\n", - "11\t검증 세트 손실: 4.070507\t최선의 손실: 1.404683\t정확도: 97.03%\n", - "12\t검증 세트 손실: 7296493.000000\t최선의 손실: 1.404683\t정확도: 89.95%\n", - "13\t검증 세트 손실: 4265878.500000\t최선의 손실: 1.404683\t정확도: 88.12%\n", - "14\t검증 세트 손실: 2050702.125000\t최선의 손실: 1.404683\t정확도: 89.44%\n", - "15\t검증 세트 손실: 1480763.375000\t최선의 손실: 1.404683\t정확도: 94.14%\n", - "16\t검증 세트 손실: 1228521.625000\t최선의 손실: 1.404683\t정확도: 94.57%\n", - "17\t검증 세트 손실: 1054135.750000\t최선의 손실: 1.404683\t정확도: 93.28%\n", - "18\t검증 세트 손실: 541723.125000\t최선의 손실: 1.404683\t정확도: 95.70%\n", - "19\t검증 세트 손실: 592967.125000\t최선의 손실: 1.404683\t정확도: 94.96%\n", - "20\t검증 세트 손실: 655705.250000\t최선의 손실: 1.404683\t정확도: 95.39%\n", - "21\t검증 세트 손실: 461276.718750\t최선의 손실: 1.404683\t정확도: 96.29%\n", - "22\t검증 세트 손실: 449558.406250\t최선의 손실: 1.404683\t정확도: 95.50%\n", - "23\t검증 세트 손실: 382192.750000\t최선의 손실: 1.404683\t정확도: 96.44%\n", - "24\t검증 세트 손실: 420873.562500\t최선의 손실: 1.404683\t정확도: 96.33%\n", - "25\t검증 세트 손실: 486280.156250\t최선의 손실: 1.404683\t정확도: 96.29%\n", - "26\t검증 세트 손실: 475292.562500\t최선의 손실: 1.404683\t정확도: 94.96%\n", - "27\t검증 세트 손실: 334601.593750\t최선의 손실: 1.404683\t정확도: 96.17%\n", - "28\t검증 세트 손실: 299380.718750\t최선의 손실: 1.404683\t정확도: 95.74%\n", - "29\t검증 세트 손실: 295286.000000\t최선의 손실: 1.404683\t정확도: 96.83%\n", - "30\t검증 세트 손실: 379212.406250\t최선의 손실: 1.404683\t정확도: 95.62%\n", - "31\t검증 세트 손실: 236672.843750\t최선의 손실: 1.404683\t정확도: 96.76%\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 46.3s\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 20.438316\t최선의 손실: 20.438316\t정확도: 62.55%\n", + "1\t검증 세트 손실: 0.309216\t최선의 손실: 0.309216\t정확도: 95.78%\n", + "2\t검증 세트 손실: 0.462828\t최선의 손실: 0.309216\t정확도: 96.25%\n", + "3\t검증 세트 손실: 5.768636\t최선의 손실: 0.309216\t정확도: 94.80%\n", + "4\t검증 세트 손실: 2.729961\t최선의 손실: 0.309216\t정확도: 95.97%\n", + "5\t검증 세트 손실: 7.225504\t최선의 손실: 0.309216\t정확도: 94.37%\n", + "6\t검증 세트 손실: 0.916185\t최선의 손실: 0.309216\t정확도: 95.50%\n", + "7\t검증 세트 손실: 26.853041\t최선의 손실: 0.309216\t정확도: 95.86%\n", + "8\t검증 세트 손실: 4.168268\t최선의 손실: 0.309216\t정확도: 91.91%\n", + "9\t검증 세트 손실: 118.371239\t최선의 손실: 0.309216\t정확도: 89.13%\n", + "10\t검증 세트 손실: 3.451346\t최선의 손실: 0.309216\t정확도: 97.15%\n", + "11\t검증 세트 손실: 9.428258\t최선의 손실: 0.309216\t정확도: 96.48%\n", + "12\t검증 세트 손실: 9.316323\t최선의 손실: 0.309216\t정확도: 96.21%\n", + "13\t검증 세트 손실: 5.449553\t최선의 손실: 0.309216\t정확도: 97.34%\n", + "14\t검증 세트 손실: 25.700693\t최선의 손실: 0.309216\t정확도: 96.29%\n", + "15\t검증 세트 손실: 8.849963\t최선의 손실: 0.309216\t정확도: 96.64%\n", + "16\t검증 세트 손실: 4.549857\t최선의 손실: 0.309216\t정확도: 97.54%\n", + "17\t검증 세트 손실: 20.954960\t최선의 손실: 0.309216\t정확도: 97.15%\n", + "18\t검증 세트 손실: 12.526208\t최선의 손실: 0.309216\t정확도: 97.65%\n", + "19\t검증 세트 손실: 20.087988\t최선의 손실: 0.309216\t정확도: 95.66%\n", + "20\t검증 세트 손실: 21.105804\t최선의 손실: 0.309216\t정확도: 96.83%\n", + "21\t검증 세트 손실: 14.146796\t최선의 손실: 0.309216\t정확도: 97.03%\n", + "22\t검증 세트 손실: 8.550688\t최선의 손실: 0.309216\t정확도: 96.99%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160, total= 9.6s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160 \n", - "0\t검증 세트 손실: 116.743477\t최선의 손실: 116.743477\t정확도: 94.61%\n", - "1\t검증 세트 손실: 30.564833\t최선의 손실: 30.564833\t정확도: 95.39%\n", - "2\t검증 세트 손실: 26.874285\t최선의 손실: 26.874285\t정확도: 96.25%\n", - "3\t검증 세트 손실: 18.797020\t최선의 손실: 18.797020\t정확도: 96.29%\n", - "4\t검증 세트 손실: 16.209648\t최선의 손실: 16.209648\t정확도: 95.62%\n", - "5\t검증 세트 손실: 16.517054\t최선의 손실: 16.209648\t정확도: 96.72%\n", - "6\t검증 세트 손실: 19.190168\t최선의 손실: 16.209648\t정확도: 96.05%\n", - "7\t검증 세트 손실: 21.205551\t최선의 손실: 16.209648\t정확도: 95.70%\n", - "8\t검증 세트 손실: 19.361776\t최선의 손실: 16.209648\t정확도: 97.42%\n", - "9\t검증 세트 손실: 24.419006\t최선의 손실: 16.209648\t정확도: 96.68%\n", - "10\t검증 세트 손실: 26.337101\t최선의 손실: 16.209648\t정확도: 97.34%\n", - "11\t검증 세트 손실: 21.814873\t최선의 손실: 16.209648\t정확도: 97.50%\n", - "12\t검증 세트 손실: 21.433725\t최선의 손실: 16.209648\t정확도: 97.11%\n", - "13\t검증 세트 손실: 20.486774\t최선의 손실: 16.209648\t정확도: 95.54%\n", - "14\t검증 세트 손실: 23.209517\t최선의 손실: 16.209648\t정확도: 96.87%\n", - "15\t검증 세트 손실: 20.408636\t최선의 손실: 16.209648\t정확도: 97.89%\n", - "16\t검증 세트 손실: 19.918737\t최선의 손실: 16.209648\t정확도: 97.22%\n", - "17\t검증 세트 손실: 10.074617\t최선의 손실: 10.074617\t정확도: 97.46%\n", - "18\t검증 세트 손실: 3.541973\t최선의 손실: 3.541973\t정확도: 98.08%\n", - "19\t검증 세트 손실: 2.308402\t최선의 손실: 2.308402\t정확도: 98.12%\n", - "20\t검증 세트 손실: 12.178642\t최선의 손실: 2.308402\t정확도: 97.50%\n", - "21\t검증 세트 손실: 118.751663\t최선의 손실: 2.308402\t정확도: 96.29%\n", - "22\t검증 세트 손실: 5090885.000000\t최선의 손실: 2.308402\t정확도: 91.52%\n", - "23\t검증 세트 손실: 579070.687500\t최선의 손실: 2.308402\t정확도: 93.12%\n", - "24\t검증 세트 손실: 499409.968750\t최선의 손실: 2.308402\t정확도: 92.85%\n", - "25\t검증 세트 손실: 328022.531250\t최선의 손실: 2.308402\t정확도: 94.29%\n", - "26\t검증 세트 손실: 381176.781250\t최선의 손실: 2.308402\t정확도: 93.82%\n", - "27\t검증 세트 손실: 219421.140625\t최선의 손실: 2.308402\t정확도: 95.27%\n", - "28\t검증 세트 손실: 235648.578125\t최선의 손실: 2.308402\t정확도: 94.06%\n", - "29\t검증 세트 손실: 482583.312500\t최선의 손실: 2.308402\t정확도: 90.15%\n", - "30\t검증 세트 손실: 329153.062500\t최선의 손실: 2.308402\t정확도: 90.77%\n", - "31\t검증 세트 손실: 206714.390625\t최선의 손실: 2.308402\t정확도: 94.45%\n", - "32\t검증 세트 손실: 112242.187500\t최선의 손실: 2.308402\t정확도: 96.44%\n", - "33\t검증 세트 손실: 84812.335938\t최선의 손실: 2.308402\t정확도: 96.05%\n", - "34\t검증 세트 손실: 590410.812500\t최선의 손실: 2.308402\t정확도: 85.22%\n", - "35\t검증 세트 손실: 1251438.625000\t최선의 손실: 2.308402\t정확도: 88.00%\n", - "36\t검증 세트 손실: 419227.875000\t최선의 손실: 2.308402\t정확도: 93.67%\n", - "37\t검증 세트 손실: 458831.250000\t최선의 손실: 2.308402\t정확도: 94.33%\n", - "38\t검증 세트 손실: 196684.703125\t최선의 손실: 2.308402\t정확도: 95.82%\n", - "39\t검증 세트 손실: 132196.625000\t최선의 손실: 2.308402\t정확도: 96.83%\n", - "40\t검증 세트 손실: 148503.468750\t최선의 손실: 2.308402\t정확도: 96.68%\n", + "[CV] n_neurons=90, learning_rate=0.01, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 48.3s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 192.022766\t최선의 손실: 192.022766\t정확도: 93.94%\n", + "1\t검증 세트 손실: 50.186684\t최선의 손실: 50.186684\t정확도: 95.50%\n", + "2\t검증 세트 손실: 23.576862\t최선의 손실: 23.576862\t정확도: 96.21%\n", + "3\t검증 세트 손실: 23.818310\t최선의 손실: 23.576862\t정확도: 96.25%\n", + "4\t검증 세트 손실: 13.504100\t최선의 손실: 13.504100\t정확도: 97.34%\n", + "5\t검증 세트 손실: 7.331775\t최선의 손실: 7.331775\t정확도: 97.22%\n", + "6\t검증 세트 손실: 9.026165\t최선의 손실: 7.331775\t정확도: 97.62%\n", + "7\t검증 세트 손실: 8.923281\t최선의 손실: 7.331775\t정확도: 97.46%\n", + "8\t검증 세트 손실: 71509576.000000\t최선의 손실: 7.331775\t정확도: 70.72%\n", + "9\t검증 세트 손실: 1496253.000000\t최선의 손실: 7.331775\t정확도: 93.08%\n", + "10\t검증 세트 손실: 569679.500000\t최선의 손실: 7.331775\t정확도: 95.15%\n", + "11\t검증 세트 손실: 377215.687500\t최선의 손실: 7.331775\t정확도: 95.54%\n", + "12\t검증 세트 손실: 295887.218750\t최선의 손실: 7.331775\t정확도: 95.97%\n", + "13\t검증 세트 손실: 258028.484375\t최선의 손실: 7.331775\t정확도: 95.43%\n", + "14\t검증 세트 손실: 343711.625000\t최선의 손실: 7.331775\t정확도: 95.86%\n", + "15\t검증 세트 손실: 291922.406250\t최선의 손실: 7.331775\t정확도: 96.68%\n", + "16\t검증 세트 손실: 299093.500000\t최선의 손실: 7.331775\t정확도: 94.37%\n", + "17\t검증 세트 손실: 193787.968750\t최선의 손실: 7.331775\t정확도: 96.64%\n", + "18\t검증 세트 손실: 289390.750000\t최선의 손실: 7.331775\t정확도: 94.72%\n", + "19\t검증 세트 손실: 188750.812500\t최선의 손실: 7.331775\t정확도: 95.74%\n", + "20\t검증 세트 손실: 150202.703125\t최선의 손실: 7.331775\t정확도: 96.76%\n", + "21\t검증 세트 손실: 171592.328125\t최선의 손실: 7.331775\t정확도: 96.05%\n", + "22\t검증 세트 손실: 440780.375000\t최선의 손실: 7.331775\t정확도: 96.60%\n", + "23\t검증 세트 손실: 117009.601562\t최선의 손실: 7.331775\t정확도: 97.34%\n", + "24\t검증 세트 손실: 99992.210938\t최선의 손실: 7.331775\t정확도: 97.50%\n", + "25\t검증 세트 손실: 88115.257812\t최선의 손실: 7.331775\t정확도: 96.72%\n", + "26\t검증 세트 손실: 578709.937500\t최선의 손실: 7.331775\t정확도: 96.64%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=160, total= 11.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50 \n", - "0\t검증 세트 손실: 0.113342\t최선의 손실: 0.113342\t정확도: 96.56%\n", - "1\t검증 세트 손실: 0.080433\t최선의 손실: 0.080433\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.071787\t최선의 손실: 0.071787\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.096215\t최선의 손실: 0.071787\t정확도: 97.65%\n", - "4\t검증 세트 손실: 0.084797\t최선의 손실: 0.071787\t정확도: 97.77%\n", - "5\t검증 세트 손실: 4.327129\t최선의 손실: 0.071787\t정확도: 38.78%\n", - "6\t검증 세트 손실: 0.715438\t최선의 손실: 0.071787\t정확도: 67.94%\n", - "7\t검증 세트 손실: 0.419203\t최선의 손실: 0.071787\t정확도: 90.58%\n", - "8\t검증 세트 손실: 0.411197\t최선의 손실: 0.071787\t정확도: 92.85%\n", - "9\t검증 세트 손실: 0.399615\t최선의 손실: 0.071787\t정확도: 95.07%\n", - "10\t검증 세트 손실: 0.362663\t최선의 손실: 0.071787\t정확도: 94.49%\n", - "11\t검증 세트 손실: 0.318348\t최선의 손실: 0.071787\t정확도: 95.27%\n", - "12\t검증 세트 손실: 0.304515\t최선의 손실: 0.071787\t정확도: 96.40%\n", - "13\t검증 세트 손실: 0.303814\t최선의 손실: 0.071787\t정확도: 96.60%\n", - "14\t검증 세트 손실: 0.335364\t최선의 손실: 0.071787\t정확도: 95.66%\n", - "15\t검증 세트 손실: 0.391131\t최선의 손실: 0.071787\t정확도: 95.07%\n", - "16\t검증 세트 손실: 0.365249\t최선의 손실: 0.071787\t정확도: 95.04%\n", - "17\t검증 세트 손실: 0.296959\t최선의 손실: 0.071787\t정확도: 96.48%\n", - "18\t검증 세트 손실: 0.241468\t최선의 손실: 0.071787\t정확도: 96.25%\n", - "19\t검증 세트 손실: 0.253837\t최선의 손실: 0.071787\t정확도: 97.07%\n", - "20\t검증 세트 손실: 0.382106\t최선의 손실: 0.071787\t정확도: 97.19%\n", - "21\t검증 세트 손실: 0.191115\t최선의 손실: 0.071787\t정확도: 97.26%\n", - "22\t검증 세트 손실: 0.284780\t최선의 손실: 0.071787\t정확도: 97.03%\n", - "23\t검증 세트 손실: 0.230705\t최선의 손실: 0.071787\t정확도: 97.03%\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 7.1s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 21.528654\t최선의 손실: 21.528654\t정확도: 91.24%\n", + "1\t검증 세트 손실: 6.664806\t최선의 손실: 6.664806\t정확도: 92.57%\n", + "2\t검증 세트 손실: 2.927020\t최선의 손실: 2.927020\t정확도: 95.23%\n", + "3\t검증 세트 손실: 3.113171\t최선의 손실: 2.927020\t정확도: 94.57%\n", + "4\t검증 세트 손실: 2.741501\t최선의 손실: 2.741501\t정확도: 94.53%\n", + "5\t검증 세트 손실: 2.327053\t최선의 손실: 2.327053\t정확도: 95.39%\n", + "6\t검증 세트 손실: 1.976794\t최선의 손실: 1.976794\t정확도: 95.97%\n", + "7\t검증 세트 손실: 3.549030\t최선의 손실: 1.976794\t정확도: 95.70%\n", + "8\t검증 세트 손실: 1.575379\t최선의 손실: 1.575379\t정확도: 95.00%\n", + "9\t검증 세트 손실: 2.349508\t최선의 손실: 1.575379\t정확도: 94.29%\n", + "10\t검증 세트 손실: 1.131235\t최선의 손실: 1.131235\t정확도: 96.52%\n", + "11\t검증 세트 손실: 1.544240\t최선의 손실: 1.131235\t정확도: 95.78%\n", + "12\t검증 세트 손실: 0.938752\t최선의 손실: 0.938752\t정확도: 95.90%\n", + "13\t검증 세트 손실: 0.816968\t최선의 손실: 0.816968\t정확도: 96.79%\n", + "14\t검증 세트 손실: 0.979198\t최선의 손실: 0.816968\t정확도: 95.58%\n", + "15\t검증 세트 손실: 1.459561\t최선의 손실: 0.816968\t정확도: 95.15%\n", + "16\t검증 세트 손실: 0.868803\t최선의 손실: 0.816968\t정확도: 97.19%\n", + "17\t검증 세트 손실: 48795720.000000\t최선의 손실: 0.816968\t정확도: 41.91%\n", + "18\t검증 세트 손실: 10769358.000000\t최선의 손실: 0.816968\t정확도: 87.29%\n", + "19\t검증 세트 손실: 2404164.750000\t최선의 손실: 0.816968\t정확도: 88.51%\n", + "20\t검증 세트 손실: 684819.187500\t최선의 손실: 0.816968\t정확도: 92.85%\n", + "21\t검증 세트 손실: 845991.937500\t최선의 손실: 0.816968\t정확도: 92.92%\n", + "22\t검증 세트 손실: 331763.625000\t최선의 손실: 0.816968\t정확도: 94.37%\n", + "23\t검증 세트 손실: 225899.140625\t최선의 손실: 0.816968\t정확도: 96.01%\n", + "24\t검증 세트 손실: 379574.718750\t최선의 손실: 0.816968\t정확도: 94.37%\n", + "25\t검증 세트 손실: 466659.875000\t최선의 손실: 0.816968\t정확도: 94.76%\n", + "26\t검증 세트 손실: 197144.140625\t최선의 손실: 0.816968\t정확도: 95.97%\n", + "27\t검증 세트 손실: 125946.195312\t최선의 손실: 0.816968\t정확도: 96.60%\n", + "28\t검증 세트 손실: 137224.828125\t최선의 손실: 0.816968\t정확도: 96.52%\n", + "29\t검증 세트 손실: 664377.437500\t최선의 손실: 0.816968\t정확도: 92.10%\n", + "30\t검증 세트 손실: 175434.968750\t최선의 손실: 0.816968\t정확도: 96.52%\n", + "31\t검증 세트 손실: 316227.062500\t최선의 손실: 0.816968\t정확도: 95.93%\n", + "32\t검증 세트 손실: 253910.562500\t최선의 손실: 0.816968\t정확도: 96.40%\n", + "33\t검증 세트 손실: 2436418.250000\t최선의 손실: 0.816968\t정확도: 89.60%\n", + "34\t검증 세트 손실: 1075627008.000000\t최선의 손실: 0.816968\t정확도: 72.01%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50, total= 4.7s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50 \n", - "0\t검증 세트 손실: 0.088133\t최선의 손실: 0.088133\t정확도: 96.68%\n", - "1\t검증 세트 손실: 0.083034\t최선의 손실: 0.083034\t정확도: 97.65%\n", - "2\t검증 세트 손실: 0.098712\t최선의 손실: 0.083034\t정확도: 97.54%\n", - "3\t검증 세트 손실: 0.063780\t최선의 손실: 0.063780\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.069571\t최선의 손실: 0.063780\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.068939\t최선의 손실: 0.063780\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.093549\t최선의 손실: 0.063780\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.128129\t최선의 손실: 0.063780\t정확도: 97.54%\n", - "8\t검증 세트 손실: 0.158568\t최선의 손실: 0.063780\t정확도: 96.64%\n", - "9\t검증 세트 손실: 0.199788\t최선의 손실: 0.063780\t정확도: 96.76%\n", - "10\t검증 세트 손실: 1.283732\t최선의 손실: 0.063780\t정확도: 40.70%\n", - "11\t검증 세트 손실: 1.365949\t최선의 손실: 0.063780\t정확도: 35.03%\n", - "12\t검증 세트 손실: 1.373866\t최선의 손실: 0.063780\t정확도: 35.54%\n", - "13\t검증 세트 손실: 1.451926\t최선의 손실: 0.063780\t정확도: 39.29%\n" + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 9.2s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 21.687441\t최선의 손실: 21.687441\t정확도: 93.71%\n", + "1\t검증 세트 손실: 9.358944\t최선의 손실: 9.358944\t정확도: 94.02%\n", + "2\t검증 세트 손실: 5.258524\t최선의 손실: 5.258524\t정확도: 96.87%\n", + "3\t검증 세트 손실: 151.639984\t최선의 손실: 5.258524\t정확도: 93.04%\n", + "4\t검증 세트 손실: 6.807848\t최선의 손실: 5.258524\t정확도: 95.43%\n", + "5\t검증 세트 손실: 3.152037\t최선의 손실: 3.152037\t정확도: 96.56%\n", + "6\t검증 세트 손실: 1.935232\t최선의 손실: 1.935232\t정확도: 96.91%\n", + "7\t검증 세트 손실: 3.850619\t최선의 손실: 1.935232\t정확도: 95.27%\n", + "8\t검증 세트 손실: 1.616773\t최선의 손실: 1.616773\t정확도: 96.76%\n", + "9\t검증 세트 손실: 2.889260\t최선의 손실: 1.616773\t정확도: 96.52%\n", + "10\t검증 세트 손실: 1.589681\t최선의 손실: 1.589681\t정확도: 96.36%\n", + "11\t검증 세트 손실: 2.711849\t최선의 손실: 1.589681\t정확도: 96.25%\n", + "12\t검증 세트 손실: 1888888.875000\t최선의 손실: 1.589681\t정확도: 80.22%\n", + "13\t검증 세트 손실: 1317396.750000\t최선의 손실: 1.589681\t정확도: 81.59%\n", + "14\t검증 세트 손실: 424081.000000\t최선의 손실: 1.589681\t정확도: 90.77%\n", + "15\t검증 세트 손실: 282017.781250\t최선의 손실: 1.589681\t정확도: 94.80%\n", + "16\t검증 세트 손실: 244952.437500\t최선의 손실: 1.589681\t정확도: 94.92%\n", + "17\t검증 세트 손실: 351376.968750\t최선의 손실: 1.589681\t정확도: 93.67%\n", + "18\t검증 세트 손실: 350274.500000\t최선의 손실: 1.589681\t정확도: 93.94%\n", + "19\t검증 세트 손실: 269145.562500\t최선의 손실: 1.589681\t정확도: 92.85%\n", + "20\t검증 세트 손실: 212723.734375\t최선의 손실: 1.589681\t정확도: 95.66%\n", + "21\t검증 세트 손실: 223491.281250\t최선의 손실: 1.589681\t정확도: 95.39%\n", + "22\t검증 세트 손실: 211882.953125\t최선의 손실: 1.589681\t정확도: 95.23%\n", + "23\t검증 세트 손실: 158163.718750\t최선의 손실: 1.589681\t정확도: 96.05%\n", + "24\t검증 세트 손실: 142349.687500\t최선의 손실: 1.589681\t정확도: 96.01%\n", + "25\t검증 세트 손실: 156455.046875\t최선의 손실: 1.589681\t정확도: 95.19%\n", + "26\t검증 세트 손실: 232402.015625\t최선의 손실: 1.589681\t정확도: 93.04%\n", + "27\t검증 세트 손실: 149383.812500\t최선의 손실: 1.589681\t정확도: 95.93%\n", + "28\t검증 세트 손실: 195056.890625\t최선의 손실: 1.589681\t정확도: 95.74%\n", + "29\t검증 세트 손실: 184139.406250\t최선의 손실: 1.589681\t정확도: 94.64%\n", + "30\t검증 세트 손실: 118297.210938\t최선의 손실: 1.589681\t정확도: 95.54%\n", + "31\t검증 세트 손실: 177773.781250\t최선의 손실: 1.589681\t정확도: 94.06%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 8.2s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.095747\t최선의 손실: 0.095747\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.113333\t최선의 손실: 0.095747\t정확도: 97.11%\n", + "2\t검증 세트 손실: 0.075610\t최선의 손실: 0.075610\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.076736\t최선의 손실: 0.075610\t정확도: 97.85%\n", + "4\t검증 세트 손실: 0.113948\t최선의 손실: 0.075610\t정확도: 98.16%\n", + "5\t검증 세트 손실: 0.171542\t최선의 손실: 0.075610\t정확도: 96.87%\n", + "6\t검증 세트 손실: 0.517398\t최선의 손실: 0.075610\t정확도: 87.96%\n", + "7\t검증 세트 손실: 0.777837\t최선의 손실: 0.075610\t정확도: 73.34%\n", + "8\t검증 세트 손실: 0.535419\t최선의 손실: 0.075610\t정확도: 75.02%\n", + "9\t검증 세트 손실: 0.411268\t최선의 손실: 0.075610\t정확도: 76.70%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "14\t검증 세트 손실: 1.263125\t최선의 손실: 0.063780\t정확도: 47.26%\n", - "15\t검증 세트 손실: 0.863230\t최선의 손실: 0.063780\t정확도: 60.52%\n", - "16\t검증 세트 손실: 0.745303\t최선의 손실: 0.063780\t정확도: 60.59%\n", - "17\t검증 세트 손실: 0.780116\t최선의 손실: 0.063780\t정확도: 75.92%\n", - "18\t검증 세트 손실: 0.610404\t최선의 손실: 0.063780\t정확도: 75.72%\n", - "19\t검증 세트 손실: 0.296462\t최선의 손실: 0.063780\t정확도: 94.06%\n", - "20\t검증 세트 손실: 0.418174\t최선의 손실: 0.063780\t정확도: 90.77%\n", - "21\t검증 세트 손실: 0.209804\t최선의 손실: 0.063780\t정확도: 96.56%\n", - "22\t검증 세트 손실: 0.292427\t최선의 손실: 0.063780\t정확도: 97.07%\n", - "23\t검증 세트 손실: 0.209261\t최선의 손실: 0.063780\t정확도: 97.81%\n", - "24\t검증 세트 손실: 0.159998\t최선의 손실: 0.063780\t정확도: 97.73%\n", + "10\t검증 세트 손실: 0.186785\t최선의 손실: 0.075610\t정확도: 95.90%\n", + "11\t검증 세트 손실: 0.187986\t최선의 손실: 0.075610\t정확도: 96.01%\n", + "12\t검증 세트 손실: 0.208465\t최선의 손실: 0.075610\t정확도: 95.82%\n", + "13\t검증 세트 손실: 0.211761\t최선의 손실: 0.075610\t정확도: 95.50%\n", + "14\t검증 세트 손실: 0.210685\t최선의 손실: 0.075610\t정확도: 95.15%\n", + "15\t검증 세트 손실: 0.120054\t최선의 손실: 0.075610\t정확도: 97.93%\n", + "16\t검증 세트 손실: 0.261207\t최선의 손실: 0.075610\t정확도: 95.47%\n", + "17\t검증 세트 손실: 0.243845\t최선의 손실: 0.075610\t정확도: 95.00%\n", + "18\t검증 세트 손실: 0.171260\t최선의 손실: 0.075610\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.159293\t최선의 손실: 0.075610\t정확도: 96.44%\n", + "20\t검증 세트 손실: 0.119660\t최선의 손실: 0.075610\t정확도: 97.46%\n", + "21\t검증 세트 손실: 0.148450\t최선의 손실: 0.075610\t정확도: 97.22%\n", + "22\t검증 세트 손실: 0.146937\t최선의 손실: 0.075610\t정확도: 97.07%\n", + "23\t검증 세트 손실: 0.127772\t최선의 손실: 0.075610\t정확도: 97.26%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50, total= 4.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50 \n", - "0\t검증 세트 손실: 0.088381\t최선의 손실: 0.088381\t정확도: 97.34%\n", - "1\t검증 세트 손실: 0.094022\t최선의 손실: 0.088381\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.072776\t최선의 손실: 0.072776\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.117047\t최선의 손실: 0.072776\t정확도: 97.81%\n", - "4\t검증 세트 손실: 0.094600\t최선의 손실: 0.072776\t정확도: 97.73%\n", - "5\t검증 세트 손실: 0.125898\t최선의 손실: 0.072776\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.096533\t최선의 손실: 0.072776\t정확도: 97.81%\n", - "7\t검증 세트 손실: 1.959116\t최선의 손실: 0.072776\t정확도: 75.25%\n", - "8\t검증 세트 손실: 0.248488\t최선의 손실: 0.072776\t정확도: 93.59%\n", - "9\t검증 세트 손실: 0.139645\t최선의 손실: 0.072776\t정확도: 95.66%\n", - "10\t검증 세트 손실: 0.130222\t최선의 손실: 0.072776\t정확도: 96.40%\n", - "11\t검증 세트 손실: 0.116270\t최선의 손실: 0.072776\t정확도: 96.87%\n", - "12\t검증 세트 손실: 0.100375\t최선의 손실: 0.072776\t정확도: 97.38%\n", - "13\t검증 세트 손실: 0.096093\t최선의 손실: 0.072776\t정확도: 97.42%\n", - "14\t검증 세트 손실: 0.107601\t최선의 손실: 0.072776\t정확도: 97.81%\n", - "15\t검증 세트 손실: 0.133184\t최선의 손실: 0.072776\t정확도: 97.81%\n", - "16\t검증 세트 손실: 0.207566\t최선의 손실: 0.072776\t정확도: 97.22%\n", - "17\t검증 세트 손실: 0.110256\t최선의 손실: 0.072776\t정확도: 97.34%\n", - "18\t검증 세트 손실: 0.095349\t최선의 손실: 0.072776\t정확도: 97.62%\n", - "19\t검증 세트 손실: 0.986982\t최선의 손실: 0.072776\t정확도: 84.68%\n", - "20\t검증 세트 손실: 0.772586\t최선의 손실: 0.072776\t정확도: 97.34%\n", - "21\t검증 세트 손실: 0.140419\t최선의 손실: 0.072776\t정확도: 96.95%\n", - "22\t검증 세트 손실: 0.921984\t최선의 손실: 0.072776\t정확도: 79.05%\n", - "23\t검증 세트 손실: 0.296639\t최선의 손실: 0.072776\t정확도: 95.04%\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation=, total= 4.7s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.128416\t최선의 손실: 0.128416\t정확도: 97.03%\n", + "1\t검증 세트 손실: 0.086228\t최선의 손실: 0.086228\t정확도: 97.81%\n", + "2\t검증 세트 손실: 0.091393\t최선의 손실: 0.086228\t정확도: 97.54%\n", + "3\t검증 세트 손실: 0.106905\t최선의 손실: 0.086228\t정확도: 96.68%\n", + "4\t검증 세트 손실: 0.083921\t최선의 손실: 0.083921\t정확도: 98.08%\n", + "5\t검증 세트 손실: 3.571547\t최선의 손실: 0.083921\t정확도: 43.90%\n", + "6\t검증 세트 손실: 0.541463\t최선의 손실: 0.083921\t정확도: 74.28%\n", + "7\t검증 세트 손실: 0.446433\t최선의 손실: 0.083921\t정확도: 75.57%\n", + "8\t검증 세트 손실: 0.496037\t최선의 손실: 0.083921\t정확도: 77.99%\n", + "9\t검증 세트 손실: 0.412458\t최선의 손실: 0.083921\t정확도: 78.66%\n", + "10\t검증 세트 손실: 0.215091\t최선의 손실: 0.083921\t정확도: 95.27%\n", + "11\t검증 세트 손실: 0.158801\t최선의 손실: 0.083921\t정확도: 96.60%\n", + "12\t검증 세트 손실: 0.152266\t최선의 손실: 0.083921\t정확도: 96.91%\n", + "13\t검증 세트 손실: 0.135251\t최선의 손실: 0.083921\t정확도: 97.38%\n", + "14\t검증 세트 손실: 0.132118\t최선의 손실: 0.083921\t정확도: 97.22%\n", + "15\t검증 세트 손실: 0.096936\t최선의 손실: 0.083921\t정확도: 97.85%\n", + "16\t검증 세트 손실: 0.186976\t최선의 손실: 0.083921\t정확도: 97.26%\n", + "17\t검증 세트 손실: 0.105537\t최선의 손실: 0.083921\t정확도: 97.85%\n", + "18\t검증 세트 손실: 0.096520\t최선의 손실: 0.083921\t정확도: 97.89%\n", + "19\t검증 세트 손실: 0.125981\t최선의 손실: 0.083921\t정확도: 97.89%\n", + "20\t검증 세트 손실: 0.118386\t최선의 손실: 0.083921\t정확도: 97.97%\n", + "21\t검증 세트 손실: 0.132221\t최선의 손실: 0.083921\t정확도: 97.50%\n", + "22\t검증 세트 손실: 0.098336\t최선의 손실: 0.083921\t정확도: 97.65%\n", + "23\t검증 세트 손실: 0.217096\t최선의 손실: 0.083921\t정확도: 97.62%\n", + "24\t검증 세트 손실: 0.115280\t최선의 손실: 0.083921\t정확도: 98.20%\n", + "25\t검증 세트 손실: 0.111588\t최선의 손실: 0.083921\t정확도: 97.89%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=50, total= 4.7s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.142274\t최선의 손실: 0.142274\t정확도: 96.36%\n", - "1\t검증 세트 손실: 0.133510\t최선의 손실: 0.133510\t정확도: 96.91%\n", - "2\t검증 세트 손실: 0.122981\t최선의 손실: 0.122981\t정확도: 96.48%\n", - "3\t검증 세트 손실: 0.128198\t최선의 손실: 0.122981\t정확도: 96.76%\n", - "4\t검증 세트 손실: 0.139517\t최선의 손실: 0.122981\t정확도: 96.87%\n", - "5\t검증 세트 손실: 0.118783\t최선의 손실: 0.118783\t정확도: 96.79%\n", - "6\t검증 세트 손실: 0.117338\t최선의 손실: 0.117338\t정확도: 96.56%\n", - "7\t검증 세트 손실: 0.118613\t최선의 손실: 0.117338\t정확도: 96.76%\n", - "8\t검증 세트 손실: 0.112223\t최선의 손실: 0.112223\t정확도: 97.26%\n", - "9\t검증 세트 손실: 0.130085\t최선의 손실: 0.112223\t정확도: 96.87%\n", - "10\t검증 세트 손실: 0.126656\t최선의 손실: 0.112223\t정확도: 96.44%\n", - "11\t검증 세트 손실: 0.117869\t최선의 손실: 0.112223\t정확도: 97.07%\n", - "12\t검증 세트 손실: 0.182284\t최선의 손실: 0.112223\t정확도: 95.39%\n", - "13\t검증 세트 손실: 0.135290\t최선의 손실: 0.112223\t정확도: 96.52%\n", - "14\t검증 세트 손실: 0.120524\t최선의 손실: 0.112223\t정확도: 96.99%\n", - "15\t검증 세트 손실: 0.152629\t최선의 손실: 0.112223\t정확도: 96.76%\n", - "16\t검증 세트 손실: 0.127829\t최선의 손실: 0.112223\t정확도: 96.52%\n", - "17\t검증 세트 손실: 0.134285\t최선의 손실: 0.112223\t정확도: 96.87%\n", - "18\t검증 세트 손실: 0.165808\t최선의 손실: 0.112223\t정확도: 96.09%\n", - "19\t검증 세트 손실: 0.143477\t최선의 손실: 0.112223\t정확도: 96.76%\n", - "20\t검증 세트 손실: 0.130859\t최선의 손실: 0.112223\t정확도: 96.60%\n", - "21\t검증 세트 손실: 0.116497\t최선의 손실: 0.112223\t정확도: 96.95%\n", - "22\t검증 세트 손실: 0.122594\t최선의 손실: 0.112223\t정확도: 96.95%\n", - "23\t검증 세트 손실: 0.105619\t최선의 손실: 0.105619\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.106889\t최선의 손실: 0.105619\t정확도: 97.42%\n", - "25\t검증 세트 손실: 0.128727\t최선의 손실: 0.105619\t정확도: 96.76%\n", - "26\t검증 세트 손실: 0.146713\t최선의 손실: 0.105619\t정확도: 96.87%\n", - "27\t검증 세트 손실: 0.129831\t최선의 손실: 0.105619\t정확도: 97.15%\n", - "28\t검증 세트 손실: 0.177439\t최선의 손실: 0.105619\t정확도: 96.52%\n", - "29\t검증 세트 손실: 0.123852\t최선의 손실: 0.105619\t정확도: 97.19%\n", - "30\t검증 세트 손실: 0.125675\t최선의 손실: 0.105619\t정확도: 97.22%\n", - "31\t검증 세트 손실: 0.181843\t최선의 손실: 0.105619\t정확도: 96.40%\n", - "32\t검증 세트 손실: 0.130455\t최선의 손실: 0.105619\t정확도: 96.83%\n", - "33\t검증 세트 손실: 0.127908\t최선의 손실: 0.105619\t정확도: 97.19%\n", - "34\t검증 세트 손실: 0.151321\t최선의 손실: 0.105619\t정확도: 96.56%\n", - "35\t검증 세트 손실: 0.138253\t최선의 손실: 0.105619\t정확도: 96.52%\n", - "36\t검증 세트 손실: 0.142900\t최선의 손실: 0.105619\t정확도: 96.79%\n", - "37\t검증 세트 손실: 0.140734\t최선의 손실: 0.105619\t정확도: 96.33%\n", - "38\t검증 세트 손실: 0.170714\t최선의 손실: 0.105619\t정확도: 96.99%\n", - "39\t검증 세트 손실: 0.135179\t최선의 손실: 0.105619\t정확도: 97.03%\n", - "40\t검증 세트 손실: 0.136301\t최선의 손실: 0.105619\t정확도: 96.64%\n", - "41\t검증 세트 손실: 0.148185\t최선의 손실: 0.105619\t정확도: 96.76%\n", - "42\t검증 세트 손실: 0.125137\t최선의 손실: 0.105619\t정확도: 96.76%\n", - "43\t검증 세트 손실: 0.138498\t최선의 손실: 0.105619\t정확도: 96.83%\n", - "44\t검증 세트 손실: 0.148452\t최선의 손실: 0.105619\t정확도: 96.60%\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation=, total= 5.0s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.116710\t최선의 손실: 0.116710\t정확도: 96.95%\n", + "1\t검증 세트 손실: 0.716317\t최선의 손실: 0.116710\t정확도: 84.32%\n", + "2\t검증 세트 손실: 0.090219\t최선의 손실: 0.090219\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.078920\t최선의 손실: 0.078920\t정확도: 97.81%\n", + "4\t검증 세트 손실: 0.068936\t최선의 손실: 0.068936\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.084100\t최선의 손실: 0.068936\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.078432\t최선의 손실: 0.068936\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.098221\t최선의 손실: 0.068936\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.092618\t최선의 손실: 0.068936\t정확도: 98.12%\n", + "9\t검증 세트 손실: 0.326801\t최선의 손실: 0.068936\t정확도: 94.57%\n", + "10\t검증 세트 손실: 0.128878\t최선의 손실: 0.068936\t정확도: 97.15%\n", + "11\t검증 세트 손실: 0.074110\t최선의 손실: 0.068936\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.097426\t최선의 손실: 0.068936\t정확도: 97.30%\n", + "13\t검증 세트 손실: 0.065497\t최선의 손실: 0.065497\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.080090\t최선의 손실: 0.065497\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.065570\t최선의 손실: 0.065497\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.078439\t최선의 손실: 0.065497\t정확도: 98.24%\n", + "17\t검증 세트 손실: 0.106321\t최선의 손실: 0.065497\t정확도: 98.28%\n", + "18\t검증 세트 손실: 0.067398\t최선의 손실: 0.065497\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.082870\t최선의 손실: 0.065497\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.398944\t최선의 손실: 0.065497\t정확도: 90.11%\n", + "21\t검증 세트 손실: 20.954781\t최선의 손실: 0.065497\t정확도: 29.01%\n", + "22\t검증 세트 손실: 1.226250\t최선의 손실: 0.065497\t정확도: 37.29%\n", + "23\t검증 세트 손실: 1.222462\t최선의 손실: 0.065497\t정확도: 40.50%\n", + "24\t검증 세트 손실: 1.350350\t최선의 손실: 0.065497\t정확도: 39.21%\n", + "25\t검증 세트 손실: 1.255301\t최선의 손실: 0.065497\t정확도: 39.37%\n", + "26\t검증 세트 손실: 1.207553\t최선의 손실: 0.065497\t정확도: 40.50%\n", + "27\t검증 세트 손실: 1.183826\t최선의 손실: 0.065497\t정확도: 37.65%\n", + "28\t검증 세트 손실: 1.188458\t최선의 손실: 0.065497\t정확도: 37.29%\n", + "29\t검증 세트 손실: 1.179129\t최선의 손실: 0.065497\t정확도: 40.23%\n", + "30\t검증 세트 손실: 1.199158\t최선의 손실: 0.065497\t정확도: 40.66%\n", + "31\t검증 세트 손실: 1.199237\t최선의 손실: 0.065497\t정확도: 38.98%\n", + "32\t검증 세트 손실: 1.174764\t최선의 손실: 0.065497\t정확도: 40.27%\n", + "33\t검증 세트 손실: 1.165981\t최선의 손실: 0.065497\t정확도: 40.46%\n", + "34\t검증 세트 손실: 1.247518\t최선의 손실: 0.065497\t정확도: 36.83%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10, total= 8.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.303208\t최선의 손실: 0.303208\t정확도: 88.70%\n", - "1\t검증 세트 손실: 0.283273\t최선의 손실: 0.283273\t정확도: 90.42%\n", - "2\t검증 세트 손실: 0.222847\t최선의 손실: 0.222847\t정확도: 93.28%\n", - "3\t검증 세트 손실: 0.239942\t최선의 손실: 0.222847\t정확도: 92.57%\n", - "4\t검증 세트 손실: 0.220328\t최선의 손실: 0.220328\t정확도: 93.55%\n", - "5\t검증 세트 손실: 0.191916\t최선의 손실: 0.191916\t정확도: 94.76%\n", - "6\t검증 세트 손실: 0.167315\t최선의 손실: 0.167315\t정확도: 95.04%\n", - "7\t검증 세트 손실: 0.159181\t최선의 손실: 0.159181\t정확도: 95.31%\n", - "8\t검증 세트 손실: 0.143442\t최선의 손실: 0.143442\t정확도: 96.17%\n", - "9\t검증 세트 손실: 0.131389\t최선의 손실: 0.131389\t정확도: 96.44%\n", - "10\t검증 세트 손실: 0.161128\t최선의 손실: 0.131389\t정확도: 96.13%\n", - "11\t검증 세트 손실: 0.130165\t최선의 손실: 0.130165\t정확도: 96.56%\n", - "12\t검증 세트 손실: 0.131124\t최선의 손실: 0.130165\t정확도: 96.36%\n", - "13\t검증 세트 손실: 0.137689\t최선의 손실: 0.130165\t정확도: 96.33%\n", - "14\t검증 세트 손실: 0.126581\t최선의 손실: 0.126581\t정확도: 96.87%\n", - "15\t검증 세트 손실: 0.123323\t최선의 손실: 0.123323\t정확도: 96.44%\n", - "16\t검증 세트 손실: 0.131466\t최선의 손실: 0.123323\t정확도: 96.95%\n", - "17\t검증 세트 손실: 0.138757\t최선의 손실: 0.123323\t정확도: 96.44%\n", - "18\t검증 세트 손실: 0.133373\t최선의 손실: 0.123323\t정확도: 96.44%\n", - "19\t검증 세트 손실: 0.129778\t최선의 손실: 0.123323\t정확도: 96.68%\n", - "20\t검증 세트 손실: 0.156229\t최선의 손실: 0.123323\t정확도: 96.01%\n", - "21\t검증 세트 손실: 0.326346\t최선의 손실: 0.123323\t정확도: 92.38%\n", - "22\t검증 세트 손실: 0.146211\t최선의 손실: 0.123323\t정확도: 96.29%\n", - "23\t검증 세트 손실: 0.136110\t최선의 손실: 0.123323\t정확도: 96.40%\n", - "24\t검증 세트 손실: 0.144782\t최선의 손실: 0.123323\t정확도: 96.76%\n", - "25\t검증 세트 손실: 0.147591\t최선의 손실: 0.123323\t정확도: 96.05%\n", - "26\t검증 세트 손실: 0.124485\t최선의 손실: 0.123323\t정확도: 96.79%\n", - "27\t검증 세트 손실: 0.164708\t최선의 손실: 0.123323\t정확도: 96.21%\n", - "28\t검증 세트 손실: 0.128645\t최선의 손실: 0.123323\t정확도: 96.72%\n", - "29\t검증 세트 손실: 0.145412\t최선의 손실: 0.123323\t정확도: 95.97%\n", - "30\t검증 세트 손실: 0.137178\t최선의 손실: 0.123323\t정확도: 96.79%\n", - "31\t검증 세트 손실: 0.112817\t최선의 손실: 0.112817\t정확도: 96.72%\n", - "32\t검증 세트 손실: 0.149258\t최선의 손실: 0.112817\t정확도: 96.40%\n", - "33\t검증 세트 손실: 0.156759\t최선의 손실: 0.112817\t정확도: 96.72%\n", - "34\t검증 세트 손실: 0.156666\t최선의 손실: 0.112817\t정확도: 96.29%\n", - "35\t검증 세트 손실: 0.166439\t최선의 손실: 0.112817\t정확도: 96.36%\n", - "36\t검증 세트 손실: 0.145728\t최선의 손실: 0.112817\t정확도: 96.25%\n", - "37\t검증 세트 손실: 0.149319\t최선의 손실: 0.112817\t정확도: 96.83%\n", - "38\t검증 세트 손실: 0.152830\t최선의 손실: 0.112817\t정확도: 96.29%\n", - "39\t검증 세트 손실: 0.141351\t최선의 손실: 0.112817\t정확도: 96.72%\n", - "40\t검증 세트 손실: 0.157660\t최선의 손실: 0.112817\t정확도: 96.64%\n", - "41\t검증 세트 손실: 0.133846\t최선의 손실: 0.112817\t정확도: 96.83%\n", - "42\t검증 세트 손실: 0.144165\t최선의 손실: 0.112817\t정확도: 96.64%\n", - "43\t검증 세트 손실: 0.142172\t최선의 손실: 0.112817\t정확도: 96.64%\n", - "44\t검증 세트 손실: 0.128800\t최선의 손실: 0.112817\t정확도: 96.79%\n", - "45\t검증 세트 손실: 0.132444\t최선의 손실: 0.112817\t정확도: 96.99%\n", - "46\t검증 세트 손실: 0.123527\t최선의 손실: 0.112817\t정확도: 96.91%\n", - "47\t검증 세트 손실: 0.171308\t최선의 손실: 0.112817\t정확도: 95.93%\n", - "48\t검증 세트 손실: 0.142094\t최선의 손실: 0.112817\t정확도: 96.95%\n", - "49\t검증 세트 손실: 0.138835\t최선의 손실: 0.112817\t정확도: 96.83%\n", - "50\t검증 세트 손실: 0.147881\t최선의 손실: 0.112817\t정확도: 97.15%\n", - "51\t검증 세트 손실: 0.131372\t최선의 손실: 0.112817\t정확도: 96.95%\n", - "52\t검증 세트 손실: 0.138544\t최선의 손실: 0.112817\t정확도: 96.95%\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=100, activation=, total= 6.5s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.166630\t최선의 손실: 0.166630\t정확도: 95.35%\n", + "1\t검증 세트 손실: 0.141540\t최선의 손실: 0.141540\t정확도: 96.95%\n", + "2\t검증 세트 손실: 0.155412\t최선의 손실: 0.141540\t정확도: 96.33%\n", + "3\t검증 세트 손실: 0.116189\t최선의 손실: 0.116189\t정확도: 97.07%\n", + "4\t검증 세트 손실: 0.115943\t최선의 손실: 0.115943\t정확도: 97.03%\n", + "5\t검증 세트 손실: 0.141509\t최선의 손실: 0.115943\t정확도: 96.72%\n", + "6\t검증 세트 손실: 0.133136\t최선의 손실: 0.115943\t정확도: 96.33%\n", + "7\t검증 세트 손실: 0.122791\t최선의 손실: 0.115943\t정확도: 96.44%\n", + "8\t검증 세트 손실: 0.164037\t최선의 손실: 0.115943\t정확도: 95.54%\n", + "9\t검증 세트 손실: 0.126426\t최선의 손실: 0.115943\t정확도: 97.11%\n", + "10\t검증 세트 손실: 0.125910\t최선의 손실: 0.115943\t정확도: 97.07%\n", + "11\t검증 세트 손실: 0.126348\t최선의 손실: 0.115943\t정확도: 96.83%\n", + "12\t검증 세트 손실: 0.110921\t최선의 손실: 0.110921\t정확도: 97.34%\n", + "13\t검증 세트 손실: 0.111078\t최선의 손실: 0.110921\t정확도: 97.42%\n", + "14\t검증 세트 손실: 0.149675\t최선의 손실: 0.110921\t정확도: 96.64%\n", + "15\t검증 세트 손실: 0.115928\t최선의 손실: 0.110921\t정확도: 97.22%\n", + "16\t검증 세트 손실: 0.114465\t최선의 손실: 0.110921\t정확도: 97.50%\n", + "17\t검증 세트 손실: 0.112470\t최선의 손실: 0.110921\t정확도: 97.38%\n", + "18\t검증 세트 손실: 0.164522\t최선의 손실: 0.110921\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.126042\t최선의 손실: 0.110921\t정확도: 97.34%\n", + "20\t검증 세트 손실: 0.122453\t최선의 손실: 0.110921\t정확도: 97.34%\n", + "21\t검증 세트 손실: 0.278073\t최선의 손실: 0.110921\t정확도: 93.39%\n", + "22\t검증 세트 손실: 0.143661\t최선의 손실: 0.110921\t정확도: 96.56%\n", + "23\t검증 세트 손실: 0.115212\t최선의 손실: 0.110921\t정확도: 97.19%\n", + "24\t검증 세트 손실: 0.125456\t최선의 손실: 0.110921\t정확도: 96.60%\n", + "25\t검증 세트 손실: 0.115220\t최선의 손실: 0.110921\t정확도: 97.34%\n", + "26\t검증 세트 손실: 0.118214\t최선의 손실: 0.110921\t정확도: 97.46%\n", + "27\t검증 세트 손실: 0.121142\t최선의 손실: 0.110921\t정확도: 97.19%\n", + "28\t검증 세트 손실: 0.140943\t최선의 손실: 0.110921\t정확도: 97.58%\n", + "29\t검증 세트 손실: 0.119197\t최선의 손실: 0.110921\t정확도: 97.26%\n", + "30\t검증 세트 손실: 0.143662\t최선의 손실: 0.110921\t정확도: 96.72%\n", + "31\t검증 세트 손실: 0.131439\t최선의 손실: 0.110921\t정확도: 97.26%\n", + "32\t검증 세트 손실: 0.131229\t최선의 손실: 0.110921\t정확도: 96.95%\n", + "33\t검증 세트 손실: 0.110402\t최선의 손실: 0.110402\t정확도: 97.50%\n", + "34\t검증 세트 손실: 0.166853\t최선의 손실: 0.110402\t정확도: 96.21%\n", + "35\t검증 세트 손실: 0.112778\t최선의 손실: 0.110402\t정확도: 97.65%\n", + "36\t검증 세트 손실: 0.136114\t최선의 손실: 0.110402\t정확도: 97.07%\n", + "37\t검증 세트 손실: 0.113124\t최선의 손실: 0.110402\t정확도: 97.54%\n", + "38\t검증 세트 손실: 0.143643\t최선의 손실: 0.110402\t정확도: 97.15%\n", + "39\t검증 세트 손실: 0.126920\t최선의 손실: 0.110402\t정확도: 97.30%\n", + "40\t검증 세트 손실: 0.179230\t최선의 손실: 0.110402\t정확도: 97.22%\n", + "41\t검증 세트 손실: 0.128572\t최선의 손실: 0.110402\t정확도: 96.68%\n", + "42\t검증 세트 손실: 0.229736\t최선의 손실: 0.110402\t정확도: 92.96%\n", + "43\t검증 세트 손실: 0.115794\t최선의 손실: 0.110402\t정확도: 97.07%\n", + "44\t검증 세트 손실: 0.141514\t최선의 손실: 0.110402\t정확도: 96.25%\n", + "45\t검증 세트 손실: 0.123465\t최선의 손실: 0.110402\t정확도: 96.68%\n", + "46\t검증 세트 손실: 0.123632\t최선의 손실: 0.110402\t정확도: 96.48%\n", + "47\t검증 세트 손실: 0.124093\t최선의 손실: 0.110402\t정확도: 96.91%\n", + "48\t검증 세트 손실: 0.143144\t최선의 손실: 0.110402\t정확도: 96.99%\n", + "49\t검증 세트 손실: 0.153359\t최선의 손실: 0.110402\t정확도: 97.07%\n", + "50\t검증 세트 손실: 0.129159\t최선의 손실: 0.110402\t정확도: 97.42%\n", + "51\t검증 세트 손실: 0.116695\t최선의 손실: 0.110402\t정확도: 97.62%\n", + "52\t검증 세트 손실: 0.124675\t최선의 손실: 0.110402\t정확도: 97.50%\n", + "53\t검증 세트 손실: 0.159994\t최선의 손실: 0.110402\t정확도: 97.30%\n", + "54\t검증 세트 손실: 0.128097\t최선의 손실: 0.110402\t정확도: 97.34%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10, total= 10.0s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10 \n", - "0\t검증 세트 손실: 0.142011\t최선의 손실: 0.142011\t정확도: 95.70%\n", - "1\t검증 세트 손실: 0.132000\t최선의 손실: 0.132000\t정확도: 95.62%\n", - "2\t검증 세트 손실: 0.117085\t최선의 손실: 0.117085\t정확도: 96.44%\n", - "3\t검증 세트 손실: 0.122689\t최선의 손실: 0.117085\t정확도: 96.68%\n", - "4\t검증 세트 손실: 0.125578\t최선의 손실: 0.117085\t정확도: 96.64%\n", - "5\t검증 세트 손실: 0.146806\t최선의 손실: 0.117085\t정확도: 96.36%\n", - "6\t검증 세트 손실: 0.118707\t최선의 손실: 0.117085\t정확도: 96.87%\n", - "7\t검증 세트 손실: 0.141140\t최선의 손실: 0.117085\t정확도: 96.17%\n", - "8\t검증 세트 손실: 0.120196\t최선의 손실: 0.117085\t정확도: 96.83%\n", - "9\t검증 세트 손실: 0.109335\t최선의 손실: 0.109335\t정확도: 96.95%\n", - "10\t검증 세트 손실: 0.177834\t최선의 손실: 0.109335\t정확도: 95.07%\n", - "11\t검증 세트 손실: 0.132460\t최선의 손실: 0.109335\t정확도: 96.91%\n" + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation=, total= 10.1s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.172848\t최선의 손실: 0.172848\t정확도: 95.15%\n", + "1\t검증 세트 손실: 0.121674\t최선의 손실: 0.121674\t정확도: 96.60%\n", + "2\t검증 세트 손실: 0.111624\t최선의 손실: 0.111624\t정확도: 96.87%\n", + "3\t검증 세트 손실: 0.138088\t최선의 손실: 0.111624\t정확도: 96.09%\n", + "4\t검증 세트 손실: 0.108286\t최선의 손실: 0.108286\t정확도: 96.64%\n", + "5\t검증 세트 손실: 0.116588\t최선의 손실: 0.108286\t정확도: 96.64%\n", + "6\t검증 세트 손실: 0.114502\t최선의 손실: 0.108286\t정확도: 96.76%\n", + "7\t검증 세트 손실: 0.141788\t최선의 손실: 0.108286\t정확도: 96.21%\n", + "8\t검증 세트 손실: 0.113105\t최선의 손실: 0.108286\t정확도: 96.68%\n", + "9\t검증 세트 손실: 0.116254\t최선의 손실: 0.108286\t정확도: 96.87%\n", + "10\t검증 세트 손실: 0.123633\t최선의 손실: 0.108286\t정확도: 96.48%\n", + "11\t검증 세트 손실: 0.131502\t최선의 손실: 0.108286\t정확도: 96.44%\n", + "12\t검증 세트 손실: 0.132251\t최선의 손실: 0.108286\t정확도: 96.48%\n", + "13\t검증 세트 손실: 0.128646\t최선의 손실: 0.108286\t정확도: 96.83%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "12\t검증 세트 손실: 0.167044\t최선의 손실: 0.109335\t정확도: 96.25%\n", - "13\t검증 세트 손실: 0.119785\t최선의 손실: 0.109335\t정확도: 96.87%\n", - "14\t검증 세트 손실: 0.124444\t최선의 손실: 0.109335\t정확도: 96.68%\n", - "15\t검증 세트 손실: 0.149647\t최선의 손실: 0.109335\t정확도: 96.21%\n", - "16\t검증 세트 손실: 0.123429\t최선의 손실: 0.109335\t정확도: 96.44%\n", - "17\t검증 세트 손실: 0.120085\t최선의 손실: 0.109335\t정확도: 97.03%\n", - "18\t검증 세트 손실: 0.120813\t최선의 손실: 0.109335\t정확도: 96.44%\n", - "19\t검증 세트 손실: 0.134334\t최선의 손실: 0.109335\t정확도: 96.17%\n", - "20\t검증 세트 손실: 0.145839\t최선의 손실: 0.109335\t정확도: 96.52%\n", - "21\t검증 세트 손실: 0.106488\t최선의 손실: 0.106488\t정확도: 97.11%\n", - "22\t검증 세트 손실: 0.121791\t최선의 손실: 0.106488\t정확도: 96.79%\n", - "23\t검증 세트 손실: 0.143375\t최선의 손실: 0.106488\t정확도: 96.33%\n", - "24\t검증 세트 손실: 0.122682\t최선의 손실: 0.106488\t정확도: 96.87%\n", - "25\t검증 세트 손실: 0.146276\t최선의 손실: 0.106488\t정확도: 96.79%\n", - "26\t검증 세트 손실: 0.150099\t최선의 손실: 0.106488\t정확도: 96.76%\n", - "27\t검증 세트 손실: 0.128638\t최선의 손실: 0.106488\t정확도: 96.72%\n", - "28\t검증 세트 손실: 0.169055\t최선의 손실: 0.106488\t정확도: 95.78%\n", - "29\t검증 세트 손실: 0.153824\t최선의 손실: 0.106488\t정확도: 96.13%\n", - "30\t검증 세트 손실: 0.143584\t최선의 손실: 0.106488\t정확도: 95.93%\n", - "31\t검증 세트 손실: 0.111478\t최선의 손실: 0.106488\t정확도: 96.56%\n", - "32\t검증 세트 손실: 0.115927\t최선의 손실: 0.106488\t정확도: 96.13%\n", - "33\t검증 세트 손실: 0.125903\t최선의 손실: 0.106488\t정확도: 96.87%\n", - "34\t검증 세트 손실: 0.133483\t최선의 손실: 0.106488\t정확도: 96.68%\n", - "35\t검증 세트 손실: 0.139168\t최선의 손실: 0.106488\t정확도: 96.68%\n", - "36\t검증 세트 손실: 0.146673\t최선의 손실: 0.106488\t정확도: 96.48%\n", - "37\t검증 세트 손실: 0.190075\t최선의 손실: 0.106488\t정확도: 94.61%\n", - "38\t검증 세트 손실: 0.132726\t최선의 손실: 0.106488\t정확도: 96.52%\n", - "39\t검증 세트 손실: 0.127567\t최선의 손실: 0.106488\t정확도: 96.48%\n", - "40\t검증 세트 손실: 0.140544\t최선의 손실: 0.106488\t정확도: 96.44%\n", - "41\t검증 세트 손실: 0.124606\t최선의 손실: 0.106488\t정확도: 96.56%\n", - "42\t검증 세트 손실: 0.110304\t최선의 손실: 0.106488\t정확도: 97.46%\n", + "14\t검증 세트 손실: 0.126962\t최선의 손실: 0.108286\t정확도: 96.87%\n", + "15\t검증 세트 손실: 0.136316\t최선의 손실: 0.108286\t정확도: 96.83%\n", + "16\t검증 세트 손실: 0.147155\t최선의 손실: 0.108286\t정확도: 96.56%\n", + "17\t검증 세트 손실: 0.123543\t최선의 손실: 0.108286\t정확도: 96.64%\n", + "18\t검증 세트 손실: 0.131942\t최선의 손실: 0.108286\t정확도: 96.99%\n", + "19\t검증 세트 손실: 0.131690\t최선의 손실: 0.108286\t정확도: 97.03%\n", + "20\t검증 세트 손실: 0.138884\t최선의 손실: 0.108286\t정확도: 96.83%\n", + "21\t검증 세트 손실: 0.132662\t최선의 손실: 0.108286\t정확도: 96.56%\n", + "22\t검증 세트 손실: 0.122805\t최선의 손실: 0.108286\t정확도: 96.56%\n", + "23\t검증 세트 손실: 0.148515\t최선의 손실: 0.108286\t정확도: 96.33%\n", + "24\t검증 세트 손실: 0.143726\t최선의 손실: 0.108286\t정확도: 96.44%\n", + "25\t검증 세트 손실: 0.123805\t최선의 손실: 0.108286\t정확도: 96.60%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, n_neurons=10, total= 8.2s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.209698\t최선의 손실: 0.209698\t정확도: 94.61%\n", - "1\t검증 세트 손실: 0.188132\t최선의 손실: 0.188132\t정확도: 94.76%\n", - "2\t검증 세트 손실: 0.303091\t최선의 손실: 0.188132\t정확도: 92.06%\n", - "3\t검증 세트 손실: 0.342957\t최선의 손실: 0.188132\t정확도: 89.44%\n", - "4\t검증 세트 손실: 0.345057\t최선의 손실: 0.188132\t정확도: 92.65%\n", - "5\t검증 세트 손실: 0.311282\t최선의 손실: 0.188132\t정확도: 92.96%\n", - "6\t검증 세트 손실: 0.428300\t최선의 손실: 0.188132\t정확도: 89.17%\n", - "7\t검증 세트 손실: 0.891059\t최선의 손실: 0.188132\t정확도: 60.09%\n", - "8\t검증 세트 손실: 1.292694\t최선의 손실: 0.188132\t정확도: 41.99%\n", - "9\t검증 세트 손실: 1.148692\t최선의 손실: 0.188132\t정확도: 47.89%\n", - "10\t검증 세트 손실: 1.365890\t최선의 손실: 0.188132\t정확도: 37.02%\n", - "11\t검증 세트 손실: 0.955915\t최선의 손실: 0.188132\t정확도: 57.70%\n", - "12\t검증 세트 손실: 0.883937\t최선의 손실: 0.188132\t정확도: 55.39%\n", - "13\t검증 세트 손실: 1.410480\t최선의 손실: 0.188132\t정확도: 30.02%\n", - "14\t검증 세트 손실: 1.409139\t최선의 손실: 0.188132\t정확도: 33.23%\n", - "15\t검증 세트 손실: 1.409129\t최선의 손실: 0.188132\t정확도: 33.23%\n", - "16\t검증 세트 손실: 1.409049\t최선의 손실: 0.188132\t정확도: 33.23%\n", - "17\t검증 세트 손실: 1.196379\t최선의 손실: 0.188132\t정확도: 38.74%\n", - "18\t검증 세트 손실: 1.179280\t최선의 손실: 0.188132\t정확도: 42.06%\n", - "19\t검증 세트 손실: 1.175023\t최선의 손실: 0.188132\t정확도: 38.74%\n", - "20\t검증 세트 손실: 1.173956\t최선의 손실: 0.188132\t정확도: 42.06%\n", - "21\t검증 세트 손실: 1.174710\t최선의 손실: 0.188132\t정확도: 39.21%\n", - "22\t검증 세트 손실: 1.173433\t최선의 손실: 0.188132\t정확도: 39.21%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation=, total= 4.9s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.190366\t최선의 손실: 0.190366\t정확도: 94.45%\n", + "1\t검증 세트 손실: 0.136835\t최선의 손실: 0.136835\t정확도: 96.09%\n", + "2\t검증 세트 손실: 0.106541\t최선의 손실: 0.106541\t정확도: 96.76%\n", + "3\t검증 세트 손실: 0.114933\t최선의 손실: 0.106541\t정확도: 97.03%\n", + "4\t검증 세트 손실: 0.097181\t최선의 손실: 0.097181\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.098098\t최선의 손실: 0.097181\t정확도: 97.65%\n", + "6\t검증 세트 손실: 0.110771\t최선의 손실: 0.097181\t정확도: 97.11%\n", + "7\t검증 세트 손실: 0.103366\t최선의 손실: 0.097181\t정확도: 97.15%\n", + "8\t검증 세트 손실: 0.094392\t최선의 손실: 0.094392\t정확도: 97.38%\n", + "9\t검증 세트 손실: 0.125129\t최선의 손실: 0.094392\t정확도: 97.07%\n", + "10\t검증 세트 손실: 0.103250\t최선의 손실: 0.094392\t정확도: 97.26%\n", + "11\t검증 세트 손실: 0.100665\t최선의 손실: 0.094392\t정확도: 97.65%\n", + "12\t검증 세트 손실: 0.103745\t최선의 손실: 0.094392\t정확도: 97.62%\n", + "13\t검증 세트 손실: 0.117745\t최선의 손실: 0.094392\t정확도: 97.38%\n", + "14\t검증 세트 손실: 0.096009\t최선의 손실: 0.094392\t정확도: 97.42%\n", + "15\t검증 세트 손실: 0.110321\t최선의 손실: 0.094392\t정확도: 97.46%\n", + "16\t검증 세트 손실: 0.099779\t최선의 손실: 0.094392\t정확도: 97.65%\n", + "17\t검증 세트 손실: 0.109460\t최선의 손실: 0.094392\t정확도: 97.19%\n", + "18\t검증 세트 손실: 0.097432\t최선의 손실: 0.094392\t정확도: 97.62%\n", + "19\t검증 세트 손실: 0.106500\t최선의 손실: 0.094392\t정확도: 97.42%\n", + "20\t검증 세트 손실: 0.149043\t최선의 손실: 0.094392\t정확도: 95.50%\n", + "21\t검증 세트 손실: 0.127577\t최선의 손실: 0.094392\t정확도: 97.34%\n", + "22\t검증 세트 손실: 0.106859\t최선의 손실: 0.094392\t정확도: 96.91%\n", + "23\t검증 세트 손실: 0.101053\t최선의 손실: 0.094392\t정확도: 97.46%\n", + "24\t검증 세트 손실: 0.085297\t최선의 손실: 0.085297\t정확도: 97.73%\n", + "25\t검증 세트 손실: 0.098840\t최선의 손실: 0.085297\t정확도: 97.81%\n", + "26\t검증 세트 손실: 0.102265\t최선의 손실: 0.085297\t정확도: 97.65%\n", + "27\t검증 세트 손실: 0.098185\t최선의 손실: 0.085297\t정확도: 97.81%\n", + "28\t검증 세트 손실: 0.106194\t최선의 손실: 0.085297\t정확도: 97.62%\n", + "29\t검증 세트 손실: 0.117745\t최선의 손실: 0.085297\t정확도: 97.42%\n", + "30\t검증 세트 손실: 0.108135\t최선의 손실: 0.085297\t정확도: 97.50%\n", + "31\t검증 세트 손실: 0.140859\t최선의 손실: 0.085297\t정확도: 96.83%\n", + "32\t검증 세트 손실: 0.116484\t최선의 손실: 0.085297\t정확도: 96.64%\n", + "33\t검증 세트 손실: 0.256075\t최선의 손실: 0.085297\t정확도: 93.55%\n", + "34\t검증 세트 손실: 0.101657\t최선의 손실: 0.085297\t정확도: 97.46%\n", + "35\t검증 세트 손실: 0.102476\t최선의 손실: 0.085297\t정확도: 97.50%\n", + "36\t검증 세트 손실: 0.158650\t최선의 손실: 0.085297\t정확도: 96.44%\n", + "37\t검증 세트 손실: 0.128479\t최선의 손실: 0.085297\t정확도: 95.90%\n", + "38\t검증 세트 손실: 0.100830\t최선의 손실: 0.085297\t정확도: 97.42%\n", + "39\t검증 세트 손실: 0.093943\t최선의 손실: 0.085297\t정확도: 97.26%\n", + "40\t검증 세트 손실: 0.101086\t최선의 손실: 0.085297\t정확도: 97.42%\n", + "41\t검증 세트 손실: 0.087353\t최선의 손실: 0.085297\t정확도: 97.73%\n", + "42\t검증 세트 손실: 0.089490\t최선의 손실: 0.085297\t정확도: 97.65%\n", + "43\t검증 세트 손실: 0.082604\t최선의 손실: 0.082604\t정확도: 97.89%\n", + "44\t검증 세트 손실: 0.145481\t최선의 손실: 0.082604\t정확도: 95.35%\n", + "45\t검증 세트 손실: 0.112227\t최선의 손실: 0.082604\t정확도: 97.19%\n", + "46\t검증 세트 손실: 0.098119\t최선의 손실: 0.082604\t정확도: 97.62%\n", + "47\t검증 세트 손실: 0.097522\t최선의 손실: 0.082604\t정확도: 97.46%\n", + "48\t검증 세트 손실: 0.093372\t최선의 손실: 0.082604\t정확도: 97.50%\n", + "49\t검증 세트 손실: 0.092239\t최선의 손실: 0.082604\t정확도: 97.73%\n", + "50\t검증 세트 손실: 0.105771\t최선의 손실: 0.082604\t정확도: 97.85%\n", + "51\t검증 세트 손실: 0.088807\t최선의 손실: 0.082604\t정확도: 98.01%\n", + "52\t검증 세트 손실: 0.101123\t최선의 손실: 0.082604\t정확도: 97.69%\n", + "53\t검증 세트 손실: 0.091203\t최선의 손실: 0.082604\t정확도: 97.89%\n", + "54\t검증 세트 손실: 0.096838\t최선의 손실: 0.082604\t정확도: 97.93%\n", + "55\t검증 세트 손실: 0.091923\t최선의 손실: 0.082604\t정확도: 98.12%\n", + "56\t검증 세트 손실: 0.106321\t최선의 손실: 0.082604\t정확도: 97.93%\n", + "57\t검증 세트 손실: 0.080962\t최선의 손실: 0.080962\t정확도: 98.05%\n", + "58\t검증 세트 손실: 0.107009\t최선의 손실: 0.080962\t정확도: 97.50%\n", + "59\t검증 세트 손실: 0.093904\t최선의 손실: 0.080962\t정확도: 97.26%\n", + "60\t검증 세트 손실: 0.087361\t최선의 손실: 0.080962\t정확도: 98.01%\n", + "61\t검증 세트 손실: 0.102509\t최선의 손실: 0.080962\t정확도: 97.50%\n", + "62\t검증 세트 손실: 0.085845\t최선의 손실: 0.080962\t정확도: 97.89%\n", + "63\t검증 세트 손실: 0.082599\t최선의 손실: 0.080962\t정확도: 98.05%\n", + "64\t검증 세트 손실: 0.115430\t최선의 손실: 0.080962\t정확도: 97.22%\n", + "65\t검증 세트 손실: 0.097361\t최선의 손실: 0.080962\t정확도: 97.73%\n", + "66\t검증 세트 손실: 0.138983\t최선의 손실: 0.080962\t정확도: 96.87%\n", + "67\t검증 세트 손실: 0.122147\t최선의 손실: 0.080962\t정확도: 97.34%\n", + "68\t검증 세트 손실: 0.112108\t최선의 손실: 0.080962\t정확도: 97.54%\n", + "69\t검증 세트 손실: 0.131294\t최선의 손실: 0.080962\t정확도: 97.07%\n", + "70\t검증 세트 손실: 0.160682\t최선의 손실: 0.080962\t정확도: 96.95%\n", + "71\t검증 세트 손실: 0.126331\t최선의 손실: 0.080962\t정확도: 97.15%\n", + "72\t검증 세트 손실: 0.119343\t최선의 손실: 0.080962\t정확도: 97.58%\n", + "73\t검증 세트 손실: 0.160278\t최선의 손실: 0.080962\t정확도: 95.90%\n", + "74\t검증 세트 손실: 0.120530\t최선의 손실: 0.080962\t정확도: 97.15%\n", + "75\t검증 세트 손실: 0.105571\t최선의 손실: 0.080962\t정확도: 97.26%\n", + "76\t검증 세트 손실: 0.127302\t최선의 손실: 0.080962\t정확도: 96.99%\n", + "77\t검증 세트 손실: 0.114971\t최선의 손실: 0.080962\t정확도: 97.50%\n", + "78\t검증 세트 손실: 0.102972\t최선의 손실: 0.080962\t정확도: 97.62%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30, total= 36.7s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.288984\t최선의 손실: 0.288984\t정확도: 92.92%\n", - "1\t검증 세트 손실: 0.273478\t최선의 손실: 0.273478\t정확도: 93.24%\n", - "2\t검증 세트 손실: 0.379908\t최선의 손실: 0.273478\t정확도: 87.53%\n", - "3\t검증 세트 손실: 0.694924\t최선의 손실: 0.273478\t정확도: 68.26%\n", - "4\t검증 세트 손실: 0.593704\t최선의 손실: 0.273478\t정확도: 76.58%\n", - "5\t검증 세트 손실: 0.545762\t최선의 손실: 0.273478\t정확도: 77.91%\n", - "6\t검증 세트 손실: 0.636678\t최선의 손실: 0.273478\t정확도: 69.86%\n", - "7\t검증 세트 손실: 0.587154\t최선의 손실: 0.273478\t정확도: 72.20%\n", - "8\t검증 세트 손실: 0.738391\t최선의 손실: 0.273478\t정확도: 74.16%\n", - "9\t검증 세트 손실: 0.515256\t최선의 손실: 0.273478\t정확도: 77.25%\n", - "10\t검증 세트 손실: 0.478646\t최선의 손실: 0.273478\t정확도: 85.89%\n", - "11\t검증 세트 손실: 0.464411\t최선의 손실: 0.273478\t정확도: 87.10%\n", - "12\t검증 세트 손실: 0.415218\t최선의 손실: 0.273478\t정확도: 92.14%\n", - "13\t검증 세트 손실: 0.358096\t최선의 손실: 0.273478\t정확도: 93.08%\n", - "14\t검증 세트 손실: 0.317838\t최선의 손실: 0.273478\t정확도: 94.14%\n", - "15\t검증 세트 손실: 0.434255\t최선의 손실: 0.273478\t정확도: 92.34%\n", - "16\t검증 세트 손실: 0.401900\t최선의 손실: 0.273478\t정확도: 94.68%\n", - "17\t검증 세트 손실: 0.858923\t최선의 손실: 0.273478\t정확도: 91.56%\n", - "18\t검증 세트 손실: 0.808469\t최선의 손실: 0.273478\t정확도: 59.58%\n", - "19\t검증 세트 손실: 1.051956\t최선의 손실: 0.273478\t정확도: 57.66%\n", - "20\t검증 세트 손실: 0.960327\t최선의 손실: 0.273478\t정확도: 54.89%\n", - "21\t검증 세트 손실: 0.873785\t최선의 손실: 0.273478\t정확도: 59.85%\n", - "22\t검증 세트 손실: 0.896759\t최선의 손실: 0.273478\t정확도: 57.66%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, activation=, total= 14.4s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.172751\t최선의 손실: 0.172751\t정확도: 95.35%\n", + "1\t검증 세트 손실: 0.236127\t최선의 손실: 0.172751\t정확도: 94.84%\n", + "2\t검증 세트 손실: 0.262931\t최선의 손실: 0.172751\t정확도: 92.77%\n", + "3\t검증 세트 손실: 0.246745\t최선의 손실: 0.172751\t정확도: 94.68%\n", + "4\t검증 세트 손실: 0.190750\t최선의 손실: 0.172751\t정확도: 94.84%\n", + "5\t검증 세트 손실: 0.178975\t최선의 손실: 0.172751\t정확도: 95.47%\n", + "6\t검증 세트 손실: 0.192953\t최선의 손실: 0.172751\t정확도: 95.23%\n", + "7\t검증 세트 손실: 0.174508\t최선의 손실: 0.172751\t정확도: 95.93%\n", + "8\t검증 세트 손실: 0.241075\t최선의 손실: 0.172751\t정확도: 92.96%\n", + "9\t검증 세트 손실: 0.683611\t최선의 손실: 0.172751\t정확도: 71.42%\n", + "10\t검증 세트 손실: 0.557037\t최선의 손실: 0.172751\t정확도: 79.01%\n", + "11\t검증 세트 손실: 0.313341\t최선의 손실: 0.172751\t정확도: 93.59%\n", + "12\t검증 세트 손실: 0.461692\t최선의 손실: 0.172751\t정확도: 80.96%\n", + "13\t검증 세트 손실: 0.767931\t최선의 손실: 0.172751\t정확도: 68.26%\n", + "14\t검증 세트 손실: 1.213876\t최선의 손실: 0.172751\t정확도: 43.24%\n", + "15\t검증 세트 손실: 1.060153\t최선의 손실: 0.172751\t정확도: 47.89%\n", + "16\t검증 세트 손실: 1.130786\t최선의 손실: 0.172751\t정확도: 42.10%\n", + "17\t검증 세트 손실: 0.821831\t최선의 손실: 0.172751\t정확도: 57.78%\n", + "18\t검증 세트 손실: 1.049433\t최선의 손실: 0.172751\t정확도: 48.98%\n", + "19\t검증 세트 손실: 0.977132\t최선의 손실: 0.172751\t정확도: 52.50%\n", + "20\t검증 세트 손실: 0.930662\t최선의 손실: 0.172751\t정확도: 53.48%\n", + "21\t검증 세트 손실: 1.249915\t최선의 손실: 0.172751\t정확도: 37.92%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30, total= 38.0s\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30 \n", - "0\t검증 세트 손실: 0.201873\t최선의 손실: 0.201873\t정확도: 94.61%\n", - "1\t검증 세트 손실: 0.278906\t최선의 손실: 0.201873\t정확도: 94.33%\n", - "2\t검증 세트 손실: 0.179366\t최선의 손실: 0.179366\t정확도: 95.43%\n", - "3\t검증 세트 손실: 0.209879\t최선의 손실: 0.179366\t정확도: 95.50%\n", - "4\t검증 세트 손실: 0.150550\t최선의 손실: 0.150550\t정확도: 96.33%\n", - "5\t검증 세트 손실: 0.316041\t최선의 손실: 0.150550\t정확도: 95.62%\n", - "6\t검증 세트 손실: 0.243724\t최선의 손실: 0.150550\t정확도: 95.11%\n", - "7\t검증 세트 손실: 0.261831\t최선의 손실: 0.150550\t정확도: 95.66%\n", - "8\t검증 세트 손실: 0.455155\t최선의 손실: 0.150550\t정확도: 77.37%\n", - "9\t검증 세트 손실: 0.480061\t최선의 손실: 0.150550\t정확도: 80.57%\n", - "10\t검증 세트 손실: 0.521370\t최선의 손실: 0.150550\t정확도: 86.83%\n", - "11\t검증 세트 손실: 0.532341\t최선의 손실: 0.150550\t정확도: 74.90%\n", - "12\t검증 세트 손실: 0.652826\t최선의 손실: 0.150550\t정확도: 70.72%\n", - "13\t검증 세트 손실: 0.617716\t최선의 손실: 0.150550\t정확도: 71.03%\n", - "14\t검증 세트 손실: 0.591330\t최선의 손실: 0.150550\t정확도: 72.01%\n", - "15\t검증 세트 손실: 0.556862\t최선의 손실: 0.150550\t정확도: 74.24%\n", - "16\t검증 세트 손실: 0.591681\t최선의 손실: 0.150550\t정확도: 72.79%\n", - "17\t검증 세트 손실: 0.622786\t최선의 손실: 0.150550\t정확도: 70.60%\n", - "18\t검증 세트 손실: 0.545044\t최선의 손실: 0.150550\t정확도: 74.59%\n", - "19\t검증 세트 손실: 0.547901\t최선의 손실: 0.150550\t정확도: 74.24%\n", - "20\t검증 세트 손실: 0.810745\t최선의 손실: 0.150550\t정확도: 55.94%\n", - "21\t검증 세트 손실: 0.801731\t최선의 손실: 0.150550\t정확도: 56.80%\n", - "22\t검증 세트 손실: 0.914241\t최선의 손실: 0.150550\t정확도: 48.87%\n", - "23\t검증 세트 손실: 1.386802\t최선의 손실: 0.150550\t정확도: 32.99%\n", - "24\t검증 세트 손실: 1.088921\t최선의 손실: 0.150550\t정확도: 39.48%\n", - "25\t검증 세트 손실: 1.060776\t최선의 손실: 0.150550\t정확도: 40.38%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation=, total= 34.4s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.164051\t최선의 손실: 0.164051\t정확도: 95.23%\n", + "1\t검증 세트 손실: 0.234459\t최선의 손실: 0.164051\t정확도: 92.77%\n", + "2\t검증 세트 손실: 0.171902\t최선의 손실: 0.164051\t정확도: 96.13%\n", + "3\t검증 세트 손실: 0.177639\t최선의 손실: 0.164051\t정확도: 95.11%\n", + "4\t검증 세트 손실: 0.377680\t최선의 손실: 0.164051\t정확도: 90.62%\n", + "5\t검증 세트 손실: 0.269018\t최선의 손실: 0.164051\t정확도: 92.96%\n", + "6\t검증 세트 손실: 0.545868\t최선의 손실: 0.164051\t정확도: 77.01%\n", + "7\t검증 세트 손실: 0.882269\t최선의 손실: 0.164051\t정확도: 54.93%\n", + "8\t검증 세트 손실: 0.496009\t최선의 손실: 0.164051\t정확도: 76.58%\n", + "9\t검증 세트 손실: 0.452735\t최선의 손실: 0.164051\t정확도: 78.07%\n", + "10\t검증 세트 손실: 0.522009\t최선의 손실: 0.164051\t정확도: 78.03%\n", + "11\t검증 세트 손실: 1.171253\t최선의 손실: 0.164051\t정확도: 42.34%\n", + "12\t검증 세트 손실: 1.216906\t최선의 손실: 0.164051\t정확도: 37.96%\n", + "13\t검증 세트 손실: 1.216282\t최선의 손실: 0.164051\t정확도: 37.41%\n", + "14\t검증 세트 손실: 1.221463\t최선의 손실: 0.164051\t정확도: 40.66%\n", + "15\t검증 세트 손실: 1.211762\t최선의 손실: 0.164051\t정확도: 40.66%\n", + "16\t검증 세트 손실: 1.215699\t최선의 손실: 0.164051\t정확도: 40.66%\n", + "17\t검증 세트 손실: 1.228493\t최선의 손실: 0.164051\t정확도: 37.41%\n", + "18\t검증 세트 손실: 1.232656\t최선의 손실: 0.164051\t정확도: 40.66%\n", + "19\t검증 세트 손실: 1.214573\t최선의 손실: 0.164051\t정확도: 37.96%\n", + "20\t검증 세트 손실: 1.217046\t최선의 손실: 0.164051\t정확도: 37.96%\n", + "21\t검증 세트 손실: 1.221991\t최선의 손실: 0.164051\t정확도: 40.66%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.02, n_neurons=30, total= 41.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.099403\t최선의 손실: 0.099403\t정확도: 97.42%\n", - "1\t검증 세트 손실: 0.106865\t최선의 손실: 0.099403\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.070944\t최선의 손실: 0.070944\t정확도: 98.40%\n", - "3\t검증 세트 손실: 0.088405\t최선의 손실: 0.070944\t정확도: 97.54%\n", - "4\t검증 세트 손실: 0.124723\t최선의 손실: 0.070944\t정확도: 97.85%\n", - "5\t검증 세트 손실: 0.065126\t최선의 손실: 0.065126\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.105031\t최선의 손실: 0.065126\t정확도: 98.08%\n", - "7\t검증 세트 손실: 0.063968\t최선의 손실: 0.063968\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.152365\t최선의 손실: 0.063968\t정확도: 98.12%\n", - "9\t검증 세트 손실: 0.065310\t최선의 손실: 0.063968\t정확도: 98.98%\n", - "10\t검증 세트 손실: 0.103839\t최선의 손실: 0.063968\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.059531\t최선의 손실: 0.059531\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.052848\t최선의 손실: 0.052848\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.094883\t최선의 손실: 0.052848\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.062268\t최선의 손실: 0.052848\t정확도: 98.51%\n", - "15\t검증 세트 손실: 0.058920\t최선의 손실: 0.052848\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.110803\t최선의 손실: 0.052848\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.131475\t최선의 손실: 0.052848\t정확도: 98.40%\n", - "18\t검증 세트 손실: 0.128299\t최선의 손실: 0.052848\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.151737\t최선의 손실: 0.052848\t정확도: 98.24%\n", - "20\t검증 세트 손실: 0.092345\t최선의 손실: 0.052848\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.102235\t최선의 손실: 0.052848\t정확도: 98.75%\n", - "22\t검증 세트 손실: 0.154458\t최선의 손실: 0.052848\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.160669\t최선의 손실: 0.052848\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.265314\t최선의 손실: 0.052848\t정확도: 95.74%\n", - "25\t검증 세트 손실: 0.168266\t최선의 손실: 0.052848\t정확도: 97.81%\n", - "26\t검증 세트 손실: 0.109742\t최선의 손실: 0.052848\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.140405\t최선의 손실: 0.052848\t정확도: 98.32%\n", - "28\t검증 세트 손실: 0.093673\t최선의 손실: 0.052848\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.100620\t최선의 손실: 0.052848\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.199646\t최선의 손실: 0.052848\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.149391\t최선의 손실: 0.052848\t정확도: 98.36%\n", - "32\t검증 세트 손실: 0.165423\t최선의 손실: 0.052848\t정확도: 97.77%\n", - "33\t검증 세트 손실: 0.193753\t최선의 손실: 0.052848\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120, total= 6.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.098281\t최선의 손실: 0.098281\t정확도: 97.07%\n", - "1\t검증 세트 손실: 0.068742\t최선의 손실: 0.068742\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.068669\t최선의 손실: 0.068669\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.058016\t최선의 손실: 0.058016\t정확도: 98.36%\n" + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation=, total= 34.4s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.172636\t최선의 손실: 0.172636\t정확도: 96.05%\n", + "1\t검증 세트 손실: 0.165244\t최선의 손실: 0.165244\t정확도: 95.93%\n", + "2\t검증 세트 손실: 0.314297\t최선의 손실: 0.165244\t정확도: 92.85%\n", + "3\t검증 세트 손실: 0.291260\t최선의 손실: 0.165244\t정확도: 93.47%\n", + "4\t검증 세트 손실: 0.632948\t최선의 손실: 0.165244\t정확도: 72.99%\n", + "5\t검증 세트 손실: 0.633828\t최선의 손실: 0.165244\t정확도: 71.38%\n", + "6\t검증 세트 손실: 0.877043\t최선의 손실: 0.165244\t정확도: 53.60%\n", + "7\t검증 세트 손실: 0.732245\t최선의 손실: 0.165244\t정확도: 57.19%\n", + "8\t검증 세트 손실: 0.798047\t최선의 손실: 0.165244\t정확도: 55.43%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "4\t검증 세트 손실: 0.058197\t최선의 손실: 0.058016\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.087033\t최선의 손실: 0.058016\t정확도: 98.01%\n", - "6\t검증 세트 손실: 0.066855\t최선의 손실: 0.058016\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.108692\t최선의 손실: 0.058016\t정확도: 96.91%\n", - "8\t검증 세트 손실: 0.402230\t최선의 손실: 0.058016\t정확도: 98.32%\n", - "9\t검증 세트 손실: 0.082898\t최선의 손실: 0.058016\t정확도: 98.05%\n", - "10\t검증 세트 손실: 0.080534\t최선의 손실: 0.058016\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.065200\t최선의 손실: 0.058016\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.111653\t최선의 손실: 0.058016\t정확도: 98.55%\n", - "13\t검증 세트 손실: 0.080090\t최선의 손실: 0.058016\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.091369\t최선의 손실: 0.058016\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.091037\t최선의 손실: 0.058016\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.262611\t최선의 손실: 0.058016\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.089861\t최선의 손실: 0.058016\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.135155\t최선의 손실: 0.058016\t정확도: 97.97%\n", - "19\t검증 세트 손실: 0.146337\t최선의 손실: 0.058016\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.151961\t최선의 손실: 0.058016\t정확도: 98.08%\n", - "21\t검증 세트 손실: 0.166575\t최선의 손실: 0.058016\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.126371\t최선의 손실: 0.058016\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.223717\t최선의 손실: 0.058016\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.190619\t최선의 손실: 0.058016\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.991896\t최선의 손실: 0.165244\t정확도: 55.36%\n", + "10\t검증 세트 손실: 0.836560\t최선의 손실: 0.165244\t정확도: 57.39%\n", + "11\t검증 세트 손실: 0.881894\t최선의 손실: 0.165244\t정확도: 50.55%\n", + "12\t검증 세트 손실: 0.900768\t최선의 손실: 0.165244\t정확도: 54.93%\n", + "13\t검증 세트 손실: 0.947222\t최선의 손실: 0.165244\t정확도: 53.91%\n", + "14\t검증 세트 손실: 1.027584\t최선의 손실: 0.165244\t정확도: 50.39%\n", + "15\t검증 세트 손실: 0.927135\t최선의 손실: 0.165244\t정확도: 55.43%\n", + "16\t검증 세트 손실: 0.940547\t최선의 손실: 0.165244\t정확도: 55.43%\n", + "17\t검증 세트 손실: 0.931365\t최선의 손실: 0.165244\t정확도: 53.40%\n", + "18\t검증 세트 손실: 1.190264\t최선의 손실: 0.165244\t정확도: 48.75%\n", + "19\t검증 세트 손실: 1.027366\t최선의 손실: 0.165244\t정확도: 51.84%\n", + "20\t검증 세트 손실: 1.214872\t최선의 손실: 0.165244\t정확도: 48.83%\n", + "21\t검증 세트 손실: 1.147274\t최선의 손실: 0.165244\t정확도: 52.50%\n", + "22\t검증 세트 손실: 1.434737\t최선의 손실: 0.165244\t정확도: 32.96%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120, total= 4.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.085552\t최선의 손실: 0.085552\t정확도: 97.85%\n", - "1\t검증 세트 손실: 0.089608\t최선의 손실: 0.085552\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.070552\t최선의 손실: 0.070552\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.082482\t최선의 손실: 0.070552\t정확도: 98.44%\n", - "4\t검증 세트 손실: 0.079973\t최선의 손실: 0.070552\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.088804\t최선의 손실: 0.070552\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.096330\t최선의 손실: 0.070552\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.095007\t최선의 손실: 0.070552\t정확도: 98.24%\n", - "8\t검증 세트 손실: 0.089123\t최선의 손실: 0.070552\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.082870\t최선의 손실: 0.070552\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.074764\t최선의 손실: 0.070552\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.082377\t최선의 손실: 0.070552\t정확도: 98.08%\n", - "12\t검증 세트 손실: 0.063850\t최선의 손실: 0.063850\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.065651\t최선의 손실: 0.063850\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.074433\t최선의 손실: 0.063850\t정확도: 99.14%\n", - "15\t검증 세트 손실: 0.094154\t최선의 손실: 0.063850\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.139724\t최선의 손실: 0.063850\t정확도: 98.12%\n", - "17\t검증 세트 손실: 0.109124\t최선의 손실: 0.063850\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.076964\t최선의 손실: 0.063850\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.090597\t최선의 손실: 0.063850\t정확도: 98.55%\n", - "20\t검증 세트 손실: 0.103935\t최선의 손실: 0.063850\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.879723\t최선의 손실: 0.063850\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.198376\t최선의 손실: 0.063850\t정확도: 97.34%\n", - "23\t검증 세트 손실: 0.339309\t최선의 손실: 0.063850\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.112018\t최선의 손실: 0.063850\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.146320\t최선의 손실: 0.063850\t정확도: 98.63%\n", - "26\t검증 세트 손실: 0.206771\t최선의 손실: 0.063850\t정확도: 98.32%\n", - "27\t검증 세트 손실: 0.072395\t최선의 손실: 0.063850\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.115217\t최선의 손실: 0.063850\t정확도: 98.40%\n", - "29\t검증 세트 손실: 0.107765\t최선의 손실: 0.063850\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.141313\t최선의 손실: 0.063850\t정확도: 98.75%\n", - "31\t검증 세트 손실: 0.069053\t최선의 손실: 0.063850\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.083974\t최선의 손실: 0.063850\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.073239\t최선의 손실: 0.063850\t정확도: 98.79%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=10, activation=, total= 36.1s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.135279\t최선의 손실: 0.135279\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.077450\t최선의 손실: 0.077450\t정확도: 98.24%\n", + "2\t검증 세트 손실: 0.148141\t최선의 손실: 0.077450\t정확도: 96.17%\n", + "3\t검증 세트 손실: 0.096687\t최선의 손실: 0.077450\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.081042\t최선의 손실: 0.077450\t정확도: 98.20%\n", + "5\t검증 세트 손실: 0.099612\t최선의 손실: 0.077450\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.074928\t최선의 손실: 0.074928\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.098865\t최선의 손실: 0.074928\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.100883\t최선의 손실: 0.074928\t정확도: 97.58%\n", + "9\t검증 세트 손실: 0.123125\t최선의 손실: 0.074928\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.067709\t최선의 손실: 0.067709\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.067157\t최선의 손실: 0.067157\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.092984\t최선의 손실: 0.067157\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.062722\t최선의 손실: 0.062722\t정확도: 98.28%\n", + "14\t검증 세트 손실: 0.110382\t최선의 손실: 0.062722\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.080799\t최선의 손실: 0.062722\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.130147\t최선의 손실: 0.062722\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.129988\t최선의 손실: 0.062722\t정확도: 97.89%\n", + "18\t검증 세트 손실: 0.108927\t최선의 손실: 0.062722\t정확도: 98.44%\n", + "19\t검증 세트 손실: 0.115854\t최선의 손실: 0.062722\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.139974\t최선의 손실: 0.062722\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.115425\t최선의 손실: 0.062722\t정확도: 98.40%\n", + "22\t검증 세트 손실: 0.078479\t최선의 손실: 0.062722\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.161106\t최선의 손실: 0.062722\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.146336\t최선의 손실: 0.062722\t정확도: 97.58%\n", + "25\t검증 세트 손실: 0.123040\t최선의 손실: 0.062722\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.131978\t최선의 손실: 0.062722\t정확도: 98.67%\n", + "27\t검증 세트 손실: 0.076486\t최선의 손실: 0.062722\t정확도: 98.12%\n", + "28\t검증 세트 손실: 0.076415\t최선의 손실: 0.062722\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.080885\t최선의 손실: 0.062722\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.085332\t최선의 손실: 0.062722\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.133065\t최선의 손실: 0.062722\t정확도: 98.83%\n", + "32\t검증 세트 손실: 0.098020\t최선의 손실: 0.062722\t정확도: 98.51%\n", + "33\t검증 세트 손실: 0.104027\t최선의 손실: 0.062722\t정확도: 98.71%\n", + "34\t검증 세트 손실: 0.097504\t최선의 손실: 0.062722\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, n_neurons=120, total= 6.7s\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.170717\t최선의 손실: 0.170717\t정확도: 95.70%\n", - "1\t검증 세트 손실: 0.112153\t최선의 손실: 0.112153\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.356301\t최선의 손실: 0.112153\t정확도: 97.07%\n", - "3\t검증 세트 손실: 0.165519\t최선의 손실: 0.112153\t정확도: 95.54%\n", - "4\t검증 세트 손실: 0.117512\t최선의 손실: 0.112153\t정확도: 96.56%\n", - "5\t검증 세트 손실: 0.236505\t최선의 손실: 0.112153\t정확도: 95.97%\n", - "6\t검증 세트 손실: 0.122924\t최선의 손실: 0.112153\t정확도: 96.68%\n", - "7\t검증 세트 손실: 0.094885\t최선의 손실: 0.094885\t정확도: 97.65%\n", - "8\t검증 세트 손실: 0.125687\t최선의 손실: 0.094885\t정확도: 97.11%\n", - "9\t검증 세트 손실: 0.166539\t최선의 손실: 0.094885\t정확도: 97.69%\n", - "10\t검증 세트 손실: 0.445109\t최선의 손실: 0.094885\t정확도: 77.72%\n", - "11\t검증 세트 손실: 0.579614\t최선의 손실: 0.094885\t정확도: 71.85%\n", - "12\t검증 세트 손실: 0.237894\t최선의 손실: 0.094885\t정확도: 93.59%\n", - "13\t검증 세트 손실: 0.991413\t최선의 손실: 0.094885\t정확도: 52.81%\n", - "14\t검증 세트 손실: 1.285432\t최선의 손실: 0.094885\t정확도: 37.37%\n", - "15\t검증 세트 손실: 0.953269\t최선의 손실: 0.094885\t정확도: 53.87%\n", - "16\t검증 세트 손실: 0.927930\t최선의 손실: 0.094885\t정확도: 55.24%\n", - "17\t검증 세트 손실: 0.853495\t최선의 손실: 0.094885\t정확도: 58.25%\n", - "18\t검증 세트 손실: 0.664458\t최선의 손실: 0.094885\t정확도: 66.97%\n", - "19\t검증 세트 손실: 1.103874\t최선의 손실: 0.094885\t정확도: 45.11%\n", - "20\t검증 세트 손실: 1.370126\t최선의 손실: 0.094885\t정확도: 34.83%\n", - "21\t검증 세트 손실: 0.897738\t최선의 손실: 0.094885\t정확도: 58.21%\n", - "22\t검증 세트 손실: 1.218518\t최선의 손실: 0.094885\t정확도: 38.58%\n", - "23\t검증 세트 손실: 1.238646\t최선의 손실: 0.094885\t정확도: 37.84%\n", - "24\t검증 세트 손실: 1.189381\t최선의 손실: 0.094885\t정확도: 39.99%\n", - "25\t검증 세트 손실: 1.227096\t최선의 손실: 0.094885\t정확도: 39.72%\n", - "26\t검증 세트 손실: 1.168134\t최선의 손실: 0.094885\t정확도: 39.99%\n", - "27\t검증 세트 손실: 1.173124\t최선의 손실: 0.094885\t정확도: 40.42%\n", - "28\t검증 세트 손실: 1.162961\t최선의 손실: 0.094885\t정확도: 39.72%\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation=, total= 6.6s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.166417\t최선의 손실: 0.166417\t정확도: 95.66%\n", + "1\t검증 세트 손실: 0.066336\t최선의 손실: 0.066336\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.049185\t최선의 손실: 0.049185\t정확도: 98.83%\n", + "3\t검증 세트 손실: 0.092694\t최선의 손실: 0.049185\t정확도: 97.77%\n", + "4\t검증 세트 손실: 0.065063\t최선의 손실: 0.049185\t정확도: 98.48%\n", + "5\t검증 세트 손실: 0.091600\t최선의 손실: 0.049185\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.076970\t최선의 손실: 0.049185\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.082250\t최선의 손실: 0.049185\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.147687\t최선의 손실: 0.049185\t정확도: 97.62%\n", + "9\t검증 세트 손실: 0.099090\t최선의 손실: 0.049185\t정확도: 97.85%\n", + "10\t검증 세트 손실: 0.086101\t최선의 손실: 0.049185\t정확도: 97.89%\n", + "11\t검증 세트 손실: 0.072110\t최선의 손실: 0.049185\t정확도: 98.51%\n", + "12\t검증 세트 손실: 0.064720\t최선의 손실: 0.049185\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.120901\t최선의 손실: 0.049185\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.121216\t최선의 손실: 0.049185\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.097389\t최선의 손실: 0.049185\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.205770\t최선의 손실: 0.049185\t정확도: 97.54%\n", + "17\t검증 세트 손실: 0.144124\t최선의 손실: 0.049185\t정확도: 97.97%\n", + "18\t검증 세트 손실: 0.107884\t최선의 손실: 0.049185\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.091532\t최선의 손실: 0.049185\t정확도: 98.20%\n", + "20\t검증 세트 손실: 0.066050\t최선의 손실: 0.049185\t정확도: 98.44%\n", + "21\t검증 세트 손실: 0.102834\t최선의 손실: 0.049185\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.075517\t최선의 손실: 0.049185\t정확도: 98.28%\n", + "23\t검증 세트 손실: 0.101045\t최선의 손실: 0.049185\t정확도: 97.58%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120, total= 46.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.168923\t최선의 손실: 0.168923\t정확도: 96.64%\n", - "1\t검증 세트 손실: 0.668021\t최선의 손실: 0.168923\t정확도: 78.26%\n", - "2\t검증 세트 손실: 0.135307\t최선의 손실: 0.135307\t정확도: 96.44%\n", - "3\t검증 세트 손실: 0.223210\t최선의 손실: 0.135307\t정확도: 95.70%\n", - "4\t검증 세트 손실: 0.244548\t최선의 손실: 0.135307\t정확도: 95.31%\n", - "5\t검증 세트 손실: 0.355595\t최선의 손실: 0.135307\t정확도: 88.23%\n", - "6\t검증 세트 손실: 0.215950\t최선의 손실: 0.135307\t정확도: 95.54%\n", - "7\t검증 세트 손실: 0.215260\t최선의 손실: 0.135307\t정확도: 94.18%\n", - "8\t검증 세트 손실: 0.431250\t최선의 손실: 0.135307\t정확도: 88.74%\n", - "9\t검증 세트 손실: 0.586349\t최선의 손실: 0.135307\t정확도: 75.33%\n", - "10\t검증 세트 손실: 0.467814\t최선의 손실: 0.135307\t정확도: 77.33%\n", - "11\t검증 세트 손실: 0.595968\t최선의 손실: 0.135307\t정확도: 77.99%\n", - "12\t검증 세트 손실: 0.597795\t최선의 손실: 0.135307\t정확도: 73.73%\n", - "13\t검증 세트 손실: 0.721484\t최선의 손실: 0.135307\t정확도: 70.02%\n", - "14\t검증 세트 손실: 1.045896\t최선의 손실: 0.135307\t정확도: 50.78%\n", - "15\t검증 세트 손실: 0.978818\t최선의 손실: 0.135307\t정확도: 59.03%\n", - "16\t검증 세트 손실: 0.712122\t최선의 손실: 0.135307\t정확도: 60.13%\n", - "17\t검증 세트 손실: 0.980456\t최선의 손실: 0.135307\t정확도: 54.89%\n", - "18\t검증 세트 손실: 1.260593\t최선의 손실: 0.135307\t정확도: 39.01%\n", - "19\t검증 세트 손실: 1.232449\t최선의 손실: 0.135307\t정확도: 39.80%\n", - "20\t검증 세트 손실: 0.785241\t최선의 손실: 0.135307\t정확도: 60.05%\n", - "21\t검증 세트 손실: 0.821024\t최선의 손실: 0.135307\t정확도: 53.99%\n", - "22\t검증 세트 손실: 1.102662\t최선의 손실: 0.135307\t정확도: 47.93%\n", - "23\t검증 세트 손실: 0.818214\t최선의 손실: 0.135307\t정확도: 57.19%\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation=, total= 4.7s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.106414\t최선의 손실: 0.106414\t정확도: 96.68%\n", + "1\t검증 세트 손실: 0.102929\t최선의 손실: 0.102929\t정확도: 97.07%\n", + "2\t검증 세트 손실: 0.140467\t최선의 손실: 0.102929\t정확도: 97.30%\n", + "3\t검증 세트 손실: 0.100464\t최선의 손실: 0.100464\t정확도: 97.85%\n", + "4\t검증 세트 손실: 0.092420\t최선의 손실: 0.092420\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.081643\t최선의 손실: 0.081643\t정확도: 98.24%\n", + "6\t검증 세트 손실: 0.200029\t최선의 손실: 0.081643\t정확도: 97.22%\n", + "7\t검증 세트 손실: 0.252807\t최선의 손실: 0.081643\t정확도: 97.50%\n", + "8\t검증 세트 손실: 0.131050\t최선의 손실: 0.081643\t정확도: 97.69%\n", + "9\t검증 세트 손실: 0.062278\t최선의 손실: 0.062278\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.106925\t최선의 손실: 0.062278\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.077094\t최선의 손실: 0.062278\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.080994\t최선의 손실: 0.062278\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.088322\t최선의 손실: 0.062278\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.068377\t최선의 손실: 0.062278\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.069369\t최선의 손실: 0.062278\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.094835\t최선의 손실: 0.062278\t정확도: 98.28%\n", + "17\t검증 세트 손실: 0.094961\t최선의 손실: 0.062278\t정확도: 97.26%\n", + "18\t검증 세트 손실: 0.107708\t최선의 손실: 0.062278\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.201880\t최선의 손실: 0.062278\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.059807\t최선의 손실: 0.059807\t정확도: 98.40%\n", + "21\t검증 세트 손실: 0.162640\t최선의 손실: 0.059807\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.101483\t최선의 손실: 0.059807\t정확도: 96.68%\n", + "23\t검증 세트 손실: 0.161345\t최선의 손실: 0.059807\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.140587\t최선의 손실: 0.059807\t정확도: 97.42%\n", + "25\t검증 세트 손실: 0.153126\t최선의 손실: 0.059807\t정확도: 96.72%\n", + "26\t검증 세트 손실: 0.277659\t최선의 손실: 0.059807\t정확도: 92.73%\n", + "27\t검증 세트 손실: 0.134722\t최선의 손실: 0.059807\t정확도: 97.38%\n", + "28\t검증 세트 손실: 0.095475\t최선의 손실: 0.059807\t정확도: 98.05%\n", + "29\t검증 세트 손실: 0.076134\t최선의 손실: 0.059807\t정확도: 98.40%\n", + "30\t검증 세트 손실: 0.090837\t최선의 손실: 0.059807\t정확도: 98.59%\n", + "31\t검증 세트 손실: 0.059289\t최선의 손실: 0.059289\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.157418\t최선의 손실: 0.059289\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.151002\t최선의 손실: 0.059289\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.067778\t최선의 손실: 0.059289\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.131428\t최선의 손실: 0.059289\t정확도: 98.63%\n", + "36\t검증 세트 손실: 0.507323\t최선의 손실: 0.059289\t정확도: 77.91%\n", + "37\t검증 세트 손실: 0.411348\t최선의 손실: 0.059289\t정확도: 96.40%\n", + "38\t검증 세트 손실: 0.182565\t최선의 손실: 0.059289\t정확도: 96.05%\n", + "39\t검증 세트 손실: 0.466379\t최선의 손실: 0.059289\t정확도: 97.34%\n", + "40\t검증 세트 손실: 0.508915\t최선의 손실: 0.059289\t정확도: 97.93%\n", + "41\t검증 세트 손실: 0.310934\t최선의 손실: 0.059289\t정확도: 97.81%\n", + "42\t검증 세트 손실: 0.558083\t최선의 손실: 0.059289\t정확도: 98.40%\n", + "43\t검증 세트 손실: 0.688446\t최선의 손실: 0.059289\t정확도: 98.40%\n", + "44\t검증 세트 손실: 0.079203\t최선의 손실: 0.059289\t정확도: 98.51%\n", + "45\t검증 세트 손실: 0.140725\t최선의 손실: 0.059289\t정확도: 98.12%\n", + "46\t검증 세트 손실: 0.107016\t최선의 손실: 0.059289\t정확도: 97.97%\n", + "47\t검증 세트 손실: 0.453536\t최선의 손실: 0.059289\t정확도: 98.63%\n", + "48\t검증 세트 손실: 1.087831\t최선의 손실: 0.059289\t정확도: 78.77%\n", + "49\t검증 세트 손실: 0.350393\t최선의 손실: 0.059289\t정확도: 92.96%\n", + "50\t검증 세트 손실: 0.081097\t최선의 손실: 0.059289\t정확도: 98.51%\n", + "51\t검증 세트 손실: 0.114416\t최선의 손실: 0.059289\t정확도: 98.28%\n", + "52\t검증 세트 손실: 0.118088\t최선의 손실: 0.059289\t정확도: 98.05%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120, total= 38.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120 \n", - "0\t검증 세트 손실: 0.211541\t최선의 손실: 0.211541\t정확도: 94.14%\n", - "1\t검증 세트 손실: 0.156464\t최선의 손실: 0.156464\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.143931\t최선의 손실: 0.143931\t정확도: 96.13%\n", - "3\t검증 세트 손실: 0.388200\t최선의 손실: 0.143931\t정확도: 85.97%\n", - "4\t검증 세트 손실: 0.506145\t최선의 손실: 0.143931\t정확도: 89.29%\n", - "5\t검증 세트 손실: 0.386040\t최선의 손실: 0.143931\t정확도: 94.53%\n", - "6\t검증 세트 손실: 0.467338\t최선의 손실: 0.143931\t정확도: 90.93%\n", - "7\t검증 세트 손실: 1.227406\t최선의 손실: 0.143931\t정확도: 39.80%\n", - "8\t검증 세트 손실: 0.365700\t최선의 손실: 0.143931\t정확도: 95.19%\n", - "9\t검증 세트 손실: 0.489615\t최선의 손실: 0.143931\t정확도: 84.95%\n", - "10\t검증 세트 손실: 0.361486\t최선의 손실: 0.143931\t정확도: 90.23%\n", - "11\t검증 세트 손실: 0.542525\t최선의 손실: 0.143931\t정확도: 75.57%\n", - "12\t검증 세트 손실: 0.407821\t최선의 손실: 0.143931\t정확도: 89.05%\n", - "13\t검증 세트 손실: 0.516631\t최선의 손실: 0.143931\t정확도: 85.61%\n", - "14\t검증 세트 손실: 0.514917\t최선의 손실: 0.143931\t정확도: 79.83%\n", - "15\t검증 세트 손실: 0.548003\t최선의 손실: 0.143931\t정확도: 82.84%\n", - "16\t검증 세트 손실: 0.317007\t최선의 손실: 0.143931\t정확도: 91.95%\n", - "17\t검증 세트 손실: 0.425324\t최선의 손실: 0.143931\t정확도: 88.90%\n", - "18\t검증 세트 손실: 0.416569\t최선의 손실: 0.143931\t정확도: 86.94%\n", - "19\t검증 세트 손실: 0.572535\t최선의 손실: 0.143931\t정확도: 78.77%\n", - "20\t검증 세트 손실: 0.440767\t최선의 손실: 0.143931\t정확도: 76.43%\n", - "21\t검증 세트 손실: 0.838530\t최선의 손실: 0.143931\t정확도: 58.33%\n", - "22\t검증 세트 손실: 0.849207\t최선의 손실: 0.143931\t정확도: 54.53%\n", - "23\t검증 세트 손실: 1.302065\t최선의 손실: 0.143931\t정확도: 39.72%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, n_neurons=120, total= 38.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 1314.942383\t최선의 손실: 1314.942383\t정확도: 25.49%\n", - "1\t검증 세트 손실: 40.076431\t최선의 손실: 40.076431\t정확도: 81.04%\n", - "2\t검증 세트 손실: 6.392291\t최선의 손실: 6.392291\t정확도: 92.42%\n", - "3\t검증 세트 손실: 2.217434\t최선의 손실: 2.217434\t정확도: 94.76%\n", - "4\t검증 세트 손실: 2.452962\t최선의 손실: 2.217434\t정확도: 92.26%\n", - "5\t검증 세트 손실: 2.313586\t최선의 손실: 2.217434\t정확도: 94.76%\n", - "6\t검증 세트 손실: 1.443193\t최선의 손실: 1.443193\t정확도: 95.27%\n", - "7\t검증 세트 손실: 1.204808\t최선의 손실: 1.204808\t정확도: 95.43%\n", - "8\t검증 세트 손실: 1.057029\t최선의 손실: 1.057029\t정확도: 93.67%\n" + "[CV] n_neurons=120, learning_rate=0.01, batch_size=100, activation=, total= 9.9s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.579757\t최선의 손실: 0.579757\t정확도: 76.51%\n", + "1\t검증 세트 손실: 0.152546\t최선의 손실: 0.152546\t정확도: 95.54%\n", + "2\t검증 세트 손실: 0.418669\t최선의 손실: 0.152546\t정확도: 90.03%\n", + "3\t검증 세트 손실: 0.471176\t최선의 손실: 0.152546\t정확도: 96.56%\n", + "4\t검증 세트 손실: 0.358388\t최선의 손실: 0.152546\t정확도: 93.39%\n", + "5\t검증 세트 손실: 0.234235\t최선의 손실: 0.152546\t정확도: 96.83%\n", + "6\t검증 세트 손실: 0.206899\t최선의 손실: 0.152546\t정확도: 96.56%\n", + "7\t검증 세트 손실: 0.215845\t최선의 손실: 0.152546\t정확도: 95.43%\n", + "8\t검증 세트 손실: 0.414042\t최선의 손실: 0.152546\t정확도: 97.26%\n", + "9\t검증 세트 손실: 0.738254\t최선의 손실: 0.152546\t정확도: 75.10%\n", + "10\t검증 세트 손실: 0.602395\t최선의 손실: 0.152546\t정확도: 78.97%\n", + "11\t검증 세트 손실: 0.684512\t최선의 손실: 0.152546\t정확도: 76.23%\n", + "12\t검증 세트 손실: 0.486821\t최선의 손실: 0.152546\t정확도: 77.87%\n", + "13\t검증 세트 손실: 0.617007\t최선의 손실: 0.152546\t정확도: 75.65%\n", + "14\t검증 세트 손실: 1.093035\t최선의 손실: 0.152546\t정확도: 52.50%\n", + "15\t검증 세트 손실: 1.312783\t최선의 손실: 0.152546\t정확도: 41.63%\n", + "16\t검증 세트 손실: 1.013970\t최선의 손실: 0.152546\t정확도: 51.17%\n", + "17\t검증 세트 손실: 0.960648\t최선의 손실: 0.152546\t정확도: 55.24%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "9\t검증 세트 손실: 1.192031\t최선의 손실: 1.057029\t정확도: 95.47%\n", - "10\t검증 세트 손실: 0.920280\t최선의 손실: 0.920280\t정확도: 94.92%\n", - "11\t검증 세트 손실: 0.971789\t최선의 손실: 0.920280\t정확도: 95.90%\n", - "12\t검증 세트 손실: 1.129442\t최선의 손실: 0.920280\t정확도: 94.29%\n", - "13\t검증 세트 손실: 0.714328\t최선의 손실: 0.714328\t정확도: 96.05%\n", - "14\t검증 세트 손실: 1.070054\t최선의 손실: 0.714328\t정확도: 95.54%\n", - "15\t검증 세트 손실: 1.970670\t최선의 손실: 0.714328\t정확도: 94.84%\n", - "16\t검증 세트 손실: 0.698383\t최선의 손실: 0.698383\t정확도: 96.25%\n", - "17\t검증 세트 손실: 0.869765\t최선의 손실: 0.698383\t정확도: 96.60%\n", - "18\t검증 세트 손실: 0.671454\t최선의 손실: 0.671454\t정확도: 96.87%\n", - "19\t검증 세트 손실: 0.675267\t최선의 손실: 0.671454\t정확도: 93.35%\n", - "20\t검증 세트 손실: 0.674204\t최선의 손실: 0.671454\t정확도: 96.48%\n", - "21\t검증 세트 손실: 0.731187\t최선의 손실: 0.671454\t정확도: 96.21%\n", - "22\t검증 세트 손실: 1.082663\t최선의 손실: 0.671454\t정확도: 96.09%\n", - "23\t검증 세트 손실: 0.827655\t최선의 손실: 0.671454\t정확도: 94.64%\n", - "24\t검증 세트 손실: 1.153016\t최선의 손실: 0.671454\t정확도: 96.25%\n", - "25\t검증 세트 손실: 0.944627\t최선의 손실: 0.671454\t정확도: 96.87%\n", - "26\t검증 세트 손실: 0.894790\t최선의 손실: 0.671454\t정확도: 96.40%\n", - "27\t검증 세트 손실: 0.819723\t최선의 손실: 0.671454\t정확도: 95.66%\n", - "28\t검증 세트 손실: 0.638434\t최선의 손실: 0.638434\t정확도: 97.30%\n", - "29\t검증 세트 손실: 50772136.000000\t최선의 손실: 0.638434\t정확도: 20.91%\n", - "30\t검증 세트 손실: 4854678.500000\t최선의 손실: 0.638434\t정확도: 39.25%\n", - "31\t검증 세트 손실: 117958.554688\t최선의 손실: 0.638434\t정확도: 76.00%\n", - "32\t검증 세트 손실: 29899.611328\t최선의 손실: 0.638434\t정확도: 92.61%\n", - "33\t검증 세트 손실: 17746.064453\t최선의 손실: 0.638434\t정확도: 94.14%\n", - "34\t검증 세트 손실: 19501.957031\t최선의 손실: 0.638434\t정확도: 92.18%\n", - "35\t검증 세트 손실: 17806.558594\t최선의 손실: 0.638434\t정확도: 91.40%\n", - "36\t검증 세트 손실: 11128.076172\t최선의 손실: 0.638434\t정확도: 94.68%\n", - "37\t검증 세트 손실: 10683.347656\t최선의 손실: 0.638434\t정확도: 94.33%\n", - "38\t검증 세트 손실: 12163.385742\t최선의 손실: 0.638434\t정확도: 92.89%\n", - "39\t검증 세트 손실: 10424.551758\t최선의 손실: 0.638434\t정확도: 93.55%\n", - "40\t검증 세트 손실: 9157.805664\t최선의 손실: 0.638434\t정확도: 94.25%\n", - "41\t검증 세트 손실: 10931.814453\t최선의 손실: 0.638434\t정확도: 88.19%\n", - "42\t검증 세트 손실: 7521.845215\t최선의 손실: 0.638434\t정확도: 94.25%\n", - "43\t검증 세트 손실: 7186.455078\t최선의 손실: 0.638434\t정확도: 95.47%\n", - "44\t검증 세트 손실: 10835.562500\t최선의 손실: 0.638434\t정확도: 87.92%\n", - "45\t검증 세트 손실: 9688.641602\t최선의 손실: 0.638434\t정확도: 91.20%\n", - "46\t검증 세트 손실: 8415.784180\t최선의 손실: 0.638434\t정확도: 91.09%\n", - "47\t검증 세트 손실: 5121.711426\t최선의 손실: 0.638434\t정확도: 95.39%\n", - "48\t검증 세트 손실: 5273.121094\t최선의 손실: 0.638434\t정확도: 94.92%\n", - "49\t검증 세트 손실: 4206.107910\t최선의 손실: 0.638434\t정확도: 95.93%\n", + "18\t검증 세트 손실: 1.038452\t최선의 손실: 0.152546\t정확도: 55.67%\n", + "19\t검증 세트 손실: 1.306256\t최선의 손실: 0.152546\t정확도: 36.40%\n", + "20\t검증 세트 손실: 1.226363\t최선의 손실: 0.152546\t정확도: 39.13%\n", + "21\t검증 세트 손실: 1.156525\t최선의 손실: 0.152546\t정확도: 42.30%\n", + "22\t검증 세트 손실: 1.191784\t최선의 손실: 0.152546\t정확도: 38.51%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100, total= 5.0s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 3010.684814\t최선의 손실: 3010.684814\t정확도: 27.91%\n", - "1\t검증 세트 손실: 39787.558594\t최선의 손실: 3010.684814\t정확도: 19.27%\n", - "2\t검증 세트 손실: 15723.130859\t최선의 손실: 3010.684814\t정확도: 40.42%\n", - "3\t검증 세트 손실: 421.288300\t최선의 손실: 421.288300\t정확도: 80.18%\n", - "4\t검증 세트 손실: 109.856506\t최선의 손실: 109.856506\t정확도: 89.05%\n", - "5\t검증 세트 손실: 86.636215\t최선의 손실: 86.636215\t정확도: 89.80%\n", - "6\t검증 세트 손실: 52.966919\t최선의 손실: 52.966919\t정확도: 92.69%\n", - "7\t검증 세트 손실: 38.056244\t최선의 손실: 38.056244\t정확도: 93.90%\n", - "8\t검증 세트 손실: 36.983814\t최선의 손실: 36.983814\t정확도: 93.08%\n", - "9\t검증 세트 손실: 61.762638\t최선의 손실: 36.983814\t정확도: 89.95%\n", - "10\t검증 세트 손실: 33.161491\t최선의 손실: 33.161491\t정확도: 94.84%\n", - "11\t검증 세트 손실: 22.876093\t최선의 손실: 22.876093\t정확도: 94.88%\n", - "12\t검증 세트 손실: 19.158258\t최선의 손실: 19.158258\t정확도: 95.11%\n", - "13\t검증 세트 손실: 17.907173\t최선의 손실: 17.907173\t정확도: 95.43%\n", - "14\t검증 세트 손실: 31.376652\t최선의 손실: 17.907173\t정확도: 92.46%\n", - "15\t검증 세트 손실: 17.319159\t최선의 손실: 17.319159\t정확도: 95.62%\n", - "16\t검증 세트 손실: 13.636541\t최선의 손실: 13.636541\t정확도: 95.39%\n", - "17\t검증 세트 손실: 12.445709\t최선의 손실: 12.445709\t정확도: 95.54%\n", - "18\t검증 세트 손실: 16.339996\t최선의 손실: 12.445709\t정확도: 95.15%\n", - "19\t검증 세트 손실: 16.906164\t최선의 손실: 12.445709\t정확도: 94.18%\n", - "20\t검증 세트 손실: 11.117499\t최선의 손실: 11.117499\t정확도: 95.93%\n", - "21\t검증 세트 손실: 22.524979\t최선의 손실: 11.117499\t정확도: 92.06%\n", - "22\t검증 세트 손실: 21.848267\t최선의 손실: 11.117499\t정확도: 95.58%\n", - "23\t검증 세트 손실: 14.381080\t최선의 손실: 11.117499\t정확도: 96.01%\n", - "24\t검증 세트 손실: 13.651818\t최선의 손실: 11.117499\t정확도: 95.90%\n", - "25\t검증 세트 손실: 14.168403\t최선의 손실: 11.117499\t정확도: 95.43%\n", - "26\t검증 세트 손실: 11.178098\t최선의 손실: 11.117499\t정확도: 95.82%\n", - "27\t검증 세트 손실: 12.076550\t최선의 손실: 11.117499\t정확도: 95.19%\n", - "28\t검증 세트 손실: 8.197154\t최선의 손실: 8.197154\t정확도: 96.25%\n", - "29\t검증 세트 손실: 7.442372\t최선의 손실: 7.442372\t정확도: 96.25%\n", - "30\t검증 세트 손실: 169.350891\t최선의 손실: 7.442372\t정확도: 74.04%\n", - "31\t검증 세트 손실: 77.672989\t최선의 손실: 7.442372\t정확도: 94.14%\n", - "32\t검증 세트 손실: 29.025915\t최선의 손실: 7.442372\t정확도: 95.50%\n", - "33\t검증 세트 손실: 20.929600\t최선의 손실: 7.442372\t정확도: 95.47%\n", - "34\t검증 세트 손실: 14.592470\t최선의 손실: 7.442372\t정확도: 96.17%\n", - "35\t검증 세트 손실: 13.325763\t최선의 손실: 7.442372\t정확도: 95.82%\n", - "36\t검증 세트 손실: 17.170300\t최선의 손실: 7.442372\t정확도: 94.84%\n", - "37\t검증 세트 손실: 11.226819\t최선의 손실: 7.442372\t정확도: 95.86%\n", - "38\t검증 세트 손실: 9.433427\t최선의 손실: 7.442372\t정확도: 96.33%\n", - "39\t검증 세트 손실: 10.258090\t최선의 손실: 7.442372\t정확도: 95.90%\n", - "40\t검증 세트 손실: 10.984679\t최선의 손실: 7.442372\t정확도: 95.27%\n", - "41\t검증 세트 손실: 7.551307\t최선의 손실: 7.442372\t정확도: 96.48%\n", - "42\t검증 세트 손실: 7.164837\t최선의 손실: 7.164837\t정확도: 96.60%\n", - "43\t검증 세트 손실: 9.383512\t최선의 손실: 7.164837\t정확도: 95.00%\n", - "44\t검증 세트 손실: 7.794334\t최선의 손실: 7.164837\t정확도: 96.29%\n", - "45\t검증 세트 손실: 5.979932\t최선의 손실: 5.979932\t정확도: 96.60%\n", - "46\t검증 세트 손실: 6.012082\t최선의 손실: 5.979932\t정확도: 96.60%\n", - "47\t검증 세트 손실: 7.830351\t최선의 손실: 5.979932\t정확도: 95.97%\n", - "48\t검증 세트 손실: 7.804088\t최선의 손실: 5.979932\t정확도: 95.47%\n", - "49\t검증 세트 손실: 5.313087\t최선의 손실: 5.313087\t정확도: 96.83%\n", - "50\t검증 세트 손실: 6.156207\t최선의 손실: 5.313087\t정확도: 96.25%\n", - "51\t검증 세트 손실: 5.433918\t최선의 손실: 5.313087\t정확도: 96.60%\n", - "52\t검증 세트 손실: 5.442094\t최선의 손실: 5.313087\t정확도: 96.60%\n", - "53\t검증 세트 손실: 5.530026\t최선의 손실: 5.313087\t정확도: 96.44%\n", - "54\t검증 세트 손실: 4.826842\t최선의 손실: 4.826842\t정확도: 96.60%\n", - "55\t검증 세트 손실: 5.366208\t최선의 손실: 4.826842\t정확도: 96.48%\n", - "56\t검증 세트 손실: 6.299458\t최선의 손실: 4.826842\t정확도: 96.29%\n", - "57\t검증 세트 손실: 5.111415\t최선의 손실: 4.826842\t정확도: 96.25%\n", - "58\t검증 세트 손실: 4.896547\t최선의 손실: 4.826842\t정확도: 96.87%\n", - "59\t검증 세트 손실: 5.353154\t최선의 손실: 4.826842\t정확도: 96.25%\n", - "60\t검증 세트 손실: 7.178024\t최선의 손실: 4.826842\t정확도: 96.21%\n", - "61\t검증 세트 손실: 5.517487\t최선의 손실: 4.826842\t정확도: 96.60%\n", - "62\t검증 세트 손실: 6.861269\t최선의 손실: 4.826842\t정확도: 96.13%\n", - "63\t검증 세트 손실: 10.075420\t최선의 손실: 4.826842\t정확도: 95.93%\n", - "64\t검증 세트 손실: 60.720966\t최선의 손실: 4.826842\t정확도: 89.17%\n", - "65\t검증 세트 손실: 17.637930\t최선의 손실: 4.826842\t정확도: 95.54%\n", - "66\t검증 세트 손실: 13.327236\t최선의 손실: 4.826842\t정확도: 95.27%\n", - "67\t검증 세트 손실: 8.237678\t최선의 손실: 4.826842\t정확도: 96.17%\n", - "68\t검증 세트 손실: 22.510513\t최선의 손실: 4.826842\t정확도: 93.08%\n", - "69\t검증 세트 손실: 6.725041\t최선의 손실: 4.826842\t정확도: 96.52%\n", - "70\t검증 세트 손실: 7.426890\t최선의 손실: 4.826842\t정확도: 95.58%\n", - "71\t검증 세트 손실: 9.362950\t최선의 손실: 4.826842\t정확도: 95.19%\n", - "72\t검증 세트 손실: 6.276609\t최선의 손실: 4.826842\t정확도: 96.72%\n", - "73\t검증 세트 손실: 6.578702\t최선의 손실: 4.826842\t정확도: 96.76%\n", - "74\t검증 세트 손실: 5.063471\t최선의 손실: 4.826842\t정확도: 96.48%\n", - "75\t검증 세트 손실: 4.715806\t최선의 손실: 4.715806\t정확도: 96.72%\n", - "76\t검증 세트 손실: 5.145185\t최선의 손실: 4.715806\t정확도: 96.56%\n", - "77\t검증 세트 손실: 8.953596\t최선의 손실: 4.715806\t정확도: 94.29%\n", - "78\t검증 세트 손실: 4.490973\t최선의 손실: 4.490973\t정확도: 96.99%\n", - "79\t검증 세트 손실: 4.752704\t최선의 손실: 4.490973\t정확도: 96.21%\n", - "80\t검증 세트 손실: 4.983382\t최선의 손실: 4.490973\t정확도: 96.83%\n", - "81\t검증 세트 손실: 4.455763\t최선의 손실: 4.455763\t정확도: 96.79%\n", - "82\t검증 세트 손실: 4.459873\t최선의 손실: 4.455763\t정확도: 96.64%\n", - "83\t검증 세트 손실: 4.762742\t최선의 손실: 4.455763\t정확도: 96.72%\n", - "84\t검증 세트 손실: 3.414814\t최선의 손실: 3.414814\t정확도: 97.26%\n", - "85\t검증 세트 손실: 3.512894\t최선의 손실: 3.414814\t정확도: 96.95%\n", - "86\t검증 세트 손실: 3.389872\t최선의 손실: 3.389872\t정확도: 97.11%\n", - "87\t검증 세트 손실: 3.489617\t최선의 손실: 3.389872\t정확도: 97.07%\n", - "88\t검증 세트 손실: 3.126602\t최선의 손실: 3.126602\t정확도: 97.07%\n", - "89\t검증 세트 손실: 4.551726\t최선의 손실: 3.126602\t정확도: 96.52%\n", - "90\t검증 세트 손실: 5.032935\t최선의 손실: 3.126602\t정확도: 96.25%\n", - "91\t검증 세트 손실: 3.117604\t최선의 손실: 3.117604\t정확도: 97.22%\n", - "92\t검증 세트 손실: 4.219283\t최선의 손실: 3.117604\t정확도: 96.83%\n", - "93\t검증 세트 손실: 5.118777\t최선의 손실: 3.117604\t정확도: 96.44%\n", - "94\t검증 세트 손실: 4.027419\t최선의 손실: 3.117604\t정확도: 96.68%\n", - "95\t검증 세트 손실: 4.552743\t최선의 손실: 3.117604\t정확도: 96.76%\n", - "96\t검증 세트 손실: 8.757862\t최선의 손실: 3.117604\t정확도: 96.29%\n", - "97\t검증 세트 손실: 4.236472\t최선의 손실: 3.117604\t정확도: 97.19%\n", - "98\t검증 세트 손실: 5.199555\t최선의 손실: 3.117604\t정확도: 97.38%\n", - "99\t검증 세트 손실: 7.812878\t최선의 손실: 3.117604\t정확도: 95.90%\n", - "100\t검증 세트 손실: 6.463937\t최선의 손실: 3.117604\t정확도: 97.22%\n", - "101\t검증 세트 손실: 5.379649\t최선의 손실: 3.117604\t정확도: 95.93%\n", - "102\t검증 세트 손실: 6.155845\t최선의 손실: 3.117604\t정확도: 95.58%\n", - "103\t검증 세트 손실: 3.807156\t최선의 손실: 3.117604\t정확도: 97.38%\n", - "104\t검증 세트 손실: 3.363041\t최선의 손실: 3.117604\t정확도: 97.54%\n", - "105\t검증 세트 손실: 3.377702\t최선의 손실: 3.117604\t정확도: 97.50%\n", - "106\t검증 세트 손실: 5.077661\t최선의 손실: 3.117604\t정확도: 96.83%\n", - "107\t검증 세트 손실: 9.299778\t최선의 손실: 3.117604\t정확도: 96.83%\n", - "108\t검증 세트 손실: 23.366348\t최선의 손실: 3.117604\t정확도: 95.27%\n", - "109\t검증 세트 손실: 22.040054\t최선의 손실: 3.117604\t정확도: 96.79%\n", - "110\t검증 세트 손실: 7.549925\t최선의 손실: 3.117604\t정확도: 96.99%\n" + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation=, total= 36.1s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.273689\t최선의 손실: 0.273689\t정확도: 95.27%\n", + "1\t검증 세트 손실: 0.251584\t최선의 손실: 0.251584\t정확도: 96.68%\n", + "2\t검증 세트 손실: 0.165610\t최선의 손실: 0.165610\t정확도: 95.93%\n", + "3\t검증 세트 손실: 0.202056\t최선의 손실: 0.165610\t정확도: 95.74%\n", + "4\t검증 세트 손실: 0.293643\t최선의 손실: 0.165610\t정확도: 92.26%\n", + "5\t검증 세트 손실: 0.132250\t최선의 손실: 0.132250\t정확도: 96.72%\n", + "6\t검증 세트 손실: 0.097902\t최선의 손실: 0.097902\t정확도: 97.81%\n", + "7\t검증 세트 손실: 0.828913\t최선의 손실: 0.097902\t정확도: 57.90%\n", + "8\t검증 세트 손실: 0.419184\t최선의 손실: 0.097902\t정확도: 78.58%\n", + "9\t검증 세트 손실: 0.200941\t최선의 손실: 0.097902\t정확도: 94.80%\n", + "10\t검증 세트 손실: 0.172143\t최선의 손실: 0.097902\t정확도: 96.33%\n", + "11\t검증 세트 손실: 0.145778\t최선의 손실: 0.097902\t정확도: 96.36%\n", + "12\t검증 세트 손실: 0.194989\t최선의 손실: 0.097902\t정확도: 95.15%\n", + "13\t검증 세트 손실: 0.157359\t최선의 손실: 0.097902\t정확도: 96.44%\n", + "14\t검증 세트 손실: 0.160723\t최선의 손실: 0.097902\t정확도: 96.48%\n", + "15\t검증 세트 손실: 0.974318\t최선의 손실: 0.097902\t정확도: 96.52%\n", + "16\t검증 세트 손실: 0.619789\t최선의 손실: 0.097902\t정확도: 74.35%\n", + "17\t검증 세트 손실: 0.383625\t최선의 손실: 0.097902\t정확도: 88.78%\n", + "18\t검증 세트 손실: 0.722447\t최선의 손실: 0.097902\t정확도: 80.88%\n", + "19\t검증 세트 손실: 1.296972\t최선의 손실: 0.097902\t정확도: 66.93%\n", + "20\t검증 세트 손실: 0.417649\t최선의 손실: 0.097902\t정확도: 91.83%\n", + "21\t검증 세트 손실: 1.288678\t최선의 손실: 0.097902\t정확도: 38.43%\n", + "22\t검증 세트 손실: 1.264057\t최선의 손실: 0.097902\t정확도: 40.15%\n", + "23\t검증 세트 손실: 1.234271\t최선의 손실: 0.097902\t정확도: 39.76%\n", + "24\t검증 세트 손실: 1.189948\t최선의 손실: 0.097902\t정확도: 42.42%\n", + "25\t검증 세트 손실: 1.382504\t최선의 손실: 0.097902\t정확도: 56.25%\n", + "26\t검증 세트 손실: 1.277843\t최선의 손실: 0.097902\t정확도: 42.73%\n", + "27\t검증 세트 손실: 1.117185\t최선의 손실: 0.097902\t정확도: 48.16%\n", + "조기 종료!\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation=, total= 44.0s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation= \n", + "0\t검증 세트 손실: 0.160400\t최선의 손실: 0.160400\t정확도: 96.40%\n", + "1\t검증 세트 손실: 0.349519\t최선의 손실: 0.160400\t정확도: 89.13%\n", + "2\t검증 세트 손실: 0.259820\t최선의 손실: 0.160400\t정확도: 93.71%\n", + "3\t검증 세트 손실: 0.591711\t최선의 손실: 0.160400\t정확도: 71.77%\n", + "4\t검증 세트 손실: 0.563691\t최선의 손실: 0.160400\t정확도: 77.91%\n", + "5\t검증 세트 손실: 0.635074\t최선의 손실: 0.160400\t정확도: 70.52%\n", + "6\t검증 세트 손실: 0.845902\t최선의 손실: 0.160400\t정확도: 60.63%\n", + "7\t검증 세트 손실: 0.618849\t최선의 손실: 0.160400\t정확도: 72.48%\n", + "8\t검증 세트 손실: 0.467025\t최선의 손실: 0.160400\t정확도: 77.17%\n", + "9\t검증 세트 손실: 0.575024\t최선의 손실: 0.160400\t정확도: 74.63%\n", + "10\t검증 세트 손실: 0.986210\t최선의 손실: 0.160400\t정확도: 59.70%\n", + "11\t검증 세트 손실: 0.584204\t최선의 손실: 0.160400\t정확도: 74.55%\n", + "12\t검증 세트 손실: 0.515796\t최선의 손실: 0.160400\t정확도: 77.01%\n", + "13\t검증 세트 손실: 0.752879\t최선의 손실: 0.160400\t정확도: 60.24%\n", + "14\t검증 세트 손실: 1.082688\t최선의 손실: 0.160400\t정확도: 47.93%\n", + "15\t검증 세트 손실: 1.167483\t최선의 손실: 0.160400\t정확도: 44.06%\n", + "16\t검증 세트 손실: 0.771518\t최선의 손실: 0.160400\t정확도: 60.24%\n", + "17\t검증 세트 손실: 0.799675\t최선의 손실: 0.160400\t정확도: 58.76%\n", + "18\t검증 세트 손실: 0.743190\t최선의 손실: 0.160400\t정확도: 60.05%\n", + "19\t검증 세트 손실: 0.761172\t최선의 손실: 0.160400\t정확도: 60.28%\n", + "20\t검증 세트 손실: 0.756680\t최선의 손실: 0.160400\t정확도: 58.25%\n", + "21\t검증 세트 손실: 0.775454\t최선의 손실: 0.160400\t정확도: 60.28%\n", + "조기 종료!\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=10, activation=, total= 34.4s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 4265.318359\t최선의 손실: 4265.318359\t정확도: 19.00%\n", + "1\t검증 세트 손실: 184.641296\t최선의 손실: 184.641296\t정확도: 71.97%\n", + "2\t검증 세트 손실: 28.565020\t최선의 손실: 28.565020\t정확도: 81.94%\n", + "3\t검증 세트 손실: 5.622776\t최선의 손실: 5.622776\t정확도: 93.24%\n", + "4\t검증 세트 손실: 3.189995\t최선의 손실: 3.189995\t정확도: 92.26%\n", + "5\t검증 세트 손실: 2.977305\t최선의 손실: 2.977305\t정확도: 91.01%\n", + "6\t검증 세트 손실: 2.198593\t최선의 손실: 2.198593\t정확도: 92.69%\n", + "7\t검증 세트 손실: 2.906773\t최선의 손실: 2.198593\t정확도: 87.29%\n", + "8\t검증 세트 손실: 2.168341\t최선의 손실: 2.168341\t정확도: 94.02%\n", + "9\t검증 세트 손실: 2.233430\t최선의 손실: 2.168341\t정확도: 90.66%\n", + "10\t검증 세트 손실: 1.492598\t최선의 손실: 1.492598\t정확도: 94.33%\n", + "11\t검증 세트 손실: 2.601949\t최선의 손실: 1.492598\t정확도: 92.85%\n", + "12\t검증 세트 손실: 1.253361\t최선의 손실: 1.253361\t정확도: 93.55%\n", + "13\t검증 세트 손실: 1.023532\t최선의 손실: 1.023532\t정확도: 94.88%\n", + "14\t검증 세트 손실: 1.593803\t최선의 손실: 1.023532\t정확도: 89.68%\n", + "15\t검증 세트 손실: 1.268525\t최선의 손실: 1.023532\t정확도: 95.04%\n", + "16\t검증 세트 손실: 1.049421\t최선의 손실: 1.023532\t정확도: 93.63%\n", + "17\t검증 세트 손실: 0.987212\t최선의 손실: 0.987212\t정확도: 95.15%\n", + "18\t검증 세트 손실: 1.956612\t최선의 손실: 0.987212\t정확도: 87.72%\n", + "19\t검증 세트 손실: 1.102169\t최선의 손실: 0.987212\t정확도: 95.58%\n", + "20\t검증 세트 손실: 0.577762\t최선의 손실: 0.577762\t정확도: 96.05%\n", + "21\t검증 세트 손실: 0.633867\t최선의 손실: 0.577762\t정확도: 95.74%\n", + "22\t검증 세트 손실: 1.662488\t최선의 손실: 0.577762\t정확도: 87.06%\n", + "23\t검증 세트 손실: 1.778351\t최선의 손실: 0.577762\t정확도: 94.61%\n", + "24\t검증 세트 손실: 2.434793\t최선의 손실: 0.577762\t정확도: 89.68%\n", + "25\t검증 세트 손실: 1.248667\t최선의 손실: 0.577762\t정확도: 95.27%\n", + "26\t검증 세트 손실: 0.702588\t최선의 손실: 0.577762\t정확도: 95.97%\n", + "27\t검증 세트 손실: 0.947006\t최선의 손실: 0.577762\t정확도: 94.14%\n", + "28\t검증 세트 손실: 0.958394\t최선의 손실: 0.577762\t정확도: 96.13%\n", + "29\t검증 세트 손실: 0.636009\t최선의 손실: 0.577762\t정확도: 96.09%\n", + "30\t검증 세트 손실: 0.553260\t최선의 손실: 0.553260\t정확도: 96.17%\n", + "31\t검증 세트 손실: 0.627728\t최선의 손실: 0.553260\t정확도: 95.35%\n", + "32\t검증 세트 손실: 0.897449\t최선의 손실: 0.553260\t정확도: 95.11%\n", + "33\t검증 세트 손실: 0.556823\t최선의 손실: 0.553260\t정확도: 95.47%\n", + "34\t검증 세트 손실: 0.457790\t최선의 손실: 0.457790\t정확도: 96.72%\n", + "35\t검증 세트 손실: 0.453858\t최선의 손실: 0.453858\t정확도: 95.62%\n", + "36\t검증 세트 손실: 0.524258\t최선의 손실: 0.453858\t정확도: 95.19%\n", + "37\t검증 세트 손실: 0.498108\t최선의 손실: 0.453858\t정확도: 94.41%\n", + "38\t검증 세트 손실: 0.402958\t최선의 손실: 0.402958\t정확도: 95.82%\n", + "39\t검증 세트 손실: 0.444366\t최선의 손실: 0.402958\t정확도: 96.44%\n", + "40\t검증 세트 손실: 0.906025\t최선의 손실: 0.402958\t정확도: 93.98%\n", + "41\t검증 세트 손실: 0.402597\t최선의 손실: 0.402597\t정확도: 96.48%\n", + "42\t검증 세트 손실: 0.363579\t최선의 손실: 0.363579\t정확도: 96.91%\n", + "43\t검증 세트 손실: 0.357368\t최선의 손실: 0.357368\t정확도: 96.52%\n", + "44\t검증 세트 손실: 0.300273\t최선의 손실: 0.300273\t정확도: 96.68%\n", + "45\t검증 세트 손실: 0.362904\t최선의 손실: 0.300273\t정확도: 96.52%\n", + "46\t검증 세트 손실: 0.450392\t최선의 손실: 0.300273\t정확도: 95.58%\n", + "47\t검증 세트 손실: 0.378544\t최선의 손실: 0.300273\t정확도: 96.60%\n", + "48\t검증 세트 손실: 0.443249\t최선의 손실: 0.300273\t정확도: 95.23%\n", + "49\t검증 세트 손실: 0.366528\t최선의 손실: 0.300273\t정확도: 96.33%\n", + "50\t검증 세트 손실: 0.518064\t최선의 손실: 0.300273\t정확도: 94.84%\n", + "51\t검증 세트 손실: 0.350738\t최선의 손실: 0.300273\t정확도: 96.36%\n", + "52\t검증 세트 손실: 0.480723\t최선의 손실: 0.300273\t정확도: 94.45%\n", + "53\t검증 세트 손실: 0.387346\t최선의 손실: 0.300273\t정확도: 95.66%\n", + "54\t검증 세트 손실: 0.343995\t최선의 손실: 0.300273\t정확도: 96.91%\n", + "55\t검증 세트 손실: 0.457339\t최선의 손실: 0.300273\t정확도: 95.27%\n", + "56\t검증 세트 손실: 50042200.000000\t최선의 손실: 0.300273\t정확도: 20.91%\n", + "57\t검증 세트 손실: 19715826.000000\t최선의 손실: 0.300273\t정확도: 21.11%\n", + "58\t검증 세트 손실: 630683.750000\t최선의 손실: 0.300273\t정확도: 58.60%\n", + "59\t검증 세트 손실: 93713.812500\t최선의 손실: 0.300273\t정확도: 84.64%\n", + "60\t검증 세트 손실: 87807.671875\t최선의 손실: 0.300273\t정확도: 88.39%\n", + "61\t검증 세트 손실: 49942.558594\t최선의 손실: 0.300273\t정확도: 90.11%\n", + "62\t검증 세트 손실: 34670.675781\t최선의 손실: 0.300273\t정확도: 85.50%\n", + "63\t검증 세트 손실: 28155.470703\t최선의 손실: 0.300273\t정확도: 89.56%\n", + "64\t검증 세트 손실: 88811.250000\t최선의 손실: 0.300273\t정확도: 75.06%\n", + "65\t검증 세트 손실: 40573.562500\t최선의 손실: 0.300273\t정확도: 86.28%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.1s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 101.814941\t최선의 손실: 101.814941\t정확도: 65.32%\n", + "1\t검증 세트 손실: 10.010373\t최선의 손실: 10.010373\t정확도: 91.95%\n", + "2\t검증 세트 손실: 5.845928\t최선의 손실: 5.845928\t정확도: 88.55%\n", + "3\t검증 세트 손실: 1.309362\t최선의 손실: 1.309362\t정확도: 95.78%\n", + "4\t검증 세트 손실: 0.778158\t최선의 손실: 0.778158\t정확도: 95.31%\n", + "5\t검증 세트 손실: 0.589132\t최선의 손실: 0.589132\t정확도: 95.86%\n", + "6\t검증 세트 손실: 0.566200\t최선의 손실: 0.566200\t정확도: 96.09%\n", + "7\t검증 세트 손실: 0.692933\t최선의 손실: 0.566200\t정확도: 95.93%\n", + "8\t검증 세트 손실: 0.648121\t최선의 손실: 0.566200\t정확도: 95.47%\n", + "9\t검증 세트 손실: 0.451269\t최선의 손실: 0.451269\t정확도: 95.97%\n", + "10\t검증 세트 손실: 0.380890\t최선의 손실: 0.380890\t정확도: 96.64%\n", + "11\t검증 세트 손실: 0.458518\t최선의 손실: 0.380890\t정확도: 96.21%\n", + "12\t검증 세트 손실: 0.411413\t최선의 손실: 0.380890\t정확도: 96.29%\n", + "13\t검증 세트 손실: 0.422248\t최선의 손실: 0.380890\t정확도: 96.13%\n", + "14\t검증 세트 손실: 0.348099\t최선의 손실: 0.348099\t정확도: 96.72%\n", + "15\t검증 세트 손실: 0.654803\t최선의 손실: 0.348099\t정확도: 94.53%\n", + "16\t검증 세트 손실: 0.380731\t최선의 손실: 0.348099\t정확도: 96.68%\n", + "17\t검증 세트 손실: 0.371492\t최선의 손실: 0.348099\t정확도: 96.79%\n", + "18\t검증 세트 손실: 0.512791\t최선의 손실: 0.348099\t정확도: 95.97%\n", + "19\t검증 세트 손실: 0.414617\t최선의 손실: 0.348099\t정확도: 96.64%\n", + "20\t검증 세트 손실: 0.333065\t최선의 손실: 0.333065\t정확도: 97.11%\n", + "21\t검증 세트 손실: 1.055759\t최선의 손실: 0.333065\t정확도: 90.42%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "111\t검증 세트 손실: 5.583642\t최선의 손실: 3.117604\t정확도: 96.52%\n", - "112\t검증 세트 손실: 22.477179\t최선의 손실: 3.117604\t정확도: 96.87%\n", + "22\t검증 세트 손실: 0.516046\t최선의 손실: 0.333065\t정확도: 97.11%\n", + "23\t검증 세트 손실: 0.495316\t최선의 손실: 0.333065\t정확도: 96.33%\n", + "24\t검증 세트 손실: 0.513905\t최선의 손실: 0.333065\t정확도: 97.26%\n", + "25\t검증 세트 손실: 0.593826\t최선의 손실: 0.333065\t정확도: 96.36%\n", + "26\t검증 세트 손실: 0.489706\t최선의 손실: 0.333065\t정확도: 96.48%\n", + "27\t검증 세트 손실: 0.424149\t최선의 손실: 0.333065\t정확도: 97.38%\n", + "28\t검증 세트 손실: 0.407555\t최선의 손실: 0.333065\t정확도: 97.50%\n", + "29\t검증 세트 손실: 0.355127\t최선의 손실: 0.333065\t정확도: 96.05%\n", + "30\t검증 세트 손실: 0.428396\t최선의 손실: 0.333065\t정확도: 97.07%\n", + "31\t검증 세트 손실: 0.420116\t최선의 손실: 0.333065\t정확도: 97.46%\n", + "32\t검증 세트 손실: 0.456794\t최선의 손실: 0.333065\t정확도: 97.26%\n", + "33\t검증 세트 손실: 0.457091\t최선의 손실: 0.333065\t정확도: 97.34%\n", + "34\t검증 세트 손실: 0.415193\t최선의 손실: 0.333065\t정확도: 97.46%\n", + "35\t검증 세트 손실: 0.436543\t최선의 손실: 0.333065\t정확도: 97.69%\n", + "36\t검증 세트 손실: 0.383798\t최선의 손실: 0.333065\t정확도: 97.73%\n", + "37\t검증 세트 손실: 0.436733\t최선의 손실: 0.333065\t정확도: 97.34%\n", + "38\t검증 세트 손실: 0.471337\t최선의 손실: 0.333065\t정확도: 96.64%\n", + "39\t검증 세트 손실: 0.437038\t최선의 손실: 0.333065\t정확도: 97.65%\n", + "40\t검증 세트 손실: 0.431589\t최선의 손실: 0.333065\t정확도: 97.50%\n", + "41\t검증 세트 손실: 0.595367\t최선의 손실: 0.333065\t정확도: 96.48%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100, total= 10.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100 \n", - "0\t검증 세트 손실: 5020.979492\t최선의 손실: 5020.979492\t정확도: 18.76%\n", - "1\t검증 세트 손실: 1976.238525\t최선의 손실: 1976.238525\t정확도: 44.10%\n", - "2\t검증 세트 손실: 69.379158\t최선의 손실: 69.379158\t정확도: 71.23%\n", - "3\t검증 세트 손실: 8.217289\t최선의 손실: 8.217289\t정확도: 87.96%\n", - "4\t검증 세트 손실: 4.344393\t최선의 손실: 4.344393\t정확도: 91.40%\n", - "5\t검증 세트 손실: 2.934256\t최선의 손실: 2.934256\t정확도: 93.59%\n", - "6\t검증 세트 손실: 2.509925\t최선의 손실: 2.509925\t정확도: 93.94%\n", - "7\t검증 세트 손실: 1.941523\t최선의 손실: 1.941523\t정확도: 92.18%\n", - "8\t검증 세트 손실: 4.377177\t최선의 손실: 1.941523\t정확도: 90.93%\n", - "9\t검증 세트 손실: 1.344884\t최선의 손실: 1.344884\t정확도: 95.15%\n", - "10\t검증 세트 손실: 1.135813\t최선의 손실: 1.135813\t정확도: 95.11%\n", - "11\t검증 세트 손실: 1.092989\t최선의 손실: 1.092989\t정확도: 95.74%\n", - "12\t검증 세트 손실: 1.148805\t최선의 손실: 1.092989\t정확도: 95.43%\n", - "13\t검증 세트 손실: 1.016746\t최선의 손실: 1.016746\t정확도: 94.21%\n", - "14\t검증 세트 손실: 0.849319\t최선의 손실: 0.849319\t정확도: 96.01%\n", - "15\t검증 세트 손실: 1.508190\t최선의 손실: 0.849319\t정확도: 92.53%\n", - "16\t검증 세트 손실: 0.851839\t최선의 손실: 0.849319\t정확도: 95.97%\n", - "17\t검증 세트 손실: 11.253705\t최선의 손실: 0.849319\t정확도: 78.23%\n", - "18\t검증 세트 손실: 4.258766\t최선의 손실: 0.849319\t정확도: 94.21%\n", - "19\t검증 세트 손실: 1.996792\t최선의 손실: 0.849319\t정확도: 95.43%\n", - "20\t검증 세트 손실: 1.111662\t최선의 손실: 0.849319\t정확도: 96.52%\n", - "21\t검증 세트 손실: 1.149388\t최선의 손실: 0.849319\t정확도: 96.13%\n", - "22\t검증 세트 손실: 0.888399\t최선의 손실: 0.849319\t정확도: 96.40%\n", - "23\t검증 세트 손실: 0.637672\t최선의 손실: 0.637672\t정확도: 96.99%\n", - "24\t검증 세트 손실: 0.574833\t최선의 손실: 0.574833\t정확도: 97.26%\n", - "25\t검증 세트 손실: 0.480164\t최선의 손실: 0.480164\t정확도: 97.30%\n", - "26\t검증 세트 손실: 0.747075\t최선의 손실: 0.480164\t정확도: 96.01%\n", - "27\t검증 세트 손실: 0.655856\t최선의 손실: 0.480164\t정확도: 96.87%\n", - "28\t검증 세트 손실: 0.831307\t최선의 손실: 0.480164\t정확도: 95.97%\n", - "29\t검증 세트 손실: 0.655496\t최선의 손실: 0.480164\t정확도: 97.15%\n", - "30\t검증 세트 손실: 0.780814\t최선의 손실: 0.480164\t정확도: 97.19%\n", - "31\t검증 세트 손실: 0.734302\t최선의 손실: 0.480164\t정확도: 96.33%\n", - "32\t검증 세트 손실: 1.561500\t최선의 손실: 0.480164\t정확도: 96.44%\n", - "33\t검증 세트 손실: 1.455134\t최선의 손실: 0.480164\t정확도: 96.87%\n", - "34\t검증 세트 손실: 1.658954\t최선의 손실: 0.480164\t정확도: 96.91%\n", - "35\t검증 세트 손실: 1.184403\t최선의 손실: 0.480164\t정확도: 96.09%\n", - "36\t검증 세트 손실: 1.798230\t최선의 손실: 0.480164\t정확도: 96.95%\n", - "37\t검증 세트 손실: 1.607311\t최선의 손실: 0.480164\t정확도: 97.26%\n", - "38\t검증 세트 손실: 1.100999\t최선의 손실: 0.480164\t정확도: 97.03%\n", - "39\t검증 세트 손실: 1.278384\t최선의 손실: 0.480164\t정확도: 97.62%\n", - "40\t검증 세트 손실: 1.422520\t최선의 손실: 0.480164\t정확도: 97.07%\n", - "41\t검증 세트 손실: 1.482012\t최선의 손실: 0.480164\t정확도: 96.79%\n", - "42\t검증 세트 손실: 1.954535\t최선의 손실: 0.480164\t정확도: 97.34%\n", - "43\t검증 세트 손실: 140.594574\t최선의 손실: 0.480164\t정확도: 61.45%\n", - "44\t검증 세트 손실: 29700838.000000\t최선의 손실: 0.480164\t정확도: 19.27%\n", - "45\t검증 세트 손실: 403161.656250\t최선의 손실: 0.480164\t정확도: 53.17%\n", - "46\t검증 세트 손실: 96768.375000\t최선의 손실: 0.480164\t정확도: 73.42%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 3.5s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 206.872849\t최선의 손실: 206.872849\t정확도: 41.75%\n", + "1\t검증 세트 손실: 157.026642\t최선의 손실: 157.026642\t정확도: 51.06%\n", + "2\t검증 세트 손실: 11.476459\t최선의 손실: 11.476459\t정확도: 81.08%\n", + "3\t검증 세트 손실: 5.015783\t최선의 손실: 5.015783\t정확도: 94.25%\n", + "4\t검증 세트 손실: 1.784835\t최선의 손실: 1.784835\t정확도: 95.15%\n", + "5\t검증 세트 손실: 1.263627\t최선의 손실: 1.263627\t정확도: 95.47%\n", + "6\t검증 세트 손실: 1.272888\t최선의 손실: 1.263627\t정확도: 94.57%\n", + "7\t검증 세트 손실: 1.027823\t최선의 손실: 1.027823\t정확도: 95.23%\n", + "8\t검증 세트 손실: 0.723157\t최선의 손실: 0.723157\t정확도: 95.86%\n", + "9\t검증 세트 손실: 1.481220\t최선의 손실: 0.723157\t정확도: 91.99%\n", + "10\t검증 세트 손실: 0.637633\t최선의 손실: 0.637633\t정확도: 96.25%\n", + "11\t검증 세트 손실: 0.772105\t최선의 손실: 0.637633\t정확도: 94.92%\n", + "12\t검증 세트 손실: 0.468462\t최선의 손실: 0.468462\t정확도: 96.40%\n", + "13\t검증 세트 손실: 0.908159\t최선의 손실: 0.468462\t정확도: 95.74%\n", + "14\t검증 세트 손실: 0.583622\t최선의 손실: 0.468462\t정확도: 94.49%\n", + "15\t검증 세트 손실: 0.545374\t최선의 손실: 0.468462\t정확도: 95.15%\n", + "16\t검증 세트 손실: 0.405291\t최선의 손실: 0.405291\t정확도: 96.44%\n", + "17\t검증 세트 손실: 0.378315\t최선의 손실: 0.378315\t정확도: 96.29%\n", + "18\t검증 세트 손실: 0.350036\t최선의 손실: 0.350036\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.341955\t최선의 손실: 0.341955\t정확도: 96.99%\n", + "20\t검증 세트 손실: 0.353450\t최선의 손실: 0.341955\t정확도: 97.03%\n", + "21\t검증 세트 손실: 0.335236\t최선의 손실: 0.335236\t정확도: 97.38%\n", + "22\t검증 세트 손실: 0.284530\t최선의 손실: 0.284530\t정확도: 97.22%\n", + "23\t검증 세트 손실: 0.363603\t최선의 손실: 0.284530\t정확도: 96.64%\n", + "24\t검증 세트 손실: 0.362255\t최선의 손실: 0.284530\t정확도: 97.03%\n", + "25\t검증 세트 손실: 0.258372\t최선의 손실: 0.258372\t정확도: 97.50%\n", + "26\t검증 세트 손실: 0.254022\t최선의 손실: 0.254022\t정확도: 97.26%\n", + "27\t검증 세트 손실: 0.252237\t최선의 손실: 0.252237\t정확도: 97.38%\n", + "28\t검증 세트 손실: 0.228646\t최선의 손실: 0.228646\t정확도: 97.65%\n", + "29\t검증 세트 손실: 0.226868\t최선의 손실: 0.226868\t정확도: 97.38%\n", + "30\t검증 세트 손실: 0.233249\t최선의 손실: 0.226868\t정확도: 97.30%\n", + "31\t검증 세트 손실: 0.347466\t최선의 손실: 0.226868\t정확도: 95.74%\n", + "32\t검증 세트 손실: 0.306821\t최선의 손실: 0.226868\t정확도: 96.52%\n", + "33\t검증 세트 손실: 0.220282\t최선의 손실: 0.220282\t정확도: 97.85%\n", + "34\t검증 세트 손실: 0.240939\t최선의 손실: 0.220282\t정확도: 97.58%\n", + "35\t검증 세트 손실: 0.233248\t최선의 손실: 0.220282\t정확도: 97.50%\n", + "36\t검증 세트 손실: 0.274157\t최선의 손실: 0.220282\t정확도: 97.11%\n", + "37\t검증 세트 손실: 0.234781\t최선의 손실: 0.220282\t정확도: 97.65%\n", + "38\t검증 세트 손실: 0.224074\t최선의 손실: 0.220282\t정확도: 98.01%\n", + "39\t검증 세트 손실: 0.243119\t최선의 손실: 0.220282\t정확도: 97.19%\n", + "40\t검증 세트 손실: 0.225001\t최선의 손실: 0.220282\t정확도: 97.50%\n", + "41\t검증 세트 손실: 0.242229\t최선의 손실: 0.220282\t정확도: 97.22%\n", + "42\t검증 세트 손실: 0.197184\t최선의 손실: 0.197184\t정확도: 97.93%\n", + "43\t검증 세트 손실: 0.197782\t최선의 손실: 0.197184\t정확도: 97.93%\n", + "44\t검증 세트 손실: 0.205627\t최선의 손실: 0.197184\t정확도: 97.34%\n", + "45\t검증 세트 손실: 0.203096\t최선의 손실: 0.197184\t정확도: 97.03%\n", + "46\t검증 세트 손실: 0.222936\t최선의 손실: 0.197184\t정확도: 97.22%\n", + "47\t검증 세트 손실: 0.199371\t최선의 손실: 0.197184\t정확도: 97.77%\n", + "48\t검증 세트 손실: 0.333389\t최선의 손실: 0.197184\t정확도: 96.13%\n", + "49\t검증 세트 손실: 0.190753\t최선의 손실: 0.190753\t정확도: 97.77%\n", + "50\t검증 세트 손실: 0.252740\t최선의 손실: 0.190753\t정확도: 97.46%\n", + "51\t검증 세트 손실: 0.171421\t최선의 손실: 0.171421\t정확도: 97.97%\n", + "52\t검증 세트 손실: 0.179693\t최선의 손실: 0.171421\t정확도: 98.01%\n", + "53\t검증 세트 손실: 0.175865\t최선의 손실: 0.171421\t정확도: 97.89%\n", + "54\t검증 세트 손실: 0.185118\t최선의 손실: 0.171421\t정확도: 97.65%\n", + "55\t검증 세트 손실: 0.217913\t최선의 손실: 0.171421\t정확도: 97.38%\n", + "56\t검증 세트 손실: 0.279479\t최선의 손실: 0.171421\t정확도: 96.87%\n", + "57\t검증 세트 손실: 0.267068\t최선의 손실: 0.171421\t정확도: 97.11%\n", + "58\t검증 세트 손실: 0.207408\t최선의 손실: 0.171421\t정확도: 97.81%\n", + "59\t검증 세트 손실: 0.177241\t최선의 손실: 0.171421\t정확도: 98.16%\n", + "60\t검증 세트 손실: 0.167423\t최선의 손실: 0.167423\t정확도: 97.89%\n", + "61\t검증 세트 손실: 0.230212\t최선의 손실: 0.167423\t정확도: 97.30%\n", + "62\t검증 세트 손실: 0.182324\t최선의 손실: 0.167423\t정확도: 97.93%\n", + "63\t검증 세트 손실: 0.228833\t최선의 손실: 0.167423\t정확도: 97.22%\n", + "64\t검증 세트 손실: 0.153412\t최선의 손실: 0.153412\t정확도: 97.97%\n", + "65\t검증 세트 손실: 17797824.000000\t최선의 손실: 0.153412\t정확도: 18.73%\n", + "66\t검증 세트 손실: 30876744.000000\t최선의 손실: 0.153412\t정확도: 19.74%\n", + "67\t검증 세트 손실: 798182.750000\t최선의 손실: 0.153412\t정확도: 59.23%\n", + "68\t검증 세트 손실: 119760.414062\t최선의 손실: 0.153412\t정확도: 81.04%\n", + "69\t검증 세트 손실: 58838.421875\t최선의 손실: 0.153412\t정확도: 86.24%\n", + "70\t검증 세트 손실: 52384.582031\t최선의 손실: 0.153412\t정확도: 82.33%\n", + "71\t검증 세트 손실: 24367.070312\t최선의 손실: 0.153412\t정확도: 90.11%\n", + "72\t검증 세트 손실: 26445.326172\t최선의 손실: 0.153412\t정확도: 90.11%\n", + "73\t검증 세트 손실: 20202.701172\t최선의 손실: 0.153412\t정확도: 90.34%\n", + "74\t검증 세트 손실: 27321.207031\t최선의 손실: 0.153412\t정확도: 86.63%\n", + "75\t검증 세트 손실: 28303.365234\t최선의 손실: 0.153412\t정확도: 90.46%\n", + "76\t검증 세트 손실: 18954.041016\t최선의 손실: 0.153412\t정확도: 91.83%\n", + "77\t검증 세트 손실: 22538.958984\t최선의 손실: 0.153412\t정확도: 87.72%\n", + "78\t검증 세트 손실: 23703.605469\t최선의 손실: 0.153412\t정확도: 87.41%\n", + "79\t검증 세트 손실: 18681.769531\t최선의 손실: 0.153412\t정확도: 87.69%\n", + "80\t검증 세트 손실: 35723.125000\t최선의 손실: 0.153412\t정확도: 85.22%\n", + "81\t검증 세트 손실: 25883.242188\t최선의 손실: 0.153412\t정확도: 88.74%\n", + "82\t검증 세트 손실: 34917.199219\t최선의 손실: 0.153412\t정확도: 85.14%\n", + "83\t검증 세트 손실: 17932.728516\t최선의 손실: 0.153412\t정확도: 93.78%\n", + "84\t검증 세트 손실: 13171.873047\t최선의 손실: 0.153412\t정확도: 92.77%\n", + "85\t검증 세트 손실: 11701.595703\t최선의 손실: 0.153412\t정확도: 93.12%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=100, total= 4.7s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140 \n", - "0\t검증 세트 손실: 0.113825\t최선의 손실: 0.113825\t정확도: 96.52%\n", - "1\t검증 세트 손실: 0.085296\t최선의 손실: 0.085296\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.070906\t최선의 손실: 0.070906\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.062628\t최선의 손실: 0.062628\t정확도: 98.28%\n", - "4\t검증 세트 손실: 0.069291\t최선의 손실: 0.062628\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.055527\t최선의 손실: 0.055527\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.053126\t최선의 손실: 0.053126\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.064649\t최선의 손실: 0.053126\t정확도: 98.40%\n", - "8\t검증 세트 손실: 0.078424\t최선의 손실: 0.053126\t정확도: 98.16%\n", - "9\t검증 세트 손실: 0.075120\t최선의 손실: 0.053126\t정확도: 98.36%\n", - "10\t검증 세트 손실: 0.061990\t최선의 손실: 0.053126\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.100819\t최선의 손실: 0.053126\t정확도: 97.93%\n", - "12\t검증 세트 손실: 0.088329\t최선의 손실: 0.053126\t정확도: 98.05%\n", - "13\t검증 세트 손실: 0.067940\t최선의 손실: 0.053126\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.069515\t최선의 손실: 0.053126\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.069333\t최선의 손실: 0.053126\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.084390\t최선의 손실: 0.053126\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.068616\t최선의 손실: 0.053126\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.069949\t최선의 손실: 0.053126\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.068754\t최선의 손실: 0.053126\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.071720\t최선의 손실: 0.053126\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.094218\t최선의 손실: 0.053126\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.064649\t최선의 손실: 0.053126\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.058254\t최선의 손실: 0.053126\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.076868\t최선의 손실: 0.053126\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.075925\t최선의 손실: 0.053126\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.054092\t최선의 손실: 0.053126\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.074304\t최선의 손실: 0.053126\t정확도: 98.98%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 6.6s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.089348\t최선의 손실: 0.089348\t정확도: 97.46%\n", + "1\t검증 세트 손실: 0.053821\t최선의 손실: 0.053821\t정확도: 98.36%\n", + "2\t검증 세트 손실: 0.063253\t최선의 손실: 0.053821\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.053748\t최선의 손실: 0.053748\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.058668\t최선의 손실: 0.053748\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.066990\t최선의 손실: 0.053748\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.057154\t최선의 손실: 0.053748\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.056208\t최선의 손실: 0.053748\t정확도: 98.71%\n", + "8\t검증 세트 손실: 0.053740\t최선의 손실: 0.053740\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.057906\t최선의 손실: 0.053740\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.059744\t최선의 손실: 0.053740\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.058788\t최선의 손실: 0.053740\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.115227\t최선의 손실: 0.053740\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.088922\t최선의 손실: 0.053740\t정확도: 98.24%\n", + "14\t검증 세트 손실: 0.079847\t최선의 손실: 0.053740\t정확도: 98.51%\n", + "15\t검증 세트 손실: 0.070444\t최선의 손실: 0.053740\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.059037\t최선의 손실: 0.053740\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.064653\t최선의 손실: 0.053740\t정확도: 98.98%\n", + "18\t검증 세트 손실: 0.072322\t최선의 손실: 0.053740\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.082743\t최선의 손실: 0.053740\t정확도: 98.59%\n", + "20\t검증 세트 손실: 5.353030\t최선의 손실: 0.053740\t정확도: 39.56%\n", + "21\t검증 세트 손실: 17.649279\t최선의 손실: 0.053740\t정확도: 85.03%\n", + "22\t검증 세트 손실: 4.757766\t최선의 손실: 0.053740\t정확도: 93.43%\n", + "23\t검증 세트 손실: 1.234810\t최선의 손실: 0.053740\t정확도: 95.54%\n", + "24\t검증 세트 손실: 1.163381\t최선의 손실: 0.053740\t정확도: 95.00%\n", + "25\t검증 세트 손실: 0.973809\t최선의 손실: 0.053740\t정확도: 94.14%\n", + "26\t검증 세트 손실: 0.487474\t최선의 손실: 0.053740\t정확도: 96.83%\n", + "27\t검증 세트 손실: 0.388638\t최선의 손실: 0.053740\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.304048\t최선의 손실: 0.053740\t정확도: 96.99%\n", + "29\t검증 세트 손실: 0.250790\t최선의 손실: 0.053740\t정확도: 97.54%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140, total= 2.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140 \n", - "0\t검증 세트 손실: 0.114602\t최선의 손실: 0.114602\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.075141\t최선의 손실: 0.075141\t정확도: 97.81%\n", - "2\t검증 세트 손실: 0.060133\t최선의 손실: 0.060133\t정확도: 98.05%\n", - "3\t검증 세트 손실: 0.057651\t최선의 손실: 0.057651\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.073752\t최선의 손실: 0.057651\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.051506\t최선의 손실: 0.051506\t정확도: 98.51%\n", - "6\t검증 세트 손실: 0.043582\t최선의 손실: 0.043582\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.057917\t최선의 손실: 0.043582\t정확도: 98.28%\n", - "8\t검증 세트 손실: 0.068923\t최선의 손실: 0.043582\t정확도: 97.81%\n", - "9\t검증 세트 손실: 0.070654\t최선의 손실: 0.043582\t정확도: 98.40%\n", - "10\t검증 세트 손실: 0.067213\t최선의 손실: 0.043582\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.060256\t최선의 손실: 0.043582\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.044530\t최선의 손실: 0.043582\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.048885\t최선의 손실: 0.043582\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.067358\t최선의 손실: 0.043582\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.056037\t최선의 손실: 0.043582\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.072115\t최선의 손실: 0.043582\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.052748\t최선의 손실: 0.043582\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.077543\t최선의 손실: 0.043582\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.050224\t최선의 손실: 0.043582\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.062844\t최선의 손실: 0.043582\t정확도: 98.44%\n", - "21\t검증 세트 손실: 0.102190\t최선의 손실: 0.043582\t정확도: 97.81%\n", - "22\t검증 세트 손실: 0.061326\t최선의 손실: 0.043582\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.098202\t최선의 손실: 0.043582\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.074070\t최선의 손실: 0.043582\t정확도: 98.83%\n", - "25\t검증 세트 손실: 0.070223\t최선의 손실: 0.043582\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.069980\t최선의 손실: 0.043582\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.074269\t최선의 손실: 0.043582\t정확도: 98.87%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140, total= 2.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140 \n", - "0\t검증 세트 손실: 0.115913\t최선의 손실: 0.115913\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.067352\t최선의 손실: 0.067352\t정확도: 98.01%\n", - "2\t검증 세트 손실: 0.064063\t최선의 손실: 0.064063\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.046716\t최선의 손실: 0.046716\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.050072\t최선의 손실: 0.046716\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.057662\t최선의 손실: 0.046716\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.052138\t최선의 손실: 0.046716\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.049542\t최선의 손실: 0.046716\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.054165\t최선의 손실: 0.046716\t정확도: 98.20%\n", - "9\t검증 세트 손실: 0.059066\t최선의 손실: 0.046716\t정확도: 97.93%\n", - "10\t검증 세트 손실: 0.057015\t최선의 손실: 0.046716\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.071340\t최선의 손실: 0.046716\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.053844\t최선의 손실: 0.046716\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.048327\t최선의 손실: 0.046716\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.062958\t최선의 손실: 0.046716\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.052573\t최선의 손실: 0.046716\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.067082\t최선의 손실: 0.046716\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.067930\t최선의 손실: 0.046716\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.069941\t최선의 손실: 0.046716\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.091365\t최선의 손실: 0.046716\t정확도: 98.32%\n", - "20\t검증 세트 손실: 0.057197\t최선의 손실: 0.046716\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.082179\t최선의 손실: 0.046716\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.090204\t최선의 손실: 0.046716\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.092029\t최선의 손실: 0.046716\t정확도: 98.44%\n", - "24\t검증 세트 손실: 0.068891\t최선의 손실: 0.046716\t정확도: 98.51%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.01, n_neurons=140, total= 2.5s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 1.851537\t최선의 손실: 1.851537\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.635981\t최선의 손실: 1.635981\t정확도: 20.91%\n" + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 2.6s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.119737\t최선의 손실: 0.119737\t정확도: 96.09%\n", + "1\t검증 세트 손실: 0.068486\t최선의 손실: 0.068486\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.055406\t최선의 손실: 0.055406\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.073210\t최선의 손실: 0.055406\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.057377\t최선의 손실: 0.055406\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.050178\t최선의 손실: 0.050178\t정확도: 98.67%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "2\t검증 세트 손실: 1.747335\t최선의 손실: 1.635981\t정확도: 18.73%\n", - "3\t검증 세트 손실: 1.666753\t최선의 손실: 1.635981\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.640455\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.907968\t최선의 손실: 1.635981\t정확도: 19.08%\n", - "6\t검증 세트 손실: 1.861143\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.646455\t최선의 손실: 1.635981\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.682898\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.800022\t최선의 손실: 1.635981\t정확도: 18.73%\n", - "10\t검증 세트 손실: 1.787573\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.982571\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.943092\t최선의 손실: 1.635981\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.777602\t최선의 손실: 1.635981\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.791736\t최선의 손실: 1.635981\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.913676\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.850441\t최선의 손실: 1.635981\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.676427\t최선의 손실: 1.635981\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.803298\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.727334\t최선의 손실: 1.635981\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.709793\t최선의 손실: 1.635981\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.744467\t최선의 손실: 1.635981\t정확도: 18.73%\n", - "22\t검증 세트 손실: 1.651264\t최선의 손실: 1.635981\t정확도: 20.91%\n", + "6\t검증 세트 손실: 0.048200\t최선의 손실: 0.048200\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.044673\t최선의 손실: 0.044673\t정확도: 98.83%\n", + "8\t검증 세트 손실: 0.040667\t최선의 손실: 0.040667\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.064342\t최선의 손실: 0.040667\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.071990\t최선의 손실: 0.040667\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.055605\t최선의 손실: 0.040667\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.063282\t최선의 손실: 0.040667\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.092780\t최선의 손실: 0.040667\t정확도: 98.01%\n", + "14\t검증 세트 손실: 0.102000\t최선의 손실: 0.040667\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.070447\t최선의 손실: 0.040667\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.074106\t최선의 손실: 0.040667\t정확도: 98.51%\n", + "17\t검증 세트 손실: 0.067234\t최선의 손실: 0.040667\t정확도: 98.94%\n", + "18\t검증 세트 손실: 0.090873\t최선의 손실: 0.040667\t정확도: 98.28%\n", + "19\t검증 세트 손실: 0.080500\t최선의 손실: 0.040667\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.055217\t최선의 손실: 0.040667\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.061797\t최선의 손실: 0.040667\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.077090\t최선의 손실: 0.040667\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.094785\t최선의 손실: 0.040667\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.066731\t최선의 손실: 0.040667\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.086244\t최선의 손실: 0.040667\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.078498\t최선의 손실: 0.040667\t정확도: 98.59%\n", + "27\t검증 세트 손실: 0.073274\t최선의 손실: 0.040667\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.128237\t최선의 손실: 0.040667\t정확도: 98.28%\n", + "29\t검증 세트 손실: 0.085714\t최선의 손실: 0.040667\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30, total= 36.3s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 1.898193\t최선의 손실: 1.898193\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.715824\t최선의 손실: 1.715824\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.695348\t최선의 손실: 1.695348\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.790663\t최선의 손실: 1.695348\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.842701\t최선의 손실: 1.695348\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.672896\t최선의 손실: 1.672896\t정확도: 18.73%\n", - "6\t검증 세트 손실: 1.855113\t최선의 손실: 1.672896\t정확도: 19.08%\n", - "7\t검증 세트 손실: 1.649565\t최선의 손실: 1.649565\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.899382\t최선의 손실: 1.649565\t정확도: 20.91%\n", - "9\t검증 세트 손실: 1.914842\t최선의 손실: 1.649565\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.686124\t최선의 손실: 1.649565\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 2.7s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 0.090647\t최선의 손실: 0.090647\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.064002\t최선의 손실: 0.064002\t정확도: 98.16%\n", + "2\t검증 세트 손실: 0.064139\t최선의 손실: 0.064002\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.047267\t최선의 손실: 0.047267\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.048492\t최선의 손실: 0.047267\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.056874\t최선의 손실: 0.047267\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.047471\t최선의 손실: 0.047267\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.056930\t최선의 손실: 0.047267\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.051509\t최선의 손실: 0.047267\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.049965\t최선의 손실: 0.047267\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.131183\t최선의 손실: 0.047267\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.057844\t최선의 손실: 0.047267\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.040790\t최선의 손실: 0.040790\t정확도: 99.14%\n", + "13\t검증 세트 손실: 0.065411\t최선의 손실: 0.040790\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.073868\t최선의 손실: 0.040790\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.062559\t최선의 손실: 0.040790\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.053151\t최선의 손실: 0.040790\t정확도: 98.94%\n", + "17\t검증 세트 손실: 0.074767\t최선의 손실: 0.040790\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.084918\t최선의 손실: 0.040790\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.066407\t최선의 손실: 0.040790\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.071872\t최선의 손실: 0.040790\t정확도: 99.06%\n", + "21\t검증 세트 손실: 0.071066\t최선의 손실: 0.040790\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.111189\t최선의 손실: 0.040790\t정확도: 98.59%\n", + "23\t검증 세트 손실: 53.413219\t최선의 손실: 0.040790\t정확도: 40.07%\n", + "24\t검증 세트 손실: 1.452503\t최선의 손실: 0.040790\t정확도: 88.94%\n", + "25\t검증 세트 손실: 0.487536\t최선의 손실: 0.040790\t정확도: 93.90%\n", + "26\t검증 세트 손실: 0.358761\t최선의 손실: 0.040790\t정확도: 95.62%\n", + "27\t검증 세트 손실: 0.326570\t최선의 손실: 0.040790\t정확도: 95.97%\n", + "28\t검증 세트 손실: 0.306267\t최선의 손실: 0.040790\t정확도: 96.05%\n", + "29\t검증 세트 손실: 0.272883\t최선의 손실: 0.040790\t정확도: 96.68%\n", + "30\t검증 세트 손실: 0.266875\t최선의 손실: 0.040790\t정확도: 96.72%\n", + "31\t검증 세트 손실: 0.282260\t최선의 손실: 0.040790\t정확도: 96.33%\n", + "32\t검증 세트 손실: 0.249430\t최선의 손실: 0.040790\t정확도: 97.11%\n", + "33\t검증 세트 손실: 0.267061\t최선의 손실: 0.040790\t정확도: 96.64%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 2.9s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.827028\t최선의 손실: 1.827028\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.632016\t최선의 손실: 1.632016\t정확도: 20.91%\n", + "2\t검증 세트 손실: 1.730929\t최선의 손실: 1.632016\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.670114\t최선의 손실: 1.632016\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.640647\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.760654\t최선의 손실: 1.632016\t정확도: 19.08%\n", + "6\t검증 세트 손실: 1.861012\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.646449\t최선의 손실: 1.632016\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.682896\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.800022\t최선의 손실: 1.632016\t정확도: 18.73%\n", + "10\t검증 세트 손실: 1.787573\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.982571\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.943092\t최선의 손실: 1.632016\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.777601\t최선의 손실: 1.632016\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.791736\t최선의 손실: 1.632016\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.913676\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.850440\t최선의 손실: 1.632016\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.676427\t최선의 손실: 1.632016\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.803298\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.727334\t최선의 손실: 1.632016\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.709793\t최선의 손실: 1.632016\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.744467\t최선의 손실: 1.632016\t정확도: 18.73%\n", + "22\t검증 세트 손실: 1.651264\t최선의 손실: 1.632016\t정확도: 20.91%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation=, total= 35.8s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.749140\t최선의 손실: 1.749140\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.651528\t최선의 손실: 1.651528\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.791611\t최선의 손실: 1.651528\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.838319\t최선의 손실: 1.651528\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.800171\t최선의 손실: 1.651528\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.669709\t최선의 손실: 1.651528\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.851122\t최선의 손실: 1.651528\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.649280\t최선의 손실: 1.649280\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.899553\t최선의 손실: 1.649280\t정확도: 20.91%\n", + "9\t검증 세트 손실: 1.914811\t최선의 손실: 1.649280\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.686123\t최선의 손실: 1.649280\t정확도: 22.01%\n", "11\t검증 세트 손실: 1.647474\t최선의 손실: 1.647474\t정확도: 20.91%\n", - "12\t검증 세트 손실: 1.853963\t최선의 손실: 1.647474\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1.853964\t최선의 손실: 1.647474\t정확도: 20.91%\n", "13\t검증 세트 손실: 1.669570\t최선의 손실: 1.647474\t정확도: 22.01%\n", "14\t검증 세트 손실: 1.703601\t최선의 손실: 1.647474\t정확도: 19.27%\n", "15\t검증 세트 손실: 1.998326\t최선의 손실: 1.647474\t정확도: 19.08%\n", @@ -5224,713 +5302,707 @@ "25\t검증 세트 손실: 1.836215\t최선의 손실: 1.647474\t정확도: 22.01%\n", "26\t검증 세트 손실: 1.777828\t최선의 손실: 1.647474\t정확도: 22.01%\n", "27\t검증 세트 손실: 1.763804\t최선의 손실: 1.647474\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.860308\t최선의 손실: 1.647474\t정확도: 19.27%\n", + "28\t검증 세트 손실: 1.860309\t최선의 손실: 1.647474\t정확도: 19.27%\n", "29\t검증 세트 손실: 1.954945\t최선의 손실: 1.647474\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.838278\t최선의 손실: 1.647474\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.838279\t최선의 손실: 1.647474\t정확도: 18.73%\n", "31\t검증 세트 손실: 1.988403\t최선의 손실: 1.647474\t정확도: 22.01%\n", - "32\t검증 세트 손실: 2.001385\t최선의 손실: 1.647474\t정확도: 19.27%\n", + "32\t검증 세트 손실: 2.001386\t최선의 손실: 1.647474\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30, total= 52.4s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30 \n", - "0\t검증 세트 손실: 1.647423\t최선의 손실: 1.647423\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.840158\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.738320\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "3\t검증 세트 손실: 1.999720\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "4\t검증 세트 손실: 2.132829\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.850594\t최선의 손실: 1.647423\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.746712\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "7\t검증 세트 손실: 2.006028\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.823843\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.867809\t최선의 손실: 1.647423\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.797798\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.810957\t최선의 손실: 1.647423\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.836460\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.796240\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.792560\t최선의 손실: 1.647423\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.879794\t최선의 손실: 1.647423\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.704596\t최선의 손실: 1.647423\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.803578\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "18\t검증 세트 손실: 2.113099\t최선의 손실: 1.647423\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.628995\t최선의 손실: 1.628995\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.801368\t최선의 손실: 1.628995\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.647709\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.653073\t최선의 손실: 1.628995\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.739612\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.861974\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.744546\t최선의 손실: 1.628995\t정확도: 19.27%\n", - "26\t검증 세트 손실: 1.719069\t최선의 손실: 1.628995\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.685109\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "28\t검증 세트 손실: 2.323920\t최선의 손실: 1.628995\t정확도: 19.08%\n", - "29\t검증 세트 손실: 2.050604\t최선의 손실: 1.628995\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.854671\t최선의 손실: 1.628995\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.956272\t최선의 손실: 1.628995\t정확도: 18.73%\n", - "32\t검증 세트 손실: 1.666341\t최선의 손실: 1.628995\t정확도: 19.08%\n", - "33\t검증 세트 손실: 1.684591\t최선의 손실: 1.628995\t정확도: 20.91%\n", - "34\t검증 세트 손실: 1.747721\t최선의 손실: 1.628995\t정확도: 19.08%\n", - "35\t검증 세트 손실: 1.761389\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "36\t검증 세트 손실: 1.971672\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "37\t검증 세트 손실: 1.921872\t최선의 손실: 1.628995\t정확도: 22.01%\n", - "38\t검증 세트 손실: 1.989987\t최선의 손실: 1.628995\t정확도: 18.73%\n", - "39\t검증 세트 손실: 1.904658\t최선의 손실: 1.628995\t정확도: 19.08%\n", - "40\t검증 세트 손실: 1.730791\t최선의 손실: 1.628995\t정확도: 19.08%\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation=, total= 51.5s\n", + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.214985\t최선의 손실: 1.214985\t정확도: 39.68%\n", + "1\t검증 세트 손실: 1.847848\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.739622\t최선의 손실: 1.214985\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.996484\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "4\t검증 세트 손실: 2.141456\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.850741\t최선의 손실: 1.214985\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.746687\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.830479\t최선의 손실: 1.214985\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.649748\t최선의 손실: 1.214985\t정확도: 22.01%\n", + "9\t검증 세트 손실: 2.048924\t최선의 손실: 1.214985\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.832474\t최선의 손실: 1.214985\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.816107\t최선의 손실: 1.214985\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.836798\t최선의 손실: 1.214985\t정확도: 18.73%\n", + "13\t검증 세트 손실: 1.796182\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.792563\t최선의 손실: 1.214985\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.879796\t최선의 손실: 1.214985\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.704596\t최선의 손실: 1.214985\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.803579\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "18\t검증 세트 손실: 2.113100\t최선의 손실: 1.214985\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.628995\t최선의 손실: 1.214985\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.801368\t최선의 손실: 1.214985\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.647708\t최선의 손실: 1.214985\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=30, total= 1.1min\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100 \n", - "0\t검증 세트 손실: 0.145859\t최선의 손실: 0.145859\t정확도: 95.97%\n", - "1\t검증 세트 손실: 5468.776855\t최선의 손실: 0.145859\t정확도: 18.06%\n", - "2\t검증 세트 손실: 20.570230\t최선의 손실: 0.145859\t정확도: 73.38%\n", - "3\t검증 세트 손실: 1359.967773\t최선의 손실: 0.145859\t정확도: 29.05%\n", - "4\t검증 세트 손실: 34.903469\t최선의 손실: 0.145859\t정확도: 55.24%\n", - "5\t검증 세트 손실: 8.598099\t최선의 손실: 0.145859\t정확도: 70.68%\n", - "6\t검증 세트 손실: 5.304133\t최선의 손실: 0.145859\t정확도: 81.31%\n", - "7\t검증 세트 손실: 5.076799\t최선의 손실: 0.145859\t정확도: 84.60%\n", - "8\t검증 세트 손실: 5.873591\t최선의 손실: 0.145859\t정확도: 80.77%\n", - "9\t검증 세트 손실: 3.773102\t최선의 손실: 0.145859\t정확도: 83.93%\n", - "10\t검증 세트 손실: 4.683840\t최선의 손실: 0.145859\t정확도: 81.24%\n", - "11\t검증 세트 손실: 2.157884\t최선의 손실: 0.145859\t정확도: 91.44%\n", - "12\t검증 세트 손실: 2.490200\t최선의 손실: 0.145859\t정확도: 89.60%\n", - "13\t검증 세트 손실: 2.630225\t최선의 손실: 0.145859\t정확도: 90.07%\n", - "14\t검증 세트 손실: 86674.000000\t최선의 손실: 0.145859\t정확도: 21.89%\n", - "15\t검증 세트 손실: 293.210419\t최선의 손실: 0.145859\t정확도: 65.32%\n", - "16\t검증 세트 손실: 100.000206\t최선의 손실: 0.145859\t정확도: 72.52%\n", - "17\t검증 세트 손실: 125.600319\t최선의 손실: 0.145859\t정확도: 72.05%\n", - "18\t검증 세트 손실: 52.328102\t최선의 손실: 0.145859\t정확도: 77.91%\n", - "19\t검증 세트 손실: 103.615860\t최선의 손실: 0.145859\t정확도: 71.58%\n", - "20\t검증 세트 손실: 338.410400\t최선의 손실: 0.145859\t정확도: 63.49%\n", - "21\t검증 세트 손실: 56.173965\t최선의 손실: 0.145859\t정확도: 83.62%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100, total= 6.0s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100 \n", - "0\t검증 세트 손실: 0.208030\t최선의 손실: 0.208030\t정확도: 94.37%\n", - "1\t검증 세트 손실: 0.196613\t최선의 손실: 0.196613\t정확도: 95.93%\n", - "2\t검증 세트 손실: 247.472397\t최선의 손실: 0.196613\t정확도: 19.27%\n", - "3\t검증 세트 손실: 6.159650\t최선의 손실: 0.196613\t정확도: 50.90%\n", - "4\t검증 세트 손실: 3.203585\t최선의 손실: 0.196613\t정확도: 55.82%\n", - "5\t검증 세트 손실: 2.594485\t최선의 손실: 0.196613\t정확도: 63.06%\n", - "6\t검증 세트 손실: 3.166553\t최선의 손실: 0.196613\t정확도: 69.31%\n", - "7\t검증 세트 손실: 1.700563\t최선의 손실: 0.196613\t정확도: 60.79%\n", - "8\t검증 세트 손실: 1.947698\t최선의 손실: 0.196613\t정확도: 57.58%\n", - "9\t검증 세트 손실: 2.496299\t최선의 손실: 0.196613\t정확도: 69.78%\n", - "10\t검증 세트 손실: 0.851627\t최선의 손실: 0.196613\t정확도: 76.11%\n", - "11\t검증 세트 손실: 1.270312\t최선의 손실: 0.196613\t정확도: 63.92%\n", - "12\t검증 세트 손실: 0.880078\t최선의 손실: 0.196613\t정확도: 72.83%\n", - "13\t검증 세트 손실: 0.646642\t최선의 손실: 0.196613\t정확도: 78.69%\n", - "14\t검증 세트 손실: 0.585163\t최선의 손실: 0.196613\t정확도: 80.02%\n", - "15\t검증 세트 손실: 56574.492188\t최선의 손실: 0.196613\t정확도: 17.87%\n", - "16\t검증 세트 손실: 147.873306\t최선의 손실: 0.196613\t정확도: 32.92%\n", - "17\t검증 세트 손실: 46.359734\t최선의 손실: 0.196613\t정확도: 58.60%\n", - "18\t검증 세트 손실: 19.051437\t최선의 손실: 0.196613\t정확도: 65.36%\n", - "19\t검증 세트 손실: 63.853989\t최선의 손실: 0.196613\t정확도: 55.16%\n", - "20\t검증 세트 손실: 13.370034\t최선의 손실: 0.196613\t정확도: 74.00%\n", - "21\t검증 세트 손실: 11.819901\t최선의 손실: 0.196613\t정확도: 73.85%\n", - "22\t검증 세트 손실: 10.628263\t최선의 손실: 0.196613\t정확도: 79.40%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100, total= 6.2s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100 \n" + "[CV] n_neurons=30, learning_rate=0.05, batch_size=10, activation=, total= 34.3s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.736216\t최선의 손실: 0.736216\t정확도: 83.89%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 18.338503\t최선의 손실: 18.338503\t정확도: 39.29%\n", - "1\t검증 세트 손실: 425.615509\t최선의 손실: 18.338503\t정확도: 33.78%\n", - "2\t검증 세트 손실: 185.916489\t최선의 손실: 18.338503\t정확도: 31.43%\n", - "3\t검증 세트 손실: 166.548126\t최선의 손실: 18.338503\t정확도: 24.28%\n", - "4\t검증 세트 손실: 51.209503\t최선의 손실: 18.338503\t정확도: 46.25%\n", - "5\t검증 세트 손실: 28.571503\t최선의 손실: 18.338503\t정확도: 54.93%\n", - "6\t검증 세트 손실: 68.079857\t최선의 손실: 18.338503\t정확도: 35.54%\n", - "7\t검증 세트 손실: 23.278650\t최선의 손실: 18.338503\t정확도: 54.77%\n", - "8\t검증 세트 손실: 29.167734\t최선의 손실: 18.338503\t정확도: 58.64%\n", - "9\t검증 세트 손실: 54.082554\t최선의 손실: 18.338503\t정확도: 58.05%\n", - "10\t검증 세트 손실: 185.491760\t최선의 손실: 18.338503\t정확도: 64.54%\n", - "11\t검증 세트 손실: 15.751663\t최선의 손실: 15.751663\t정확도: 61.49%\n", - "12\t검증 세트 손실: 312.584137\t최선의 손실: 15.751663\t정확도: 47.73%\n", - "13\t검증 세트 손실: 996.449402\t최선의 손실: 15.751663\t정확도: 64.66%\n", - "14\t검증 세트 손실: 5.246263\t최선의 손실: 5.246263\t정확도: 75.53%\n", - "15\t검증 세트 손실: 16.334307\t최선의 손실: 5.246263\t정확도: 52.78%\n", - "16\t검증 세트 손실: 6.229960\t최선의 손실: 5.246263\t정확도: 72.28%\n", - "17\t검증 세트 손실: 90.696144\t최선의 손실: 5.246263\t정확도: 27.95%\n", - "18\t검증 세트 손실: 7.062860\t최선의 손실: 5.246263\t정확도: 68.45%\n", - "19\t검증 세트 손실: 8.526780\t최선의 손실: 5.246263\t정확도: 65.75%\n", - "20\t검증 세트 손실: 2.316842\t최선의 손실: 2.316842\t정확도: 80.53%\n", - "21\t검증 세트 손실: 6.353879\t최선의 손실: 2.316842\t정확도: 74.12%\n", - "22\t검증 세트 손실: 5.215212\t최선의 손실: 2.316842\t정확도: 78.07%\n", - "23\t검증 세트 손실: 5.451184\t최선의 손실: 2.316842\t정확도: 69.62%\n", - "24\t검증 세트 손실: 4.846220\t최선의 손실: 2.316842\t정확도: 72.60%\n", - "25\t검증 세트 손실: 4.784024\t최선의 손실: 2.316842\t정확도: 74.04%\n", - "26\t검증 세트 손실: 37.108181\t최선의 손실: 2.316842\t정확도: 76.11%\n", - "27\t검증 세트 손실: 52439.007812\t최선의 손실: 2.316842\t정확도: 20.99%\n", - "28\t검증 세트 손실: 5034.442871\t최선의 손실: 2.316842\t정확도: 45.70%\n", - "29\t검증 세트 손실: 6722.470703\t최선의 손실: 2.316842\t정확도: 48.24%\n", - "30\t검증 세트 손실: 3570.641846\t최선의 손실: 2.316842\t정확도: 55.32%\n", - "31\t검증 세트 손실: 2112.906006\t최선의 손실: 2.316842\t정확도: 59.07%\n", - "32\t검증 세트 손실: 1652.064453\t최선의 손실: 2.316842\t정확도: 62.55%\n", - "33\t검증 세트 손실: 1379.428711\t최선의 손실: 2.316842\t정확도: 63.45%\n", - "34\t검증 세트 손실: 725.681274\t최선의 손실: 2.316842\t정확도: 71.19%\n", - "35\t검증 세트 손실: 2062.173096\t최선의 손실: 2.316842\t정확도: 70.29%\n", - "36\t검증 세트 손실: 433.131836\t최선의 손실: 2.316842\t정확도: 77.33%\n", - "37\t검증 세트 손실: 1508.218994\t최선의 손실: 2.316842\t정확도: 70.88%\n", - "38\t검증 세트 손실: 531.776917\t최선의 손실: 2.316842\t정확도: 79.16%\n", - "39\t검증 세트 손실: 466.234222\t최선의 손실: 2.316842\t정확도: 76.43%\n", - "40\t검증 세트 손실: 592.140747\t최선의 손실: 2.316842\t정확도: 75.68%\n", - "41\t검증 세트 손실: 351.140656\t최선의 손실: 2.316842\t정확도: 81.24%\n", + "1\t검증 세트 손실: 1.795203\t최선의 손실: 0.736216\t정확도: 57.08%\n", + "2\t검증 세트 손실: 0.484661\t최선의 손실: 0.484661\t정확도: 85.03%\n", + "3\t검증 세트 손실: 0.551013\t최선의 손실: 0.484661\t정확도: 85.30%\n", + "4\t검증 세트 손실: 0.447316\t최선의 손실: 0.447316\t정확도: 87.33%\n", + "5\t검증 세트 손실: 0.497457\t최선의 손실: 0.447316\t정확도: 85.30%\n", + "6\t검증 세트 손실: 0.336644\t최선의 손실: 0.336644\t정확도: 89.72%\n", + "7\t검증 세트 손실: 0.237606\t최선의 손실: 0.237606\t정확도: 92.65%\n", + "8\t검증 세트 손실: 0.263663\t최선의 손실: 0.237606\t정확도: 92.34%\n", + "9\t검증 세트 손실: 0.310954\t최선의 손실: 0.237606\t정확도: 92.14%\n", + "10\t검증 세트 손실: 0.197692\t최선의 손실: 0.197692\t정확도: 94.49%\n", + "11\t검증 세트 손실: 0.317426\t최선의 손실: 0.197692\t정확도: 91.79%\n", + "12\t검증 세트 손실: 0.204455\t최선의 손실: 0.197692\t정확도: 94.10%\n", + "13\t검증 세트 손실: 0.530201\t최선의 손실: 0.197692\t정확도: 86.20%\n", + "14\t검증 세트 손실: 0.281296\t최선의 손실: 0.197692\t정확도: 92.85%\n", + "15\t검증 세트 손실: 0.172222\t최선의 손실: 0.172222\t정확도: 94.96%\n", + "16\t검증 세트 손실: 0.148283\t최선의 손실: 0.148283\t정확도: 96.05%\n", + "17\t검증 세트 손실: 0.188700\t최선의 손실: 0.148283\t정확도: 95.19%\n", + "18\t검증 세트 손실: 5709.195312\t최선의 손실: 0.148283\t정확도: 20.29%\n", + "19\t검증 세트 손실: 1048.434082\t최선의 손실: 0.148283\t정확도: 17.87%\n", + "20\t검증 세트 손실: 2461.666992\t최선의 손실: 0.148283\t정확도: 26.66%\n", + "21\t검증 세트 손실: 874.020996\t최선의 손실: 0.148283\t정확도: 23.85%\n", + "22\t검증 세트 손실: 747.920044\t최선의 손실: 0.148283\t정확도: 19.43%\n", + "23\t검증 세트 손실: 746.419189\t최선의 손실: 0.148283\t정확도: 18.69%\n", + "24\t검증 세트 손실: 514.741516\t최선의 손실: 0.148283\t정확도: 21.38%\n", + "25\t검증 세트 손실: 676.545410\t최선의 손실: 0.148283\t정확도: 28.23%\n", + "26\t검증 세트 손실: 541.758423\t최선의 손실: 0.148283\t정확도: 20.13%\n", + "27\t검증 세트 손실: 131.957336\t최선의 손실: 0.148283\t정확도: 29.44%\n", + "28\t검증 세트 손실: 45.764950\t최선의 손실: 0.148283\t정확도: 54.69%\n", + "29\t검증 세트 손실: 40.137894\t최선의 손실: 0.148283\t정확도: 48.75%\n", + "30\t검증 세트 손실: 81.234543\t최선의 손실: 0.148283\t정확도: 35.07%\n", + "31\t검증 세트 손실: 36.899426\t최선의 손실: 0.148283\t정확도: 52.81%\n", + "32\t검증 세트 손실: 57.126064\t최선의 손실: 0.148283\t정확도: 51.68%\n", + "33\t검증 세트 손실: 27.803123\t최선의 손실: 0.148283\t정확도: 53.60%\n", + "34\t검증 세트 손실: 31.475723\t최선의 손실: 0.148283\t정확도: 58.09%\n", + "35\t검증 세트 손실: 13.340148\t최선의 손실: 0.148283\t정확도: 66.07%\n", + "36\t검증 세트 손실: 36.861599\t최선의 손실: 0.148283\t정확도: 48.16%\n", + "37\t검증 세트 손실: 17.682281\t최선의 손실: 0.148283\t정확도: 64.74%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.05, n_neurons=100, total= 11.9s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100 \n", - "0\t검증 세트 손실: 0.189298\t최선의 손실: 0.189298\t정확도: 95.39%\n", - "1\t검증 세트 손실: 0.117694\t최선의 손실: 0.117694\t정확도: 97.07%\n", - "2\t검증 세트 손실: 0.158282\t최선의 손실: 0.117694\t정확도: 96.60%\n", - "3\t검증 세트 손실: 2.502646\t최선의 손실: 0.117694\t정확도: 83.50%\n", - "4\t검증 세트 손실: 0.375008\t최선의 손실: 0.117694\t정확도: 91.87%\n", - "5\t검증 세트 손실: 0.190433\t최선의 손실: 0.117694\t정확도: 96.36%\n", - "6\t검증 세트 손실: 0.216534\t최선의 손실: 0.117694\t정확도: 94.53%\n", - "7\t검증 세트 손실: 0.235945\t최선의 손실: 0.117694\t정확도: 93.98%\n", - "8\t검증 세트 손실: 0.136139\t최선의 손실: 0.117694\t정확도: 96.83%\n", - "9\t검증 세트 손실: 0.233759\t최선의 손실: 0.117694\t정확도: 96.48%\n", - "10\t검증 세트 손실: 16.444185\t최선의 손실: 0.117694\t정확도: 72.20%\n", - "11\t검증 세트 손실: 1.594100\t최선의 손실: 0.117694\t정확도: 93.51%\n", - "12\t검증 세트 손실: 0.587239\t최선의 손실: 0.117694\t정확도: 95.43%\n", - "13\t검증 세트 손실: 0.644546\t최선의 손실: 0.117694\t정확도: 90.93%\n", - "14\t검증 세트 손실: 0.649053\t최선의 손실: 0.117694\t정확도: 93.51%\n", - "15\t검증 세트 손실: 0.406479\t최선의 손실: 0.117694\t정확도: 95.78%\n", - "16\t검증 세트 손실: 0.334222\t최선의 손실: 0.117694\t정확도: 96.48%\n", - "17\t검증 세트 손실: 0.405307\t최선의 손실: 0.117694\t정확도: 96.48%\n", - "18\t검증 세트 손실: 1.200766\t최선의 손실: 0.117694\t정확도: 96.25%\n", - "19\t검증 세트 손실: 20.597158\t최선의 손실: 0.117694\t정확도: 74.98%\n", - "20\t검증 세트 손실: 0.770737\t최선의 손실: 0.117694\t정확도: 94.06%\n", - "21\t검증 세트 손실: 2.604972\t최선의 손실: 0.117694\t정확도: 85.85%\n", - "22\t검증 세트 손실: 0.528899\t최선의 손실: 0.117694\t정확도: 94.06%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 9.6s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.749997\t최선의 손실: 0.749997\t정확도: 77.56%\n", + "1\t검증 세트 손실: 107.849129\t최선의 손실: 0.749997\t정확도: 50.74%\n", + "2\t검증 세트 손실: 19.342852\t최선의 손실: 0.749997\t정확도: 61.14%\n", + "3\t검증 세트 손실: 9.164686\t최선의 손실: 0.749997\t정확도: 62.24%\n", + "4\t검증 세트 손실: 5.894833\t최선의 손실: 0.749997\t정확도: 69.78%\n", + "5\t검증 세트 손실: 3.765824\t최선의 손실: 0.749997\t정확도: 69.43%\n", + "6\t검증 세트 손실: 2.570163\t최선의 손실: 0.749997\t정확도: 73.18%\n", + "7\t검증 세트 손실: 2.045262\t최선의 손실: 0.749997\t정확도: 82.02%\n", + "8\t검증 세트 손실: 7.118285\t최선의 손실: 0.749997\t정확도: 69.62%\n", + "9\t검증 세트 손실: 2.727145\t최선의 손실: 0.749997\t정확도: 81.12%\n", + "10\t검증 세트 손실: 1.729664\t최선의 손실: 0.749997\t정확도: 84.48%\n", + "11\t검증 세트 손실: 1.507907\t최선의 손실: 0.749997\t정확도: 87.96%\n", + "12\t검증 세트 손실: 6.907664\t최선의 손실: 0.749997\t정확도: 69.51%\n", + "13\t검증 세트 손실: 2278.672119\t최선의 손실: 0.749997\t정확도: 35.81%\n", + "14\t검증 세트 손실: 700.367126\t최선의 손실: 0.749997\t정확도: 29.71%\n", + "15\t검증 세트 손실: 19.506323\t최선의 손실: 0.749997\t정확도: 50.86%\n", + "16\t검증 세트 손실: 8.734468\t최선의 손실: 0.749997\t정확도: 73.06%\n", + "17\t검증 세트 손실: 5.378050\t최선의 손실: 0.749997\t정확도: 79.48%\n", + "18\t검증 세트 손실: 3.287127\t최선의 손실: 0.749997\t정확도: 85.38%\n", + "19\t검증 세트 손실: 4.271430\t최선의 손실: 0.749997\t정확도: 75.84%\n", + "20\t검증 세트 손실: 2.929340\t최선의 손실: 0.749997\t정확도: 82.33%\n", + "21\t검증 세트 손실: 1.711730\t최선의 손실: 0.749997\t정확도: 89.99%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100, total= 12.0s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100 \n", - "0\t검증 세트 손실: 0.204705\t최선의 손실: 0.204705\t정확도: 95.54%\n", - "1\t검증 세트 손실: 0.380572\t최선의 손실: 0.204705\t정확도: 87.26%\n", - "2\t검증 세트 손실: 129.182007\t최선의 손실: 0.204705\t정확도: 51.41%\n", - "3\t검증 세트 손실: 3.044452\t최선의 손실: 0.204705\t정확도: 91.44%\n", - "4\t검증 세트 손실: 1.522623\t최선의 손실: 0.204705\t정확도: 92.26%\n", - "5\t검증 세트 손실: 0.931617\t최선의 손실: 0.204705\t정확도: 93.51%\n", - "6\t검증 세트 손실: 0.644692\t최선의 손실: 0.204705\t정확도: 92.26%\n", - "7\t검증 세트 손실: 0.455474\t최선의 손실: 0.204705\t정확도: 95.50%\n", - "8\t검증 세트 손실: 0.432333\t최선의 손실: 0.204705\t정확도: 95.66%\n", - "9\t검증 세트 손실: 0.644138\t최선의 손실: 0.204705\t정확도: 91.59%\n", - "10\t검증 세트 손실: 0.367756\t최선의 손실: 0.204705\t정확도: 95.93%\n", - "11\t검증 세트 손실: 0.274936\t최선의 손실: 0.204705\t정확도: 95.93%\n", - "12\t검증 세트 손실: 0.321725\t최선의 손실: 0.204705\t정확도: 96.05%\n", - "13\t검증 세트 손실: 0.307084\t최선의 손실: 0.204705\t정확도: 96.99%\n", - "14\t검증 세트 손실: 14.159133\t최선의 손실: 0.204705\t정확도: 87.88%\n", - "15\t검증 세트 손실: 1.684021\t최선의 손실: 0.204705\t정확도: 94.06%\n", - "16\t검증 세트 손실: 1.010862\t최선의 손실: 0.204705\t정확도: 94.68%\n", - "17\t검증 세트 손실: 0.853353\t최선의 손실: 0.204705\t정확도: 95.82%\n", - "18\t검증 세트 손실: 1044.452515\t최선의 손실: 0.204705\t정확도: 58.44%\n", - "19\t검증 세트 손실: 22.361332\t최선의 손실: 0.204705\t정확도: 92.14%\n", - "20\t검증 세트 손실: 6.544475\t최선의 손실: 0.204705\t정확도: 95.90%\n", - "21\t검증 세트 손실: 5.810543\t최선의 손실: 0.204705\t정확도: 95.93%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 5.7s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.187982\t최선의 손실: 0.187982\t정확도: 94.80%\n", + "1\t검증 세트 손실: 0.245471\t최선의 손실: 0.187982\t정확도: 94.88%\n", + "2\t검증 세트 손실: 3637.061768\t최선의 손실: 0.187982\t정확도: 41.63%\n", + "3\t검증 세트 손실: 86.698235\t최선의 손실: 0.187982\t정확도: 64.43%\n", + "4\t검증 세트 손실: 21.528805\t최선의 손실: 0.187982\t정확도: 71.97%\n", + "5\t검증 세트 손실: 45.157433\t최선의 손실: 0.187982\t정확도: 63.25%\n", + "6\t검증 세트 손실: 10.912636\t최선의 손실: 0.187982\t정확도: 73.61%\n", + "7\t검증 세트 손실: 10.830689\t최선의 손실: 0.187982\t정확도: 72.17%\n", + "8\t검증 세트 손실: 8.157945\t최선의 손실: 0.187982\t정확도: 76.66%\n", + "9\t검증 세트 손실: 4.201954\t최선의 손실: 0.187982\t정확도: 81.74%\n", + "10\t검증 세트 손실: 7.285814\t최선의 손실: 0.187982\t정확도: 72.56%\n", + "11\t검증 세트 손실: 3.480933\t최선의 손실: 0.187982\t정확도: 82.10%\n", + "12\t검증 세트 손실: 5.895733\t최선의 손실: 0.187982\t정확도: 73.10%\n", + "13\t검증 세트 손실: 2.806388\t최선의 손실: 0.187982\t정확도: 83.35%\n", + "14\t검증 세트 손실: 12.904471\t최선의 손실: 0.187982\t정확도: 67.67%\n", + "15\t검증 세트 손실: 7.343525\t최선의 손실: 0.187982\t정확도: 74.51%\n", + "16\t검증 세트 손실: 3.334575\t최선의 손실: 0.187982\t정확도: 81.63%\n", + "17\t검증 세트 손실: 4.257377\t최선의 손실: 0.187982\t정확도: 74.78%\n", + "18\t검증 세트 손실: 2.359547\t최선의 손실: 0.187982\t정확도: 84.99%\n", + "19\t검증 세트 손실: 2.361562\t최선의 손실: 0.187982\t정확도: 85.93%\n", + "20\t검증 세트 손실: 6.073125\t최선의 손실: 0.187982\t정확도: 64.35%\n", + "21\t검증 세트 손실: 2.658511\t최선의 손실: 0.187982\t정확도: 83.42%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100, total= 11.5s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100 \n", - "0\t검증 세트 손실: 0.175472\t최선의 손실: 0.175472\t정확도: 96.33%\n", - "1\t검증 세트 손실: 50.099869\t최선의 손실: 0.175472\t정확도: 85.07%\n", - "2\t검증 세트 손실: 0.191368\t최선의 손실: 0.175472\t정확도: 95.74%\n", - "3\t검증 세트 손실: 0.136587\t최선의 손실: 0.136587\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.126187\t최선의 손실: 0.126187\t정확도: 96.64%\n", - "5\t검증 세트 손실: 0.114800\t최선의 손실: 0.114800\t정확도: 96.83%\n", - "6\t검증 세트 손실: 0.161920\t최선의 손실: 0.114800\t정확도: 95.93%\n", - "7\t검증 세트 손실: 0.093160\t최선의 손실: 0.093160\t정확도: 97.65%\n", - "8\t검증 세트 손실: 0.099834\t최선의 손실: 0.093160\t정확도: 97.65%\n", - "9\t검증 세트 손실: 0.870338\t최선의 손실: 0.093160\t정확도: 93.63%\n", - "10\t검증 세트 손실: 3.955570\t최선의 손실: 0.093160\t정확도: 95.70%\n", - "11\t검증 세트 손실: 1.708703\t최선의 손실: 0.093160\t정확도: 95.27%\n", - "12\t검증 세트 손실: 1.371071\t최선의 손실: 0.093160\t정확도: 93.82%\n", - "13\t검증 세트 손실: 0.906444\t최선의 손실: 0.093160\t정확도: 96.05%\n", - "14\t검증 세트 손실: 1.052944\t최선의 손실: 0.093160\t정확도: 94.21%\n", - "15\t검증 세트 손실: 1.663604\t최선의 손실: 0.093160\t정확도: 91.75%\n", - "16\t검증 세트 손실: 0.707526\t최선의 손실: 0.093160\t정확도: 95.62%\n", - "17\t검증 세트 손실: 0.366497\t최선의 손실: 0.093160\t정확도: 96.68%\n", - "18\t검증 세트 손실: 0.776876\t최선의 손실: 0.093160\t정확도: 93.00%\n", - "19\t검증 세트 손실: 1.017818\t최선의 손실: 0.093160\t정확도: 96.44%\n", - "20\t검증 세트 손실: 1.567619\t최선의 손실: 0.093160\t정확도: 95.74%\n", - "21\t검증 세트 손실: 0.269926\t최선의 손실: 0.093160\t정확도: 96.68%\n", - "22\t검증 세트 손실: 0.264357\t최선의 손실: 0.093160\t정확도: 96.64%\n", - "23\t검증 세트 손실: 0.208538\t최선의 손실: 0.093160\t정확도: 97.07%\n", - "24\t검증 세트 손실: 5.485671\t최선의 손실: 0.093160\t정확도: 91.48%\n", - "25\t검증 세트 손실: 2.244076\t최선의 손실: 0.093160\t정확도: 93.78%\n", - "26\t검증 세트 손실: 0.855001\t최선의 손실: 0.093160\t정확도: 95.82%\n", - "27\t검증 세트 손실: 0.718094\t최선의 손실: 0.093160\t정확도: 95.15%\n", - "28\t검증 세트 손실: 0.419366\t최선의 손실: 0.093160\t정확도: 97.07%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 5.8s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.329893\t최선의 손실: 0.329893\t정확도: 91.95%\n", + "1\t검증 세트 손실: 0.159586\t최선의 손실: 0.159586\t정확도: 95.74%\n", + "2\t검증 세트 손실: 0.158047\t최선의 손실: 0.158047\t정확도: 96.52%\n", + "3\t검증 세트 손실: 0.097307\t최선의 손실: 0.097307\t정확도: 97.26%\n", + "4\t검증 세트 손실: 0.165438\t최선의 손실: 0.097307\t정확도: 97.11%\n", + "5\t검증 세트 손실: 0.114075\t최선의 손실: 0.097307\t정확도: 97.34%\n", + "6\t검증 세트 손실: 0.089531\t최선의 손실: 0.089531\t정확도: 97.46%\n", + "7\t검증 세트 손실: 6.090724\t최선의 손실: 0.089531\t정확도: 66.22%\n", + "8\t검증 세트 손실: 1.602954\t최선의 손실: 0.089531\t정확도: 79.40%\n", + "9\t검증 세트 손실: 1.038219\t최선의 손실: 0.089531\t정확도: 89.09%\n", + "10\t검증 세트 손실: 0.809798\t최선의 손실: 0.089531\t정확도: 93.24%\n", + "11\t검증 세트 손실: 0.514343\t최선의 손실: 0.089531\t정확도: 94.68%\n", + "12\t검증 세트 손실: 0.512008\t최선의 손실: 0.089531\t정확도: 94.92%\n", + "13\t검증 세트 손실: 0.498199\t최선의 손실: 0.089531\t정확도: 94.29%\n", + "14\t검증 세트 손실: 2.270779\t최선의 손실: 0.089531\t정확도: 76.23%\n", + "15\t검증 세트 손실: 0.422606\t최선의 손실: 0.089531\t정확도: 96.01%\n", + "16\t검증 세트 손실: 0.681768\t최선의 손실: 0.089531\t정확도: 95.86%\n", + "17\t검증 세트 손실: 0.605475\t최선의 손실: 0.089531\t정확도: 95.54%\n", + "18\t검증 세트 손실: 0.539267\t최선의 손실: 0.089531\t정확도: 95.23%\n", + "19\t검증 세트 손실: 0.482244\t최선의 손실: 0.089531\t정확도: 96.05%\n", + "20\t검증 세트 손실: 0.511278\t최선의 손실: 0.089531\t정확도: 94.06%\n", + "21\t검증 세트 손실: 124.725601\t최선의 손실: 0.089531\t정확도: 66.46%\n", + "22\t검증 세트 손실: 5.919819\t최선의 손실: 0.089531\t정확도: 95.74%\n", + "23\t검증 세트 손실: 3.091324\t최선의 손실: 0.089531\t정확도: 95.58%\n", + "24\t검증 세트 손실: 1.559227\t최선의 손실: 0.089531\t정확도: 96.01%\n", + "25\t검증 세트 손실: 1.579122\t최선의 손실: 0.089531\t정확도: 95.90%\n", + "26\t검증 세트 손실: 4.328384\t최선의 손실: 0.089531\t정확도: 92.96%\n", + "27\t검증 세트 손실: 1.372717\t최선의 손실: 0.089531\t정확도: 96.79%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f737fb55048>, learning_rate=0.02, n_neurons=100, total= 14.2s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70 \n", - "0\t검증 세트 손실: 2.138208\t최선의 손실: 2.138208\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.808719\t최선의 손실: 1.808719\t정확도: 22.01%\n", - "2\t검증 세트 손실: 1.792734\t최선의 손실: 1.792734\t정확도: 18.73%\n", - "3\t검증 세트 손실: 1.871393\t최선의 손실: 1.792734\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.731558\t최선의 손실: 1.731558\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1.666486\t최선의 손실: 1.666486\t정확도: 19.08%\n", - "6\t검증 세트 손실: 2.220947\t최선의 손실: 1.666486\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.015726\t최선의 손실: 1.666486\t정확도: 19.08%\n", - "8\t검증 세트 손실: 2.090927\t최선의 손실: 1.666486\t정확도: 19.08%\n", - "9\t검증 세트 손실: 1.713748\t최선의 손실: 1.666486\t정확도: 19.08%\n", - "10\t검증 세트 손실: 2.046488\t최선의 손실: 1.666486\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.737402\t최선의 손실: 1.666486\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.826834\t최선의 손실: 1.666486\t정확도: 18.73%\n", - "13\t검증 세트 손실: 2.120012\t최선의 손실: 1.666486\t정확도: 19.27%\n", - "14\t검증 세트 손실: 2.178529\t최선의 손실: 1.666486\t정확도: 18.73%\n", - "15\t검증 세트 손실: 2.246719\t최선의 손실: 1.666486\t정확도: 22.01%\n", - "16\t검증 세트 손실: 2.159572\t최선의 손실: 1.666486\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.650901\t최선의 손실: 1.650901\t정확도: 20.91%\n", - "18\t검증 세트 손실: 2.165642\t최선의 손실: 1.650901\t정확도: 19.27%\n", - "19\t검증 세트 손실: 2.591237\t최선의 손실: 1.650901\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.997003\t최선의 손실: 1.650901\t정확도: 22.01%\n", - "21\t검증 세트 손실: 2.441002\t최선의 손실: 1.650901\t정확도: 20.91%\n" + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 13.2s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n", + "0\t검증 세트 손실: 0.240887\t최선의 손실: 0.240887\t정확도: 94.88%\n", + "1\t검증 세트 손실: 0.213585\t최선의 손실: 0.213585\t정확도: 94.96%\n", + "2\t검증 세트 손실: 0.140884\t최선의 손실: 0.140884\t정확도: 95.78%\n", + "3\t검증 세트 손실: 0.109442\t최선의 손실: 0.109442\t정확도: 97.15%\n", + "4\t검증 세트 손실: 0.334174\t최선의 손실: 0.109442\t정확도: 90.81%\n", + "5\t검증 세트 손실: 2.346054\t최선의 손실: 0.109442\t정확도: 92.26%\n", + "6\t검증 세트 손실: 2.104690\t최선의 손실: 0.109442\t정확도: 86.71%\n", + "7\t검증 세트 손실: 0.688992\t최선의 손실: 0.109442\t정확도: 95.35%\n", + "8\t검증 세트 손실: 0.768561\t최선의 손실: 0.109442\t정확도: 94.10%\n", + "9\t검증 세트 손실: 0.651774\t최선의 손실: 0.109442\t정확도: 95.07%\n", + "10\t검증 세트 손실: 0.586702\t최선의 손실: 0.109442\t정확도: 94.49%\n", + "11\t검증 세트 손실: 0.360395\t최선의 손실: 0.109442\t정확도: 96.25%\n", + "12\t검증 세트 손실: 0.636437\t최선의 손실: 0.109442\t정확도: 95.35%\n", + "13\t검증 세트 손실: 0.887334\t최선의 손실: 0.109442\t정확도: 90.66%\n", + "14\t검증 세트 손실: 19.444780\t최선의 손실: 0.109442\t정확도: 78.11%\n", + "15\t검증 세트 손실: 0.990195\t최선의 손실: 0.109442\t정확도: 94.49%\n", + "16\t검증 세트 손실: 0.550971\t최선의 손실: 0.109442\t정확도: 94.61%\n", + "17\t검증 세트 손실: 0.661279\t최선의 손실: 0.109442\t정확도: 94.18%\n", + "18\t검증 세트 손실: 0.469519\t최선의 손실: 0.109442\t정확도: 93.24%\n", + "19\t검증 세트 손실: 0.364343\t최선의 손실: 0.109442\t정확도: 94.41%\n", + "20\t검증 세트 손실: 0.387233\t최선의 손실: 0.109442\t정확도: 96.25%\n", + "21\t검증 세트 손실: 0.240358\t최선의 손실: 0.109442\t정확도: 96.44%\n", + "22\t검증 세트 손실: 0.203281\t최선의 손실: 0.109442\t정확도: 97.07%\n", + "23\t검증 세트 손실: 0.182534\t최선의 손실: 0.109442\t정확도: 97.07%\n", + "24\t검증 세트 손실: 0.751109\t최선의 손실: 0.109442\t정확도: 93.39%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 11.7s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "22\t검증 세트 손실: 2.119686\t최선의 손실: 1.650901\t정확도: 22.01%\n", - "23\t검증 세트 손실: 2.245298\t최선의 손실: 1.650901\t정확도: 19.27%\n", - "24\t검증 세트 손실: 1.920224\t최선의 손실: 1.650901\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.993323\t최선의 손실: 1.650901\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.718371\t최선의 손실: 1.650901\t정확도: 19.08%\n", - "27\t검증 세트 손실: 2.015470\t최선의 손실: 1.650901\t정확도: 18.73%\n", - "28\t검증 세트 손실: 2.296115\t최선의 손실: 1.650901\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.739971\t최선의 손실: 1.650901\t정확도: 20.91%\n", - "30\t검증 세트 손실: 1.709734\t최선의 손실: 1.650901\t정확도: 18.73%\n", - "31\t검증 세트 손실: 1.664723\t최선의 손실: 1.650901\t정확도: 20.91%\n", - "32\t검증 세트 손실: 1.779047\t최선의 손실: 1.650901\t정확도: 22.01%\n", - "33\t검증 세트 손실: 1.714498\t최선의 손실: 1.650901\t정확도: 19.08%\n", - "34\t검증 세트 손실: 2.160549\t최선의 손실: 1.650901\t정확도: 19.08%\n", - "35\t검증 세트 손실: 2.389712\t최선의 손실: 1.650901\t정확도: 19.27%\n", - "36\t검증 세트 손실: 1.843753\t최선의 손실: 1.650901\t정확도: 18.73%\n", - "37\t검증 세트 손실: 1.860698\t최선의 손실: 1.650901\t정확도: 19.08%\n", - "38\t검증 세트 손실: 2.205716\t최선의 손실: 1.650901\t정확도: 19.08%\n", + "0\t검증 세트 손실: 0.190898\t최선의 손실: 0.190898\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.099625\t최선의 손실: 0.099625\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.274991\t최선의 손실: 0.099625\t정확도: 92.92%\n", + "3\t검증 세트 손실: 0.142872\t최선의 손실: 0.099625\t정확도: 95.58%\n", + "4\t검증 세트 손실: 0.119596\t최선의 손실: 0.099625\t정확도: 96.48%\n", + "5\t검증 세트 손실: 3.557519\t최선의 손실: 0.099625\t정확도: 69.82%\n", + "6\t검증 세트 손실: 9.254396\t최선의 손실: 0.099625\t정확도: 87.41%\n", + "7\t검증 세트 손실: 6.780456\t최선의 손실: 0.099625\t정확도: 87.53%\n", + "8\t검증 세트 손실: 2.760458\t최선의 손실: 0.099625\t정확도: 93.39%\n", + "9\t검증 세트 손실: 3.125135\t최선의 손실: 0.099625\t정확도: 92.65%\n", + "10\t검증 세트 손실: 1.742777\t최선의 손실: 0.099625\t정확도: 95.11%\n", + "11\t검증 세트 손실: 1.539224\t최선의 손실: 0.099625\t정확도: 93.08%\n", + "12\t검증 세트 손실: 1.269566\t최선의 손실: 0.099625\t정확도: 95.39%\n", + "13\t검증 세트 손실: 0.953761\t최선의 손실: 0.099625\t정확도: 95.97%\n", + "14\t검증 세트 손실: 0.737872\t최선의 손실: 0.099625\t정확도: 93.90%\n", + "15\t검증 세트 손실: 0.572744\t최선의 손실: 0.099625\t정확도: 95.19%\n", + "16\t검증 세트 손실: 1.680696\t최선의 손실: 0.099625\t정확도: 90.50%\n", + "17\t검증 세트 손실: 0.419233\t최선의 손실: 0.099625\t정확도: 96.56%\n", + "18\t검증 세트 손실: 3.323727\t최선의 손실: 0.099625\t정확도: 94.41%\n", + "19\t검증 세트 손실: 4.941061\t최선의 손실: 0.099625\t정확도: 79.63%\n", + "20\t검증 세트 손실: 2.001156\t최선의 손실: 0.099625\t정확도: 95.19%\n", + "21\t검증 세트 손실: 1.346929\t최선의 손실: 0.099625\t정확도: 94.33%\n", + "22\t검증 세트 손실: 2.616863\t최선의 손실: 0.099625\t정확도: 96.21%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70, total= 1.0min\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70 \n", - "0\t검증 세트 손실: 1.719961\t최선의 손실: 1.719961\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.848444\t최선의 손실: 1.719961\t정확도: 22.01%\n", - "2\t검증 세트 손실: 2.004003\t최선의 손실: 1.719961\t정확도: 18.73%\n", - "3\t검증 세트 손실: 2.015480\t최선의 손실: 1.719961\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.970654\t최선의 손실: 1.719961\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.647382\t최선의 손실: 1.647382\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.701499\t최선의 손실: 1.647382\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.395790\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.941441\t최선의 손실: 1.647382\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.963343\t최선의 손실: 1.647382\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.835827\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.930027\t최선의 손실: 1.647382\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.885896\t최선의 손실: 1.647382\t정확도: 20.91%\n", - "13\t검증 세트 손실: 2.390906\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.961099\t최선의 손실: 1.647382\t정확도: 19.27%\n", - "15\t검증 세트 손실: 1.962755\t최선의 손실: 1.647382\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.886139\t최선의 손실: 1.647382\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.892864\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.981895\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.750126\t최선의 손실: 1.647382\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.134341\t최선의 손실: 1.647382\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.879304\t최선의 손실: 1.647382\t정확도: 22.01%\n", - "22\t검증 세트 손실: 2.148499\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "23\t검증 세트 손실: 2.088906\t최선의 손실: 1.647382\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.838559\t최선의 손실: 1.647382\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.905607\t최선의 손실: 1.647382\t정확도: 19.08%\n", - "26\t검증 세트 손실: 2.406297\t최선의 손실: 1.647382\t정확도: 19.08%\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc2679b7268>, total= 11.0s\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 2.150255\t최선의 손실: 2.150255\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.865133\t최선의 손실: 1.865133\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.797947\t최선의 손실: 1.797947\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.873320\t최선의 손실: 1.797947\t정확도: 19.08%\n", + "4\t검증 세트 손실: 1.731671\t최선의 손실: 1.731671\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.666485\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "6\t검증 세트 손실: 2.220948\t최선의 손실: 1.666485\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.015727\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "8\t검증 세트 손실: 2.090927\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "9\t검증 세트 손실: 1.947276\t최선의 손실: 1.666485\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.792379\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.672828\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.912345\t최선의 손실: 1.666485\t정확도: 18.73%\n", + "13\t검증 세트 손실: 2.118674\t최선의 손실: 1.666485\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2.516823\t최선의 손실: 1.666485\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.914144\t최선의 손실: 1.666485\t정확도: 22.01%\n", + "16\t검증 세트 손실: 2.225628\t최선의 손실: 1.666485\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.658232\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2.221774\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "19\t검증 세트 손실: 2.665043\t최선의 손실: 1.658232\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.008371\t최선의 손실: 1.658232\t정확도: 22.01%\n", + "21\t검증 세트 손실: 2.444499\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "22\t검증 세트 손실: 2.119731\t최선의 손실: 1.658232\t정확도: 22.01%\n", + "23\t검증 세트 손실: 2.245318\t최선의 손실: 1.658232\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.920224\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.993323\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "26\t검증 세트 손실: 1.718370\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "27\t검증 세트 손실: 2.015471\t최선의 손실: 1.658232\t정확도: 18.73%\n", + "28\t검증 세트 손실: 2.296115\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.739970\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "30\t검증 세트 손실: 1.709733\t최선의 손실: 1.658232\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.664723\t최선의 손실: 1.658232\t정확도: 20.91%\n", + "32\t검증 세트 손실: 1.779047\t최선의 손실: 1.658232\t정확도: 22.01%\n", + "33\t검증 세트 손실: 1.714498\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "34\t검증 세트 손실: 2.160547\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "35\t검증 세트 손실: 2.389712\t최선의 손실: 1.658232\t정확도: 19.27%\n", + "36\t검증 세트 손실: 1.843754\t최선의 손실: 1.658232\t정확도: 18.73%\n", + "37\t검증 세트 손실: 1.860698\t최선의 손실: 1.658232\t정확도: 19.08%\n", + "38\t검증 세트 손실: 2.205717\t최선의 손실: 1.658232\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70, total= 43.0s\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70 \n", - "0\t검증 세트 손실: 1.758163\t최선의 손실: 1.758163\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.776485\t최선의 손실: 1.758163\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.911588\t최선의 손실: 1.758163\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.864851\t최선의 손실: 1.758163\t정확도: 19.27%\n", - "4\t검증 세트 손실: 2.814934\t최선의 손실: 1.758163\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.853260\t최선의 손실: 1.758163\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.812867\t최선의 손실: 1.758163\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.757710\t최선의 손실: 1.757710\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.902283\t최선의 손실: 1.757710\t정확도: 19.27%\n", - "9\t검증 세트 손실: 2.087056\t최선의 손실: 1.757710\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.779784\t최선의 손실: 1.757710\t정확도: 18.73%\n", - "11\t검증 세트 손실: 2.227395\t최선의 손실: 1.757710\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.950018\t최선의 손실: 1.757710\t정확도: 20.91%\n", - "13\t검증 세트 손실: 3.099451\t최선의 손실: 1.757710\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.830345\t최선의 손실: 1.757710\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.733784\t최선의 손실: 1.733784\t정확도: 20.91%\n", - "16\t검증 세트 손실: 2.189536\t최선의 손실: 1.733784\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.943920\t최선의 손실: 1.733784\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.848899\t최선의 손실: 1.733784\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.984281\t최선의 손실: 1.733784\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.919440\t최선의 손실: 1.733784\t정확도: 19.27%\n", - "21\t검증 세트 손실: 2.156084\t최선의 손실: 1.733784\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.834819\t최선의 손실: 1.733784\t정확도: 19.27%\n", - "23\t검증 세트 손실: 2.444077\t최선의 손실: 1.733784\t정확도: 19.08%\n", - "24\t검증 세트 손실: 1.866025\t최선의 손실: 1.733784\t정확도: 19.27%\n", - "25\t검증 세트 손실: 1.884747\t최선의 손실: 1.733784\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.738112\t최선의 손실: 1.733784\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.679295\t최선의 손실: 1.679295\t정확도: 20.91%\n", - "28\t검증 세트 손실: 2.567142\t최선의 손실: 1.679295\t정확도: 19.08%\n", - "29\t검증 세트 손실: 2.661162\t최선의 손실: 1.679295\t정확도: 20.91%\n", - "30\t검증 세트 손실: 2.013063\t최선의 손실: 1.679295\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.886539\t최선의 손실: 1.679295\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.891879\t최선의 손실: 1.679295\t정확도: 19.08%\n", - "33\t검증 세트 손실: 2.216810\t최선의 손실: 1.679295\t정확도: 22.01%\n", - "34\t검증 세트 손실: 2.191176\t최선의 손실: 1.679295\t정확도: 19.27%\n", - "35\t검증 세트 손실: 1.704170\t최선의 손실: 1.679295\t정확도: 19.08%\n", - "36\t검증 세트 손실: 1.731655\t최선의 손실: 1.679295\t정확도: 19.27%\n", - "37\t검증 세트 손실: 1.813347\t최선의 손실: 1.679295\t정확도: 22.01%\n", - "38\t검증 세트 손실: 3.032770\t최선의 손실: 1.679295\t정확도: 18.73%\n", - "39\t검증 세트 손실: 2.401281\t최선의 손실: 1.679295\t정확도: 19.27%\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation=, total= 1.0min\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.874700\t최선의 손실: 1.874700\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.855692\t최선의 손실: 1.855692\t정확도: 22.01%\n", + "2\t검증 세트 손실: 2.009371\t최선의 손실: 1.855692\t정확도: 18.73%\n", + "3\t검증 세트 손실: 2.015023\t최선의 손실: 1.855692\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.970683\t최선의 손실: 1.855692\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.647388\t최선의 손실: 1.647388\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.701499\t최선의 손실: 1.647388\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.395790\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.941441\t최선의 손실: 1.647388\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.963343\t최선의 손실: 1.647388\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.835827\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.930027\t최선의 손실: 1.647388\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.885896\t최선의 손실: 1.647388\t정확도: 20.91%\n", + "13\t검증 세트 손실: 2.390907\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.961099\t최선의 손실: 1.647388\t정확도: 19.27%\n", + "15\t검증 세트 손실: 1.962755\t최선의 손실: 1.647388\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.886138\t최선의 손실: 1.647388\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.892863\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.981896\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.750126\t최선의 손실: 1.647388\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.134341\t최선의 손실: 1.647388\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.879304\t최선의 손실: 1.647388\t정확도: 22.01%\n", + "22\t검증 세트 손실: 2.148499\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "23\t검증 세트 손실: 2.088905\t최선의 손실: 1.647388\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.838559\t최선의 손실: 1.647388\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.905608\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "26\t검증 세트 손실: 2.406297\t최선의 손실: 1.647388\t정확도: 19.08%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation=, total= 42.1s\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.802043\t최선의 손실: 1.802043\t정확도: 22.01%\n", + "1\t검증 세트 손실: 2.002196\t최선의 손실: 1.802043\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.934170\t최선의 손실: 1.802043\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.853741\t최선의 손실: 1.802043\t정확도: 19.27%\n", + "4\t검증 세트 손실: 2.686625\t최선의 손실: 1.802043\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.852316\t최선의 손실: 1.802043\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.812496\t최선의 손실: 1.802043\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.757771\t최선의 손실: 1.757771\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.902283\t최선의 손실: 1.757771\t정확도: 19.27%\n", + "9\t검증 세트 손실: 2.087057\t최선의 손실: 1.757771\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.779784\t최선의 손실: 1.757771\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.227396\t최선의 손실: 1.757771\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.950018\t최선의 손실: 1.757771\t정확도: 20.91%\n", + "13\t검증 세트 손실: 3.099453\t최선의 손실: 1.757771\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.830345\t최선의 손실: 1.757771\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.733783\t최선의 손실: 1.733783\t정확도: 20.91%\n", + "16\t검증 세트 손실: 2.189537\t최선의 손실: 1.733783\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.943920\t최선의 손실: 1.733783\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.848899\t최선의 손실: 1.733783\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.984283\t최선의 손실: 1.733783\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.919440\t최선의 손실: 1.733783\t정확도: 19.27%\n", + "21\t검증 세트 손실: 2.156082\t최선의 손실: 1.733783\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.834820\t최선의 손실: 1.733783\t정확도: 19.27%\n", + "23\t검증 세트 손실: 2.444077\t최선의 손실: 1.733783\t정확도: 19.08%\n", + "24\t검증 세트 손실: 1.866026\t최선의 손실: 1.733783\t정확도: 19.27%\n", + "25\t검증 세트 손실: 1.884747\t최선의 손실: 1.733783\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.738111\t최선의 손실: 1.733783\t정확도: 18.73%\n", + "27\t검증 세트 손실: 1.679296\t최선의 손실: 1.679296\t정확도: 20.91%\n", + "28\t검증 세트 손실: 2.567140\t최선의 손실: 1.679296\t정확도: 19.08%\n", + "29\t검증 세트 손실: 2.661162\t최선의 손실: 1.679296\t정확도: 20.91%\n", + "30\t검증 세트 손실: 2.013063\t최선의 손실: 1.679296\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.886540\t최선의 손실: 1.679296\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.891879\t최선의 손실: 1.679296\t정확도: 19.08%\n", + "33\t검증 세트 손실: 2.216810\t최선의 손실: 1.679296\t정확도: 22.01%\n", + "34\t검증 세트 손실: 2.191177\t최선의 손실: 1.679296\t정확도: 19.27%\n", + "35\t검증 세트 손실: 1.704170\t최선의 손실: 1.679296\t정확도: 19.08%\n", + "36\t검증 세트 손실: 1.731655\t최선의 손실: 1.679296\t정확도: 19.27%\n", + "37\t검증 세트 손실: 1.813346\t최선의 손실: 1.679296\t정확도: 22.01%\n", + "38\t검증 세트 손실: 3.032771\t최선의 손실: 1.679296\t정확도: 18.73%\n", + "39\t검증 세트 손실: 2.401283\t최선의 손실: 1.679296\t정확도: 19.27%\n", "40\t검증 세트 손실: 1.645940\t최선의 손실: 1.645940\t정확도: 19.08%\n", "41\t검증 세트 손실: 2.166197\t최선의 손실: 1.645940\t정확도: 22.01%\n", - "42\t검증 세트 손실: 2.384700\t최선의 손실: 1.645940\t정확도: 22.01%\n", - "43\t검증 세트 손실: 2.204781\t최선의 손실: 1.645940\t정확도: 20.91%\n", + "42\t검증 세트 손실: 2.384702\t최선의 손실: 1.645940\t정확도: 22.01%\n", + "43\t검증 세트 손실: 2.204780\t최선의 손실: 1.645940\t정확도: 20.91%\n", "44\t검증 세트 손실: 1.765179\t최선의 손실: 1.645940\t정확도: 18.73%\n", - "45\t검증 세트 손실: 1.696824\t최선의 손실: 1.645940\t정확도: 18.73%\n", - "46\t검증 세트 손실: 2.521093\t최선의 손실: 1.645940\t정확도: 20.91%\n", - "47\t검증 세트 손실: 2.133248\t최선의 손실: 1.645940\t정확도: 19.08%\n", + "45\t검증 세트 손실: 1.696825\t최선의 손실: 1.645940\t정확도: 18.73%\n", + "46\t검증 세트 손실: 2.521092\t최선의 손실: 1.645940\t정확도: 20.91%\n", + "47\t검증 세트 손실: 2.133250\t최선의 손실: 1.645940\t정확도: 19.08%\n", "48\t검증 세트 손실: 1.695982\t최선의 손실: 1.645940\t정확도: 22.01%\n", "49\t검증 세트 손실: 1.936503\t최선의 손실: 1.645940\t정확도: 19.08%\n", - "50\t검증 세트 손실: 2.176905\t최선의 손실: 1.645940\t정확도: 18.73%\n", - "51\t검증 세트 손실: 2.179087\t최선의 손실: 1.645940\t정확도: 19.27%\n", - "52\t검증 세트 손실: 2.013388\t최선의 손실: 1.645940\t정확도: 20.91%\n", - "53\t검증 세트 손실: 2.239873\t최선의 손실: 1.645940\t정확도: 19.27%\n", + "50\t검증 세트 손실: 2.176907\t최선의 손실: 1.645940\t정확도: 18.73%\n", + "51\t검증 세트 손실: 2.179085\t최선의 손실: 1.645940\t정확도: 19.27%\n", + "52\t검증 세트 손실: 2.013386\t최선의 손실: 1.645940\t정확도: 20.91%\n", + "53\t검증 세트 손실: 2.239874\t최선의 손실: 1.645940\t정확도: 19.27%\n", "54\t검증 세트 손실: 1.942737\t최선의 손실: 1.645940\t정확도: 20.91%\n", "55\t검증 세트 손실: 1.686158\t최선의 손실: 1.645940\t정확도: 20.91%\n", - "56\t검증 세트 손실: 2.281744\t최선의 손실: 1.645940\t정확도: 19.08%\n", - "57\t검증 세트 손실: 2.154366\t최선의 손실: 1.645940\t정확도: 22.01%\n", - "58\t검증 세트 손실: 1.815150\t최선의 손실: 1.645940\t정확도: 19.27%\n", - "59\t검증 세트 손실: 1.998514\t최선의 손실: 1.645940\t정확도: 19.27%\n", + "56\t검증 세트 손실: 2.281745\t최선의 손실: 1.645940\t정확도: 19.08%\n", + "57\t검증 세트 손실: 2.154368\t최선의 손실: 1.645940\t정확도: 22.01%\n", + "58\t검증 세트 손실: 1.815150\t최선의 손실: 1.645940\t정확도: 19.27%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "59\t검증 세트 손실: 1.998513\t최선의 손실: 1.645940\t정확도: 19.27%\n", "60\t검증 세트 손실: 1.969455\t최선의 손실: 1.645940\t정확도: 19.08%\n", - "61\t검증 세트 손실: 2.026059\t최선의 손실: 1.645940\t정확도: 19.27%\n", + "61\t검증 세트 손실: 2.026058\t최선의 손실: 1.645940\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, n_neurons=70, total= 1.6min\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50 \n", - "0\t검증 세트 손실: 0.114358\t최선의 손실: 0.114358\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.060477\t최선의 손실: 0.060477\t정확도: 98.16%\n", - "2\t검증 세트 손실: 0.069311\t최선의 손실: 0.060477\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.057225\t최선의 손실: 0.057225\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.053348\t최선의 손실: 0.053348\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.070816\t최선의 손실: 0.053348\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.059080\t최선의 손실: 0.053348\t정확도: 98.36%\n", - "7\t검증 세트 손실: 0.056534\t최선의 손실: 0.053348\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.083831\t최선의 손실: 0.053348\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.078649\t최선의 손실: 0.053348\t정확도: 98.40%\n", - "10\t검증 세트 손실: 0.046982\t최선의 손실: 0.046982\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.046235\t최선의 손실: 0.046235\t정확도: 99.22%\n", - "12\t검증 세트 손실: 0.071229\t최선의 손실: 0.046235\t정확도: 98.51%\n", - "13\t검증 세트 손실: 0.076433\t최선의 손실: 0.046235\t정확도: 98.24%\n", - "14\t검증 세트 손실: 0.048894\t최선의 손실: 0.046235\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.075544\t최선의 손실: 0.046235\t정확도: 98.28%\n", - "16\t검증 세트 손실: 0.067587\t최선의 손실: 0.046235\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.056984\t최선의 손실: 0.046235\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.078113\t최선의 손실: 0.046235\t정확도: 98.44%\n", - "19\t검증 세트 손실: 0.056438\t최선의 손실: 0.046235\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.060104\t최선의 손실: 0.046235\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.063634\t최선의 손실: 0.046235\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.063741\t최선의 손실: 0.046235\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.056883\t최선의 손실: 0.046235\t정확도: 98.91%\n", - "24\t검증 세트 손실: 0.081599\t최선의 손실: 0.046235\t정확도: 98.63%\n", - "25\t검증 세트 손실: 0.075620\t최선의 손실: 0.046235\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.084908\t최선의 손실: 0.046235\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.088520\t최선의 손실: 0.046235\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.089091\t최선의 손실: 0.046235\t정확도: 98.12%\n", - "29\t검증 세트 손실: 0.066591\t최선의 손실: 0.046235\t정확도: 98.71%\n", - "30\t검증 세트 손실: 0.054922\t최선의 손실: 0.046235\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.057893\t최선의 손실: 0.046235\t정확도: 98.91%\n", - "32\t검증 세트 손실: 0.061195\t최선의 손실: 0.046235\t정확도: 98.94%\n", + "[CV] n_neurons=70, learning_rate=0.05, batch_size=10, activation=, total= 1.6min\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.098175\t최선의 손실: 0.098175\t정확도: 96.72%\n", + "1\t검증 세트 손실: 0.064267\t최선의 손실: 0.064267\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.064094\t최선의 손실: 0.064094\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.067624\t최선의 손실: 0.064094\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.051970\t최선의 손실: 0.051970\t정확도: 98.32%\n", + "5\t검증 세트 손실: 0.057521\t최선의 손실: 0.051970\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.058701\t최선의 손실: 0.051970\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.052749\t최선의 손실: 0.051970\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.052611\t최선의 손실: 0.051970\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.066888\t최선의 손실: 0.051970\t정확도: 98.16%\n", + "10\t검증 세트 손실: 0.056273\t최선의 손실: 0.051970\t정확도: 98.83%\n", + "11\t검증 세트 손실: 0.069621\t최선의 손실: 0.051970\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.064085\t최선의 손실: 0.051970\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.051956\t최선의 손실: 0.051956\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.050710\t최선의 손실: 0.050710\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.054281\t최선의 손실: 0.050710\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.052265\t최선의 손실: 0.050710\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.061074\t최선의 손실: 0.050710\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.056805\t최선의 손실: 0.050710\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.056555\t최선의 손실: 0.050710\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.053345\t최선의 손실: 0.050710\t정확도: 99.30%\n", + "21\t검증 세트 손실: 0.055951\t최선의 손실: 0.050710\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.057674\t최선의 손실: 0.050710\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.060599\t최선의 손실: 0.050710\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.058573\t최선의 손실: 0.050710\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.064651\t최선의 손실: 0.050710\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.066941\t최선의 손실: 0.050710\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.059050\t최선의 손실: 0.050710\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.067150\t최선의 손실: 0.050710\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.053050\t최선의 손실: 0.050710\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.059116\t최선의 손실: 0.050710\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.064524\t최선의 손실: 0.050710\t정확도: 98.59%\n", + "32\t검증 세트 손실: 0.069367\t최선의 손실: 0.050710\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.053368\t최선의 손실: 0.050710\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.058027\t최선의 손실: 0.050710\t정확도: 99.06%\n", + "35\t검증 세트 손실: 0.060940\t최선의 손실: 0.050710\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50, total= 2.6s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50 \n", - "0\t검증 세트 손실: 0.091162\t최선의 손실: 0.091162\t정확도: 97.19%\n", - "1\t검증 세트 손실: 0.067173\t최선의 손실: 0.067173\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.055353\t최선의 손실: 0.055353\t정확도: 98.24%\n", - "3\t검증 세트 손실: 0.066485\t최선의 손실: 0.055353\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.049233\t최선의 손실: 0.049233\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.054100\t최선의 손실: 0.049233\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.060087\t최선의 손실: 0.049233\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.053904\t최선의 손실: 0.049233\t정확도: 98.36%\n" + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.103135\t최선의 손실: 0.103135\t정확도: 96.91%\n", + "1\t검증 세트 손실: 0.069164\t최선의 손실: 0.069164\t정확도: 97.81%\n", + "2\t검증 세트 손실: 0.055046\t최선의 손실: 0.055046\t정확도: 98.32%\n", + "3\t검증 세트 손실: 0.052805\t최선의 손실: 0.052805\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.050822\t최선의 손실: 0.050822\t정확도: 98.20%\n", + "5\t검증 세트 손실: 0.047447\t최선의 손실: 0.047447\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.062053\t최선의 손실: 0.047447\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.047068\t최선의 손실: 0.047068\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.050080\t최선의 손실: 0.047068\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.052642\t최선의 손실: 0.047068\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.059072\t최선의 손실: 0.047068\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.051211\t최선의 손실: 0.047068\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.040789\t최선의 손실: 0.040789\t정확도: 98.87%\n", + "13\t검증 세트 손실: 0.076720\t최선의 손실: 0.040789\t정확도: 98.51%\n", + "14\t검증 세트 손실: 0.048400\t최선의 손실: 0.040789\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.055197\t최선의 손실: 0.040789\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.068830\t최선의 손실: 0.040789\t정확도: 98.51%\n", + "17\t검증 세트 손실: 0.049395\t최선의 손실: 0.040789\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.051169\t최선의 손실: 0.040789\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.058681\t최선의 손실: 0.040789\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.049310\t최선의 손실: 0.040789\t정확도: 99.02%\n", + "21\t검증 세트 손실: 0.050970\t최선의 손실: 0.040789\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.052251\t최선의 손실: 0.040789\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.063604\t최선의 손실: 0.040789\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.055874\t최선의 손실: 0.040789\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.064210\t최선의 손실: 0.040789\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.071124\t최선의 손실: 0.040789\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.057036\t최선의 손실: 0.040789\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.064437\t최선의 손실: 0.040789\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.057325\t최선의 손실: 0.040789\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.055599\t최선의 손실: 0.040789\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.062658\t최선의 손실: 0.040789\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.060536\t최선의 손실: 0.040789\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.072427\t최선의 손실: 0.040789\t정확도: 98.98%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation=, total= 2.4s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.105233\t최선의 손실: 0.105233\t정확도: 96.95%\n", + "1\t검증 세트 손실: 0.069850\t최선의 손실: 0.069850\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.059988\t최선의 손실: 0.059988\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.050097\t최선의 손실: 0.050097\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.043635\t최선의 손실: 0.043635\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.056360\t최선의 손실: 0.043635\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.054927\t최선의 손실: 0.043635\t정확도: 98.67%\n", + "7\t검증 세트 손실: 0.068529\t최선의 손실: 0.043635\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.058668\t최선의 손실: 0.043635\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.054175\t최선의 손실: 0.043635\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.056424\t최선의 손실: 0.043635\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.066275\t최선의 손실: 0.043635\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.047037\t최선의 손실: 0.043635\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.063777\t최선의 손실: 0.043635\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.048659\t최선의 손실: 0.043635\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.049872\t최선의 손실: 0.043635\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.054311\t최선의 손실: 0.043635\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.061617\t최선의 손실: 0.043635\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.050500\t최선의 손실: 0.043635\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.050256\t최선의 손실: 0.043635\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.069352\t최선의 손실: 0.043635\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.059845\t최선의 손실: 0.043635\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.068054\t최선의 손실: 0.043635\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.054135\t최선의 손실: 0.043635\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.068921\t최선의 손실: 0.043635\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.060336\t최선의 손실: 0.043635\t정확도: 98.91%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=500, activation=, total= 1.9s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.502518\t최선의 손실: 0.502518\t정확도: 90.97%\n", + "1\t검증 세트 손실: 1.668938\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.801874\t최선의 손실: 0.502518\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.738499\t최선의 손실: 0.502518\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.836072\t최선의 손실: 0.502518\t정확도: 18.73%\n", + "5\t검증 세트 손실: 1.627738\t최선의 손실: 0.502518\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.806536\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.750391\t최선의 손실: 0.502518\t정확도: 20.91%\n", + "8\t검증 세트 손실: 1.714854\t최선의 손실: 0.502518\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.889456\t최선의 손실: 0.502518\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.839131\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.968688\t최선의 손실: 0.502518\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.861510\t최선의 손실: 0.502518\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.692893\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.819836\t최선의 손실: 0.502518\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.897370\t최선의 손실: 0.502518\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.811965\t최선의 손실: 0.502518\t정확도: 18.73%\n", + "17\t검증 세트 손실: 2.080444\t최선의 손실: 0.502518\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.795251\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.708943\t최선의 손실: 0.502518\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.676863\t최선의 손실: 0.502518\t정확도: 18.73%\n", + "21\t검증 세트 손실: 2.548359\t최선의 손실: 0.502518\t정확도: 20.91%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=, total= 7.9s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.642583\t최선의 손실: 1.642583\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.724770\t최선의 손실: 1.642583\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.650414\t최선의 손실: 1.642583\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.755780\t최선의 손실: 1.642583\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.678698\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.855333\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.786372\t최선의 손실: 1.642583\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.056690\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "8\t검증 세트 손실: 1.738389\t최선의 손실: 1.642583\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.797489\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.703615\t최선의 손실: 1.642583\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.728538\t최선의 손실: 1.642583\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.797660\t최선의 손실: 1.642583\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1.779591\t최선의 손실: 1.642583\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.785916\t최선의 손실: 1.642583\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.745471\t최선의 손실: 1.642583\t정확도: 18.73%\n", + "16\t검증 세트 손실: 1.738431\t최선의 손실: 1.642583\t정확도: 18.73%\n", + "17\t검증 세트 손실: 2.641403\t최선의 손실: 1.642583\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.866945\t최선의 손실: 1.642583\t정확도: 22.01%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "8\t검증 세트 손실: 0.059023\t최선의 손실: 0.049233\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.056148\t최선의 손실: 0.049233\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.050187\t최선의 손실: 0.049233\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.071004\t최선의 손실: 0.049233\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.044647\t최선의 손실: 0.044647\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.070554\t최선의 손실: 0.044647\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.041783\t최선의 손실: 0.041783\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.062721\t최선의 손실: 0.041783\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.051807\t최선의 손실: 0.041783\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.066709\t최선의 손실: 0.041783\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.061977\t최선의 손실: 0.041783\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.062951\t최선의 손실: 0.041783\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.067577\t최선의 손실: 0.041783\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.065615\t최선의 손실: 0.041783\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.064310\t최선의 손실: 0.041783\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.055371\t최선의 손실: 0.041783\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.055397\t최선의 손실: 0.041783\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.064382\t최선의 손실: 0.041783\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.084317\t최선의 손실: 0.041783\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.072014\t최선의 손실: 0.041783\t정확도: 98.94%\n", - "28\t검증 세트 손실: 0.059824\t최선의 손실: 0.041783\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.072655\t최선의 손실: 0.041783\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.044234\t최선의 손실: 0.041783\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.050295\t최선의 손실: 0.041783\t정확도: 98.98%\n", - "32\t검증 세트 손실: 0.059645\t최선의 손실: 0.041783\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.063843\t최선의 손실: 0.041783\t정확도: 99.02%\n", - "34\t검증 세트 손실: 0.047605\t최선의 손실: 0.041783\t정확도: 99.22%\n", - "35\t검증 세트 손실: 0.050846\t최선의 손실: 0.041783\t정확도: 99.22%\n", + "19\t검증 세트 손실: 1.753946\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.761017\t최선의 손실: 1.642583\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.873331\t최선의 손실: 1.642583\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50, total= 2.9s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50 \n", - "0\t검증 세트 손실: 0.091095\t최선의 손실: 0.091095\t정확도: 97.11%\n", - "1\t검증 세트 손실: 0.065859\t최선의 손실: 0.065859\t정확도: 98.36%\n", - "2\t검증 세트 손실: 0.063147\t최선의 손실: 0.063147\t정확도: 98.12%\n", - "3\t검증 세트 손실: 0.048955\t최선의 손실: 0.048955\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.044121\t최선의 손실: 0.044121\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.046659\t최선의 손실: 0.044121\t정확도: 98.48%\n", - "6\t검증 세트 손실: 0.068328\t최선의 손실: 0.044121\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.065214\t최선의 손실: 0.044121\t정확도: 98.48%\n", - "8\t검증 세트 손실: 0.044875\t최선의 손실: 0.044121\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.056871\t최선의 손실: 0.044121\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.054276\t최선의 손실: 0.044121\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.054838\t최선의 손실: 0.044121\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.097442\t최선의 손실: 0.044121\t정확도: 97.77%\n", - "13\t검증 세트 손실: 0.044847\t최선의 손실: 0.044121\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.050028\t최선의 손실: 0.044121\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.064182\t최선의 손실: 0.044121\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.055423\t최선의 손실: 0.044121\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.071993\t최선의 손실: 0.044121\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.057762\t최선의 손실: 0.044121\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.068004\t최선의 손실: 0.044121\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.057072\t최선의 손실: 0.044121\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.078571\t최선의 손실: 0.044121\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.061078\t최선의 손실: 0.044121\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.048459\t최선의 손실: 0.044121\t정확도: 99.10%\n", - "24\t검증 세트 손실: 0.052760\t최선의 손실: 0.044121\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.071075\t최선의 손실: 0.044121\t정확도: 98.71%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=, total= 8.0s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.674721\t최선의 손실: 1.674721\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.654235\t최선의 손실: 1.654235\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.757412\t최선의 손실: 1.654235\t정확도: 20.91%\n", + "3\t검증 세트 손실: 1.687394\t최선의 손실: 1.654235\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.650279\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "5\t검증 세트 손실: 2.024146\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.862580\t최선의 손실: 1.650279\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.767951\t최선의 손실: 1.650279\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.837152\t최선의 손실: 1.650279\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.876593\t최선의 손실: 1.650279\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.675865\t최선의 손실: 1.650279\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.131588\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "12\t검증 세트 손실: 2.007620\t최선의 손실: 1.650279\t정확도: 19.08%\n", + "13\t검증 세트 손실: 2.027103\t최선의 손실: 1.650279\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.788883\t최선의 손실: 1.650279\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.714322\t최선의 손실: 1.650279\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.976605\t최선의 손실: 1.650279\t정확도: 19.08%\n", + "17\t검증 세트 손실: 2.260226\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.700690\t최선의 손실: 1.650279\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.691773\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.992421\t최선의 손실: 1.650279\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.898447\t최선의 손실: 1.650279\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.850848\t최선의 손실: 1.650279\t정확도: 19.27%\n", + "23\t검증 세트 손실: 2.246061\t최선의 손실: 1.650279\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.700727\t최선의 손실: 1.650279\t정확도: 22.01%\n", + "25\t검증 세트 손실: 2.033273\t최선의 손실: 1.650279\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, n_neurons=50, total= 2.3s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 0.686885\t최선의 손실: 0.686885\t정확도: 70.48%\n", - "1\t검증 세트 손실: 0.665067\t최선의 손실: 0.665067\t정확도: 75.29%\n", - "2\t검증 세트 손실: 0.592836\t최선의 손실: 0.592836\t정확도: 75.37%\n", - "3\t검증 세트 손실: 1.618263\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.800830\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.668317\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.742478\t최선의 손실: 0.592836\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.821391\t최선의 손실: 0.592836\t정확도: 20.91%\n", - "8\t검증 세트 손실: 1.685867\t최선의 손실: 0.592836\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.914875\t최선의 손실: 0.592836\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.662377\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.948868\t최선의 손실: 0.592836\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.751566\t최선의 손실: 0.592836\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.731403\t최선의 손실: 0.592836\t정확도: 19.27%\n", - "14\t검증 세트 손실: 2.137684\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.801604\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.730228\t최선의 손실: 0.592836\t정확도: 19.08%\n", - "17\t검증 세트 손실: 2.261269\t최선의 손실: 0.592836\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.791214\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.677419\t최선의 손실: 0.592836\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.745686\t최선의 손실: 0.592836\t정확도: 19.08%\n", - "21\t검증 세트 손실: 2.603042\t최선의 손실: 0.592836\t정확도: 20.91%\n", - "22\t검증 세트 손실: 1.677082\t최선의 손실: 0.592836\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.705256\t최선의 손실: 0.592836\t정확도: 20.91%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, activation=, total= 9.4s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.199091\t최선의 손실: 0.199091\t정확도: 95.86%\n", + "1\t검증 세트 손실: 0.116203\t최선의 손실: 0.116203\t정확도: 97.11%\n", + "2\t검증 세트 손실: 0.128941\t최선의 손실: 0.116203\t정확도: 96.99%\n", + "3\t검증 세트 손실: 1.440022\t최선의 손실: 0.116203\t정확도: 34.75%\n", + "4\t검증 세트 손실: 1.687905\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.676478\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.633387\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.670984\t최선의 손실: 0.116203\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.747876\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.854921\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.748185\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.746189\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.699742\t최선의 손실: 0.116203\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.747427\t최선의 손실: 0.116203\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.692708\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.661356\t최선의 손실: 0.116203\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.805297\t최선의 손실: 0.116203\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.644024\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.685797\t최선의 손실: 0.116203\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.633013\t최선의 손실: 0.116203\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.659938\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.725976\t최선의 손실: 0.116203\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.685634\t최선의 손실: 0.116203\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70, total= 8.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 1.699185\t최선의 손실: 1.699185\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.751781\t최선의 손실: 1.699185\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.626875\t최선의 손실: 1.626875\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.707134\t최선의 손실: 1.626875\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.730580\t최선의 손실: 1.626875\t정확도: 20.91%\n", - "5\t검증 세트 손실: 2.008147\t최선의 손실: 1.626875\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.746560\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.778596\t최선의 손실: 1.626875\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.653974\t최선의 손실: 1.626875\t정확도: 19.08%\n", - "9\t검증 세트 손실: 1.836840\t최선의 손실: 1.626875\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.697078\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.809081\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.734146\t최선의 손실: 1.626875\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.828305\t최선의 손실: 1.626875\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.749131\t최선의 손실: 1.626875\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.741981\t최선의 손실: 1.626875\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1.833165\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "17\t검증 세트 손실: 2.675101\t최선의 손실: 1.626875\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.796279\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.759636\t최선의 손실: 1.626875\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.771903\t최선의 손실: 1.626875\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.792966\t최선의 손실: 1.626875\t정확도: 22.01%\n", - "22\t검증 세트 손실: 2.183041\t최선의 손실: 1.626875\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.770285\t최선의 손실: 1.626875\t정확도: 19.27%\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation=, total= 8.4s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.116267\t최선의 손실: 0.116267\t정확도: 96.33%\n", + "1\t검증 세트 손실: 4.346973\t최선의 손실: 0.116267\t정확도: 80.81%\n", + "2\t검증 세트 손실: 1.613112\t최선의 손실: 0.116267\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.620816\t최선의 손실: 0.116267\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.623660\t최선의 손실: 0.116267\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.641458\t최선의 손실: 0.116267\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.657655\t최선의 손실: 0.116267\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.805284\t최선의 손실: 0.116267\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.811297\t최선의 손실: 0.116267\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.744062\t최선의 손실: 0.116267\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.676938\t최선의 손실: 0.116267\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.668795\t최선의 손실: 0.116267\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.755664\t최선의 손실: 0.116267\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.616593\t최선의 손실: 0.116267\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.695702\t최선의 손실: 0.116267\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.700081\t최선의 손실: 0.116267\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.667149\t최선의 손실: 0.116267\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.650686\t최선의 손실: 0.116267\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.677202\t최선의 손실: 0.116267\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.662303\t최선의 손실: 0.116267\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.716258\t최선의 손실: 0.116267\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.747446\t최선의 손실: 0.116267\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70, total= 9.0s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70 \n", - "0\t검증 세트 손실: 0.470658\t최선의 손실: 0.470658\t정확도: 85.57%\n", - "1\t검증 세트 손실: 0.279000\t최선의 손실: 0.279000\t정확도: 93.47%\n", - "2\t검증 세트 손실: 0.231258\t최선의 손실: 0.231258\t정확도: 94.64%\n", - "3\t검증 세트 손실: 0.179164\t최선의 손실: 0.179164\t정확도: 95.90%\n", - "4\t검증 세트 손실: 0.178250\t최선의 손실: 0.178250\t정확도: 96.05%\n", - "5\t검증 세트 손실: 1.684420\t최선의 손실: 0.178250\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.780468\t최선의 손실: 0.178250\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.716533\t최선의 손실: 0.178250\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.780900\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.932595\t최선의 손실: 0.178250\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.624806\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.630108\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "12\t검증 세트 손실: 2.146630\t최선의 손실: 0.178250\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.855734\t최선의 손실: 0.178250\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.753762\t최선의 손실: 0.178250\t정확도: 20.91%\n", - "15\t검증 세트 손실: 2.007253\t최선의 손실: 0.178250\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1.966294\t최선의 손실: 0.178250\t정확도: 19.08%\n", - "17\t검증 세트 손실: 2.309704\t최선의 손실: 0.178250\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.820705\t최선의 손실: 0.178250\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.727309\t최선의 손실: 0.178250\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.826717\t최선의 손실: 0.178250\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.936386\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.861397\t최선의 손실: 0.178250\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.931087\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.748093\t최선의 손실: 0.178250\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.995049\t최선의 손실: 0.178250\t정확도: 19.27%\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation=, total= 7.9s\n", + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.152208\t최선의 손실: 0.152208\t정확도: 95.54%\n", + "1\t검증 세트 손실: 1.674381\t최선의 손실: 0.152208\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.711729\t최선의 손실: 0.152208\t정확도: 20.91%\n", + "3\t검증 세트 손실: 1.659358\t최선의 손실: 0.152208\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.821566\t최선의 손실: 0.152208\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.733321\t최선의 손실: 0.152208\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.664914\t최선의 손실: 0.152208\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.767060\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.722767\t최선의 손실: 0.152208\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.912374\t최선의 손실: 0.152208\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.657403\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.896063\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.805800\t최선의 손실: 0.152208\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.625355\t최선의 손실: 0.152208\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.684281\t최선의 손실: 0.152208\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.634313\t최선의 손실: 0.152208\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.626907\t최선의 손실: 0.152208\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.658358\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.639555\t최선의 손실: 0.152208\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.739638\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.720754\t최선의 손실: 0.152208\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.828110\t최선의 손실: 0.152208\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=70, total= 9.2s\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 0.100756\t최선의 손실: 0.100756\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.109700\t최선의 손실: 0.100756\t정확도: 97.07%\n", - "2\t검증 세트 손실: 1.696449\t최선의 손실: 0.100756\t정확도: 18.73%\n", - "3\t검증 세트 손실: 1.686458\t최선의 손실: 0.100756\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.686715\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.675942\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.637443\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.698726\t최선의 손실: 0.100756\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.733199\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.883424\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.731890\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.762735\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.700323\t최선의 손실: 0.100756\t정확도: 19.08%\n" + "[CV] n_neurons=120, learning_rate=0.02, batch_size=50, activation=, total= 7.9s\n", + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.610443\t최선의 손실: 1.610443\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.619642\t최선의 손실: 1.610443\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.611411\t최선의 손실: 1.610443\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.608360\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.618377\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.615893\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.618182\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.617734\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.617159\t최선의 손실: 1.608360\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.608708\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.609204\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.608777\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.616529\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.625474\t최선의 손실: 1.608360\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.614389\t최선의 손실: 1.608360\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.612091\t최선의 손실: 1.608360\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.608088\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.615100\t최선의 손실: 1.608088\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.616772\t최선의 손실: 1.608088\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.612292\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.615546\t최선의 손실: 1.608088\t정확도: 19.08%\n", + "21\t검증 세트 손실: 1.619602\t최선의 손실: 1.608088\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.616395\t최선의 손실: 1.608088\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.615318\t최선의 손실: 1.608088\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.615881\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.613409\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.619709\t최선의 손실: 1.608088\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.620597\t최선의 손실: 1.608088\t정확도: 19.08%\n", + "28\t검증 세트 손실: 1.610771\t최선의 손실: 1.608088\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.610737\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "30\t검증 세트 손실: 1.620082\t최선의 손실: 1.608088\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.614028\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.614077\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "33\t검증 세트 손실: 1.615155\t최선의 손실: 1.608088\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.617152\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "35\t검증 세트 손실: 1.615051\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "36\t검증 세트 손실: 1.608877\t최선의 손실: 1.608088\t정확도: 20.91%\n", + "37\t검증 세트 손실: 1.611355\t최선의 손실: 1.608088\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation=, total= 13.6s\n", + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.610071\t최선의 손실: 1.610071\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.618209\t최선의 손실: 1.610071\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "13\t검증 세트 손실: 1.767699\t최선의 손실: 0.100756\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.682552\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.667079\t최선의 손실: 0.100756\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.815681\t최선의 손실: 0.100756\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.642721\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.686189\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.631973\t최선의 손실: 0.100756\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.659709\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.727266\t최선의 손실: 0.100756\t정확도: 19.27%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120, total= 8.0s\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 0.113396\t최선의 손실: 0.113396\t정확도: 95.90%\n", - "1\t검증 세트 손실: 0.094950\t최선의 손실: 0.094950\t정확도: 97.38%\n", - "2\t검증 세트 손실: 0.084801\t최선의 손실: 0.084801\t정확도: 98.12%\n", - "3\t검증 세트 손실: 1.988617\t최선의 손실: 0.084801\t정확도: 76.90%\n", - "4\t검증 세트 손실: 1.681228\t최선의 손실: 0.084801\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1.637818\t최선의 손실: 0.084801\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.672144\t최선의 손실: 0.084801\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.799376\t최선의 손실: 0.084801\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.778339\t최선의 손실: 0.084801\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.766598\t최선의 손실: 0.084801\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.769501\t최선의 손실: 0.084801\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.647730\t최선의 손실: 0.084801\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.801164\t최선의 손실: 0.084801\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.663191\t최선의 손실: 0.084801\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.664481\t최선의 손실: 0.084801\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.721701\t최선의 손실: 0.084801\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.662973\t최선의 손실: 0.084801\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.663475\t최선의 손실: 0.084801\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.634805\t최선의 손실: 0.084801\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.646442\t최선의 손실: 0.084801\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.686122\t최선의 손실: 0.084801\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.770724\t최선의 손실: 0.084801\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.874919\t최선의 손실: 0.084801\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.726069\t최선의 손실: 0.084801\t정확도: 22.01%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120, total= 8.8s\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120 \n", - "0\t검증 세트 손실: 0.084141\t최선의 손실: 0.084141\t정확도: 97.77%\n", - "1\t검증 세트 손실: 0.102494\t최선의 손실: 0.084141\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.088281\t최선의 손실: 0.084141\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.122603\t최선의 손실: 0.084141\t정확도: 97.89%\n", - "4\t검증 세트 손실: 3.825336\t최선의 손실: 0.084141\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1.660504\t최선의 손실: 0.084141\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.675614\t최선의 손실: 0.084141\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.756210\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.742413\t최선의 손실: 0.084141\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.795882\t최선의 손실: 0.084141\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.684198\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.887752\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.781898\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.616503\t최선의 손실: 0.084141\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.682783\t최선의 손실: 0.084141\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.626697\t최선의 손실: 0.084141\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.637564\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.677987\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.636392\t최선의 손실: 0.084141\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.766090\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.711775\t최선의 손실: 0.084141\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.833128\t최선의 손실: 0.084141\t정확도: 22.01%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.02, n_neurons=120, total= 8.3s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140 \n", - "0\t검증 세트 손실: 1.183183\t최선의 손실: 1.183183\t정확도: 39.37%\n", - "1\t검증 세트 손실: 1.156975\t최선의 손실: 1.156975\t정확도: 40.15%\n", - "2\t검증 세트 손실: 1.142294\t최선의 손실: 1.142294\t정확도: 39.91%\n", - "3\t검증 세트 손실: 1.712495\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.722970\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.720111\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.720981\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.721960\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.721319\t최선의 손실: 1.142294\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.713006\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.713486\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.713101\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.720850\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.729657\t최선의 손실: 1.142294\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.718734\t최선의 손실: 1.142294\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.716366\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.712418\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.719463\t최선의 손실: 1.142294\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.721072\t최선의 손실: 1.142294\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.716616\t최선의 손실: 1.142294\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.719879\t최선의 손실: 1.142294\t정확도: 19.04%\n", - "21\t검증 세트 손실: 1.723837\t최선의 손실: 1.142294\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.720670\t최선의 손실: 1.142294\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.719644\t최선의 손실: 1.142294\t정확도: 19.27%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140, total= 8.8s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140 \n", - "0\t검증 세트 손실: 1.611838\t최선의 손실: 1.611838\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.619869\t최선의 손실: 1.611838\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.609144\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.620026\t최선의 손실: 1.609144\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.611113\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.612420\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.632195\t최선의 손실: 1.609144\t정확도: 19.08%\n", - "7\t검증 세트 손실: 1.622895\t최선의 손실: 1.609144\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.613112\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.611249\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.610247\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.611971\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.615685\t최선의 손실: 1.609144\t정확도: 19.27%\n", - "13\t검증 세트 손실: 1.617306\t최선의 손실: 1.609144\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.610562\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.612048\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.619843\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.614758\t최선의 손실: 1.609144\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.611528\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.609967\t최선의 손실: 1.609144\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.608913\t최선의 손실: 1.608913\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.629896\t최선의 손실: 1.608913\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.620674\t최선의 손실: 1.608913\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.622630\t최선의 손실: 1.608913\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.609629\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.618909\t최선의 손실: 1.609629\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.624171\t최선의 손실: 1.609629\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.619944\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.639524\t최선의 손실: 1.609629\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.622833\t최선의 손실: 1.609629\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.613168\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.611221\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.610287\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.611952\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.615653\t최선의 손실: 1.609629\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1.617277\t최선의 손실: 1.609629\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.610552\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.612047\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.619840\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.614761\t최선의 손실: 1.609629\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.611526\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.609967\t최선의 손실: 1.609629\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.608914\t최선의 손실: 1.608914\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.629893\t최선의 손실: 1.608914\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.620674\t최선의 손실: 1.608914\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.622630\t최선의 손실: 1.608914\t정확도: 22.01%\n", "24\t검증 세트 손실: 1.607977\t최선의 손실: 1.607977\t정확도: 22.01%\n", "25\t검증 세트 손실: 1.610930\t최선의 손실: 1.607977\t정확도: 20.91%\n", "26\t검증 세트 손실: 1.611142\t최선의 손실: 1.607977\t정확도: 22.01%\n", @@ -5954,328 +6026,257 @@ "44\t검증 세트 손실: 1.622907\t최선의 손실: 1.607977\t정확도: 18.73%\n", "45\t검증 세트 손실: 1.612809\t최선의 손실: 1.607977\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140, total= 16.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140 \n", - "0\t검증 세트 손실: 1.297705\t최선의 손실: 1.297705\t정확도: 38.47%\n", - "1\t검증 세트 손실: 1.334553\t최선의 손실: 1.297705\t정확도: 32.99%\n", - "2\t검증 세트 손실: 1.376659\t최선의 손실: 1.297705\t정확도: 31.12%\n", - "3\t검증 세트 손실: 1.290620\t최선의 손실: 1.290620\t정확도: 34.71%\n", - "4\t검증 세트 손실: 1.234635\t최선의 손실: 1.234635\t정확도: 39.48%\n", - "5\t검증 세트 손실: 1.327098\t최선의 손실: 1.234635\t정확도: 36.00%\n", - "6\t검증 세트 손실: 1.251889\t최선의 손실: 1.234635\t정확도: 35.26%\n", - "7\t검증 세트 손실: 1.235189\t최선의 손실: 1.234635\t정확도: 40.03%\n", - "8\t검증 세트 손실: 1.232602\t최선의 손실: 1.232602\t정확도: 36.43%\n", - "9\t검증 세트 손실: 1.341155\t최선의 손실: 1.232602\t정확도: 39.95%\n", - "10\t검증 세트 손실: 1.272914\t최선의 손실: 1.232602\t정확도: 38.43%\n", - "11\t검증 세트 손실: 1.242171\t최선의 손실: 1.232602\t정확도: 39.09%\n", - "12\t검증 세트 손실: 1.214482\t최선의 손실: 1.214482\t정확도: 39.13%\n", - "13\t검증 세트 손실: 1.235632\t최선의 손실: 1.214482\t정확도: 38.08%\n", - "14\t검증 세트 손실: 1.614427\t최선의 손실: 1.214482\t정확도: 20.91%\n" + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation=, total= 16.3s\n", + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.612093\t최선의 손실: 1.612093\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.615644\t최선의 손실: 1.612093\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.613917\t최선의 손실: 1.612093\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.629639\t최선의 손실: 1.612093\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.608596\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.615753\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.615096\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.615483\t최선의 손실: 1.608596\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.612312\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.610806\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.611886\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.612870\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.610795\t최선의 손실: 1.608596\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.620052\t최선의 손실: 1.608596\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.612825\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.615504\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.628463\t최선의 손실: 1.608596\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.625371\t최선의 손실: 1.608596\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.609346\t최선의 손실: 1.608596\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.613122\t최선의 손실: 1.608596\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.613293\t최선의 손실: 1.608596\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.623128\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.617785\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.617092\t최선의 손실: 1.608596\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.608748\t최선의 손실: 1.608596\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.615599\t최선의 손실: 1.608596\t정확도: 18.73%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.1, batch_size=50, activation=, total= 9.4s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 979.303650\t최선의 손실: 979.303650\t정확도: 19.31%\n", + "1\t검증 세트 손실: 92.116615\t최선의 손실: 92.116615\t정확도: 72.71%\n", + "2\t검증 세트 손실: 5.068987\t최선의 손실: 5.068987\t정확도: 92.34%\n", + "3\t검증 세트 손실: 2.676953\t최선의 손실: 2.676953\t정확도: 93.98%\n", + "4\t검증 세트 손실: 1.737440\t최선의 손실: 1.737440\t정확도: 94.92%\n", + "5\t검증 세트 손실: 1.883417\t최선의 손실: 1.737440\t정확도: 94.49%\n", + "6\t검증 세트 손실: 1.406537\t최선의 손실: 1.406537\t정확도: 95.74%\n", + "7\t검증 세트 손실: 1.206563\t최선의 손실: 1.206563\t정확도: 95.43%\n", + "8\t검증 세트 손실: 1.156049\t최선의 손실: 1.156049\t정확도: 94.88%\n", + "9\t검증 세트 손실: 0.769547\t최선의 손실: 0.769547\t정확도: 95.82%\n", + "10\t검증 세트 손실: 0.930250\t최선의 손실: 0.769547\t정확도: 95.23%\n", + "11\t검증 세트 손실: 0.757853\t최선의 손실: 0.757853\t정확도: 96.05%\n", + "12\t검증 세트 손실: 0.899857\t최선의 손실: 0.757853\t정확도: 94.53%\n", + "13\t검증 세트 손실: 0.860823\t최선의 손실: 0.757853\t정확도: 93.71%\n", + "14\t검증 세트 손실: 1.260754\t최선의 손실: 0.757853\t정확도: 94.76%\n", + "15\t검증 세트 손실: 0.646538\t최선의 손실: 0.646538\t정확도: 95.78%\n", + "16\t검증 세트 손실: 0.714742\t최선의 손실: 0.646538\t정확도: 94.76%\n", + "17\t검증 세트 손실: 0.769323\t최선의 손실: 0.646538\t정확도: 95.39%\n", + "18\t검증 세트 손실: 0.556057\t최선의 손실: 0.556057\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.595289\t최선의 손실: 0.556057\t정확도: 94.76%\n", + "20\t검증 세트 손실: 0.783646\t최선의 손실: 0.556057\t정확도: 94.88%\n", + "21\t검증 세트 손실: 0.520427\t최선의 손실: 0.520427\t정확도: 95.78%\n", + "22\t검증 세트 손실: 0.498725\t최선의 손실: 0.498725\t정확도: 94.92%\n", + "23\t검증 세트 손실: 0.324301\t최선의 손실: 0.324301\t정확도: 96.25%\n", + "24\t검증 세트 손실: 0.344387\t최선의 손실: 0.324301\t정확도: 96.76%\n", + "25\t검증 세트 손실: 0.294377\t최선의 손실: 0.294377\t정확도: 96.52%\n", + "26\t검증 세트 손실: 0.304404\t최선의 손실: 0.294377\t정확도: 96.68%\n", + "27\t검증 세트 손실: 0.358575\t최선의 손실: 0.294377\t정확도: 95.62%\n", + "28\t검증 세트 손실: 0.446521\t최선의 손실: 0.294377\t정확도: 96.56%\n", + "29\t검증 세트 손실: 0.671033\t최선의 손실: 0.294377\t정확도: 94.45%\n", + "30\t검증 세트 손실: 0.445742\t최선의 손실: 0.294377\t정확도: 96.05%\n", + "31\t검증 세트 손실: 0.378249\t최선의 손실: 0.294377\t정확도: 96.76%\n", + "32\t검증 세트 손실: 0.421904\t최선의 손실: 0.294377\t정확도: 97.22%\n", + "33\t검증 세트 손실: 0.340873\t최선의 손실: 0.294377\t정확도: 96.25%\n", + "34\t검증 세트 손실: 0.374651\t최선의 손실: 0.294377\t정확도: 95.97%\n", + "35\t검증 세트 손실: 0.363762\t최선의 손실: 0.294377\t정확도: 96.99%\n", + "36\t검증 세트 손실: 0.419883\t최선의 손실: 0.294377\t정확도: 96.60%\n", + "37\t검증 세트 손실: 0.379975\t최선의 손실: 0.294377\t정확도: 95.86%\n", + "38\t검증 세트 손실: 0.297323\t최선의 손실: 0.294377\t정확도: 97.34%\n", + "39\t검증 세트 손실: 0.360242\t최선의 손실: 0.294377\t정확도: 97.19%\n", + "40\t검증 세트 손실: 0.417261\t최선의 손실: 0.294377\t정확도: 96.91%\n", + "41\t검증 세트 손실: 0.353453\t최선의 손실: 0.294377\t정확도: 97.30%\n", + "42\t검증 세트 손실: 0.366441\t최선의 손실: 0.294377\t정확도: 97.11%\n", + "43\t검증 세트 손실: 0.386481\t최선의 손실: 0.294377\t정확도: 96.91%\n", + "44\t검증 세트 손실: 0.398383\t최선의 손실: 0.294377\t정확도: 97.22%\n", + "45\t검증 세트 손실: 0.392645\t최선의 손실: 0.294377\t정확도: 96.76%\n", + "46\t검증 세트 손실: 0.406452\t최선의 손실: 0.294377\t정확도: 96.64%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 3.7s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 8051.473145\t최선의 손실: 8051.473145\t정확도: 23.85%\n", + "1\t검증 세트 손실: 38358.390625\t최선의 손실: 8051.473145\t정확도: 29.83%\n", + "2\t검증 세트 손실: 44442.941406\t최선의 손실: 8051.473145\t정확도: 45.86%\n", + "3\t검증 세트 손실: 6259.110840\t최선의 손실: 6259.110840\t정확도: 69.12%\n", + "4\t검증 세트 손실: 430.434021\t최선의 손실: 430.434021\t정확도: 91.87%\n", + "5\t검증 세트 손실: 245.394669\t최선의 손실: 245.394669\t정확도: 91.24%\n", + "6\t검증 세트 손실: 171.861069\t최선의 손실: 171.861069\t정확도: 92.42%\n", + "7\t검증 세트 손실: 128.634506\t최선의 손실: 128.634506\t정확도: 93.86%\n", + "8\t검증 세트 손실: 129.453583\t최선의 손실: 128.634506\t정확도: 92.89%\n", + "9\t검증 세트 손실: 115.738922\t최선의 손실: 115.738922\t정확도: 92.85%\n", + "10\t검증 세트 손실: 82.150841\t최선의 손실: 82.150841\t정확도: 93.78%\n", + "11\t검증 세트 손실: 361.689667\t최선의 손실: 82.150841\t정확도: 93.78%\n", + "12\t검증 세트 손실: 150.667160\t최선의 손실: 82.150841\t정확도: 94.25%\n", + "13\t검증 세트 손실: 94.580147\t최선의 손실: 82.150841\t정확도: 94.45%\n", + "14\t검증 세트 손실: 64.520447\t최선의 손실: 64.520447\t정확도: 94.72%\n", + "15\t검증 세트 손실: 44.180180\t최선의 손실: 44.180180\t정확도: 94.92%\n", + "16\t검증 세트 손실: 82.908836\t최선의 손실: 44.180180\t정확도: 92.61%\n", + "17\t검증 세트 손실: 48.601372\t최선의 손실: 44.180180\t정확도: 94.96%\n", + "18\t검증 세트 손실: 42.614426\t최선의 손실: 42.614426\t정확도: 94.57%\n", + "19\t검증 세트 손실: 52.961281\t최선의 손실: 42.614426\t정확도: 95.54%\n", + "20\t검증 세트 손실: 33.103687\t최선의 손실: 33.103687\t정확도: 95.70%\n", + "21\t검증 세트 손실: 26.782698\t최선의 손실: 26.782698\t정확도: 95.78%\n", + "22\t검증 세트 손실: 34.809097\t최선의 손실: 26.782698\t정확도: 93.12%\n", + "23\t검증 세트 손실: 45.300789\t최선의 손실: 26.782698\t정확도: 93.12%\n", + "24\t검증 세트 손실: 31.658682\t최선의 손실: 26.782698\t정확도: 95.74%\n", + "25\t검증 세트 손실: 123.636131\t최선의 손실: 26.782698\t정확도: 89.52%\n", + "26\t검증 세트 손실: 929.293884\t최선의 손실: 26.782698\t정확도: 70.17%\n", + "27\t검증 세트 손실: 138027.078125\t최선의 손실: 26.782698\t정확도: 45.97%\n", + "28\t검증 세트 손실: 5362.771973\t최선의 손실: 26.782698\t정확도: 79.79%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 1.617456\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.626728\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.625576\t최선의 손실: 1.214482\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.609318\t최선의 손실: 1.214482\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.613103\t최선의 손실: 1.214482\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.613209\t최선의 손실: 1.214482\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.623181\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.617826\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.617140\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.608747\t최선의 손실: 1.214482\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.615628\t최선의 손실: 1.214482\t정확도: 18.73%\n", - "26\t검증 세트 손실: 1.608631\t최선의 손실: 1.214482\t정확도: 20.91%\n", - "27\t검증 세트 손실: 1.614458\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "28\t검증 세트 손실: 1.623593\t최선의 손실: 1.214482\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.620651\t최선의 손실: 1.214482\t정확도: 19.27%\n", - "30\t검증 세트 손실: 1.614126\t최선의 손실: 1.214482\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.608861\t최선의 손실: 1.214482\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.612235\t최선의 손실: 1.214482\t정확도: 18.73%\n", - "33\t검증 세트 손실: 1.618439\t최선의 손실: 1.214482\t정확도: 18.73%\n", + "29\t검증 세트 손실: 579.040466\t최선의 손실: 26.782698\t정확도: 92.96%\n", + "30\t검증 세트 손실: 309.638824\t최선의 손실: 26.782698\t정확도: 94.80%\n", + "31\t검증 세트 손실: 318.058289\t최선의 손실: 26.782698\t정확도: 93.55%\n", + "32\t검증 세트 손실: 398.647491\t최선의 손실: 26.782698\t정확도: 89.80%\n", + "33\t검증 세트 손실: 354.988281\t최선의 손실: 26.782698\t정확도: 93.08%\n", + "34\t검증 세트 손실: 189.593781\t최선의 손실: 26.782698\t정확도: 95.78%\n", + "35\t검증 세트 손실: 180.941818\t최선의 손실: 26.782698\t정확도: 95.23%\n", + "36\t검증 세트 손실: 163.025970\t최선의 손실: 26.782698\t정확도: 95.54%\n", + "37\t검증 세트 손실: 127.959938\t최선의 손실: 26.782698\t정확도: 95.54%\n", + "38\t검증 세트 손실: 125.040535\t최선의 손실: 26.782698\t정확도: 95.39%\n", + "39\t검증 세트 손실: 131.003723\t최선의 손실: 26.782698\t정확도: 93.35%\n", + "40\t검증 세트 손실: 247.261978\t최선의 손실: 26.782698\t정확도: 94.68%\n", + "41\t검증 세트 손실: 171.262009\t최선의 손실: 26.782698\t정확도: 95.15%\n", + "42\t검증 세트 손실: 128.851303\t최선의 손실: 26.782698\t정확도: 95.04%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, n_neurons=140, total= 12.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 27.651333\t최선의 손실: 27.651333\t정확도: 76.11%\n", - "1\t검증 세트 손실: 1.027318\t최선의 손실: 1.027318\t정확도: 94.06%\n", - "2\t검증 세트 손실: 0.498753\t최선의 손실: 0.498753\t정확도: 94.37%\n", - "3\t검증 세트 손실: 0.650802\t최선의 손실: 0.498753\t정확도: 92.14%\n", - "4\t검증 세트 손실: 0.531051\t최선의 손실: 0.498753\t정확도: 94.10%\n", - "5\t검증 세트 손실: 0.261925\t최선의 손실: 0.261925\t정확도: 96.09%\n", - "6\t검증 세트 손실: 0.233486\t최선의 손실: 0.233486\t정확도: 96.60%\n", - "7\t검증 세트 손실: 0.235923\t최선의 손실: 0.233486\t정확도: 95.62%\n", - "8\t검증 세트 손실: 0.250061\t최선의 손실: 0.233486\t정확도: 95.04%\n", - "9\t검증 세트 손실: 0.193153\t최선의 손실: 0.193153\t정확도: 97.15%\n", - "10\t검증 세트 손실: 0.229657\t최선의 손실: 0.193153\t정확도: 95.90%\n", - "11\t검증 세트 손실: 0.219174\t최선의 손실: 0.193153\t정확도: 95.93%\n", - "12\t검증 세트 손실: 0.174832\t최선의 손실: 0.174832\t정확도: 97.19%\n", - "13\t검증 세트 손실: 0.166164\t최선의 손실: 0.166164\t정확도: 97.19%\n", - "14\t검증 세트 손실: 0.178789\t최선의 손실: 0.166164\t정확도: 97.15%\n", - "15\t검증 세트 손실: 0.194410\t최선의 손실: 0.166164\t정확도: 96.79%\n", - "16\t검증 세트 손실: 0.186633\t최선의 손실: 0.166164\t정확도: 97.30%\n", - "17\t검증 세트 손실: 0.196186\t최선의 손실: 0.166164\t정확도: 97.50%\n", - "18\t검증 세트 손실: 0.262891\t최선의 손실: 0.166164\t정확도: 97.03%\n", - "19\t검증 세트 손실: 0.260892\t최선의 손실: 0.166164\t정확도: 96.64%\n", - "20\t검증 세트 손실: 0.153048\t최선의 손실: 0.153048\t정확도: 97.50%\n", - "21\t검증 세트 손실: 0.225180\t최선의 손실: 0.153048\t정확도: 96.87%\n", - "22\t검증 세트 손실: 0.171731\t최선의 손실: 0.153048\t정확도: 97.11%\n", - "23\t검증 세트 손실: 0.158410\t최선의 손실: 0.153048\t정확도: 97.58%\n", - "24\t검증 세트 손실: 0.177999\t최선의 손실: 0.153048\t정확도: 97.62%\n", - "25\t검증 세트 손실: 0.154367\t최선의 손실: 0.153048\t정확도: 97.46%\n", - "26\t검증 세트 손실: 0.225585\t최선의 손실: 0.153048\t정확도: 97.54%\n", - "27\t검증 세트 손실: 0.209234\t최선의 손실: 0.153048\t정확도: 96.87%\n", - "28\t검증 세트 손실: 0.154025\t최선의 손실: 0.153048\t정확도: 97.42%\n", - "29\t검증 세트 손실: 0.111588\t최선의 손실: 0.111588\t정확도: 97.46%\n", - "30\t검증 세트 손실: 0.134136\t최선의 손실: 0.111588\t정확도: 97.42%\n", - "31\t검증 세트 손실: 0.117081\t최선의 손실: 0.111588\t정확도: 97.58%\n", - "32\t검증 세트 손실: 0.124013\t최선의 손실: 0.111588\t정확도: 97.65%\n", - "33\t검증 세트 손실: 0.122537\t최선의 손실: 0.111588\t정확도: 97.93%\n", - "34\t검증 세트 손실: 0.157946\t최선의 손실: 0.111588\t정확도: 97.34%\n", - "35\t검증 세트 손실: 0.109569\t최선의 손실: 0.109569\t정확도: 97.85%\n", - "36\t검증 세트 손실: 0.153450\t최선의 손실: 0.109569\t정확도: 97.81%\n", - "37\t검증 세트 손실: 0.178541\t최선의 손실: 0.109569\t정확도: 97.89%\n", - "38\t검증 세트 손실: 0.150441\t최선의 손실: 0.109569\t정확도: 97.46%\n", - "39\t검증 세트 손실: 0.146705\t최선의 손실: 0.109569\t정확도: 97.73%\n", - "40\t검증 세트 손실: 0.143541\t최선의 손실: 0.109569\t정확도: 97.85%\n", - "41\t검증 세트 손실: 0.139371\t최선의 손실: 0.109569\t정확도: 98.01%\n", - "42\t검증 세트 손실: 0.128523\t최선의 손실: 0.109569\t정확도: 97.85%\n", - "43\t검증 세트 손실: 0.122834\t최선의 손실: 0.109569\t정확도: 97.50%\n", - "44\t검증 세트 손실: 0.207059\t최선의 손실: 0.109569\t정확도: 97.38%\n", - "45\t검증 세트 손실: 0.158751\t최선의 손실: 0.109569\t정확도: 97.77%\n", - "46\t검증 세트 손실: 0.163218\t최선의 손실: 0.109569\t정확도: 97.97%\n", - "47\t검증 세트 손실: 0.222932\t최선의 손실: 0.109569\t정확도: 97.46%\n", - "48\t검증 세트 손실: 0.177142\t최선의 손실: 0.109569\t정확도: 97.97%\n", - "49\t검증 세트 손실: 0.189048\t최선의 손실: 0.109569\t정확도: 98.12%\n", - "50\t검증 세트 손실: 0.212369\t최선의 손실: 0.109569\t정확도: 97.22%\n", - "51\t검증 세트 손실: 0.136718\t최선의 손실: 0.109569\t정확도: 98.01%\n", - "52\t검증 세트 손실: 0.392633\t최선의 손실: 0.109569\t정확도: 95.35%\n", - "53\t검증 세트 손실: 0.185505\t최선의 손실: 0.109569\t정확도: 96.09%\n", - "54\t검증 세트 손실: 0.169381\t최선의 손실: 0.109569\t정확도: 97.34%\n", - "55\t검증 세트 손실: 0.123495\t최선의 손실: 0.109569\t정확도: 97.15%\n", - "56\t검증 세트 손실: 0.222544\t최선의 손실: 0.109569\t정확도: 97.65%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 3.4s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60> \n", + "0\t검증 세트 손실: 224.352234\t최선의 손실: 224.352234\t정확도: 43.28%\n", + "1\t검증 세트 손실: 17237.285156\t최선의 손실: 224.352234\t정확도: 26.47%\n", + "2\t검증 세트 손실: 560.072266\t최선의 손실: 224.352234\t정확도: 60.59%\n", + "3\t검증 세트 손실: 131.981155\t최선의 손실: 131.981155\t정확도: 68.33%\n", + "4\t검증 세트 손실: 64.183907\t최선의 손실: 64.183907\t정확도: 77.95%\n", + "5\t검증 세트 손실: 39.565437\t최선의 손실: 39.565437\t정확도: 84.68%\n", + "6\t검증 세트 손실: 48.695599\t최선의 손실: 39.565437\t정확도: 69.94%\n", + "7\t검증 세트 손실: 32.936176\t최선의 손실: 32.936176\t정확도: 81.12%\n", + "8\t검증 세트 손실: 10.810840\t최선의 손실: 10.810840\t정확도: 84.91%\n", + "9\t검증 세트 손실: 21.147663\t최선의 손실: 10.810840\t정확도: 81.63%\n", + "10\t검증 세트 손실: 17.726366\t최선의 손실: 10.810840\t정확도: 86.28%\n", + "11\t검증 세트 손실: 22.183823\t최선의 손실: 10.810840\t정확도: 90.34%\n", + "12\t검증 세트 손실: 22.080311\t최선의 손실: 10.810840\t정확도: 89.72%\n", + "13\t검증 세트 손실: 19.263000\t최선의 손실: 10.810840\t정확도: 89.25%\n", + "14\t검증 세트 손실: 18.589684\t최선의 손실: 10.810840\t정확도: 82.41%\n", + "15\t검증 세트 손실: 16.531887\t최선의 손실: 10.810840\t정확도: 83.27%\n", + "16\t검증 세트 손실: 34.461201\t최선의 손실: 10.810840\t정확도: 81.74%\n", + "17\t검증 세트 손실: 11.838324\t최선의 손실: 10.810840\t정확도: 86.59%\n", + "18\t검증 세트 손실: 11.979874\t최선의 손실: 10.810840\t정확도: 89.99%\n", + "19\t검증 세트 손실: 12.221076\t최선의 손실: 10.810840\t정확도: 90.34%\n", + "20\t검증 세트 손실: 55.555767\t최선의 손실: 10.810840\t정확도: 75.49%\n", + "21\t검증 세트 손실: 22.052065\t최선의 손실: 10.810840\t정확도: 89.25%\n", + "22\t검증 세트 손실: 11.910448\t최선의 손실: 10.810840\t정확도: 92.03%\n", + "23\t검증 세트 손실: 16.671404\t최선의 손실: 10.810840\t정확도: 88.08%\n", + "24\t검증 세트 손실: 75.025597\t최선의 손실: 10.810840\t정확도: 70.52%\n", + "25\t검증 세트 손실: 19.364273\t최선의 손실: 10.810840\t정확도: 85.69%\n", + "26\t검증 세트 손실: 10.049152\t최선의 손실: 10.049152\t정확도: 92.65%\n", + "27\t검증 세트 손실: 9.237292\t최선의 손실: 9.237292\t정확도: 93.12%\n", + "28\t검증 세트 손실: 9.476811\t최선의 손실: 9.237292\t정확도: 93.24%\n", + "29\t검증 세트 손실: 10.708006\t최선의 손실: 9.237292\t정확도: 94.14%\n", + "30\t검증 세트 손실: 13.993999\t최선의 손실: 9.237292\t정확도: 92.46%\n", + "31\t검증 세트 손실: 21.590630\t최선의 손실: 9.237292\t정확도: 92.89%\n", + "32\t검증 세트 손실: 23.139517\t최선의 손실: 9.237292\t정확도: 89.56%\n", + "33\t검증 세트 손실: 18.620823\t최선의 손실: 9.237292\t정확도: 94.72%\n", + "34\t검증 세트 손실: 15.096847\t최선의 손실: 9.237292\t정확도: 95.11%\n", + "35\t검증 세트 손실: 15.069177\t최선의 손실: 9.237292\t정확도: 94.21%\n", + "36\t검증 세트 손실: 15.119946\t최선의 손실: 9.237292\t정확도: 94.53%\n", + "37\t검증 세트 손실: 12.271963\t최선의 손실: 9.237292\t정확도: 93.67%\n", + "38\t검증 세트 손실: 11.960599\t최선의 손실: 9.237292\t정확도: 94.84%\n", + "39\t검증 세트 손실: 12.013241\t최선의 손실: 9.237292\t정확도: 92.53%\n", + "40\t검증 세트 손실: 11.752907\t최선의 손실: 9.237292\t정확도: 93.98%\n", + "41\t검증 세트 손실: 9.941492\t최선의 손실: 9.237292\t정확도: 94.45%\n", + "42\t검증 세트 손실: 9.948584\t최선의 손실: 9.237292\t정확도: 92.18%\n", + "43\t검증 세트 손실: 4.211153\t최선의 손실: 4.211153\t정확도: 94.57%\n", + "44\t검증 세트 손실: 5.849048\t최선의 손실: 4.211153\t정확도: 89.64%\n", + "45\t검증 세트 손실: 5.560969\t최선의 손실: 4.211153\t정확도: 92.46%\n", + "46\t검증 세트 손실: 5.781500\t최선의 손실: 4.211153\t정확도: 93.94%\n", + "47\t검증 세트 손실: 5.747996\t최선의 손실: 4.211153\t정확도: 94.64%\n", + "48\t검증 세트 손실: 5.934381\t최선의 손실: 4.211153\t정확도: 95.19%\n", + "49\t검증 세트 손실: 6.600091\t최선의 손실: 4.211153\t정확도: 95.78%\n", + "50\t검증 세트 손실: 6.292678\t최선의 손실: 4.211153\t정확도: 94.25%\n", + "51\t검증 세트 손실: 5.976447\t최선의 손실: 4.211153\t정확도: 96.17%\n", + "52\t검증 세트 손실: 5.394537\t최선의 손실: 4.211153\t정확도: 94.64%\n", + "53\t검증 세트 손실: 3.238991\t최선의 손실: 3.238991\t정확도: 94.02%\n", + "54\t검증 세트 손실: 5.345440\t최선의 손실: 3.238991\t정확도: 95.58%\n", + "55\t검증 세트 손실: 6.664933\t최선의 손실: 3.238991\t정확도: 93.20%\n", + "56\t검증 세트 손실: 6.237695\t최선의 손실: 3.238991\t정확도: 94.80%\n", + "57\t검증 세트 손실: 6.569271\t최선의 손실: 3.238991\t정확도: 95.97%\n", + "58\t검증 세트 손실: 6.171313\t최선의 손실: 3.238991\t정확도: 94.25%\n", + "59\t검증 세트 손실: 6.107453\t최선의 손실: 3.238991\t정확도: 96.48%\n", + "60\t검증 세트 손실: 6.506771\t최선의 손실: 3.238991\t정확도: 95.47%\n", + "61\t검증 세트 손실: 6.010725\t최선의 손실: 3.238991\t정확도: 96.17%\n", + "62\t검증 세트 손실: 5.703170\t최선의 손실: 3.238991\t정확도: 96.29%\n", + "63\t검증 세트 손실: 6.401982\t최선의 손실: 3.238991\t정확도: 94.49%\n", + "64\t검증 세트 손실: 6.771240\t최선의 손실: 3.238991\t정확도: 94.29%\n", + "65\t검증 세트 손실: 7.565666\t최선의 손실: 3.238991\t정확도: 96.33%\n", + "66\t검증 세트 손실: 7.169712\t최선의 손실: 3.238991\t정확도: 96.29%\n", + "67\t검증 세트 손실: 6.679502\t최선의 손실: 3.238991\t정확도: 95.35%\n", + "68\t검증 세트 손실: 6.051736\t최선의 손실: 3.238991\t정확도: 95.97%\n", + "69\t검증 세트 손실: 5.764506\t최선의 손실: 3.238991\t정확도: 97.07%\n", + "70\t검증 세트 손실: 5.995679\t최선의 손실: 3.238991\t정확도: 96.56%\n", + "71\t검증 세트 손실: 36348672.000000\t최선의 손실: 3.238991\t정확도: 22.01%\n", + "72\t검증 세트 손실: 4649325.000000\t최선의 손실: 3.238991\t정확도: 30.06%\n", + "73\t검증 세트 손실: 212691.546875\t최선의 손실: 3.238991\t정확도: 68.76%\n", + "74\t검증 세트 손실: 54932.804688\t최선의 손실: 3.238991\t정확도: 75.68%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90, total= 5.4s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 282.127258\t최선의 손실: 282.127258\t정확도: 32.33%\n", - "1\t검증 세트 손실: 13.180264\t최선의 손실: 13.180264\t정확도: 89.37%\n", - "2\t검증 세트 손실: 4.518518\t최선의 손실: 4.518518\t정확도: 90.03%\n", - "3\t검증 세트 손실: 2.014270\t최선의 손실: 2.014270\t정확도: 89.52%\n", - "4\t검증 세트 손실: 0.922805\t최선의 손실: 0.922805\t정확도: 93.94%\n", - "5\t검증 세트 손실: 0.713453\t최선의 손실: 0.713453\t정확도: 94.57%\n", - "6\t검증 세트 손실: 0.741638\t최선의 손실: 0.713453\t정확도: 95.27%\n", - "7\t검증 세트 손실: 0.677397\t최선의 손실: 0.677397\t정확도: 94.84%\n", - "8\t검증 세트 손실: 0.607238\t최선의 손실: 0.607238\t정확도: 93.63%\n", - "9\t검증 세트 손실: 0.673068\t최선의 손실: 0.607238\t정확도: 95.04%\n", - "10\t검증 세트 손실: 1.119752\t최선의 손실: 0.607238\t정확도: 95.97%\n", - "11\t검증 세트 손실: 0.805660\t최선의 손실: 0.607238\t정확도: 94.68%\n", - "12\t검증 세트 손실: 0.533558\t최선의 손실: 0.533558\t정확도: 96.64%\n", - "13\t검증 세트 손실: 0.491368\t최선의 손실: 0.491368\t정확도: 96.25%\n", - "14\t검증 세트 손실: 0.282638\t최선의 손실: 0.282638\t정확도: 96.91%\n", - "15\t검증 세트 손실: 0.257320\t최선의 손실: 0.257320\t정확도: 96.64%\n", - "16\t검증 세트 손실: 0.288632\t최선의 손실: 0.257320\t정확도: 95.43%\n", - "17\t검증 세트 손실: 0.203745\t최선의 손실: 0.203745\t정확도: 96.87%\n", - "18\t검증 세트 손실: 0.197672\t최선의 손실: 0.197672\t정확도: 97.30%\n", - "19\t검증 세트 손실: 0.192116\t최선의 손실: 0.192116\t정확도: 96.79%\n", - "20\t검증 세트 손실: 0.290392\t최선의 손실: 0.192116\t정확도: 95.90%\n", - "21\t검증 세트 손실: 0.187792\t최선의 손실: 0.187792\t정확도: 97.19%\n", - "22\t검증 세트 손실: 0.188861\t최선의 손실: 0.187792\t정확도: 96.95%\n", - "23\t검증 세트 손실: 0.205599\t최선의 손실: 0.187792\t정확도: 96.56%\n", - "24\t검증 세트 손실: 0.149950\t최선의 손실: 0.149950\t정확도: 97.15%\n", - "25\t검증 세트 손실: 0.182672\t최선의 손실: 0.149950\t정확도: 96.40%\n", - "26\t검증 세트 손실: 0.179624\t최선의 손실: 0.149950\t정확도: 97.07%\n", - "27\t검증 세트 손실: 0.215875\t최선의 손실: 0.149950\t정확도: 96.01%\n", - "28\t검증 세트 손실: 0.137885\t최선의 손실: 0.137885\t정확도: 97.85%\n", - "29\t검증 세트 손실: 0.145454\t최선의 손실: 0.137885\t정확도: 97.62%\n", - "30\t검증 세트 손실: 0.159099\t최선의 손실: 0.137885\t정확도: 97.42%\n", - "31\t검증 세트 손실: 0.129990\t최선의 손실: 0.129990\t정확도: 97.58%\n", - "32\t검증 세트 손실: 0.138724\t최선의 손실: 0.129990\t정확도: 97.62%\n", - "33\t검증 세트 손실: 0.151110\t최선의 손실: 0.129990\t정확도: 97.89%\n", - "34\t검증 세트 손실: 0.146401\t최선의 손실: 0.129990\t정확도: 97.85%\n", - "35\t검증 세트 손실: 0.129052\t최선의 손실: 0.129052\t정확도: 97.73%\n", - "36\t검증 세트 손실: 0.175818\t최선의 손실: 0.129052\t정확도: 97.34%\n", - "37\t검증 세트 손실: 0.175967\t최선의 손실: 0.129052\t정확도: 97.15%\n", - "38\t검증 세트 손실: 0.149950\t최선의 손실: 0.129052\t정확도: 97.62%\n", - "39\t검증 세트 손실: 0.129325\t최선의 손실: 0.129052\t정확도: 98.05%\n", - "40\t검증 세트 손실: 0.133003\t최선의 손실: 0.129052\t정확도: 97.89%\n", - "41\t검증 세트 손실: 0.188904\t최선의 손실: 0.129052\t정확도: 97.03%\n", - "42\t검증 세트 손실: 0.263754\t최선의 손실: 0.129052\t정확도: 96.64%\n", - "43\t검증 세트 손실: 0.173546\t최선의 손실: 0.129052\t정확도: 97.62%\n", - "44\t검증 세트 손실: 0.253551\t최선의 손실: 0.129052\t정확도: 96.29%\n", - "45\t검증 세트 손실: 0.212221\t최선의 손실: 0.129052\t정확도: 97.26%\n", - "46\t검증 세트 손실: 0.161625\t최선의 손실: 0.129052\t정확도: 97.62%\n", - "47\t검증 세트 손실: 0.142971\t최선의 손실: 0.129052\t정확도: 98.24%\n", - "48\t검증 세트 손실: 0.169362\t최선의 손실: 0.129052\t정확도: 97.58%\n", - "49\t검증 세트 손실: 0.201055\t최선의 손실: 0.129052\t정확도: 97.30%\n", - "50\t검증 세트 손실: 0.172198\t최선의 손실: 0.129052\t정확도: 97.93%\n", - "51\t검증 세트 손실: 0.215838\t최선의 손실: 0.129052\t정확도: 98.01%\n", - "52\t검증 세트 손실: 0.210989\t최선의 손실: 0.129052\t정확도: 97.65%\n", - "53\t검증 세트 손실: 0.262592\t최선의 손실: 0.129052\t정확도: 96.79%\n", - "54\t검증 세트 손실: 0.324196\t최선의 손실: 0.129052\t정확도: 96.56%\n", - "55\t검증 세트 손실: 0.205696\t최선의 손실: 0.129052\t정확도: 97.65%\n", - "56\t검증 세트 손실: 0.213988\t최선의 손실: 0.129052\t정확도: 97.30%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90, total= 5.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90 \n", - "0\t검증 세트 손실: 873.370972\t최선의 손실: 873.370972\t정확도: 20.45%\n", - "1\t검증 세트 손실: 27.610022\t최선의 손실: 27.610022\t정확도: 77.17%\n", - "2\t검증 세트 손실: 4.068854\t최선의 손실: 4.068854\t정확도: 91.48%\n", - "3\t검증 세트 손실: 1.597515\t최선의 손실: 1.597515\t정확도: 94.45%\n", - "4\t검증 세트 손실: 1.535136\t최선의 손실: 1.535136\t정확도: 92.10%\n", - "5\t검증 세트 손실: 0.924582\t최선의 손실: 0.924582\t정확도: 94.64%\n", - "6\t검증 세트 손실: 0.891371\t최선의 손실: 0.891371\t정확도: 93.94%\n", - "7\t검증 세트 손실: 0.986235\t최선의 손실: 0.891371\t정확도: 94.25%\n", - "8\t검증 세트 손실: 0.951238\t최선의 손실: 0.891371\t정확도: 92.30%\n", - "9\t검증 세트 손실: 2.126219\t최선의 손실: 0.891371\t정확도: 84.79%\n", - "10\t검증 세트 손실: 0.460685\t최선의 손실: 0.460685\t정확도: 95.82%\n", - "11\t검증 세트 손실: 0.474828\t최선의 손실: 0.460685\t정확도: 95.74%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "12\t검증 세트 손실: 0.569282\t최선의 손실: 0.460685\t정확도: 95.86%\n", - "13\t검증 세트 손실: 0.446970\t최선의 손실: 0.446970\t정확도: 96.87%\n", - "14\t검증 세트 손실: 0.552905\t최선의 손실: 0.446970\t정확도: 95.47%\n", - "15\t검증 세트 손실: 0.676743\t최선의 손실: 0.446970\t정확도: 94.29%\n", - "16\t검증 세트 손실: 0.781570\t최선의 손실: 0.446970\t정확도: 96.48%\n", - "17\t검증 세트 손실: 0.545105\t최선의 손실: 0.446970\t정확도: 96.91%\n", - "18\t검증 세트 손실: 0.449043\t최선의 손실: 0.446970\t정확도: 96.64%\n", - "19\t검증 세트 손실: 0.272469\t최선의 손실: 0.272469\t정확도: 97.07%\n", - "20\t검증 세트 손실: 0.427910\t최선의 손실: 0.272469\t정확도: 93.63%\n", - "21\t검증 세트 손실: 0.382450\t최선의 손실: 0.272469\t정확도: 95.66%\n", - "22\t검증 세트 손실: 0.284913\t최선의 손실: 0.272469\t정확도: 96.33%\n", - "23\t검증 세트 손실: 0.283387\t최선의 손실: 0.272469\t정확도: 97.19%\n", - "24\t검증 세트 손실: 0.233463\t최선의 손실: 0.233463\t정확도: 97.26%\n", - "25\t검증 세트 손실: 0.348983\t최선의 손실: 0.233463\t정확도: 95.70%\n", - "26\t검증 세트 손실: 0.240162\t최선의 손실: 0.233463\t정확도: 96.79%\n", - "27\t검증 세트 손실: 0.237886\t최선의 손실: 0.233463\t정확도: 97.42%\n", - "28\t검증 세트 손실: 0.229221\t최선의 손실: 0.229221\t정확도: 97.42%\n", - "29\t검증 세트 손실: 0.288951\t최선의 손실: 0.229221\t정확도: 95.93%\n", - "30\t검증 세트 손실: 0.285358\t최선의 손실: 0.229221\t정확도: 96.91%\n", - "31\t검증 세트 손실: 2.052584\t최선의 손실: 0.229221\t정확도: 83.46%\n", - "32\t검증 세트 손실: 0.404090\t최선의 손실: 0.229221\t정확도: 97.22%\n", - "33\t검증 세트 손실: 0.319337\t최선의 손실: 0.229221\t정확도: 96.68%\n", - "34\t검증 세트 손실: 0.399099\t최선의 손실: 0.229221\t정확도: 97.46%\n", - "35\t검증 세트 손실: 0.328975\t최선의 손실: 0.229221\t정확도: 97.15%\n", - "36\t검증 세트 손실: 0.237103\t최선의 손실: 0.229221\t정확도: 97.22%\n", - "37\t검증 세트 손실: 0.578590\t최선의 손실: 0.229221\t정확도: 96.36%\n", - "38\t검증 세트 손실: 0.723128\t최선의 손실: 0.229221\t정확도: 96.56%\n", - "39\t검증 세트 손실: 0.423164\t최선의 손실: 0.229221\t정확도: 97.19%\n", - "40\t검증 세트 손실: 0.281639\t최선의 손실: 0.229221\t정확도: 97.54%\n", - "41\t검증 세트 손실: 0.195646\t최선의 손실: 0.195646\t정확도: 96.87%\n", - "42\t검증 세트 손실: 0.214120\t최선의 손실: 0.195646\t정확도: 97.46%\n", - "43\t검증 세트 손실: 0.190019\t최선의 손실: 0.190019\t정확도: 97.22%\n", - "44\t검증 세트 손실: 0.166766\t최선의 손실: 0.166766\t정확도: 97.58%\n", - "45\t검증 세트 손실: 0.167684\t최선의 손실: 0.166766\t정확도: 97.46%\n", - "46\t검증 세트 손실: 0.178557\t최선의 손실: 0.166766\t정확도: 97.46%\n", - "47\t검증 세트 손실: 0.252749\t최선의 손실: 0.166766\t정확도: 96.60%\n", - "48\t검증 세트 손실: 0.167429\t최선의 손실: 0.166766\t정확도: 97.34%\n", - "49\t검증 세트 손실: 0.163534\t최선의 손실: 0.163534\t정확도: 97.34%\n", - "50\t검증 세트 손실: 0.182053\t최선의 손실: 0.163534\t정확도: 97.54%\n", - "51\t검증 세트 손실: 0.144452\t최선의 손실: 0.144452\t정확도: 97.77%\n", - "52\t검증 세트 손실: 0.145313\t최선의 손실: 0.144452\t정확도: 97.62%\n", - "53\t검증 세트 손실: 0.182866\t최선의 손실: 0.144452\t정확도: 97.19%\n", - "54\t검증 세트 손실: 0.208894\t최선의 손실: 0.144452\t정확도: 96.79%\n", - "55\t검증 세트 손실: 0.195044\t최선의 손실: 0.144452\t정확도: 96.95%\n", - "56\t검증 세트 손실: 0.137982\t최선의 손실: 0.137982\t정확도: 97.73%\n", - "57\t검증 세트 손실: 0.139858\t최선의 손실: 0.137982\t정확도: 97.89%\n", - "58\t검증 세트 손실: 0.154100\t최선의 손실: 0.137982\t정확도: 97.42%\n", - "59\t검증 세트 손실: 0.198994\t최선의 손실: 0.137982\t정확도: 97.22%\n", - "60\t검증 세트 손실: 0.150858\t최선의 손실: 0.137982\t정확도: 97.65%\n", - "61\t검증 세트 손실: 0.174443\t최선의 손실: 0.137982\t정확도: 97.11%\n", - "62\t검증 세트 손실: 0.142614\t최선의 손실: 0.137982\t정확도: 97.22%\n", - "63\t검증 세트 손실: 0.160285\t최선의 손실: 0.137982\t정확도: 97.50%\n", - "64\t검증 세트 손실: 0.147266\t최선의 손실: 0.137982\t정확도: 97.73%\n", - "65\t검증 세트 손실: 0.218413\t최선의 손실: 0.137982\t정확도: 97.30%\n", - "66\t검증 세트 손실: 0.139224\t최선의 손실: 0.137982\t정확도: 98.05%\n", - "67\t검증 세트 손실: 0.180549\t최선의 손실: 0.137982\t정확도: 97.38%\n", - "68\t검증 세트 손실: 0.167369\t최선의 손실: 0.137982\t정확도: 97.62%\n", - "69\t검증 세트 손실: 0.183546\t최선의 손실: 0.137982\t정확도: 97.26%\n", - "70\t검증 세트 손실: 0.196321\t최선의 손실: 0.137982\t정확도: 97.26%\n", - "71\t검증 세트 손실: 0.161517\t최선의 손실: 0.137982\t정확도: 97.77%\n", - "72\t검증 세트 손실: 0.150964\t최선의 손실: 0.137982\t정확도: 97.69%\n", - "73\t검증 세트 손실: 0.135124\t최선의 손실: 0.135124\t정확도: 97.65%\n", - "74\t검증 세트 손실: 0.158261\t최선의 손실: 0.135124\t정확도: 97.77%\n", - "75\t검증 세트 손실: 0.138820\t최선의 손실: 0.135124\t정확도: 97.69%\n", - "76\t검증 세트 손실: 0.274215\t최선의 손실: 0.135124\t정확도: 96.60%\n", - "77\t검증 세트 손실: 0.294717\t최선의 손실: 0.135124\t정확도: 97.34%\n", - "78\t검증 세트 손실: 0.264875\t최선의 손실: 0.135124\t정확도: 97.26%\n", - "79\t검증 세트 손실: 0.286378\t최선의 손실: 0.135124\t정확도: 96.48%\n", - "80\t검증 세트 손실: 0.367494\t최선의 손실: 0.135124\t정확도: 96.95%\n", - "81\t검증 세트 손실: 0.619192\t최선의 손실: 0.135124\t정확도: 96.56%\n", - "82\t검증 세트 손실: 0.602679\t최선의 손실: 0.135124\t정확도: 97.26%\n", - "83\t검증 세트 손실: 0.551204\t최선의 손실: 0.135124\t정확도: 97.77%\n", - "84\t검증 세트 손실: 0.412516\t최선의 손실: 0.135124\t정확도: 97.85%\n", - "85\t검증 세트 손실: 0.312202\t최선의 손실: 0.135124\t정확도: 97.65%\n", - "86\t검증 세트 손실: 0.403900\t최선의 손실: 0.135124\t정확도: 97.73%\n", - "87\t검증 세트 손실: 0.270737\t최선의 손실: 0.135124\t정확도: 97.58%\n", - "88\t검증 세트 손실: 0.337094\t최선의 손실: 0.135124\t정확도: 97.34%\n", - "89\t검증 세트 손실: 2.248111\t최선의 손실: 0.135124\t정확도: 95.31%\n", - "90\t검증 세트 손실: 1.746803\t최선의 손실: 0.135124\t정확도: 95.93%\n", - "91\t검증 세트 손실: 0.672275\t최선의 손실: 0.135124\t정확도: 97.46%\n", - "92\t검증 세트 손실: 1.469252\t최선의 손실: 0.135124\t정확도: 97.26%\n", - "93\t검증 세트 손실: 0.413384\t최선의 손실: 0.135124\t정확도: 95.23%\n", - "94\t검증 세트 손실: 0.489472\t최선의 손실: 0.135124\t정확도: 97.22%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f736d745d08>, learning_rate=0.1, n_neurons=90, total= 8.6s\n" + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc26793ca60>, total= 5.8s\n" ] }, { "name": "stderr", "output_type": "stream", "text": [ - "[Parallel(n_jobs=1)]: Done 150 out of 150 | elapsed: 39.4min finished\n" + "[Parallel(n_jobs=1)]: Done 150 out of 150 | elapsed: 37.9min finished\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.110219\t최선의 손실: 0.110219\t정확도: 96.64%\n", - "1\t검증 세트 손실: 0.073379\t최선의 손실: 0.073379\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.062589\t최선의 손실: 0.062589\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.060639\t최선의 손실: 0.060639\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.046205\t최선의 손실: 0.046205\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.066354\t최선의 손실: 0.046205\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.035539\t최선의 손실: 0.035539\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.034738\t최선의 손실: 0.034738\t정확도: 99.02%\n", - "8\t검증 세트 손실: 0.041379\t최선의 손실: 0.034738\t정확도: 98.94%\n", - "9\t검증 세트 손실: 0.045923\t최선의 손실: 0.034738\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.039392\t최선의 손실: 0.034738\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.044926\t최선의 손실: 0.034738\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.057086\t최선의 손실: 0.034738\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.045179\t최선의 손실: 0.034738\t정확도: 98.91%\n", - "14\t검증 세트 손실: 0.050866\t최선의 손실: 0.034738\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.070704\t최선의 손실: 0.034738\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.058181\t최선의 손실: 0.034738\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.035154\t최선의 손실: 0.034738\t정확도: 99.10%\n", - "18\t검증 세트 손실: 0.036058\t최선의 손실: 0.034738\t정확도: 99.10%\n", - "19\t검증 세트 손실: 0.031061\t최선의 손실: 0.031061\t정확도: 99.26%\n", - "20\t검증 세트 손실: 0.038540\t최선의 손실: 0.031061\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.034978\t최선의 손실: 0.031061\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.035325\t최선의 손실: 0.031061\t정확도: 99.26%\n", - "23\t검증 세트 손실: 0.047618\t최선의 손실: 0.031061\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.056481\t최선의 손실: 0.031061\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.037995\t최선의 손실: 0.031061\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.035194\t최선의 손실: 0.031061\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.031699\t최선의 손실: 0.031061\t정확도: 99.45%\n", - "28\t검증 세트 손실: 0.036009\t최선의 손실: 0.031061\t정확도: 99.30%\n", - "29\t검증 세트 손실: 0.041670\t최선의 손실: 0.031061\t정확도: 99.18%\n", - "30\t검증 세트 손실: 0.058693\t최선의 손실: 0.031061\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.034367\t최선의 손실: 0.031061\t정확도: 99.26%\n", - "32\t검증 세트 손실: 0.041851\t최선의 손실: 0.031061\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.049129\t최선의 손실: 0.031061\t정확도: 99.14%\n", - "34\t검증 세트 손실: 0.056744\t최선의 손실: 0.031061\t정확도: 98.75%\n", - "35\t검증 세트 손실: 0.046107\t최선의 손실: 0.031061\t정확도: 99.02%\n", - "36\t검증 세트 손실: 0.044106\t최선의 손실: 0.031061\t정확도: 98.98%\n", - "37\t검증 세트 손실: 0.050291\t최선의 손실: 0.031061\t정확도: 98.98%\n", - "38\t검증 세트 손실: 0.051503\t최선의 손실: 0.031061\t정확도: 98.79%\n", - "39\t검증 세트 손실: 0.052207\t최선의 손실: 0.031061\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.051642\t최선의 손실: 0.031061\t정확도: 98.87%\n", + "0\t검증 세트 손실: 0.079674\t최선의 손실: 0.079674\t정확도: 97.65%\n", + "1\t검증 세트 손실: 0.050692\t최선의 손실: 0.050692\t정확도: 98.36%\n", + "2\t검증 세트 손실: 0.046181\t최선의 손실: 0.046181\t정확도: 98.59%\n", + "3\t검증 세트 손실: 0.056624\t최선의 손실: 0.046181\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.033207\t최선의 손실: 0.033207\t정확도: 98.94%\n", + "5\t검증 세트 손실: 0.043384\t최선의 손실: 0.033207\t정확도: 98.71%\n", + "6\t검증 세트 손실: 0.031938\t최선의 손실: 0.031938\t정확도: 99.02%\n", + "7\t검증 세트 손실: 0.036985\t최선의 손실: 0.031938\t정확도: 99.02%\n", + "8\t검증 세트 손실: 0.033357\t최선의 손실: 0.031938\t정확도: 99.06%\n", + "9\t검증 세트 손실: 0.041145\t최선의 손실: 0.031938\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.041290\t최선의 손실: 0.031938\t정확도: 99.18%\n", + "11\t검증 세트 손실: 0.035958\t최선의 손실: 0.031938\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.052235\t최선의 손실: 0.031938\t정확도: 99.10%\n", + "13\t검증 세트 손실: 0.072607\t최선의 손실: 0.031938\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.066216\t최선의 손실: 0.031938\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.062328\t최선의 손실: 0.031938\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.063644\t최선의 손실: 0.031938\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.049681\t최선의 손실: 0.031938\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.092481\t최선의 손실: 0.031938\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.072723\t최선의 손실: 0.031938\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.045822\t최선의 손실: 0.031938\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.093228\t최선의 손실: 0.031938\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.105798\t최선의 손실: 0.031938\t정확도: 98.24%\n", + "23\t검증 세트 손실: 14.602711\t최선의 손실: 0.031938\t정확도: 85.77%\n", + "24\t검증 세트 손실: 0.502163\t최선의 손실: 0.031938\t정확도: 95.93%\n", + "25\t검증 세트 손실: 0.305920\t최선의 손실: 0.031938\t정확도: 95.97%\n", + "26\t검증 세트 손실: 0.201870\t최선의 손실: 0.031938\t정확도: 97.69%\n", + "27\t검증 세트 손실: 0.160071\t최선의 손실: 0.031938\t정확도: 98.05%\n", "조기 종료!\n" ] }, @@ -6283,14 +6284,14 @@ "data": { "text/plain": [ "RandomizedSearchCV(cv=None, error_score='raise',\n", - " estimator=DNNClassifier(activation=,\n", + " estimator=DNNClassifier(activation=,\n", " batch_norm_momentum=None, batch_size=20, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=100,\n", " optimizer_class=,\n", " random_state=42),\n", " fit_params=None, iid=True, n_iter=50, n_jobs=1,\n", - " param_distributions={'batch_size': [10, 50, 100, 500], 'activation': [, , .parametrized_leaky_relu at 0x7f737fb55048>, .parametrized_leaky_relu at 0x7f736d745d08>], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160]},\n", + " param_distributions={'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160], 'batch_size': [10, 50, 100, 500], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'activation': [, , .parametrized_leaky_relu at 0x7fc2679b7268>, .parametrized_leaky_relu at 0x7fc26793ca60>]},\n", " pre_dispatch='2*n_jobs', random_state=42, refit=True,\n", " return_train_score='warn', scoring=None, verbose=2)" ] @@ -6334,10 +6335,10 @@ { "data": { "text/plain": [ - "{'activation': ,\n", - " 'batch_size': 500,\n", + "{'n_neurons': 140,\n", " 'learning_rate': 0.01,\n", - " 'n_neurons': 140}" + " 'batch_size': 500,\n", + " 'activation': .parametrized_leaky_relu(z, name=None)>}" ] }, "execution_count": 14, @@ -6357,7 +6358,7 @@ { "data": { "text/plain": [ - "0.9918272037361354" + "0.9906596614127262" ] }, "execution_count": 15, @@ -6423,59 +6424,43 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.086888\t최선의 손실: 0.086888\t정확도: 97.26%\n", - "1\t검증 세트 손실: 0.064788\t최선의 손실: 0.064788\t정확도: 98.01%\n", - "2\t검증 세트 손실: 0.061523\t최선의 손실: 0.061523\t정확도: 98.28%\n", - "3\t검증 세트 손실: 0.058581\t최선의 손실: 0.058581\t정확도: 98.16%\n", - "4\t검증 세트 손실: 0.053322\t최선의 손실: 0.053322\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.046818\t최선의 손실: 0.046818\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.044525\t최선의 손실: 0.044525\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.049822\t최선의 손실: 0.044525\t정확도: 98.32%\n", - "8\t검증 세트 손실: 0.048372\t최선의 손실: 0.044525\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.044103\t최선의 손실: 0.044103\t정확도: 98.63%\n", - "10\t검증 세트 손실: 0.047062\t최선의 손실: 0.044103\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.073834\t최선의 손실: 0.044103\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.038117\t최선의 손실: 0.038117\t정확도: 99.10%\n", - "13\t검증 세트 손실: 0.060503\t최선의 손실: 0.038117\t정확도: 98.59%\n", - "14\t검증 세트 손실: 0.053996\t최선의 손실: 0.038117\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.060920\t최선의 손실: 0.038117\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.043309\t최선의 손실: 0.038117\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.063278\t최선의 손실: 0.038117\t정확도: 98.55%\n", - "18\t검증 세트 손실: 0.063923\t최선의 손실: 0.038117\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.056511\t최선의 손실: 0.038117\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.057804\t최선의 손실: 0.038117\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.040331\t최선의 손실: 0.038117\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.031264\t최선의 손실: 0.031264\t정확도: 99.26%\n", - "23\t검증 세트 손실: 0.058548\t최선의 손실: 0.031264\t정확도: 99.10%\n", - "24\t검증 세트 손실: 0.088708\t최선의 손실: 0.031264\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.049553\t최선의 손실: 0.031264\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.046667\t최선의 손실: 0.031264\t정확도: 99.26%\n", - "27\t검증 세트 손실: 0.044422\t최선의 손실: 0.031264\t정확도: 99.22%\n", - "28\t검증 세트 손실: 0.073061\t최선의 손실: 0.031264\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.040139\t최선의 손실: 0.031264\t정확도: 99.26%\n", - "30\t검증 세트 손실: 0.050345\t최선의 손실: 0.031264\t정확도: 99.18%\n", - "31\t검증 세트 손실: 0.051355\t최선의 손실: 0.031264\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.057797\t최선의 손실: 0.031264\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.057988\t최선의 손실: 0.031264\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.084701\t최선의 손실: 0.031264\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.057586\t최선의 손실: 0.031264\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.062692\t최선의 손실: 0.031264\t정확도: 99.02%\n", - "37\t검증 세트 손실: 0.065022\t최선의 손실: 0.031264\t정확도: 98.83%\n", - "38\t검증 세트 손실: 0.064432\t최선의 손실: 0.031264\t정확도: 98.94%\n", - "39\t검증 세트 손실: 0.064081\t최선의 손실: 0.031264\t정확도: 98.98%\n", - "40\t검증 세트 손실: 0.102783\t최선의 손실: 0.031264\t정확도: 99.06%\n", - "41\t검증 세트 손실: 0.076302\t최선의 손실: 0.031264\t정확도: 98.87%\n", - "42\t검증 세트 손실: 0.057563\t최선의 손실: 0.031264\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.061898\t최선의 손실: 0.031264\t정확도: 99.10%\n", + "0\t검증 세트 손실: 0.062653\t최선의 손실: 0.062653\t정확도: 98.28%\n", + "1\t검증 세트 손실: 0.052099\t최선의 손실: 0.052099\t정확도: 98.12%\n", + "2\t검증 세트 손실: 0.043214\t최선의 손실: 0.043214\t정확도: 98.67%\n", + "3\t검증 세트 손실: 0.053977\t최선의 손실: 0.043214\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.049614\t최선의 손실: 0.043214\t정확도: 98.28%\n", + "5\t검증 세트 손실: 0.036652\t최선의 손실: 0.036652\t정확도: 98.91%\n", + "6\t검증 세트 손실: 0.035339\t최선의 손실: 0.035339\t정확도: 99.14%\n", + "7\t검증 세트 손실: 0.041973\t최선의 손실: 0.035339\t정확도: 98.91%\n", + "8\t검증 세트 손실: 0.041088\t최선의 손실: 0.035339\t정확도: 99.02%\n", + "9\t검증 세트 손실: 0.053724\t최선의 손실: 0.035339\t정확도: 98.91%\n", + "10\t검증 세트 손실: 0.066856\t최선의 손실: 0.035339\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.039639\t최선의 손실: 0.035339\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.049237\t최선의 손실: 0.035339\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.048033\t최선의 손실: 0.035339\t정확도: 99.14%\n", + "14\t검증 세트 손실: 0.058770\t최선의 손실: 0.035339\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.087431\t최선의 손실: 0.035339\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.060971\t최선의 손실: 0.035339\t정확도: 99.02%\n", + "17\t검증 세트 손실: 0.299523\t최선의 손실: 0.035339\t정확도: 97.54%\n", + "18\t검증 세트 손실: 0.879952\t최선의 손실: 0.035339\t정확도: 94.72%\n", + "19\t검증 세트 손실: 0.152262\t최선의 손실: 0.035339\t정확도: 97.85%\n", + "20\t검증 세트 손실: 0.130534\t최선의 손실: 0.035339\t정확도: 98.08%\n", + "21\t검증 세트 손실: 0.149798\t최선의 손실: 0.035339\t정확도: 97.81%\n", + "22\t검증 세트 손실: 0.135476\t최선의 손실: 0.035339\t정확도: 98.12%\n", + "23\t검증 세트 손실: 0.114331\t최선의 손실: 0.035339\t정확도: 98.32%\n", + "24\t검증 세트 손실: 0.114489\t최선의 손실: 0.035339\t정확도: 98.28%\n", + "25\t검증 세트 손실: 0.128305\t최선의 손실: 0.035339\t정확도: 98.24%\n", + "26\t검증 세트 손실: 0.121430\t최선의 손실: 0.035339\t정확도: 98.55%\n", + "27\t검증 세트 손실: 0.128624\t최선의 손실: 0.035339\t정확도: 98.36%\n", "조기 종료!\n" ] }, { "data": { "text/plain": [ - "DNNClassifier(activation=.parametrized_leaky_relu at 0x7f736d757a60>,\n", + "DNNClassifier(activation=.parametrized_leaky_relu at 0x7fc0d069f730>,\n", " batch_norm_momentum=None, batch_size=500, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=120,\n", " optimizer_class=,\n", " random_state=42)" @@ -6514,7 +6499,7 @@ { "data": { "text/plain": [ - "0.9922163845106052" + "0.9885191671531426" ] }, "execution_count": 18, @@ -6543,66 +6528,83 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.037753\t최선의 손실: 0.037753\t정확도: 98.91%\n", - "1\t검증 세트 손실: 0.041754\t최선의 손실: 0.037753\t정확도: 98.75%\n", - "2\t검증 세트 손실: 0.039994\t최선의 손실: 0.037753\t정확도: 98.71%\n", - "3\t검증 세트 손실: 0.041313\t최선의 손실: 0.037753\t정확도: 98.98%\n", - "4\t검증 세트 손실: 0.041555\t최선의 손실: 0.037753\t정확도: 98.75%\n", - "5\t검증 세트 손실: 0.040498\t최선의 손실: 0.037753\t정확도: 99.02%\n", - "6\t검증 세트 손실: 0.043453\t최선의 손실: 0.037753\t정확도: 98.94%\n", - "7\t검증 세트 손실: 0.037884\t최선의 손실: 0.037753\t정확도: 99.06%\n", - "8\t검증 세트 손실: 0.031270\t최선의 손실: 0.031270\t정확도: 99.18%\n", - "9\t검증 세트 손실: 0.037382\t최선의 손실: 0.031270\t정확도: 99.14%\n", - "10\t검증 세트 손실: 0.037925\t최선의 손실: 0.031270\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.044685\t최선의 손실: 0.031270\t정확도: 98.91%\n", - "12\t검증 세트 손실: 0.032196\t최선의 손실: 0.031270\t정확도: 99.18%\n", - "13\t검증 세트 손실: 0.046368\t최선의 손실: 0.031270\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.037728\t최선의 손실: 0.031270\t정확도: 99.10%\n", - "15\t검증 세트 손실: 0.040095\t최선의 손실: 0.031270\t정확도: 99.18%\n", - "16\t검증 세트 손실: 0.034966\t최선의 손실: 0.031270\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.041942\t최선의 손실: 0.031270\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.039248\t최선의 손실: 0.031270\t정확도: 99.22%\n", - "19\t검증 세트 손실: 0.043054\t최선의 손실: 0.031270\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.030199\t최선의 손실: 0.030199\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.034276\t최선의 손실: 0.030199\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.046206\t최선의 손실: 0.030199\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.035547\t최선의 손실: 0.030199\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.038880\t최선의 손실: 0.030199\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.042313\t최선의 손실: 0.030199\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.047189\t최선의 손실: 0.030199\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.052189\t최선의 손실: 0.030199\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.025986\t최선의 손실: 0.025986\t정확도: 99.53%\n", - "29\t검증 세트 손실: 0.021600\t최선의 손실: 0.021600\t정확도: 99.45%\n", - "30\t검증 세트 손실: 0.030939\t최선의 손실: 0.021600\t정확도: 99.10%\n", - "31\t검증 세트 손실: 0.037651\t최선의 손실: 0.021600\t정확도: 99.26%\n", - "32\t검증 세트 손실: 0.036357\t최선의 손실: 0.021600\t정확도: 99.18%\n", - "33\t검증 세트 손실: 0.032924\t최선의 손실: 0.021600\t정확도: 99.18%\n", - "34\t검증 세트 손실: 0.037478\t최선의 손실: 0.021600\t정확도: 99.22%\n", - "35\t검증 세트 손실: 0.050882\t최선의 손실: 0.021600\t정확도: 98.98%\n", - "36\t검증 세트 손실: 0.041661\t최선의 손실: 0.021600\t정확도: 99.18%\n", - "37\t검증 세트 손실: 0.057605\t최선의 손실: 0.021600\t정확도: 98.67%\n", - "38\t검증 세트 손실: 0.045729\t최선의 손실: 0.021600\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.044777\t최선의 손실: 0.021600\t정확도: 99.06%\n", - "40\t검증 세트 손실: 0.046448\t최선의 손실: 0.021600\t정확도: 99.18%\n", - "41\t검증 세트 손실: 0.044785\t최선의 손실: 0.021600\t정확도: 99.22%\n", - "42\t검증 세트 손실: 0.043182\t최선의 손실: 0.021600\t정확도: 99.22%\n", - "43\t검증 세트 손실: 0.023467\t최선의 손실: 0.021600\t정확도: 99.49%\n", - "44\t검증 세트 손실: 0.035105\t최선의 손실: 0.021600\t정확도: 99.30%\n", - "45\t검증 세트 손실: 0.040262\t최선의 손실: 0.021600\t정확도: 99.22%\n", - "46\t검증 세트 손실: 0.046612\t최선의 손실: 0.021600\t정확도: 99.14%\n", - "47\t검증 세트 손실: 0.054809\t최선의 손실: 0.021600\t정확도: 99.06%\n", - "48\t검증 세트 손실: 0.033765\t최선의 손실: 0.021600\t정확도: 99.14%\n", - "49\t검증 세트 손실: 0.024501\t최선의 손실: 0.021600\t정확도: 99.30%\n", - "50\t검증 세트 손실: 0.039177\t최선의 손실: 0.021600\t정확도: 99.14%\n", + "0\t검증 세트 손실: 0.045280\t최선의 손실: 0.045280\t정확도: 98.67%\n", + "1\t검증 세트 손실: 0.048121\t최선의 손실: 0.045280\t정확도: 98.48%\n", + "2\t검증 세트 손실: 0.039111\t최선의 손실: 0.039111\t정확도: 98.79%\n", + "3\t검증 세트 손실: 0.054545\t최선의 손실: 0.039111\t정확도: 98.71%\n", + "4\t검증 세트 손실: 0.042841\t최선의 손실: 0.039111\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.035590\t최선의 손실: 0.035590\t정확도: 99.06%\n", + "6\t검증 세트 손실: 0.041090\t최선의 손실: 0.035590\t정확도: 98.79%\n", + "7\t검증 세트 손실: 0.038669\t최선의 손실: 0.035590\t정확도: 99.10%\n", + "8\t검증 세트 손실: 0.034593\t최선의 손실: 0.034593\t정확도: 99.02%\n", + "9\t검증 세트 손실: 0.040407\t최선의 손실: 0.034593\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.043605\t최선의 손실: 0.034593\t정확도: 98.98%\n", + "11\t검증 세트 손실: 0.064152\t최선의 손실: 0.034593\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.043679\t최선의 손실: 0.034593\t정확도: 98.91%\n", + "13\t검증 세트 손실: 0.038971\t최선의 손실: 0.034593\t정확도: 99.14%\n", + "14\t검증 세트 손실: 0.055615\t최선의 손실: 0.034593\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.050593\t최선의 손실: 0.034593\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.033290\t최선의 손실: 0.033290\t정확도: 99.22%\n", + "17\t검증 세트 손실: 0.034119\t최선의 손실: 0.033290\t정확도: 99.30%\n", + "18\t검증 세트 손실: 0.047325\t최선의 손실: 0.033290\t정확도: 99.06%\n", + "19\t검증 세트 손실: 0.038772\t최선의 손실: 0.033290\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.047738\t최선의 손실: 0.033290\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.028944\t최선의 손실: 0.028944\t정확도: 99.14%\n", + "22\t검증 세트 손실: 0.027723\t최선의 손실: 0.027723\t정확도: 99.45%\n", + "23\t검증 세트 손실: 0.039603\t최선의 손실: 0.027723\t정확도: 99.18%\n", + "24\t검증 세트 손실: 0.044362\t최선의 손실: 0.027723\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.038676\t최선의 손실: 0.027723\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.028605\t최선의 손실: 0.027723\t정확도: 99.30%\n", + "27\t검증 세트 손실: 0.025117\t최선의 손실: 0.025117\t정확도: 99.37%\n", + "28\t검증 세트 손실: 0.022541\t최선의 손실: 0.022541\t정확도: 99.49%\n", + "29\t검증 세트 손실: 0.055620\t최선의 손실: 0.022541\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.050128\t최선의 손실: 0.022541\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.032505\t최선의 손실: 0.022541\t정확도: 99.18%\n", + "32\t검증 세트 손실: 0.037078\t최선의 손실: 0.022541\t정확도: 99.14%\n", + "33\t검증 세트 손실: 0.028935\t최선의 손실: 0.022541\t정확도: 99.45%\n", + "34\t검증 세트 손실: 0.025805\t최선의 손실: 0.022541\t정확도: 99.30%\n", + "35\t검증 세트 손실: 0.023688\t최선의 손실: 0.022541\t정확도: 99.53%\n", + "36\t검증 세트 손실: 0.022504\t최선의 손실: 0.022504\t정확도: 99.57%\n", + "37\t검증 세트 손실: 0.023818\t최선의 손실: 0.022504\t정확도: 99.53%\n", + "38\t검증 세트 손실: 0.022360\t최선의 손실: 0.022360\t정확도: 99.53%\n", + "39\t검증 세트 손실: 0.022381\t최선의 손실: 0.022360\t정확도: 99.49%\n", + "40\t검증 세트 손실: 0.022347\t최선의 손실: 0.022347\t정확도: 99.49%\n", + "41\t검증 세트 손실: 0.022430\t최선의 손실: 0.022347\t정확도: 99.53%\n", + "42\t검증 세트 손실: 0.022442\t최선의 손실: 0.022347\t정확도: 99.53%\n", + "43\t검증 세트 손실: 0.022677\t최선의 손실: 0.022347\t정확도: 99.53%\n", + "44\t검증 세트 손실: 0.023267\t최선의 손실: 0.022347\t정확도: 99.49%\n", + "45\t검증 세트 손실: 0.021265\t최선의 손실: 0.021265\t정확도: 99.57%\n", + "46\t검증 세트 손실: 0.020802\t최선의 손실: 0.020802\t정확도: 99.57%\n", + "47\t검증 세트 손실: 0.020980\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "48\t검증 세트 손실: 0.021477\t최선의 손실: 0.020802\t정확도: 99.61%\n", + "49\t검증 세트 손실: 0.021166\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "50\t검증 세트 손실: 0.021221\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "51\t검증 세트 손실: 0.021880\t최선의 손실: 0.020802\t정확도: 99.57%\n", + "52\t검증 세트 손실: 0.021472\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "53\t검증 세트 손실: 0.021794\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "54\t검증 세트 손실: 0.021375\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "55\t검증 세트 손실: 0.022060\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "56\t검증 세트 손실: 0.022976\t최선의 손실: 0.020802\t정확도: 99.61%\n", + "57\t검증 세트 손실: 0.021952\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "58\t검증 세트 손실: 0.023509\t최선의 손실: 0.020802\t정확도: 99.61%\n", + "59\t검증 세트 손실: 0.023344\t최선의 손실: 0.020802\t정확도: 99.61%\n", + "60\t검증 세트 손실: 0.023285\t최선의 손실: 0.020802\t정확도: 99.69%\n", + "61\t검증 세트 손실: 0.023472\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "62\t검증 세트 손실: 0.023305\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "63\t검증 세트 손실: 0.023249\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "64\t검증 세트 손실: 0.023355\t최선의 손실: 0.020802\t정확도: 99.65%\n", + "65\t검증 세트 손실: 0.031773\t최선의 손실: 0.020802\t정확도: 99.37%\n", + "66\t검증 세트 손실: 0.075925\t최선의 손실: 0.020802\t정확도: 98.51%\n", + "67\t검증 세트 손실: 0.043208\t최선의 손실: 0.020802\t정확도: 99.06%\n", "조기 종료!\n" ] }, { "data": { "text/plain": [ - "DNNClassifier(activation=.parametrized_leaky_relu at 0x7f736d757d90>,\n", + "DNNClassifier(activation=.parametrized_leaky_relu at 0x7fc0d069f0d0>,\n", " batch_norm_momentum=0.95, batch_size=500, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=120,\n", " optimizer_class=,\n", " random_state=42)" @@ -6630,12 +6632,14 @@ { "cell_type": "code", "execution_count": 20, - "metadata": {}, + "metadata": { + "scrolled": true + }, "outputs": [ { "data": { "text/plain": [ - "0.9933839268340144" + "0.9951352403191283" ] }, "execution_count": 20, @@ -6665,3077 +6669,1797 @@ "output_type": "stream", "text": [ "Fitting 3 folds for each of 50 candidates, totalling 150 fits\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70 \n", - "0\t검증 세트 손실: 0.063628\t최선의 손실: 0.063628\t정확도: 98.16%\n", - "1\t검증 세트 손실: 0.078497\t최선의 손실: 0.063628\t정확도: 97.81%\n", - "2\t검증 세트 손실: 0.081407\t최선의 손실: 0.063628\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.062405\t최선의 손실: 0.062405\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.039643\t최선의 손실: 0.039643\t정확도: 98.98%\n", - "5\t검증 세트 손실: 0.043090\t최선의 손실: 0.039643\t정확도: 98.83%\n", - "6\t검증 세트 손실: 0.039838\t최선의 손실: 0.039643\t정확도: 98.94%\n", - "7\t검증 세트 손실: 0.041517\t최선의 손실: 0.039643\t정확도: 99.10%\n", - "8\t검증 세트 손실: 0.062114\t최선의 손실: 0.039643\t정확도: 98.51%\n", - "9\t검증 세트 손실: 0.046949\t최선의 손실: 0.039643\t정확도: 98.94%\n", - "10\t검증 세트 손실: 0.045700\t최선의 손실: 0.039643\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.034234\t최선의 손실: 0.034234\t정확도: 99.10%\n", - "12\t검증 세트 손실: 0.037071\t최선의 손실: 0.034234\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.046539\t최선의 손실: 0.034234\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.042388\t최선의 손실: 0.034234\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.034174\t최선의 손실: 0.034174\t정확도: 99.22%\n", - "16\t검증 세트 손실: 0.039555\t최선의 손실: 0.034174\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.036716\t최선의 손실: 0.034174\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.045392\t최선의 손실: 0.034174\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.038646\t최선의 손실: 0.034174\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.039447\t최선의 손실: 0.034174\t정확도: 99.14%\n", - "21\t검증 세트 손실: 0.051483\t최선의 손실: 0.034174\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.037612\t최선의 손실: 0.034174\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.044852\t최선의 손실: 0.034174\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.047999\t최선의 손실: 0.034174\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.042913\t최선의 손실: 0.034174\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.044003\t최선의 손실: 0.034174\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.046793\t최선의 손실: 0.034174\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.035474\t최선의 손실: 0.034174\t정확도: 99.18%\n", - "29\t검증 세트 손실: 0.036406\t최선의 손실: 0.034174\t정확도: 99.22%\n", - "30\t검증 세트 손실: 0.045975\t최선의 손실: 0.034174\t정확도: 99.18%\n", - "31\t검증 세트 손실: 0.039438\t최선의 손실: 0.034174\t정확도: 99.22%\n", - "32\t검증 세트 손실: 0.055773\t최선의 손실: 0.034174\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.050222\t최선의 손실: 0.034174\t정확도: 98.91%\n", - "34\t검증 세트 손실: 0.041436\t최선의 손실: 0.034174\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.051475\t최선의 손실: 0.034174\t정확도: 98.79%\n", - "36\t검증 세트 손실: 0.049580\t최선의 손실: 0.034174\t정확도: 99.14%\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.106844\t최선의 손실: 0.106844\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.061945\t최선의 손실: 0.061945\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.085608\t최선의 손실: 0.061945\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.068944\t최선의 손실: 0.061945\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.047377\t최선의 손실: 0.047377\t정확도: 98.79%\n", + "5\t검증 세트 손실: 0.073735\t최선의 손실: 0.047377\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.037952\t최선의 손실: 0.037952\t정확도: 98.75%\n", + "7\t검증 세트 손실: 0.049018\t최선의 손실: 0.037952\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.051098\t최선의 손실: 0.037952\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.055973\t최선의 손실: 0.037952\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.045870\t최선의 손실: 0.037952\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.041163\t최선의 손실: 0.037952\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.036445\t최선의 손실: 0.036445\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.053667\t최선의 손실: 0.036445\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.060793\t최선의 손실: 0.036445\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.033429\t최선의 손실: 0.033429\t정확도: 99.14%\n", + "16\t검증 세트 손실: 0.064135\t최선의 손실: 0.033429\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.045365\t최선의 손실: 0.033429\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.060534\t최선의 손실: 0.033429\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.045593\t최선의 손실: 0.033429\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.044798\t최선의 손실: 0.033429\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.045526\t최선의 손실: 0.033429\t정확도: 99.06%\n", + "22\t검증 세트 손실: 0.047793\t최선의 손실: 0.033429\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.047496\t최선의 손실: 0.033429\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.039346\t최선의 손실: 0.033429\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.050359\t최선의 손실: 0.033429\t정확도: 99.10%\n", + "26\t검증 세트 손실: 0.046880\t최선의 손실: 0.033429\t정확도: 99.14%\n", + "27\t검증 세트 손실: 0.042580\t최선의 손실: 0.033429\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.040713\t최선의 손실: 0.033429\t정확도: 99.10%\n", + "29\t검증 세트 손실: 0.058259\t최선의 손실: 0.033429\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.053047\t최선의 손실: 0.033429\t정확도: 99.06%\n", + "31\t검증 세트 손실: 0.061700\t최선의 손실: 0.033429\t정확도: 99.06%\n", + "32\t검증 세트 손실: 0.041884\t최선의 손실: 0.033429\t정확도: 99.02%\n", + "33\t검증 세트 손실: 0.048960\t최선의 손실: 0.033429\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.052452\t최선의 손실: 0.033429\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.039954\t최선의 손실: 0.033429\t정확도: 99.10%\n", + "36\t검증 세트 손실: 0.079353\t최선의 손실: 0.033429\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70, total= 50.7s\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70 \n" + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=, total= 51.1s\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation= \n" ] }, { "name": "stderr", "output_type": "stream", "text": [ - "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 50.8s remaining: 0.0s\n" + "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 51.2s remaining: 0.0s\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.083991\t최선의 손실: 0.083991\t정확도: 97.69%\n", - "1\t검증 세트 손실: 0.054791\t최선의 손실: 0.054791\t정확도: 98.59%\n", - "2\t검증 세트 손실: 0.059230\t최선의 손실: 0.054791\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.059522\t최선의 손실: 0.054791\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.043569\t최선의 손실: 0.043569\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.055622\t최선의 손실: 0.043569\t정확도: 98.79%\n", - "6\t검증 세트 손실: 0.054838\t최선의 손실: 0.043569\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.044712\t최선의 손실: 0.043569\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.033677\t최선의 손실: 0.033677\t정확도: 99.10%\n", - "9\t검증 세트 손실: 0.049924\t최선의 손실: 0.033677\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.040808\t최선의 손실: 0.033677\t정확도: 98.98%\n", - "11\t검증 세트 손실: 0.058955\t최선의 손실: 0.033677\t정확도: 98.48%\n", - "12\t검증 세트 손실: 0.050546\t최선의 손실: 0.033677\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.037833\t최선의 손실: 0.033677\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.051192\t최선의 손실: 0.033677\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.038225\t최선의 손실: 0.033677\t정확도: 99.06%\n", - "16\t검증 세트 손실: 0.053009\t최선의 손실: 0.033677\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.047198\t최선의 손실: 0.033677\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.042114\t최선의 손실: 0.033677\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.040017\t최선의 손실: 0.033677\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.053782\t최선의 손실: 0.033677\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.036929\t최선의 손실: 0.033677\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.052195\t최선의 손실: 0.033677\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.045641\t최선의 손실: 0.033677\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.047816\t최선의 손실: 0.033677\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.041355\t최선의 손실: 0.033677\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.044486\t최선의 손실: 0.033677\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.045875\t최선의 손실: 0.033677\t정확도: 98.83%\n", - "28\t검증 세트 손실: 0.062991\t최선의 손실: 0.033677\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.056856\t최선의 손실: 0.033677\t정확도: 98.83%\n", + "0\t검증 세트 손실: 0.131159\t최선의 손실: 0.131159\t정확도: 96.68%\n", + "1\t검증 세트 손실: 0.054019\t최선의 손실: 0.054019\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.063083\t최선의 손실: 0.054019\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.041442\t최선의 손실: 0.041442\t정확도: 98.71%\n", + "4\t검증 세트 손실: 0.061379\t최선의 손실: 0.041442\t정확도: 98.48%\n", + "5\t검증 세트 손실: 0.050648\t최선의 손실: 0.041442\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.062866\t최선의 손실: 0.041442\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.046801\t최선의 손실: 0.041442\t정확도: 98.71%\n", + "8\t검증 세트 손실: 0.033381\t최선의 손실: 0.033381\t정확도: 98.94%\n", + "9\t검증 세트 손실: 0.049186\t최선의 손실: 0.033381\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.044348\t최선의 손실: 0.033381\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.043421\t최선의 손실: 0.033381\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.067967\t최선의 손실: 0.033381\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.056070\t최선의 손실: 0.033381\t정확도: 98.32%\n", + "14\t검증 세트 손실: 0.051256\t최선의 손실: 0.033381\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.046337\t최선의 손실: 0.033381\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.050505\t최선의 손실: 0.033381\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.053079\t최선의 손실: 0.033381\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.029341\t최선의 손실: 0.029341\t정확도: 99.06%\n", + "19\t검증 세트 손실: 0.053198\t최선의 손실: 0.029341\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.055758\t최선의 손실: 0.029341\t정확도: 98.98%\n", + "21\t검증 세트 손실: 0.038640\t최선의 손실: 0.029341\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.043801\t최선의 손실: 0.029341\t정확도: 99.22%\n", + "23\t검증 세트 손실: 0.055399\t최선의 손실: 0.029341\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.045293\t최선의 손실: 0.029341\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.051046\t최선의 손실: 0.029341\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.038558\t최선의 손실: 0.029341\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.043051\t최선의 손실: 0.029341\t정확도: 99.18%\n", + "28\t검증 세트 손실: 0.042232\t최선의 손실: 0.029341\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.041645\t최선의 손실: 0.029341\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.038241\t최선의 손실: 0.029341\t정확도: 99.22%\n", + "31\t검증 세트 손실: 0.044722\t최선의 손실: 0.029341\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.031813\t최선의 손실: 0.029341\t정확도: 99.18%\n", + "33\t검증 세트 손실: 0.042229\t최선의 손실: 0.029341\t정확도: 99.10%\n", + "34\t검증 세트 손실: 0.043126\t최선의 손실: 0.029341\t정확도: 98.94%\n", + "35\t검증 세트 손실: 0.044218\t최선의 손실: 0.029341\t정확도: 99.06%\n", + "36\t검증 세트 손실: 0.034474\t최선의 손실: 0.029341\t정확도: 99.26%\n", + "37\t검증 세트 손실: 0.038067\t최선의 손실: 0.029341\t정확도: 99.18%\n", + "38\t검증 세트 손실: 0.048530\t최선의 손실: 0.029341\t정확도: 98.83%\n", + "39\t검증 세트 손실: 0.051050\t최선의 손실: 0.029341\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70, total= 41.4s\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70 \n", - "0\t검증 세트 손실: 0.103484\t최선의 손실: 0.103484\t정확도: 97.26%\n", - "1\t검증 세트 손실: 0.069015\t최선의 손실: 0.069015\t정확도: 98.20%\n", - "2\t검증 세트 손실: 0.050168\t최선의 손실: 0.050168\t정확도: 98.51%\n", - "3\t검증 세트 손실: 0.047037\t최선의 손실: 0.047037\t정확도: 98.24%\n", - "4\t검증 세트 손실: 0.047041\t최선의 손실: 0.047037\t정확도: 98.79%\n", - "5\t검증 세트 손실: 0.042584\t최선의 손실: 0.042584\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.048306\t최선의 손실: 0.042584\t정확도: 98.75%\n", - "7\t검증 세트 손실: 0.074728\t최선의 손실: 0.042584\t정확도: 98.40%\n", - "8\t검증 세트 손실: 0.055586\t최선의 손실: 0.042584\t정확도: 98.51%\n", - "9\t검증 세트 손실: 0.042523\t최선의 손실: 0.042523\t정확도: 99.06%\n", - "10\t검증 세트 손실: 0.045513\t최선의 손실: 0.042523\t정확도: 98.98%\n", - "11\t검증 세트 손실: 0.044564\t최선의 손실: 0.042523\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.053247\t최선의 손실: 0.042523\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.043113\t최선의 손실: 0.042523\t정확도: 99.02%\n", - "14\t검증 세트 손실: 0.044170\t최선의 손실: 0.042523\t정확도: 98.98%\n", - "15\t검증 세트 손실: 0.036422\t최선의 손실: 0.036422\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.044292\t최선의 손실: 0.036422\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.044433\t최선의 손실: 0.036422\t정확도: 99.06%\n", - "18\t검증 세트 손실: 0.059611\t최선의 손실: 0.036422\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.046239\t최선의 손실: 0.036422\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.034206\t최선의 손실: 0.034206\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.038934\t최선의 손실: 0.034206\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.050841\t최선의 손실: 0.034206\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.048152\t최선의 손실: 0.034206\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.044766\t최선의 손실: 0.034206\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.042161\t최선의 손실: 0.034206\t정확도: 99.02%\n", - "26\t검증 세트 손실: 0.053046\t최선의 손실: 0.034206\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.038413\t최선의 손실: 0.034206\t정확도: 99.14%\n", - "28\t검증 세트 손실: 0.057736\t최선의 손실: 0.034206\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.067301\t최선의 손실: 0.034206\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.053833\t최선의 손실: 0.034206\t정확도: 99.10%\n", - "31\t검증 세트 손실: 0.074894\t최선의 손실: 0.034206\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.060371\t최선의 손실: 0.034206\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.060536\t최선의 손실: 0.034206\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.044409\t최선의 손실: 0.034206\t정확도: 99.22%\n", - "35\t검증 세트 손실: 0.058418\t최선의 손실: 0.034206\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.045458\t최선의 손실: 0.034206\t정확도: 99.06%\n", - "37\t검증 세트 손실: 0.045492\t최선의 손실: 0.034206\t정확도: 98.87%\n", - "38\t검증 세트 손실: 0.054853\t최선의 손실: 0.034206\t정확도: 99.14%\n", - "39\t검증 세트 손실: 0.037868\t최선의 손실: 0.034206\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.038539\t최선의 손실: 0.034206\t정확도: 99.22%\n", - "41\t검증 세트 손실: 0.044495\t최선의 손실: 0.034206\t정확도: 98.98%\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=, total= 55.0s\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.094523\t최선의 손실: 0.094523\t정확도: 97.93%\n", + "1\t검증 세트 손실: 0.059593\t최선의 손실: 0.059593\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.059920\t최선의 손실: 0.059593\t정확도: 98.48%\n", + "3\t검증 세트 손실: 0.040770\t최선의 손실: 0.040770\t정확도: 98.75%\n", + "4\t검증 세트 손실: 0.056386\t최선의 손실: 0.040770\t정확도: 98.63%\n", + "5\t검증 세트 손실: 0.043584\t최선의 손실: 0.040770\t정확도: 98.87%\n", + "6\t검증 세트 손실: 0.036277\t최선의 손실: 0.036277\t정확도: 98.71%\n", + "7\t검증 세트 손실: 0.048872\t최선의 손실: 0.036277\t정확도: 98.75%\n", + "8\t검증 세트 손실: 0.046011\t최선의 손실: 0.036277\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.047335\t최선의 손실: 0.036277\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.057329\t최선의 손실: 0.036277\t정확도: 98.91%\n", + "11\t검증 세트 손실: 0.042114\t최선의 손실: 0.036277\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.062504\t최선의 손실: 0.036277\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.042498\t최선의 손실: 0.036277\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.045067\t최선의 손실: 0.036277\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.051280\t최선의 손실: 0.036277\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.038231\t최선의 손실: 0.036277\t정확도: 99.10%\n", + "17\t검증 세트 손실: 0.040572\t최선의 손실: 0.036277\t정확도: 99.10%\n", + "18\t검증 세트 손실: 0.035854\t최선의 손실: 0.035854\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.032709\t최선의 손실: 0.032709\t정확도: 99.26%\n", + "20\t검증 세트 손실: 0.039099\t최선의 손실: 0.032709\t정확도: 99.18%\n", + "21\t검증 세트 손실: 0.057724\t최선의 손실: 0.032709\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.038802\t최선의 손실: 0.032709\t정확도: 99.26%\n", + "23\t검증 세트 손실: 0.044352\t최선의 손실: 0.032709\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.040974\t최선의 손실: 0.032709\t정확도: 99.26%\n", + "25\t검증 세트 손실: 0.047243\t최선의 손실: 0.032709\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.041443\t최선의 손실: 0.032709\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.058625\t최선의 손실: 0.032709\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.038725\t최선의 손실: 0.032709\t정확도: 99.30%\n", + "29\t검증 세트 손실: 0.043521\t최선의 손실: 0.032709\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.045682\t최선의 손실: 0.032709\t정확도: 99.06%\n", + "31\t검증 세트 손실: 0.045372\t최선의 손실: 0.032709\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.036218\t최선의 손실: 0.032709\t정확도: 99.18%\n", + "33\t검증 세트 손실: 0.042877\t최선의 손실: 0.032709\t정확도: 99.26%\n", + "34\t검증 세트 손실: 0.041575\t최선의 손실: 0.032709\t정확도: 99.34%\n", + "35\t검증 세트 손실: 0.040749\t최선의 손실: 0.032709\t정확도: 99.34%\n", + "36\t검증 세트 손실: 0.054153\t최선의 손실: 0.032709\t정확도: 99.14%\n", + "37\t검증 세트 손실: 0.021999\t최선의 손실: 0.021999\t정확도: 99.34%\n", + "38\t검증 세트 손실: 0.029782\t최선의 손실: 0.021999\t정확도: 99.30%\n", + "39\t검증 세트 손실: 0.041294\t최선의 손실: 0.021999\t정확도: 99.18%\n", + "40\t검증 세트 손실: 0.054777\t최선의 손실: 0.021999\t정확도: 98.87%\n", + "41\t검증 세트 손실: 0.031726\t최선의 손실: 0.021999\t정확도: 99.10%\n", + "42\t검증 세트 손실: 0.041017\t최선의 손실: 0.021999\t정확도: 99.10%\n", + "43\t검증 세트 손실: 0.036943\t최선의 손실: 0.021999\t정확도: 99.30%\n", + "44\t검증 세트 손실: 0.043011\t최선의 손실: 0.021999\t정확도: 99.02%\n", + "45\t검증 세트 손실: 0.034387\t최선의 손실: 0.021999\t정확도: 99.30%\n", + "46\t검증 세트 손실: 0.048090\t최선의 손실: 0.021999\t정확도: 99.06%\n", + "47\t검증 세트 손실: 0.039012\t최선의 손실: 0.021999\t정확도: 99.30%\n", + "48\t검증 세트 손실: 0.062331\t최선의 손실: 0.021999\t정확도: 99.06%\n", + "49\t검증 세트 손실: 0.041669\t최선의 손실: 0.021999\t정확도: 99.18%\n", + "50\t검증 세트 손실: 0.037594\t최선의 손실: 0.021999\t정확도: 99.18%\n", + "51\t검증 세트 손실: 0.049997\t최선의 손실: 0.021999\t정확도: 99.10%\n", + "52\t검증 세트 손실: 0.054737\t최선의 손실: 0.021999\t정확도: 99.02%\n", + "53\t검증 세트 손실: 0.051821\t최선의 손실: 0.021999\t정확도: 99.22%\n", + "54\t검증 세트 손실: 0.049651\t최선의 손실: 0.021999\t정확도: 99.06%\n", + "55\t검증 세트 손실: 0.041329\t최선의 손실: 0.021999\t정확도: 99.18%\n", + "56\t검증 세트 손실: 0.048253\t최선의 손실: 0.021999\t정확도: 98.87%\n", + "57\t검증 세트 손실: 0.055553\t최선의 손실: 0.021999\t정확도: 98.98%\n", + "58\t검증 세트 손실: 0.047650\t최선의 손실: 0.021999\t정확도: 99.06%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=70, total= 57.5s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90 \n", - "0\t검증 세트 손실: 0.092394\t최선의 손실: 0.092394\t정확도: 97.30%\n", - "1\t검증 세트 손실: 0.089528\t최선의 손실: 0.089528\t정확도: 96.91%\n", - "2\t검증 세트 손실: 0.068315\t최선의 손실: 0.068315\t정확도: 98.08%\n", - "3\t검증 세트 손실: 0.052507\t최선의 손실: 0.052507\t정확도: 98.48%\n", - "4\t검증 세트 손실: 0.050697\t최선의 손실: 0.050697\t정확도: 98.67%\n", - "5\t검증 세트 손실: 0.051487\t최선의 손실: 0.050697\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.054557\t최선의 손실: 0.050697\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.037659\t최선의 손실: 0.037659\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.041472\t최선의 손실: 0.037659\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.037465\t최선의 손실: 0.037465\t정확도: 98.94%\n", - "10\t검증 세트 손실: 0.036320\t최선의 손실: 0.036320\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.036870\t최선의 손실: 0.036320\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.051396\t최선의 손실: 0.036320\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.037073\t최선의 손실: 0.036320\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.034271\t최선의 손실: 0.034271\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.036546\t최선의 손실: 0.034271\t정확도: 98.75%\n", - "16\t검증 세트 손실: 0.035157\t최선의 손실: 0.034271\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.036715\t최선의 손실: 0.034271\t정확도: 99.02%\n", - "18\t검증 세트 손실: 0.035001\t최선의 손실: 0.034271\t정확도: 99.14%\n", - "19\t검증 세트 손실: 0.041194\t최선의 손실: 0.034271\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.031068\t최선의 손실: 0.031068\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.038653\t최선의 손실: 0.031068\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.054458\t최선의 손실: 0.031068\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.045002\t최선의 손실: 0.031068\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.048187\t최선의 손실: 0.031068\t정확도: 98.63%\n", - "25\t검증 세트 손실: 0.044286\t최선의 손실: 0.031068\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.048029\t최선의 손실: 0.031068\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.048141\t최선의 손실: 0.031068\t정확도: 98.51%\n", - "28\t검증 세트 손실: 0.050455\t최선의 손실: 0.031068\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.041856\t최선의 손실: 0.031068\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.043156\t최선의 손실: 0.031068\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.040332\t최선의 손실: 0.031068\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.031913\t최선의 손실: 0.031068\t정확도: 99.18%\n", - "33\t검증 세트 손실: 0.064254\t최선의 손실: 0.031068\t정확도: 98.01%\n", - "34\t검증 세트 손실: 0.045916\t최선의 손실: 0.031068\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.043439\t최선의 손실: 0.031068\t정확도: 98.79%\n", - "36\t검증 세트 손실: 0.039758\t최선의 손실: 0.031068\t정확도: 98.91%\n", - "37\t검증 세트 손실: 0.040424\t최선의 손실: 0.031068\t정확도: 98.87%\n", - "38\t검증 세트 손실: 0.045537\t최선의 손실: 0.031068\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.042858\t최선의 손실: 0.031068\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.041651\t최선의 손실: 0.031068\t정확도: 98.98%\n", - "41\t검증 세트 손실: 0.052592\t최선의 손실: 0.031068\t정확도: 98.75%\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=, total= 1.3min\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.107788\t최선의 손실: 0.107788\t정확도: 97.07%\n", + "1\t검증 세트 손실: 0.077371\t최선의 손실: 0.077371\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.079559\t최선의 손실: 0.077371\t정확도: 97.46%\n", + "3\t검증 세트 손실: 0.072957\t최선의 손실: 0.072957\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.053438\t최선의 손실: 0.053438\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.080177\t최선의 손실: 0.053438\t정확도: 97.69%\n", + "6\t검증 세트 손실: 0.052330\t최선의 손실: 0.052330\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.049587\t최선의 손실: 0.049587\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.049404\t최선의 손실: 0.049404\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.053011\t최선의 손실: 0.049404\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.038781\t최선의 손실: 0.038781\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.040559\t최선의 손실: 0.038781\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.040066\t최선의 손실: 0.038781\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.039015\t최선의 손실: 0.038781\t정확도: 98.87%\n", + "14\t검증 세트 손실: 0.037884\t최선의 손실: 0.037884\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.041405\t최선의 손실: 0.037884\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.045212\t최선의 손실: 0.037884\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.044804\t최선의 손실: 0.037884\t정확도: 98.63%\n", + "18\t검증 세트 손실: 0.042443\t최선의 손실: 0.037884\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.038423\t최선의 손실: 0.037884\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.040662\t최선의 손실: 0.037884\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.053477\t최선의 손실: 0.037884\t정확도: 98.28%\n", + "22\t검증 세트 손실: 0.051683\t최선의 손실: 0.037884\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.042457\t최선의 손실: 0.037884\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.065021\t최선의 손실: 0.037884\t정확도: 98.01%\n", + "25\t검증 세트 손실: 0.055050\t최선의 손실: 0.037884\t정확도: 98.59%\n", + "26\t검증 세트 손실: 0.037792\t최선의 손실: 0.037792\t정확도: 99.02%\n", + "27\t검증 세트 손실: 0.040801\t최선의 손실: 0.037792\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.038849\t최선의 손실: 0.037792\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.054951\t최선의 손실: 0.037792\t정확도: 98.63%\n", + "30\t검증 세트 손실: 0.043677\t최선의 손실: 0.037792\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.048820\t최선의 손실: 0.037792\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.073553\t최선의 손실: 0.037792\t정확도: 98.44%\n", + "33\t검증 세트 손실: 0.056395\t최선의 손실: 0.037792\t정확도: 98.59%\n", + "34\t검증 세트 손실: 0.048853\t최선의 손실: 0.037792\t정확도: 98.98%\n", + "35\t검증 세트 손실: 0.047677\t최선의 손실: 0.037792\t정확도: 98.79%\n", + "36\t검증 세트 손실: 0.044968\t최선의 손실: 0.037792\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.076036\t최선의 손실: 0.037792\t정확도: 98.32%\n", + "38\t검증 세트 손실: 0.096397\t최선의 손실: 0.037792\t정확도: 98.08%\n", + "39\t검증 세트 손실: 0.041193\t최선의 손실: 0.037792\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.055560\t최선의 손실: 0.037792\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.068300\t최선의 손실: 0.037792\t정확도: 98.40%\n", + "42\t검증 세트 손실: 0.051923\t최선의 손실: 0.037792\t정확도: 98.79%\n", + "43\t검증 세트 손실: 0.052276\t최선의 손실: 0.037792\t정확도: 98.51%\n", + "44\t검증 세트 손실: 0.050141\t최선의 손실: 0.037792\t정확도: 98.83%\n", + "45\t검증 세트 손실: 0.045217\t최선의 손실: 0.037792\t정확도: 98.75%\n", + "46\t검증 세트 손실: 0.058539\t최선의 손실: 0.037792\t정확도: 98.32%\n", + "47\t검증 세트 손실: 0.060300\t최선의 손실: 0.037792\t정확도: 98.40%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90, total= 4.7min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90 \n", - "0\t검증 세트 손실: 0.100689\t최선의 손실: 0.100689\t정확도: 96.72%\n", - "1\t검증 세트 손실: 0.069924\t최선의 손실: 0.069924\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.075781\t최선의 손실: 0.069924\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.059858\t최선의 손실: 0.059858\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.061743\t최선의 손실: 0.059858\t정확도: 98.12%\n", - "5\t검증 세트 손실: 0.056824\t최선의 손실: 0.056824\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.058518\t최선의 손실: 0.056824\t정확도: 98.12%\n", - "7\t검증 세트 손실: 0.042964\t최선의 손실: 0.042964\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.037063\t최선의 손실: 0.037063\t정확도: 98.79%\n", - "9\t검증 세트 손실: 0.053006\t최선의 손실: 0.037063\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.057195\t최선의 손실: 0.037063\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.041464\t최선의 손실: 0.037063\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.063526\t최선의 손실: 0.037063\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.048881\t최선의 손실: 0.037063\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.041142\t최선의 손실: 0.037063\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.047467\t최선의 손실: 0.037063\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.052968\t최선의 손실: 0.037063\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.068615\t최선의 손실: 0.037063\t정확도: 98.32%\n", - "18\t검증 세트 손실: 0.040651\t최선의 손실: 0.037063\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.050385\t최선의 손실: 0.037063\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.038707\t최선의 손실: 0.037063\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.040185\t최선의 손실: 0.037063\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.052721\t최선의 손실: 0.037063\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.046426\t최선의 손실: 0.037063\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.043158\t최선의 손실: 0.037063\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.043784\t최선의 손실: 0.037063\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.044302\t최선의 손실: 0.037063\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.038341\t최선의 손실: 0.037063\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.051967\t최선의 손실: 0.037063\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.042402\t최선의 손실: 0.037063\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90, total= 3.4min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90 \n" + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 5.4min\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.091876\t최선의 손실: 0.091876\t정확도: 97.65%\n", - "1\t검증 세트 손실: 0.073604\t최선의 손실: 0.073604\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.093396\t최선의 손실: 0.073604\t정확도: 97.46%\n", - "3\t검증 세트 손실: 0.055939\t최선의 손실: 0.055939\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.066660\t최선의 손실: 0.055939\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.063245\t최선의 손실: 0.055939\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.064115\t최선의 손실: 0.055939\t정확도: 97.85%\n", - "7\t검증 세트 손실: 0.054974\t최선의 손실: 0.054974\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.050848\t최선의 손실: 0.050848\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.050869\t최선의 손실: 0.050848\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.042244\t최선의 손실: 0.042244\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.039359\t최선의 손실: 0.039359\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.040671\t최선의 손실: 0.039359\t정확도: 98.63%\n", - "13\t검증 세트 손실: 0.042599\t최선의 손실: 0.039359\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.047775\t최선의 손실: 0.039359\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.042566\t최선의 손실: 0.039359\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.030219\t최선의 손실: 0.030219\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.036437\t최선의 손실: 0.030219\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.036485\t최선의 손실: 0.030219\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.036268\t최선의 손실: 0.030219\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.052054\t최선의 손실: 0.030219\t정확도: 98.28%\n", - "21\t검증 세트 손실: 0.038959\t최선의 손실: 0.030219\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.029678\t최선의 손실: 0.029678\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.048211\t최선의 손실: 0.029678\t정확도: 97.93%\n", - "24\t검증 세트 손실: 0.042849\t최선의 손실: 0.029678\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.032228\t최선의 손실: 0.029678\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.041824\t최선의 손실: 0.029678\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.038938\t최선의 손실: 0.029678\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.029859\t최선의 손실: 0.029678\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.036125\t최선의 손실: 0.029678\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.051026\t최선의 손실: 0.029678\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.039493\t최선의 손실: 0.029678\t정확도: 98.71%\n", - "32\t검증 세트 손실: 0.039933\t최선의 손실: 0.029678\t정확도: 98.67%\n", - "33\t검증 세트 손실: 0.039581\t최선의 손실: 0.029678\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.041988\t최선의 손실: 0.029678\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.048734\t최선의 손실: 0.029678\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.045163\t최선의 손실: 0.029678\t정확도: 98.51%\n", - "37\t검증 세트 손실: 0.031747\t최선의 손실: 0.029678\t정확도: 99.02%\n", - "38\t검증 세트 손실: 0.037678\t최선의 손실: 0.029678\t정확도: 98.91%\n", - "39\t검증 세트 손실: 0.050969\t최선의 손실: 0.029678\t정확도: 98.75%\n", - "40\t검증 세트 손실: 0.052393\t최선의 손실: 0.029678\t정확도: 98.59%\n", - "41\t검증 세트 손실: 0.042938\t최선의 손실: 0.029678\t정확도: 98.94%\n", - "42\t검증 세트 손실: 0.037984\t최선의 손실: 0.029678\t정확도: 98.91%\n", - "43\t검증 세트 손실: 0.033761\t최선의 손실: 0.029678\t정확도: 98.98%\n", + "0\t검증 세트 손실: 0.107103\t최선의 손실: 0.107103\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.082445\t최선의 손실: 0.082445\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.082347\t최선의 손실: 0.082347\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.070700\t최선의 손실: 0.070700\t정확도: 97.65%\n", + "4\t검증 세트 손실: 0.049487\t최선의 손실: 0.049487\t정확도: 98.48%\n", + "5\t검증 세트 손실: 0.052549\t최선의 손실: 0.049487\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.055550\t최선의 손실: 0.049487\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.042707\t최선의 손실: 0.042707\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.046843\t최선의 손실: 0.042707\t정확도: 98.79%\n", + "9\t검증 세트 손실: 0.045358\t최선의 손실: 0.042707\t정확도: 98.51%\n", + "10\t검증 세트 손실: 0.056270\t최선의 손실: 0.042707\t정확도: 98.05%\n", + "11\t검증 세트 손실: 0.042983\t최선의 손실: 0.042707\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.043643\t최선의 손실: 0.042707\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.056435\t최선의 손실: 0.042707\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.045701\t최선의 손실: 0.042707\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.046558\t최선의 손실: 0.042707\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.052486\t최선의 손실: 0.042707\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.049639\t최선의 손실: 0.042707\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.037425\t최선의 손실: 0.037425\t정확도: 98.87%\n", + "19\t검증 세트 손실: 0.047132\t최선의 손실: 0.037425\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.048876\t최선의 손실: 0.037425\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.035278\t최선의 손실: 0.035278\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.035132\t최선의 손실: 0.035132\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.052515\t최선의 손실: 0.035132\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.036427\t최선의 손실: 0.035132\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.047023\t최선의 손실: 0.035132\t정확도: 98.55%\n", + "26\t검증 세트 손실: 0.039764\t최선의 손실: 0.035132\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.036447\t최선의 손실: 0.035132\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.037013\t최선의 손실: 0.035132\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.034640\t최선의 손실: 0.034640\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.032485\t최선의 손실: 0.032485\t정확도: 98.87%\n", + "31\t검증 세트 손실: 0.050764\t최선의 손실: 0.032485\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.038409\t최선의 손실: 0.032485\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.045169\t최선의 손실: 0.032485\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.052569\t최선의 손실: 0.032485\t정확도: 98.48%\n", + "35\t검증 세트 손실: 0.033915\t최선의 손실: 0.032485\t정확도: 99.14%\n", + "36\t검증 세트 손실: 0.048215\t최선의 손실: 0.032485\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.055691\t최선의 손실: 0.032485\t정확도: 98.36%\n", + "38\t검증 세트 손실: 0.041538\t최선의 손실: 0.032485\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.049022\t최선의 손실: 0.032485\t정확도: 98.67%\n", + "40\t검증 세트 손실: 0.038606\t최선의 손실: 0.032485\t정확도: 98.87%\n", + "41\t검증 세트 손실: 0.037195\t최선의 손실: 0.032485\t정확도: 99.14%\n", + "42\t검증 세트 손실: 0.051183\t최선의 손실: 0.032485\t정확도: 98.91%\n", + "43\t검증 세트 손실: 0.066946\t최선의 손실: 0.032485\t정확도: 98.55%\n", + "44\t검증 세트 손실: 0.038578\t최선의 손실: 0.032485\t정확도: 99.14%\n", + "45\t검증 세트 손실: 0.050649\t최선의 손실: 0.032485\t정확도: 98.71%\n", + "46\t검증 세트 손실: 0.034891\t최선의 손실: 0.032485\t정확도: 98.98%\n", + "47\t검증 세트 손실: 0.057035\t최선의 손실: 0.032485\t정확도: 98.75%\n", + "48\t검증 세트 손실: 0.036327\t최선의 손실: 0.032485\t정확도: 99.10%\n", + "49\t검증 세트 손실: 0.048572\t최선의 손실: 0.032485\t정확도: 98.91%\n", + "50\t검증 세트 손실: 0.054489\t최선의 손실: 0.032485\t정확도: 98.83%\n", + "51\t검증 세트 손실: 0.060214\t최선의 손실: 0.032485\t정확도: 98.67%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=90, total= 4.9min\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30 \n", - "0\t검증 세트 손실: 0.076647\t최선의 손실: 0.076647\t정확도: 97.50%\n", - "1\t검증 세트 손실: 0.070688\t최선의 손실: 0.070688\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.049971\t최선의 손실: 0.049971\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.055747\t최선의 손실: 0.049971\t정확도: 98.16%\n", - "4\t검증 세트 손실: 0.032690\t최선의 손실: 0.032690\t정확도: 98.98%\n", - "5\t검증 세트 손실: 0.048317\t최선의 손실: 0.032690\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.041392\t최선의 손실: 0.032690\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.047000\t최선의 손실: 0.032690\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.037567\t최선의 손실: 0.032690\t정확도: 98.98%\n", - "9\t검증 세트 손실: 0.047863\t최선의 손실: 0.032690\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.047219\t최선의 손실: 0.032690\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.059121\t최선의 손실: 0.032690\t정확도: 98.48%\n", - "12\t검증 세트 손실: 0.060568\t최선의 손실: 0.032690\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.038968\t최선의 손실: 0.032690\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.068293\t최선의 손실: 0.032690\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.062840\t최선의 손실: 0.032690\t정확도: 98.44%\n", - "16\t검증 세트 손실: 0.050111\t최선의 손실: 0.032690\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.050792\t최선의 손실: 0.032690\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.044606\t최선의 손실: 0.032690\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.044825\t최선의 손실: 0.032690\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.044571\t최선의 손실: 0.032690\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.042612\t최선의 손실: 0.032690\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.038893\t최선의 손실: 0.032690\t정확도: 99.02%\n", - "23\t검증 세트 손실: 0.048431\t최선의 손실: 0.032690\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.042242\t최선의 손실: 0.032690\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.045781\t최선의 손실: 0.032690\t정확도: 98.71%\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 5.9min\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.104405\t최선의 손실: 0.104405\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.059459\t최선의 손실: 0.059459\t정확도: 98.28%\n", + "2\t검증 세트 손실: 0.083184\t최선의 손실: 0.059459\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.063005\t최선의 손실: 0.059459\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.100123\t최선의 손실: 0.059459\t정확도: 96.79%\n", + "5\t검증 세트 손실: 0.083161\t최선의 손실: 0.059459\t정확도: 97.58%\n", + "6\t검증 세트 손실: 0.056154\t최선의 손실: 0.056154\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.044636\t최선의 손실: 0.044636\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.041641\t최선의 손실: 0.041641\t정확도: 98.79%\n", + "9\t검증 세트 손실: 0.038110\t최선의 손실: 0.038110\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.036927\t최선의 손실: 0.036927\t정확도: 98.83%\n", + "11\t검증 세트 손실: 0.046686\t최선의 손실: 0.036927\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.045299\t최선의 손실: 0.036927\t정확도: 98.28%\n", + "13\t검증 세트 손실: 0.033776\t최선의 손실: 0.033776\t정확도: 98.98%\n", + "14\t검증 세트 손실: 0.047587\t최선의 손실: 0.033776\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.035224\t최선의 손실: 0.033776\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.051699\t최선의 손실: 0.033776\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.045292\t최선의 손실: 0.033776\t정확도: 98.51%\n", + "18\t검증 세트 손실: 0.037086\t최선의 손실: 0.033776\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.035331\t최선의 손실: 0.033776\t정확도: 98.71%\n", + "20\t검증 세트 손실: 0.035879\t최선의 손실: 0.033776\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.028091\t최선의 손실: 0.028091\t정확도: 99.18%\n", + "22\t검증 세트 손실: 0.030583\t최선의 손실: 0.028091\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.057918\t최선의 손실: 0.028091\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.038648\t최선의 손실: 0.028091\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.049271\t최선의 손실: 0.028091\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.043896\t최선의 손실: 0.028091\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.036327\t최선의 손실: 0.028091\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.031907\t최선의 손실: 0.028091\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.040476\t최선의 손실: 0.028091\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.053800\t최선의 손실: 0.028091\t정확도: 98.63%\n", + "31\t검증 세트 손실: 0.033928\t최선의 손실: 0.028091\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.033903\t최선의 손실: 0.028091\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.033767\t최선의 손실: 0.028091\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.062810\t최선의 손실: 0.028091\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.034716\t최선의 손실: 0.028091\t정확도: 98.98%\n", + "36\t검증 세트 손실: 0.033532\t최선의 손실: 0.028091\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.031409\t최선의 손실: 0.028091\t정확도: 98.91%\n", + "38\t검증 세트 손실: 0.037785\t최선의 손실: 0.028091\t정확도: 98.87%\n", + "39\t검증 세트 손실: 0.032577\t최선의 손실: 0.028091\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.041491\t최선의 손실: 0.028091\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.030245\t최선의 손실: 0.028091\t정확도: 99.22%\n", + "42\t검증 세트 손실: 0.028354\t최선의 손실: 0.028091\t정확도: 99.22%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30, total= 20.5s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30 \n", - "0\t검증 세트 손실: 0.092499\t최선의 손실: 0.092499\t정확도: 97.03%\n", - "1\t검증 세트 손실: 0.051763\t최선의 손실: 0.051763\t정확도: 98.44%\n", - "2\t검증 세트 손실: 0.051675\t최선의 손실: 0.051675\t정확도: 98.36%\n", - "3\t검증 세트 손실: 0.059938\t최선의 손실: 0.051675\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.048690\t최선의 손실: 0.048690\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.060875\t최선의 손실: 0.048690\t정확도: 98.05%\n", - "6\t검증 세트 손실: 0.059599\t최선의 손실: 0.048690\t정확도: 98.28%\n", - "7\t검증 세트 손실: 0.083244\t최선의 손실: 0.048690\t정확도: 97.65%\n", - "8\t검증 세트 손실: 0.047191\t최선의 손실: 0.047191\t정확도: 98.83%\n", - "9\t검증 세트 손실: 0.052848\t최선의 손실: 0.047191\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.058681\t최선의 손실: 0.047191\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.048012\t최선의 손실: 0.047191\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.073008\t최선의 손실: 0.047191\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.046092\t최선의 손실: 0.046092\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.055496\t최선의 손실: 0.046092\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.052925\t최선의 손실: 0.046092\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.052844\t최선의 손실: 0.046092\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.088690\t최선의 손실: 0.046092\t정확도: 98.01%\n", - "18\t검증 세트 손실: 0.056832\t최선의 손실: 0.046092\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.043968\t최선의 손실: 0.043968\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.042371\t최선의 손실: 0.042371\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.053754\t최선의 손실: 0.042371\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.047212\t최선의 손실: 0.042371\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.070855\t최선의 손실: 0.042371\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.058350\t최선의 손실: 0.042371\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.054577\t최선의 손실: 0.042371\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.057369\t최선의 손실: 0.042371\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.061614\t최선의 손실: 0.042371\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.050850\t최선의 손실: 0.042371\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.051178\t최선의 손실: 0.042371\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.049146\t최선의 손실: 0.042371\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.038524\t최선의 손실: 0.038524\t정확도: 98.94%\n", - "32\t검증 세트 손실: 0.053932\t최선의 손실: 0.038524\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.051450\t최선의 손실: 0.038524\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.056512\t최선의 손실: 0.038524\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.055473\t최선의 손실: 0.038524\t정확도: 98.79%\n", - "36\t검증 세트 손실: 0.071611\t최선의 손실: 0.038524\t정확도: 98.28%\n", - "37\t검증 세트 손실: 0.049631\t최선의 손실: 0.038524\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.057090\t최선의 손실: 0.038524\t정확도: 98.91%\n", - "39\t검증 세트 손실: 0.060016\t최선의 손실: 0.038524\t정확도: 98.91%\n", - "40\t검증 세트 손실: 0.063464\t최선의 손실: 0.038524\t정확도: 98.63%\n", - "41\t검증 세트 손실: 0.049496\t최선의 손실: 0.038524\t정확도: 98.83%\n", - "42\t검증 세트 손실: 0.070661\t최선의 손실: 0.038524\t정확도: 98.91%\n", - "43\t검증 세트 손실: 0.065194\t최선의 손실: 0.038524\t정확도: 98.67%\n", - "44\t검증 세트 손실: 0.069169\t최선의 손실: 0.038524\t정확도: 98.55%\n", - "45\t검증 세트 손실: 0.062831\t최선의 손실: 0.038524\t정확도: 98.83%\n", - "46\t검증 세트 손실: 0.068173\t최선의 손실: 0.038524\t정확도: 98.63%\n", - "47\t검증 세트 손실: 0.075707\t최선의 손실: 0.038524\t정확도: 98.75%\n", - "48\t검증 세트 손실: 0.079468\t최선의 손실: 0.038524\t정확도: 98.28%\n", - "49\t검증 세트 손실: 0.057800\t최선의 손실: 0.038524\t정확도: 98.79%\n", - "50\t검증 세트 손실: 0.053942\t최선의 손실: 0.038524\t정확도: 99.10%\n", - "51\t검증 세트 손실: 0.058705\t최선의 손실: 0.038524\t정확도: 98.83%\n", - "52\t검증 세트 손실: 0.055172\t최선의 손실: 0.038524\t정확도: 98.91%\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 4.9min\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.096984\t최선의 손실: 0.096984\t정확도: 97.19%\n", + "1\t검증 세트 손실: 0.061081\t최선의 손실: 0.061081\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.053405\t최선의 손실: 0.053405\t정확도: 98.44%\n", + "3\t검증 세트 손실: 0.058655\t최선의 손실: 0.053405\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.045565\t최선의 손실: 0.045565\t정확도: 98.91%\n", + "5\t검증 세트 손실: 0.056763\t최선의 손실: 0.045565\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.051719\t최선의 손실: 0.045565\t정확도: 98.32%\n", + "7\t검증 세트 손실: 0.044636\t최선의 손실: 0.044636\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.059049\t최선의 손실: 0.044636\t정확도: 98.16%\n", + "9\t검증 세트 손실: 0.051923\t최선의 손실: 0.044636\t정확도: 98.55%\n", + "10\t검증 세트 손실: 0.054427\t최선의 손실: 0.044636\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.041491\t최선의 손실: 0.041491\t정확도: 98.98%\n", + "12\t검증 세트 손실: 0.043299\t최선의 손실: 0.041491\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.038612\t최선의 손실: 0.038612\t정확도: 99.14%\n", + "14\t검증 세트 손실: 0.070390\t최선의 손실: 0.038612\t정확도: 98.24%\n", + "15\t검증 세트 손실: 0.056572\t최선의 손실: 0.038612\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.049319\t최선의 손실: 0.038612\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.054367\t최선의 손실: 0.038612\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.048724\t최선의 손실: 0.038612\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.053568\t최선의 손실: 0.038612\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.041834\t최선의 손실: 0.038612\t정확도: 98.98%\n", + "21\t검증 세트 손실: 0.072905\t최선의 손실: 0.038612\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.049226\t최선의 손실: 0.038612\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.035283\t최선의 손실: 0.035283\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.042658\t최선의 손실: 0.035283\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.043108\t최선의 손실: 0.035283\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.046481\t최선의 손실: 0.035283\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.046107\t최선의 손실: 0.035283\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.043257\t최선의 손실: 0.035283\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.048769\t최선의 손실: 0.035283\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.045611\t최선의 손실: 0.035283\t정확도: 99.06%\n", + "31\t검증 세트 손실: 0.057667\t최선의 손실: 0.035283\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.059747\t최선의 손실: 0.035283\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.063551\t최선의 손실: 0.035283\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.060292\t최선의 손실: 0.035283\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.061976\t최선의 손실: 0.035283\t정확도: 98.71%\n", + "36\t검증 세트 손실: 0.047541\t최선의 손실: 0.035283\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.052161\t최선의 손실: 0.035283\t정확도: 98.91%\n", + "38\t검증 세트 손실: 0.064052\t최선의 손실: 0.035283\t정확도: 98.51%\n", + "39\t검증 세트 손실: 0.045175\t최선의 손실: 0.035283\t정확도: 99.18%\n", + "40\t검증 세트 손실: 0.051628\t최선의 손실: 0.035283\t정확도: 99.02%\n", + "41\t검증 세트 손실: 0.048708\t최선의 손실: 0.035283\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.050800\t최선의 손실: 0.035283\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.052349\t최선의 손실: 0.035283\t정확도: 98.91%\n", + "44\t검증 세트 손실: 0.064033\t최선의 손실: 0.035283\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30, total= 40.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30 \n", - "0\t검증 세트 손실: 0.075296\t최선의 손실: 0.075296\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.071908\t최선의 손실: 0.071908\t정확도: 97.81%\n", - "2\t검증 세트 손실: 0.062550\t최선의 손실: 0.062550\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.044234\t최선의 손실: 0.044234\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.042548\t최선의 손실: 0.042548\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.040109\t최선의 손실: 0.040109\t정확도: 98.79%\n", - "6\t검증 세트 손실: 0.037041\t최선의 손실: 0.037041\t정확도: 99.10%\n", - "7\t검증 세트 손실: 0.049114\t최선의 손실: 0.037041\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.085176\t최선의 손실: 0.037041\t정확도: 97.65%\n", - "9\t검증 세트 손실: 0.047157\t최선의 손실: 0.037041\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.043190\t최선의 손실: 0.037041\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.043984\t최선의 손실: 0.037041\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.033917\t최선의 손실: 0.033917\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.056460\t최선의 손실: 0.033917\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.050176\t최선의 손실: 0.033917\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.051643\t최선의 손실: 0.033917\t정확도: 98.75%\n", - "16\t검증 세트 손실: 0.050040\t최선의 손실: 0.033917\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.048172\t최선의 손실: 0.033917\t정확도: 98.51%\n" + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 34.6s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.092114\t최선의 손실: 0.092114\t정확도: 97.38%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "18\t검증 세트 손실: 0.052322\t최선의 손실: 0.033917\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.051675\t최선의 손실: 0.033917\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.054263\t최선의 손실: 0.033917\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.049284\t최선의 손실: 0.033917\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.045582\t최선의 손실: 0.033917\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.048945\t최선의 손실: 0.033917\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.034695\t최선의 손실: 0.033917\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.050671\t최선의 손실: 0.033917\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.050165\t최선의 손실: 0.033917\t정확도: 98.55%\n", - "27\t검증 세트 손실: 0.035421\t최선의 손실: 0.033917\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.038195\t최선의 손실: 0.033917\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.043858\t최선의 손실: 0.033917\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.042251\t최선의 손실: 0.033917\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.054718\t최선의 손실: 0.033917\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.050415\t최선의 손실: 0.033917\t정확도: 98.83%\n", - "33\t검증 세트 손실: 0.039215\t최선의 손실: 0.033917\t정확도: 99.14%\n", + "1\t검증 세트 손실: 0.062287\t최선의 손실: 0.062287\t정확도: 98.16%\n", + "2\t검증 세트 손실: 0.047936\t최선의 손실: 0.047936\t정확도: 98.71%\n", + "3\t검증 세트 손실: 0.057273\t최선의 손실: 0.047936\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.066880\t최선의 손실: 0.047936\t정확도: 98.12%\n", + "5\t검증 세트 손실: 0.046591\t최선의 손실: 0.046591\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.068572\t최선의 손실: 0.046591\t정확도: 98.05%\n", + "7\t검증 세트 손실: 0.061913\t최선의 손실: 0.046591\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.051830\t최선의 손실: 0.046591\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.072012\t최선의 손실: 0.046591\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.061889\t최선의 손실: 0.046591\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.049570\t최선의 손실: 0.046591\t정확도: 98.48%\n", + "12\t검증 세트 손실: 0.056306\t최선의 손실: 0.046591\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.043386\t최선의 손실: 0.043386\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.056731\t최선의 손실: 0.043386\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.050710\t최선의 손실: 0.043386\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.061469\t최선의 손실: 0.043386\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.053191\t최선의 손실: 0.043386\t정확도: 98.55%\n", + "18\t검증 세트 손실: 0.056472\t최선의 손실: 0.043386\t정확도: 98.79%\n", + "19\t검증 세트 손실: 0.054583\t최선의 손실: 0.043386\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.044221\t최선의 손실: 0.043386\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.057413\t최선의 손실: 0.043386\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.043901\t최선의 손실: 0.043386\t정확도: 99.02%\n", + "23\t검증 세트 손실: 0.061224\t최선의 손실: 0.043386\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.047036\t최선의 손실: 0.043386\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.062502\t최선의 손실: 0.043386\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.041172\t최선의 손실: 0.041172\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.050815\t최선의 손실: 0.041172\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.057229\t최선의 손실: 0.041172\t정확도: 98.51%\n", + "29\t검증 세트 손실: 0.052551\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.056281\t최선의 손실: 0.041172\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.062740\t최선의 손실: 0.041172\t정확도: 98.71%\n", + "32\t검증 세트 손실: 0.051033\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "33\t검증 세트 손실: 0.064537\t최선의 손실: 0.041172\t정확도: 98.71%\n", + "34\t검증 세트 손실: 0.059959\t최선의 손실: 0.041172\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.050057\t최선의 손실: 0.041172\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.050070\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.066171\t최선의 손실: 0.041172\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.060148\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.061095\t최선의 손실: 0.041172\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.060549\t최선의 손실: 0.041172\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.054466\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "42\t검증 세트 손실: 0.059499\t최선의 손실: 0.041172\t정확도: 98.94%\n", + "43\t검증 세트 손실: 0.065968\t최선의 손실: 0.041172\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.071839\t최선의 손실: 0.041172\t정확도: 98.75%\n", + "45\t검증 세트 손실: 0.072733\t최선의 손실: 0.041172\t정확도: 98.67%\n", + "46\t검증 세트 손실: 0.067496\t최선의 손실: 0.041172\t정확도: 98.79%\n", + "47\t검증 세트 손실: 0.071622\t최선의 손실: 0.041172\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.95, n_neurons=30, total= 26.2s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160 \n", - "0\t검증 세트 손실: 0.091198\t최선의 손실: 0.091198\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.065468\t최선의 손실: 0.065468\t정확도: 98.05%\n", - "2\t검증 세트 손실: 0.063855\t최선의 손실: 0.063855\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.092156\t최선의 손실: 0.063855\t정확도: 97.11%\n", - "4\t검증 세트 손실: 0.056239\t최선의 손실: 0.056239\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.065626\t최선의 손실: 0.056239\t정확도: 98.05%\n", - "6\t검증 세트 손실: 0.048486\t최선의 손실: 0.048486\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.046699\t최선의 손실: 0.046699\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.043634\t최선의 손실: 0.043634\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.045380\t최선의 손실: 0.043634\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.041112\t최선의 손실: 0.041112\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.045459\t최선의 손실: 0.041112\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.039244\t최선의 손실: 0.039244\t정확도: 98.94%\n", - "13\t검증 세트 손실: 0.049873\t최선의 손실: 0.039244\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.036434\t최선의 손실: 0.036434\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.039192\t최선의 손실: 0.036434\t정확도: 98.75%\n", - "16\t검증 세트 손실: 0.046440\t최선의 손실: 0.036434\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.040923\t최선의 손실: 0.036434\t정확도: 99.02%\n", - "18\t검증 세트 손실: 0.039257\t최선의 손실: 0.036434\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.045210\t최선의 손실: 0.036434\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.042469\t최선의 손실: 0.036434\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.042265\t최선의 손실: 0.036434\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.050446\t최선의 손실: 0.036434\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.058288\t최선의 손실: 0.036434\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.048027\t최선의 손실: 0.036434\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.050348\t최선의 손실: 0.036434\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.046989\t최선의 손실: 0.036434\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.050095\t최선의 손실: 0.036434\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.055401\t최선의 손실: 0.036434\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.051051\t최선의 손실: 0.036434\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.042524\t최선의 손실: 0.036434\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.034795\t최선의 손실: 0.034795\t정확도: 99.22%\n", - "32\t검증 세트 손실: 0.041811\t최선의 손실: 0.034795\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.042502\t최선의 손실: 0.034795\t정확도: 99.06%\n", - "34\t검증 세트 손실: 0.045683\t최선의 손실: 0.034795\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.058879\t최선의 손실: 0.034795\t정확도: 98.67%\n", - "36\t검증 세트 손실: 0.032840\t최선의 손실: 0.032840\t정확도: 99.14%\n", - "37\t검증 세트 손실: 0.056627\t최선의 손실: 0.032840\t정확도: 98.83%\n", - "38\t검증 세트 손실: 0.047572\t최선의 손실: 0.032840\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.047597\t최선의 손실: 0.032840\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.060994\t최선의 손실: 0.032840\t정확도: 98.71%\n", - "41\t검증 세트 손실: 0.044269\t최선의 손실: 0.032840\t정확도: 98.71%\n", - "42\t검증 세트 손실: 0.044705\t최선의 손실: 0.032840\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.048607\t최선의 손실: 0.032840\t정확도: 99.02%\n", - "44\t검증 세트 손실: 0.042279\t최선의 손실: 0.032840\t정확도: 99.06%\n", - "45\t검증 세트 손실: 0.052749\t최선의 손실: 0.032840\t정확도: 99.22%\n", - "46\t검증 세트 손실: 0.056668\t최선의 손실: 0.032840\t정확도: 99.06%\n", - "47\t검증 세트 손실: 0.068900\t최선의 손실: 0.032840\t정확도: 98.71%\n", - "48\t검증 세트 손실: 0.051167\t최선의 손실: 0.032840\t정확도: 99.06%\n", - "49\t검증 세트 손실: 0.058872\t최선의 손실: 0.032840\t정확도: 98.98%\n", - "50\t검증 세트 손실: 0.047029\t최선의 손실: 0.032840\t정확도: 99.14%\n", - "51\t검증 세트 손실: 0.046757\t최선의 손실: 0.032840\t정확도: 98.98%\n", - "52\t검증 세트 손실: 0.048155\t최선의 손실: 0.032840\t정확도: 99.06%\n", - "53\t검증 세트 손실: 0.055792\t최선의 손실: 0.032840\t정확도: 98.83%\n", - "54\t검증 세트 손실: 0.051190\t최선의 손실: 0.032840\t정확도: 99.06%\n", - "55\t검증 세트 손실: 0.061267\t최선의 손실: 0.032840\t정확도: 99.02%\n", - "56\t검증 세트 손실: 0.054755\t최선의 손실: 0.032840\t정확도: 99.10%\n", - "57\t검증 세트 손실: 0.059316\t최선의 손실: 0.032840\t정확도: 98.94%\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 36.8s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.071779\t최선의 손실: 0.071779\t정확도: 97.97%\n", + "1\t검증 세트 손실: 0.069022\t최선의 손실: 0.069022\t정확도: 98.12%\n", + "2\t검증 세트 손실: 0.055020\t최선의 손실: 0.055020\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.050164\t최선의 손실: 0.050164\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.049281\t최선의 손실: 0.049281\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.046278\t최선의 손실: 0.046278\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.049935\t최선의 손실: 0.046278\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.049038\t최선의 손실: 0.046278\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.061388\t최선의 손실: 0.046278\t정확도: 98.48%\n", + "9\t검증 세트 손실: 0.056665\t최선의 손실: 0.046278\t정확도: 98.51%\n", + "10\t검증 세트 손실: 0.044178\t최선의 손실: 0.044178\t정확도: 99.14%\n", + "11\t검증 세트 손실: 0.042877\t최선의 손실: 0.042877\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.043085\t최선의 손실: 0.042877\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.073278\t최선의 손실: 0.042877\t정확도: 98.12%\n", + "14\t검증 세트 손실: 0.056446\t최선의 손실: 0.042877\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.038894\t최선의 손실: 0.038894\t정확도: 98.91%\n", + "16\t검증 세트 손실: 0.041855\t최선의 손실: 0.038894\t정확도: 98.83%\n", + "17\t검증 세트 손실: 0.038191\t최선의 손실: 0.038191\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.054230\t최선의 손실: 0.038191\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.049229\t최선의 손실: 0.038191\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.052353\t최선의 손실: 0.038191\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.046062\t최선의 손실: 0.038191\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.052492\t최선의 손실: 0.038191\t정확도: 99.02%\n", + "23\t검증 세트 손실: 0.042472\t최선의 손실: 0.038191\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.063334\t최선의 손실: 0.038191\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.047839\t최선의 손실: 0.038191\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.047488\t최선의 손실: 0.038191\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.063921\t최선의 손실: 0.038191\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.055852\t최선의 손실: 0.038191\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.053052\t최선의 손실: 0.038191\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.059847\t최선의 손실: 0.038191\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.054019\t최선의 손실: 0.038191\t정확도: 98.91%\n", + "32\t검증 세트 손실: 0.060634\t최선의 손실: 0.038191\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.063328\t최선의 손실: 0.038191\t정확도: 98.59%\n", + "34\t검증 세트 손실: 0.051736\t최선의 손실: 0.038191\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.069553\t최선의 손실: 0.038191\t정확도: 98.63%\n", + "36\t검증 세트 손실: 0.046954\t최선의 손실: 0.038191\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.054072\t최선의 손실: 0.038191\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.049387\t최선의 손실: 0.038191\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160, total= 6.5min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160 \n", - "0\t검증 세트 손실: 0.116320\t최선의 손실: 0.116320\t정확도: 96.44%\n", - "1\t검증 세트 손실: 0.079460\t최선의 손실: 0.079460\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.050014\t최선의 손실: 0.050014\t정확도: 98.63%\n", - "3\t검증 세트 손실: 0.052302\t최선의 손실: 0.050014\t정확도: 98.20%\n", - "4\t검증 세트 손실: 0.056383\t최선의 손실: 0.050014\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.057231\t최선의 손실: 0.050014\t정확도: 98.20%\n", - "6\t검증 세트 손실: 0.051295\t최선의 손실: 0.050014\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.064319\t최선의 손실: 0.050014\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.046548\t최선의 손실: 0.046548\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.064707\t최선의 손실: 0.046548\t정확도: 98.48%\n", - "10\t검증 세트 손실: 0.058704\t최선의 손실: 0.046548\t정확도: 98.28%\n", - "11\t검증 세트 손실: 0.039684\t최선의 손실: 0.039684\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.041206\t최선의 손실: 0.039684\t정확도: 98.98%\n", - "13\t검증 세트 손실: 0.042333\t최선의 손실: 0.039684\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.038146\t최선의 손실: 0.038146\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.061221\t최선의 손실: 0.038146\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.072197\t최선의 손실: 0.038146\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.051361\t최선의 손실: 0.038146\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.040605\t최선의 손실: 0.038146\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.039526\t최선의 손실: 0.038146\t정확도: 99.10%\n", - "20\t검증 세트 손실: 0.038151\t최선의 손실: 0.038146\t정확도: 99.10%\n", - "21\t검증 세트 손실: 0.045658\t최선의 손실: 0.038146\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.036344\t최선의 손실: 0.036344\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.044660\t최선의 손실: 0.036344\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.042676\t최선의 손실: 0.036344\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.047500\t최선의 손실: 0.036344\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.032769\t최선의 손실: 0.032769\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.040619\t최선의 손실: 0.032769\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.035751\t최선의 손실: 0.032769\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.041951\t최선의 손실: 0.032769\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.047085\t최선의 손실: 0.032769\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.042319\t최선의 손실: 0.032769\t정확도: 98.59%\n", - "32\t검증 세트 손실: 0.040337\t최선의 손실: 0.032769\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.043397\t최선의 손실: 0.032769\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.053035\t최선의 손실: 0.032769\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.031111\t최선의 손실: 0.031111\t정확도: 99.14%\n", - "36\t검증 세트 손실: 0.038809\t최선의 손실: 0.031111\t정확도: 99.18%\n", - "37\t검증 세트 손실: 0.066265\t최선의 손실: 0.031111\t정확도: 98.71%\n", - "38\t검증 세트 손실: 0.042943\t최선의 손실: 0.031111\t정확도: 99.14%\n", - "39\t검증 세트 손실: 0.031180\t최선의 손실: 0.031111\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.036544\t최선의 손실: 0.031111\t정확도: 98.83%\n", - "41\t검증 세트 손실: 0.040800\t최선의 손실: 0.031111\t정확도: 98.63%\n", - "42\t검증 세트 손실: 0.044463\t최선의 손실: 0.031111\t정확도: 98.87%\n", - "43\t검증 세트 손실: 0.038522\t최선의 손실: 0.031111\t정확도: 98.98%\n", - "44\t검증 세트 손실: 0.030484\t최선의 손실: 0.030484\t정확도: 99.14%\n", - "45\t검증 세트 손실: 0.053659\t최선의 손실: 0.030484\t정확도: 98.67%\n", - "46\t검증 세트 손실: 0.061877\t최선의 손실: 0.030484\t정확도: 98.98%\n", - "47\t검증 세트 손실: 0.053947\t최선의 손실: 0.030484\t정확도: 99.10%\n", - "48\t검증 세트 손실: 0.042910\t최선의 손실: 0.030484\t정확도: 99.10%\n", - "49\t검증 세트 손실: 0.046934\t최선의 손실: 0.030484\t정확도: 98.87%\n", - "50\t검증 세트 손실: 0.049552\t최선의 손실: 0.030484\t정확도: 98.83%\n", - "51\t검증 세트 손실: 0.023309\t최선의 손실: 0.023309\t정확도: 99.45%\n", - "52\t검증 세트 손실: 0.033160\t최선의 손실: 0.023309\t정확도: 99.26%\n", - "53\t검증 세트 손실: 0.031126\t최선의 손실: 0.023309\t정확도: 99.06%\n", - "54\t검증 세트 손실: 0.041478\t최선의 손실: 0.023309\t정확도: 98.98%\n", - "55\t검증 세트 손실: 0.037447\t최선의 손실: 0.023309\t정확도: 99.06%\n", - "56\t검증 세트 손실: 0.042296\t최선의 손실: 0.023309\t정확도: 98.94%\n", - "57\t검증 세트 손실: 0.032843\t최선의 손실: 0.023309\t정확도: 99.22%\n", - "58\t검증 세트 손실: 0.048084\t최선의 손실: 0.023309\t정확도: 98.94%\n", - "59\t검증 세트 손실: 0.049161\t최선의 손실: 0.023309\t정확도: 98.98%\n", - "60\t검증 세트 손실: 0.042808\t최선의 손실: 0.023309\t정확도: 99.10%\n", - "61\t검증 세트 손실: 0.055363\t최선의 손실: 0.023309\t정확도: 98.98%\n", - "62\t검증 세트 손실: 0.059813\t최선의 손실: 0.023309\t정확도: 98.59%\n", - "63\t검증 세트 손실: 0.069216\t최선의 손실: 0.023309\t정확도: 98.75%\n", - "64\t검증 세트 손실: 0.044518\t최선의 손실: 0.023309\t정확도: 99.02%\n", - "65\t검증 세트 손실: 0.071636\t최선의 손실: 0.023309\t정확도: 98.59%\n", - "66\t검증 세트 손실: 0.042240\t최선의 손실: 0.023309\t정확도: 98.63%\n", - "67\t검증 세트 손실: 0.048922\t최선의 손실: 0.023309\t정확도: 98.91%\n", - "68\t검증 세트 손실: 0.043027\t최선의 손실: 0.023309\t정확도: 99.06%\n", - "69\t검증 세트 손실: 0.049371\t최선의 손실: 0.023309\t정확도: 98.83%\n", - "70\t검증 세트 손실: 0.052327\t최선의 손실: 0.023309\t정확도: 99.18%\n", - "71\t검증 세트 손실: 0.059115\t최선의 손실: 0.023309\t정확도: 98.75%\n", - "72\t검증 세트 손실: 0.050615\t최선의 손실: 0.023309\t정확도: 98.87%\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 30.0s\n", + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.095641\t최선의 손실: 0.095641\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.096315\t최선의 손실: 0.095641\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.055908\t최선의 손실: 0.055908\t정확도: 98.12%\n", + "3\t검증 세트 손실: 0.053006\t최선의 손실: 0.053006\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.057856\t최선의 손실: 0.053006\t정확도: 98.28%\n", + "5\t검증 세트 손실: 0.048809\t최선의 손실: 0.048809\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.045591\t최선의 손실: 0.045591\t정확도: 98.87%\n", + "7\t검증 세트 손실: 0.050867\t최선의 손실: 0.045591\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.055303\t최선의 손실: 0.045591\t정확도: 98.44%\n", + "9\t검증 세트 손실: 0.055639\t최선의 손실: 0.045591\t정확도: 98.20%\n", + "10\t검증 세트 손실: 0.046012\t최선의 손실: 0.045591\t정확도: 98.48%\n", + "11\t검증 세트 손실: 0.045887\t최선의 손실: 0.045591\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.053495\t최선의 손실: 0.045591\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.041100\t최선의 손실: 0.041100\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.046938\t최선의 손실: 0.041100\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.053945\t최선의 손실: 0.041100\t정확도: 98.51%\n", + "16\t검증 세트 손실: 0.035754\t최선의 손실: 0.035754\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.039430\t최선의 손실: 0.035754\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.038234\t최선의 손실: 0.035754\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.035489\t최선의 손실: 0.035489\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.047334\t최선의 손실: 0.035489\t정확도: 98.51%\n", + "21\t검증 세트 손실: 0.043208\t최선의 손실: 0.035489\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.040063\t최선의 손실: 0.035489\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.049138\t최선의 손실: 0.035489\t정확도: 98.71%\n", + "24\t검증 세트 손실: 0.040947\t최선의 손실: 0.035489\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.045270\t최선의 손실: 0.035489\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.053853\t최선의 손실: 0.035489\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.048330\t최선의 손실: 0.035489\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.046873\t최선의 손실: 0.035489\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.039048\t최선의 손실: 0.035489\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.039961\t최선의 손실: 0.035489\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.033967\t최선의 손실: 0.033967\t정확도: 99.18%\n", + "32\t검증 세트 손실: 0.036763\t최선의 손실: 0.033967\t정확도: 99.14%\n", + "33\t검증 세트 손실: 0.042393\t최선의 손실: 0.033967\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.071704\t최선의 손실: 0.033967\t정확도: 98.63%\n", + "35\t검증 세트 손실: 0.047584\t최선의 손실: 0.033967\t정확도: 99.06%\n", + "36\t검증 세트 손실: 0.042882\t최선의 손실: 0.033967\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.070182\t최선의 손실: 0.033967\t정확도: 98.51%\n", + "38\t검증 세트 손실: 0.062579\t최선의 손실: 0.033967\t정확도: 98.87%\n", + "39\t검증 세트 손실: 0.050056\t최선의 손실: 0.033967\t정확도: 98.91%\n", + "40\t검증 세트 손실: 0.044776\t최선의 손실: 0.033967\t정확도: 99.02%\n", + "41\t검증 세트 손실: 0.081313\t최선의 손실: 0.033967\t정확도: 98.51%\n", + "42\t검증 세트 손실: 0.041427\t최선의 손실: 0.033967\t정확도: 99.10%\n", + "43\t검증 세트 손실: 0.058041\t최선의 손실: 0.033967\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.051728\t최선의 손실: 0.033967\t정확도: 99.02%\n", + "45\t검증 세트 손실: 0.045988\t최선의 손실: 0.033967\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.063062\t최선의 손실: 0.033967\t정확도: 98.67%\n", + "47\t검증 세트 손실: 0.067741\t최선의 손실: 0.033967\t정확도: 98.79%\n", + "48\t검증 세트 손실: 0.047541\t최선의 손실: 0.033967\t정확도: 98.87%\n", + "49\t검증 세트 손실: 0.062767\t최선의 손실: 0.033967\t정확도: 98.59%\n", + "50\t검증 세트 손실: 0.047525\t최선의 손실: 0.033967\t정확도: 99.22%\n", + "51\t검증 세트 손실: 0.058989\t최선의 손실: 0.033967\t정확도: 98.83%\n", + "52\t검증 세트 손실: 0.043317\t최선의 손실: 0.033967\t정확도: 99.02%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160, total= 8.2min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160 \n" + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.0min\n", + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.095995\t최선의 손실: 0.095995\t정확도: 97.11%\n", + "1\t검증 세트 손실: 0.076199\t최선의 손실: 0.076199\t정확도: 97.65%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.080993\t최선의 손실: 0.080993\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.065657\t최선의 손실: 0.065657\t정확도: 98.20%\n", - "2\t검증 세트 손실: 0.090192\t최선의 손실: 0.065657\t정확도: 97.54%\n", - "3\t검증 세트 손실: 0.051412\t최선의 손실: 0.051412\t정확도: 98.63%\n", - "4\t검증 세트 손실: 0.065449\t최선의 손실: 0.051412\t정확도: 98.08%\n", - "5\t검증 세트 손실: 0.060002\t최선의 손실: 0.051412\t정확도: 98.05%\n", - "6\t검증 세트 손실: 0.047430\t최선의 손실: 0.047430\t정확도: 98.55%\n", - "7\t검증 세트 손실: 0.041980\t최선의 손실: 0.041980\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.040703\t최선의 손실: 0.040703\t정확도: 98.87%\n", - "9\t검증 세트 손실: 0.039710\t최선의 손실: 0.039710\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.034910\t최선의 손실: 0.034910\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.037037\t최선의 손실: 0.034910\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.035956\t최선의 손실: 0.034910\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.036476\t최선의 손실: 0.034910\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.040442\t최선의 손실: 0.034910\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.041826\t최선의 손실: 0.034910\t정확도: 98.83%\n", - "16\t검증 세트 손실: 0.047319\t최선의 손실: 0.034910\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.037770\t최선의 손실: 0.034910\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.041799\t최선의 손실: 0.034910\t정확도: 98.63%\n", - "19\t검증 세트 손실: 0.043587\t최선의 손실: 0.034910\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.036169\t최선의 손실: 0.034910\t정확도: 98.83%\n", - "21\t검증 세트 손실: 0.033629\t최선의 손실: 0.033629\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.033980\t최선의 손실: 0.033629\t정확도: 99.18%\n", - "23\t검증 세트 손실: 0.036364\t최선의 손실: 0.033629\t정확도: 99.10%\n", - "24\t검증 세트 손실: 0.031083\t최선의 손실: 0.031083\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.047780\t최선의 손실: 0.031083\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.041796\t최선의 손실: 0.031083\t정확도: 99.06%\n", - "27\t검증 세트 손실: 0.028064\t최선의 손실: 0.028064\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.037152\t최선의 손실: 0.028064\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.047100\t최선의 손실: 0.028064\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.045828\t최선의 손실: 0.028064\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.039920\t최선의 손실: 0.028064\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.041275\t최선의 손실: 0.028064\t정확도: 98.83%\n", - "33\t검증 세트 손실: 0.039371\t최선의 손실: 0.028064\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.033128\t최선의 손실: 0.028064\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.055724\t최선의 손실: 0.028064\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.047866\t최선의 손실: 0.028064\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.044287\t최선의 손실: 0.028064\t정확도: 99.22%\n", - "38\t검증 세트 손실: 0.038409\t최선의 손실: 0.028064\t정확도: 99.06%\n", - "39\t검증 세트 손실: 0.028334\t최선의 손실: 0.028064\t정확도: 99.34%\n", - "40\t검증 세트 손실: 0.034251\t최선의 손실: 0.028064\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.035092\t최선의 손실: 0.028064\t정확도: 99.10%\n", - "42\t검증 세트 손실: 0.048595\t최선의 손실: 0.028064\t정확도: 98.63%\n", - "43\t검증 세트 손실: 0.042829\t최선의 손실: 0.028064\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.042131\t최선의 손실: 0.028064\t정확도: 99.10%\n", - "45\t검증 세트 손실: 0.032703\t최선의 손실: 0.028064\t정확도: 98.91%\n", - "46\t검증 세트 손실: 0.040683\t최선의 손실: 0.028064\t정확도: 99.02%\n", - "47\t검증 세트 손실: 0.049562\t최선의 손실: 0.028064\t정확도: 98.91%\n", - "48\t검증 세트 손실: 0.041742\t최선의 손실: 0.028064\t정확도: 99.10%\n", + "2\t검증 세트 손실: 0.065580\t최선의 손실: 0.065580\t정확도: 98.32%\n", + "3\t검증 세트 손실: 0.048136\t최선의 손실: 0.048136\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.051005\t최선의 손실: 0.048136\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.052605\t최선의 손실: 0.048136\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.040513\t최선의 손실: 0.040513\t정확도: 98.79%\n", + "7\t검증 세트 손실: 0.054507\t최선의 손실: 0.040513\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.053384\t최선의 손실: 0.040513\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.049312\t최선의 손실: 0.040513\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.047828\t최선의 손실: 0.040513\t정확도: 98.48%\n", + "11\t검증 세트 손실: 0.034902\t최선의 손실: 0.034902\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.046034\t최선의 손실: 0.034902\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.036676\t최선의 손실: 0.034902\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.043431\t최선의 손실: 0.034902\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.040547\t최선의 손실: 0.034902\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.056941\t최선의 손실: 0.034902\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.040412\t최선의 손실: 0.034902\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.038565\t최선의 손실: 0.034902\t정확도: 98.71%\n", + "19\t검증 세트 손실: 0.030799\t최선의 손실: 0.030799\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.032722\t최선의 손실: 0.030799\t정확도: 98.98%\n", + "21\t검증 세트 손실: 0.033648\t최선의 손실: 0.030799\t정확도: 99.06%\n", + "22\t검증 세트 손실: 0.037192\t최선의 손실: 0.030799\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.043351\t최선의 손실: 0.030799\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.042063\t최선의 손실: 0.030799\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.041028\t최선의 손실: 0.030799\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.040141\t최선의 손실: 0.030799\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.032513\t최선의 손실: 0.030799\t정확도: 99.18%\n", + "28\t검증 세트 손실: 0.041168\t최선의 손실: 0.030799\t정확도: 98.63%\n", + "29\t검증 세트 손실: 0.043388\t최선의 손실: 0.030799\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.058518\t최선의 손실: 0.030799\t정확도: 98.59%\n", + "31\t검증 세트 손실: 0.045562\t최선의 손실: 0.030799\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.038124\t최선의 손실: 0.030799\t정확도: 98.79%\n", + "33\t검증 세트 손실: 0.033856\t최선의 손실: 0.030799\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.036767\t최선의 손실: 0.030799\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.045796\t최선의 손실: 0.030799\t정확도: 98.83%\n", + "36\t검증 세트 손실: 0.054880\t최선의 손실: 0.030799\t정확도: 98.94%\n", + "37\t검증 세트 손실: 0.051441\t최선의 손실: 0.030799\t정확도: 98.63%\n", + "38\t검증 세트 손실: 0.050935\t최선의 손실: 0.030799\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.038641\t최선의 손실: 0.030799\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.038594\t최선의 손실: 0.030799\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=160, total= 5.5min\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.081862\t최선의 손실: 0.081862\t정확도: 97.22%\n", - "1\t검증 세트 손실: 0.070255\t최선의 손실: 0.070255\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.064241\t최선의 손실: 0.064241\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.051164\t최선의 손실: 0.051164\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.069002\t최선의 손실: 0.051164\t정확도: 97.89%\n", - "5\t검증 세트 손실: 0.053198\t최선의 손실: 0.051164\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.045905\t최선의 손실: 0.045905\t정확도: 98.63%\n", - "7\t검증 세트 손실: 0.048864\t최선의 손실: 0.045905\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.043354\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.047967\t최선의 손실: 0.043354\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.076099\t최선의 손실: 0.043354\t정확도: 98.01%\n", - "11\t검증 세트 손실: 0.051235\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.058537\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.049373\t최선의 손실: 0.043354\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.084456\t최선의 손실: 0.043354\t정확도: 98.16%\n", - "15\t검증 세트 손실: 0.052971\t최선의 손실: 0.043354\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.061618\t최선의 손실: 0.043354\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.065421\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.058587\t최선의 손실: 0.043354\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.059426\t최선의 손실: 0.043354\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.071169\t최선의 손실: 0.043354\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.066676\t최선의 손실: 0.043354\t정확도: 98.48%\n", - "22\t검증 세트 손실: 0.062056\t최선의 손실: 0.043354\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.052431\t최선의 손실: 0.043354\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.058298\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.068543\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.054589\t최선의 손실: 0.043354\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.062246\t최선의 손실: 0.043354\t정확도: 98.71%\n", - "28\t검증 세트 손실: 0.068320\t최선의 손실: 0.043354\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.062270\t최선의 손실: 0.043354\t정확도: 98.71%\n", + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 4.6min\n", + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.094161\t최선의 손실: 0.094161\t정확도: 97.42%\n", + "1\t검증 세트 손실: 0.060821\t최선의 손실: 0.060821\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.060607\t최선의 손실: 0.060607\t정확도: 98.05%\n", + "3\t검증 세트 손실: 0.061428\t최선의 손실: 0.060607\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.048375\t최선의 손실: 0.048375\t정확도: 98.32%\n", + "5\t검증 세트 손실: 0.057125\t최선의 손실: 0.048375\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.055206\t최선의 손실: 0.048375\t정확도: 98.08%\n", + "7\t검증 세트 손실: 0.039233\t최선의 손실: 0.039233\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.053797\t최선의 손실: 0.039233\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.043635\t최선의 손실: 0.039233\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.048275\t최선의 손실: 0.039233\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.032505\t최선의 손실: 0.032505\t정확도: 98.87%\n", + "12\t검증 세트 손실: 0.051750\t최선의 손실: 0.032505\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.041959\t최선의 손실: 0.032505\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.039655\t최선의 손실: 0.032505\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.053166\t최선의 손실: 0.032505\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.034493\t최선의 손실: 0.032505\t정확도: 99.14%\n", + "17\t검증 세트 손실: 0.040835\t최선의 손실: 0.032505\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.038932\t최선의 손실: 0.032505\t정확도: 98.94%\n", + "19\t검증 세트 손실: 0.034612\t최선의 손실: 0.032505\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.033341\t최선의 손실: 0.032505\t정확도: 99.02%\n", + "21\t검증 세트 손실: 0.030003\t최선의 손실: 0.030003\t정확도: 99.26%\n", + "22\t검증 세트 손실: 0.033447\t최선의 손실: 0.030003\t정확도: 99.14%\n", + "23\t검증 세트 손실: 0.058222\t최선의 손실: 0.030003\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.041282\t최선의 손실: 0.030003\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.044465\t최선의 손실: 0.030003\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.033007\t최선의 손실: 0.030003\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.037700\t최선의 손실: 0.030003\t정확도: 98.98%\n", + "28\t검증 세트 손실: 0.027439\t최선의 손실: 0.027439\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.033512\t최선의 손실: 0.027439\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.038708\t최선의 손실: 0.027439\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.045726\t최선의 손실: 0.027439\t정확도: 98.75%\n", + "32\t검증 세트 손실: 0.044102\t최선의 손실: 0.027439\t정확도: 98.79%\n", + "33\t검증 세트 손실: 0.035818\t최선의 손실: 0.027439\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.041471\t최선의 손실: 0.027439\t정확도: 99.10%\n", + "35\t검증 세트 손실: 0.033058\t최선의 손실: 0.027439\t정확도: 99.14%\n", + "36\t검증 세트 손실: 0.051417\t최선의 손실: 0.027439\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.041626\t최선의 손실: 0.027439\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.047338\t최선의 손실: 0.027439\t정확도: 98.91%\n", + "39\t검증 세트 손실: 0.036314\t최선의 손실: 0.027439\t정확도: 99.26%\n", + "40\t검증 세트 손실: 0.035440\t최선의 손실: 0.027439\t정확도: 99.06%\n", + "41\t검증 세트 손실: 0.041933\t최선의 손실: 0.027439\t정확도: 99.06%\n", + "42\t검증 세트 손실: 0.036354\t최선의 손실: 0.027439\t정확도: 99.02%\n", + "43\t검증 세트 손실: 0.056050\t최선의 손실: 0.027439\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.042644\t최선의 손실: 0.027439\t정확도: 98.94%\n", + "45\t검증 세트 손실: 0.032222\t최선의 손실: 0.027439\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.037992\t최선의 손실: 0.027439\t정확도: 99.14%\n", + "47\t검증 세트 손실: 0.042881\t최선의 손실: 0.027439\t정확도: 98.94%\n", + "48\t검증 세트 손실: 0.044839\t최선의 손실: 0.027439\t정확도: 98.91%\n", + "49\t검증 세트 손실: 0.036412\t최선의 손실: 0.027439\t정확도: 98.91%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 21.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.167876\t최선의 손실: 0.167876\t정확도: 95.39%\n", - "1\t검증 세트 손실: 0.063097\t최선의 손실: 0.063097\t정확도: 98.08%\n", - "2\t검증 세트 손실: 0.071609\t최선의 손실: 0.063097\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.068691\t최선의 손실: 0.063097\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.098614\t최선의 손실: 0.063097\t정확도: 97.38%\n", - "5\t검증 세트 손실: 0.048212\t최선의 손실: 0.048212\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.061751\t최선의 손실: 0.048212\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.043305\t최선의 손실: 0.043305\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.046952\t최선의 손실: 0.043305\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.136076\t최선의 손실: 0.043305\t정확도: 97.03%\n", - "10\t검증 세트 손실: 0.045884\t최선의 손실: 0.043305\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.075396\t최선의 손실: 0.043305\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.047580\t최선의 손실: 0.043305\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.060831\t최선의 손실: 0.043305\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.039337\t최선의 손실: 0.039337\t정확도: 99.06%\n", - "15\t검증 세트 손실: 0.040293\t최선의 손실: 0.039337\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.043898\t최선의 손실: 0.039337\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.055085\t최선의 손실: 0.039337\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.068534\t최선의 손실: 0.039337\t정확도: 98.16%\n", - "19\t검증 세트 손실: 0.048347\t최선의 손실: 0.039337\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.049943\t최선의 손실: 0.039337\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.041360\t최선의 손실: 0.039337\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.125538\t최선의 손실: 0.039337\t정확도: 97.22%\n", - "23\t검증 세트 손실: 0.060884\t최선의 손실: 0.039337\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.048962\t최선의 손실: 0.039337\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.041645\t최선의 손실: 0.039337\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.052996\t최선의 손실: 0.039337\t정확도: 98.24%\n", - "27\t검증 세트 손실: 0.066677\t최선의 손실: 0.039337\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.047366\t최선의 손실: 0.039337\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.043280\t최선의 손실: 0.039337\t정확도: 99.10%\n", - "30\t검증 세트 손실: 0.072161\t최선의 손실: 0.039337\t정확도: 98.55%\n", - "31\t검증 세트 손실: 0.062901\t최선의 손실: 0.039337\t정확도: 98.71%\n", - "32\t검증 세트 손실: 0.070910\t최선의 손실: 0.039337\t정확도: 98.67%\n", - "33\t검증 세트 손실: 0.056249\t최선의 손실: 0.039337\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.054640\t최선의 손실: 0.039337\t정확도: 98.75%\n", - "35\t검증 세트 손실: 0.061723\t최선의 손실: 0.039337\t정확도: 98.87%\n", + "[CV] n_neurons=160, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 5.7min\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.078509\t최선의 손실: 0.078509\t정확도: 97.34%\n", + "1\t검증 세트 손실: 0.071702\t최선의 손실: 0.071702\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.063066\t최선의 손실: 0.063066\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.059169\t최선의 손실: 0.059169\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.076965\t최선의 손실: 0.059169\t정확도: 97.62%\n", + "5\t검증 세트 손실: 0.063530\t최선의 손실: 0.059169\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.049235\t최선의 손실: 0.049235\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.048175\t최선의 손실: 0.048175\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.094999\t최선의 손실: 0.048175\t정확도: 97.30%\n", + "9\t검증 세트 손실: 0.068584\t최선의 손실: 0.048175\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.075305\t최선의 손실: 0.048175\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.052466\t최선의 손실: 0.048175\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.050663\t최선의 손실: 0.048175\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.062552\t최선의 손실: 0.048175\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.051726\t최선의 손실: 0.048175\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.085448\t최선의 손실: 0.048175\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.058919\t최선의 손실: 0.048175\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.059682\t최선의 손실: 0.048175\t정확도: 98.63%\n", + "18\t검증 세트 손실: 0.051501\t최선의 손실: 0.048175\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.057832\t최선의 손실: 0.048175\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.062617\t최선의 손실: 0.048175\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.063277\t최선의 손실: 0.048175\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.041894\t최선의 손실: 0.041894\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.059065\t최선의 손실: 0.041894\t정확도: 99.06%\n", + "24\t검증 세트 손실: 0.059579\t최선의 손실: 0.041894\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.054993\t최선의 손실: 0.041894\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.044801\t최선의 손실: 0.041894\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.046808\t최선의 손실: 0.041894\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.048058\t최선의 손실: 0.041894\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.060912\t최선의 손실: 0.041894\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.071492\t최선의 손실: 0.041894\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.049418\t최선의 손실: 0.041894\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.055799\t최선의 손실: 0.041894\t정확도: 99.10%\n", + "33\t검증 세트 손실: 0.104969\t최선의 손실: 0.041894\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.097929\t최선의 손실: 0.041894\t정확도: 98.40%\n", + "35\t검증 세트 손실: 0.056051\t최선의 손실: 0.041894\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.096276\t최선의 손실: 0.041894\t정확도: 98.36%\n", + "37\t검증 세트 손실: 0.052783\t최선의 손실: 0.041894\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.076780\t최선의 손실: 0.041894\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.049776\t최선의 손실: 0.041894\t정확도: 99.02%\n", + "40\t검증 세트 손실: 0.056118\t최선의 손실: 0.041894\t정확도: 98.94%\n", + "41\t검증 세트 손실: 0.066243\t최선의 손실: 0.041894\t정확도: 98.71%\n", + "42\t검증 세트 손실: 0.061757\t최선의 손실: 0.041894\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.067382\t최선의 손실: 0.041894\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 25.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.119960\t최선의 손실: 0.119960\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.074024\t최선의 손실: 0.074024\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.064185\t최선의 손실: 0.064185\t정확도: 97.73%\n", - "3\t검증 세트 손실: 0.058739\t최선의 손실: 0.058739\t정확도: 98.24%\n", - "4\t검증 세트 손실: 0.070764\t최선의 손실: 0.058739\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.038561\t최선의 손실: 0.038561\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.042209\t최선의 손실: 0.038561\t정확도: 98.71%\n", - "7\t검증 세트 손실: 0.065389\t최선의 손실: 0.038561\t정확도: 98.24%\n", - "8\t검증 세트 손실: 0.054796\t최선의 손실: 0.038561\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.063752\t최선의 손실: 0.038561\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.054501\t최선의 손실: 0.038561\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.063553\t최선의 손실: 0.038561\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.041340\t최선의 손실: 0.038561\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.043117\t최선의 손실: 0.038561\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.051491\t최선의 손실: 0.038561\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.057156\t최선의 손실: 0.038561\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.061733\t최선의 손실: 0.038561\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.037437\t최선의 손실: 0.037437\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.067148\t최선의 손실: 0.037437\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.048706\t최선의 손실: 0.037437\t정확도: 99.10%\n", - "20\t검증 세트 손실: 0.059282\t최선의 손실: 0.037437\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.057973\t최선의 손실: 0.037437\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.048654\t최선의 손실: 0.037437\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.046990\t최선의 손실: 0.037437\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.051595\t최선의 손실: 0.037437\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.035380\t최선의 손실: 0.035380\t정확도: 99.14%\n", - "26\t검증 세트 손실: 0.050929\t최선의 손실: 0.035380\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.048902\t최선의 손실: 0.035380\t정확도: 98.91%\n", - "28\t검증 세트 손실: 0.046297\t최선의 손실: 0.035380\t정확도: 99.30%\n", - "29\t검증 세트 손실: 0.052129\t최선의 손실: 0.035380\t정확도: 98.94%\n" + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation=, total= 31.5s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.149644\t최선의 손실: 0.149644\t정확도: 95.74%\n", + "1\t검증 세트 손실: 0.065757\t최선의 손실: 0.065757\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.063324\t최선의 손실: 0.063324\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.094713\t최선의 손실: 0.063324\t정확도: 97.34%\n", + "4\t검증 세트 손실: 0.109808\t최선의 손실: 0.063324\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.054712\t최선의 손실: 0.054712\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.074053\t최선의 손실: 0.054712\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.059617\t최선의 손실: 0.054712\t정확도: 98.05%\n", + "8\t검증 세트 손실: 0.071399\t최선의 손실: 0.054712\t정확도: 98.55%\n", + "9\t검증 세트 손실: 0.062591\t최선의 손실: 0.054712\t정확도: 98.40%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "30\t검증 세트 손실: 0.048024\t최선의 손실: 0.035380\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.058064\t최선의 손실: 0.035380\t정확도: 98.98%\n", - "32\t검증 세트 손실: 0.051286\t최선의 손실: 0.035380\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.080228\t최선의 손실: 0.035380\t정확도: 98.51%\n", - "34\t검증 세트 손실: 0.051052\t최선의 손실: 0.035380\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.058742\t최선의 손실: 0.035380\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.063548\t최선의 손실: 0.035380\t정확도: 98.91%\n", - "37\t검증 세트 손실: 0.058361\t최선의 손실: 0.035380\t정확도: 98.79%\n", - "38\t검증 세트 손실: 0.073720\t최선의 손실: 0.035380\t정확도: 98.79%\n", - "39\t검증 세트 손실: 0.089845\t최선의 손실: 0.035380\t정확도: 98.24%\n", - "40\t검증 세트 손실: 0.050312\t최선의 손실: 0.035380\t정확도: 98.91%\n", - "41\t검증 세트 손실: 0.034238\t최선의 손실: 0.034238\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.039486\t최선의 손실: 0.034238\t정확도: 99.14%\n", - "43\t검증 세트 손실: 0.059658\t최선의 손실: 0.034238\t정확도: 99.02%\n", - "44\t검증 세트 손실: 0.071439\t최선의 손실: 0.034238\t정확도: 98.91%\n", - "45\t검증 세트 손실: 0.042942\t최선의 손실: 0.034238\t정확도: 99.10%\n", - "46\t검증 세트 손실: 0.048536\t최선의 손실: 0.034238\t정확도: 99.06%\n", - "47\t검증 세트 손실: 0.051885\t최선의 손실: 0.034238\t정확도: 99.14%\n", - "48\t검증 세트 손실: 0.072594\t최선의 손실: 0.034238\t정확도: 98.83%\n", - "49\t검증 세트 손실: 0.041460\t최선의 손실: 0.034238\t정확도: 99.06%\n", - "50\t검증 세트 손실: 0.058374\t최선의 손실: 0.034238\t정확도: 98.91%\n", - "51\t검증 세트 손실: 0.032418\t최선의 손실: 0.032418\t정확도: 99.30%\n", - "52\t검증 세트 손실: 0.062834\t최선의 손실: 0.032418\t정확도: 98.91%\n", - "53\t검증 세트 손실: 0.053102\t최선의 손실: 0.032418\t정확도: 99.10%\n", - "54\t검증 세트 손실: 0.054361\t최선의 손실: 0.032418\t정확도: 99.06%\n", - "55\t검증 세트 손실: 0.046185\t최선의 손실: 0.032418\t정확도: 99.22%\n", - "56\t검증 세트 손실: 0.042961\t최선의 손실: 0.032418\t정확도: 99.26%\n", - "57\t검증 세트 손실: 0.044639\t최선의 손실: 0.032418\t정확도: 99.22%\n", - "58\t검증 세트 손실: 0.055760\t최선의 손실: 0.032418\t정확도: 98.83%\n", - "59\t검증 세트 손실: 0.054755\t최선의 손실: 0.032418\t정확도: 99.02%\n", - "60\t검증 세트 손실: 0.071301\t최선의 손실: 0.032418\t정확도: 98.59%\n", - "61\t검증 세트 손실: 0.049676\t최선의 손실: 0.032418\t정확도: 98.94%\n", - "62\t검증 세트 손실: 0.059672\t최선의 손실: 0.032418\t정확도: 98.87%\n", - "63\t검증 세트 손실: 0.046113\t최선의 손실: 0.032418\t정확도: 98.83%\n", - "64\t검증 세트 손실: 0.058924\t최선의 손실: 0.032418\t정확도: 99.10%\n", - "65\t검증 세트 손실: 0.045565\t최선의 손실: 0.032418\t정확도: 99.06%\n", - "66\t검증 세트 손실: 0.066494\t최선의 손실: 0.032418\t정확도: 98.91%\n", - "67\t검증 세트 손실: 0.053688\t최선의 손실: 0.032418\t정확도: 99.02%\n", - "68\t검증 세트 손실: 0.047278\t최선의 손실: 0.032418\t정확도: 99.02%\n", - "69\t검증 세트 손실: 0.059956\t최선의 손실: 0.032418\t정확도: 98.67%\n", - "70\t검증 세트 손실: 0.048300\t최선의 손실: 0.032418\t정확도: 99.26%\n", - "71\t검증 세트 손실: 0.068859\t최선의 손실: 0.032418\t정확도: 98.67%\n", - "72\t검증 세트 손실: 0.057515\t최선의 손실: 0.032418\t정확도: 99.10%\n", + "10\t검증 세트 손실: 0.049781\t최선의 손실: 0.049781\t정확도: 98.98%\n", + "11\t검증 세트 손실: 0.050083\t최선의 손실: 0.049781\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.075505\t최선의 손실: 0.049781\t정확도: 98.01%\n", + "13\t검증 세트 손실: 0.048269\t최선의 손실: 0.048269\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.038083\t최선의 손실: 0.038083\t정확도: 99.10%\n", + "15\t검증 세트 손실: 0.045719\t최선의 손실: 0.038083\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.042981\t최선의 손실: 0.038083\t정확도: 99.10%\n", + "17\t검증 세트 손실: 0.055567\t최선의 손실: 0.038083\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.064374\t최선의 손실: 0.038083\t정확도: 98.44%\n", + "19\t검증 세트 손실: 0.054456\t최선의 손실: 0.038083\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.049124\t최선의 손실: 0.038083\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.043380\t최선의 손실: 0.038083\t정확도: 99.10%\n", + "22\t검증 세트 손실: 0.050797\t최선의 손실: 0.038083\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.058516\t최선의 손실: 0.038083\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.074536\t최선의 손실: 0.038083\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.046521\t최선의 손실: 0.038083\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.063803\t최선의 손실: 0.038083\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.059631\t최선의 손실: 0.038083\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.048298\t최선의 손실: 0.038083\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.058515\t최선의 손실: 0.038083\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.041512\t최선의 손실: 0.038083\t정확도: 99.06%\n", + "31\t검증 세트 손실: 0.064526\t최선의 손실: 0.038083\t정확도: 98.55%\n", + "32\t검증 세트 손실: 0.050454\t최선의 손실: 0.038083\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.060194\t최선의 손실: 0.038083\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.034678\t최선의 손실: 0.034678\t정확도: 99.30%\n", + "35\t검증 세트 손실: 0.051172\t최선의 손실: 0.034678\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.064932\t최선의 손실: 0.034678\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.071073\t최선의 손실: 0.034678\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.074694\t최선의 손실: 0.034678\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.044602\t최선의 손실: 0.034678\t정확도: 99.18%\n", + "40\t검증 세트 손실: 0.058617\t최선의 손실: 0.034678\t정확도: 99.14%\n", + "41\t검증 세트 손실: 0.074569\t최선의 손실: 0.034678\t정확도: 98.55%\n", + "42\t검증 세트 손실: 0.073076\t최선의 손실: 0.034678\t정확도: 98.55%\n", + "43\t검증 세트 손실: 0.038797\t최선의 손실: 0.034678\t정확도: 99.18%\n", + "44\t검증 세트 손실: 0.035746\t최선의 손실: 0.034678\t정확도: 99.37%\n", + "45\t검증 세트 손실: 0.032890\t최선의 손실: 0.032890\t정확도: 99.34%\n", + "46\t검증 세트 손실: 0.047108\t최선의 손실: 0.032890\t정확도: 99.02%\n", + "47\t검증 세트 손실: 0.047005\t최선의 손실: 0.032890\t정확도: 99.18%\n", + "48\t검증 세트 손실: 0.047040\t최선의 손실: 0.032890\t정확도: 99.22%\n", + "49\t검증 세트 손실: 0.062999\t최선의 손실: 0.032890\t정확도: 99.14%\n", + "50\t검증 세트 손실: 0.046104\t최선의 손실: 0.032890\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.073047\t최선의 손실: 0.032890\t정확도: 98.71%\n", + "52\t검증 세트 손실: 0.046146\t최선의 손실: 0.032890\t정확도: 99.06%\n", + "53\t검증 세트 손실: 0.059334\t최선의 손실: 0.032890\t정확도: 99.02%\n", + "54\t검증 세트 손실: 0.053997\t최선의 손실: 0.032890\t정확도: 99.02%\n", + "55\t검증 세트 손실: 0.063472\t최선의 손실: 0.032890\t정확도: 98.94%\n", + "56\t검증 세트 손실: 0.043512\t최선의 손실: 0.032890\t정확도: 99.18%\n", + "57\t검증 세트 손실: 0.050884\t최선의 손실: 0.032890\t정확도: 99.14%\n", + "58\t검증 세트 손실: 0.042481\t최선의 손실: 0.032890\t정확도: 99.22%\n", + "59\t검증 세트 손실: 0.047695\t최선의 손실: 0.032890\t정확도: 99.06%\n", + "60\t검증 세트 손실: 0.056507\t최선의 손실: 0.032890\t정확도: 99.02%\n", + "61\t검증 세트 손실: 0.094396\t최선의 손실: 0.032890\t정확도: 98.94%\n", + "62\t검증 세트 손실: 0.053801\t최선의 손실: 0.032890\t정확도: 99.18%\n", + "63\t검증 세트 손실: 0.042394\t최선의 손실: 0.032890\t정확도: 99.34%\n", + "64\t검증 세트 손실: 0.046281\t최선의 손실: 0.032890\t정확도: 99.14%\n", + "65\t검증 세트 손실: 0.075860\t최선의 손실: 0.032890\t정확도: 98.87%\n", + "66\t검증 세트 손실: 0.069112\t최선의 손실: 0.032890\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 51.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 0.128765\t최선의 손실: 0.128765\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.109230\t최선의 손실: 0.109230\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.106861\t최선의 손실: 0.106861\t정확도: 97.65%\n", - "3\t검증 세트 손실: 0.105287\t최선의 손실: 0.105287\t정확도: 97.07%\n", - "4\t검증 세트 손실: 0.097041\t최선의 손실: 0.097041\t정확도: 97.30%\n", - "5\t검증 세트 손실: 0.101194\t최선의 손실: 0.097041\t정확도: 98.20%\n", - "6\t검증 세트 손실: 0.070162\t최선의 손실: 0.070162\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.110723\t최선의 손실: 0.070162\t정확도: 97.62%\n", - "8\t검증 세트 손실: 0.084668\t최선의 손실: 0.070162\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.066144\t최선의 손실: 0.066144\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.068287\t최선의 손실: 0.066144\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.078140\t최선의 손실: 0.066144\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.256938\t최선의 손실: 0.066144\t정확도: 97.93%\n", - "13\t검증 세트 손실: 0.744854\t최선의 손실: 0.066144\t정확도: 96.76%\n", - "14\t검증 세트 손실: 0.377391\t최선의 손실: 0.066144\t정확도: 97.11%\n", - "15\t검증 세트 손실: 0.068453\t최선의 손실: 0.066144\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.055766\t최선의 손실: 0.055766\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.084038\t최선의 손실: 0.055766\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.054554\t최선의 손실: 0.054554\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.067436\t최선의 손실: 0.054554\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.070345\t최선의 손실: 0.054554\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.144514\t최선의 손실: 0.054554\t정확도: 98.12%\n", - "22\t검증 세트 손실: 0.069750\t최선의 손실: 0.054554\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.092699\t최선의 손실: 0.054554\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.067160\t최선의 손실: 0.054554\t정확도: 98.83%\n", - "25\t검증 세트 손실: 0.415006\t최선의 손실: 0.054554\t정확도: 95.90%\n", - "26\t검증 세트 손실: 1.138411\t최선의 손실: 0.054554\t정확도: 97.77%\n", - "27\t검증 세트 손실: 0.166700\t최선의 손실: 0.054554\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.224209\t최선의 손실: 0.054554\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.125089\t최선의 손실: 0.054554\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.148741\t최선의 손실: 0.054554\t정확도: 98.67%\n", - "31\t검증 세트 손실: 0.210633\t최선의 손실: 0.054554\t정확도: 98.20%\n", - "32\t검증 세트 손실: 0.165081\t최선의 손실: 0.054554\t정확도: 98.51%\n", - "33\t검증 세트 손실: 0.284772\t최선의 손실: 0.054554\t정확도: 98.48%\n", - "34\t검증 세트 손실: 0.165289\t최선의 손실: 0.054554\t정확도: 98.75%\n", - "35\t검증 세트 손실: 0.173287\t최선의 손실: 0.054554\t정확도: 98.67%\n", - "36\t검증 세트 손실: 0.129511\t최선의 손실: 0.054554\t정확도: 98.79%\n", - "37\t검증 세트 손실: 0.127490\t최선의 손실: 0.054554\t정확도: 98.63%\n", - "38\t검증 세트 손실: 0.138601\t최선의 손실: 0.054554\t정확도: 98.67%\n", - "39\t검증 세트 손실: 0.121465\t최선의 손실: 0.054554\t정확도: 98.83%\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation=, total= 47.4s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.103628\t최선의 손실: 0.103628\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.062176\t최선의 손실: 0.062176\t정확도: 97.89%\n", + "2\t검증 세트 손실: 0.061928\t최선의 손실: 0.061928\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.059955\t최선의 손실: 0.059955\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.055710\t최선의 손실: 0.055710\t정확도: 98.24%\n", + "5\t검증 세트 손실: 0.040959\t최선의 손실: 0.040959\t정확도: 98.71%\n", + "6\t검증 세트 손실: 0.050828\t최선의 손실: 0.040959\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.079279\t최선의 손실: 0.040959\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.046783\t최선의 손실: 0.040959\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.055113\t최선의 손실: 0.040959\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.054429\t최선의 손실: 0.040959\t정확도: 98.83%\n", + "11\t검증 세트 손실: 0.056116\t최선의 손실: 0.040959\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.039270\t최선의 손실: 0.039270\t정확도: 99.14%\n", + "13\t검증 세트 손실: 0.041781\t최선의 손실: 0.039270\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.057022\t최선의 손실: 0.039270\t정확도: 98.94%\n", + "15\t검증 세트 손실: 0.051784\t최선의 손실: 0.039270\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.090517\t최선의 손실: 0.039270\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.049435\t최선의 손실: 0.039270\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.055905\t최선의 손실: 0.039270\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.049026\t최선의 손실: 0.039270\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.111757\t최선의 손실: 0.039270\t정확도: 97.69%\n", + "21\t검증 세트 손실: 0.047982\t최선의 손실: 0.039270\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.050294\t최선의 손실: 0.039270\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.057347\t최선의 손실: 0.039270\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.043409\t최선의 손실: 0.039270\t정확도: 99.14%\n", + "25\t검증 세트 손실: 0.047229\t최선의 손실: 0.039270\t정확도: 99.10%\n", + "26\t검증 세트 손실: 0.058863\t최선의 손실: 0.039270\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.053601\t최선의 손실: 0.039270\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.074901\t최선의 손실: 0.039270\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.051364\t최선의 손실: 0.039270\t정확도: 98.98%\n", + "30\t검증 세트 손실: 0.042325\t최선의 손실: 0.039270\t정확도: 99.22%\n", + "31\t검증 세트 손실: 0.043582\t최선의 손실: 0.039270\t정확도: 99.26%\n", + "32\t검증 세트 손실: 0.069032\t최선의 손실: 0.039270\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.041621\t최선의 손실: 0.039270\t정확도: 99.18%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90, total= 29.0s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 0.200460\t최선의 손실: 0.200460\t정확도: 95.74%\n", - "1\t검증 세트 손실: 0.078041\t최선의 손실: 0.078041\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.120519\t최선의 손실: 0.078041\t정확도: 96.91%\n", - "3\t검증 세트 손실: 0.105682\t최선의 손실: 0.078041\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.102752\t최선의 손실: 0.078041\t정확도: 97.65%\n", - "5\t검증 세트 손실: 0.072649\t최선의 손실: 0.072649\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.108762\t최선의 손실: 0.072649\t정확도: 97.69%\n", - "7\t검증 세트 손실: 0.097297\t최선의 손실: 0.072649\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.079924\t최선의 손실: 0.072649\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.195067\t최선의 손실: 0.072649\t정확도: 97.19%\n", - "10\t검증 세트 손실: 0.129881\t최선의 손실: 0.072649\t정확도: 98.08%\n", - "11\t검증 세트 손실: 0.060155\t최선의 손실: 0.060155\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.053662\t최선의 손실: 0.053662\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.112037\t최선의 손실: 0.053662\t정확도: 98.20%\n", - "14\t검증 세트 손실: 0.080377\t최선의 손실: 0.053662\t정확도: 98.16%\n", - "15\t검증 세트 손실: 0.079755\t최선의 손실: 0.053662\t정확도: 98.36%\n", - "16\t검증 세트 손실: 0.058739\t최선의 손실: 0.053662\t정확도: 99.06%\n", - "17\t검증 세트 손실: 0.099610\t최선의 손실: 0.053662\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.350080\t최선의 손실: 0.053662\t정확도: 97.58%\n", - "19\t검증 세트 손실: 0.135290\t최선의 손실: 0.053662\t정확도: 98.32%\n", - "20\t검증 세트 손실: 0.115173\t최선의 손실: 0.053662\t정확도: 97.65%\n", - "21\t검증 세트 손실: 0.069374\t최선의 손실: 0.053662\t정확도: 98.71%\n", - "22\t검증 세트 손실: 0.076693\t최선의 손실: 0.053662\t정확도: 98.83%\n", - "23\t검증 세트 손실: 0.076522\t최선의 손실: 0.053662\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.070103\t최선의 손실: 0.053662\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.085081\t최선의 손실: 0.053662\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.091652\t최선의 손실: 0.053662\t정확도: 98.44%\n", - "27\t검증 세트 손실: 0.099273\t최선의 손실: 0.053662\t정확도: 98.48%\n", - "28\t검증 세트 손실: 9.969027\t최선의 손실: 0.053662\t정확도: 91.75%\n", - "29\t검증 세트 손실: 0.200338\t최선의 손실: 0.053662\t정확도: 98.51%\n", - "30\t검증 세트 손실: 0.305656\t최선의 손실: 0.053662\t정확도: 97.77%\n", - "31\t검증 세트 손실: 0.168912\t최선의 손실: 0.053662\t정확도: 98.67%\n", - "32\t검증 세트 손실: 0.144018\t최선의 손실: 0.053662\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.245742\t최선의 손실: 0.053662\t정확도: 98.55%\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.98, activation=, total= 24.9s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.128690\t최선의 손실: 0.128690\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.081766\t최선의 손실: 0.081766\t정확도: 97.93%\n", + "2\t검증 세트 손실: 0.220402\t최선의 손실: 0.081766\t정확도: 94.61%\n", + "3\t검증 세트 손실: 0.066797\t최선의 손실: 0.066797\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.109671\t최선의 손실: 0.066797\t정확도: 96.91%\n", + "5\t검증 세트 손실: 0.174365\t최선의 손실: 0.066797\t정확도: 97.34%\n", + "6\t검증 세트 손실: 0.055843\t최선의 손실: 0.055843\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.105519\t최선의 손실: 0.055843\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.085978\t최선의 손실: 0.055843\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.069951\t최선의 손실: 0.055843\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.171740\t최선의 손실: 0.055843\t정확도: 97.38%\n", + "11\t검증 세트 손실: 0.081716\t최선의 손실: 0.055843\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.255862\t최선의 손실: 0.055843\t정확도: 96.72%\n", + "13\t검증 세트 손실: 0.073731\t최선의 손실: 0.055843\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.698986\t최선의 손실: 0.055843\t정확도: 96.60%\n", + "15\t검증 세트 손실: 0.099996\t최선의 손실: 0.055843\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.063901\t최선의 손실: 0.055843\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.076496\t최선의 손실: 0.055843\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.071738\t최선의 손실: 0.055843\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.074136\t최선의 손실: 0.055843\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.103685\t최선의 손실: 0.055843\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.147352\t최선의 손실: 0.055843\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.225791\t최선의 손실: 0.055843\t정확도: 98.20%\n", + "23\t검증 세트 손실: 0.456973\t최선의 손실: 0.055843\t정확도: 97.97%\n", + "24\t검증 세트 손실: 0.269344\t최선의 손실: 0.055843\t정확도: 98.40%\n", + "25\t검증 세트 손실: 0.122315\t최선의 손실: 0.055843\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.081213\t최선의 손실: 0.055843\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.066708\t최선의 손실: 0.055843\t정확도: 99.18%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90, total= 24.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 0.179192\t최선의 손실: 0.179192\t정확도: 96.21%\n", - "1\t검증 세트 손실: 0.107784\t최선의 손실: 0.107784\t정확도: 97.26%\n", - "2\t검증 세트 손실: 0.117730\t최선의 손실: 0.107784\t정확도: 96.72%\n", - "3\t검증 세트 손실: 0.073185\t최선의 손실: 0.073185\t정확도: 98.28%\n", - "4\t검증 세트 손실: 0.103491\t최선의 손실: 0.073185\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.091637\t최선의 손실: 0.073185\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.060660\t최선의 손실: 0.060660\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.080753\t최선의 손실: 0.060660\t정확도: 97.85%\n", - "8\t검증 세트 손실: 0.071843\t최선의 손실: 0.060660\t정확도: 98.28%\n", - "9\t검증 세트 손실: 0.053894\t최선의 손실: 0.053894\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.261849\t최선의 손실: 0.053894\t정확도: 96.40%\n", - "11\t검증 세트 손실: 0.108982\t최선의 손실: 0.053894\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.103779\t최선의 손실: 0.053894\t정확도: 98.08%\n", - "13\t검증 세트 손실: 0.688804\t최선의 손실: 0.053894\t정확도: 97.19%\n", - "14\t검증 세트 손실: 0.147013\t최선의 손실: 0.053894\t정확도: 98.24%\n", - "15\t검증 세트 손실: 0.078057\t최선의 손실: 0.053894\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.086667\t최선의 손실: 0.053894\t정확도: 98.32%\n", - "17\t검증 세트 손실: 0.067731\t최선의 손실: 0.053894\t정확도: 98.94%\n", - "18\t검증 세트 손실: 0.121521\t최선의 손실: 0.053894\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.076988\t최선의 손실: 0.053894\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.069042\t최선의 손실: 0.053894\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.089692\t최선의 손실: 0.053894\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.080063\t최선의 손실: 0.053894\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.074204\t최선의 손실: 0.053894\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.107091\t최선의 손실: 0.053894\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.306583\t최선의 손실: 0.053894\t정확도: 97.73%\n", - "26\t검증 세트 손실: 0.260135\t최선의 손실: 0.053894\t정확도: 97.81%\n", - "27\t검증 세트 손실: 0.068766\t최선의 손실: 0.053894\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.060516\t최선의 손실: 0.053894\t정확도: 99.10%\n" + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=, total= 20.6s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.193322\t최선의 손실: 0.193322\t정확도: 94.96%\n", + "1\t검증 세트 손실: 0.080517\t최선의 손실: 0.080517\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.074465\t최선의 손실: 0.074465\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.134427\t최선의 손실: 0.074465\t정확도: 96.76%\n", + "4\t검증 세트 손실: 0.082468\t최선의 손실: 0.074465\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.053601\t최선의 손실: 0.053601\t정확도: 98.63%\n", + "6\t검증 세트 손실: 0.092952\t최선의 손실: 0.053601\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.069631\t최선의 손실: 0.053601\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.070888\t최선의 손실: 0.053601\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.079092\t최선의 손실: 0.053601\t정확도: 98.32%\n", + "10\t검증 세트 손실: 0.066742\t최선의 손실: 0.053601\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.138391\t최선의 손실: 0.053601\t정확도: 97.69%\n", + "12\t검증 세트 손실: 0.082765\t최선의 손실: 0.053601\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.191255\t최선의 손실: 0.053601\t정확도: 96.79%\n", + "14\t검증 세트 손실: 0.132037\t최선의 손실: 0.053601\t정확도: 97.89%\n", + "15\t검증 세트 손실: 0.131333\t최선의 손실: 0.053601\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.077963\t최선의 손실: 0.053601\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.043952\t최선의 손실: 0.043952\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.052196\t최선의 손실: 0.043952\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.066829\t최선의 손실: 0.043952\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.162558\t최선의 손실: 0.043952\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.162440\t최선의 손실: 0.043952\t정확도: 97.81%\n", + "22\t검증 세트 손실: 0.080980\t최선의 손실: 0.043952\t정확도: 98.36%\n", + "23\t검증 세트 손실: 0.065566\t최선의 손실: 0.043952\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.094202\t최선의 손실: 0.043952\t정확도: 98.40%\n", + "25\t검증 세트 손실: 2.293033\t최선의 손실: 0.043952\t정확도: 97.07%\n", + "26\t검증 세트 손실: 0.210120\t최선의 손실: 0.043952\t정확도: 98.51%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "29\t검증 세트 손실: 0.058014\t최선의 손실: 0.053894\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.077688\t최선의 손실: 0.053894\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.145960\t최선의 손실: 0.043952\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.149905\t최선의 손실: 0.043952\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.124822\t최선의 손실: 0.043952\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.096038\t최선의 손실: 0.043952\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.090019\t최선의 손실: 0.043952\t정확도: 99.06%\n", + "32\t검증 세트 손실: 0.102176\t최선의 손실: 0.043952\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.139488\t최선의 손실: 0.043952\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.115925\t최선의 손실: 0.043952\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.092093\t최선의 손실: 0.043952\t정확도: 98.75%\n", + "36\t검증 세트 손실: 0.088349\t최선의 손실: 0.043952\t정확도: 99.02%\n", + "37\t검증 세트 손실: 0.100188\t최선의 손실: 0.043952\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.116443\t최선의 손실: 0.043952\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=90, total= 22.5s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.180757\t최선의 손실: 0.180757\t정확도: 96.87%\n", - "1\t검증 세트 손실: 0.084867\t최선의 손실: 0.084867\t정확도: 97.58%\n", - "2\t검증 세트 손실: 0.076456\t최선의 손실: 0.076456\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.069824\t최선의 손실: 0.069824\t정확도: 98.16%\n", - "4\t검증 세트 손실: 0.054059\t최선의 손실: 0.054059\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.069224\t최선의 손실: 0.054059\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.065480\t최선의 손실: 0.054059\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.058515\t최선의 손실: 0.054059\t정확도: 98.44%\n", - "8\t검증 세트 손실: 0.068231\t최선의 손실: 0.054059\t정확도: 98.08%\n", - "9\t검증 세트 손실: 0.101827\t최선의 손실: 0.054059\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.067064\t최선의 손실: 0.054059\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.084453\t최선의 손실: 0.054059\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.082210\t최선의 손실: 0.054059\t정확도: 98.12%\n", - "13\t검증 세트 손실: 0.077878\t최선의 손실: 0.054059\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.089336\t최선의 손실: 0.054059\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.074467\t최선의 손실: 0.054059\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.083832\t최선의 손실: 0.054059\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.078087\t최선의 손실: 0.054059\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.092584\t최선의 손실: 0.054059\t정확도: 98.32%\n", - "19\t검증 세트 손실: 0.077227\t최선의 손실: 0.054059\t정확도: 98.59%\n", - "20\t검증 세트 손실: 0.063012\t최선의 손실: 0.054059\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.055073\t최선의 손실: 0.054059\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.067046\t최선의 손실: 0.054059\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.070101\t최선의 손실: 0.054059\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.071371\t최선의 손실: 0.054059\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.088405\t최선의 손실: 0.054059\t정확도: 98.59%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=, total= 28.2s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.111865\t최선의 손실: 0.111865\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.096789\t최선의 손실: 0.096789\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.063929\t최선의 손실: 0.063929\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.076341\t최선의 손실: 0.063929\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.114736\t최선의 손실: 0.063929\t정확도: 97.69%\n", + "5\t검증 세트 손실: 0.057562\t최선의 손실: 0.057562\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.071735\t최선의 손실: 0.057562\t정확도: 98.01%\n", + "7\t검증 세트 손실: 0.069693\t최선의 손실: 0.057562\t정확도: 98.32%\n", + "8\t검증 세트 손실: 0.064916\t최선의 손실: 0.057562\t정확도: 98.55%\n", + "9\t검증 세트 손실: 0.067600\t최선의 손실: 0.057562\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.054649\t최선의 손실: 0.054649\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.070905\t최선의 손실: 0.054649\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.255269\t최선의 손실: 0.054649\t정확도: 96.36%\n", + "13\t검증 세트 손실: 0.821252\t최선의 손실: 0.054649\t정확도: 97.34%\n", + "14\t검증 세트 손실: 0.301180\t최선의 손실: 0.054649\t정확도: 97.11%\n", + "15\t검증 세트 손실: 0.074986\t최선의 손실: 0.054649\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.087777\t최선의 손실: 0.054649\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.063825\t최선의 손실: 0.054649\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.080718\t최선의 손실: 0.054649\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.106593\t최선의 손실: 0.054649\t정확도: 98.05%\n", + "20\t검증 세트 손실: 0.079675\t최선의 손실: 0.054649\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.112879\t최선의 손실: 0.054649\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.069943\t최선의 손실: 0.054649\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.050974\t최선의 손실: 0.050974\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.051041\t최선의 손실: 0.050974\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.075809\t최선의 손실: 0.050974\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.247942\t최선의 손실: 0.050974\t정확도: 98.08%\n", + "27\t검증 세트 손실: 0.107072\t최선의 손실: 0.050974\t정확도: 98.51%\n", + "28\t검증 세트 손실: 0.076384\t최선의 손실: 0.050974\t정확도: 98.51%\n", + "29\t검증 세트 손실: 0.074344\t최선의 손실: 0.050974\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.183254\t최선의 손실: 0.050974\t정확도: 98.71%\n", + "31\t검증 세트 손실: 1.954332\t최선의 손실: 0.050974\t정확도: 93.94%\n", + "32\t검증 세트 손실: 0.237892\t최선의 손실: 0.050974\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.212713\t최선의 손실: 0.050974\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.125811\t최선의 손실: 0.050974\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.167745\t최선의 손실: 0.050974\t정확도: 98.91%\n", + "36\t검증 세트 손실: 0.130916\t최선의 손실: 0.050974\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.143684\t최선의 손실: 0.050974\t정확도: 99.02%\n", + "38\t검증 세트 손실: 0.149510\t최선의 손실: 0.050974\t정확도: 99.02%\n", + "39\t검증 세트 손실: 0.144310\t최선의 손실: 0.050974\t정확도: 98.91%\n", + "40\t검증 세트 손실: 0.184474\t최선의 손실: 0.050974\t정확도: 98.48%\n", + "41\t검증 세트 손실: 0.147868\t최선의 손실: 0.050974\t정확도: 98.63%\n", + "42\t검증 세트 손실: 0.351426\t최선의 손실: 0.050974\t정확도: 98.24%\n", + "43\t검증 세트 손실: 0.132366\t최선의 손실: 0.050974\t정확도: 98.98%\n", + "44\t검증 세트 손실: 0.135608\t최선의 손실: 0.050974\t정확도: 99.06%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70, total= 6.0s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.238777\t최선의 손실: 0.238777\t정확도: 96.09%\n", - "1\t검증 세트 손실: 0.084124\t최선의 손실: 0.084124\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.072420\t최선의 손실: 0.072420\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.077255\t최선의 손실: 0.072420\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.086163\t최선의 손실: 0.072420\t정확도: 97.81%\n", - "5\t검증 세트 손실: 0.055903\t최선의 손실: 0.055903\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.060110\t최선의 손실: 0.055903\t정확도: 98.28%\n", - "7\t검증 세트 손실: 0.069010\t최선의 손실: 0.055903\t정확도: 98.28%\n", - "8\t검증 세트 손실: 0.068578\t최선의 손실: 0.055903\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.055525\t최선의 손실: 0.055525\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.068984\t최선의 손실: 0.055525\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.091190\t최선의 손실: 0.055525\t정확도: 98.05%\n", - "12\t검증 세트 손실: 0.059331\t최선의 손실: 0.055525\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.066820\t최선의 손실: 0.055525\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.058275\t최선의 손실: 0.055525\t정확도: 98.32%\n", - "15\t검증 세트 손실: 0.072034\t최선의 손실: 0.055525\t정확도: 98.36%\n", - "16\t검증 세트 손실: 0.057350\t최선의 손실: 0.055525\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.073128\t최선의 손실: 0.055525\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.085329\t최선의 손실: 0.055525\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.095423\t최선의 손실: 0.055525\t정확도: 98.01%\n", - "20\t검증 세트 손실: 0.100209\t최선의 손실: 0.055525\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.094351\t최선의 손실: 0.055525\t정확도: 98.05%\n", - "22\t검증 세트 손실: 0.086857\t최선의 손실: 0.055525\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.068587\t최선의 손실: 0.055525\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.074157\t최선의 손실: 0.055525\t정확도: 98.83%\n", - "25\t검증 세트 손실: 0.068431\t최선의 손실: 0.055525\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.070078\t최선의 손실: 0.055525\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.062776\t최선의 손실: 0.055525\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.062677\t최선의 손실: 0.055525\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.064563\t최선의 손실: 0.055525\t정확도: 98.71%\n", - "30\t검증 세트 손실: 0.073195\t최선의 손실: 0.055525\t정확도: 98.75%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=, total= 32.3s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.231223\t최선의 손실: 0.231223\t정확도: 96.25%\n", + "1\t검증 세트 손실: 0.089372\t최선의 손실: 0.089372\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.085945\t최선의 손실: 0.085945\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.071863\t최선의 손실: 0.071863\t정확도: 98.05%\n", + "4\t검증 세트 손실: 0.062747\t최선의 손실: 0.062747\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.070837\t최선의 손실: 0.062747\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.070926\t최선의 손실: 0.062747\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.078711\t최선의 손실: 0.062747\t정확도: 98.32%\n", + "8\t검증 세트 손실: 0.058262\t최선의 손실: 0.058262\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.064109\t최선의 손실: 0.058262\t정확도: 98.55%\n", + "10\t검증 세트 손실: 0.067024\t최선의 손실: 0.058262\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.103449\t최선의 손실: 0.058262\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.080430\t최선의 손실: 0.058262\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.080440\t최선의 손실: 0.058262\t정확도: 98.12%\n", + "14\t검증 세트 손실: 0.058315\t최선의 손실: 0.058262\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.060394\t최선의 손실: 0.058262\t정확도: 98.44%\n", + "16\t검증 세트 손실: 0.068419\t최선의 손실: 0.058262\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.062066\t최선의 손실: 0.058262\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.061955\t최선의 손실: 0.058262\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.073527\t최선의 손실: 0.058262\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.101110\t최선의 손실: 0.058262\t정확도: 98.20%\n", + "21\t검증 세트 손실: 0.090280\t최선의 손실: 0.058262\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.106726\t최선의 손실: 0.058262\t정확도: 98.16%\n", + "23\t검증 세트 손실: 0.069639\t최선의 손실: 0.058262\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.069615\t최선의 손실: 0.058262\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.067747\t최선의 손실: 0.058262\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.085219\t최선의 손실: 0.058262\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.081426\t최선의 손실: 0.058262\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.077519\t최선의 손실: 0.058262\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.092540\t최선의 손실: 0.058262\t정확도: 98.40%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70, total= 6.8s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.196650\t최선의 손실: 0.196650\t정확도: 96.40%\n", - "1\t검증 세트 손실: 0.085189\t최선의 손실: 0.085189\t정확도: 97.81%\n", - "2\t검증 세트 손실: 0.062124\t최선의 손실: 0.062124\t정확도: 98.40%\n", - "3\t검증 세트 손실: 0.058201\t최선의 손실: 0.058201\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.054694\t최선의 손실: 0.054694\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.081935\t최선의 손실: 0.054694\t정확도: 97.73%\n", - "6\t검증 세트 손실: 0.055264\t최선의 손실: 0.054694\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.052535\t최선의 손실: 0.052535\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.052626\t최선의 손실: 0.052535\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.057204\t최선의 손실: 0.052535\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.046867\t최선의 손실: 0.046867\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.067172\t최선의 손실: 0.046867\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.064424\t최선의 손실: 0.046867\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.072622\t최선의 손실: 0.046867\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.069293\t최선의 손실: 0.046867\t정확도: 98.44%\n", - "15\t검증 세트 손실: 0.077501\t최선의 손실: 0.046867\t정확도: 98.12%\n", - "16\t검증 세트 손실: 0.058976\t최선의 손실: 0.046867\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.055445\t최선의 손실: 0.046867\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.065526\t최선의 손실: 0.046867\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.076662\t최선의 손실: 0.046867\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.057090\t최선의 손실: 0.046867\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.064278\t최선의 손실: 0.046867\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.059920\t최선의 손실: 0.046867\t정확도: 98.75%\n", - "23\t검증 세트 손실: 0.061062\t최선의 손실: 0.046867\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.057498\t최선의 손실: 0.046867\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.066788\t최선의 손실: 0.046867\t정확도: 98.55%\n", - "26\t검증 세트 손실: 0.070715\t최선의 손실: 0.046867\t정확도: 98.63%\n", - "27\t검증 세트 손실: 0.064959\t최선의 손실: 0.046867\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.046098\t최선의 손실: 0.046098\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.061308\t최선의 손실: 0.046098\t정확도: 99.02%\n", - "30\t검증 세트 손실: 0.055047\t최선의 손실: 0.046098\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.064623\t최선의 손실: 0.046098\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.044539\t최선의 손실: 0.044539\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.045530\t최선의 손실: 0.044539\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.046554\t최선의 손실: 0.044539\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.053516\t최선의 손실: 0.044539\t정확도: 99.10%\n", - "36\t검증 세트 손실: 0.073186\t최선의 손실: 0.044539\t정확도: 98.63%\n", - "37\t검증 세트 손실: 0.104298\t최선의 손실: 0.044539\t정확도: 98.40%\n", - "38\t검증 세트 손실: 0.107996\t최선의 손실: 0.044539\t정확도: 98.16%\n", - "39\t검증 세트 손실: 0.079892\t최선의 손실: 0.044539\t정확도: 98.51%\n", - "40\t검증 세트 손실: 0.097744\t최선의 손실: 0.044539\t정확도: 98.36%\n", - "41\t검증 세트 손실: 0.069988\t최선의 손실: 0.044539\t정확도: 98.55%\n", - "42\t검증 세트 손실: 0.063090\t최선의 손실: 0.044539\t정확도: 98.63%\n", - "43\t검증 세트 손실: 0.072710\t최선의 손실: 0.044539\t정확도: 98.75%\n", - "44\t검증 세트 손실: 0.051018\t최선의 손실: 0.044539\t정확도: 98.75%\n", - "45\t검증 세트 손실: 0.045012\t최선의 손실: 0.044539\t정확도: 98.91%\n", - "46\t검증 세트 손실: 0.051731\t최선의 손실: 0.044539\t정확도: 98.83%\n", - "47\t검증 세트 손실: 0.045377\t최선의 손실: 0.044539\t정확도: 98.98%\n", - "48\t검증 세트 손실: 0.046650\t최선의 손실: 0.044539\t정확도: 98.91%\n", - "49\t검증 세트 손실: 0.050845\t최선의 손실: 0.044539\t정확도: 98.94%\n", - "50\t검증 세트 손실: 0.073915\t최선의 손실: 0.044539\t정확도: 98.63%\n", - "51\t검증 세트 손실: 0.057294\t최선의 손실: 0.044539\t정확도: 99.02%\n", - "52\t검증 세트 손실: 0.083171\t최선의 손실: 0.044539\t정확도: 98.83%\n", - "53\t검증 세트 손실: 0.063489\t최선의 손실: 0.044539\t정확도: 98.91%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=, total= 6.5s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.230756\t최선의 손실: 0.230756\t정확도: 95.62%\n", + "1\t검증 세트 손실: 0.088565\t최선의 손실: 0.088565\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.080390\t최선의 손실: 0.080390\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.080683\t최선의 손실: 0.080390\t정확도: 97.81%\n", + "4\t검증 세트 손실: 0.074597\t최선의 손실: 0.074597\t정확도: 98.16%\n", + "5\t검증 세트 손실: 0.058646\t최선의 손실: 0.058646\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.060349\t최선의 손실: 0.058646\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.064031\t최선의 손실: 0.058646\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.067317\t최선의 손실: 0.058646\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.087225\t최선의 손실: 0.058646\t정확도: 98.20%\n", + "10\t검증 세트 손실: 0.070012\t최선의 손실: 0.058646\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.117714\t최선의 손실: 0.058646\t정확도: 97.50%\n", + "12\t검증 세트 손실: 0.081093\t최선의 손실: 0.058646\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.084193\t최선의 손실: 0.058646\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.079290\t최선의 손실: 0.058646\t정확도: 98.24%\n", + "15\t검증 세트 손실: 0.080654\t최선의 손실: 0.058646\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.053067\t최선의 손실: 0.053067\t정확도: 98.83%\n", + "17\t검증 세트 손실: 0.059140\t최선의 손실: 0.053067\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.053042\t최선의 손실: 0.053042\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.072507\t최선의 손실: 0.053042\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.075237\t최선의 손실: 0.053042\t정확도: 98.55%\n", + "21\t검증 세트 손실: 0.188280\t최선의 손실: 0.053042\t정확도: 96.33%\n", + "22\t검증 세트 손실: 0.075242\t최선의 손실: 0.053042\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.064602\t최선의 손실: 0.053042\t정확도: 98.71%\n", + "24\t검증 세트 손실: 0.070443\t최선의 손실: 0.053042\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.090844\t최선의 손실: 0.053042\t정확도: 98.48%\n", + "26\t검증 세트 손실: 0.077625\t최선의 손실: 0.053042\t정확도: 98.40%\n", + "27\t검증 세트 손실: 0.104520\t최선의 손실: 0.053042\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.090927\t최선의 손실: 0.053042\t정확도: 98.48%\n", + "29\t검증 세트 손실: 0.077705\t최선의 손실: 0.053042\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.062247\t최선의 손실: 0.053042\t정확도: 98.51%\n", + "31\t검증 세트 손실: 0.050945\t최선의 손실: 0.050945\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.053417\t최선의 손실: 0.050945\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.075258\t최선의 손실: 0.050945\t정확도: 98.63%\n", + "34\t검증 세트 손실: 0.069158\t최선의 손실: 0.050945\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.063503\t최선의 손실: 0.050945\t정확도: 98.91%\n", + "36\t검증 세트 손실: 0.060942\t최선의 손실: 0.050945\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.081307\t최선의 손실: 0.050945\t정확도: 98.55%\n", + "38\t검증 세트 손실: 0.088222\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "39\t검증 세트 손실: 0.082969\t최선의 손실: 0.050945\t정확도: 98.63%\n", + "40\t검증 세트 손실: 0.083545\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "41\t검증 세트 손실: 0.078470\t최선의 손실: 0.050945\t정확도: 98.59%\n", + "42\t검증 세트 손실: 0.083245\t최선의 손실: 0.050945\t정확도: 98.59%\n", + "43\t검증 세트 손실: 0.072811\t최선의 손실: 0.050945\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.074086\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "45\t검증 세트 손실: 0.063844\t최선의 손실: 0.050945\t정확도: 98.87%\n", + "46\t검증 세트 손실: 0.066360\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "47\t검증 세트 손실: 0.087611\t최선의 손실: 0.050945\t정확도: 98.71%\n", + "48\t검증 세트 손실: 0.075442\t최선의 손실: 0.050945\t정확도: 98.79%\n", + "49\t검증 세트 손실: 0.071935\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "50\t검증 세트 손실: 0.073634\t최선의 손실: 0.050945\t정확도: 98.67%\n", + "51\t검증 세트 손실: 0.072343\t최선의 손실: 0.050945\t정확도: 98.83%\n", + "52\t검증 세트 손실: 0.077618\t최선의 손실: 0.050945\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=70, total= 10.8s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50 \n", - "0\t검증 세트 손실: 0.082665\t최선의 손실: 0.082665\t정확도: 97.46%\n", - "1\t검증 세트 손실: 0.060302\t최선의 손실: 0.060302\t정확도: 98.05%\n", - "2\t검증 세트 손실: 0.071451\t최선의 손실: 0.060302\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.047338\t최선의 손실: 0.047338\t정확도: 98.40%\n", - "4\t검증 세트 손실: 0.040440\t최선의 손실: 0.040440\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.046700\t최선의 손실: 0.040440\t정확도: 98.44%\n", - "6\t검증 세트 손실: 0.051747\t최선의 손실: 0.040440\t정확도: 98.55%\n", - "7\t검증 세트 손실: 0.052674\t최선의 손실: 0.040440\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.062728\t최선의 손실: 0.040440\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.045128\t최선의 손실: 0.040440\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.047719\t최선의 손실: 0.040440\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.048127\t최선의 손실: 0.040440\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.058701\t최선의 손실: 0.040440\t정확도: 98.55%\n", - "13\t검증 세트 손실: 0.048414\t최선의 손실: 0.040440\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.064757\t최선의 손실: 0.040440\t정확도: 98.40%\n", - "15\t검증 세트 손실: 0.078266\t최선의 손실: 0.040440\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.071695\t최선의 손실: 0.040440\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.064979\t최선의 손실: 0.040440\t정확도: 98.40%\n", - "18\t검증 세트 손실: 0.048306\t최선의 손실: 0.040440\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.060988\t최선의 손실: 0.040440\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.070403\t최선의 손실: 0.040440\t정확도: 98.36%\n", - "21\t검증 세트 손실: 0.061471\t최선의 손실: 0.040440\t정확도: 98.67%\n", - "22\t검증 세트 손실: 0.065767\t최선의 손실: 0.040440\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.058258\t최선의 손실: 0.040440\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.050103\t최선의 손실: 0.040440\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.054577\t최선의 손실: 0.040440\t정확도: 98.75%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50, total= 20.5s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50 \n" + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=, total= 10.2s\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.086246\t최선의 손실: 0.086246\t정확도: 97.42%\n", - "1\t검증 세트 손실: 0.058083\t최선의 손실: 0.058083\t정확도: 98.44%\n", - "2\t검증 세트 손실: 0.053848\t최선의 손실: 0.053848\t정확도: 98.51%\n", - "3\t검증 세트 손실: 0.054959\t최선의 손실: 0.053848\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.066866\t최선의 손실: 0.053848\t정확도: 98.12%\n", - "5\t검증 세트 손실: 0.043207\t최선의 손실: 0.043207\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.053675\t최선의 손실: 0.043207\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.053676\t최선의 손실: 0.043207\t정확도: 98.63%\n", - "8\t검증 세트 손실: 0.044923\t최선의 손실: 0.043207\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.173405\t최선의 손실: 0.043207\t정확도: 95.50%\n", - "10\t검증 세트 손실: 0.054545\t최선의 손실: 0.043207\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.058687\t최선의 손실: 0.043207\t정확도: 98.83%\n", - "12\t검증 세트 손실: 0.047626\t최선의 손실: 0.043207\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.039282\t최선의 손실: 0.039282\t정확도: 99.10%\n", - "14\t검증 세트 손실: 0.042646\t최선의 손실: 0.039282\t정확도: 98.98%\n", - "15\t검증 세트 손실: 0.063650\t최선의 손실: 0.039282\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.051720\t최선의 손실: 0.039282\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.063068\t최선의 손실: 0.039282\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.073633\t최선의 손실: 0.039282\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.050965\t최선의 손실: 0.039282\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.056682\t최선의 손실: 0.039282\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.045295\t최선의 손실: 0.039282\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.059904\t최선의 손실: 0.039282\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.064584\t최선의 손실: 0.039282\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.062633\t최선의 손실: 0.039282\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.061092\t최선의 손실: 0.039282\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.056516\t최선의 손실: 0.039282\t정확도: 98.63%\n", - "27\t검증 세트 손실: 0.064466\t최선의 손실: 0.039282\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.070460\t최선의 손실: 0.039282\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.059736\t최선의 손실: 0.039282\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.064964\t최선의 손실: 0.039282\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.070674\t최선의 손실: 0.039282\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.061749\t최선의 손실: 0.039282\t정확도: 98.79%\n", - "33\t검증 세트 손실: 0.095090\t최선의 손실: 0.039282\t정확도: 98.59%\n", - "34\t검증 세트 손실: 0.080904\t최선의 손실: 0.039282\t정확도: 98.75%\n", + "0\t검증 세트 손실: 0.227248\t최선의 손실: 0.227248\t정확도: 96.01%\n", + "1\t검증 세트 손실: 0.085886\t최선의 손실: 0.085886\t정확도: 97.81%\n", + "2\t검증 세트 손실: 0.073879\t최선의 손실: 0.073879\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.070158\t최선의 손실: 0.070158\t정확도: 97.81%\n", + "4\t검증 세트 손실: 0.056699\t최선의 손실: 0.056699\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.090155\t최선의 손실: 0.056699\t정확도: 97.62%\n", + "6\t검증 세트 손실: 0.057210\t최선의 손실: 0.056699\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.053541\t최선의 손실: 0.053541\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.069805\t최선의 손실: 0.053541\t정확도: 98.12%\n", + "9\t검증 세트 손실: 0.056859\t최선의 손실: 0.053541\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.056071\t최선의 손실: 0.053541\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.060052\t최선의 손실: 0.053541\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.045910\t최선의 손실: 0.045910\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.063225\t최선의 손실: 0.045910\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.081309\t최선의 손실: 0.045910\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.046713\t최선의 손실: 0.045910\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.063751\t최선의 손실: 0.045910\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.064650\t최선의 손실: 0.045910\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.070897\t최선의 손실: 0.045910\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.082132\t최선의 손실: 0.045910\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.059397\t최선의 손실: 0.045910\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.079698\t최선의 손실: 0.045910\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.079432\t최선의 손실: 0.045910\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.058896\t최선의 손실: 0.045910\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.065364\t최선의 손실: 0.045910\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.069705\t최선의 손실: 0.045910\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.062782\t최선의 손실: 0.045910\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.058461\t최선의 손실: 0.045910\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.060990\t최선의 손실: 0.045910\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.066320\t최선의 손실: 0.045910\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.069350\t최선의 손실: 0.045910\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.057951\t최선의 손실: 0.045910\t정확도: 98.91%\n", + "32\t검증 세트 손실: 0.059366\t최선의 손실: 0.045910\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.054803\t최선의 손실: 0.045910\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50, total= 27.2s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50 \n", - "0\t검증 세트 손실: 0.103225\t최선의 손실: 0.103225\t정확도: 97.03%\n", - "1\t검증 세트 손실: 0.083427\t최선의 손실: 0.083427\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.053552\t최선의 손실: 0.053552\t정확도: 98.12%\n", - "3\t검증 세트 손실: 0.051051\t최선의 손실: 0.051051\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.065512\t최선의 손실: 0.051051\t정확도: 98.16%\n", - "5\t검증 세트 손실: 0.053775\t최선의 손실: 0.051051\t정확도: 98.44%\n", - "6\t검증 세트 손실: 0.063962\t최선의 손실: 0.051051\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.056034\t최선의 손실: 0.051051\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.055516\t최선의 손실: 0.051051\t정확도: 98.48%\n", - "9\t검증 세트 손실: 0.049177\t최선의 손실: 0.049177\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.051355\t최선의 손실: 0.049177\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.053650\t최선의 손실: 0.049177\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.052506\t최선의 손실: 0.049177\t정확도: 98.51%\n", - "13\t검증 세트 손실: 0.058173\t최선의 손실: 0.049177\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.045370\t최선의 손실: 0.045370\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.063449\t최선의 손실: 0.045370\t정확도: 98.75%\n", - "16\t검증 세트 손실: 0.036760\t최선의 손실: 0.036760\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.051880\t최선의 손실: 0.036760\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.053960\t최선의 손실: 0.036760\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.056463\t최선의 손실: 0.036760\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.039044\t최선의 손실: 0.036760\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.046477\t최선의 손실: 0.036760\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.042744\t최선의 손실: 0.036760\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.044919\t최선의 손실: 0.036760\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.053870\t최선의 손실: 0.036760\t정확도: 98.98%\n", - "25\t검증 세트 손실: 0.048826\t최선의 손실: 0.036760\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.049775\t최선의 손실: 0.036760\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.051606\t최선의 손실: 0.036760\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.047535\t최선의 손실: 0.036760\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.052209\t최선의 손실: 0.036760\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.061072\t최선의 손실: 0.036760\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.054165\t최선의 손실: 0.036760\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.052764\t최선의 손실: 0.036760\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.071356\t최선의 손실: 0.036760\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.052011\t최선의 손실: 0.036760\t정확도: 98.91%\n", - "35\t검증 세트 손실: 0.061120\t최선의 손실: 0.036760\t정확도: 98.71%\n", - "36\t검증 세트 손실: 0.037108\t최선의 손실: 0.036760\t정확도: 98.98%\n", - "37\t검증 세트 손실: 0.044305\t최선의 손실: 0.036760\t정확도: 98.91%\n", + "[CV] n_neurons=70, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=, total= 7.1s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.103204\t최선의 손실: 0.103204\t정확도: 96.60%\n", + "1\t검증 세트 손실: 0.057388\t최선의 손실: 0.057388\t정확도: 98.28%\n", + "2\t검증 세트 손실: 0.086120\t최선의 손실: 0.057388\t정확도: 97.50%\n", + "3\t검증 세트 손실: 0.060326\t최선의 손실: 0.057388\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.055729\t최선의 손실: 0.055729\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.070803\t최선의 손실: 0.055729\t정확도: 98.01%\n", + "6\t검증 세트 손실: 0.080533\t최선의 손실: 0.055729\t정확도: 98.32%\n", + "7\t검증 세트 손실: 0.050180\t최선의 손실: 0.050180\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.055952\t최선의 손실: 0.050180\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.049750\t최선의 손실: 0.049750\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.050356\t최선의 손실: 0.049750\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.065451\t최선의 손실: 0.049750\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.058623\t최선의 손실: 0.049750\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.055437\t최선의 손실: 0.049750\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.046033\t최선의 손실: 0.046033\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.051547\t최선의 손실: 0.046033\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.043396\t최선의 손실: 0.043396\t정확도: 98.83%\n", + "17\t검증 세트 손실: 0.035113\t최선의 손실: 0.035113\t정확도: 99.10%\n", + "18\t검증 세트 손실: 0.046086\t최선의 손실: 0.035113\t정확도: 98.94%\n", + "19\t검증 세트 손실: 0.048582\t최선의 손실: 0.035113\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.048996\t최선의 손실: 0.035113\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.057587\t최선의 손실: 0.035113\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.039647\t최선의 손실: 0.035113\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.045857\t최선의 손실: 0.035113\t정확도: 98.71%\n", + "24\t검증 세트 손실: 0.050928\t최선의 손실: 0.035113\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.063619\t최선의 손실: 0.035113\t정확도: 98.55%\n", + "26\t검증 세트 손실: 0.059804\t최선의 손실: 0.035113\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.055292\t최선의 손실: 0.035113\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.062323\t최선의 손실: 0.035113\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.050737\t최선의 손실: 0.035113\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.058362\t최선의 손실: 0.035113\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.062889\t최선의 손실: 0.035113\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.058510\t최선의 손실: 0.035113\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.079608\t최선의 손실: 0.035113\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.073101\t최선의 손실: 0.035113\t정확도: 98.63%\n", + "35\t검증 세트 손실: 0.063845\t최선의 손실: 0.035113\t정확도: 98.79%\n", + "36\t검증 세트 손실: 0.067321\t최선의 손실: 0.035113\t정확도: 98.87%\n", + "37\t검증 세트 손실: 0.071562\t최선의 손실: 0.035113\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.050393\t최선의 손실: 0.035113\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=50, total= 29.2s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10 \n", - "0\t검증 세트 손실: 0.134514\t최선의 손실: 0.134514\t정확도: 95.90%\n", - "1\t검증 세트 손실: 0.081585\t최선의 손실: 0.081585\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.092019\t최선의 손실: 0.081585\t정확도: 96.99%\n", - "3\t검증 세트 손실: 0.087169\t최선의 손실: 0.081585\t정확도: 97.11%\n", - "4\t검증 세트 손실: 0.098632\t최선의 손실: 0.081585\t정확도: 96.87%\n", - "5\t검증 세트 손실: 0.080218\t최선의 손실: 0.080218\t정확도: 97.26%\n", - "6\t검증 세트 손실: 0.063809\t최선의 손실: 0.063809\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.063664\t최선의 손실: 0.063664\t정확도: 98.05%\n", - "8\t검증 세트 손실: 0.097072\t최선의 손실: 0.063664\t정확도: 97.19%\n", - "9\t검증 세트 손실: 0.076377\t최선의 손실: 0.063664\t정확도: 97.97%\n", - "10\t검증 세트 손실: 0.070486\t최선의 손실: 0.063664\t정확도: 98.01%\n", - "11\t검증 세트 손실: 0.063156\t최선의 손실: 0.063156\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.077876\t최선의 손실: 0.063156\t정확도: 97.46%\n", - "13\t검증 세트 손실: 0.061934\t최선의 손실: 0.061934\t정확도: 98.16%\n", - "14\t검증 세트 손실: 0.066849\t최선의 손실: 0.061934\t정확도: 97.97%\n", - "15\t검증 세트 손실: 0.062584\t최선의 손실: 0.061934\t정확도: 98.28%\n", - "16\t검증 세트 손실: 0.064055\t최선의 손실: 0.061934\t정확도: 98.32%\n", - "17\t검증 세트 손실: 0.059122\t최선의 손실: 0.059122\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.071083\t최선의 손실: 0.059122\t정확도: 97.97%\n", - "19\t검증 세트 손실: 0.060996\t최선의 손실: 0.059122\t정확도: 98.32%\n", - "20\t검증 세트 손실: 0.070064\t최선의 손실: 0.059122\t정확도: 98.16%\n", - "21\t검증 세트 손실: 0.062813\t최선의 손실: 0.059122\t정확도: 98.12%\n", - "22\t검증 세트 손실: 0.068625\t최선의 손실: 0.059122\t정확도: 98.01%\n", - "23\t검증 세트 손실: 0.080963\t최선의 손실: 0.059122\t정확도: 97.73%\n", - "24\t검증 세트 손실: 0.071521\t최선의 손실: 0.059122\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.074071\t최선의 손실: 0.059122\t정확도: 98.20%\n", - "26\t검증 세트 손실: 0.064502\t최선의 손실: 0.059122\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.060679\t최선의 손실: 0.059122\t정확도: 98.44%\n", - "28\t검증 세트 손실: 0.057001\t최선의 손실: 0.057001\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.058308\t최선의 손실: 0.057001\t정확도: 98.36%\n", - "30\t검증 세트 손실: 0.071026\t최선의 손실: 0.057001\t정확도: 98.20%\n", - "31\t검증 세트 손실: 0.084238\t최선의 손실: 0.057001\t정확도: 97.77%\n", - "32\t검증 세트 손실: 0.068050\t최선의 손실: 0.057001\t정확도: 98.24%\n", - "33\t검증 세트 손실: 0.090901\t최선의 손실: 0.057001\t정확도: 97.77%\n", - "34\t검증 세트 손실: 0.094247\t최선의 손실: 0.057001\t정확도: 97.93%\n", - "35\t검증 세트 손실: 0.077411\t최선의 손실: 0.057001\t정확도: 98.36%\n", - "36\t검증 세트 손실: 0.075878\t최선의 손실: 0.057001\t정확도: 98.32%\n", - "37\t검증 세트 손실: 0.081057\t최선의 손실: 0.057001\t정확도: 98.12%\n", - "38\t검증 세트 손실: 0.084254\t최선의 손실: 0.057001\t정확도: 98.20%\n", - "39\t검증 세트 손실: 0.097609\t최선의 손실: 0.057001\t정확도: 98.12%\n", - "40\t검증 세트 손실: 0.079385\t최선의 손실: 0.057001\t정확도: 98.16%\n", - "41\t검증 세트 손실: 0.085914\t최선의 손실: 0.057001\t정확도: 98.20%\n", - "42\t검증 세트 손실: 0.082795\t최선의 손실: 0.057001\t정확도: 98.28%\n", - "43\t검증 세트 손실: 0.074909\t최선의 손실: 0.057001\t정확도: 98.16%\n", - "44\t검증 세트 손실: 0.093735\t최선의 손실: 0.057001\t정확도: 97.97%\n", - "45\t검증 세트 손실: 0.085049\t최선의 손실: 0.057001\t정확도: 97.89%\n", - "46\t검증 세트 손실: 0.083702\t최선의 손실: 0.057001\t정확도: 98.20%\n", - "47\t검증 세트 손실: 0.076748\t최선의 손실: 0.057001\t정확도: 98.24%\n", - "48\t검증 세트 손실: 0.081754\t최선의 손실: 0.057001\t정확도: 98.40%\n", - "49\t검증 세트 손실: 0.076726\t최선의 손실: 0.057001\t정확도: 98.36%\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 30.1s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.110219\t최선의 손실: 0.110219\t정확도: 97.22%\n", + "1\t검증 세트 손실: 0.062185\t최선의 손실: 0.062185\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.051960\t최선의 손실: 0.051960\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.082632\t최선의 손실: 0.051960\t정확도: 97.54%\n", + "4\t검증 세트 손실: 0.056553\t최선의 손실: 0.051960\t정확도: 98.55%\n", + "5\t검증 세트 손실: 0.052285\t최선의 손실: 0.051960\t정확도: 98.63%\n", + "6\t검증 세트 손실: 0.059433\t최선의 손실: 0.051960\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.057877\t최선의 손실: 0.051960\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.037156\t최선의 손실: 0.037156\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.042271\t최선의 손실: 0.037156\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.043034\t최선의 손실: 0.037156\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.056043\t최선의 손실: 0.037156\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.038407\t최선의 손실: 0.037156\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.043100\t최선의 손실: 0.037156\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.040917\t최선의 손실: 0.037156\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.038505\t최선의 손실: 0.037156\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.041745\t최선의 손실: 0.037156\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.057044\t최선의 손실: 0.037156\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.041291\t최선의 손실: 0.037156\t정확도: 98.87%\n", + "19\t검증 세트 손실: 0.043077\t최선의 손실: 0.037156\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.072554\t최선의 손실: 0.037156\t정확도: 98.08%\n", + "21\t검증 세트 손실: 0.046330\t최선의 손실: 0.037156\t정확도: 98.63%\n", + "22\t검증 세트 손실: 0.058920\t최선의 손실: 0.037156\t정확도: 98.59%\n", + "23\t검증 세트 손실: 0.058499\t최선의 손실: 0.037156\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.043949\t최선의 손실: 0.037156\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.045143\t최선의 손실: 0.037156\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.059106\t최선의 손실: 0.037156\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.050887\t최선의 손실: 0.037156\t정확도: 98.98%\n", + "28\t검증 세트 손실: 0.058323\t최선의 손실: 0.037156\t정확도: 98.71%\n", + "29\t검증 세트 손실: 0.061201\t최선의 손실: 0.037156\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10, total= 35.6s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10 \n", - "0\t검증 세트 손실: 0.101731\t최선의 손실: 0.101731\t정확도: 96.64%\n", - "1\t검증 세트 손실: 0.086409\t최선의 손실: 0.086409\t정확도: 97.42%\n", - "2\t검증 세트 손실: 0.064543\t최선의 손실: 0.064543\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.084126\t최선의 손실: 0.064543\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.078599\t최선의 손실: 0.064543\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.074887\t최선의 손실: 0.064543\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.067409\t최선의 손실: 0.064543\t정확도: 98.08%\n", - "7\t검증 세트 손실: 0.076101\t최선의 손실: 0.064543\t정확도: 97.69%\n", - "8\t검증 세트 손실: 0.050465\t최선의 손실: 0.050465\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.081629\t최선의 손실: 0.050465\t정확도: 97.81%\n", - "10\t검증 세트 손실: 0.060985\t최선의 손실: 0.050465\t정확도: 98.08%\n", - "11\t검증 세트 손실: 0.061632\t최선의 손실: 0.050465\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.066436\t최선의 손실: 0.050465\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.065559\t최선의 손실: 0.050465\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.060153\t최선의 손실: 0.050465\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.063997\t최선의 손실: 0.050465\t정확도: 98.16%\n", - "16\t검증 세트 손실: 0.055867\t최선의 손실: 0.050465\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.064924\t최선의 손실: 0.050465\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.081871\t최선의 손실: 0.050465\t정확도: 97.93%\n", - "19\t검증 세트 손실: 0.067985\t최선의 손실: 0.050465\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.090049\t최선의 손실: 0.050465\t정확도: 97.65%\n" + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 23.5s\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.101894\t최선의 손실: 0.101894\t정확도: 96.95%\n", + "1\t검증 세트 손실: 0.066137\t최선의 손실: 0.066137\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.065863\t최선의 손실: 0.065863\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.063263\t최선의 손실: 0.063263\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.065086\t최선의 손실: 0.063263\t정확도: 98.01%\n", + "5\t검증 세트 손실: 0.053658\t최선의 손실: 0.053658\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.059208\t최선의 손실: 0.053658\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.076107\t최선의 손실: 0.053658\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.040856\t최선의 손실: 0.040856\t정확도: 98.67%\n", + "9\t검증 세트 손실: 0.059863\t최선의 손실: 0.040856\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.057289\t최선의 손실: 0.040856\t정확도: 98.48%\n", + "11\t검증 세트 손실: 0.049699\t최선의 손실: 0.040856\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.051343\t최선의 손실: 0.040856\t정확도: 98.71%\n", + "13\t검증 세트 손실: 0.058248\t최선의 손실: 0.040856\t정확도: 98.20%\n", + "14\t검증 세트 손실: 0.054799\t최선의 손실: 0.040856\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.049802\t최선의 손실: 0.040856\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.070991\t최선의 손실: 0.040856\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.072923\t최선의 손실: 0.040856\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.053660\t최선의 손실: 0.040856\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.066504\t최선의 손실: 0.040856\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.058067\t최선의 손실: 0.040856\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.049917\t최선의 손실: 0.040856\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.053221\t최선의 손실: 0.040856\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.056622\t최선의 손실: 0.040856\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.054058\t최선의 손실: 0.040856\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.053354\t최선의 손실: 0.040856\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.057371\t최선의 손실: 0.040856\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.059132\t최선의 손실: 0.040856\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.042402\t최선의 손실: 0.040856\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.063682\t최선의 손실: 0.040856\t정확도: 98.59%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 23.6s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.122771\t최선의 손실: 0.122771\t정확도: 96.13%\n", + "1\t검증 세트 손실: 0.087838\t최선의 손실: 0.087838\t정확도: 97.46%\n", + "2\t검증 세트 손실: 0.107836\t최선의 손실: 0.087838\t정확도: 96.60%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "21\t검증 세트 손실: 0.064523\t최선의 손실: 0.050465\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.087388\t최선의 손실: 0.050465\t정확도: 97.89%\n", - "23\t검증 세트 손실: 0.061250\t최선의 손실: 0.050465\t정확도: 98.44%\n", - "24\t검증 세트 손실: 0.092467\t최선의 손실: 0.050465\t정확도: 97.65%\n", - "25\t검증 세트 손실: 0.068438\t최선의 손실: 0.050465\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.060756\t최선의 손실: 0.050465\t정확도: 98.32%\n", - "27\t검증 세트 손실: 0.057426\t최선의 손실: 0.050465\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.076512\t최선의 손실: 0.050465\t정확도: 98.28%\n", - "29\t검증 세트 손실: 0.084764\t최선의 손실: 0.050465\t정확도: 98.40%\n", + "3\t검증 세트 손실: 0.073214\t최선의 손실: 0.073214\t정확도: 97.93%\n", + "4\t검증 세트 손실: 0.084918\t최선의 손실: 0.073214\t정확도: 97.19%\n", + "5\t검증 세트 손실: 0.097953\t최선의 손실: 0.073214\t정확도: 97.03%\n", + "6\t검증 세트 손실: 0.066744\t최선의 손실: 0.066744\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.070567\t최선의 손실: 0.066744\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.108538\t최선의 손실: 0.066744\t정확도: 97.07%\n", + "9\t검증 세트 손실: 0.077844\t최선의 손실: 0.066744\t정확도: 97.93%\n", + "10\t검증 세트 손실: 0.071097\t최선의 손실: 0.066744\t정확도: 97.85%\n", + "11\t검증 세트 손실: 0.050903\t최선의 손실: 0.050903\t정확도: 98.48%\n", + "12\t검증 세트 손실: 0.059457\t최선의 손실: 0.050903\t정확도: 98.32%\n", + "13\t검증 세트 손실: 0.058603\t최선의 손실: 0.050903\t정확도: 98.48%\n", + "14\t검증 세트 손실: 0.065571\t최선의 손실: 0.050903\t정확도: 98.16%\n", + "15\t검증 세트 손실: 0.060769\t최선의 손실: 0.050903\t정확도: 98.28%\n", + "16\t검증 세트 손실: 0.060627\t최선의 손실: 0.050903\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.056886\t최선의 손실: 0.050903\t정확도: 98.12%\n", + "18\t검증 세트 손실: 0.064039\t최선의 손실: 0.050903\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.061207\t최선의 손실: 0.050903\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.069224\t최선의 손실: 0.050903\t정확도: 98.40%\n", + "21\t검증 세트 손실: 0.062136\t최선의 손실: 0.050903\t정확도: 98.28%\n", + "22\t검증 세트 손실: 0.062662\t최선의 손실: 0.050903\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.056713\t최선의 손실: 0.050903\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.057929\t최선의 손실: 0.050903\t정확도: 98.59%\n", + "25\t검증 세트 손실: 0.067816\t최선의 손실: 0.050903\t정확도: 98.28%\n", + "26\t검증 세트 손실: 0.074270\t최선의 손실: 0.050903\t정확도: 98.12%\n", + "27\t검증 세트 손실: 0.072545\t최선의 손실: 0.050903\t정확도: 98.24%\n", + "28\t검증 세트 손실: 0.069318\t최선의 손실: 0.050903\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.076343\t최선의 손실: 0.050903\t정확도: 98.36%\n", + "30\t검증 세트 손실: 0.067241\t최선의 손실: 0.050903\t정확도: 98.32%\n", + "31\t검증 세트 손실: 0.105027\t최선의 손실: 0.050903\t정확도: 97.77%\n", + "32\t검증 세트 손실: 0.075962\t최선의 손실: 0.050903\t정확도: 98.24%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10, total= 21.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10 \n", - "0\t검증 세트 손실: 0.132167\t최선의 손실: 0.132167\t정확도: 96.05%\n", - "1\t검증 세트 손실: 0.099537\t최선의 손실: 0.099537\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.080030\t최선의 손실: 0.080030\t정확도: 97.50%\n", - "3\t검증 세트 손실: 0.071593\t최선의 손실: 0.071593\t정확도: 97.65%\n", - "4\t검증 세트 손실: 0.064518\t최선의 손실: 0.064518\t정확도: 98.08%\n", - "5\t검증 세트 손실: 0.061577\t최선의 손실: 0.061577\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.064413\t최선의 손실: 0.061577\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.068468\t최선의 손실: 0.061577\t정확도: 97.69%\n", - "8\t검증 세트 손실: 0.064003\t최선의 손실: 0.061577\t정확도: 98.08%\n", - "9\t검증 세트 손실: 0.056095\t최선의 손실: 0.056095\t정확도: 98.28%\n", - "10\t검증 세트 손실: 0.056232\t최선의 손실: 0.056095\t정확도: 98.28%\n", - "11\t검증 세트 손실: 0.058225\t최선의 손실: 0.056095\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.063825\t최선의 손실: 0.056095\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.068194\t최선의 손실: 0.056095\t정확도: 97.89%\n", - "14\t검증 세트 손실: 0.070116\t최선의 손실: 0.056095\t정확도: 98.08%\n", - "15\t검증 세트 손실: 0.070622\t최선의 손실: 0.056095\t정확도: 97.85%\n", - "16\t검증 세트 손실: 0.070959\t최선의 손실: 0.056095\t정확도: 98.01%\n", - "17\t검증 세트 손실: 0.060632\t최선의 손실: 0.056095\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.066540\t최선의 손실: 0.056095\t정확도: 98.28%\n", - "19\t검증 세트 손실: 0.087158\t최선의 손실: 0.056095\t정확도: 97.50%\n", - "20\t검증 세트 손실: 0.061374\t최선의 손실: 0.056095\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.053974\t최선의 손실: 0.053974\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.058466\t최선의 손실: 0.053974\t정확도: 98.16%\n", - "23\t검증 세트 손실: 0.055485\t최선의 손실: 0.053974\t정확도: 98.28%\n", - "24\t검증 세트 손실: 0.057702\t최선의 손실: 0.053974\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.069253\t최선의 손실: 0.053974\t정확도: 98.24%\n", - "26\t검증 세트 손실: 0.066295\t최선의 손실: 0.053974\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.066670\t최선의 손실: 0.053974\t정확도: 97.81%\n", - "28\t검증 세트 손실: 0.060873\t최선의 손실: 0.053974\t정확도: 98.32%\n", - "29\t검증 세트 손실: 0.067732\t최선의 손실: 0.053974\t정확도: 98.40%\n", - "30\t검증 세트 손실: 0.054688\t최선의 손실: 0.053974\t정확도: 98.48%\n", - "31\t검증 세트 손실: 0.054034\t최선의 손실: 0.053974\t정확도: 98.48%\n", - "32\t검증 세트 손실: 0.066638\t최선의 손실: 0.053974\t정확도: 98.16%\n", - "33\t검증 세트 손실: 0.058947\t최선의 손실: 0.053974\t정확도: 98.36%\n", - "34\t검증 세트 손실: 0.081918\t최선의 손실: 0.053974\t정확도: 97.85%\n", - "35\t검증 세트 손실: 0.057187\t최선의 손실: 0.053974\t정확도: 98.40%\n", - "36\t검증 세트 손실: 0.071879\t최선의 손실: 0.053974\t정확도: 98.32%\n", - "37\t검증 세트 손실: 0.077703\t최선의 손실: 0.053974\t정확도: 98.40%\n", - "38\t검증 세트 손실: 0.079690\t최선의 손실: 0.053974\t정확도: 97.93%\n", - "39\t검증 세트 손실: 0.076092\t최선의 손실: 0.053974\t정확도: 98.32%\n", - "40\t검증 세트 손실: 0.062806\t최선의 손실: 0.053974\t정확도: 98.36%\n", - "41\t검증 세트 손실: 0.081574\t최선의 손실: 0.053974\t정확도: 98.16%\n", - "42\t검증 세트 손실: 0.068271\t최선의 손실: 0.053974\t정확도: 98.36%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 24.1s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.132991\t최선의 손실: 0.132991\t정확도: 95.66%\n", + "1\t검증 세트 손실: 0.081914\t최선의 손실: 0.081914\t정확도: 97.58%\n", + "2\t검증 세트 손실: 0.075284\t최선의 손실: 0.075284\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.097068\t최선의 손실: 0.075284\t정확도: 97.07%\n", + "4\t검증 세트 손실: 0.085551\t최선의 손실: 0.075284\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.065213\t최선의 손실: 0.065213\t정확도: 97.93%\n", + "6\t검증 세트 손실: 0.073098\t최선의 손실: 0.065213\t정확도: 98.01%\n", + "7\t검증 세트 손실: 0.073536\t최선의 손실: 0.065213\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.057226\t최선의 손실: 0.057226\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.154147\t최선의 손실: 0.057226\t정확도: 96.48%\n", + "10\t검증 세트 손실: 0.066069\t최선의 손실: 0.057226\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.064890\t최선의 손실: 0.057226\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.063438\t최선의 손실: 0.057226\t정확도: 98.24%\n", + "13\t검증 세트 손실: 0.083429\t최선의 손실: 0.057226\t정확도: 97.65%\n", + "14\t검증 세트 손실: 0.067571\t최선의 손실: 0.057226\t정확도: 97.54%\n", + "15\t검증 세트 손실: 0.068920\t최선의 손실: 0.057226\t정확도: 97.89%\n", + "16\t검증 세트 손실: 0.069594\t최선의 손실: 0.057226\t정확도: 98.16%\n", + "17\t검증 세트 손실: 0.065867\t최선의 손실: 0.057226\t정확도: 97.89%\n", + "18\t검증 세트 손실: 0.063610\t최선의 손실: 0.057226\t정확도: 98.44%\n", + "19\t검증 세트 손실: 0.069306\t최선의 손실: 0.057226\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.076557\t최선의 손실: 0.057226\t정확도: 97.89%\n", + "21\t검증 세트 손실: 0.063695\t최선의 손실: 0.057226\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.081665\t최선의 손실: 0.057226\t정확도: 97.85%\n", + "23\t검증 세트 손실: 0.077005\t최선의 손실: 0.057226\t정확도: 98.05%\n", + "24\t검증 세트 손실: 0.071087\t최선의 손실: 0.057226\t정확도: 98.24%\n", + "25\t검증 세트 손실: 0.081151\t최선의 손실: 0.057226\t정확도: 97.81%\n", + "26\t검증 세트 손실: 0.076909\t최선의 손실: 0.057226\t정확도: 97.93%\n", + "27\t검증 세트 손실: 0.073442\t최선의 손실: 0.057226\t정확도: 98.20%\n", + "28\t검증 세트 손실: 0.081496\t최선의 손실: 0.057226\t정확도: 97.93%\n", + "29\t검증 세트 손실: 0.065576\t최선의 손실: 0.057226\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=10, total= 30.9s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10 \n", - "0\t검증 세트 손실: 0.116169\t최선의 손실: 0.116169\t정확도: 96.83%\n", - "1\t검증 세트 손실: 0.095470\t최선의 손실: 0.095470\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.081989\t최선의 손실: 0.081989\t정확도: 97.42%\n", - "3\t검증 세트 손실: 0.071254\t최선의 손실: 0.071254\t정확도: 97.62%\n", - "4\t검증 세트 손실: 0.080372\t최선의 손실: 0.071254\t정확도: 97.34%\n", - "5\t검증 세트 손실: 0.101148\t최선의 손실: 0.071254\t정확도: 96.95%\n", - "6\t검증 세트 손실: 0.075994\t최선의 손실: 0.071254\t정확도: 97.54%\n", - "7\t검증 세트 손실: 0.066632\t최선의 손실: 0.066632\t정확도: 97.77%\n", - "8\t검증 세트 손실: 0.111524\t최선의 손실: 0.066632\t정확도: 96.56%\n", - "9\t검증 세트 손실: 0.073151\t최선의 손실: 0.066632\t정확도: 97.81%\n", - "10\t검증 세트 손실: 0.078713\t최선의 손실: 0.066632\t정확도: 98.01%\n", - "11\t검증 세트 손실: 0.064326\t최선의 손실: 0.064326\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.077346\t최선의 손실: 0.064326\t정확도: 97.50%\n", - "13\t검증 세트 손실: 0.089582\t최선의 손실: 0.064326\t정확도: 97.81%\n", - "14\t검증 세트 손실: 0.062679\t최선의 손실: 0.062679\t정확도: 98.05%\n", - "15\t검증 세트 손실: 0.085070\t최선의 손실: 0.062679\t정확도: 97.77%\n", - "16\t검증 세트 손실: 0.074750\t최선의 손실: 0.062679\t정확도: 97.81%\n", - "17\t검증 세트 손실: 0.077926\t최선의 손실: 0.062679\t정확도: 98.01%\n", - "18\t검증 세트 손실: 0.077916\t최선의 손실: 0.062679\t정확도: 97.89%\n", - "19\t검증 세트 손실: 0.069158\t최선의 손실: 0.062679\t정확도: 98.05%\n", - "20\t검증 세트 손실: 0.074622\t최선의 손실: 0.062679\t정확도: 98.08%\n", - "21\t검증 세트 손실: 0.080547\t최선의 손실: 0.062679\t정확도: 97.73%\n", - "22\t검증 세트 손실: 0.075792\t최선의 손실: 0.062679\t정확도: 97.93%\n", - "23\t검증 세트 손실: 0.083545\t최선의 손실: 0.062679\t정확도: 98.20%\n", - "24\t검증 세트 손실: 0.069391\t최선의 손실: 0.062679\t정확도: 98.48%\n", - "25\t검증 세트 손실: 0.084157\t최선의 손실: 0.062679\t정확도: 98.05%\n", - "26\t검증 세트 손실: 0.077677\t최선의 손실: 0.062679\t정확도: 98.01%\n", - "27\t검증 세트 손실: 0.070602\t최선의 손실: 0.062679\t정확도: 98.05%\n", - "28\t검증 세트 손실: 0.074261\t최선의 손실: 0.062679\t정확도: 97.89%\n", - "29\t검증 세트 손실: 0.074854\t최선의 손실: 0.062679\t정확도: 98.40%\n", - "30\t검증 세트 손실: 0.070797\t최선의 손실: 0.062679\t정확도: 97.97%\n", - "31\t검증 세트 손실: 0.088122\t최선의 손실: 0.062679\t정확도: 97.85%\n", - "32\t검증 세트 손실: 0.087391\t최선의 손실: 0.062679\t정확도: 97.85%\n", - "33\t검증 세트 손실: 0.074986\t최선의 손실: 0.062679\t정확도: 98.32%\n", - "34\t검증 세트 손실: 0.083052\t최선의 손실: 0.062679\t정확도: 98.28%\n", - "35\t검증 세트 손실: 0.105431\t최선의 손실: 0.062679\t정확도: 97.77%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 22.0s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.131426\t최선의 손실: 0.131426\t정확도: 96.40%\n", + "1\t검증 세트 손실: 0.105450\t최선의 손실: 0.105450\t정확도: 96.95%\n", + "2\t검증 세트 손실: 0.080887\t최선의 손실: 0.080887\t정확도: 97.69%\n", + "3\t검증 세트 손실: 0.072609\t최선의 손실: 0.072609\t정확도: 97.62%\n", + "4\t검증 세트 손실: 0.081824\t최선의 손실: 0.072609\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.076173\t최선의 손실: 0.072609\t정확도: 97.77%\n", + "6\t검증 세트 손실: 0.067203\t최선의 손실: 0.067203\t정확도: 97.85%\n", + "7\t검증 세트 손실: 0.065239\t최선의 손실: 0.065239\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.064559\t최선의 손실: 0.064559\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.073599\t최선의 손실: 0.064559\t정확도: 97.46%\n", + "10\t검증 세트 손실: 0.066837\t최선의 손실: 0.064559\t정확도: 97.81%\n", + "11\t검증 세트 손실: 0.065765\t최선의 손실: 0.064559\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.071732\t최선의 손실: 0.064559\t정확도: 97.77%\n", + "13\t검증 세트 손실: 0.072777\t최선의 손실: 0.064559\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.076986\t최선의 손실: 0.064559\t정확도: 97.81%\n", + "15\t검증 세트 손실: 0.087177\t최선의 손실: 0.064559\t정확도: 97.62%\n", + "16\t검증 세트 손실: 0.061828\t최선의 손실: 0.061828\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.088857\t최선의 손실: 0.061828\t정확도: 97.93%\n", + "18\t검증 세트 손실: 0.067410\t최선의 손실: 0.061828\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.064196\t최선의 손실: 0.061828\t정확도: 98.40%\n", + "20\t검증 세트 손실: 0.061623\t최선의 손실: 0.061623\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.065552\t최선의 손실: 0.061623\t정확도: 98.20%\n", + "22\t검증 세트 손실: 0.061710\t최선의 손실: 0.061623\t정확도: 98.59%\n", + "23\t검증 세트 손실: 0.059708\t최선의 손실: 0.059708\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.088345\t최선의 손실: 0.059708\t정확도: 97.97%\n", + "25\t검증 세트 손실: 0.078529\t최선의 손실: 0.059708\t정확도: 97.97%\n", + "26\t검증 세트 손실: 0.066889\t최선의 손실: 0.059708\t정확도: 98.16%\n", + "27\t검증 세트 손실: 0.058534\t최선의 손실: 0.058534\t정확도: 98.44%\n", + "28\t검증 세트 손실: 0.071217\t최선의 손실: 0.058534\t정확도: 98.08%\n", + "29\t검증 세트 손실: 0.071185\t최선의 손실: 0.058534\t정확도: 98.36%\n", + "30\t검증 세트 손실: 0.064317\t최선의 손실: 0.058534\t정확도: 98.28%\n", + "31\t검증 세트 손실: 0.070746\t최선의 손실: 0.058534\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.088390\t최선의 손실: 0.058534\t정확도: 97.77%\n", + "33\t검증 세트 손실: 0.071031\t최선의 손실: 0.058534\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.076658\t최선의 손실: 0.058534\t정확도: 98.16%\n", + "35\t검증 세트 손실: 0.073024\t최선의 손실: 0.058534\t정확도: 98.44%\n", + "36\t검증 세트 손실: 0.077518\t최선의 손실: 0.058534\t정확도: 98.44%\n", + "37\t검증 세트 손실: 0.085135\t최선의 손실: 0.058534\t정확도: 98.16%\n", + "38\t검증 세트 손실: 0.079224\t최선의 손실: 0.058534\t정확도: 98.32%\n", + "39\t검증 세트 손실: 0.079865\t최선의 손실: 0.058534\t정확도: 98.32%\n", + "40\t검증 세트 손실: 0.088891\t최선의 손실: 0.058534\t정확도: 98.08%\n", + "41\t검증 세트 손실: 0.096758\t최선의 손실: 0.058534\t정확도: 97.97%\n", + "42\t검증 세트 손실: 0.085293\t최선의 손실: 0.058534\t정확도: 98.16%\n", + "43\t검증 세트 손실: 0.108467\t최선의 손실: 0.058534\t정확도: 98.01%\n", + "44\t검증 세트 손실: 0.078451\t최선의 손실: 0.058534\t정확도: 98.16%\n", + "45\t검증 세트 손실: 0.075554\t최선의 손실: 0.058534\t정확도: 98.28%\n", + "46\t검증 세트 손실: 0.083565\t최선의 손실: 0.058534\t정확도: 98.48%\n", + "47\t검증 세트 손실: 0.079191\t최선의 손실: 0.058534\t정확도: 98.48%\n", + "48\t검증 세트 손실: 0.078169\t최선의 손실: 0.058534\t정확도: 98.48%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10, total= 27.7s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10 \n", - "0\t검증 세트 손실: 0.131693\t최선의 손실: 0.131693\t정확도: 96.36%\n", - "1\t검증 세트 손실: 0.098332\t최선의 손실: 0.098332\t정확도: 96.99%\n", - "2\t검증 세트 손실: 0.073208\t최선의 손실: 0.073208\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.080219\t최선의 손실: 0.073208\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.072171\t최선의 손실: 0.072171\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.071263\t최선의 손실: 0.071263\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.073132\t최선의 손실: 0.071263\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.068598\t최선의 손실: 0.068598\t정확도: 97.89%\n", - "8\t검증 세트 손실: 0.059948\t최선의 손실: 0.059948\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.079204\t최선의 손실: 0.059948\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.058507\t최선의 손실: 0.058507\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.059104\t최선의 손실: 0.058507\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.067320\t최선의 손실: 0.058507\t정확도: 97.65%\n", - "13\t검증 세트 손실: 0.059695\t최선의 손실: 0.058507\t정확도: 98.40%\n", - "14\t검증 세트 손실: 0.061725\t최선의 손실: 0.058507\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.075816\t최선의 손실: 0.058507\t정확도: 97.93%\n", - "16\t검증 세트 손실: 0.061593\t최선의 손실: 0.058507\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.063518\t최선의 손실: 0.058507\t정확도: 98.32%\n", - "18\t검증 세트 손실: 0.079756\t최선의 손실: 0.058507\t정확도: 97.97%\n", - "19\t검증 세트 손실: 0.067111\t최선의 손실: 0.058507\t정확도: 98.28%\n", - "20\t검증 세트 손실: 0.069989\t최선의 손실: 0.058507\t정확도: 97.97%\n", - "21\t검증 세트 손실: 0.074330\t최선의 손실: 0.058507\t정확도: 98.28%\n", - "22\t검증 세트 손실: 0.070777\t최선의 손실: 0.058507\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.078676\t최선의 손실: 0.058507\t정확도: 98.20%\n", - "24\t검증 세트 손실: 0.062486\t최선의 손실: 0.058507\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.077409\t최선의 손실: 0.058507\t정확도: 97.97%\n", - "26\t검증 세트 손실: 0.054626\t최선의 손실: 0.054626\t정확도: 98.48%\n", - "27\t검증 세트 손실: 0.060684\t최선의 손실: 0.054626\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.070787\t최선의 손실: 0.054626\t정확도: 98.24%\n", - "29\t검증 세트 손실: 0.077992\t최선의 손실: 0.054626\t정확도: 98.20%\n", - "30\t검증 세트 손실: 0.065693\t최선의 손실: 0.054626\t정확도: 98.20%\n", - "31\t검증 세트 손실: 0.081795\t최선의 손실: 0.054626\t정확도: 97.97%\n", - "32\t검증 세트 손실: 0.082780\t최선의 손실: 0.054626\t정확도: 98.12%\n", - "33\t검증 세트 손실: 0.079374\t최선의 손실: 0.054626\t정확도: 98.01%\n", - "34\t검증 세트 손실: 0.067044\t최선의 손실: 0.054626\t정확도: 98.44%\n", - "35\t검증 세트 손실: 0.057532\t최선의 손실: 0.054626\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.069986\t최선의 손실: 0.054626\t정확도: 98.28%\n", - "37\t검증 세트 손실: 0.063438\t최선의 손실: 0.054626\t정확도: 98.63%\n", - "38\t검증 세트 손실: 0.082112\t최선의 손실: 0.054626\t정확도: 98.36%\n", - "39\t검증 세트 손실: 0.087065\t최선의 손실: 0.054626\t정확도: 98.20%\n", - "40\t검증 세트 손실: 0.073974\t최선의 손실: 0.054626\t정확도: 98.36%\n", - "41\t검증 세트 손실: 0.076677\t최선의 손실: 0.054626\t정확도: 98.44%\n", - "42\t검증 세트 손실: 0.072091\t최선의 손실: 0.054626\t정확도: 98.59%\n", - "43\t검증 세트 손실: 0.076558\t최선의 손실: 0.054626\t정확도: 98.40%\n", - "44\t검증 세트 손실: 0.067303\t최선의 손실: 0.054626\t정확도: 98.48%\n", - "45\t검증 세트 손실: 0.067299\t최선의 손실: 0.054626\t정확도: 98.40%\n", - "46\t검증 세트 손실: 0.101668\t최선의 손실: 0.054626\t정확도: 98.24%\n", - "47\t검증 세트 손실: 0.080537\t최선의 손실: 0.054626\t정확도: 98.16%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 34.7s\n", + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.114697\t최선의 손실: 0.114697\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.095547\t최선의 손실: 0.095547\t정확도: 97.19%\n", + "2\t검증 세트 손실: 0.095685\t최선의 손실: 0.095547\t정확도: 97.42%\n", + "3\t검증 세트 손실: 0.087914\t최선의 손실: 0.087914\t정확도: 97.54%\n", + "4\t검증 세트 손실: 0.075492\t최선의 손실: 0.075492\t정확도: 98.01%\n", + "5\t검증 세트 손실: 0.096996\t최선의 손실: 0.075492\t정확도: 97.11%\n", + "6\t검증 세트 손실: 0.068636\t최선의 손실: 0.068636\t정확도: 97.93%\n", + "7\t검증 세트 손실: 0.072850\t최선의 손실: 0.068636\t정확도: 98.08%\n", + "8\t검증 세트 손실: 0.079228\t최선의 손실: 0.068636\t정확도: 97.73%\n", + "9\t검증 세트 손실: 0.076946\t최선의 손실: 0.068636\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.078017\t최선의 손실: 0.068636\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.078741\t최선의 손실: 0.068636\t정확도: 97.73%\n", + "12\t검증 세트 손실: 0.078751\t최선의 손실: 0.068636\t정확도: 97.97%\n", + "13\t검증 세트 손실: 0.076264\t최선의 손실: 0.068636\t정확도: 97.85%\n", + "14\t검증 세트 손실: 0.075407\t최선의 손실: 0.068636\t정확도: 98.01%\n", + "15\t검증 세트 손실: 0.085930\t최선의 손실: 0.068636\t정확도: 97.65%\n", + "16\t검증 세트 손실: 0.082644\t최선의 손실: 0.068636\t정확도: 97.85%\n", + "17\t검증 세트 손실: 0.068797\t최선의 손실: 0.068636\t정확도: 97.97%\n", + "18\t검증 세트 손실: 0.084890\t최선의 손실: 0.068636\t정확도: 97.73%\n", + "19\t검증 세트 손실: 0.078639\t최선의 손실: 0.068636\t정확도: 98.20%\n", + "20\t검증 세트 손실: 0.077767\t최선의 손실: 0.068636\t정확도: 98.05%\n", + "21\t검증 세트 손실: 0.096810\t최선의 손실: 0.068636\t정확도: 97.46%\n", + "22\t검증 세트 손실: 0.096561\t최선의 손실: 0.068636\t정확도: 97.62%\n", + "23\t검증 세트 손실: 0.088546\t최선의 손실: 0.068636\t정확도: 97.69%\n", + "24\t검증 세트 손실: 0.070798\t최선의 손실: 0.068636\t정확도: 97.85%\n", + "25\t검증 세트 손실: 0.079866\t최선의 손실: 0.068636\t정확도: 97.73%\n", + "26\t검증 세트 손실: 0.068743\t최선의 손실: 0.068636\t정확도: 98.20%\n", + "27\t검증 세트 손실: 0.070040\t최선의 손실: 0.068636\t정확도: 98.05%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10, total= 36.5s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10 \n" + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 21.9s\n", + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.165124\t최선의 손실: 0.165124\t정확도: 95.35%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.110073\t최선의 손실: 0.110073\t정확도: 96.99%\n", - "1\t검증 세트 손실: 0.103993\t최선의 손실: 0.103993\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.076519\t최선의 손실: 0.076519\t정확도: 97.62%\n", - "3\t검증 세트 손실: 0.062687\t최선의 손실: 0.062687\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.058639\t최선의 손실: 0.058639\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.059712\t최선의 손실: 0.058639\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.052621\t최선의 손실: 0.052621\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.068912\t최선의 손실: 0.052621\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.059364\t최선의 손실: 0.052621\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.055714\t최선의 손실: 0.052621\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.056494\t최선의 손실: 0.052621\t정확도: 98.48%\n", - "11\t검증 세트 손실: 0.063154\t최선의 손실: 0.052621\t정확도: 98.08%\n", - "12\t검증 세트 손실: 0.080215\t최선의 손실: 0.052621\t정확도: 97.38%\n", - "13\t검증 세트 손실: 0.069968\t최선의 손실: 0.052621\t정확도: 98.05%\n", - "14\t검증 세트 손실: 0.055614\t최선의 손실: 0.052621\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.065322\t최선의 손실: 0.052621\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.063421\t최선의 손실: 0.052621\t정확도: 98.08%\n", - "17\t검증 세트 손실: 0.074311\t최선의 손실: 0.052621\t정확도: 98.20%\n", - "18\t검증 세트 손실: 0.063910\t최선의 손실: 0.052621\t정확도: 98.40%\n", - "19\t검증 세트 손실: 0.067374\t최선의 손실: 0.052621\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.067972\t최선의 손실: 0.052621\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.063738\t최선의 손실: 0.052621\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.059061\t최선의 손실: 0.052621\t정확도: 98.24%\n", - "23\t검증 세트 손실: 0.063323\t최선의 손실: 0.052621\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.064741\t최선의 손실: 0.052621\t정확도: 98.36%\n", - "25\t검증 세트 손실: 0.069619\t최선의 손실: 0.052621\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.072030\t최선의 손실: 0.052621\t정확도: 98.08%\n", - "27\t검증 세트 손실: 0.077301\t최선의 손실: 0.052621\t정확도: 98.01%\n", + "1\t검증 세트 손실: 0.105834\t최선의 손실: 0.105834\t정확도: 97.19%\n", + "2\t검증 세트 손실: 0.068219\t최선의 손실: 0.068219\t정확도: 97.85%\n", + "3\t검증 세트 손실: 0.082441\t최선의 손실: 0.068219\t정확도: 97.62%\n", + "4\t검증 세트 손실: 0.078286\t최선의 손실: 0.068219\t정확도: 97.73%\n", + "5\t검증 세트 손실: 0.067210\t최선의 손실: 0.067210\t정확도: 98.08%\n", + "6\t검증 세트 손실: 0.070425\t최선의 손실: 0.067210\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.062470\t최선의 손실: 0.062470\t정확도: 98.16%\n", + "8\t검증 세트 손실: 0.074093\t최선의 손실: 0.062470\t정확도: 98.05%\n", + "9\t검증 세트 손실: 0.087017\t최선의 손실: 0.062470\t정확도: 97.73%\n", + "10\t검증 세트 손실: 0.063255\t최선의 손실: 0.062470\t정확도: 97.85%\n", + "11\t검증 세트 손실: 0.064736\t최선의 손실: 0.062470\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.072836\t최선의 손실: 0.062470\t정확도: 98.24%\n", + "13\t검증 세트 손실: 0.065670\t최선의 손실: 0.062470\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.060034\t최선의 손실: 0.060034\t정확도: 98.20%\n", + "15\t검증 세트 손실: 0.070418\t최선의 손실: 0.060034\t정확도: 98.05%\n", + "16\t검증 세트 손실: 0.070697\t최선의 손실: 0.060034\t정확도: 98.16%\n", + "17\t검증 세트 손실: 0.073300\t최선의 손실: 0.060034\t정확도: 98.05%\n", + "18\t검증 세트 손실: 0.071558\t최선의 손실: 0.060034\t정확도: 98.08%\n", + "19\t검증 세트 손실: 0.072332\t최선의 손실: 0.060034\t정확도: 98.05%\n", + "20\t검증 세트 손실: 0.075862\t최선의 손실: 0.060034\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.069250\t최선의 손실: 0.060034\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.062802\t최선의 손실: 0.060034\t정확도: 98.36%\n", + "23\t검증 세트 손실: 0.070896\t최선의 손실: 0.060034\t정확도: 98.36%\n", + "24\t검증 세트 손실: 0.063933\t최선의 손실: 0.060034\t정확도: 98.55%\n", + "25\t검증 세트 손실: 0.078661\t최선의 손실: 0.060034\t정확도: 98.24%\n", + "26\t검증 세트 손실: 0.070855\t최선의 손실: 0.060034\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.068665\t최선의 손실: 0.060034\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.080422\t최선의 손실: 0.060034\t정확도: 97.89%\n", + "29\t검증 세트 손실: 0.081477\t최선의 손실: 0.060034\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.067103\t최선의 손실: 0.060034\t정확도: 98.12%\n", + "31\t검증 세트 손실: 0.076369\t최선의 손실: 0.060034\t정확도: 98.20%\n", + "32\t검증 세트 손실: 0.075719\t최선의 손실: 0.060034\t정확도: 98.32%\n", + "33\t검증 세트 손실: 0.064705\t최선의 손실: 0.060034\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.074316\t최선의 손실: 0.060034\t정확도: 98.36%\n", + "35\t검증 세트 손실: 0.074325\t최선의 손실: 0.060034\t정확도: 98.16%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=10, total= 21.9s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50 \n", - "0\t검증 세트 손실: 0.359829\t최선의 손실: 0.359829\t정확도: 97.77%\n", - "1\t검증 세트 손실: 0.364421\t최선의 손실: 0.359829\t정확도: 97.85%\n", - "2\t검증 세트 손실: 0.231389\t최선의 손실: 0.231389\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.195181\t최선의 손실: 0.195181\t정확도: 97.50%\n", - "4\t검증 세트 손실: 0.112750\t최선의 손실: 0.112750\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.111981\t최선의 손실: 0.111981\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.082034\t최선의 손실: 0.082034\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.104430\t최선의 손실: 0.082034\t정확도: 98.44%\n", - "8\t검증 세트 손실: 0.130796\t최선의 손실: 0.082034\t정확도: 97.89%\n", - "9\t검증 세트 손실: 0.096560\t최선의 손실: 0.082034\t정확도: 98.16%\n", - "10\t검증 세트 손실: 0.111537\t최선의 손실: 0.082034\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.070427\t최선의 손실: 0.070427\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.125368\t최선의 손실: 0.070427\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.076785\t최선의 손실: 0.070427\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.136310\t최선의 손실: 0.070427\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.071623\t최선의 손실: 0.070427\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.057971\t최선의 손실: 0.057971\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.078935\t최선의 손실: 0.057971\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.086379\t최선의 손실: 0.057971\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.055365\t최선의 손실: 0.055365\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.088441\t최선의 손실: 0.055365\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.117875\t최선의 손실: 0.055365\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.093601\t최선의 손실: 0.055365\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.094867\t최선의 손실: 0.055365\t정확도: 98.20%\n", - "24\t검증 세트 손실: 0.083480\t최선의 손실: 0.055365\t정확도: 98.48%\n", - "25\t검증 세트 손실: 0.068320\t최선의 손실: 0.055365\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.077581\t최선의 손실: 0.055365\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.072071\t최선의 손실: 0.055365\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.080163\t최선의 손실: 0.055365\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.056289\t최선의 손실: 0.055365\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.084576\t최선의 손실: 0.055365\t정확도: 98.63%\n", - "31\t검증 세트 손실: 0.110309\t최선의 손실: 0.055365\t정확도: 98.20%\n", - "32\t검증 세트 손실: 0.122288\t최선의 손실: 0.055365\t정확도: 98.36%\n", - "33\t검증 세트 손실: 0.071027\t최선의 손실: 0.055365\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.069620\t최선의 손실: 0.055365\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.058101\t최선의 손실: 0.055365\t정확도: 98.83%\n", - "36\t검증 세트 손실: 0.075786\t최선의 손실: 0.055365\t정확도: 98.63%\n", - "37\t검증 세트 손실: 0.066282\t최선의 손실: 0.055365\t정확도: 98.71%\n", - "38\t검증 세트 손실: 0.058758\t최선의 손실: 0.055365\t정확도: 98.83%\n", - "39\t검증 세트 손실: 0.052552\t최선의 손실: 0.052552\t정확도: 98.94%\n", - "40\t검증 세트 손실: 0.106118\t최선의 손실: 0.052552\t정확도: 98.40%\n", - "41\t검증 세트 손실: 0.075016\t최선의 손실: 0.052552\t정확도: 98.55%\n", - "42\t검증 세트 손실: 0.058250\t최선의 손실: 0.052552\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.054776\t최선의 손실: 0.052552\t정확도: 98.79%\n", - "44\t검증 세트 손실: 0.058226\t최선의 손실: 0.052552\t정확도: 98.83%\n", - "45\t검증 세트 손실: 0.067598\t최선의 손실: 0.052552\t정확도: 98.83%\n", - "46\t검증 세트 손실: 0.071955\t최선의 손실: 0.052552\t정확도: 98.91%\n", - "47\t검증 세트 손실: 0.087799\t최선의 손실: 0.052552\t정확도: 98.32%\n", - "48\t검증 세트 손실: 0.064175\t최선의 손실: 0.052552\t정확도: 98.75%\n", - "49\t검증 세트 손실: 0.073855\t최선의 손실: 0.052552\t정확도: 98.71%\n", - "50\t검증 세트 손실: 0.057091\t최선의 손실: 0.052552\t정확도: 99.02%\n", - "51\t검증 세트 손실: 0.065071\t최선의 손실: 0.052552\t정확도: 98.79%\n", - "52\t검증 세트 손실: 0.121043\t최선의 손실: 0.052552\t정확도: 97.30%\n", - "53\t검증 세트 손실: 0.068543\t최선의 손실: 0.052552\t정확도: 98.44%\n", - "54\t검증 세트 손실: 0.102280\t최선의 손실: 0.052552\t정확도: 98.28%\n", - "55\t검증 세트 손실: 0.059961\t최선의 손실: 0.052552\t정확도: 98.87%\n", - "56\t검증 세트 손실: 0.083062\t최선의 손실: 0.052552\t정확도: 98.36%\n", - "57\t검증 세트 손실: 0.065376\t최선의 손실: 0.052552\t정확도: 98.94%\n", - "58\t검증 세트 손실: 0.068387\t최선의 손실: 0.052552\t정확도: 98.75%\n", - "59\t검증 세트 손실: 0.062752\t최선의 손실: 0.052552\t정확도: 98.94%\n", - "60\t검증 세트 손실: 0.065153\t최선의 손실: 0.052552\t정확도: 98.79%\n", + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 28.0s\n", + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.121617\t최선의 손실: 0.121617\t정확도: 96.83%\n", + "1\t검증 세트 손실: 0.101078\t최선의 손실: 0.101078\t정확도: 97.22%\n", + "2\t검증 세트 손실: 0.087174\t최선의 손실: 0.087174\t정확도: 97.54%\n", + "3\t검증 세트 손실: 0.058262\t최선의 손실: 0.058262\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.080640\t최선의 손실: 0.058262\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.061375\t최선의 손실: 0.058262\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.061636\t최선의 손실: 0.058262\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.055994\t최선의 손실: 0.055994\t정확도: 98.32%\n", + "8\t검증 세트 손실: 0.068870\t최선의 손실: 0.055994\t정확도: 98.16%\n", + "9\t검증 세트 손실: 0.055497\t최선의 손실: 0.055497\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.058378\t최선의 손실: 0.055497\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.062830\t최선의 손실: 0.055497\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.064770\t최선의 손실: 0.055497\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.065780\t최선의 손실: 0.055497\t정확도: 97.89%\n", + "14\t검증 세트 손실: 0.073582\t최선의 손실: 0.055497\t정확도: 98.12%\n", + "15\t검증 세트 손실: 0.071710\t최선의 손실: 0.055497\t정확도: 98.01%\n", + "16\t검증 세트 손실: 0.060756\t최선의 손실: 0.055497\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.064542\t최선의 손실: 0.055497\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.075215\t최선의 손실: 0.055497\t정확도: 98.05%\n", + "19\t검증 세트 손실: 0.067652\t최선의 손실: 0.055497\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.071862\t최선의 손실: 0.055497\t정확도: 98.12%\n", + "21\t검증 세트 손실: 0.051108\t최선의 손실: 0.051108\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.062067\t최선의 손실: 0.051108\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.065864\t최선의 손실: 0.051108\t정확도: 98.32%\n", + "24\t검증 세트 손실: 0.062332\t최선의 손실: 0.051108\t정확도: 98.48%\n", + "25\t검증 세트 손실: 0.054712\t최선의 손실: 0.051108\t정확도: 98.32%\n", + "26\t검증 세트 손실: 0.065013\t최선의 손실: 0.051108\t정확도: 98.36%\n", + "27\t검증 세트 손실: 0.070279\t최선의 손실: 0.051108\t정확도: 98.20%\n", + "28\t검증 세트 손실: 0.066574\t최선의 손실: 0.051108\t정확도: 98.36%\n", + "29\t검증 세트 손실: 0.066318\t최선의 손실: 0.051108\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.055608\t최선의 손실: 0.051108\t정확도: 98.48%\n", + "31\t검증 세트 손실: 0.059457\t최선의 손실: 0.051108\t정확도: 98.24%\n", + "32\t검증 세트 손실: 0.077717\t최선의 손실: 0.051108\t정확도: 98.20%\n", + "33\t검증 세트 손실: 0.075280\t최선의 손실: 0.051108\t정확도: 98.20%\n", + "34\t검증 세트 손실: 0.075050\t최선의 손실: 0.051108\t정확도: 98.16%\n", + "35\t검증 세트 손실: 0.073454\t최선의 손실: 0.051108\t정확도: 98.44%\n", + "36\t검증 세트 손실: 0.067593\t최선의 손실: 0.051108\t정확도: 98.32%\n", + "37\t검증 세트 손실: 0.072150\t최선의 손실: 0.051108\t정확도: 98.12%\n", + "38\t검증 세트 손실: 0.064003\t최선의 손실: 0.051108\t정확도: 98.44%\n", + "39\t검증 세트 손실: 0.070825\t최선의 손실: 0.051108\t정확도: 98.44%\n", + "40\t검증 세트 손실: 0.072637\t최선의 손실: 0.051108\t정확도: 98.40%\n", + "41\t검증 세트 손실: 0.065063\t최선의 손실: 0.051108\t정확도: 98.32%\n", + "42\t검증 세트 손실: 0.081882\t최선의 손실: 0.051108\t정확도: 98.32%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50, total= 1.5min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50 \n", - "0\t검증 세트 손실: 0.600511\t최선의 손실: 0.600511\t정확도: 95.35%\n", - "1\t검증 세트 손실: 0.614152\t최선의 손실: 0.600511\t정확도: 96.05%\n", - "2\t검증 세트 손실: 0.189359\t최선의 손실: 0.189359\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.192983\t최선의 손실: 0.189359\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.156893\t최선의 손실: 0.156893\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.153724\t최선의 손실: 0.153724\t정확도: 97.73%\n", - "6\t검증 세트 손실: 0.124345\t최선의 손실: 0.124345\t정확도: 98.12%\n", - "7\t검증 세트 손실: 0.132286\t최선의 손실: 0.124345\t정확도: 98.05%\n", - "8\t검증 세트 손실: 0.095898\t최선의 손실: 0.095898\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.089488\t최선의 손실: 0.089488\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.097735\t최선의 손실: 0.089488\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.077987\t최선의 손실: 0.077987\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.095204\t최선의 손실: 0.077987\t정확도: 98.08%\n", - "13\t검증 세트 손실: 0.083689\t최선의 손실: 0.077987\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.087024\t최선의 손실: 0.077987\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.057374\t최선의 손실: 0.057374\t정확도: 99.06%\n", - "16\t검증 세트 손실: 0.120517\t최선의 손실: 0.057374\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.082610\t최선의 손실: 0.057374\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.095454\t최선의 손실: 0.057374\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.062754\t최선의 손실: 0.057374\t정확도: 99.14%\n", - "20\t검증 세트 손실: 0.082952\t최선의 손실: 0.057374\t정확도: 98.83%\n", - "21\t검증 세트 손실: 0.091160\t최선의 손실: 0.057374\t정확도: 98.59%\n", - "22\t검증 세트 손실: 0.078122\t최선의 손실: 0.057374\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.085244\t최선의 손실: 0.057374\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.052602\t최선의 손실: 0.052602\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.127962\t최선의 손실: 0.052602\t정확도: 98.01%\n", - "26\t검증 세트 손실: 0.086028\t최선의 손실: 0.052602\t정확도: 98.32%\n", - "27\t검증 세트 손실: 0.075617\t최선의 손실: 0.052602\t정확도: 98.83%\n", - "28\t검증 세트 손실: 0.075564\t최선의 손실: 0.052602\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.051420\t최선의 손실: 0.051420\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.056507\t최선의 손실: 0.051420\t정확도: 99.18%\n", - "31\t검증 세트 손실: 0.062134\t최선의 손실: 0.051420\t정확도: 98.91%\n", - "32\t검증 세트 손실: 0.125835\t최선의 손실: 0.051420\t정확도: 97.93%\n", - "33\t검증 세트 손실: 0.059745\t최선의 손실: 0.051420\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.050565\t최선의 손실: 0.050565\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.115264\t최선의 손실: 0.050565\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.086740\t최선의 손실: 0.050565\t정확도: 98.75%\n", - "37\t검증 세트 손실: 0.050624\t최선의 손실: 0.050565\t정확도: 99.06%\n", - "38\t검증 세트 손실: 0.060088\t최선의 손실: 0.050565\t정확도: 98.67%\n", - "39\t검증 세트 손실: 0.088459\t최선의 손실: 0.050565\t정확도: 98.91%\n", - "40\t검증 세트 손실: 0.051412\t최선의 손실: 0.050565\t정확도: 98.98%\n", - "41\t검증 세트 손실: 0.067413\t최선의 손실: 0.050565\t정확도: 98.87%\n", - "42\t검증 세트 손실: 0.100030\t최선의 손실: 0.050565\t정확도: 98.40%\n", - "43\t검증 세트 손실: 0.083006\t최선의 손실: 0.050565\t정확도: 98.71%\n", - "44\t검증 세트 손실: 0.073599\t최선의 손실: 0.050565\t정확도: 98.59%\n", - "45\t검증 세트 손실: 0.056947\t최선의 손실: 0.050565\t정확도: 98.94%\n", - "46\t검증 세트 손실: 0.080081\t최선의 손실: 0.050565\t정확도: 98.63%\n", - "47\t검증 세트 손실: 0.077132\t최선의 손실: 0.050565\t정확도: 98.79%\n", - "48\t검증 세트 손실: 0.070984\t최선의 손실: 0.050565\t정확도: 98.59%\n", - "49\t검증 세트 손실: 0.065118\t최선의 손실: 0.050565\t정확도: 98.79%\n", - "50\t검증 세트 손실: 0.093204\t최선의 손실: 0.050565\t정확도: 98.79%\n", - "51\t검증 세트 손실: 0.053782\t최선의 손실: 0.050565\t정확도: 99.22%\n", - "52\t검증 세트 손실: 0.059016\t최선의 손실: 0.050565\t정확도: 98.98%\n", - "53\t검증 세트 손실: 0.071706\t최선의 손실: 0.050565\t정확도: 98.94%\n", - "54\t검증 세트 손실: 0.072927\t최선의 손실: 0.050565\t정확도: 98.87%\n", - "55\t검증 세트 손실: 0.066558\t최선의 손실: 0.050565\t정확도: 99.06%\n", + "[CV] n_neurons=10, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 32.8s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.539208\t최선의 손실: 0.539208\t정확도: 95.97%\n", + "1\t검증 세트 손실: 0.334444\t최선의 손실: 0.334444\t정확도: 97.30%\n", + "2\t검증 세트 손실: 0.291814\t최선의 손실: 0.291814\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.176074\t최선의 손실: 0.176074\t정확도: 98.36%\n", + "4\t검증 세트 손실: 0.175988\t최선의 손실: 0.175988\t정확도: 98.16%\n", + "5\t검증 세트 손실: 0.134416\t최선의 손실: 0.134416\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.076114\t최선의 손실: 0.076114\t정확도: 98.71%\n", + "7\t검증 세트 손실: 0.115556\t최선의 손실: 0.076114\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.110336\t최선의 손실: 0.076114\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.093800\t최선의 손실: 0.076114\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.061580\t최선의 손실: 0.061580\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.078352\t최선의 손실: 0.061580\t정확도: 98.83%\n", + "12\t검증 세트 손실: 0.078095\t최선의 손실: 0.061580\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.097894\t최선의 손실: 0.061580\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.092148\t최선의 손실: 0.061580\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.074180\t최선의 손실: 0.061580\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.085978\t최선의 손실: 0.061580\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.114452\t최선의 손실: 0.061580\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.074254\t최선의 손실: 0.061580\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.103687\t최선의 손실: 0.061580\t정확도: 98.40%\n", + "20\t검증 세트 손실: 0.070391\t최선의 손실: 0.061580\t정확도: 98.98%\n", + "21\t검증 세트 손실: 0.065967\t최선의 손실: 0.061580\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.080786\t최선의 손실: 0.061580\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.102663\t최선의 손실: 0.061580\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.101775\t최선의 손실: 0.061580\t정확도: 98.32%\n", + "25\t검증 세트 손실: 0.069771\t최선의 손실: 0.061580\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.069961\t최선의 손실: 0.061580\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.092792\t최선의 손실: 0.061580\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.056640\t최선의 손실: 0.056640\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.070805\t최선의 손실: 0.056640\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.058325\t최선의 손실: 0.056640\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.066956\t최선의 손실: 0.056640\t정확도: 98.59%\n", + "32\t검증 세트 손실: 0.066880\t최선의 손실: 0.056640\t정확도: 99.02%\n", + "33\t검증 세트 손실: 0.059991\t최선의 손실: 0.056640\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.051402\t최선의 손실: 0.051402\t정확도: 99.10%\n", + "35\t검증 세트 손실: 0.071911\t최선의 손실: 0.051402\t정확도: 98.83%\n", + "36\t검증 세트 손실: 0.076951\t최선의 손실: 0.051402\t정확도: 98.55%\n", + "37\t검증 세트 손실: 0.082321\t최선의 손실: 0.051402\t정확도: 98.79%\n", + "38\t검증 세트 손실: 0.066749\t최선의 손실: 0.051402\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.055912\t최선의 손실: 0.051402\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.059638\t최선의 손실: 0.051402\t정확도: 99.02%\n", + "41\t검증 세트 손실: 0.076162\t최선의 손실: 0.051402\t정확도: 98.79%\n", + "42\t검증 세트 손실: 0.067349\t최선의 손실: 0.051402\t정확도: 98.98%\n", + "43\t검증 세트 손실: 0.082292\t최선의 손실: 0.051402\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.064063\t최선의 손실: 0.051402\t정확도: 98.79%\n", + "45\t검증 세트 손실: 0.062586\t최선의 손실: 0.051402\t정확도: 98.91%\n", + "46\t검증 세트 손실: 0.048526\t최선의 손실: 0.048526\t정확도: 98.98%\n", + "47\t검증 세트 손실: 0.072988\t최선의 손실: 0.048526\t정확도: 98.71%\n", + "48\t검증 세트 손실: 0.070971\t최선의 손실: 0.048526\t정확도: 98.63%\n", + "49\t검증 세트 손실: 0.073701\t최선의 손실: 0.048526\t정확도: 98.75%\n", + "50\t검증 세트 손실: 0.063259\t최선의 손실: 0.048526\t정확도: 98.91%\n", + "51\t검증 세트 손실: 0.067127\t최선의 손실: 0.048526\t정확도: 98.98%\n", + "52\t검증 세트 손실: 0.107194\t최선의 손실: 0.048526\t정확도: 98.48%\n", + "53\t검증 세트 손실: 0.053970\t최선의 손실: 0.048526\t정확도: 98.87%\n", + "54\t검증 세트 손실: 0.057777\t최선의 손실: 0.048526\t정확도: 98.94%\n", + "55\t검증 세트 손실: 0.061442\t최선의 손실: 0.048526\t정확도: 98.91%\n", + "56\t검증 세트 손실: 0.078156\t최선의 손실: 0.048526\t정확도: 98.51%\n", + "57\t검증 세트 손실: 0.059038\t최선의 손실: 0.048526\t정확도: 98.83%\n", + "58\t검증 세트 손실: 0.090246\t최선의 손실: 0.048526\t정확도: 98.83%\n", + "59\t검증 세트 손실: 0.109546\t최선의 손실: 0.048526\t정확도: 98.79%\n", + "60\t검증 세트 손실: 0.078782\t최선의 손실: 0.048526\t정확도: 98.63%\n", + "61\t검증 세트 손실: 0.057164\t최선의 손실: 0.048526\t정확도: 98.91%\n", + "62\t검증 세트 손실: 0.065828\t최선의 손실: 0.048526\t정확도: 98.75%\n", + "63\t검증 세트 손실: 0.063791\t최선의 손실: 0.048526\t정확도: 98.94%\n", + "64\t검증 세트 손실: 0.071606\t최선의 손실: 0.048526\t정확도: 98.91%\n", + "65\t검증 세트 손실: 0.073583\t최선의 손실: 0.048526\t정확도: 99.18%\n", + "66\t검증 세트 손실: 0.073077\t최선의 손실: 0.048526\t정확도: 98.94%\n", + "67\t검증 세트 손실: 0.063613\t최선의 손실: 0.048526\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50, total= 1.4min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50 \n" + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 1.6min\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.433448\t최선의 손실: 0.433448\t정확도: 96.87%\n", - "1\t검증 세트 손실: 0.296668\t최선의 손실: 0.296668\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.271451\t최선의 손실: 0.271451\t정확도: 97.50%\n", - "3\t검증 세트 손실: 0.168923\t최선의 손실: 0.168923\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.107488\t최선의 손실: 0.107488\t정확도: 98.94%\n", - "5\t검증 세트 손실: 0.147033\t최선의 손실: 0.107488\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.091610\t최선의 손실: 0.091610\t정확도: 98.79%\n", - "7\t검증 세트 손실: 0.119546\t최선의 손실: 0.091610\t정확도: 98.32%\n", - "8\t검증 세트 손실: 0.082931\t최선의 손실: 0.082931\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.074126\t최선의 손실: 0.074126\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.081139\t최선의 손실: 0.074126\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.094756\t최선의 손실: 0.074126\t정확도: 98.51%\n", - "12\t검증 세트 손실: 0.081141\t최선의 손실: 0.074126\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.070765\t최선의 손실: 0.070765\t정확도: 98.91%\n", - "14\t검증 세트 손실: 0.062611\t최선의 손실: 0.062611\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.067694\t최선의 손실: 0.062611\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.067856\t최선의 손실: 0.062611\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.072161\t최선의 손실: 0.062611\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.071769\t최선의 손실: 0.062611\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.166590\t최선의 손실: 0.062611\t정확도: 98.05%\n", - "20\t검증 세트 손실: 0.047676\t최선의 손실: 0.047676\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.053783\t최선의 손실: 0.047676\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.042736\t최선의 손실: 0.042736\t정확도: 99.26%\n", - "23\t검증 세트 손실: 0.043484\t최선의 손실: 0.042736\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.076440\t최선의 손실: 0.042736\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.066690\t최선의 손실: 0.042736\t정확도: 98.63%\n", - "26\t검증 세트 손실: 0.151983\t최선의 손실: 0.042736\t정확도: 98.01%\n", - "27\t검증 세트 손실: 0.079544\t최선의 손실: 0.042736\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.080673\t최선의 손실: 0.042736\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.110736\t최선의 손실: 0.042736\t정확도: 98.36%\n", - "30\t검증 세트 손실: 0.082631\t최선의 손실: 0.042736\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.083951\t최선의 손실: 0.042736\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.073412\t최선의 손실: 0.042736\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.084679\t최선의 손실: 0.042736\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.074954\t최선의 손실: 0.042736\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.079212\t최선의 손실: 0.042736\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.135929\t최선의 손실: 0.042736\t정확도: 98.40%\n", - "37\t검증 세트 손실: 0.058608\t최선의 손실: 0.042736\t정확도: 99.22%\n", - "38\t검증 세트 손실: 0.088154\t최선의 손실: 0.042736\t정확도: 98.55%\n", - "39\t검증 세트 손실: 0.071432\t최선의 손실: 0.042736\t정확도: 99.22%\n", - "40\t검증 세트 손실: 0.085492\t최선의 손실: 0.042736\t정확도: 98.32%\n", - "41\t검증 세트 손실: 0.094601\t최선의 손실: 0.042736\t정확도: 98.87%\n", - "42\t검증 세트 손실: 0.068677\t최선의 손실: 0.042736\t정확도: 98.87%\n", - "43\t검증 세트 손실: 0.062977\t최선의 손실: 0.042736\t정확도: 99.02%\n", + "0\t검증 세트 손실: 0.529955\t최선의 손실: 0.529955\t정확도: 96.72%\n", + "1\t검증 세트 손실: 0.325445\t최선의 손실: 0.325445\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.171796\t최선의 손실: 0.171796\t정확도: 98.51%\n", + "3\t검증 세트 손실: 0.155612\t최선의 손실: 0.155612\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.206055\t최선의 손실: 0.155612\t정확도: 97.77%\n", + "5\t검증 세트 손실: 0.118323\t최선의 손실: 0.118323\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.159991\t최선의 손실: 0.118323\t정확도: 97.97%\n", + "7\t검증 세트 손실: 0.084688\t최선의 손실: 0.084688\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.107784\t최선의 손실: 0.084688\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.115551\t최선의 손실: 0.084688\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.129218\t최선의 손실: 0.084688\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.062578\t최선의 손실: 0.062578\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.081938\t최선의 손실: 0.062578\t정확도: 98.71%\n", + "13\t검증 세트 손실: 0.068485\t최선의 손실: 0.062578\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.058244\t최선의 손실: 0.058244\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.123057\t최선의 손실: 0.058244\t정확도: 98.28%\n", + "16\t검증 세트 손실: 0.119177\t최선의 손실: 0.058244\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.076189\t최선의 손실: 0.058244\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.086070\t최선의 손실: 0.058244\t정확도: 98.71%\n", + "19\t검증 세트 손실: 0.098772\t최선의 손실: 0.058244\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.068333\t최선의 손실: 0.058244\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.067109\t최선의 손실: 0.058244\t정확도: 98.55%\n", + "22\t검증 세트 손실: 0.089062\t최선의 손실: 0.058244\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.072812\t최선의 손실: 0.058244\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.050043\t최선의 손실: 0.050043\t정확도: 99.10%\n", + "25\t검증 세트 손실: 0.129067\t최선의 손실: 0.050043\t정확도: 98.20%\n", + "26\t검증 세트 손실: 0.071272\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.062333\t최선의 손실: 0.050043\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.068420\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.075785\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.067610\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.063514\t최선의 손실: 0.050043\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.098336\t최선의 손실: 0.050043\t정확도: 98.36%\n", + "33\t검증 세트 손실: 0.061325\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.062447\t최선의 손실: 0.050043\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.072258\t최선의 손실: 0.050043\t정확도: 98.55%\n", + "36\t검증 세트 손실: 0.121105\t최선의 손실: 0.050043\t정확도: 98.36%\n", + "37\t검증 세트 손실: 0.094356\t최선의 손실: 0.050043\t정확도: 98.71%\n", + "38\t검증 세트 손실: 0.075128\t최선의 손실: 0.050043\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.083519\t최선의 손실: 0.050043\t정확도: 98.87%\n", + "40\t검증 세트 손실: 0.060388\t최선의 손실: 0.050043\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.058836\t최선의 손실: 0.050043\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.045889\t최선의 손실: 0.045889\t정확도: 99.14%\n", + "43\t검증 세트 손실: 0.048105\t최선의 손실: 0.045889\t정확도: 99.26%\n", + "44\t검증 세트 손실: 0.070292\t최선의 손실: 0.045889\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.063037\t최선의 손실: 0.045889\t정확도: 98.83%\n", + "46\t검증 세트 손실: 0.072289\t최선의 손실: 0.045889\t정확도: 98.87%\n", + "47\t검증 세트 손실: 0.062940\t최선의 손실: 0.045889\t정확도: 99.02%\n", + "48\t검증 세트 손실: 0.083009\t최선의 손실: 0.045889\t정확도: 98.79%\n", + "49\t검증 세트 손실: 0.059342\t최선의 손실: 0.045889\t정확도: 98.83%\n", + "50\t검증 세트 손실: 0.062922\t최선의 손실: 0.045889\t정확도: 98.87%\n", + "51\t검증 세트 손실: 0.056221\t최선의 손실: 0.045889\t정확도: 98.71%\n", + "52\t검증 세트 손실: 0.064550\t최선의 손실: 0.045889\t정확도: 98.59%\n", + "53\t검증 세트 손실: 0.060792\t최선의 손실: 0.045889\t정확도: 98.98%\n", + "54\t검증 세트 손실: 0.049284\t최선의 손실: 0.045889\t정확도: 98.83%\n", + "55\t검증 세트 손실: 0.056031\t최선의 손실: 0.045889\t정확도: 98.98%\n", + "56\t검증 세트 손실: 0.110443\t최선의 손실: 0.045889\t정확도: 98.12%\n", + "57\t검증 세트 손실: 0.077177\t최선의 손실: 0.045889\t정확도: 98.59%\n", + "58\t검증 세트 손실: 0.093518\t최선의 손실: 0.045889\t정확도: 98.63%\n", + "59\t검증 세트 손실: 0.071521\t최선의 손실: 0.045889\t정확도: 98.75%\n", + "60\t검증 세트 손실: 0.057581\t최선의 손실: 0.045889\t정확도: 98.98%\n", + "61\t검증 세트 손실: 0.074660\t최선의 손실: 0.045889\t정확도: 98.83%\n", + "62\t검증 세트 손실: 0.083437\t최선의 손실: 0.045889\t정확도: 98.67%\n", + "63\t검증 세트 손실: 0.101067\t최선의 손실: 0.045889\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=50, total= 1.1min\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 7.052859\t최선의 손실: 7.052859\t정확도: 76.74%\n", - "1\t검증 세트 손실: 13.063363\t최선의 손실: 7.052859\t정확도: 43.28%\n", - "2\t검증 세트 손실: 5.073461\t최선의 손실: 5.073461\t정확도: 57.19%\n", - "3\t검증 세트 손실: 1.638235\t최선의 손실: 1.638235\t정확도: 80.61%\n", - "4\t검증 세트 손실: 2.871516\t최선의 손실: 1.638235\t정확도: 65.64%\n", - "5\t검증 세트 손실: 1.694853\t최선의 손실: 1.638235\t정확도: 78.34%\n", - "6\t검증 세트 손실: 0.910604\t최선의 손실: 0.910604\t정확도: 88.70%\n", - "7\t검증 세트 손실: 0.666115\t최선의 손실: 0.666115\t정확도: 90.23%\n", - "8\t검증 세트 손실: 0.435403\t최선의 손실: 0.435403\t정확도: 92.14%\n", - "9\t검증 세트 손실: 0.317309\t최선의 손실: 0.317309\t정확도: 94.25%\n", - "10\t검증 세트 손실: 0.378442\t최선의 손실: 0.317309\t정확도: 93.86%\n", - "11\t검증 세트 손실: 0.178882\t최선의 손실: 0.178882\t정확도: 96.48%\n", - "12\t검증 세트 손실: 0.419340\t최선의 손실: 0.178882\t정확도: 92.69%\n", - "13\t검증 세트 손실: 0.311352\t최선의 손실: 0.178882\t정확도: 94.21%\n", - "14\t검증 세트 손실: 0.385119\t최선의 손실: 0.178882\t정확도: 92.57%\n", - "15\t검증 세트 손실: 0.311142\t최선의 손실: 0.178882\t정확도: 94.57%\n", - "16\t검증 세트 손실: 0.458151\t최선의 손실: 0.178882\t정확도: 91.44%\n", - "17\t검증 세트 손실: 0.479321\t최선의 손실: 0.178882\t정확도: 93.35%\n", - "18\t검증 세트 손실: 0.709976\t최선의 손실: 0.178882\t정확도: 87.92%\n", - "19\t검증 세트 손실: 0.252005\t최선의 손실: 0.178882\t정확도: 96.29%\n", - "20\t검증 세트 손실: 0.331431\t최선의 손실: 0.178882\t정확도: 94.14%\n", - "21\t검증 세트 손실: 0.144309\t최선의 손실: 0.144309\t정확도: 97.54%\n", - "22\t검증 세트 손실: 0.447498\t최선의 손실: 0.144309\t정확도: 91.56%\n", - "23\t검증 세트 손실: 0.364762\t최선의 손실: 0.144309\t정확도: 94.29%\n", - "24\t검증 세트 손실: 0.152351\t최선의 손실: 0.144309\t정확도: 97.22%\n", - "25\t검증 세트 손실: 0.187180\t최선의 손실: 0.144309\t정확도: 96.56%\n", - "26\t검증 세트 손실: 0.156412\t최선의 손실: 0.144309\t정확도: 97.46%\n", - "27\t검증 세트 손실: 0.201175\t최선의 손실: 0.144309\t정확도: 96.60%\n", - "28\t검증 세트 손실: 0.200675\t최선의 손실: 0.144309\t정확도: 97.07%\n", - "29\t검증 세트 손실: 0.627635\t최선의 손실: 0.144309\t정확도: 91.05%\n", - "30\t검증 세트 손실: 0.177366\t최선의 손실: 0.144309\t정확도: 96.91%\n", - "31\t검증 세트 손실: 0.235548\t최선의 손실: 0.144309\t정확도: 96.33%\n", - "32\t검증 세트 손실: 0.111953\t최선의 손실: 0.111953\t정확도: 97.65%\n", - "33\t검증 세트 손실: 0.157762\t최선의 손실: 0.111953\t정확도: 97.50%\n", - "34\t검증 세트 손실: 0.301864\t최선의 손실: 0.111953\t정확도: 95.50%\n", - "35\t검증 세트 손실: 0.158183\t최선의 손실: 0.111953\t정확도: 97.46%\n", - "36\t검증 세트 손실: 0.139712\t최선의 손실: 0.111953\t정확도: 97.42%\n", - "37\t검증 세트 손실: 0.225694\t최선의 손실: 0.111953\t정확도: 96.13%\n", - "38\t검증 세트 손실: 0.222555\t최선의 손실: 0.111953\t정확도: 96.79%\n", - "39\t검증 세트 손실: 0.200973\t최선의 손실: 0.111953\t정확도: 96.56%\n", - "40\t검증 세트 손실: 0.200040\t최선의 손실: 0.111953\t정확도: 97.38%\n", - "41\t검증 세트 손실: 0.198404\t최선의 손실: 0.111953\t정확도: 96.99%\n", - "42\t검증 세트 손실: 0.182030\t최선의 손실: 0.111953\t정확도: 97.15%\n", - "43\t검증 세트 손실: 0.167423\t최선의 손실: 0.111953\t정확도: 97.38%\n", - "44\t검증 세트 손실: 0.203263\t최선의 손실: 0.111953\t정확도: 96.72%\n", - "45\t검증 세트 손실: 0.257995\t최선의 손실: 0.111953\t정확도: 96.05%\n", - "46\t검증 세트 손실: 0.159231\t최선의 손실: 0.111953\t정확도: 97.69%\n", - "47\t검증 세트 손실: 0.183876\t최선의 손실: 0.111953\t정확도: 96.99%\n", - "48\t검증 세트 손실: 0.154769\t최선의 손실: 0.111953\t정확도: 97.15%\n", - "49\t검증 세트 손실: 0.200801\t최선의 손실: 0.111953\t정확도: 97.07%\n", - "50\t검증 세트 손실: 0.176726\t최선의 손실: 0.111953\t정확도: 97.42%\n", - "51\t검증 세트 손실: 0.138653\t최선의 손실: 0.111953\t정확도: 97.38%\n", - "52\t검증 세트 손실: 0.154672\t최선의 손실: 0.111953\t정확도: 97.46%\n", - "53\t검증 세트 손실: 0.149071\t최선의 손실: 0.111953\t정확도: 97.77%\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 1.6min\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.491465\t최선의 손실: 0.491465\t정확도: 95.66%\n", + "1\t검증 세트 손실: 0.243709\t최선의 손실: 0.243709\t정확도: 98.12%\n", + "2\t검증 세트 손실: 0.200235\t최선의 손실: 0.200235\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.156975\t최선의 손실: 0.156975\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.151414\t최선의 손실: 0.151414\t정확도: 98.59%\n", + "5\t검증 세트 손실: 0.143436\t최선의 손실: 0.143436\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.076893\t최선의 손실: 0.076893\t정확도: 98.94%\n", + "7\t검증 세트 손실: 0.098007\t최선의 손실: 0.076893\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.152824\t최선의 손실: 0.076893\t정확도: 97.65%\n", + "9\t검증 세트 손실: 0.073908\t최선의 손실: 0.073908\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.081010\t최선의 손실: 0.073908\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.100027\t최선의 손실: 0.073908\t정확도: 98.63%\n", + "12\t검증 세트 손실: 0.107395\t최선의 손실: 0.073908\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.115383\t최선의 손실: 0.073908\t정확도: 98.24%\n", + "14\t검증 세트 손실: 0.069729\t최선의 손실: 0.069729\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.066923\t최선의 손실: 0.066923\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.058075\t최선의 손실: 0.058075\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.139095\t최선의 손실: 0.058075\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.068019\t최선의 손실: 0.058075\t정확도: 99.06%\n", + "19\t검증 세트 손실: 0.096357\t최선의 손실: 0.058075\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.103647\t최선의 손실: 0.058075\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.076846\t최선의 손실: 0.058075\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.077194\t최선의 손실: 0.058075\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.056718\t최선의 손실: 0.056718\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.051905\t최선의 손실: 0.051905\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.059395\t최선의 손실: 0.051905\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.071106\t최선의 손실: 0.051905\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.052937\t최선의 손실: 0.051905\t정확도: 99.06%\n", + "28\t검증 세트 손실: 0.080758\t최선의 손실: 0.051905\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.076230\t최선의 손실: 0.051905\t정확도: 98.28%\n", + "30\t검증 세트 손실: 0.085089\t최선의 손실: 0.051905\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.066493\t최선의 손실: 0.051905\t정확도: 99.06%\n", + "32\t검증 세트 손실: 0.093264\t최선의 손실: 0.051905\t정확도: 98.55%\n", + "33\t검증 세트 손실: 0.049295\t최선의 손실: 0.049295\t정확도: 98.91%\n", + "34\t검증 세트 손실: 0.050694\t최선의 손실: 0.049295\t정확도: 98.94%\n", + "35\t검증 세트 손실: 0.073616\t최선의 손실: 0.049295\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.072318\t최선의 손실: 0.049295\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.147905\t최선의 손실: 0.049295\t정확도: 98.08%\n", + "38\t검증 세트 손실: 0.068280\t최선의 손실: 0.049295\t정확도: 98.91%\n", + "39\t검증 세트 손실: 0.059502\t최선의 손실: 0.049295\t정확도: 98.83%\n", + "40\t검증 세트 손실: 0.060800\t최선의 손실: 0.049295\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.109980\t최선의 손실: 0.049295\t정확도: 98.36%\n", + "42\t검증 세트 손실: 0.048723\t최선의 손실: 0.048723\t정확도: 98.83%\n", + "43\t검증 세트 손실: 0.047806\t최선의 손실: 0.047806\t정확도: 99.26%\n", + "44\t검증 세트 손실: 0.055720\t최선의 손실: 0.047806\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.043372\t최선의 손실: 0.043372\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.069049\t최선의 손실: 0.043372\t정확도: 98.75%\n", + "47\t검증 세트 손실: 0.061626\t최선의 손실: 0.043372\t정확도: 99.10%\n", + "48\t검증 세트 손실: 0.066589\t최선의 손실: 0.043372\t정확도: 98.98%\n", + "49\t검증 세트 손실: 0.059269\t최선의 손실: 0.043372\t정확도: 99.26%\n", + "50\t검증 세트 손실: 0.074865\t최선의 손실: 0.043372\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.061595\t최선의 손실: 0.043372\t정확도: 99.14%\n", + "52\t검증 세트 손실: 0.085990\t최선의 손실: 0.043372\t정확도: 98.94%\n", + "53\t검증 세트 손실: 0.057983\t최선의 손실: 0.043372\t정확도: 99.06%\n", + "54\t검증 세트 손실: 0.058263\t최선의 손실: 0.043372\t정확도: 99.06%\n", + "55\t검증 세트 손실: 0.053406\t최선의 손실: 0.043372\t정확도: 98.98%\n", + "56\t검증 세트 손실: 0.053004\t최선의 손실: 0.043372\t정확도: 99.22%\n", + "57\t검증 세트 손실: 0.082925\t최선의 손실: 0.043372\t정확도: 98.94%\n", + "58\t검증 세트 손실: 0.064263\t최선의 손실: 0.043372\t정확도: 99.02%\n", + "59\t검증 세트 손실: 0.051245\t최선의 손실: 0.043372\t정확도: 99.14%\n", + "60\t검증 세트 손실: 0.069058\t최선의 손실: 0.043372\t정확도: 98.98%\n", + "61\t검증 세트 손실: 0.055190\t최선의 손실: 0.043372\t정확도: 99.30%\n", + "62\t검증 세트 손실: 0.048603\t최선의 손실: 0.043372\t정확도: 99.22%\n", + "63\t검증 세트 손실: 0.047255\t최선의 손실: 0.043372\t정확도: 99.02%\n", + "64\t검증 세트 손실: 0.063411\t최선의 손실: 0.043372\t정확도: 99.02%\n", + "65\t검증 세트 손실: 0.056697\t최선의 손실: 0.043372\t정확도: 99.14%\n", + "66\t검증 세트 손실: 0.069915\t최선의 손실: 0.043372\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10, total= 11.4s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 19.930344\t최선의 손실: 19.930344\t정확도: 62.39%\n", - "1\t검증 세트 손실: 10.896272\t최선의 손실: 10.896272\t정확도: 55.82%\n", - "2\t검증 세트 손실: 1.826073\t최선의 손실: 1.826073\t정확도: 79.71%\n", - "3\t검증 세트 손실: 0.649916\t최선의 손실: 0.649916\t정확도: 90.23%\n", - "4\t검증 세트 손실: 0.415710\t최선의 손실: 0.415710\t정확도: 92.89%\n", - "5\t검증 세트 손실: 0.448443\t최선의 손실: 0.415710\t정확도: 92.96%\n", - "6\t검증 세트 손실: 0.213386\t최선의 손실: 0.213386\t정확도: 95.90%\n", - "7\t검증 세트 손실: 0.175297\t최선의 손실: 0.175297\t정확도: 96.01%\n", - "8\t검증 세트 손실: 0.203133\t최선의 손실: 0.175297\t정확도: 95.31%\n", - "9\t검증 세트 손실: 0.250368\t최선의 손실: 0.175297\t정확도: 95.00%\n", - "10\t검증 세트 손실: 0.188137\t최선의 손실: 0.175297\t정확도: 96.01%\n", - "11\t검증 세트 손실: 0.171474\t최선의 손실: 0.171474\t정확도: 96.33%\n", - "12\t검증 세트 손실: 0.238515\t최선의 손실: 0.171474\t정확도: 95.58%\n", - "13\t검증 세트 손실: 0.186545\t최선의 손실: 0.171474\t정확도: 95.93%\n", - "14\t검증 세트 손실: 0.145301\t최선의 손실: 0.145301\t정확도: 96.91%\n", - "15\t검증 세트 손실: 0.238824\t최선의 손실: 0.145301\t정확도: 96.09%\n", - "16\t검증 세트 손실: 0.180919\t최선의 손실: 0.145301\t정확도: 96.91%\n", - "17\t검증 세트 손실: 0.166174\t최선의 손실: 0.145301\t정확도: 97.11%\n", - "18\t검증 세트 손실: 0.152984\t최선의 손실: 0.145301\t정확도: 97.19%\n", - "19\t검증 세트 손실: 0.125913\t최선의 손실: 0.125913\t정확도: 97.81%\n", - "20\t검증 세트 손실: 0.113101\t최선의 손실: 0.113101\t정확도: 98.01%\n", - "21\t검증 세트 손실: 0.184494\t최선의 손실: 0.113101\t정확도: 96.09%\n", - "22\t검증 세트 손실: 0.201067\t최선의 손실: 0.113101\t정확도: 96.76%\n", - "23\t검증 세트 손실: 0.212952\t최선의 손실: 0.113101\t정확도: 96.64%\n", - "24\t검증 세트 손실: 0.143011\t최선의 손실: 0.113101\t정확도: 97.46%\n", - "25\t검증 세트 손실: 0.279099\t최선의 손실: 0.113101\t정확도: 94.84%\n", - "26\t검증 세트 손실: 0.168420\t최선의 손실: 0.113101\t정확도: 97.19%\n", - "27\t검증 세트 손실: 0.154719\t최선의 손실: 0.113101\t정확도: 97.73%\n", - "28\t검증 세트 손실: 0.182870\t최선의 손실: 0.113101\t정확도: 96.99%\n", - "29\t검증 세트 손실: 0.156189\t최선의 손실: 0.113101\t정확도: 97.46%\n", - "30\t검증 세트 손실: 0.209875\t최선의 손실: 0.113101\t정확도: 96.36%\n", - "31\t검증 세트 손실: 0.130683\t최선의 손실: 0.113101\t정확도: 97.93%\n", - "32\t검증 세트 손실: 0.136181\t최선의 손실: 0.113101\t정확도: 97.50%\n", - "33\t검증 세트 손실: 0.165776\t최선의 손실: 0.113101\t정확도: 97.22%\n", - "34\t검증 세트 손실: 0.161023\t최선의 손실: 0.113101\t정확도: 97.42%\n", - "35\t검증 세트 손실: 0.158594\t최선의 손실: 0.113101\t정확도: 97.42%\n", - "36\t검증 세트 손실: 0.147174\t최선의 손실: 0.113101\t정확도: 97.69%\n", - "37\t검증 세트 손실: 0.167847\t최선의 손실: 0.113101\t정확도: 97.54%\n", - "38\t검증 세트 손실: 0.190588\t최선의 손실: 0.113101\t정확도: 97.07%\n", - "39\t검증 세트 손실: 0.186567\t최선의 손실: 0.113101\t정확도: 97.19%\n", - "40\t검증 세트 손실: 0.223221\t최선의 손실: 0.113101\t정확도: 97.03%\n", - "41\t검증 세트 손실: 0.161292\t최선의 손실: 0.113101\t정확도: 97.69%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10, total= 9.0s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 10.151381\t최선의 손실: 10.151381\t정확도: 78.46%\n", - "1\t검증 세트 손실: 2.776223\t최선의 손실: 2.776223\t정확도: 79.75%\n" + "[CV] n_neurons=50, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 1.7min\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 6.905628\t최선의 손실: 6.905628\t정확도: 78.23%\n", + "1\t검증 세트 손실: 2.774516\t최선의 손실: 2.774516\t정확도: 78.42%\n", + "2\t검증 세트 손실: 1.442319\t최선의 손실: 1.442319\t정확도: 84.87%\n", + "3\t검증 세트 손실: 0.779232\t최선의 손실: 0.779232\t정확도: 89.64%\n", + "4\t검증 세트 손실: 0.612468\t최선의 손실: 0.612468\t정확도: 90.42%\n", + "5\t검증 세트 손실: 0.722437\t최선의 손실: 0.612468\t정확도: 90.66%\n", + "6\t검증 세트 손실: 0.531602\t최선의 손실: 0.531602\t정확도: 91.91%\n", + "7\t검증 세트 손실: 0.413201\t최선의 손실: 0.413201\t정확도: 93.32%\n", + "8\t검증 세트 손실: 0.416795\t최선의 손실: 0.413201\t정확도: 93.51%\n", + "9\t검증 세트 손실: 0.292569\t최선의 손실: 0.292569\t정확도: 94.96%\n", + "10\t검증 세트 손실: 0.268495\t최선의 손실: 0.268495\t정확도: 95.15%\n", + "11\t검증 세트 손실: 0.168510\t최선의 손실: 0.168510\t정확도: 96.83%\n", + "12\t검증 세트 손실: 0.356707\t최선의 손실: 0.168510\t정확도: 94.41%\n", + "13\t검증 세트 손실: 0.274493\t최선의 손실: 0.168510\t정확도: 95.90%\n", + "14\t검증 세트 손실: 0.227181\t최선의 손실: 0.168510\t정확도: 96.17%\n", + "15\t검증 세트 손실: 0.162919\t최선의 손실: 0.162919\t정확도: 97.11%\n", + "16\t검증 세트 손실: 0.237281\t최선의 손실: 0.162919\t정확도: 95.66%\n", + "17\t검증 세트 손실: 0.249795\t최선의 손실: 0.162919\t정확도: 95.35%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "2\t검증 세트 손실: 0.503057\t최선의 손실: 0.503057\t정확도: 93.90%\n", - "3\t검증 세트 손실: 0.476858\t최선의 손실: 0.476858\t정확도: 93.04%\n", - "4\t검증 세트 손실: 0.386102\t최선의 손실: 0.386102\t정확도: 94.41%\n", - "5\t검증 세트 손실: 0.392953\t최선의 손실: 0.386102\t정확도: 93.24%\n", - "6\t검증 세트 손실: 0.253081\t최선의 손실: 0.253081\t정확도: 95.39%\n", - "7\t검증 세트 손실: 0.229552\t최선의 손실: 0.229552\t정확도: 95.86%\n", - "8\t검증 세트 손실: 0.193943\t최선의 손실: 0.193943\t정확도: 95.70%\n", - "9\t검증 세트 손실: 0.103853\t최선의 손실: 0.103853\t정확도: 97.42%\n", - "10\t검증 세트 손실: 0.117728\t최선의 손실: 0.103853\t정확도: 97.73%\n", - "11\t검증 세트 손실: 0.163906\t최선의 손실: 0.103853\t정확도: 96.33%\n", - "12\t검증 세트 손실: 0.116410\t최선의 손실: 0.103853\t정확도: 97.54%\n", - "13\t검증 세트 손실: 0.168469\t최선의 손실: 0.103853\t정확도: 96.91%\n", - "14\t검증 세트 손실: 0.113451\t최선의 손실: 0.103853\t정확도: 97.50%\n", - "15\t검증 세트 손실: 0.161063\t최선의 손실: 0.103853\t정확도: 97.15%\n", - "16\t검증 세트 손실: 0.119229\t최선의 손실: 0.103853\t정확도: 97.58%\n", - "17\t검증 세트 손실: 0.133826\t최선의 손실: 0.103853\t정확도: 97.50%\n", - "18\t검증 세트 손실: 0.121301\t최선의 손실: 0.103853\t정확도: 97.77%\n", - "19\t검증 세트 손실: 0.114776\t최선의 손실: 0.103853\t정확도: 97.93%\n", - "20\t검증 세트 손실: 0.149931\t최선의 손실: 0.103853\t정확도: 97.50%\n", - "21\t검증 세트 손실: 0.121008\t최선의 손실: 0.103853\t정확도: 97.58%\n", - "22\t검증 세트 손실: 0.184128\t최선의 손실: 0.103853\t정확도: 96.56%\n", - "23\t검증 세트 손실: 0.141400\t최선의 손실: 0.103853\t정확도: 97.54%\n", - "24\t검증 세트 손실: 0.106147\t최선의 손실: 0.103853\t정확도: 97.89%\n", - "25\t검증 세트 손실: 0.204525\t최선의 손실: 0.103853\t정확도: 96.09%\n", - "26\t검증 세트 손실: 0.109633\t최선의 손실: 0.103853\t정확도: 98.05%\n", - "27\t검증 세트 손실: 0.111297\t최선의 손실: 0.103853\t정확도: 97.89%\n", - "28\t검증 세트 손실: 0.135570\t최선의 손실: 0.103853\t정확도: 97.65%\n", - "29\t검증 세트 손실: 0.173906\t최선의 손실: 0.103853\t정확도: 97.19%\n", - "30\t검증 세트 손실: 0.177988\t최선의 손실: 0.103853\t정확도: 97.15%\n", + "18\t검증 세트 손실: 0.180335\t최선의 손실: 0.162919\t정확도: 96.29%\n", + "19\t검증 세트 손실: 0.166449\t최선의 손실: 0.162919\t정확도: 97.26%\n", + "20\t검증 세트 손실: 0.147885\t최선의 손실: 0.147885\t정확도: 97.34%\n", + "21\t검증 세트 손실: 0.186534\t최선의 손실: 0.147885\t정확도: 96.36%\n", + "22\t검증 세트 손실: 0.251659\t최선의 손실: 0.147885\t정확도: 96.13%\n", + "23\t검증 세트 손실: 0.174358\t최선의 손실: 0.147885\t정확도: 96.68%\n", + "24\t검증 세트 손실: 0.159547\t최선의 손실: 0.147885\t정확도: 97.22%\n", + "25\t검증 세트 손실: 0.194197\t최선의 손실: 0.147885\t정확도: 96.48%\n", + "26\t검증 세트 손실: 0.193939\t최선의 손실: 0.147885\t정확도: 96.40%\n", + "27\t검증 세트 손실: 0.195437\t최선의 손실: 0.147885\t정확도: 96.01%\n", + "28\t검증 세트 손실: 0.147866\t최선의 손실: 0.147866\t정확도: 96.91%\n", + "29\t검증 세트 손실: 0.224547\t최선의 손실: 0.147866\t정확도: 95.82%\n", + "30\t검증 세트 손실: 0.175519\t최선의 손실: 0.147866\t정확도: 96.72%\n", + "31\t검증 세트 손실: 0.220515\t최선의 손실: 0.147866\t정확도: 95.74%\n", + "32\t검증 세트 손실: 0.210716\t최선의 손실: 0.147866\t정확도: 96.64%\n", + "33\t검증 세트 손실: 0.203290\t최선의 손실: 0.147866\t정확도: 96.25%\n", + "34\t검증 세트 손실: 0.170904\t최선의 손실: 0.147866\t정확도: 96.72%\n", + "35\t검증 세트 손실: 0.190572\t최선의 손실: 0.147866\t정확도: 96.87%\n", + "36\t검증 세트 손실: 0.202329\t최선의 손실: 0.147866\t정확도: 96.87%\n", + "37\t검증 세트 손실: 0.214944\t최선의 손실: 0.147866\t정확도: 95.93%\n", + "38\t검증 세트 손실: 0.291197\t최선의 손실: 0.147866\t정확도: 95.15%\n", + "39\t검증 세트 손실: 0.187305\t최선의 손실: 0.147866\t정확도: 96.91%\n", + "40\t검증 세트 손실: 0.135145\t최선의 손실: 0.135145\t정확도: 97.42%\n", + "41\t검증 세트 손실: 0.114974\t최선의 손실: 0.114974\t정확도: 97.73%\n", + "42\t검증 세트 손실: 0.142511\t최선의 손실: 0.114974\t정확도: 96.87%\n", + "43\t검증 세트 손실: 0.136795\t최선의 손실: 0.114974\t정확도: 97.38%\n", + "44\t검증 세트 손실: 0.217161\t최선의 손실: 0.114974\t정확도: 96.33%\n", + "45\t검증 세트 손실: 0.123773\t최선의 손실: 0.114974\t정확도: 97.42%\n", + "46\t검증 세트 손실: 0.117747\t최선의 손실: 0.114974\t정확도: 97.89%\n", + "47\t검증 세트 손실: 0.144758\t최선의 손실: 0.114974\t정확도: 97.34%\n", + "48\t검증 세트 손실: 0.134487\t최선의 손실: 0.114974\t정확도: 97.42%\n", + "49\t검증 세트 손실: 0.143605\t최선의 손실: 0.114974\t정확도: 97.69%\n", + "50\t검증 세트 손실: 0.125888\t최선의 손실: 0.114974\t정확도: 97.58%\n", + "51\t검증 세트 손실: 0.204488\t최선의 손실: 0.114974\t정확도: 96.60%\n", + "52\t검증 세트 손실: 0.144488\t최선의 손실: 0.114974\t정확도: 97.19%\n", + "53\t검증 세트 손실: 0.126637\t최선의 손실: 0.114974\t정확도: 97.77%\n", + "54\t검증 세트 손실: 0.136331\t최선의 손실: 0.114974\t정확도: 97.30%\n", + "55\t검증 세트 손실: 0.121435\t최선의 손실: 0.114974\t정확도: 97.50%\n", + "56\t검증 세트 손실: 0.132136\t최선의 손실: 0.114974\t정확도: 97.54%\n", + "57\t검증 세트 손실: 0.129767\t최선의 손실: 0.114974\t정확도: 97.46%\n", + "58\t검증 세트 손실: 0.152656\t최선의 손실: 0.114974\t정확도: 97.30%\n", + "59\t검증 세트 손실: 0.163455\t최선의 손실: 0.114974\t정확도: 97.11%\n", + "60\t검증 세트 손실: 0.151731\t최선의 손실: 0.114974\t정확도: 97.15%\n", + "61\t검증 세트 손실: 0.193162\t최선의 손실: 0.114974\t정확도: 96.76%\n", + "62\t검증 세트 손실: 0.189012\t최선의 손실: 0.114974\t정확도: 96.79%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=10, total= 7.1s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.071181\t최선의 손실: 0.071181\t정확도: 97.85%\n", - "1\t검증 세트 손실: 0.067456\t최선의 손실: 0.067456\t정확도: 98.16%\n", - "2\t검증 세트 손실: 0.057569\t최선의 손실: 0.057569\t정확도: 98.08%\n", - "3\t검증 세트 손실: 0.044773\t최선의 손실: 0.044773\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.039859\t최선의 손실: 0.039859\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.046495\t최선의 손실: 0.039859\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.040521\t최선의 손실: 0.039859\t정확도: 98.87%\n", - "7\t검증 세트 손실: 0.040171\t최선의 손실: 0.039859\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.060084\t최선의 손실: 0.039859\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.042842\t최선의 손실: 0.039859\t정확도: 99.06%\n", - "10\t검증 세트 손실: 0.047493\t최선의 손실: 0.039859\t정확도: 99.10%\n", - "11\t검증 세트 손실: 0.055118\t최선의 손실: 0.039859\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.038138\t최선의 손실: 0.038138\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.062902\t최선의 손실: 0.038138\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.063634\t최선의 손실: 0.038138\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.082238\t최선의 손실: 0.038138\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.050023\t최선의 손실: 0.038138\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.046987\t최선의 손실: 0.038138\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.043891\t최선의 손실: 0.038138\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.044171\t최선의 손실: 0.038138\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.037839\t최선의 손실: 0.037839\t정확도: 99.10%\n", - "21\t검증 세트 손실: 0.037877\t최선의 손실: 0.037839\t정확도: 99.14%\n", - "22\t검증 세트 손실: 0.040567\t최선의 손실: 0.037839\t정확도: 99.02%\n", - "23\t검증 세트 손실: 0.065361\t최선의 손실: 0.037839\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.066811\t최선의 손실: 0.037839\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.048681\t최선의 손실: 0.037839\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.043441\t최선의 손실: 0.037839\t정확도: 99.14%\n", - "27\t검증 세트 손실: 0.043755\t최선의 손실: 0.037839\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.074767\t최선의 손실: 0.037839\t정확도: 98.28%\n", - "29\t검증 세트 손실: 0.054195\t최선의 손실: 0.037839\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.057416\t최선의 손실: 0.037839\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.054263\t최선의 손실: 0.037839\t정확도: 98.91%\n", - "32\t검증 세트 손실: 0.061338\t최선의 손실: 0.037839\t정확도: 98.83%\n", - "33\t검증 세트 손실: 0.060662\t최선의 손실: 0.037839\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.044580\t최선의 손실: 0.037839\t정확도: 98.91%\n", - "35\t검증 세트 손실: 0.051787\t최선의 손실: 0.037839\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.052558\t최선의 손실: 0.037839\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.046682\t최선의 손실: 0.037839\t정확도: 98.94%\n", - "38\t검증 세트 손실: 0.056991\t최선의 손실: 0.037839\t정확도: 98.83%\n", - "39\t검증 세트 손실: 0.065732\t최선의 손실: 0.037839\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.083961\t최선의 손실: 0.037839\t정확도: 98.59%\n", - "41\t검증 세트 손실: 0.057180\t최선의 손실: 0.037839\t정확도: 98.83%\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 13.1s\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 37.612766\t최선의 손실: 37.612766\t정확도: 49.88%\n", + "1\t검증 세트 손실: 12.609415\t최선의 손실: 12.609415\t정확도: 50.08%\n", + "2\t검증 세트 손실: 6.565964\t최선의 손실: 6.565964\t정확도: 53.67%\n", + "3\t검증 세트 손실: 6.283052\t최선의 손실: 6.283052\t정확도: 52.11%\n", + "4\t검증 세트 손실: 0.877929\t최선의 손실: 0.877929\t정확도: 81.31%\n", + "5\t검증 세트 손실: 0.770558\t최선의 손실: 0.770558\t정확도: 87.10%\n", + "6\t검증 세트 손실: 0.640001\t최선의 손실: 0.640001\t정확도: 85.34%\n", + "7\t검증 세트 손실: 0.797065\t최선의 손실: 0.640001\t정확도: 84.32%\n", + "8\t검증 세트 손실: 0.860669\t최선의 손실: 0.640001\t정확도: 80.06%\n", + "9\t검증 세트 손실: 0.203197\t최선의 손실: 0.203197\t정확도: 95.74%\n", + "10\t검증 세트 손실: 1.037318\t최선의 손실: 0.203197\t정확도: 81.43%\n", + "11\t검증 세트 손실: 0.393441\t최선의 손실: 0.203197\t정확도: 91.95%\n", + "12\t검증 세트 손실: 0.125370\t최선의 손실: 0.125370\t정확도: 97.50%\n", + "13\t검증 세트 손실: 0.249049\t최선의 손실: 0.125370\t정확도: 94.64%\n", + "14\t검증 세트 손실: 0.115102\t최선의 손실: 0.115102\t정확도: 97.38%\n", + "15\t검증 세트 손실: 0.396795\t최선의 손실: 0.115102\t정확도: 92.77%\n", + "16\t검증 세트 손실: 0.129750\t최선의 손실: 0.115102\t정확도: 97.46%\n", + "17\t검증 세트 손실: 0.202486\t최선의 손실: 0.115102\t정확도: 95.74%\n", + "18\t검증 세트 손실: 0.232515\t최선의 손실: 0.115102\t정확도: 95.97%\n", + "19\t검증 세트 손실: 0.170736\t최선의 손실: 0.115102\t정확도: 96.83%\n", + "20\t검증 세트 손실: 0.153391\t최선의 손실: 0.115102\t정확도: 96.91%\n", + "21\t검증 세트 손실: 0.109154\t최선의 손실: 0.109154\t정확도: 97.93%\n", + "22\t검증 세트 손실: 0.245602\t최선의 손실: 0.109154\t정확도: 95.04%\n", + "23\t검증 세트 손실: 0.101412\t최선의 손실: 0.101412\t정확도: 98.01%\n", + "24\t검증 세트 손실: 0.459989\t최선의 손실: 0.101412\t정확도: 91.79%\n", + "25\t검증 세트 손실: 0.107389\t최선의 손실: 0.101412\t정확도: 97.89%\n", + "26\t검증 세트 손실: 0.194504\t최선의 손실: 0.101412\t정확도: 96.68%\n", + "27\t검증 세트 손실: 0.139900\t최선의 손실: 0.101412\t정확도: 97.93%\n", + "28\t검증 세트 손실: 0.252755\t최선의 손실: 0.101412\t정확도: 96.60%\n", + "29\t검증 세트 손실: 0.171696\t최선의 손실: 0.101412\t정확도: 97.07%\n", + "30\t검증 세트 손실: 0.118284\t최선의 손실: 0.101412\t정확도: 98.12%\n", + "31\t검증 세트 손실: 0.154327\t최선의 손실: 0.101412\t정확도: 97.19%\n", + "32\t검증 세트 손실: 0.123496\t최선의 손실: 0.101412\t정확도: 97.58%\n", + "33\t검증 세트 손실: 0.114761\t최선의 손실: 0.101412\t정확도: 97.85%\n", + "34\t검증 세트 손실: 0.123277\t최선의 손실: 0.101412\t정확도: 97.73%\n", + "35\t검증 세트 손실: 0.094674\t최선의 손실: 0.094674\t정확도: 98.20%\n", + "36\t검증 세트 손실: 0.140159\t최선의 손실: 0.094674\t정확도: 97.54%\n", + "37\t검증 세트 손실: 0.147025\t최선의 손실: 0.094674\t정확도: 97.77%\n", + "38\t검증 세트 손실: 0.095312\t최선의 손실: 0.094674\t정확도: 98.67%\n", + "39\t검증 세트 손실: 0.155575\t최선의 손실: 0.094674\t정확도: 97.77%\n", + "40\t검증 세트 손실: 0.137836\t최선의 손실: 0.094674\t정확도: 97.65%\n", + "41\t검증 세트 손실: 0.200182\t최선의 손실: 0.094674\t정확도: 96.60%\n", + "42\t검증 세트 손실: 0.146467\t최선의 손실: 0.094674\t정확도: 97.62%\n", + "43\t검증 세트 손실: 0.130042\t최선의 손실: 0.094674\t정확도: 97.97%\n", + "44\t검증 세트 손실: 0.114976\t최선의 손실: 0.094674\t정확도: 98.08%\n", + "45\t검증 세트 손실: 0.110452\t최선의 손실: 0.094674\t정확도: 98.24%\n", + "46\t검증 세트 손실: 0.119846\t최선의 손실: 0.094674\t정확도: 97.89%\n", + "47\t검증 세트 손실: 0.145072\t최선의 손실: 0.094674\t정확도: 97.85%\n", + "48\t검증 세트 손실: 0.187648\t최선의 손실: 0.094674\t정확도: 96.95%\n", + "49\t검증 세트 손실: 0.258950\t최선의 손실: 0.094674\t정확도: 95.82%\n", + "50\t검증 세트 손실: 0.122628\t최선의 손실: 0.094674\t정확도: 98.05%\n", + "51\t검증 세트 손실: 0.141042\t최선의 손실: 0.094674\t정확도: 97.73%\n", + "52\t검증 세트 손실: 0.111075\t최선의 손실: 0.094674\t정확도: 98.01%\n", + "53\t검증 세트 손실: 0.109314\t최선의 손실: 0.094674\t정확도: 98.01%\n", + "54\t검증 세트 손실: 0.127494\t최선의 손실: 0.094674\t정확도: 98.20%\n", + "55\t검증 세트 손실: 0.179721\t최선의 손실: 0.094674\t정확도: 97.38%\n", + "56\t검증 세트 손실: 0.148022\t최선의 손실: 0.094674\t정확도: 98.08%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 30.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.102413\t최선의 손실: 0.102413\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.052670\t최선의 손실: 0.052670\t정확도: 98.36%\n", - "2\t검증 세트 손실: 0.039125\t최선의 손실: 0.039125\t정확도: 98.59%\n", - "3\t검증 세트 손실: 0.068599\t최선의 손실: 0.039125\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.050092\t최선의 손실: 0.039125\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.037934\t최선의 손실: 0.037934\t정확도: 98.87%\n", - "6\t검증 세트 손실: 0.054497\t최선의 손실: 0.037934\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.045929\t최선의 손실: 0.037934\t정확도: 98.71%\n", - "8\t검증 세트 손실: 0.037146\t최선의 손실: 0.037146\t정확도: 98.83%\n", - "9\t검증 세트 손실: 0.042345\t최선의 손실: 0.037146\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.049618\t최선의 손실: 0.037146\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.060479\t최선의 손실: 0.037146\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.045485\t최선의 손실: 0.037146\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.033993\t최선의 손실: 0.033993\t정확도: 99.18%\n", - "14\t검증 세트 손실: 0.068269\t최선의 손실: 0.033993\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.045579\t최선의 손실: 0.033993\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.045313\t최선의 손실: 0.033993\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.055338\t최선의 손실: 0.033993\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.047906\t최선의 손실: 0.033993\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.039394\t최선의 손실: 0.033993\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.044197\t최선의 손실: 0.033993\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.039072\t최선의 손실: 0.033993\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.043315\t최선의 손실: 0.033993\t정확도: 99.22%\n", - "23\t검증 세트 손실: 0.066644\t최선의 손실: 0.033993\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.047627\t최선의 손실: 0.033993\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.052578\t최선의 손실: 0.033993\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.053004\t최선의 손실: 0.033993\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.045526\t최선의 손실: 0.033993\t정확도: 99.02%\n", - "28\t검증 세트 손실: 0.040564\t최선의 손실: 0.033993\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.043224\t최선의 손실: 0.033993\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.047727\t최선의 손실: 0.033993\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.049360\t최선의 손실: 0.033993\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.059143\t최선의 손실: 0.033993\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.082714\t최선의 손실: 0.033993\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.037357\t최선의 손실: 0.033993\t정확도: 99.22%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 25.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.088132\t최선의 손실: 0.088132\t정확도: 97.69%\n", - "1\t검증 세트 손실: 0.051754\t최선의 손실: 0.051754\t정확도: 98.40%\n", - "2\t검증 세트 손실: 0.052524\t최선의 손실: 0.051754\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.039532\t최선의 손실: 0.039532\t정확도: 98.63%\n", - "4\t검증 세트 손실: 0.031391\t최선의 손실: 0.031391\t정확도: 98.98%\n", - "5\t검증 세트 손실: 0.038576\t최선의 손실: 0.031391\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.049726\t최선의 손실: 0.031391\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.062434\t최선의 손실: 0.031391\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.044130\t최선의 손실: 0.031391\t정확도: 98.75%\n", - "9\t검증 세트 손실: 0.043320\t최선의 손실: 0.031391\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.042790\t최선의 손실: 0.031391\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.068755\t최선의 손실: 0.031391\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.036225\t최선의 손실: 0.031391\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.039659\t최선의 손실: 0.031391\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.038061\t최선의 손실: 0.031391\t정확도: 99.14%\n", - "15\t검증 세트 손실: 0.054892\t최선의 손실: 0.031391\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.047018\t최선의 손실: 0.031391\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.042140\t최선의 손실: 0.031391\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.034033\t최선의 손실: 0.031391\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.044748\t최선의 손실: 0.031391\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.041574\t최선의 손실: 0.031391\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.052476\t최선의 손실: 0.031391\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.045503\t최선의 손실: 0.031391\t정확도: 99.14%\n", - "23\t검증 세트 손실: 0.041496\t최선의 손실: 0.031391\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.041971\t최선의 손실: 0.031391\t정확도: 99.22%\n", - "25\t검증 세트 손실: 0.043924\t최선의 손실: 0.031391\t정확도: 98.94%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 19.4s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.231731\t최선의 손실: 0.231731\t정확도: 93.71%\n", - "1\t검증 세트 손실: 0.157520\t최선의 손실: 0.157520\t정확도: 95.54%\n", - "2\t검증 세트 손실: 0.109393\t최선의 손실: 0.109393\t정확도: 97.11%\n", - "3\t검증 세트 손실: 0.103250\t최선의 손실: 0.103250\t정확도: 97.26%\n", - "4\t검증 세트 손실: 0.108879\t최선의 손실: 0.103250\t정확도: 96.95%\n", - "5\t검증 세트 손실: 0.098352\t최선의 손실: 0.098352\t정확도: 97.62%\n", - "6\t검증 세트 손실: 0.085183\t최선의 손실: 0.085183\t정확도: 97.77%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "7\t검증 세트 손실: 0.075878\t최선의 손실: 0.075878\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.085244\t최선의 손실: 0.075878\t정확도: 97.77%\n", - "9\t검증 세트 손실: 0.176430\t최선의 손실: 0.075878\t정확도: 95.58%\n", - "10\t검증 세트 손실: 0.070517\t최선의 손실: 0.070517\t정확도: 98.08%\n", - "11\t검증 세트 손실: 0.130834\t최선의 손실: 0.070517\t정확도: 96.17%\n", - "12\t검증 세트 손실: 0.067546\t최선의 손실: 0.067546\t정확도: 98.55%\n", - "13\t검증 세트 손실: 0.058482\t최선의 손실: 0.058482\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.072861\t최선의 손실: 0.058482\t정확도: 98.05%\n", - "15\t검증 세트 손실: 0.081471\t최선의 손실: 0.058482\t정확도: 98.16%\n", - "16\t검증 세트 손실: 0.068911\t최선의 손실: 0.058482\t정확도: 98.16%\n", - "17\t검증 세트 손실: 0.058401\t최선의 손실: 0.058401\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.083487\t최선의 손실: 0.058401\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.078428\t최선의 손실: 0.058401\t정확도: 98.20%\n", - "20\t검증 세트 손실: 0.066711\t최선의 손실: 0.058401\t정확도: 98.55%\n", - "21\t검증 세트 손실: 0.073400\t최선의 손실: 0.058401\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.119341\t최선의 손실: 0.058401\t정확도: 97.58%\n", - "23\t검증 세트 손실: 0.063473\t최선의 손실: 0.058401\t정확도: 98.48%\n", - "24\t검증 세트 손실: 0.065908\t최선의 손실: 0.058401\t정확도: 98.48%\n", - "25\t검증 세트 손실: 0.067188\t최선의 손실: 0.058401\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.050294\t최선의 손실: 0.050294\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.136331\t최선의 손실: 0.050294\t정확도: 96.68%\n", - "28\t검증 세트 손실: 0.095547\t최선의 손실: 0.050294\t정확도: 97.93%\n", - "29\t검증 세트 손실: 0.081338\t최선의 손실: 0.050294\t정확도: 98.32%\n", - "30\t검증 세트 손실: 0.072268\t최선의 손실: 0.050294\t정확도: 98.32%\n", - "31\t검증 세트 손실: 0.055478\t최선의 손실: 0.050294\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.090056\t최선의 손실: 0.050294\t정확도: 98.55%\n", - "33\t검증 세트 손실: 0.095716\t최선의 손실: 0.050294\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.081588\t최선의 손실: 0.050294\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.126287\t최선의 손실: 0.050294\t정확도: 97.93%\n", - "36\t검증 세트 손실: 0.069573\t최선의 손실: 0.050294\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.094590\t최선의 손실: 0.050294\t정확도: 98.32%\n", - "38\t검증 세트 손실: 0.068940\t최선의 손실: 0.050294\t정확도: 98.59%\n", - "39\t검증 세트 손실: 0.061477\t최선의 손실: 0.050294\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.069103\t최선의 손실: 0.050294\t정확도: 98.44%\n", - "41\t검증 세트 손실: 0.115995\t최선의 손실: 0.050294\t정확도: 97.89%\n", - "42\t검증 세트 손실: 0.052463\t최선의 손실: 0.050294\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.074376\t최선의 손실: 0.050294\t정확도: 98.12%\n", - "44\t검증 세트 손실: 0.066484\t최선의 손실: 0.050294\t정확도: 98.75%\n", - "45\t검증 세트 손실: 0.065911\t최선의 손실: 0.050294\t정확도: 98.75%\n", - "46\t검증 세트 손실: 0.093904\t최선의 손실: 0.050294\t정확도: 97.54%\n", - "47\t검증 세트 손실: 0.084615\t최선의 손실: 0.050294\t정확도: 98.12%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100, total= 5.4min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.126109\t최선의 손실: 0.126109\t정확도: 96.56%\n", - "1\t검증 세트 손실: 0.163839\t최선의 손실: 0.126109\t정확도: 96.09%\n", - "2\t검증 세트 손실: 0.181517\t최선의 손실: 0.126109\t정확도: 95.43%\n", - "3\t검증 세트 손실: 0.109545\t최선의 손실: 0.109545\t정확도: 97.22%\n", - "4\t검증 세트 손실: 0.095043\t최선의 손실: 0.095043\t정확도: 97.07%\n", - "5\t검증 세트 손실: 1.071779\t최선의 손실: 0.095043\t정확도: 77.68%\n", - "6\t검증 세트 손실: 0.083921\t최선의 손실: 0.083921\t정확도: 97.62%\n", - "7\t검증 세트 손실: 0.079194\t최선의 손실: 0.079194\t정확도: 97.81%\n", - "8\t검증 세트 손실: 0.063628\t최선의 손실: 0.063628\t정확도: 98.48%\n", - "9\t검증 세트 손실: 0.161354\t최선의 손실: 0.063628\t정확도: 97.46%\n", - "10\t검증 세트 손실: 0.079807\t최선의 손실: 0.063628\t정확도: 97.73%\n", - "11\t검증 세트 손실: 0.087508\t최선의 손실: 0.063628\t정확도: 97.50%\n", - "12\t검증 세트 손실: 0.081408\t최선의 손실: 0.063628\t정확도: 97.89%\n", - "13\t검증 세트 손실: 0.043469\t최선의 손실: 0.043469\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.047896\t최선의 손실: 0.043469\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.106865\t최선의 손실: 0.043469\t정확도: 97.30%\n", - "16\t검증 세트 손실: 0.272490\t최선의 손실: 0.043469\t정확도: 96.44%\n", - "17\t검증 세트 손실: 0.102018\t최선의 손실: 0.043469\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.069989\t최선의 손실: 0.043469\t정확도: 98.28%\n", - "19\t검증 세트 손실: 0.089270\t최선의 손실: 0.043469\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.084765\t최선의 손실: 0.043469\t정확도: 98.01%\n", - "21\t검증 세트 손실: 0.093893\t최선의 손실: 0.043469\t정확도: 97.97%\n", - "22\t검증 세트 손실: 0.065592\t최선의 손실: 0.043469\t정확도: 98.12%\n", - "23\t검증 세트 손실: 0.053247\t최선의 손실: 0.043469\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.052241\t최선의 손실: 0.043469\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.085246\t최선의 손실: 0.043469\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.074352\t최선의 손실: 0.043469\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.065167\t최선의 손실: 0.043469\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.136274\t최선의 손실: 0.043469\t정확도: 98.01%\n", - "29\t검증 세트 손실: 0.156089\t최선의 손실: 0.043469\t정확도: 97.58%\n", - "30\t검증 세트 손실: 0.135385\t최선의 손실: 0.043469\t정확도: 98.24%\n", - "31\t검증 세트 손실: 0.126160\t최선의 손실: 0.043469\t정확도: 98.32%\n", - "32\t검증 세트 손실: 0.083859\t최선의 손실: 0.043469\t정확도: 98.67%\n", - "33\t검증 세트 손실: 0.074401\t최선의 손실: 0.043469\t정확도: 98.44%\n", - "34\t검증 세트 손실: 0.167507\t최선의 손실: 0.043469\t정확도: 95.54%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100, total= 3.9min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.146222\t최선의 손실: 0.146222\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.256701\t최선의 손실: 0.146222\t정확도: 91.36%\n", - "2\t검증 세트 손실: 0.326301\t최선의 손실: 0.146222\t정확도: 93.32%\n", - "3\t검증 세트 손실: 0.140409\t최선의 손실: 0.140409\t정확도: 96.25%\n", - "4\t검증 세트 손실: 0.068104\t최선의 손실: 0.068104\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.107473\t최선의 손실: 0.068104\t정확도: 96.68%\n", - "6\t검증 세트 손실: 0.096906\t최선의 손실: 0.068104\t정확도: 97.11%\n", - "7\t검증 세트 손실: 0.053777\t최선의 손실: 0.053777\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.064571\t최선의 손실: 0.053777\t정확도: 98.20%\n", - "9\t검증 세트 손실: 0.182540\t최선의 손실: 0.053777\t정확도: 96.91%\n", - "10\t검증 세트 손실: 0.145309\t최선의 손실: 0.053777\t정확도: 95.93%\n", - "11\t검증 세트 손실: 0.059678\t최선의 손실: 0.053777\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.086401\t최선의 손실: 0.053777\t정확도: 98.16%\n", - "13\t검증 세트 손실: 0.095717\t최선의 손실: 0.053777\t정확도: 97.50%\n", - "14\t검증 세트 손실: 0.071382\t최선의 손실: 0.053777\t정확도: 98.40%\n", - "15\t검증 세트 손실: 0.090047\t최선의 손실: 0.053777\t정확도: 97.42%\n", - "16\t검증 세트 손실: 0.077557\t최선의 손실: 0.053777\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.059410\t최선의 손실: 0.053777\t정확도: 98.44%\n", - "18\t검증 세트 손실: 0.211875\t최선의 손실: 0.053777\t정확도: 95.04%\n", - "19\t검증 세트 손실: 0.076627\t최선의 손실: 0.053777\t정확도: 97.93%\n", - "20\t검증 세트 손실: 0.050249\t최선의 손실: 0.050249\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.054263\t최선의 손실: 0.050249\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.095076\t최선의 손실: 0.050249\t정확도: 98.12%\n", - "23\t검증 세트 손실: 0.037912\t최선의 손실: 0.037912\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.092834\t최선의 손실: 0.037912\t정확도: 97.65%\n", - "25\t검증 세트 손실: 0.036107\t최선의 손실: 0.036107\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.104105\t최선의 손실: 0.036107\t정확도: 97.15%\n", - "27\t검증 세트 손실: 0.040680\t최선의 손실: 0.036107\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.047868\t최선의 손실: 0.036107\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.043056\t최선의 손실: 0.036107\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.071384\t최선의 손실: 0.036107\t정확도: 98.08%\n", - "31\t검증 세트 손실: 0.078650\t최선의 손실: 0.036107\t정확도: 97.81%\n", - "32\t검증 세트 손실: 0.042707\t최선의 손실: 0.036107\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.054201\t최선의 손실: 0.036107\t정확도: 98.63%\n", - "34\t검증 세트 손실: 0.036133\t최선의 손실: 0.036107\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.104686\t최선의 손실: 0.036107\t정확도: 97.22%\n", - "36\t검증 세트 손실: 0.134384\t최선의 손실: 0.036107\t정확도: 97.77%\n", - "37\t검증 세트 손실: 0.050642\t최선의 손실: 0.036107\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.067899\t최선의 손실: 0.036107\t정확도: 98.51%\n", - "39\t검증 세트 손실: 0.057274\t최선의 손실: 0.036107\t정확도: 98.79%\n", - "40\t검증 세트 손실: 0.084119\t최선의 손실: 0.036107\t정확도: 98.75%\n", - "41\t검증 세트 손실: 0.053514\t최선의 손실: 0.036107\t정확도: 99.06%\n", - "42\t검증 세트 손실: 0.048903\t최선의 손실: 0.036107\t정확도: 98.94%\n", - "43\t검증 세트 손실: 0.074492\t최선의 손실: 0.036107\t정확도: 98.59%\n", - "44\t검증 세트 손실: 0.064297\t최선의 손실: 0.036107\t정확도: 98.55%\n", - "45\t검증 세트 손실: 0.075940\t최선의 손실: 0.036107\t정확도: 98.12%\n", - "46\t검증 세트 손실: 0.054782\t최선의 손실: 0.036107\t정확도: 98.94%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.98, n_neurons=100, total= 5.2min\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.108025\t최선의 손실: 0.108025\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.076635\t최선의 손실: 0.076635\t정확도: 97.97%\n", - "2\t검증 세트 손실: 0.074013\t최선의 손실: 0.074013\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.055829\t최선의 손실: 0.055829\t정확도: 98.44%\n", - "4\t검증 세트 손실: 0.053956\t최선의 손실: 0.053956\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.056101\t최선의 손실: 0.053956\t정확도: 98.67%\n", - "6\t검증 세트 손실: 0.044115\t최선의 손실: 0.044115\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.060508\t최선의 손실: 0.044115\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.044909\t최선의 손실: 0.044115\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.060889\t최선의 손실: 0.044115\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.036749\t최선의 손실: 0.036749\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.040409\t최선의 손실: 0.036749\t정확도: 99.10%\n", - "12\t검증 세트 손실: 0.051520\t최선의 손실: 0.036749\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.107114\t최선의 손실: 0.036749\t정확도: 98.16%\n", - "14\t검증 세트 손실: 0.045694\t최선의 손실: 0.036749\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.050639\t최선의 손실: 0.036749\t정확도: 98.83%\n", - "16\t검증 세트 손실: 0.049120\t최선의 손실: 0.036749\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.034938\t최선의 손실: 0.034938\t정확도: 99.22%\n", - "18\t검증 세트 손실: 0.041426\t최선의 손실: 0.034938\t정확도: 99.14%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "19\t검증 세트 손실: 0.086902\t최선의 손실: 0.034938\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.080846\t최선의 손실: 0.034938\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.040564\t최선의 손실: 0.034938\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.050681\t최선의 손실: 0.034938\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.029690\t최선의 손실: 0.029690\t정확도: 99.45%\n", - "24\t검증 세트 손실: 0.082578\t최선의 손실: 0.029690\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.073668\t최선의 손실: 0.029690\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.047765\t최선의 손실: 0.029690\t정확도: 99.02%\n", - "27\t검증 세트 손실: 0.050707\t최선의 손실: 0.029690\t정확도: 98.94%\n", - "28\t검증 세트 손실: 0.054398\t최선의 손실: 0.029690\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.090548\t최선의 손실: 0.029690\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.183887\t최선의 손실: 0.029690\t정확도: 98.01%\n", - "31\t검증 세트 손실: 0.114752\t최선의 손실: 0.029690\t정확도: 98.08%\n", - "32\t검증 세트 손실: 0.067549\t최선의 손실: 0.029690\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.059744\t최선의 손실: 0.029690\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.037072\t최선의 손실: 0.029690\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.044778\t최선의 손실: 0.029690\t정확도: 99.02%\n", - "36\t검증 세트 손실: 0.041730\t최선의 손실: 0.029690\t정확도: 99.14%\n", - "37\t검증 세트 손실: 0.047610\t최선의 손실: 0.029690\t정확도: 99.02%\n", - "38\t검증 세트 손실: 0.071458\t최선의 손실: 0.029690\t정확도: 98.91%\n", - "39\t검증 세트 손실: 0.091496\t최선의 손실: 0.029690\t정확도: 98.75%\n", - "40\t검증 세트 손실: 0.240279\t최선의 손실: 0.029690\t정확도: 98.40%\n", - "41\t검증 세트 손실: 0.050614\t최선의 손실: 0.029690\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.064126\t최선의 손실: 0.029690\t정확도: 99.14%\n", - "43\t검증 세트 손실: 0.049459\t최선의 손실: 0.029690\t정확도: 99.34%\n", - "44\t검증 세트 손실: 0.050877\t최선의 손실: 0.029690\t정확도: 99.14%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 32.4s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.119130\t최선의 손실: 0.119130\t정확도: 96.21%\n", - "1\t검증 세트 손실: 0.069518\t최선의 손실: 0.069518\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.066960\t최선의 손실: 0.066960\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.070500\t최선의 손실: 0.066960\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.074278\t최선의 손실: 0.066960\t정확도: 97.65%\n", - "5\t검증 세트 손실: 0.041822\t최선의 손실: 0.041822\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.085031\t최선의 손실: 0.041822\t정확도: 97.58%\n", - "7\t검증 세트 손실: 0.073763\t최선의 손실: 0.041822\t정확도: 97.93%\n", - "8\t검증 세트 손실: 0.050045\t최선의 손실: 0.041822\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.095699\t최선의 손실: 0.041822\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.050977\t최선의 손실: 0.041822\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.054034\t최선의 손실: 0.041822\t정확도: 98.36%\n", - "12\t검증 세트 손실: 0.056480\t최선의 손실: 0.041822\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.038037\t최선의 손실: 0.038037\t정확도: 99.10%\n", - "14\t검증 세트 손실: 0.053569\t최선의 손실: 0.038037\t정확도: 98.40%\n", - "15\t검증 세트 손실: 0.060095\t최선의 손실: 0.038037\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.051083\t최선의 손실: 0.038037\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.092406\t최선의 손실: 0.038037\t정확도: 98.05%\n", - "18\t검증 세트 손실: 0.057667\t최선의 손실: 0.038037\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.065463\t최선의 손실: 0.038037\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.072211\t최선의 손실: 0.038037\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.051581\t최선의 손실: 0.038037\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.066303\t최선의 손실: 0.038037\t정확도: 98.32%\n", - "23\t검증 세트 손실: 0.074959\t최선의 손실: 0.038037\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.061271\t최선의 손실: 0.038037\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.063458\t최선의 손실: 0.038037\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.062921\t최선의 손실: 0.038037\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.058778\t최선의 손실: 0.038037\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.070389\t최선의 손실: 0.038037\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.080855\t최선의 손실: 0.038037\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.161552\t최선의 손실: 0.038037\t정확도: 98.40%\n", - "31\t검증 세트 손실: 0.088001\t최선의 손실: 0.038037\t정확도: 98.51%\n", - "32\t검증 세트 손실: 0.057790\t최선의 손실: 0.038037\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.061750\t최선의 손실: 0.038037\t정확도: 98.94%\n", - "34\t검증 세트 손실: 0.051804\t최선의 손실: 0.038037\t정확도: 99.10%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 25.3s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.087454\t최선의 손실: 0.087454\t정확도: 97.19%\n", - "1\t검증 세트 손실: 0.071518\t최선의 손실: 0.071518\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.061442\t최선의 손실: 0.061442\t정확도: 98.08%\n", - "3\t검증 세트 손실: 0.056095\t최선의 손실: 0.056095\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.048185\t최선의 손실: 0.048185\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.046425\t최선의 손실: 0.046425\t정확도: 98.44%\n", - "6\t검증 세트 손실: 0.089852\t최선의 손실: 0.046425\t정확도: 97.58%\n", - "7\t검증 세트 손실: 0.051369\t최선의 손실: 0.046425\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.050223\t최선의 손실: 0.046425\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.052587\t최선의 손실: 0.046425\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.043762\t최선의 손실: 0.043762\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.046483\t최선의 손실: 0.043762\t정확도: 98.98%\n", - "12\t검증 세트 손실: 0.052347\t최선의 손실: 0.043762\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.040203\t최선의 손실: 0.040203\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.048978\t최선의 손실: 0.040203\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.048855\t최선의 손실: 0.040203\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.040879\t최선의 손실: 0.040203\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.053719\t최선의 손실: 0.040203\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.050158\t최선의 손실: 0.040203\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.053702\t최선의 손실: 0.040203\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.060874\t최선의 손실: 0.040203\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.072925\t최선의 손실: 0.040203\t정확도: 98.59%\n", - "22\t검증 세트 손실: 0.038608\t최선의 손실: 0.038608\t정확도: 99.18%\n", - "23\t검증 세트 손실: 0.043937\t최선의 손실: 0.038608\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.049469\t최선의 손실: 0.038608\t정확도: 99.18%\n", - "25\t검증 세트 손실: 0.052569\t최선의 손실: 0.038608\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.068104\t최선의 손실: 0.038608\t정확도: 99.02%\n", - "27\t검증 세트 손실: 0.062374\t최선의 손실: 0.038608\t정확도: 98.55%\n", - "28\t검증 세트 손실: 0.048803\t최선의 손실: 0.038608\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.063343\t최선의 손실: 0.038608\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.135585\t최선의 손실: 0.038608\t정확도: 98.01%\n", - "31\t검증 세트 손실: 0.034800\t최선의 손실: 0.034800\t정확도: 99.37%\n", - "32\t검증 세트 손실: 0.053341\t최선의 손실: 0.034800\t정확도: 99.18%\n", - "33\t검증 세트 손실: 0.044114\t최선의 손실: 0.034800\t정확도: 99.18%\n", - "34\t검증 세트 손실: 0.042160\t최선의 손실: 0.034800\t정확도: 99.18%\n", - "35\t검증 세트 손실: 0.043861\t최선의 손실: 0.034800\t정확도: 99.37%\n", - "36\t검증 세트 손실: 0.039182\t최선의 손실: 0.034800\t정확도: 99.22%\n", - "37\t검증 세트 손실: 0.058285\t최선의 손실: 0.034800\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.032671\t최선의 손실: 0.032671\t정확도: 99.26%\n", - "39\t검증 세트 손실: 0.049419\t최선의 손실: 0.032671\t정확도: 99.06%\n", - "40\t검증 세트 손실: 0.045961\t최선의 손실: 0.032671\t정확도: 98.98%\n", - "41\t검증 세트 손실: 0.056387\t최선의 손실: 0.032671\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.048859\t최선의 손실: 0.032671\t정확도: 99.26%\n", - "43\t검증 세트 손실: 0.072222\t최선의 손실: 0.032671\t정확도: 98.48%\n", - "44\t검증 세트 손실: 0.144786\t최선의 손실: 0.032671\t정확도: 98.67%\n", - "45\t검증 세트 손실: 0.064285\t최선의 손실: 0.032671\t정확도: 98.91%\n", - "46\t검증 세트 손실: 0.050635\t최선의 손실: 0.032671\t정확도: 98.91%\n", - "47\t검증 세트 손실: 0.043545\t최선의 손실: 0.032671\t정확도: 99.34%\n", - "48\t검증 세트 손실: 0.039729\t최선의 손실: 0.032671\t정확도: 99.30%\n", - "49\t검증 세트 손실: 0.044882\t최선의 손실: 0.032671\t정확도: 99.26%\n", - "50\t검증 세트 손실: 0.068495\t최선의 손실: 0.032671\t정확도: 99.06%\n", - "51\t검증 세트 손실: 0.064603\t최선의 손실: 0.032671\t정확도: 98.91%\n", - "52\t검증 세트 손실: 0.064984\t최선의 손실: 0.032671\t정확도: 99.02%\n", - "53\t검증 세트 손실: 0.060143\t최선의 손실: 0.032671\t정확도: 99.06%\n", - "54\t검증 세트 손실: 0.068774\t최선의 손실: 0.032671\t정확도: 98.91%\n", - "55\t검증 세트 손실: 0.054389\t최선의 손실: 0.032671\t정확도: 99.18%\n", - "56\t검증 세트 손실: 0.047623\t최선의 손실: 0.032671\t정확도: 99.06%\n", - "57\t검증 세트 손실: 0.053877\t최선의 손실: 0.032671\t정확도: 98.71%\n", - "58\t검증 세트 손실: 0.117762\t최선의 손실: 0.032671\t정확도: 98.28%\n", - "59\t검증 세트 손실: 0.083230\t최선의 손실: 0.032671\t정확도: 98.83%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 42.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.133103\t최선의 손실: 0.133103\t정확도: 96.13%\n", - "1\t검증 세트 손실: 0.066106\t최선의 손실: 0.066106\t정확도: 98.16%\n", - "2\t검증 세트 손실: 0.063599\t최선의 손실: 0.063599\t정확도: 98.05%\n", - "3\t검증 세트 손실: 0.095986\t최선의 손실: 0.063599\t정확도: 97.42%\n", - "4\t검증 세트 손실: 0.064321\t최선의 손실: 0.063599\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.050575\t최선의 손실: 0.050575\t정확도: 98.67%\n", - "6\t검증 세트 손실: 0.050400\t최선의 손실: 0.050400\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.142201\t최선의 손실: 0.050400\t정확도: 96.76%\n", - "8\t검증 세트 손실: 0.058525\t최선의 손실: 0.050400\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.058320\t최선의 손실: 0.050400\t정확도: 98.36%\n", - "10\t검증 세트 손실: 0.043177\t최선의 손실: 0.043177\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.043477\t최선의 손실: 0.043177\t정확도: 98.94%\n", - "12\t검증 세트 손실: 0.042576\t최선의 손실: 0.042576\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.078864\t최선의 손실: 0.042576\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.117818\t최선의 손실: 0.042576\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.054176\t최선의 손실: 0.042576\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.044311\t최선의 손실: 0.042576\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.041128\t최선의 손실: 0.041128\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.059210\t최선의 손실: 0.041128\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.049836\t최선의 손실: 0.041128\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.057770\t최선의 손실: 0.041128\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.238198\t최선의 손실: 0.041128\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.082284\t최선의 손실: 0.041128\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.058684\t최선의 손실: 0.041128\t정확도: 98.91%\n", - "24\t검증 세트 손실: 0.052726\t최선의 손실: 0.041128\t정확도: 99.18%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "25\t검증 세트 손실: 0.056744\t최선의 손실: 0.041128\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.072535\t최선의 손실: 0.041128\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.065889\t최선의 손실: 0.041128\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.063956\t최선의 손실: 0.041128\t정확도: 99.10%\n", - "29\t검증 세트 손실: 0.127281\t최선의 손실: 0.041128\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.215989\t최선의 손실: 0.041128\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.070305\t최선의 손실: 0.041128\t정확도: 98.75%\n", - "32\t검증 세트 손실: 0.069855\t최선의 손실: 0.041128\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.079615\t최선의 손실: 0.041128\t정확도: 98.94%\n", - "34\t검증 세트 손실: 0.065296\t최선의 손실: 0.041128\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.074146\t최선의 손실: 0.041128\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.073557\t최선의 손실: 0.041128\t정확도: 98.87%\n", - "37\t검증 세트 손실: 0.114279\t최선의 손실: 0.041128\t정확도: 98.75%\n", - "38\t검증 세트 손실: 0.092351\t최선의 손실: 0.041128\t정확도: 98.91%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 53.8s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.105705\t최선의 손실: 0.105705\t정확도: 97.07%\n", - "1\t검증 세트 손실: 0.086468\t최선의 손실: 0.086468\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.059534\t최선의 손실: 0.059534\t정확도: 98.24%\n", - "3\t검증 세트 손실: 0.048997\t최선의 손실: 0.048997\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.063811\t최선의 손실: 0.048997\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.076997\t최선의 손실: 0.048997\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.065164\t최선의 손실: 0.048997\t정확도: 98.20%\n", - "7\t검증 세트 손실: 0.051127\t최선의 손실: 0.048997\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.060290\t최선의 손실: 0.048997\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.053828\t최선의 손실: 0.048997\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.071058\t최선의 손실: 0.048997\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.080245\t최선의 손실: 0.048997\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.048256\t최선의 손실: 0.048256\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.046914\t최선의 손실: 0.046914\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.049635\t최선의 손실: 0.046914\t정확도: 99.02%\n", - "15\t검증 세트 손실: 0.050362\t최선의 손실: 0.046914\t정확도: 98.91%\n", - "16\t검증 세트 손실: 0.049864\t최선의 손실: 0.046914\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.084479\t최선의 손실: 0.046914\t정확도: 98.05%\n", - "18\t검증 세트 손실: 0.072766\t최선의 손실: 0.046914\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.114762\t최선의 손실: 0.046914\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.050973\t최선의 손실: 0.046914\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.053116\t최선의 손실: 0.046914\t정확도: 98.67%\n", - "22\t검증 세트 손실: 0.053094\t최선의 손실: 0.046914\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.047140\t최선의 손실: 0.046914\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.047444\t최선의 손실: 0.046914\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.057759\t최선의 손실: 0.046914\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.079742\t최선의 손실: 0.046914\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.186857\t최선의 손실: 0.046914\t정확도: 97.65%\n", - "28\t검증 세트 손실: 0.067016\t최선의 손실: 0.046914\t정확도: 98.83%\n", - "29\t검증 세트 손실: 0.055902\t최선의 손실: 0.046914\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.057876\t최선의 손실: 0.046914\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.052385\t최선의 손실: 0.046914\t정확도: 98.98%\n", - "32\t검증 세트 손실: 0.061360\t최선의 손실: 0.046914\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.103357\t최선의 손실: 0.046914\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.064397\t최선의 손실: 0.046914\t정확도: 98.83%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 48.2s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.135143\t최선의 손실: 0.135143\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.078869\t최선의 손실: 0.078869\t정확도: 97.85%\n", - "2\t검증 세트 손실: 0.062899\t최선의 손실: 0.062899\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.115810\t최선의 손실: 0.062899\t정확도: 97.38%\n", - "4\t검증 세트 손실: 0.042165\t최선의 손실: 0.042165\t정확도: 98.79%\n", - "5\t검증 세트 손실: 0.058716\t최선의 손실: 0.042165\t정확도: 98.71%\n", - "6\t검증 세트 손실: 0.180417\t최선의 손실: 0.042165\t정확도: 94.92%\n", - "7\t검증 세트 손실: 0.044667\t최선의 손실: 0.042165\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.032070\t최선의 손실: 0.032070\t정확도: 98.98%\n", - "9\t검증 세트 손실: 0.079101\t최선의 손실: 0.032070\t정확도: 97.50%\n", - "10\t검증 세트 손실: 0.045293\t최선의 손실: 0.032070\t정확도: 98.98%\n", - "11\t검증 세트 손실: 0.046010\t최선의 손실: 0.032070\t정확도: 98.83%\n", - "12\t검증 세트 손실: 0.042143\t최선의 손실: 0.032070\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.043920\t최선의 손실: 0.032070\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.053784\t최선의 손실: 0.032070\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.042763\t최선의 손실: 0.032070\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.038263\t최선의 손실: 0.032070\t정확도: 98.94%\n", - "17\t검증 세트 손실: 0.071085\t최선의 손실: 0.032070\t정확도: 98.12%\n", - "18\t검증 세트 손실: 0.047308\t최선의 손실: 0.032070\t정확도: 98.83%\n", - "19\t검증 세트 손실: 0.075823\t최선의 손실: 0.032070\t정확도: 98.55%\n", - "20\t검증 세트 손실: 0.056294\t최선의 손실: 0.032070\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.037461\t최선의 손실: 0.032070\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.043791\t최선의 손실: 0.032070\t정확도: 99.18%\n", - "23\t검증 세트 손실: 0.065643\t최선의 손실: 0.032070\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.158140\t최선의 손실: 0.032070\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.043592\t최선의 손실: 0.032070\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.047428\t최선의 손실: 0.032070\t정확도: 98.91%\n", - "27\t검증 세트 손실: 0.041175\t최선의 손실: 0.032070\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.057545\t최선의 손실: 0.032070\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.097339\t최선의 손실: 0.032070\t정확도: 98.51%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.9, n_neurons=140, total= 41.5s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70 \n", - "0\t검증 세트 손실: 0.151724\t최선의 손실: 0.151724\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.120594\t최선의 손실: 0.120594\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.090844\t최선의 손실: 0.090844\t정확도: 97.42%\n", - "3\t검증 세트 손실: 0.114561\t최선의 손실: 0.090844\t정확도: 97.42%\n", - "4\t검증 세트 손실: 0.080502\t최선의 손실: 0.080502\t정확도: 97.89%\n", - "5\t검증 세트 손실: 0.072344\t최선의 손실: 0.072344\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.101349\t최선의 손실: 0.072344\t정확도: 97.69%\n", - "7\t검증 세트 손실: 0.154126\t최선의 손실: 0.072344\t정확도: 97.58%\n", - "8\t검증 세트 손실: 0.074440\t최선의 손실: 0.072344\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.073239\t최선의 손실: 0.072344\t정확도: 98.40%\n", - "10\t검증 세트 손실: 0.086200\t최선의 손실: 0.072344\t정확도: 98.20%\n", - "11\t검증 세트 손실: 0.085255\t최선의 손실: 0.072344\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.064739\t최선의 손실: 0.064739\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.106004\t최선의 손실: 0.064739\t정확도: 97.93%\n", - "14\t검증 세트 손실: 0.054256\t최선의 손실: 0.054256\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.053818\t최선의 손실: 0.053818\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.050924\t최선의 손실: 0.050924\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.046462\t최선의 손실: 0.046462\t정확도: 99.02%\n", - "18\t검증 세트 손실: 0.086777\t최선의 손실: 0.046462\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.090960\t최선의 손실: 0.046462\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.052801\t최선의 손실: 0.046462\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.054146\t최선의 손실: 0.046462\t정확도: 98.75%\n", - "22\t검증 세트 손실: 0.044171\t최선의 손실: 0.044171\t정확도: 98.83%\n", - "23\t검증 세트 손실: 0.054817\t최선의 손실: 0.044171\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.060715\t최선의 손실: 0.044171\t정확도: 98.83%\n", - "25\t검증 세트 손실: 0.049981\t최선의 손실: 0.044171\t정확도: 98.79%\n", - "26\t검증 세트 손실: 0.048551\t최선의 손실: 0.044171\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.100187\t최선의 손실: 0.044171\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.046144\t최선의 손실: 0.044171\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.050754\t최선의 손실: 0.044171\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.056756\t최선의 손실: 0.044171\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.065392\t최선의 손실: 0.044171\t정확도: 98.48%\n", - "32\t검증 세트 손실: 0.053494\t최선의 손실: 0.044171\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.050250\t최선의 손실: 0.044171\t정확도: 99.18%\n", - "34\t검증 세트 손실: 0.069268\t최선의 손실: 0.044171\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.049337\t최선의 손실: 0.044171\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.084173\t최선의 손실: 0.044171\t정확도: 98.48%\n", - "37\t검증 세트 손실: 0.092654\t최선의 손실: 0.044171\t정확도: 98.28%\n", - "38\t검증 세트 손실: 0.066534\t최선의 손실: 0.044171\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.051616\t최선의 손실: 0.044171\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.051745\t최선의 손실: 0.044171\t정확도: 99.18%\n", - "41\t검증 세트 손실: 0.064010\t최선의 손실: 0.044171\t정확도: 98.67%\n", - "42\t검증 세트 손실: 0.053334\t최선의 손실: 0.044171\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.052871\t최선의 손실: 0.044171\t정확도: 98.98%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70, total= 59.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70 \n", - "0\t검증 세트 손실: 0.243234\t최선의 손실: 0.243234\t정확도: 95.54%\n", - "1\t검증 세트 손실: 0.093165\t최선의 손실: 0.093165\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.088342\t최선의 손실: 0.088342\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.088780\t최선의 손실: 0.088342\t정확도: 98.08%\n", - "4\t검증 세트 손실: 0.085085\t최선의 손실: 0.085085\t정확도: 98.32%\n", - "5\t검증 세트 손실: 0.081780\t최선의 손실: 0.081780\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.115873\t최선의 손실: 0.081780\t정확도: 96.64%\n", - "7\t검증 세트 손실: 0.063978\t최선의 손실: 0.063978\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.064050\t최선의 손실: 0.063978\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.071514\t최선의 손실: 0.063978\t정확도: 98.28%\n", - "10\t검증 세트 손실: 0.053416\t최선의 손실: 0.053416\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.053904\t최선의 손실: 0.053416\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.120021\t최선의 손실: 0.053416\t정확도: 97.73%\n", - "13\t검증 세트 손실: 0.065555\t최선의 손실: 0.053416\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.082776\t최선의 손실: 0.053416\t정확도: 98.12%\n", - "15\t검증 세트 손실: 0.064429\t최선의 손실: 0.053416\t정확도: 98.28%\n", - "16\t검증 세트 손실: 0.066875\t최선의 손실: 0.053416\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.125460\t최선의 손실: 0.053416\t정확도: 97.81%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "18\t검증 세트 손실: 0.056473\t최선의 손실: 0.053416\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.054321\t최선의 손실: 0.053416\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.080832\t최선의 손실: 0.053416\t정확도: 98.36%\n", - "21\t검증 세트 손실: 0.086669\t최선의 손실: 0.053416\t정확도: 98.36%\n", - "22\t검증 세트 손실: 0.104901\t최선의 손실: 0.053416\t정확도: 98.32%\n", - "23\t검증 세트 손실: 0.095346\t최선의 손실: 0.053416\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.092183\t최선의 손실: 0.053416\t정확도: 98.24%\n", - "25\t검증 세트 손실: 0.113185\t최선의 손실: 0.053416\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.104748\t최선의 손실: 0.053416\t정확도: 97.85%\n", - "27\t검증 세트 손실: 0.080750\t최선의 손실: 0.053416\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.074065\t최선의 손실: 0.053416\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.083262\t최선의 손실: 0.053416\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.086033\t최선의 손실: 0.053416\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.109489\t최선의 손실: 0.053416\t정확도: 98.59%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70, total= 43.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70 \n", - "0\t검증 세트 손실: 0.139484\t최선의 손실: 0.139484\t정확도: 97.65%\n", - "1\t검증 세트 손실: 0.205313\t최선의 손실: 0.139484\t정확도: 95.58%\n", - "2\t검증 세트 손실: 0.092522\t최선의 손실: 0.092522\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.109513\t최선의 손실: 0.092522\t정확도: 98.20%\n", - "4\t검증 세트 손실: 0.091671\t최선의 손실: 0.091671\t정확도: 98.12%\n", - "5\t검증 세트 손실: 0.078452\t최선의 손실: 0.078452\t정확도: 98.05%\n", - "6\t검증 세트 손실: 0.055458\t최선의 손실: 0.055458\t정확도: 98.55%\n", - "7\t검증 세트 손실: 0.066974\t최선의 손실: 0.055458\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.074104\t최선의 손실: 0.055458\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.086296\t최선의 손실: 0.055458\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.048557\t최선의 손실: 0.048557\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.052265\t최선의 손실: 0.048557\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.058146\t최선의 손실: 0.048557\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.057652\t최선의 손실: 0.048557\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.068515\t최선의 손실: 0.048557\t정확도: 98.32%\n", - "15\t검증 세트 손실: 0.044264\t최선의 손실: 0.044264\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.058751\t최선의 손실: 0.044264\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.061649\t최선의 손실: 0.044264\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.078520\t최선의 손실: 0.044264\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.055092\t최선의 손실: 0.044264\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.064456\t최선의 손실: 0.044264\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.090630\t최선의 손실: 0.044264\t정확도: 98.36%\n", - "22\t검증 세트 손실: 0.064418\t최선의 손실: 0.044264\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.071621\t최선의 손실: 0.044264\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.059437\t최선의 손실: 0.044264\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.049754\t최선의 손실: 0.044264\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.076987\t최선의 손실: 0.044264\t정확도: 98.55%\n", - "27\t검증 세트 손실: 0.094377\t최선의 손실: 0.044264\t정확도: 98.24%\n", - "28\t검증 세트 손실: 0.076110\t최선의 손실: 0.044264\t정확도: 99.10%\n", - "29\t검증 세트 손실: 0.060822\t최선의 손실: 0.044264\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.038511\t최선의 손실: 0.038511\t정확도: 99.18%\n", - "31\t검증 세트 손실: 0.128417\t최선의 손실: 0.038511\t정확도: 98.32%\n", - "32\t검증 세트 손실: 0.084394\t최선의 손실: 0.038511\t정확도: 98.08%\n", - "33\t검증 세트 손실: 0.079480\t최선의 손실: 0.038511\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.063050\t최선의 손실: 0.038511\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.066022\t최선의 손실: 0.038511\t정확도: 98.79%\n", - "36\t검증 세트 손실: 0.051503\t최선의 손실: 0.038511\t정확도: 98.94%\n", - "37\t검증 세트 손실: 0.079582\t최선의 손실: 0.038511\t정확도: 98.67%\n", - "38\t검증 세트 손실: 0.059348\t최선의 손실: 0.038511\t정확도: 98.63%\n", - "39\t검증 세트 손실: 0.053009\t최선의 손실: 0.038511\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.074133\t최선의 손실: 0.038511\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.060819\t최선의 손실: 0.038511\t정확도: 99.02%\n", - "42\t검증 세트 손실: 0.069637\t최선의 손실: 0.038511\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.069228\t최선의 손실: 0.038511\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.074390\t최선의 손실: 0.038511\t정확도: 98.71%\n", - "45\t검증 세트 손실: 0.076109\t최선의 손실: 0.038511\t정확도: 98.94%\n", - "46\t검증 세트 손실: 0.074772\t최선의 손실: 0.038511\t정확도: 98.59%\n", - "47\t검증 세트 손실: 0.101177\t최선의 손실: 0.038511\t정확도: 98.63%\n", - "48\t검증 세트 손실: 0.051860\t최선의 손실: 0.038511\t정확도: 99.18%\n", - "49\t검증 세트 손실: 0.055809\t최선의 손실: 0.038511\t정확도: 98.91%\n", - "50\t검증 세트 손실: 0.051966\t최선의 손실: 0.038511\t정확도: 98.94%\n", - "51\t검증 세트 손실: 0.089286\t최선의 손실: 0.038511\t정확도: 99.02%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=70, total= 1.2min\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.065931\t최선의 손실: 0.065931\t정확도: 97.77%\n", - "1\t검증 세트 손실: 0.077932\t최선의 손실: 0.065931\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.113987\t최선의 손실: 0.065931\t정확도: 97.07%\n", - "3\t검증 세트 손실: 0.043770\t최선의 손실: 0.043770\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.058327\t최선의 손실: 0.043770\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.038164\t최선의 손실: 0.038164\t정확도: 98.87%\n", - "6\t검증 세트 손실: 0.046073\t최선의 손실: 0.038164\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.045450\t최선의 손실: 0.038164\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.046028\t최선의 손실: 0.038164\t정확도: 98.98%\n", - "9\t검증 세트 손실: 0.050136\t최선의 손실: 0.038164\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.065400\t최선의 손실: 0.038164\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.055231\t최선의 손실: 0.038164\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.049704\t최선의 손실: 0.038164\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.060561\t최선의 손실: 0.038164\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.048627\t최선의 손실: 0.038164\t정확도: 98.98%\n", - "15\t검증 세트 손실: 0.072868\t최선의 손실: 0.038164\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.032939\t최선의 손실: 0.032939\t정확도: 99.06%\n", - "17\t검증 세트 손실: 0.054737\t최선의 손실: 0.032939\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.050624\t최선의 손실: 0.032939\t정확도: 98.91%\n", - "19\t검증 세트 손실: 0.048838\t최선의 손실: 0.032939\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.039965\t최선의 손실: 0.032939\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.068348\t최선의 손실: 0.032939\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.038694\t최선의 손실: 0.032939\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.040279\t최선의 손실: 0.032939\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.044575\t최선의 손실: 0.032939\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.041173\t최선의 손실: 0.032939\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.050473\t최선의 손실: 0.032939\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.040656\t최선의 손실: 0.032939\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.047303\t최선의 손실: 0.032939\t정확도: 99.10%\n", - "29\t검증 세트 손실: 0.042964\t최선의 손실: 0.032939\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.068818\t최선의 손실: 0.032939\t정확도: 98.40%\n", - "31\t검증 세트 손실: 0.047899\t최선의 손실: 0.032939\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.048816\t최선의 손실: 0.032939\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.046880\t최선의 손실: 0.032939\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.056414\t최선의 손실: 0.032939\t정확도: 98.91%\n", - "35\t검증 세트 손실: 0.058005\t최선의 손실: 0.032939\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.062161\t최선의 손실: 0.032939\t정확도: 98.63%\n", - "37\t검증 세트 손실: 0.054496\t최선의 손실: 0.032939\t정확도: 99.02%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100, total= 27.3s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.075930\t최선의 손실: 0.075930\t정확도: 97.85%\n", - "1\t검증 세트 손실: 0.058358\t최선의 손실: 0.058358\t정확도: 98.48%\n", - "2\t검증 세트 손실: 0.059321\t최선의 손실: 0.058358\t정확도: 98.24%\n", - "3\t검증 세트 손실: 0.081308\t최선의 손실: 0.058358\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.063581\t최선의 손실: 0.058358\t정확도: 98.08%\n", - "5\t검증 세트 손실: 0.040411\t최선의 손실: 0.040411\t정확도: 98.87%\n", - "6\t검증 세트 손실: 0.053229\t최선의 손실: 0.040411\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.059809\t최선의 손실: 0.040411\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.059564\t최선의 손실: 0.040411\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.079756\t최선의 손실: 0.040411\t정확도: 98.05%\n", - "10\t검증 세트 손실: 0.061207\t최선의 손실: 0.040411\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.042723\t최선의 손실: 0.040411\t정확도: 98.98%\n", - "12\t검증 세트 손실: 0.054858\t최선의 손실: 0.040411\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.036684\t최선의 손실: 0.036684\t정확도: 99.02%\n", - "14\t검증 세트 손실: 0.053147\t최선의 손실: 0.036684\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.065505\t최선의 손실: 0.036684\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.058023\t최선의 손실: 0.036684\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.070331\t최선의 손실: 0.036684\t정확도: 98.32%\n", - "18\t검증 세트 손실: 0.065821\t최선의 손실: 0.036684\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.048101\t최선의 손실: 0.036684\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.053236\t최선의 손실: 0.036684\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.049569\t최선의 손실: 0.036684\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.048080\t최선의 손실: 0.036684\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.048068\t최선의 손실: 0.036684\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.057166\t최선의 손실: 0.036684\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.038320\t최선의 손실: 0.036684\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.042075\t최선의 손실: 0.036684\t정확도: 99.26%\n", - "27\t검증 세트 손실: 0.069710\t최선의 손실: 0.036684\t정확도: 98.51%\n", - "28\t검증 세트 손실: 0.066504\t최선의 손실: 0.036684\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.071332\t최선의 손실: 0.036684\t정확도: 98.55%\n", - "30\t검증 세트 손실: 0.047619\t최선의 손실: 0.036684\t정확도: 98.91%\n", - "31\t검증 세트 손실: 0.058090\t최선의 손실: 0.036684\t정확도: 98.91%\n", - "32\t검증 세트 손실: 0.069312\t최선의 손실: 0.036684\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.074857\t최선의 손실: 0.036684\t정확도: 98.44%\n", - "34\t검증 세트 손실: 0.097190\t최선의 손실: 0.036684\t정확도: 98.67%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100, total= 25.1s\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.154798\t최선의 손실: 0.154798\t정확도: 96.60%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "1\t검증 세트 손실: 0.062540\t최선의 손실: 0.062540\t정확도: 98.08%\n", - "2\t검증 세트 손실: 0.055164\t최선의 손실: 0.055164\t정확도: 98.36%\n", - "3\t검증 세트 손실: 0.065984\t최선의 손실: 0.055164\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.051667\t최선의 손실: 0.051667\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.044697\t최선의 손실: 0.044697\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.047738\t최선의 손실: 0.044697\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.068400\t최선의 손실: 0.044697\t정확도: 98.32%\n", - "8\t검증 세트 손실: 0.044785\t최선의 손실: 0.044697\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.060203\t최선의 손실: 0.044697\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.035961\t최선의 손실: 0.035961\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.060677\t최선의 손실: 0.035961\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.043136\t최선의 손실: 0.035961\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.050055\t최선의 손실: 0.035961\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.058701\t최선의 손실: 0.035961\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.040683\t최선의 손실: 0.035961\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.045400\t최선의 손실: 0.035961\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.045145\t최선의 손실: 0.035961\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.033817\t최선의 손실: 0.033817\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.068858\t최선의 손실: 0.033817\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.040037\t최선의 손실: 0.033817\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.037063\t최선의 손실: 0.033817\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.027374\t최선의 손실: 0.027374\t정확도: 99.30%\n", - "23\t검증 세트 손실: 0.048398\t최선의 손실: 0.027374\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.058838\t최선의 손실: 0.027374\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.056238\t최선의 손실: 0.027374\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.048062\t최선의 손실: 0.027374\t정확도: 98.91%\n", - "27\t검증 세트 손실: 0.049432\t최선의 손실: 0.027374\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.060831\t최선의 손실: 0.027374\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.076985\t최선의 손실: 0.027374\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.037587\t최선의 손실: 0.027374\t정확도: 99.22%\n", - "31\t검증 세트 손실: 0.042006\t최선의 손실: 0.027374\t정확도: 99.26%\n", - "32\t검증 세트 손실: 0.052185\t최선의 손실: 0.027374\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.055611\t최선의 손실: 0.027374\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.048830\t최선의 손실: 0.027374\t정확도: 98.98%\n", - "35\t검증 세트 손실: 0.046155\t최선의 손실: 0.027374\t정확도: 99.06%\n", - "36\t검증 세트 손실: 0.044093\t최선의 손실: 0.027374\t정확도: 99.10%\n", - "37\t검증 세트 손실: 0.040054\t최선의 손실: 0.027374\t정확도: 99.30%\n", - "38\t검증 세트 손실: 0.056405\t최선의 손실: 0.027374\t정확도: 99.18%\n", - "39\t검증 세트 손실: 0.034278\t최선의 손실: 0.027374\t정확도: 99.37%\n", - "40\t검증 세트 손실: 0.048722\t최선의 손실: 0.027374\t정확도: 99.02%\n", - "41\t검증 세트 손실: 0.042103\t최선의 손실: 0.027374\t정확도: 99.22%\n", - "42\t검증 세트 손실: 0.029475\t최선의 손실: 0.027374\t정확도: 99.34%\n", - "43\t검증 세트 손실: 0.052710\t최선의 손실: 0.027374\t정확도: 99.02%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.05, batch_norm_momentum=0.95, n_neurons=100, total= 31.4s\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140 \n", - "0\t검증 세트 손실: 0.120728\t최선의 손실: 0.120728\t정확도: 96.99%\n", - "1\t검증 세트 손실: 0.089678\t최선의 손실: 0.089678\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.057672\t최선의 손실: 0.057672\t정확도: 98.32%\n", - "3\t검증 세트 손실: 0.049541\t최선의 손실: 0.049541\t정확도: 98.63%\n", - "4\t검증 세트 손실: 0.032449\t최선의 손실: 0.032449\t정확도: 99.22%\n", - "5\t검증 세트 손실: 0.052080\t최선의 손실: 0.032449\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.035967\t최선의 손실: 0.032449\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.050800\t최선의 손실: 0.032449\t정확도: 98.71%\n", - "8\t검증 세트 손실: 0.042688\t최선의 손실: 0.032449\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.044966\t최선의 손실: 0.032449\t정확도: 98.94%\n", - "10\t검증 세트 손실: 0.032032\t최선의 손실: 0.032032\t정확도: 99.10%\n", - "11\t검증 세트 손실: 0.042707\t최선의 손실: 0.032032\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.043551\t최선의 손실: 0.032032\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.045382\t최선의 손실: 0.032032\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.043365\t최선의 손실: 0.032032\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.040248\t최선의 손실: 0.032032\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.039445\t최선의 손실: 0.032032\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.044653\t최선의 손실: 0.032032\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.050344\t최선의 손실: 0.032032\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.050435\t최선의 손실: 0.032032\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.031531\t최선의 손실: 0.031531\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.046859\t최선의 손실: 0.031531\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.040226\t최선의 손실: 0.031531\t정확도: 99.34%\n", - "23\t검증 세트 손실: 0.050093\t최선의 손실: 0.031531\t정확도: 98.91%\n", - "24\t검증 세트 손실: 0.036308\t최선의 손실: 0.031531\t정확도: 99.22%\n", - "25\t검증 세트 손실: 0.056806\t최선의 손실: 0.031531\t정확도: 99.02%\n", - "26\t검증 세트 손실: 0.037584\t최선의 손실: 0.031531\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.035145\t최선의 손실: 0.031531\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.040897\t최선의 손실: 0.031531\t정확도: 99.22%\n", - "29\t검증 세트 손실: 0.045633\t최선의 손실: 0.031531\t정확도: 99.18%\n", - "30\t검증 세트 손실: 0.037583\t최선의 손실: 0.031531\t정확도: 99.22%\n", - "31\t검증 세트 손실: 0.057074\t최선의 손실: 0.031531\t정확도: 99.26%\n", - "32\t검증 세트 손실: 0.050496\t최선의 손실: 0.031531\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.042895\t최선의 손실: 0.031531\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.045969\t최선의 손실: 0.031531\t정확도: 98.98%\n", - "35\t검증 세트 손실: 0.052275\t최선의 손실: 0.031531\t정확도: 99.14%\n", - "36\t검증 세트 손실: 0.046039\t최선의 손실: 0.031531\t정확도: 99.02%\n", - "37\t검증 세트 손실: 0.039924\t최선의 손실: 0.031531\t정확도: 99.10%\n", - "38\t검증 세트 손실: 0.037728\t최선의 손실: 0.031531\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.049730\t최선의 손실: 0.031531\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.039820\t최선의 손실: 0.031531\t정확도: 99.18%\n", - "41\t검증 세트 손실: 0.044517\t최선의 손실: 0.031531\t정확도: 99.18%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140, total= 57.6s\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140 \n", - "0\t검증 세트 손실: 0.076922\t최선의 손실: 0.076922\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.047699\t최선의 손실: 0.047699\t정확도: 98.71%\n", - "2\t검증 세트 손실: 0.076837\t최선의 손실: 0.047699\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.049386\t최선의 손실: 0.047699\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.051959\t최선의 손실: 0.047699\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.063258\t최선의 손실: 0.047699\t정확도: 98.44%\n", - "6\t검증 세트 손실: 0.058751\t최선의 손실: 0.047699\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.053461\t최선의 손실: 0.047699\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.040989\t최선의 손실: 0.040989\t정확도: 99.06%\n", - "9\t검증 세트 손실: 0.044446\t최선의 손실: 0.040989\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.057169\t최선의 손실: 0.040989\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.029686\t최선의 손실: 0.029686\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.037495\t최선의 손실: 0.029686\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.036500\t최선의 손실: 0.029686\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.040993\t최선의 손실: 0.029686\t정확도: 99.06%\n", - "15\t검증 세트 손실: 0.031942\t최선의 손실: 0.029686\t정확도: 99.22%\n", - "16\t검증 세트 손실: 0.038559\t최선의 손실: 0.029686\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.047316\t최선의 손실: 0.029686\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.064495\t최선의 손실: 0.029686\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.041156\t최선의 손실: 0.029686\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.051389\t최선의 손실: 0.029686\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.041599\t최선의 손실: 0.029686\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.054735\t최선의 손실: 0.029686\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.041397\t최선의 손실: 0.029686\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.043333\t최선의 손실: 0.029686\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.042686\t최선의 손실: 0.029686\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.052627\t최선의 손실: 0.029686\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.042165\t최선의 손실: 0.029686\t정확도: 99.18%\n", - "28\t검증 세트 손실: 0.040906\t최선의 손실: 0.029686\t정확도: 99.14%\n", - "29\t검증 세트 손실: 0.048716\t최선의 손실: 0.029686\t정확도: 99.02%\n", - "30\t검증 세트 손실: 0.050454\t최선의 손실: 0.029686\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.043774\t최선의 손실: 0.029686\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.053104\t최선의 손실: 0.029686\t정확도: 98.94%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140, total= 45.5s\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140 \n", - "0\t검증 세트 손실: 0.077960\t최선의 손실: 0.077960\t정확도: 97.77%\n", - "1\t검증 세트 손실: 0.049934\t최선의 손실: 0.049934\t정확도: 98.40%\n", - "2\t검증 세트 손실: 0.072009\t최선의 손실: 0.049934\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.044691\t최선의 손실: 0.044691\t정확도: 98.44%\n", - "4\t검증 세트 손실: 0.043032\t최선의 손실: 0.043032\t정확도: 98.75%\n", - "5\t검증 세트 손실: 0.043981\t최선의 손실: 0.043032\t정확도: 98.71%\n", - "6\t검증 세트 손실: 0.039328\t최선의 손실: 0.039328\t정확도: 98.79%\n", - "7\t검증 세트 손실: 0.058083\t최선의 손실: 0.039328\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.059025\t최선의 손실: 0.039328\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.041651\t최선의 손실: 0.039328\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.048105\t최선의 손실: 0.039328\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.056053\t최선의 손실: 0.039328\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.033695\t최선의 손실: 0.033695\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.033184\t최선의 손실: 0.033184\t정확도: 99.14%\n", - "14\t검증 세트 손실: 0.031534\t최선의 손실: 0.031534\t정확도: 99.02%\n", - "15\t검증 세트 손실: 0.040954\t최선의 손실: 0.031534\t정확도: 99.10%\n", - "16\t검증 세트 손실: 0.039815\t최선의 손실: 0.031534\t정확도: 99.06%\n", - "17\t검증 세트 손실: 0.041942\t최선의 손실: 0.031534\t정확도: 99.14%\n", - "18\t검증 세트 손실: 0.041736\t최선의 손실: 0.031534\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.041029\t최선의 손실: 0.031534\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.025829\t최선의 손실: 0.025829\t정확도: 99.26%\n", - "21\t검증 세트 손실: 0.031497\t최선의 손실: 0.025829\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.034219\t최선의 손실: 0.025829\t정확도: 99.22%\n", - "23\t검증 세트 손실: 0.041883\t최선의 손실: 0.025829\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.029971\t최선의 손실: 0.025829\t정확도: 99.26%\n", - "25\t검증 세트 손실: 0.036772\t최선의 손실: 0.025829\t정확도: 99.18%\n", - "26\t검증 세트 손실: 0.030113\t최선의 손실: 0.025829\t정확도: 99.30%\n", - "27\t검증 세트 손실: 0.030234\t최선의 손실: 0.025829\t정확도: 99.22%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "28\t검증 세트 손실: 0.039314\t최선의 손실: 0.025829\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.038838\t최선의 손실: 0.025829\t정확도: 99.14%\n", - "30\t검증 세트 손실: 0.057772\t최선의 손실: 0.025829\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.051400\t최선의 손실: 0.025829\t정확도: 99.10%\n", - "32\t검증 세트 손실: 0.046439\t최선의 손실: 0.025829\t정확도: 99.14%\n", - "33\t검증 세트 손실: 0.036503\t최선의 손실: 0.025829\t정확도: 99.41%\n", - "34\t검증 세트 손실: 0.046981\t최선의 손실: 0.025829\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.034807\t최선의 손실: 0.025829\t정확도: 99.45%\n", - "36\t검증 세트 손실: 0.042073\t최선의 손실: 0.025829\t정확도: 99.14%\n", - "37\t검증 세트 손실: 0.028926\t최선의 손실: 0.025829\t정확도: 99.14%\n", - "38\t검증 세트 손실: 0.031296\t최선의 손실: 0.025829\t정확도: 99.34%\n", - "39\t검증 세트 손실: 0.038672\t최선의 손실: 0.025829\t정확도: 99.30%\n", - "40\t검증 세트 손실: 0.047932\t최선의 손실: 0.025829\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.035917\t최선의 손실: 0.025829\t정확도: 99.22%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=140, total= 57.6s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30 \n", - "0\t검증 세트 손실: 0.090237\t최선의 손실: 0.090237\t정확도: 97.15%\n", - "1\t검증 세트 손실: 0.080839\t최선의 손실: 0.080839\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.083763\t최선의 손실: 0.080839\t정확도: 97.38%\n", - "3\t검증 세트 손실: 0.053788\t최선의 손실: 0.053788\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.057611\t최선의 손실: 0.053788\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.082613\t최선의 손실: 0.053788\t정확도: 97.73%\n", - "6\t검증 세트 손실: 0.051755\t최선의 손실: 0.051755\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.060546\t최선의 손실: 0.051755\t정확도: 98.40%\n", - "8\t검증 세트 손실: 0.059191\t최선의 손실: 0.051755\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.069791\t최선의 손실: 0.051755\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.059267\t최선의 손실: 0.051755\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.079011\t최선의 손실: 0.051755\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.069839\t최선의 손실: 0.051755\t정확도: 98.40%\n", - "13\t검증 세트 손실: 0.061013\t최선의 손실: 0.051755\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.044893\t최선의 손실: 0.044893\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.060636\t최선의 손실: 0.044893\t정확도: 98.59%\n", - "16\t검증 세트 손실: 0.071628\t최선의 손실: 0.044893\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.070100\t최선의 손실: 0.044893\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.057732\t최선의 손실: 0.044893\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.069883\t최선의 손실: 0.044893\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.069310\t최선의 손실: 0.044893\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.076700\t최선의 손실: 0.044893\t정확도: 98.24%\n", - "22\t검증 세트 손실: 0.066810\t최선의 손실: 0.044893\t정확도: 98.55%\n", - "23\t검증 세트 손실: 0.069755\t최선의 손실: 0.044893\t정확도: 98.59%\n", - "24\t검증 세트 손실: 0.066601\t최선의 손실: 0.044893\t정확도: 98.44%\n", - "25\t검증 세트 손실: 0.055007\t최선의 손실: 0.044893\t정확도: 98.59%\n", - "26\t검증 세트 손실: 0.071136\t최선의 손실: 0.044893\t정확도: 98.55%\n", - "27\t검증 세트 손실: 0.062546\t최선의 손실: 0.044893\t정확도: 98.55%\n", - "28\t검증 세트 손실: 0.069028\t최선의 손실: 0.044893\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.064673\t최선의 손실: 0.044893\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.071354\t최선의 손실: 0.044893\t정확도: 98.32%\n", - "31\t검증 세트 손실: 0.087218\t최선의 손실: 0.044893\t정확도: 98.24%\n", - "32\t검증 세트 손실: 0.078688\t최선의 손실: 0.044893\t정확도: 98.44%\n", - "33\t검증 세트 손실: 0.124537\t최선의 손실: 0.044893\t정확도: 97.46%\n", - "34\t검증 세트 손실: 0.132266\t최선의 손실: 0.044893\t정확도: 96.99%\n", - "35\t검증 세트 손실: 0.054596\t최선의 손실: 0.044893\t정확도: 98.59%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30, total= 7.3s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30 \n", - "0\t검증 세트 손실: 0.089812\t최선의 손실: 0.089812\t정확도: 97.38%\n", - "1\t검증 세트 손실: 0.070987\t최선의 손실: 0.070987\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.060570\t최선의 손실: 0.060570\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.055580\t최선의 손실: 0.055580\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.066589\t최선의 손실: 0.055580\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.055780\t최선의 손실: 0.055580\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.056136\t최선의 손실: 0.055580\t정확도: 98.32%\n", - "7\t검증 세트 손실: 0.058078\t최선의 손실: 0.055580\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.053919\t최선의 손실: 0.053919\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.053761\t최선의 손실: 0.053761\t정확도: 98.48%\n", - "10\t검증 세트 손실: 0.051593\t최선의 손실: 0.051593\t정확도: 98.48%\n", - "11\t검증 세트 손실: 0.089890\t최선의 손실: 0.051593\t정확도: 98.08%\n", - "12\t검증 세트 손실: 0.065910\t최선의 손실: 0.051593\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.054158\t최선의 손실: 0.051593\t정확도: 98.51%\n", - "14\t검증 세트 손실: 0.061032\t최선의 손실: 0.051593\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.072106\t최선의 손실: 0.051593\t정확도: 98.28%\n", - "16\t검증 세트 손실: 0.054282\t최선의 손실: 0.051593\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.060386\t최선의 손실: 0.051593\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.060527\t최선의 손실: 0.051593\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.057975\t최선의 손실: 0.051593\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.046821\t최선의 손실: 0.046821\t정확도: 99.10%\n", - "21\t검증 세트 손실: 0.059871\t최선의 손실: 0.046821\t정확도: 98.75%\n", - "22\t검증 세트 손실: 0.072651\t최선의 손실: 0.046821\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.068982\t최선의 손실: 0.046821\t정확도: 98.59%\n", - "24\t검증 세트 손실: 0.070575\t최선의 손실: 0.046821\t정확도: 98.63%\n", - "25\t검증 세트 손실: 0.070847\t최선의 손실: 0.046821\t정확도: 98.24%\n", - "26\t검증 세트 손실: 0.063566\t최선의 손실: 0.046821\t정확도: 98.55%\n", - "27\t검증 세트 손실: 0.058483\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.077500\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.067177\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.067068\t최선의 손실: 0.046821\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.086174\t최선의 손실: 0.046821\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.063737\t최선의 손실: 0.046821\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.081414\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "34\t검증 세트 손실: 0.064474\t최선의 손실: 0.046821\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.068381\t최선의 손실: 0.046821\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.097818\t최선의 손실: 0.046821\t정확도: 98.28%\n", - "37\t검증 세트 손실: 0.072690\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "38\t검증 세트 손실: 0.069451\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "39\t검증 세트 손실: 0.062061\t최선의 손실: 0.046821\t정확도: 98.67%\n", - "40\t검증 세트 손실: 0.083101\t최선의 손실: 0.046821\t정확도: 98.44%\n", - "41\t검증 세트 손실: 0.082603\t최선의 손실: 0.046821\t정확도: 98.63%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30, total= 8.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30 \n", - "0\t검증 세트 손실: 0.094133\t최선의 손실: 0.094133\t정확도: 96.95%\n", - "1\t검증 세트 손실: 0.071113\t최선의 손실: 0.071113\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.056921\t최선의 손실: 0.056921\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.054044\t최선의 손실: 0.054044\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.048515\t최선의 손실: 0.048515\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.068610\t최선의 손실: 0.048515\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.057992\t최선의 손실: 0.048515\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.054169\t최선의 손실: 0.048515\t정확도: 98.48%\n", - "8\t검증 세트 손실: 0.054871\t최선의 손실: 0.048515\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.057000\t최선의 손실: 0.048515\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.060326\t최선의 손실: 0.048515\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.054561\t최선의 손실: 0.048515\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.052130\t최선의 손실: 0.048515\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.043861\t최선의 손실: 0.043861\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.057703\t최선의 손실: 0.043861\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.053402\t최선의 손실: 0.043861\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.064207\t최선의 손실: 0.043861\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.059179\t최선의 손실: 0.043861\t정확도: 98.48%\n", - "18\t검증 세트 손실: 0.040435\t최선의 손실: 0.040435\t정확도: 99.10%\n", - "19\t검증 세트 손실: 0.037912\t최선의 손실: 0.037912\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.033243\t최선의 손실: 0.033243\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.035636\t최선의 손실: 0.033243\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.035391\t최선의 손실: 0.033243\t정확도: 99.14%\n", - "23\t검증 세트 손실: 0.032128\t최선의 손실: 0.032128\t정확도: 99.30%\n", - "24\t검증 세트 손실: 0.037616\t최선의 손실: 0.032128\t정확도: 99.22%\n", - "25\t검증 세트 손실: 0.039664\t최선의 손실: 0.032128\t정확도: 99.18%\n", - "26\t검증 세트 손실: 0.038103\t최선의 손실: 0.032128\t정확도: 99.30%\n", - "27\t검증 세트 손실: 0.047311\t최선의 손실: 0.032128\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.050507\t최선의 손실: 0.032128\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.047142\t최선의 손실: 0.032128\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.077076\t최선의 손실: 0.032128\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.073118\t최선의 손실: 0.032128\t정확도: 98.40%\n", - "32\t검증 세트 손실: 0.050524\t최선의 손실: 0.032128\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.049633\t최선의 손실: 0.032128\t정확도: 98.83%\n", - "34\t검증 세트 손실: 0.055527\t최선의 손실: 0.032128\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.047670\t최선의 손실: 0.032128\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.056846\t최선의 손실: 0.032128\t정확도: 98.98%\n", - "37\t검증 세트 손실: 0.048292\t최선의 손실: 0.032128\t정확도: 98.98%\n", - "38\t검증 세트 손실: 0.056828\t최선의 손실: 0.032128\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.055099\t최선의 손실: 0.032128\t정확도: 98.79%\n", - "40\t검증 세트 손실: 0.063287\t최선의 손실: 0.032128\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.069727\t최선의 손실: 0.032128\t정확도: 98.63%\n", - "42\t검증 세트 손실: 0.071060\t최선의 손실: 0.032128\t정확도: 98.67%\n", - "43\t검증 세트 손실: 0.066284\t최선의 손실: 0.032128\t정확도: 98.87%\n", - "44\t검증 세트 손실: 0.068756\t최선의 손실: 0.032128\t정확도: 98.55%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=30, total= 8.9s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140 \n", - "0\t검증 세트 손실: 0.103256\t최선의 손실: 0.103256\t정확도: 97.07%\n", - "1\t검증 세트 손실: 0.076025\t최선의 손실: 0.076025\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.054421\t최선의 손실: 0.054421\t정확도: 98.36%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "3\t검증 세트 손실: 0.044547\t최선의 손실: 0.044547\t정확도: 98.67%\n", - "4\t검증 세트 손실: 0.056698\t최선의 손실: 0.044547\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.063571\t최선의 손실: 0.044547\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.052533\t최선의 손실: 0.044547\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.040790\t최선의 손실: 0.040790\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.060944\t최선의 손실: 0.040790\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.069921\t최선의 손실: 0.040790\t정확도: 98.40%\n", - "10\t검증 세트 손실: 0.051709\t최선의 손실: 0.040790\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.041268\t최선의 손실: 0.040790\t정확도: 99.02%\n", - "12\t검증 세트 손실: 0.060717\t최선의 손실: 0.040790\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.061758\t최선의 손실: 0.040790\t정확도: 98.59%\n", - "14\t검증 세트 손실: 0.047861\t최선의 손실: 0.040790\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.123977\t최선의 손실: 0.040790\t정확도: 97.65%\n", - "16\t검증 세트 손실: 0.052441\t최선의 손실: 0.040790\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.062721\t최선의 손실: 0.040790\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.131143\t최선의 손실: 0.040790\t정확도: 97.07%\n", - "19\t검증 세트 손실: 0.084946\t최선의 손실: 0.040790\t정확도: 98.05%\n", - "20\t검증 세트 손실: 0.058462\t최선의 손실: 0.040790\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.070593\t최선의 손실: 0.040790\t정확도: 98.59%\n", - "22\t검증 세트 손실: 0.067643\t최선의 손실: 0.040790\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.059054\t최선의 손실: 0.040790\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.047584\t최선의 손실: 0.040790\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.047819\t최선의 손실: 0.040790\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.047251\t최선의 손실: 0.040790\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.053085\t최선의 손실: 0.040790\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.052323\t최선의 손실: 0.040790\t정확도: 98.94%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140, total= 21.2s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140 \n", - "0\t검증 세트 손실: 0.126947\t최선의 손실: 0.126947\t정확도: 95.97%\n", - "1\t검증 세트 손실: 0.058402\t최선의 손실: 0.058402\t정확도: 97.81%\n", - "2\t검증 세트 손실: 0.049810\t최선의 손실: 0.049810\t정확도: 98.51%\n", - "3\t검증 세트 손실: 0.089860\t최선의 손실: 0.049810\t정확도: 97.50%\n", - "4\t검증 세트 손실: 0.065571\t최선의 손실: 0.049810\t정확도: 97.89%\n", - "5\t검증 세트 손실: 0.044949\t최선의 손실: 0.044949\t정확도: 98.79%\n", - "6\t검증 세트 손실: 0.056184\t최선의 손실: 0.044949\t정확도: 98.51%\n", - "7\t검증 세트 손실: 0.051249\t최선의 손실: 0.044949\t정확도: 98.63%\n", - "8\t검증 세트 손실: 0.091856\t최선의 손실: 0.044949\t정확도: 97.46%\n", - "9\t검증 세트 손실: 0.066062\t최선의 손실: 0.044949\t정확도: 98.28%\n", - "10\t검증 세트 손실: 0.046314\t최선의 손실: 0.044949\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.056074\t최선의 손실: 0.044949\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.040493\t최선의 손실: 0.040493\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.051138\t최선의 손실: 0.040493\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.050071\t최선의 손실: 0.040493\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.059666\t최선의 손실: 0.040493\t정확도: 98.44%\n", - "16\t검증 세트 손실: 0.048234\t최선의 손실: 0.040493\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.064873\t최선의 손실: 0.040493\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.052878\t최선의 손실: 0.040493\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.063264\t최선의 손실: 0.040493\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.058935\t최선의 손실: 0.040493\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.081826\t최선의 손실: 0.040493\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.072053\t최선의 손실: 0.040493\t정확도: 98.75%\n", - "23\t검증 세트 손실: 0.064803\t최선의 손실: 0.040493\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.071976\t최선의 손실: 0.040493\t정확도: 98.48%\n", - "25\t검증 세트 손실: 0.086582\t최선의 손실: 0.040493\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.060946\t최선의 손실: 0.040493\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.071983\t최선의 손실: 0.040493\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.054421\t최선의 손실: 0.040493\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.047705\t최선의 손실: 0.040493\t정확도: 99.14%\n", - "30\t검증 세트 손실: 0.043038\t최선의 손실: 0.040493\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.076180\t최선의 손실: 0.040493\t정확도: 98.51%\n", - "32\t검증 세트 손실: 0.045610\t최선의 손실: 0.040493\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.067253\t최선의 손실: 0.040493\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140, total= 24.5s\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140 \n", - "0\t검증 세트 손실: 0.088178\t최선의 손실: 0.088178\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.065057\t최선의 손실: 0.065057\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.071156\t최선의 손실: 0.065057\t정확도: 97.73%\n", - "3\t검증 세트 손실: 0.055781\t최선의 손실: 0.055781\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.043707\t최선의 손실: 0.043707\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.037202\t최선의 손실: 0.037202\t정확도: 98.83%\n", - "6\t검증 세트 손실: 0.045095\t최선의 손실: 0.037202\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.075240\t최선의 손실: 0.037202\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.080535\t최선의 손실: 0.037202\t정확도: 97.93%\n", - "9\t검증 세트 손실: 0.058697\t최선의 손실: 0.037202\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.065776\t최선의 손실: 0.037202\t정확도: 98.16%\n", - "11\t검증 세트 손실: 0.061931\t최선의 손실: 0.037202\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.050542\t최선의 손실: 0.037202\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.039279\t최선의 손실: 0.037202\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.033180\t최선의 손실: 0.033180\t정확도: 99.02%\n", - "15\t검증 세트 손실: 0.042096\t최선의 손실: 0.033180\t정확도: 99.14%\n", - "16\t검증 세트 손실: 0.045527\t최선의 손실: 0.033180\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.049220\t최선의 손실: 0.033180\t정확도: 99.10%\n", - "18\t검증 세트 손실: 0.042349\t최선의 손실: 0.033180\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.052105\t최선의 손실: 0.033180\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.045601\t최선의 손실: 0.033180\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.048569\t최선의 손실: 0.033180\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.048545\t최선의 손실: 0.033180\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.047211\t최선의 손실: 0.033180\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.038611\t최선의 손실: 0.033180\t정확도: 99.34%\n", - "25\t검증 세트 손실: 0.044315\t최선의 손실: 0.033180\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.075902\t최선의 손실: 0.033180\t정확도: 98.44%\n", - "27\t검증 세트 손실: 0.054093\t최선의 손실: 0.033180\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.053632\t최선의 손실: 0.033180\t정확도: 98.71%\n", - "29\t검증 세트 손실: 0.040795\t최선의 손실: 0.033180\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.058563\t최선의 손실: 0.033180\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.042442\t최선의 손실: 0.033180\t정확도: 99.14%\n", - "32\t검증 세트 손실: 0.064959\t최선의 손실: 0.033180\t정확도: 98.67%\n", - "33\t검증 세트 손실: 0.043057\t최선의 손실: 0.033180\t정확도: 99.22%\n", - "34\t검증 세트 손실: 0.052280\t최선의 손실: 0.033180\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.040216\t최선의 손실: 0.033180\t정확도: 99.26%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=, learning_rate=0.02, batch_norm_momentum=0.95, n_neurons=140, total= 26.0s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.131393\t최선의 손실: 0.131393\t정확도: 96.72%\n", - "1\t검증 세트 손실: 0.086170\t최선의 손실: 0.086170\t정확도: 97.97%\n", - "2\t검증 세트 손실: 0.099843\t최선의 손실: 0.086170\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.090931\t최선의 손실: 0.086170\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.065998\t최선의 손실: 0.065998\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.175663\t최선의 손실: 0.065998\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.098703\t최선의 손실: 0.065998\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.069446\t최선의 손실: 0.065998\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.047317\t최선의 손실: 0.047317\t정확도: 98.75%\n", - "9\t검증 세트 손실: 0.247580\t최선의 손실: 0.047317\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.315585\t최선의 손실: 0.047317\t정확도: 98.05%\n", - "11\t검증 세트 손실: 0.087994\t최선의 손실: 0.047317\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.083825\t최선의 손실: 0.047317\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.055323\t최선의 손실: 0.047317\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.062809\t최선의 손실: 0.047317\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.105958\t최선의 손실: 0.047317\t정확도: 98.48%\n", - "16\t검증 세트 손실: 0.058466\t최선의 손실: 0.047317\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.553205\t최선의 손실: 0.047317\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.278615\t최선의 손실: 0.047317\t정확도: 97.03%\n", - "19\t검증 세트 손실: 0.154007\t최선의 손실: 0.047317\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.121135\t최선의 손실: 0.047317\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.144831\t최선의 손실: 0.047317\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.102446\t최선의 손실: 0.047317\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.139566\t최선의 손실: 0.047317\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.092886\t최선의 손실: 0.047317\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.131183\t최선의 손실: 0.047317\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.830137\t최선의 손실: 0.047317\t정확도: 97.34%\n", - "27\t검증 세트 손실: 0.141744\t최선의 손실: 0.047317\t정확도: 98.83%\n", - "28\t검증 세트 손실: 0.147363\t최선의 손실: 0.047317\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.301479\t최선의 손실: 0.047317\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120, total= 41.5s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.140135\t최선의 손실: 0.140135\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.106388\t최선의 손실: 0.106388\t정확도: 97.62%\n", - "2\t검증 세트 손실: 0.112675\t최선의 손실: 0.106388\t정확도: 97.77%\n", - "3\t검증 세트 손실: 0.080585\t최선의 손실: 0.080585\t정확도: 97.58%\n", - "4\t검증 세트 손실: 0.123463\t최선의 손실: 0.080585\t정확도: 97.50%\n", - "5\t검증 세트 손실: 0.104837\t최선의 손실: 0.080585\t정확도: 97.38%\n", - "6\t검증 세트 손실: 1.745454\t최선의 손실: 0.080585\t정확도: 95.74%\n", - "7\t검증 세트 손실: 0.123549\t최선의 손실: 0.080585\t정확도: 98.16%\n", - "8\t검증 세트 손실: 0.049737\t최선의 손실: 0.049737\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.052383\t최선의 손실: 0.049737\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.062731\t최선의 손실: 0.049737\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.054424\t최선의 손실: 0.049737\t정확도: 98.83%\n", - "12\t검증 세트 손실: 0.064067\t최선의 손실: 0.049737\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.117782\t최선의 손실: 0.049737\t정확도: 98.63%\n", - "14\t검증 세트 손실: 4.063282\t최선의 손실: 0.049737\t정확도: 91.20%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "15\t검증 세트 손실: 0.208509\t최선의 손실: 0.049737\t정확도: 97.15%\n", - "16\t검증 세트 손실: 0.118026\t최선의 손실: 0.049737\t정확도: 98.20%\n", - "17\t검증 세트 손실: 0.153792\t최선의 손실: 0.049737\t정확도: 98.32%\n", - "18\t검증 세트 손실: 0.082346\t최선의 손실: 0.049737\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.084494\t최선의 손실: 0.049737\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.128540\t최선의 손실: 0.049737\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.090399\t최선의 손실: 0.049737\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.240111\t최선의 손실: 0.049737\t정확도: 98.20%\n", - "23\t검증 세트 손실: 0.442379\t최선의 손실: 0.049737\t정확도: 98.01%\n", - "24\t검증 세트 손실: 0.168355\t최선의 손실: 0.049737\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.147873\t최선의 손실: 0.049737\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.164725\t최선의 손실: 0.049737\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.269011\t최선의 손실: 0.049737\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.171039\t최선의 손실: 0.049737\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.258062\t최선의 손실: 0.049737\t정확도: 98.59%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120, total= 41.5s\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.246822\t최선의 손실: 0.246822\t정확도: 94.37%\n", - "1\t검증 세트 손실: 0.116875\t최선의 손실: 0.116875\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.151346\t최선의 손실: 0.116875\t정확도: 96.79%\n", - "3\t검증 세트 손실: 0.157655\t최선의 손실: 0.116875\t정확도: 97.58%\n", - "4\t검증 세트 손실: 0.062602\t최선의 손실: 0.062602\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.055035\t최선의 손실: 0.055035\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.054329\t최선의 손실: 0.054329\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.121180\t최선의 손실: 0.054329\t정확도: 97.89%\n", - "8\t검증 세트 손실: 17.985313\t최선의 손실: 0.054329\t정확도: 88.12%\n", - "9\t검증 세트 손실: 0.227063\t최선의 손실: 0.054329\t정확도: 98.36%\n", - "10\t검증 세트 손실: 0.121303\t최선의 손실: 0.054329\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.065822\t최선의 손실: 0.054329\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.064392\t최선의 손실: 0.054329\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.052692\t최선의 손실: 0.052692\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.096671\t최선의 손실: 0.052692\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.084376\t최선의 손실: 0.052692\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.687461\t최선의 손실: 0.052692\t정확도: 95.93%\n", - "17\t검증 세트 손실: 0.197026\t최선의 손실: 0.052692\t정확도: 97.93%\n", - "18\t검증 세트 손실: 0.072965\t최선의 손실: 0.052692\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.053382\t최선의 손실: 0.052692\t정확도: 99.10%\n", - "20\t검증 세트 손실: 0.051101\t최선의 손실: 0.051101\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.289944\t최선의 손실: 0.051101\t정확도: 97.81%\n", - "22\t검증 세트 손실: 0.299140\t최선의 손실: 0.051101\t정확도: 98.55%\n", - "23\t검증 세트 손실: 0.129550\t최선의 손실: 0.051101\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.102241\t최선의 손실: 0.051101\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.064825\t최선의 손실: 0.051101\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.100166\t최선의 손실: 0.051101\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.857064\t최선의 손실: 0.051101\t정확도: 96.21%\n", - "28\t검증 세트 손실: 0.249181\t최선의 손실: 0.051101\t정확도: 98.71%\n", - "29\t검증 세트 손실: 0.116856\t최선의 손실: 0.051101\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.125780\t최선의 손실: 0.051101\t정확도: 98.67%\n", - "31\t검증 세트 손실: 0.113756\t최선의 손실: 0.051101\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.179182\t최선의 손실: 0.051101\t정확도: 98.48%\n", - "33\t검증 세트 손실: 1.722452\t최선의 손실: 0.051101\t정확도: 98.08%\n", - "34\t검증 세트 손실: 0.357987\t최선의 손실: 0.051101\t정확도: 98.91%\n", - "35\t검증 세트 손실: 0.232358\t최선의 손실: 0.051101\t정확도: 99.14%\n", - "36\t검증 세트 손실: 0.147826\t최선의 손실: 0.051101\t정확도: 99.02%\n", - "37\t검증 세트 손실: 0.216837\t최선의 손실: 0.051101\t정확도: 98.51%\n", - "38\t검증 세트 손실: 0.223515\t최선의 손실: 0.051101\t정확도: 98.59%\n", - "39\t검증 세트 손실: 0.134025\t최선의 손실: 0.051101\t정확도: 99.14%\n", - "40\t검증 세트 손실: 0.168186\t최선의 손실: 0.051101\t정확도: 99.30%\n", - "41\t검증 세트 손실: 0.456839\t최선의 손실: 0.051101\t정확도: 98.44%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=120, total= 57.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 0.307358\t최선의 손실: 0.307358\t정확도: 92.49%\n", - "1\t검증 세트 손실: 0.163064\t최선의 손실: 0.163064\t정확도: 95.54%\n", - "2\t검증 세트 손실: 0.170965\t최선의 손실: 0.163064\t정확도: 95.07%\n", - "3\t검증 세트 손실: 0.179141\t최선의 손실: 0.163064\t정확도: 94.61%\n", - "4\t검증 세트 손실: 0.255565\t최선의 손실: 0.163064\t정확도: 91.44%\n", - "5\t검증 세트 손실: 0.163561\t최선의 손실: 0.163064\t정확도: 95.31%\n", - "6\t검증 세트 손실: 0.099528\t최선의 손실: 0.099528\t정확도: 97.30%\n", - "7\t검증 세트 손실: 0.158738\t최선의 손실: 0.099528\t정확도: 96.05%\n", - "8\t검증 세트 손실: 0.169150\t최선의 손실: 0.099528\t정확도: 95.74%\n", - "9\t검증 세트 손실: 0.079953\t최선의 손실: 0.079953\t정확도: 97.97%\n", - "10\t검증 세트 손실: 0.083141\t최선의 손실: 0.079953\t정확도: 97.77%\n", - "11\t검증 세트 손실: 0.096199\t최선의 손실: 0.079953\t정확도: 97.73%\n", - "12\t검증 세트 손실: 0.094466\t최선의 손실: 0.079953\t정확도: 97.62%\n", - "13\t검증 세트 손실: 0.102373\t최선의 손실: 0.079953\t정확도: 97.34%\n", - "14\t검증 세트 손실: 0.084664\t최선의 손실: 0.079953\t정확도: 97.93%\n", - "15\t검증 세트 손실: 0.108413\t최선의 손실: 0.079953\t정확도: 97.77%\n", - "16\t검증 세트 손실: 0.098793\t최선의 손실: 0.079953\t정확도: 97.93%\n", - "17\t검증 세트 손실: 0.091030\t최선의 손실: 0.079953\t정확도: 97.93%\n", - "18\t검증 세트 손실: 0.099024\t최선의 손실: 0.079953\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.148670\t최선의 손실: 0.079953\t정확도: 96.95%\n", - "20\t검증 세트 손실: 0.090588\t최선의 손실: 0.079953\t정확도: 98.05%\n", - "21\t검증 세트 손실: 0.093964\t최선의 손실: 0.079953\t정확도: 97.58%\n", - "22\t검증 세트 손실: 0.079994\t최선의 손실: 0.079953\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.090565\t최선의 손실: 0.079953\t정확도: 98.05%\n", - "24\t검증 세트 손실: 0.089805\t최선의 손실: 0.079953\t정확도: 98.12%\n", - "25\t검증 세트 손실: 0.090508\t최선의 손실: 0.079953\t정확도: 97.97%\n", - "26\t검증 세트 손실: 0.092237\t최선의 손실: 0.079953\t정확도: 98.44%\n", - "27\t검증 세트 손실: 0.097789\t최선의 손실: 0.079953\t정확도: 98.05%\n", - "28\t검증 세트 손실: 0.109668\t최선의 손실: 0.079953\t정확도: 97.65%\n", - "29\t검증 세트 손실: 0.138211\t최선의 손실: 0.079953\t정확도: 97.34%\n", - "30\t검증 세트 손실: 0.079243\t최선의 손실: 0.079243\t정확도: 98.24%\n", - "31\t검증 세트 손실: 0.104088\t최선의 손실: 0.079243\t정확도: 98.01%\n", - "32\t검증 세트 손실: 0.117829\t최선의 손실: 0.079243\t정확도: 97.58%\n", - "33\t검증 세트 손실: 0.126569\t최선의 손실: 0.079243\t정확도: 97.30%\n", - "34\t검증 세트 손실: 0.084593\t최선의 손실: 0.079243\t정확도: 98.08%\n", - "35\t검증 세트 손실: 0.122675\t최선의 손실: 0.079243\t정확도: 97.97%\n", - "36\t검증 세트 손실: 0.106003\t최선의 손실: 0.079243\t정확도: 98.12%\n", - "37\t검증 세트 손실: 0.123669\t최선의 손실: 0.079243\t정확도: 98.01%\n", - "38\t검증 세트 손실: 0.133142\t최선의 손실: 0.079243\t정확도: 97.58%\n", - "39\t검증 세트 손실: 0.117292\t최선의 손실: 0.079243\t정확도: 97.73%\n", - "40\t검증 세트 손실: 0.120116\t최선의 손실: 0.079243\t정확도: 97.77%\n", - "41\t검증 세트 손실: 0.099833\t최선의 손실: 0.079243\t정확도: 98.05%\n", - "42\t검증 세트 손실: 0.093745\t최선의 손실: 0.079243\t정확도: 98.01%\n", - "43\t검증 세트 손실: 0.105952\t최선의 손실: 0.079243\t정확도: 98.08%\n", - "44\t검증 세트 손실: 0.125163\t최선의 손실: 0.079243\t정확도: 97.54%\n", - "45\t검증 세트 손실: 0.106699\t최선의 손실: 0.079243\t정확도: 98.16%\n", - "46\t검증 세트 손실: 0.122824\t최선의 손실: 0.079243\t정확도: 98.05%\n", - "47\t검증 세트 손실: 0.121392\t최선의 손실: 0.079243\t정확도: 98.01%\n", - "48\t검증 세트 손실: 0.097285\t최선의 손실: 0.079243\t정확도: 98.16%\n", - "49\t검증 세트 손실: 0.104275\t최선의 손실: 0.079243\t정확도: 98.20%\n", - "50\t검증 세트 손실: 0.118939\t최선의 손실: 0.079243\t정확도: 97.93%\n", - "51\t검증 세트 손실: 0.123236\t최선의 손실: 0.079243\t정확도: 98.08%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10, total= 10.0s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 0.263664\t최선의 손실: 0.263664\t정확도: 93.39%\n", - "1\t검증 세트 손실: 0.148657\t최선의 손실: 0.148657\t정확도: 95.74%\n", - "2\t검증 세트 손실: 0.098209\t최선의 손실: 0.098209\t정확도: 97.11%\n", - "3\t검증 세트 손실: 0.098677\t최선의 손실: 0.098209\t정확도: 97.11%\n", - "4\t검증 세트 손실: 0.088901\t최선의 손실: 0.088901\t정확도: 97.38%\n", - "5\t검증 세트 손실: 0.102906\t최선의 손실: 0.088901\t정확도: 96.83%\n", - "6\t검증 세트 손실: 0.092341\t최선의 손실: 0.088901\t정확도: 97.65%\n", - "7\t검증 세트 손실: 0.138194\t최선의 손실: 0.088901\t정확도: 96.36%\n", - "8\t검증 세트 손실: 0.097222\t최선의 손실: 0.088901\t정확도: 97.54%\n", - "9\t검증 세트 손실: 0.093328\t최선의 손실: 0.088901\t정확도: 97.26%\n", - "10\t검증 세트 손실: 0.112154\t최선의 손실: 0.088901\t정확도: 97.07%\n", - "11\t검증 세트 손실: 0.140055\t최선의 손실: 0.088901\t정확도: 96.48%\n", - "12\t검증 세트 손실: 0.104311\t최선의 손실: 0.088901\t정확도: 97.54%\n", - "13\t검증 세트 손실: 0.104837\t최선의 손실: 0.088901\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.108646\t최선의 손실: 0.088901\t정확도: 97.50%\n", - "15\t검증 세트 손실: 0.104913\t최선의 손실: 0.088901\t정확도: 97.30%\n", - "16\t검증 세트 손실: 0.080082\t최선의 손실: 0.080082\t정확도: 97.97%\n", - "17\t검증 세트 손실: 0.099181\t최선의 손실: 0.080082\t정확도: 98.01%\n", - "18\t검증 세트 손실: 0.102931\t최선의 손실: 0.080082\t정확도: 97.81%\n", - "19\t검증 세트 손실: 0.099718\t최선의 손실: 0.080082\t정확도: 97.97%\n", - "20\t검증 세트 손실: 0.109208\t최선의 손실: 0.080082\t정확도: 97.81%\n", - "21\t검증 세트 손실: 0.134621\t최선의 손실: 0.080082\t정확도: 97.34%\n", - "22\t검증 세트 손실: 0.110280\t최선의 손실: 0.080082\t정확도: 97.77%\n", - "23\t검증 세트 손실: 0.127218\t최선의 손실: 0.080082\t정확도: 97.50%\n", - "24\t검증 세트 손실: 0.112238\t최선의 손실: 0.080082\t정확도: 97.54%\n", - "25\t검증 세트 손실: 0.115524\t최선의 손실: 0.080082\t정확도: 97.97%\n", - "26\t검증 세트 손실: 0.111746\t최선의 손실: 0.080082\t정확도: 98.08%\n", - "27\t검증 세트 손실: 0.105992\t최선의 손실: 0.080082\t정확도: 97.89%\n", - "28\t검증 세트 손실: 0.084062\t최선의 손실: 0.080082\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.109162\t최선의 손실: 0.080082\t정확도: 97.77%\n", - "30\t검증 세트 손실: 0.108548\t최선의 손실: 0.080082\t정확도: 97.97%\n", - "31\t검증 세트 손실: 0.109851\t최선의 손실: 0.080082\t정확도: 98.01%\n", - "32\t검증 세트 손실: 0.123812\t최선의 손실: 0.080082\t정확도: 97.62%\n", - "33\t검증 세트 손실: 0.166110\t최선의 손실: 0.080082\t정확도: 97.11%\n", - "34\t검증 세트 손실: 0.128761\t최선의 손실: 0.080082\t정확도: 97.77%\n", - "35\t검증 세트 손실: 0.104277\t최선의 손실: 0.080082\t정확도: 98.08%\n", - "36\t검증 세트 손실: 0.121962\t최선의 손실: 0.080082\t정확도: 97.69%\n", - "37\t검증 세트 손실: 0.133628\t최선의 손실: 0.080082\t정확도: 97.73%\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 11.7s\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 52.301994\t최선의 손실: 52.301994\t정확도: 50.47%\n", + "1\t검증 세트 손실: 2.173319\t최선의 손실: 2.173319\t정확도: 82.64%\n", + "2\t검증 세트 손실: 0.585122\t최선의 손실: 0.585122\t정확도: 91.79%\n", + "3\t검증 세트 손실: 0.518724\t최선의 손실: 0.518724\t정확도: 92.30%\n", + "4\t검증 세트 손실: 0.234683\t최선의 손실: 0.234683\t정확도: 95.82%\n", + "5\t검증 세트 손실: 0.220137\t최선의 손실: 0.220137\t정확도: 95.43%\n", + "6\t검증 세트 손실: 0.152059\t최선의 손실: 0.152059\t정확도: 97.03%\n", + "7\t검증 세트 손실: 0.167612\t최선의 손실: 0.152059\t정확도: 96.21%\n", + "8\t검증 세트 손실: 0.116528\t최선의 손실: 0.116528\t정확도: 97.38%\n", + "9\t검증 세트 손실: 0.149149\t최선의 손실: 0.116528\t정확도: 96.68%\n", + "10\t검증 세트 손실: 0.151382\t최선의 손실: 0.116528\t정확도: 97.19%\n", + "11\t검증 세트 손실: 0.145403\t최선의 손실: 0.116528\t정확도: 97.19%\n", + "12\t검증 세트 손실: 0.148947\t최선의 손실: 0.116528\t정확도: 97.34%\n", + "13\t검증 세트 손실: 0.169922\t최선의 손실: 0.116528\t정확도: 96.99%\n", + "14\t검증 세트 손실: 0.260613\t최선의 손실: 0.116528\t정확도: 95.62%\n", + "15\t검증 세트 손실: 0.178513\t최선의 손실: 0.116528\t정확도: 96.76%\n", + "16\t검증 세트 손실: 0.174571\t최선의 손실: 0.116528\t정확도: 96.95%\n", + "17\t검증 세트 손실: 0.132222\t최선의 손실: 0.116528\t정확도: 97.54%\n", + "18\t검증 세트 손실: 0.149560\t최선의 손실: 0.116528\t정확도: 97.58%\n", + "19\t검증 세트 손실: 0.137222\t최선의 손실: 0.116528\t정확도: 97.77%\n", + "20\t검증 세트 손실: 0.144400\t최선의 손실: 0.116528\t정확도: 96.99%\n", + "21\t검증 세트 손실: 0.148225\t최선의 손실: 0.116528\t정확도: 97.50%\n", + "22\t검증 세트 손실: 0.146555\t최선의 손실: 0.116528\t정확도: 97.22%\n", + "23\t검증 세트 손실: 0.124445\t최선의 손실: 0.116528\t정확도: 98.12%\n", + "24\t검증 세트 손실: 0.103145\t최선의 손실: 0.103145\t정확도: 98.01%\n", + "25\t검증 세트 손실: 0.116177\t최선의 손실: 0.103145\t정확도: 97.97%\n", + "26\t검증 세트 손실: 0.127972\t최선의 손실: 0.103145\t정확도: 97.50%\n", + "27\t검증 세트 손실: 0.133739\t최선의 손실: 0.103145\t정확도: 97.69%\n", + "28\t검증 세트 손실: 0.145798\t최선의 손실: 0.103145\t정확도: 97.50%\n", + "29\t검증 세트 손실: 0.150823\t최선의 손실: 0.103145\t정확도: 97.69%\n", + "30\t검증 세트 손실: 0.148619\t최선의 손실: 0.103145\t정확도: 97.58%\n", + "31\t검증 세트 손실: 0.125548\t최선의 손실: 0.103145\t정확도: 98.01%\n", + "32\t검증 세트 손실: 0.125106\t최선의 손실: 0.103145\t정확도: 98.05%\n", + "33\t검증 세트 손실: 0.117627\t최선의 손실: 0.103145\t정확도: 97.81%\n", + "34\t검증 세트 손실: 0.113389\t최선의 손실: 0.103145\t정확도: 97.85%\n", + "35\t검증 세트 손실: 0.123585\t최선의 손실: 0.103145\t정확도: 98.05%\n", + "36\t검증 세트 손실: 0.140380\t최선의 손실: 0.103145\t정확도: 97.65%\n", + "37\t검증 세트 손실: 0.134324\t최선의 손실: 0.103145\t정확도: 97.54%\n", + "38\t검증 세트 손실: 0.123498\t최선의 손실: 0.103145\t정확도: 97.46%\n", + "39\t검증 세트 손실: 0.153561\t최선의 손실: 0.103145\t정확도: 97.46%\n", + "40\t검증 세트 손실: 0.154688\t최선의 손실: 0.103145\t정확도: 97.11%\n", + "41\t검증 세트 손실: 0.130446\t최선의 손실: 0.103145\t정확도: 97.85%\n", + "42\t검증 세트 손실: 0.148464\t최선의 손실: 0.103145\t정확도: 97.85%\n", + "43\t검증 세트 손실: 0.118355\t최선의 손실: 0.103145\t정확도: 97.81%\n", + "44\t검증 세트 손실: 0.136230\t최선의 손실: 0.103145\t정확도: 97.85%\n", + "45\t검증 세트 손실: 0.131272\t최선의 손실: 0.103145\t정확도: 97.42%\n", "조기 종료!\n" ] }, @@ -9743,4411 +8467,5459 @@ "name": "stdout", "output_type": "stream", "text": [ - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10, total= 7.7s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10 \n", - "0\t검증 세트 손실: 0.261918\t최선의 손실: 0.261918\t정확도: 93.43%\n", - "1\t검증 세트 손실: 0.178758\t최선의 손실: 0.178758\t정확도: 94.61%\n", - "2\t검증 세트 손실: 0.235439\t최선의 손실: 0.178758\t정확도: 92.81%\n", - "3\t검증 세트 손실: 0.236573\t최선의 손실: 0.178758\t정확도: 92.30%\n", - "4\t검증 세트 손실: 0.115192\t최선의 손실: 0.115192\t정확도: 96.40%\n", - "5\t검증 세트 손실: 0.096719\t최선의 손실: 0.096719\t정확도: 97.07%\n", - "6\t검증 세트 손실: 0.096867\t최선의 손실: 0.096719\t정확도: 96.72%\n", - "7\t검증 세트 손실: 0.142681\t최선의 손실: 0.096719\t정확도: 95.27%\n", - "8\t검증 세트 손실: 0.103823\t최선의 손실: 0.096719\t정확도: 96.79%\n", - "9\t검증 세트 손실: 0.076379\t최선의 손실: 0.076379\t정확도: 98.05%\n", - "10\t검증 세트 손실: 0.086660\t최선의 손실: 0.076379\t정확도: 97.62%\n", - "11\t검증 세트 손실: 0.085268\t최선의 손실: 0.076379\t정확도: 97.42%\n", - "12\t검증 세트 손실: 0.093674\t최선의 손실: 0.076379\t정확도: 97.65%\n", - "13\t검증 세트 손실: 0.084467\t최선의 손실: 0.076379\t정확도: 97.46%\n", - "14\t검증 세트 손실: 0.098277\t최선의 손실: 0.076379\t정확도: 97.50%\n", - "15\t검증 세트 손실: 0.085251\t최선의 손실: 0.076379\t정확도: 98.05%\n", - "16\t검증 세트 손실: 0.075786\t최선의 손실: 0.075786\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.112947\t최선의 손실: 0.075786\t정확도: 97.85%\n", - "18\t검증 세트 손실: 0.086268\t최선의 손실: 0.075786\t정확도: 97.81%\n", - "19\t검증 세트 손실: 0.073723\t최선의 손실: 0.073723\t정확도: 97.97%\n", - "20\t검증 세트 손실: 0.071825\t최선의 손실: 0.071825\t정확도: 98.08%\n", - "21\t검증 세트 손실: 0.107399\t최선의 손실: 0.071825\t정확도: 97.46%\n", - "22\t검증 세트 손실: 0.096187\t최선의 손실: 0.071825\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.096331\t최선의 손실: 0.071825\t정확도: 98.05%\n", - "24\t검증 세트 손실: 0.088417\t최선의 손실: 0.071825\t정확도: 98.05%\n", - "25\t검증 세트 손실: 0.078061\t최선의 손실: 0.071825\t정확도: 98.55%\n", - "26\t검증 세트 손실: 0.092300\t최선의 손실: 0.071825\t정확도: 98.20%\n", - "27\t검증 세트 손실: 0.082235\t최선의 손실: 0.071825\t정확도: 98.28%\n", - "28\t검증 세트 손실: 0.084093\t최선의 손실: 0.071825\t정확도: 98.12%\n", - "29\t검증 세트 손실: 0.098268\t최선의 손실: 0.071825\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.098040\t최선의 손실: 0.071825\t정확도: 97.89%\n", - "31\t검증 세트 손실: 0.088822\t최선의 손실: 0.071825\t정확도: 98.24%\n", - "32\t검증 세트 손실: 0.134231\t최선의 손실: 0.071825\t정확도: 97.81%\n", - "33\t검증 세트 손실: 0.116151\t최선의 손실: 0.071825\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.122445\t최선의 손실: 0.071825\t정확도: 97.89%\n", - "35\t검증 세트 손실: 0.108890\t최선의 손실: 0.071825\t정확도: 97.93%\n", - "36\t검증 세트 손실: 0.119269\t최선의 손실: 0.071825\t정확도: 97.85%\n", - "37\t검증 세트 손실: 0.102331\t최선의 손실: 0.071825\t정확도: 98.08%\n", - "38\t검증 세트 손실: 0.099484\t최선의 손실: 0.071825\t정확도: 98.24%\n", - "39\t검증 세트 손실: 0.112686\t최선의 손실: 0.071825\t정확도: 97.89%\n", - "40\t검증 세트 손실: 0.102856\t최선의 손실: 0.071825\t정확도: 97.97%\n", - "41\t검증 세트 손실: 0.099985\t최선의 손실: 0.071825\t정확도: 98.24%\n", + "[CV] n_neurons=10, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 9.9s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.080080\t최선의 손실: 0.080080\t정확도: 97.89%\n", + "1\t검증 세트 손실: 0.092514\t최선의 손실: 0.080080\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.081410\t최선의 손실: 0.080080\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.051614\t최선의 손실: 0.051614\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.032424\t최선의 손실: 0.032424\t정확도: 98.98%\n", + "5\t검증 세트 손실: 0.047585\t최선의 손실: 0.032424\t정확도: 98.98%\n", + "6\t검증 세트 손실: 0.041167\t최선의 손실: 0.032424\t정확도: 98.94%\n", + "7\t검증 세트 손실: 0.047764\t최선의 손실: 0.032424\t정확도: 98.98%\n", + "8\t검증 세트 손실: 0.047762\t최선의 손실: 0.032424\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.053901\t최선의 손실: 0.032424\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.043745\t최선의 손실: 0.032424\t정확도: 99.10%\n", + "11\t검증 세트 손실: 0.039792\t최선의 손실: 0.032424\t정확도: 99.06%\n", + "12\t검증 세트 손실: 0.072943\t최선의 손실: 0.032424\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.045442\t최선의 손실: 0.032424\t정확도: 98.87%\n", + "14\t검증 세트 손실: 0.095550\t최선의 손실: 0.032424\t정확도: 98.20%\n", + "15\t검증 세트 손실: 0.067623\t최선의 손실: 0.032424\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.052769\t최선의 손실: 0.032424\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.061735\t최선의 손실: 0.032424\t정확도: 98.55%\n", + "18\t검증 세트 손실: 0.036166\t최선의 손실: 0.032424\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.059061\t최선의 손실: 0.032424\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.051517\t최선의 손실: 0.032424\t정확도: 98.98%\n", + "21\t검증 세트 손실: 0.053336\t최선의 손실: 0.032424\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.049348\t최선의 손실: 0.032424\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.045768\t최선의 손실: 0.032424\t정확도: 99.06%\n", + "24\t검증 세트 손실: 0.039905\t최선의 손실: 0.032424\t정확도: 99.10%\n", + "25\t검증 세트 손실: 0.065233\t최선의 손실: 0.032424\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.99, n_neurons=10, total= 8.4s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160 \n", - "0\t검증 세트 손실: 0.131292\t최선의 손실: 0.131292\t정확도: 96.68%\n", - "1\t검증 세트 손실: 0.082291\t최선의 손실: 0.082291\t정확도: 98.05%\n", - "2\t검증 세트 손실: 0.085017\t최선의 손실: 0.082291\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.076425\t최선의 손실: 0.076425\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.055331\t최선의 손실: 0.055331\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.107172\t최선의 손실: 0.055331\t정확도: 97.69%\n", - "6\t검증 세트 손실: 0.049600\t최선의 손실: 0.049600\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.085594\t최선의 손실: 0.049600\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.061842\t최선의 손실: 0.049600\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.078949\t최선의 손실: 0.049600\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.103661\t최선의 손실: 0.049600\t정확도: 98.28%\n", - "11\t검증 세트 손실: 0.059533\t최선의 손실: 0.049600\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.097808\t최선의 손실: 0.049600\t정확도: 98.16%\n", - "13\t검증 세트 손실: 0.244844\t최선의 손실: 0.049600\t정확도: 97.46%\n", - "14\t검증 세트 손실: 0.055056\t최선의 손실: 0.049600\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.039415\t최선의 손실: 0.039415\t정확도: 99.10%\n", - "16\t검증 세트 손실: 0.047199\t최선의 손실: 0.039415\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.053203\t최선의 손실: 0.039415\t정확도: 98.94%\n", - "18\t검증 세트 손실: 0.178250\t최선의 손실: 0.039415\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.064748\t최선의 손실: 0.039415\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.052132\t최선의 손실: 0.039415\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.099498\t최선의 손실: 0.039415\t정확도: 97.93%\n", - "22\t검증 세트 손실: 0.070346\t최선의 손실: 0.039415\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.068477\t최선의 손실: 0.039415\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.078886\t최선의 손실: 0.039415\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.062279\t최선의 손실: 0.039415\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.056129\t최선의 손실: 0.039415\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.151441\t최선의 손실: 0.039415\t정확도: 97.93%\n", - "28\t검증 세트 손실: 0.199817\t최선의 손실: 0.039415\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.180960\t최선의 손실: 0.039415\t정확도: 98.51%\n", - "30\t검증 세트 손실: 0.093772\t최선의 손실: 0.039415\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.110970\t최선의 손실: 0.039415\t정확도: 98.71%\n", - "32\t검증 세트 손실: 0.081844\t최선의 손실: 0.039415\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.138687\t최선의 손실: 0.039415\t정확도: 98.63%\n", - "34\t검증 세트 손실: 0.124552\t최선의 손실: 0.039415\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.169394\t최선의 손실: 0.039415\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.424007\t최선의 손실: 0.039415\t정확도: 97.65%\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=, total= 19.5s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.092544\t최선의 손실: 0.092544\t정확도: 97.62%\n", + "1\t검증 세트 손실: 0.079073\t최선의 손실: 0.079073\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.054436\t최선의 손실: 0.054436\t정확도: 98.40%\n", + "3\t검증 세트 손실: 0.048706\t최선의 손실: 0.048706\t정확도: 98.71%\n", + "4\t검증 세트 손실: 0.055169\t최선의 손실: 0.048706\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.047038\t최선의 손실: 0.047038\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.040644\t최선의 손실: 0.040644\t정확도: 98.83%\n", + "7\t검증 세트 손실: 0.048129\t최선의 손실: 0.040644\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.023856\t최선의 손실: 0.023856\t정확도: 99.14%\n", + "9\t검증 세트 손실: 0.038769\t최선의 손실: 0.023856\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.058875\t최선의 손실: 0.023856\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.052285\t최선의 손실: 0.023856\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.039437\t최선의 손실: 0.023856\t정확도: 98.91%\n", + "13\t검증 세트 손실: 0.051149\t최선의 손실: 0.023856\t정확도: 99.06%\n", + "14\t검증 세트 손실: 0.041787\t최선의 손실: 0.023856\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.047254\t최선의 손실: 0.023856\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.041466\t최선의 손실: 0.023856\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.073570\t최선의 손실: 0.023856\t정확도: 98.48%\n", + "18\t검증 세트 손실: 0.036228\t최선의 손실: 0.023856\t정확도: 99.06%\n", + "19\t검증 세트 손실: 0.048393\t최선의 손실: 0.023856\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.033793\t최선의 손실: 0.023856\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.050979\t최선의 손실: 0.023856\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.042819\t최선의 손실: 0.023856\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.058537\t최선의 손실: 0.023856\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.077721\t최선의 손실: 0.023856\t정확도: 98.59%\n", + "25\t검증 세트 손실: 0.032734\t최선의 손실: 0.023856\t정확도: 99.34%\n", + "26\t검증 세트 손실: 0.049961\t최선의 손실: 0.023856\t정확도: 99.02%\n", + "27\t검증 세트 손실: 0.034011\t최선의 손실: 0.023856\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.049985\t최선의 손실: 0.023856\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.059916\t최선의 손실: 0.023856\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160, total= 54.6s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160 \n", - "0\t검증 세트 손실: 0.143584\t최선의 손실: 0.143584\t정확도: 96.17%\n", - "1\t검증 세트 손실: 0.131566\t최선의 손실: 0.131566\t정확도: 96.36%\n", - "2\t검증 세트 손실: 0.154665\t최선의 손실: 0.131566\t정확도: 96.29%\n", - "3\t검증 세트 손실: 0.072913\t최선의 손실: 0.072913\t정확도: 98.28%\n", - "4\t검증 세트 손실: 0.141587\t최선의 손실: 0.072913\t정확도: 97.50%\n", - "5\t검증 세트 손실: 0.155106\t최선의 손실: 0.072913\t정확도: 96.60%\n", - "6\t검증 세트 손실: 0.101494\t최선의 손실: 0.072913\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.076734\t최선의 손실: 0.072913\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.062659\t최선의 손실: 0.062659\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.130313\t최선의 손실: 0.062659\t정확도: 96.68%\n", - "10\t검증 세트 손실: 0.155874\t최선의 손실: 0.062659\t정확도: 96.91%\n", - "11\t검증 세트 손실: 0.051767\t최선의 손실: 0.051767\t정확도: 98.59%\n", - "12\t검증 세트 손실: 0.063017\t최선의 손실: 0.051767\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.125207\t최선의 손실: 0.051767\t정확도: 98.08%\n", - "14\t검증 세트 손실: 0.090422\t최선의 손실: 0.051767\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.056263\t최선의 손실: 0.051767\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.063551\t최선의 손실: 0.051767\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.073275\t최선의 손실: 0.051767\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.082253\t최선의 손실: 0.051767\t정확도: 98.63%\n", - "19\t검증 세트 손실: 0.136064\t최선의 손실: 0.051767\t정확도: 97.69%\n", - "20\t검증 세트 손실: 0.084632\t최선의 손실: 0.051767\t정확도: 98.59%\n", - "21\t검증 세트 손실: 0.093283\t최선의 손실: 0.051767\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.083744\t최선의 손실: 0.051767\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.082607\t최선의 손실: 0.051767\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.090446\t최선의 손실: 0.051767\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.227800\t최선의 손실: 0.051767\t정확도: 97.89%\n", - "26\t검증 세트 손실: 0.167068\t최선의 손실: 0.051767\t정확도: 98.36%\n", - "27\t검증 세트 손실: 0.075256\t최선의 손실: 0.051767\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.084884\t최선의 손실: 0.051767\t정확도: 98.83%\n", - "29\t검증 세트 손실: 0.150394\t최선의 손실: 0.051767\t정확도: 98.55%\n", - "30\t검증 세트 손실: 0.077806\t최선의 손실: 0.051767\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.070894\t최선의 손실: 0.051767\t정확도: 98.71%\n", - "32\t검증 세트 손실: 0.095400\t최선의 손실: 0.051767\t정확도: 98.59%\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=, total= 22.3s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.083125\t최선의 손실: 0.083125\t정확도: 97.65%\n", + "1\t검증 세트 손실: 0.060836\t최선의 손실: 0.060836\t정확도: 98.36%\n", + "2\t검증 세트 손실: 0.043750\t최선의 손실: 0.043750\t정확도: 98.71%\n", + "3\t검증 세트 손실: 0.048952\t최선의 손실: 0.043750\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.044694\t최선의 손실: 0.043750\t정확도: 98.79%\n", + "5\t검증 세트 손실: 0.048530\t최선의 손실: 0.043750\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.039806\t최선의 손실: 0.039806\t정확도: 99.10%\n", + "7\t검증 세트 손실: 0.070179\t최선의 손실: 0.039806\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.031977\t최선의 손실: 0.031977\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.051550\t최선의 손실: 0.031977\t정확도: 98.91%\n", + "10\t검증 세트 손실: 0.035002\t최선의 손실: 0.031977\t정확도: 99.10%\n", + "11\t검증 세트 손실: 0.046980\t최선의 손실: 0.031977\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.034325\t최선의 손실: 0.031977\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.039526\t최선의 손실: 0.031977\t정확도: 98.98%\n", + "14\t검증 세트 손실: 0.060433\t최선의 손실: 0.031977\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.053545\t최선의 손실: 0.031977\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.036420\t최선의 손실: 0.031977\t정확도: 99.22%\n", + "17\t검증 세트 손실: 0.059631\t최선의 손실: 0.031977\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.032224\t최선의 손실: 0.031977\t정확도: 99.34%\n", + "19\t검증 세트 손실: 0.031297\t최선의 손실: 0.031297\t정확도: 99.18%\n", + "20\t검증 세트 손실: 0.042613\t최선의 손실: 0.031297\t정확도: 99.06%\n", + "21\t검증 세트 손실: 0.045367\t최선의 손실: 0.031297\t정확도: 99.22%\n", + "22\t검증 세트 손실: 0.033969\t최선의 손실: 0.031297\t정확도: 99.22%\n", + "23\t검증 세트 손실: 0.042175\t최선의 손실: 0.031297\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.064877\t최선의 손실: 0.031297\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.064252\t최선의 손실: 0.031297\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.037347\t최선의 손실: 0.031297\t정확도: 99.18%\n", + "27\t검증 세트 손실: 0.044918\t최선의 손실: 0.031297\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.076397\t최선의 손실: 0.031297\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.040949\t최선의 손실: 0.031297\t정확도: 98.98%\n", + "30\t검증 세트 손실: 0.051489\t최선의 손실: 0.031297\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.046532\t최선의 손실: 0.031297\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.041449\t최선의 손실: 0.031297\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.043210\t최선의 손실: 0.031297\t정확도: 99.22%\n", + "34\t검증 세트 손실: 0.039662\t최선의 손실: 0.031297\t정확도: 99.30%\n", + "35\t검증 세트 손실: 0.054051\t최선의 손실: 0.031297\t정확도: 99.26%\n", + "36\t검증 세트 손실: 0.072612\t최선의 손실: 0.031297\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.050617\t최선의 손실: 0.031297\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.056702\t최선의 손실: 0.031297\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.042876\t최선의 손실: 0.031297\t정확도: 99.06%\n", + "40\t검증 세트 손실: 0.064394\t최선의 손실: 0.031297\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160, total= 48.8s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160 \n", - "0\t검증 세트 손실: 0.125555\t최선의 손실: 0.125555\t정확도: 97.11%\n", - "1\t검증 세트 손실: 0.127064\t최선의 손실: 0.125555\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.137598\t최선의 손실: 0.125555\t정확도: 97.03%\n", - "3\t검증 세트 손실: 0.085083\t최선의 손실: 0.085083\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.057459\t최선의 손실: 0.057459\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.168158\t최선의 손실: 0.057459\t정확도: 96.87%\n", - "6\t검증 세트 손실: 0.162524\t최선의 손실: 0.057459\t정확도: 95.39%\n", - "7\t검증 세트 손실: 0.091804\t최선의 손실: 0.057459\t정확도: 98.63%\n", - "8\t검증 세트 손실: 0.054431\t최선의 손실: 0.054431\t정확도: 98.79%\n", - "9\t검증 세트 손실: 0.076868\t최선의 손실: 0.054431\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.077509\t최선의 손실: 0.054431\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.047990\t최선의 손실: 0.047990\t정확도: 98.98%\n", - "12\t검증 세트 손실: 0.161903\t최선의 손실: 0.047990\t정확도: 97.58%\n", - "13\t검증 세트 손실: 0.086317\t최선의 손실: 0.047990\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.064305\t최선의 손실: 0.047990\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.051832\t최선의 손실: 0.047990\t정확도: 98.91%\n", - "16\t검증 세트 손실: 0.061797\t최선의 손실: 0.047990\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.054310\t최선의 손실: 0.047990\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.057864\t최선의 손실: 0.047990\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.085490\t최선의 손실: 0.047990\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.141062\t최선의 손실: 0.047990\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.055621\t최선의 손실: 0.047990\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.043619\t최선의 손실: 0.043619\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.072820\t최선의 손실: 0.043619\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.040890\t최선의 손실: 0.040890\t정확도: 99.06%\n" + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=, total= 29.6s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.217313\t최선의 손실: 0.217313\t정확도: 94.96%\n", + "1\t검증 세트 손실: 0.115063\t최선의 손실: 0.115063\t정확도: 96.83%\n", + "2\t검증 세트 손실: 0.117242\t최선의 손실: 0.115063\t정확도: 96.72%\n", + "3\t검증 세트 손실: 0.105130\t최선의 손실: 0.105130\t정확도: 96.72%\n", + "4\t검증 세트 손실: 0.633978\t최선의 손실: 0.105130\t정확도: 87.92%\n", + "5\t검증 세트 손실: 0.076208\t최선의 손실: 0.076208\t정확도: 97.81%\n", + "6\t검증 세트 손실: 0.058312\t최선의 손실: 0.058312\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.056057\t최선의 손실: 0.056057\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.103863\t최선의 손실: 0.056057\t정확도: 96.91%\n", + "9\t검증 세트 손실: 0.137787\t최선의 손실: 0.056057\t정확도: 97.50%\n", + "10\t검증 세트 손실: 0.079422\t최선의 손실: 0.056057\t정확도: 97.89%\n", + "11\t검증 세트 손실: 0.052420\t최선의 손실: 0.052420\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.087499\t최선의 손실: 0.052420\t정확도: 98.05%\n", + "13\t검증 세트 손실: 0.109462\t최선의 손실: 0.052420\t정확도: 97.54%\n", + "14\t검증 세트 손실: 0.060631\t최선의 손실: 0.052420\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.052392\t최선의 손실: 0.052392\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.164079\t최선의 손실: 0.052392\t정확도: 96.44%\n", + "17\t검증 세트 손실: 0.061887\t최선의 손실: 0.052392\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.167612\t최선의 손실: 0.052392\t정확도: 96.17%\n", + "19\t검증 세트 손실: 0.052353\t최선의 손실: 0.052353\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.058389\t최선의 손실: 0.052353\t정확도: 98.44%\n", + "21\t검증 세트 손실: 0.055671\t최선의 손실: 0.052353\t정확도: 98.55%\n", + "22\t검증 세트 손실: 0.069211\t최선의 손실: 0.052353\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.064968\t최선의 손실: 0.052353\t정확도: 98.36%\n", + "24\t검증 세트 손실: 0.098448\t최선의 손실: 0.052353\t정확도: 97.11%\n", + "25\t검증 세트 손실: 0.092315\t최선의 손실: 0.052353\t정확도: 98.08%\n", + "26\t검증 세트 손실: 0.055800\t최선의 손실: 0.052353\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.066744\t최선의 손실: 0.052353\t정확도: 98.28%\n", + "28\t검증 세트 손실: 0.056634\t최선의 손실: 0.052353\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.047299\t최선의 손실: 0.047299\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.135871\t최선의 손실: 0.047299\t정확도: 97.34%\n", + "31\t검증 세트 손실: 0.077277\t최선의 손실: 0.047299\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.092611\t최선의 손실: 0.047299\t정확도: 98.05%\n", + "33\t검증 세트 손실: 0.170460\t최선의 손실: 0.047299\t정확도: 96.44%\n", + "34\t검증 세트 손실: 0.052721\t최선의 손실: 0.047299\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.085329\t최선의 손실: 0.047299\t정확도: 98.08%\n", + "36\t검증 세트 손실: 0.054373\t최선의 손실: 0.047299\t정확도: 98.67%\n", + "37\t검증 세트 손실: 0.065407\t최선의 손실: 0.047299\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.067862\t최선의 손실: 0.047299\t정확도: 98.28%\n", + "39\t검증 세트 손실: 0.067992\t최선의 손실: 0.047299\t정확도: 98.24%\n", + "40\t검증 세트 손실: 0.052156\t최선의 손실: 0.047299\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.075198\t최선의 손실: 0.047299\t정확도: 98.36%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "25\t검증 세트 손실: 0.044905\t최선의 손실: 0.040890\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.063882\t최선의 손실: 0.040890\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.084354\t최선의 손실: 0.040890\t정확도: 98.44%\n", - "28\t검증 세트 손실: 0.084978\t최선의 손실: 0.040890\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.273063\t최선의 손실: 0.040890\t정확도: 97.73%\n", - "30\t검증 세트 손실: 0.240195\t최선의 손실: 0.040890\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.123615\t최선의 손실: 0.040890\t정확도: 98.79%\n", - "32\t검증 세트 손실: 0.079183\t최선의 손실: 0.040890\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.086839\t최선의 손실: 0.040890\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.080101\t최선의 손실: 0.040890\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.086596\t최선의 손실: 0.040890\t정확도: 99.30%\n", - "36\t검증 세트 손실: 0.150241\t최선의 손실: 0.040890\t정확도: 98.51%\n", - "37\t검증 세트 손실: 0.069625\t최선의 손실: 0.040890\t정확도: 99.10%\n", - "38\t검증 세트 손실: 0.203317\t최선의 손실: 0.040890\t정확도: 98.51%\n", - "39\t검증 세트 손실: 0.135664\t최선의 손실: 0.040890\t정확도: 99.06%\n", - "40\t검증 세트 손실: 0.097024\t최선의 손실: 0.040890\t정확도: 99.10%\n", - "41\t검증 세트 손실: 0.095055\t최선의 손실: 0.040890\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.109368\t최선의 손실: 0.040890\t정확도: 99.14%\n", - "43\t검증 세트 손실: 0.091120\t최선의 손실: 0.040890\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.076429\t최선의 손실: 0.040890\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.084663\t최선의 손실: 0.040890\t정확도: 98.83%\n", + "42\t검증 세트 손실: 0.094837\t최선의 손실: 0.047299\t정확도: 98.40%\n", + "43\t검증 세트 손실: 0.052107\t최선의 손실: 0.047299\t정확도: 98.75%\n", + "44\t검증 세트 손실: 0.043260\t최선의 손실: 0.043260\t정확도: 98.87%\n", + "45\t검증 세트 손실: 0.083302\t최선의 손실: 0.043260\t정확도: 98.51%\n", + "46\t검증 세트 손실: 0.076422\t최선의 손실: 0.043260\t정확도: 98.40%\n", + "47\t검증 세트 손실: 0.079105\t최선의 손실: 0.043260\t정확도: 98.63%\n", + "48\t검증 세트 손실: 0.049553\t최선의 손실: 0.043260\t정확도: 98.98%\n", + "49\t검증 세트 손실: 0.061157\t최선의 손실: 0.043260\t정확도: 98.98%\n", + "50\t검증 세트 손실: 0.108543\t최선의 손실: 0.043260\t정확도: 97.89%\n", + "51\t검증 세트 손실: 0.161585\t최선의 손실: 0.043260\t정확도: 96.99%\n", + "52\t검증 세트 손실: 0.068128\t최선의 손실: 0.043260\t정확도: 98.87%\n", + "53\t검증 세트 손실: 0.064104\t최선의 손실: 0.043260\t정확도: 98.83%\n", + "54\t검증 세트 손실: 0.058206\t최선의 손실: 0.043260\t정확도: 98.83%\n", + "55\t검증 세트 손실: 0.066946\t최선의 손실: 0.043260\t정확도: 98.67%\n", + "56\t검증 세트 손실: 0.078768\t최선의 손실: 0.043260\t정확도: 98.75%\n", + "57\t검증 세트 손실: 0.113532\t최선의 손실: 0.043260\t정확도: 98.12%\n", + "58\t검증 세트 손실: 0.059879\t최선의 손실: 0.043260\t정확도: 98.44%\n", + "59\t검증 세트 손실: 0.081594\t최선의 손실: 0.043260\t정확도: 98.63%\n", + "60\t검증 세트 손실: 0.059293\t최선의 손실: 0.043260\t정확도: 98.87%\n", + "61\t검증 세트 손실: 0.082164\t최선의 손실: 0.043260\t정확도: 98.71%\n", + "62\t검증 세트 손실: 0.080983\t최선의 손실: 0.043260\t정확도: 98.40%\n", + "63\t검증 세트 손실: 0.082038\t최선의 손실: 0.043260\t정확도: 98.55%\n", + "64\t검증 세트 손실: 0.092105\t최선의 손실: 0.043260\t정확도: 98.48%\n", + "65\t검증 세트 손실: 0.081491\t최선의 손실: 0.043260\t정확도: 98.67%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=160, total= 1.1min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.103826\t최선의 손실: 0.103826\t정확도: 97.38%\n", - "1\t검증 세트 손실: 0.074195\t최선의 손실: 0.074195\t정확도: 98.12%\n", - "2\t검증 세트 손실: 0.051645\t최선의 손실: 0.051645\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.057844\t최선의 손실: 0.051645\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.039945\t최선의 손실: 0.039945\t정확도: 98.94%\n", - "5\t검증 세트 손실: 0.041250\t최선의 손실: 0.039945\t정확도: 98.91%\n", - "6\t검증 세트 손실: 0.046527\t최선의 손실: 0.039945\t정확도: 98.63%\n", - "7\t검증 세트 손실: 0.046481\t최선의 손실: 0.039945\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.043871\t최선의 손실: 0.039945\t정확도: 98.79%\n", - "9\t검증 세트 손실: 0.078152\t최선의 손실: 0.039945\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.055889\t최선의 손실: 0.039945\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.032877\t최선의 손실: 0.032877\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.045403\t최선의 손실: 0.032877\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.043842\t최선의 손실: 0.032877\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.048140\t최선의 손실: 0.032877\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.050625\t최선의 손실: 0.032877\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.061452\t최선의 손실: 0.032877\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.036711\t최선의 손실: 0.032877\t정확도: 99.10%\n", - "18\t검증 세트 손실: 0.029693\t최선의 손실: 0.029693\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.034834\t최선의 손실: 0.029693\t정확도: 99.10%\n", - "20\t검증 세트 손실: 0.064291\t최선의 손실: 0.029693\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.047280\t최선의 손실: 0.029693\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.042938\t최선의 손실: 0.029693\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.053452\t최선의 손실: 0.029693\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.042687\t최선의 손실: 0.029693\t정확도: 99.14%\n", - "25\t검증 세트 손실: 0.057023\t최선의 손실: 0.029693\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.053165\t최선의 손실: 0.029693\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.035902\t최선의 손실: 0.029693\t정확도: 99.18%\n", - "28\t검증 세트 손실: 0.040296\t최선의 손실: 0.029693\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.045511\t최선의 손실: 0.029693\t정확도: 99.02%\n", - "30\t검증 세트 손실: 0.043047\t최선의 손실: 0.029693\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.043463\t최선의 손실: 0.029693\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.040384\t최선의 손실: 0.029693\t정확도: 99.18%\n", - "33\t검증 세트 손실: 0.041974\t최선의 손실: 0.029693\t정확도: 99.14%\n", - "34\t검증 세트 손실: 0.051840\t최선의 손실: 0.029693\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.050005\t최선의 손실: 0.029693\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.044436\t최선의 손실: 0.029693\t정확도: 98.91%\n", - "37\t검증 세트 손실: 0.047727\t최선의 손실: 0.029693\t정확도: 99.34%\n", - "38\t검증 세트 손실: 0.035632\t최선의 손실: 0.029693\t정확도: 99.26%\n", - "39\t검증 세트 손실: 0.040308\t최선의 손실: 0.029693\t정확도: 99.02%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.4min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.214727\t최선의 손실: 0.214727\t정확도: 94.18%\n", + "1\t검증 세트 손실: 0.110156\t최선의 손실: 0.110156\t정확도: 97.50%\n", + "2\t검증 세트 손실: 0.086963\t최선의 손실: 0.086963\t정확도: 97.26%\n", + "3\t검증 세트 손실: 0.093814\t최선의 손실: 0.086963\t정확도: 97.42%\n", + "4\t검증 세트 손실: 0.119708\t최선의 손실: 0.086963\t정확도: 96.33%\n", + "5\t검증 세트 손실: 0.105154\t최선의 손실: 0.086963\t정확도: 96.91%\n", + "6\t검증 세트 손실: 0.079483\t최선의 손실: 0.079483\t정확도: 97.81%\n", + "7\t검증 세트 손실: 0.071351\t최선의 손실: 0.071351\t정확도: 98.16%\n", + "8\t검증 세트 손실: 0.078581\t최선의 손실: 0.071351\t정확도: 98.24%\n", + "9\t검증 세트 손실: 0.076208\t최선의 손실: 0.071351\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.065975\t최선의 손실: 0.065975\t정확도: 98.28%\n", + "11\t검증 세트 손실: 0.064313\t최선의 손실: 0.064313\t정확도: 98.05%\n", + "12\t검증 세트 손실: 0.069494\t최선의 손실: 0.064313\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.494205\t최선의 손실: 0.064313\t정확도: 95.35%\n", + "14\t검증 세트 손실: 0.060563\t최선의 손실: 0.060563\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.068209\t최선의 손실: 0.060563\t정확도: 98.28%\n", + "16\t검증 세트 손실: 0.084326\t최선의 손실: 0.060563\t정확도: 97.97%\n", + "17\t검증 세트 손실: 0.087964\t최선의 손실: 0.060563\t정확도: 98.01%\n", + "18\t검증 세트 손실: 0.068004\t최선의 손실: 0.060563\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.074904\t최선의 손실: 0.060563\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.072500\t최선의 손실: 0.060563\t정확도: 98.51%\n", + "21\t검증 세트 손실: 0.067300\t최선의 손실: 0.060563\t정확도: 98.40%\n", + "22\t검증 세트 손실: 0.062383\t최선의 손실: 0.060563\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.078409\t최선의 손실: 0.060563\t정확도: 98.40%\n", + "24\t검증 세트 손실: 0.051722\t최선의 손실: 0.051722\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.085272\t최선의 손실: 0.051722\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.065044\t최선의 손실: 0.051722\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.068972\t최선의 손실: 0.051722\t정확도: 98.08%\n", + "28\t검증 세트 손실: 0.065420\t최선의 손실: 0.051722\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.080585\t최선의 손실: 0.051722\t정확도: 98.12%\n", + "30\t검증 세트 손실: 0.094361\t최선의 손실: 0.051722\t정확도: 97.62%\n", + "31\t검증 세트 손실: 0.086958\t최선의 손실: 0.051722\t정확도: 97.89%\n", + "32\t검증 세트 손실: 0.053175\t최선의 손실: 0.051722\t정확도: 98.63%\n", + "33\t검증 세트 손실: 0.057198\t최선의 손실: 0.051722\t정확도: 98.48%\n", + "34\t검증 세트 손실: 0.060911\t최선의 손실: 0.051722\t정확도: 98.59%\n", + "35\t검증 세트 손실: 0.046826\t최선의 손실: 0.046826\t정확도: 98.75%\n", + "36\t검증 세트 손실: 0.055840\t최선의 손실: 0.046826\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.082605\t최선의 손실: 0.046826\t정확도: 98.44%\n", + "38\t검증 세트 손실: 0.069131\t최선의 손실: 0.046826\t정확도: 98.05%\n", + "39\t검증 세트 손실: 0.063753\t최선의 손실: 0.046826\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.090189\t최선의 손실: 0.046826\t정확도: 97.89%\n", + "41\t검증 세트 손실: 0.069568\t최선의 손실: 0.046826\t정확도: 98.48%\n", + "42\t검증 세트 손실: 0.087863\t최선의 손실: 0.046826\t정확도: 98.36%\n", + "43\t검증 세트 손실: 0.089015\t최선의 손실: 0.046826\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.078960\t최선의 손실: 0.046826\t정확도: 98.51%\n", + "45\t검증 세트 손실: 0.090124\t최선의 손실: 0.046826\t정확도: 98.05%\n", + "46\t검증 세트 손실: 0.082304\t최선의 손실: 0.046826\t정확도: 98.75%\n", + "47\t검증 세트 손실: 0.094654\t최선의 손실: 0.046826\t정확도: 97.62%\n", + "48\t검증 세트 손실: 0.072199\t최선의 손실: 0.046826\t정확도: 98.28%\n", + "49\t검증 세트 손실: 0.083936\t최선의 손실: 0.046826\t정확도: 98.36%\n", + "50\t검증 세트 손실: 0.091238\t최선의 손실: 0.046826\t정확도: 98.44%\n", + "51\t검증 세트 손실: 0.063769\t최선의 손실: 0.046826\t정확도: 98.98%\n", + "52\t검증 세트 손실: 0.103295\t최선의 손실: 0.046826\t정확도: 98.16%\n", + "53\t검증 세트 손실: 0.116434\t최선의 손실: 0.046826\t정확도: 97.50%\n", + "54\t검증 세트 손실: 0.126143\t최선의 손실: 0.046826\t정확도: 97.11%\n", + "55\t검증 세트 손실: 0.065831\t최선의 손실: 0.046826\t정확도: 98.67%\n", + "56\t검증 세트 손실: 0.095673\t최선의 손실: 0.046826\t정확도: 98.08%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 58.6s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.142975\t최선의 손실: 0.142975\t정확도: 95.50%\n", - "1\t검증 세트 손실: 0.054392\t최선의 손실: 0.054392\t정확도: 98.59%\n", - "2\t검증 세트 손실: 0.080081\t최선의 손실: 0.054392\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.040324\t최선의 손실: 0.040324\t정확도: 98.67%\n", - "4\t검증 세트 손실: 0.060270\t최선의 손실: 0.040324\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.042700\t최선의 손실: 0.040324\t정확도: 98.91%\n", - "6\t검증 세트 손실: 0.042516\t최선의 손실: 0.040324\t정확도: 98.79%\n", - "7\t검증 세트 손실: 0.044706\t최선의 손실: 0.040324\t정확도: 98.94%\n", - "8\t검증 세트 손실: 0.045781\t최선의 손실: 0.040324\t정확도: 98.94%\n", - "9\t검증 세트 손실: 0.039452\t최선의 손실: 0.039452\t정확도: 99.06%\n", - "10\t검증 세트 손실: 0.064771\t최선의 손실: 0.039452\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.043055\t최선의 손실: 0.039452\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.065348\t최선의 손실: 0.039452\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.043307\t최선의 손실: 0.039452\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.043359\t최선의 손실: 0.039452\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.043042\t최선의 손실: 0.039452\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.047767\t최선의 손실: 0.039452\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.037415\t최선의 손실: 0.037415\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.056376\t최선의 손실: 0.037415\t정확도: 98.83%\n", - "19\t검증 세트 손실: 0.043631\t최선의 손실: 0.037415\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.049210\t최선의 손실: 0.037415\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.044375\t최선의 손실: 0.037415\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.067222\t최선의 손실: 0.037415\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.047910\t최선의 손실: 0.037415\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.050672\t최선의 손실: 0.037415\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.046088\t최선의 손실: 0.037415\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.075514\t최선의 손실: 0.037415\t정확도: 98.28%\n", - "27\t검증 세트 손실: 0.039417\t최선의 손실: 0.037415\t정확도: 99.14%\n", - "28\t검증 세트 손실: 0.035568\t최선의 손실: 0.035568\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.056665\t최선의 손실: 0.035568\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.043797\t최선의 손실: 0.035568\t정확도: 99.18%\n", - "31\t검증 세트 손실: 0.048093\t최선의 손실: 0.035568\t정확도: 98.94%\n", - "32\t검증 세트 손실: 0.037790\t최선의 손실: 0.035568\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.035579\t최선의 손실: 0.035568\t정확도: 99.18%\n", - "34\t검증 세트 손실: 0.045644\t최선의 손실: 0.035568\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.047025\t최선의 손실: 0.035568\t정확도: 99.14%\n", - "36\t검증 세트 손실: 0.065017\t최선의 손실: 0.035568\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.043838\t최선의 손실: 0.035568\t정확도: 98.98%\n", - "38\t검증 세트 손실: 0.048180\t최선의 손실: 0.035568\t정확도: 99.06%\n", - "39\t검증 세트 손실: 0.064780\t최선의 손실: 0.035568\t정확도: 98.71%\n", - "40\t검증 세트 손실: 0.049724\t최선의 손실: 0.035568\t정확도: 98.87%\n", - "41\t검증 세트 손실: 0.049605\t최선의 손실: 0.035568\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.045270\t최선의 손실: 0.035568\t정확도: 99.18%\n", - "43\t검증 세트 손실: 0.040992\t최선의 손실: 0.035568\t정확도: 99.18%\n", - "44\t검증 세트 손실: 0.040899\t최선의 손실: 0.035568\t정확도: 99.10%\n", - "45\t검증 세트 손실: 0.056193\t최선의 손실: 0.035568\t정확도: 99.10%\n", - "46\t검증 세트 손실: 0.055284\t최선의 손실: 0.035568\t정확도: 99.14%\n", - "47\t검증 세트 손실: 0.064897\t최선의 손실: 0.035568\t정확도: 98.87%\n", - "48\t검증 세트 손실: 0.035509\t최선의 손실: 0.035509\t정확도: 99.26%\n", - "49\t검증 세트 손실: 0.065829\t최선의 손실: 0.035509\t정확도: 98.91%\n", - "50\t검증 세트 손실: 0.044642\t최선의 손실: 0.035509\t정확도: 99.06%\n", - "51\t검증 세트 손실: 0.036089\t최선의 손실: 0.035509\t정확도: 99.26%\n", - "52\t검증 세트 손실: 0.044617\t최선의 손실: 0.035509\t정확도: 99.18%\n", - "53\t검증 세트 손실: 0.039619\t최선의 손실: 0.035509\t정확도: 99.30%\n", - "54\t검증 세트 손실: 0.064983\t최선의 손실: 0.035509\t정확도: 98.91%\n", - "55\t검증 세트 손실: 0.051789\t최선의 손실: 0.035509\t정확도: 98.94%\n", - "56\t검증 세트 손실: 0.064147\t최선의 손실: 0.035509\t정확도: 98.91%\n", - "57\t검증 세트 손실: 0.059825\t최선의 손실: 0.035509\t정확도: 98.94%\n", - "58\t검증 세트 손실: 0.057077\t최선의 손실: 0.035509\t정확도: 98.98%\n", - "59\t검증 세트 손실: 0.053895\t최선의 손실: 0.035509\t정확도: 99.06%\n", - "60\t검증 세트 손실: 0.054331\t최선의 손실: 0.035509\t정확도: 99.02%\n", - "61\t검증 세트 손실: 0.071560\t최선의 손실: 0.035509\t정확도: 98.98%\n", - "62\t검증 세트 손실: 0.058655\t최선의 손실: 0.035509\t정확도: 98.87%\n", - "63\t검증 세트 손실: 0.046037\t최선의 손실: 0.035509\t정확도: 99.06%\n", - "64\t검증 세트 손실: 0.058089\t최선의 손실: 0.035509\t정확도: 98.94%\n", - "65\t검증 세트 손실: 0.066232\t최선의 손실: 0.035509\t정확도: 99.02%\n", - "66\t검증 세트 손실: 0.063755\t최선의 손실: 0.035509\t정확도: 98.94%\n", - "67\t검증 세트 손실: 0.078273\t최선의 손실: 0.035509\t정확도: 98.55%\n", - "68\t검증 세트 손실: 0.058069\t최선의 손실: 0.035509\t정확도: 99.14%\n", - "69\t검증 세트 손실: 0.057971\t최선의 손실: 0.035509\t정확도: 99.06%\n", - "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 1.7min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100 \n", - "0\t검증 세트 손실: 0.108367\t최선의 손실: 0.108367\t정확도: 96.87%\n", - "1\t검증 세트 손실: 0.071209\t최선의 손실: 0.071209\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.052676\t최선의 손실: 0.052676\t정확도: 98.51%\n", - "3\t검증 세트 손실: 0.053342\t최선의 손실: 0.052676\t정확도: 98.44%\n", - "4\t검증 세트 손실: 0.068954\t최선의 손실: 0.052676\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.042823\t최선의 손실: 0.042823\t정확도: 98.71%\n", - "6\t검증 세트 손실: 0.042508\t최선의 손실: 0.042508\t정확도: 98.71%\n", - "7\t검증 세트 손실: 0.049598\t최선의 손실: 0.042508\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.055941\t최선의 손실: 0.042508\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.037251\t최선의 손실: 0.037251\t정확도: 98.91%\n" + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.4min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.162464\t최선의 손실: 0.162464\t정확도: 95.35%\n", + "1\t검증 세트 손실: 0.081118\t최선의 손실: 0.081118\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.140254\t최선의 손실: 0.081118\t정확도: 96.44%\n", + "3\t검증 세트 손실: 0.084379\t최선의 손실: 0.081118\t정확도: 97.89%\n", + "4\t검증 세트 손실: 0.098138\t최선의 손실: 0.081118\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.132554\t최선의 손실: 0.081118\t정확도: 96.25%\n", + "6\t검증 세트 손실: 0.195606\t최선의 손실: 0.081118\t정확도: 95.23%\n", + "7\t검증 세트 손실: 0.065048\t최선의 손실: 0.065048\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.258814\t최선의 손실: 0.065048\t정확도: 96.40%\n", + "9\t검증 세트 손실: 0.126303\t최선의 손실: 0.065048\t정확도: 96.68%\n", + "10\t검증 세트 손실: 0.078854\t최선의 손실: 0.065048\t정확도: 98.28%\n", + "11\t검증 세트 손실: 0.061055\t최선의 손실: 0.061055\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.086556\t최선의 손실: 0.061055\t정확도: 98.01%\n", + "13\t검증 세트 손실: 0.107388\t최선의 손실: 0.061055\t정확도: 97.62%\n", + "14\t검증 세트 손실: 0.073051\t최선의 손실: 0.061055\t정확도: 98.16%\n", + "15\t검증 세트 손실: 0.084599\t최선의 손실: 0.061055\t정확도: 98.24%\n", + "16\t검증 세트 손실: 0.081950\t최선의 손실: 0.061055\t정확도: 97.97%\n", + "17\t검증 세트 손실: 0.069779\t최선의 손실: 0.061055\t정확도: 98.12%\n", + "18\t검증 세트 손실: 0.061588\t최선의 손실: 0.061055\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.076568\t최선의 손실: 0.061055\t정확도: 97.85%\n", + "20\t검증 세트 손실: 0.059328\t최선의 손실: 0.059328\t정확도: 98.44%\n", + "21\t검증 세트 손실: 0.068299\t최선의 손실: 0.059328\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.049855\t최선의 손실: 0.049855\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.051182\t최선의 손실: 0.049855\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.053092\t최선의 손실: 0.049855\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.061852\t최선의 손실: 0.049855\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.062264\t최선의 손실: 0.049855\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.062711\t최선의 손실: 0.049855\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.053616\t최선의 손실: 0.049855\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.049029\t최선의 손실: 0.049029\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.067207\t최선의 손실: 0.049029\t정확도: 98.08%\n", + "31\t검증 세트 손실: 0.052839\t최선의 손실: 0.049029\t정확도: 98.32%\n", + "32\t검증 세트 손실: 0.047015\t최선의 손실: 0.047015\t정확도: 98.71%\n", + "33\t검증 세트 손실: 0.070994\t최선의 손실: 0.047015\t정확도: 98.20%\n", + "34\t검증 세트 손실: 0.053433\t최선의 손실: 0.047015\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.053188\t최선의 손실: 0.047015\t정확도: 98.59%\n", + "36\t검증 세트 손실: 0.064388\t최선의 손실: 0.047015\t정확도: 98.55%\n", + "37\t검증 세트 손실: 0.043892\t최선의 손실: 0.043892\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.065288\t최선의 손실: 0.043892\t정확도: 98.63%\n", + "39\t검증 세트 손실: 0.063053\t최선의 손실: 0.043892\t정확도: 98.67%\n", + "40\t검증 세트 손실: 0.052121\t최선의 손실: 0.043892\t정확도: 98.83%\n", + "41\t검증 세트 손실: 0.063182\t최선의 손실: 0.043892\t정확도: 98.63%\n", + "42\t검증 세트 손실: 0.055182\t최선의 손실: 0.043892\t정확도: 98.98%\n", + "43\t검증 세트 손실: 0.077992\t최선의 손실: 0.043892\t정확도: 98.36%\n", + "44\t검증 세트 손실: 0.092568\t최선의 손실: 0.043892\t정확도: 98.01%\n", + "45\t검증 세트 손실: 0.060887\t최선의 손실: 0.043892\t정확도: 98.67%\n", + "46\t검증 세트 손실: 0.043804\t최선의 손실: 0.043804\t정확도: 99.06%\n", + "47\t검증 세트 손실: 0.061239\t최선의 손실: 0.043804\t정확도: 98.83%\n", + "48\t검증 세트 손실: 0.054708\t최선의 손실: 0.043804\t정확도: 98.63%\n", + "49\t검증 세트 손실: 0.130640\t최선의 손실: 0.043804\t정확도: 97.69%\n", + "50\t검증 세트 손실: 0.080020\t최선의 손실: 0.043804\t정확도: 98.28%\n", + "51\t검증 세트 손실: 0.062248\t최선의 손실: 0.043804\t정확도: 98.79%\n", + "52\t검증 세트 손실: 0.094046\t최선의 손실: 0.043804\t정확도: 98.71%\n", + "53\t검증 세트 손실: 0.056659\t최선의 손실: 0.043804\t정확도: 98.98%\n", + "54\t검증 세트 손실: 0.066944\t최선의 손실: 0.043804\t정확도: 98.79%\n", + "55\t검증 세트 손실: 0.104474\t최선의 손실: 0.043804\t정확도: 98.16%\n", + "56\t검증 세트 손실: 0.074735\t최선의 손실: 0.043804\t정확도: 98.75%\n", + "57\t검증 세트 손실: 0.080810\t최선의 손실: 0.043804\t정확도: 98.71%\n", + "58\t검증 세트 손실: 0.086583\t최선의 손실: 0.043804\t정확도: 98.44%\n", + "59\t검증 세트 손실: 0.070248\t최선의 손실: 0.043804\t정확도: 98.67%\n", + "60\t검증 세트 손실: 0.119978\t최선의 손실: 0.043804\t정확도: 98.24%\n", + "61\t검증 세트 손실: 0.071117\t최선의 손실: 0.043804\t정확도: 98.83%\n", + "62\t검증 세트 손실: 0.125701\t최선의 손실: 0.043804\t정확도: 98.55%\n", + "63\t검증 세트 손실: 0.064123\t최선의 손실: 0.043804\t정확도: 99.02%\n", + "64\t검증 세트 손실: 0.082337\t최선의 손실: 0.043804\t정확도: 98.75%\n", + "65\t검증 세트 손실: 0.146145\t최선의 손실: 0.043804\t정확도: 97.73%\n", + "66\t검증 세트 손실: 0.079457\t최선의 손실: 0.043804\t정확도: 98.51%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 0.033508\t최선의 손실: 0.033508\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.032493\t최선의 손실: 0.032493\t정확도: 99.22%\n", - "12\t검증 세트 손실: 0.041632\t최선의 손실: 0.032493\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.040585\t최선의 손실: 0.032493\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.043409\t최선의 손실: 0.032493\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.043190\t최선의 손실: 0.032493\t정확도: 98.91%\n", - "16\t검증 세트 손실: 0.031681\t최선의 손실: 0.031681\t정확도: 99.14%\n", - "17\t검증 세트 손실: 0.043424\t최선의 손실: 0.031681\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.036272\t최선의 손실: 0.031681\t정확도: 99.14%\n", - "19\t검증 세트 손실: 0.042642\t최선의 손실: 0.031681\t정확도: 99.18%\n", - "20\t검증 세트 손실: 0.036506\t최선의 손실: 0.031681\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.044711\t최선의 손실: 0.031681\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.049469\t최선의 손실: 0.031681\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.040381\t최선의 손실: 0.031681\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.041399\t최선의 손실: 0.031681\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.033236\t최선의 손실: 0.031681\t정확도: 99.22%\n", - "26\t검증 세트 손실: 0.040205\t최선의 손실: 0.031681\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.036119\t최선의 손실: 0.031681\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.037971\t최선의 손실: 0.031681\t정확도: 99.22%\n", - "29\t검증 세트 손실: 0.041096\t최선의 손실: 0.031681\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.038645\t최선의 손실: 0.031681\t정확도: 99.14%\n", - "31\t검증 세트 손실: 0.040769\t최선의 손실: 0.031681\t정확도: 99.34%\n", - "32\t검증 세트 손실: 0.040687\t최선의 손실: 0.031681\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.055514\t최선의 손실: 0.031681\t정확도: 99.06%\n", - "34\t검증 세트 손실: 0.045935\t최선의 손실: 0.031681\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.039866\t최선의 손실: 0.031681\t정확도: 99.18%\n", - "36\t검증 세트 손실: 0.059583\t최선의 손실: 0.031681\t정확도: 98.71%\n", - "37\t검증 세트 손실: 0.039395\t최선의 손실: 0.031681\t정확도: 99.14%\n", + "67\t검증 세트 손실: 0.070216\t최선의 손실: 0.043804\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=100, total= 55.9s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.071823\t최선의 손실: 0.071823\t정확도: 97.81%\n", - "1\t검증 세트 손실: 0.083366\t최선의 손실: 0.071823\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.047470\t최선의 손실: 0.047470\t정확도: 98.51%\n", - "3\t검증 세트 손실: 0.046650\t최선의 손실: 0.046650\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.033990\t최선의 손실: 0.033990\t정확도: 98.67%\n", - "5\t검증 세트 손실: 0.049786\t최선의 손실: 0.033990\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.036069\t최선의 손실: 0.033990\t정확도: 98.98%\n", - "7\t검증 세트 손실: 0.061283\t최선의 손실: 0.033990\t정확도: 98.75%\n", - "8\t검증 세트 손실: 0.053271\t최선의 손실: 0.033990\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.051755\t최선의 손실: 0.033990\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.046289\t최선의 손실: 0.033990\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.043208\t최선의 손실: 0.033990\t정확도: 98.98%\n", - "12\t검증 세트 손실: 0.038304\t최선의 손실: 0.033990\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.041323\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "14\t검증 세트 손실: 0.066310\t최선의 손실: 0.033990\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.040970\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "16\t검증 세트 손실: 0.047575\t최선의 손실: 0.033990\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.066451\t최선의 손실: 0.033990\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.038625\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.058420\t최선의 손실: 0.033990\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.048692\t최선의 손실: 0.033990\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.049047\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.042355\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.052079\t최선의 손실: 0.033990\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.051709\t최선의 손실: 0.033990\t정확도: 99.06%\n", - "25\t검증 세트 손실: 0.077638\t최선의 손실: 0.033990\t정확도: 98.51%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.7min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.113379\t최선의 손실: 0.113379\t정확도: 96.44%\n", + "1\t검증 세트 손실: 0.077933\t최선의 손실: 0.077933\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.060191\t최선의 손실: 0.060191\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.044346\t최선의 손실: 0.044346\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.081825\t최선의 손실: 0.044346\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.064510\t최선의 손실: 0.044346\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.051187\t최선의 손실: 0.044346\t정확도: 98.83%\n", + "7\t검증 세트 손실: 0.040587\t최선의 손실: 0.040587\t정확도: 98.98%\n", + "8\t검증 세트 손실: 0.045856\t최선의 손실: 0.040587\t정확도: 98.79%\n", + "9\t검증 세트 손실: 0.061598\t최선의 손실: 0.040587\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.067468\t최선의 손실: 0.040587\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.054568\t최선의 손실: 0.040587\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.057790\t최선의 손실: 0.040587\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.048940\t최선의 손실: 0.040587\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.056789\t최선의 손실: 0.040587\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.074316\t최선의 손실: 0.040587\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.070863\t최선의 손실: 0.040587\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.054720\t최선의 손실: 0.040587\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.103840\t최선의 손실: 0.040587\t정확도: 98.12%\n", + "19\t검증 세트 손실: 0.064029\t최선의 손실: 0.040587\t정확도: 98.71%\n", + "20\t검증 세트 손실: 0.042335\t최선의 손실: 0.040587\t정확도: 99.02%\n", + "21\t검증 세트 손실: 0.057563\t최선의 손실: 0.040587\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.092502\t최선의 손실: 0.040587\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.048227\t최선의 손실: 0.040587\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.051457\t최선의 손실: 0.040587\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.074081\t최선의 손실: 0.040587\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.144331\t최선의 손실: 0.040587\t정확도: 98.20%\n", + "27\t검증 세트 손실: 0.049153\t최선의 손실: 0.040587\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.052411\t최선의 손실: 0.040587\t정확도: 99.02%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100, total= 20.6s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.069902\t최선의 손실: 0.069902\t정확도: 98.01%\n", - "1\t검증 세트 손실: 0.049765\t최선의 손실: 0.049765\t정확도: 98.48%\n", - "2\t검증 세트 손실: 0.040777\t최선의 손실: 0.040777\t정확도: 98.67%\n", - "3\t검증 세트 손실: 0.063043\t최선의 손실: 0.040777\t정확도: 98.28%\n", - "4\t검증 세트 손실: 0.037033\t최선의 손실: 0.037033\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.033829\t최선의 손실: 0.033829\t정확도: 99.14%\n", - "6\t검증 세트 손실: 0.042398\t최선의 손실: 0.033829\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.041344\t최선의 손실: 0.033829\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.033271\t최선의 손실: 0.033271\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.055699\t최선의 손실: 0.033271\t정확도: 98.63%\n", - "10\t검증 세트 손실: 0.030584\t최선의 손실: 0.030584\t정확도: 99.18%\n", - "11\t검증 세트 손실: 0.037680\t최선의 손실: 0.030584\t정확도: 98.98%\n", - "12\t검증 세트 손실: 0.058179\t최선의 손실: 0.030584\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.038357\t최선의 손실: 0.030584\t정확도: 99.26%\n", - "14\t검증 세트 손실: 0.045922\t최선의 손실: 0.030584\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.032168\t최선의 손실: 0.030584\t정확도: 99.22%\n", - "16\t검증 세트 손실: 0.049442\t최선의 손실: 0.030584\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.049287\t최선의 손실: 0.030584\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.041647\t최선의 손실: 0.030584\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.044965\t최선의 손실: 0.030584\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.037785\t최선의 손실: 0.030584\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.039188\t최선의 손실: 0.030584\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.039249\t최선의 손실: 0.030584\t정확도: 99.10%\n", - "23\t검증 세트 손실: 0.042254\t최선의 손실: 0.030584\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.035878\t최선의 손실: 0.030584\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.044154\t최선의 손실: 0.030584\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.048598\t최선의 손실: 0.030584\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.039289\t최선의 손실: 0.030584\t정확도: 98.94%\n", - "28\t검증 세트 손실: 0.049076\t최선의 손실: 0.030584\t정확도: 98.83%\n", - "29\t검증 세트 손실: 0.035342\t최선의 손실: 0.030584\t정확도: 99.02%\n", - "30\t검증 세트 손실: 0.048635\t최선의 손실: 0.030584\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.043257\t최선의 손실: 0.030584\t정확도: 98.91%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=, total= 21.4s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.091023\t최선의 손실: 0.091023\t정확도: 96.99%\n", + "1\t검증 세트 손실: 0.067737\t최선의 손실: 0.067737\t정확도: 97.93%\n", + "2\t검증 세트 손실: 0.054668\t최선의 손실: 0.054668\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.072924\t최선의 손실: 0.054668\t정확도: 98.05%\n", + "4\t검증 세트 손실: 0.060826\t최선의 손실: 0.054668\t정확도: 98.20%\n", + "5\t검증 세트 손실: 0.041469\t최선의 손실: 0.041469\t정확도: 98.91%\n", + "6\t검증 세트 손실: 0.046519\t최선의 손실: 0.041469\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.081785\t최선의 손실: 0.041469\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.075516\t최선의 손실: 0.041469\t정확도: 98.44%\n", + "9\t검증 세트 손실: 0.070059\t최선의 손실: 0.041469\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.052893\t최선의 손실: 0.041469\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.057661\t최선의 손실: 0.041469\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.052694\t최선의 손실: 0.041469\t정확도: 98.51%\n", + "13\t검증 세트 손실: 0.051147\t최선의 손실: 0.041469\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.046853\t최선의 손실: 0.041469\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.061841\t최선의 손실: 0.041469\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.042895\t최선의 손실: 0.041469\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.068673\t최선의 손실: 0.041469\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.068223\t최선의 손실: 0.041469\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.063032\t최선의 손실: 0.041469\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.060275\t최선의 손실: 0.041469\t정확도: 98.55%\n", + "21\t검증 세트 손실: 0.054971\t최선의 손실: 0.041469\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.045185\t최선의 손실: 0.041469\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.055282\t최선의 손실: 0.041469\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.043570\t최선의 손실: 0.041469\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.036547\t최선의 손실: 0.036547\t정확도: 99.30%\n", + "26\t검증 세트 손실: 0.055977\t최선의 손실: 0.036547\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.089944\t최선의 손실: 0.036547\t정확도: 98.44%\n", + "28\t검증 세트 손실: 0.245846\t최선의 손실: 0.036547\t정확도: 98.20%\n", + "29\t검증 세트 손실: 0.094630\t최선의 손실: 0.036547\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.081153\t최선의 손실: 0.036547\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.061125\t최선의 손실: 0.036547\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.066801\t최선의 손실: 0.036547\t정확도: 99.10%\n", + "33\t검증 세트 손실: 0.069020\t최선의 손실: 0.036547\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.063393\t최선의 손실: 0.036547\t정확도: 99.02%\n", + "35\t검증 세트 손실: 0.074881\t최선의 손실: 0.036547\t정확도: 98.98%\n", + "36\t검증 세트 손실: 0.053388\t최선의 손실: 0.036547\t정확도: 99.10%\n", + "37\t검증 세트 손실: 0.068163\t최선의 손실: 0.036547\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.090391\t최선의 손실: 0.036547\t정확도: 98.91%\n", + "39\t검증 세트 손실: 0.063951\t최선의 손실: 0.036547\t정확도: 99.02%\n", + "40\t검증 세트 손실: 0.056778\t최선의 손실: 0.036547\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.071385\t최선의 손실: 0.036547\t정확도: 98.67%\n", + "42\t검증 세트 손실: 0.089968\t최선의 손실: 0.036547\t정확도: 98.79%\n", + "43\t검증 세트 손실: 0.075493\t최선의 손실: 0.036547\t정확도: 98.91%\n", + "44\t검증 세트 손실: 0.121321\t최선의 손실: 0.036547\t정확도: 98.51%\n", + "45\t검증 세트 손실: 0.155499\t최선의 손실: 0.036547\t정확도: 98.75%\n", + "46\t검증 세트 손실: 0.117154\t최선의 손실: 0.036547\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100, total= 24.9s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.054882\t최선의 손실: 0.054882\t정확도: 98.24%\n", - "1\t검증 세트 손실: 0.064919\t최선의 손실: 0.054882\t정확도: 97.85%\n", - "2\t검증 세트 손실: 0.039456\t최선의 손실: 0.039456\t정확도: 98.63%\n", - "3\t검증 세트 손실: 0.036158\t최선의 손실: 0.036158\t정확도: 98.83%\n", - "4\t검증 세트 손실: 0.041383\t최선의 손실: 0.036158\t정확도: 98.63%\n", - "5\t검증 세트 손실: 0.028806\t최선의 손실: 0.028806\t정확도: 99.06%\n", - "6\t검증 세트 손실: 0.035948\t최선의 손실: 0.028806\t정확도: 99.06%\n", - "7\t검증 세트 손실: 0.055442\t최선의 손실: 0.028806\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.039821\t최선의 손실: 0.028806\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.050303\t최선의 손실: 0.028806\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.032258\t최선의 손실: 0.028806\t정확도: 99.14%\n", - "11\t검증 세트 손실: 0.041545\t최선의 손실: 0.028806\t정확도: 98.94%\n", - "12\t검증 세트 손실: 0.043764\t최선의 손실: 0.028806\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.037222\t최선의 손실: 0.028806\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.045524\t최선의 손실: 0.028806\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.038451\t최선의 손실: 0.028806\t정확도: 98.83%\n", - "16\t검증 세트 손실: 0.041416\t최선의 손실: 0.028806\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.031743\t최선의 손실: 0.028806\t정확도: 99.22%\n", - "18\t검증 세트 손실: 0.043602\t최선의 손실: 0.028806\t정확도: 99.18%\n", - "19\t검증 세트 손실: 0.045299\t최선의 손실: 0.028806\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.039791\t최선의 손실: 0.028806\t정확도: 99.02%\n", - "21\t검증 세트 손실: 0.045720\t최선의 손실: 0.028806\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.035187\t최선의 손실: 0.028806\t정확도: 99.10%\n", - "23\t검증 세트 손실: 0.034243\t최선의 손실: 0.028806\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.034647\t최선의 손실: 0.028806\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.043237\t최선의 손실: 0.028806\t정확도: 99.14%\n", - "26\t검증 세트 손실: 0.039599\t최선의 손실: 0.028806\t정확도: 99.18%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=, total= 33.8s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.097070\t최선의 손실: 0.097070\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.087114\t최선의 손실: 0.087114\t정확도: 97.22%\n", + "2\t검증 세트 손실: 0.058859\t최선의 손실: 0.058859\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.053869\t최선의 손실: 0.053869\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.062756\t최선의 손실: 0.053869\t정확도: 98.01%\n", + "5\t검증 세트 손실: 0.041787\t최선의 손실: 0.041787\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.078907\t최선의 손실: 0.041787\t정확도: 97.85%\n", + "7\t검증 세트 손실: 0.072414\t최선의 손실: 0.041787\t정확도: 98.01%\n", + "8\t검증 세트 손실: 0.072195\t최선의 손실: 0.041787\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.082474\t최선의 손실: 0.041787\t정확도: 98.01%\n", + "10\t검증 세트 손실: 0.074311\t최선의 손실: 0.041787\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.059944\t최선의 손실: 0.041787\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.048036\t최선의 손실: 0.041787\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.055659\t최선의 손실: 0.041787\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.055262\t최선의 손실: 0.041787\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.059843\t최선의 손실: 0.041787\t정확도: 98.59%\n", + "16\t검증 세트 손실: 0.066237\t최선의 손실: 0.041787\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.065093\t최선의 손실: 0.041787\t정확도: 98.55%\n", + "18\t검증 세트 손실: 0.053835\t최선의 손실: 0.041787\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.050445\t최선의 손실: 0.041787\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.064083\t최선의 손실: 0.041787\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.070569\t최선의 손실: 0.041787\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.073836\t최선의 손실: 0.041787\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.129780\t최선의 손실: 0.041787\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.069145\t최선의 손실: 0.041787\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.048617\t최선의 손실: 0.041787\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.052386\t최선의 손실: 0.041787\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=100, total= 21.4s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 1.503221\t최선의 손실: 1.503221\t정확도: 94.88%\n", - "1\t검증 세트 손실: 0.343883\t최선의 손실: 0.343883\t정확도: 96.48%\n", - "2\t검증 세트 손실: 0.175401\t최선의 손실: 0.175401\t정확도: 97.19%\n", - "3\t검증 세트 손실: 0.102898\t최선의 손실: 0.102898\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.108465\t최선의 손실: 0.102898\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.107050\t최선의 손실: 0.102898\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.099710\t최선의 손실: 0.099710\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.118917\t최선의 손실: 0.099710\t정확도: 97.77%\n", - "8\t검증 세트 손실: 0.079577\t최선의 손실: 0.079577\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.057785\t최선의 손실: 0.057785\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.097087\t최선의 손실: 0.057785\t정확도: 98.05%\n", - "11\t검증 세트 손실: 0.063840\t최선의 손실: 0.057785\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.068493\t최선의 손실: 0.057785\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.070257\t최선의 손실: 0.057785\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.166567\t최선의 손실: 0.057785\t정확도: 97.65%\n", - "15\t검증 세트 손실: 0.074752\t최선의 손실: 0.057785\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.068044\t최선의 손실: 0.057785\t정확도: 98.63%\n", - "17\t검증 세트 손실: 0.066281\t최선의 손실: 0.057785\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.067086\t최선의 손실: 0.057785\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.079633\t최선의 손실: 0.057785\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.089050\t최선의 손실: 0.057785\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.067924\t최선의 손실: 0.057785\t정확도: 98.79%\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.9, activation=, total= 20.1s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.108861\t최선의 손실: 0.108861\t정확도: 96.83%\n", + "1\t검증 세트 손실: 0.070240\t최선의 손실: 0.070240\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.066796\t최선의 손실: 0.066796\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.071960\t최선의 손실: 0.066796\t정확도: 97.93%\n", + "4\t검증 세트 손실: 0.060657\t최선의 손실: 0.060657\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.045445\t최선의 손실: 0.045445\t정확도: 98.75%\n", + "6\t검증 세트 손실: 0.068972\t최선의 손실: 0.045445\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.064098\t최선의 손실: 0.045445\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.070425\t최선의 손실: 0.045445\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.057886\t최선의 손실: 0.045445\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.049105\t최선의 손실: 0.045445\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.033542\t최선의 손실: 0.033542\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.059944\t최선의 손실: 0.033542\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.220161\t최선의 손실: 0.033542\t정확도: 96.68%\n", + "14\t검증 세트 손실: 0.054136\t최선의 손실: 0.033542\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.042362\t최선의 손실: 0.033542\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.058012\t최선의 손실: 0.033542\t정확도: 98.94%\n", + "17\t검증 세트 손실: 0.059026\t최선의 손실: 0.033542\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.072857\t최선의 손실: 0.033542\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.076265\t최선의 손실: 0.033542\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.072284\t최선의 손실: 0.033542\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.286461\t최선의 손실: 0.033542\t정확도: 95.07%\n", + "22\t검증 세트 손실: 0.076530\t최선의 손실: 0.033542\t정확도: 98.59%\n", + "23\t검증 세트 손실: 0.049338\t최선의 손실: 0.033542\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.062917\t최선의 손실: 0.033542\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.056876\t최선의 손실: 0.033542\t정확도: 99.14%\n", + "26\t검증 세트 손실: 0.045357\t최선의 손실: 0.033542\t정확도: 99.30%\n", + "27\t검증 세트 손실: 0.120712\t최선의 손실: 0.033542\t정확도: 98.40%\n", + "28\t검증 세트 손실: 0.089306\t최선의 손실: 0.033542\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.074620\t최선의 손실: 0.033542\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.073269\t최선의 손실: 0.033542\t정확도: 99.02%\n", + "31\t검증 세트 손실: 0.051779\t최선의 손실: 0.033542\t정확도: 99.26%\n", + "32\t검증 세트 손실: 0.061295\t최선의 손실: 0.033542\t정확도: 99.18%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation=, total= 45.7s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "22\t검증 세트 손실: 0.066985\t최선의 손실: 0.057785\t정확도: 98.87%\n", - "23\t검증 세트 손실: 0.062243\t최선의 손실: 0.057785\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.061462\t최선의 손실: 0.057785\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.075491\t최선의 손실: 0.057785\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.122943\t최선의 손실: 0.057785\t정확도: 97.93%\n", - "27\t검증 세트 손실: 0.082544\t최선의 손실: 0.057785\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.082735\t최선의 손실: 0.057785\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.058160\t최선의 손실: 0.057785\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.074064\t최선의 손실: 0.057785\t정확도: 98.79%\n", + "0\t검증 세트 손실: 0.110283\t최선의 손실: 0.110283\t정확도: 96.64%\n", + "1\t검증 세트 손실: 0.088689\t최선의 손실: 0.088689\t정확도: 97.30%\n", + "2\t검증 세트 손실: 0.082828\t최선의 손실: 0.082828\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.058139\t최선의 손실: 0.058139\t정확도: 98.05%\n", + "4\t검증 세트 손실: 0.049922\t최선의 손실: 0.049922\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.056116\t최선의 손실: 0.049922\t정확도: 98.63%\n", + "6\t검증 세트 손실: 0.062227\t최선의 손실: 0.049922\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.057246\t최선의 손실: 0.049922\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.133806\t최선의 손실: 0.049922\t정확도: 97.42%\n", + "9\t검증 세트 손실: 0.065678\t최선의 손실: 0.049922\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.048292\t최선의 손실: 0.048292\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.046533\t최선의 손실: 0.046533\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.064625\t최선의 손실: 0.046533\t정확도: 98.71%\n", + "13\t검증 세트 손실: 0.066719\t최선의 손실: 0.046533\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.090277\t최선의 손실: 0.046533\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.043682\t최선의 손실: 0.043682\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.060384\t최선의 손실: 0.043682\t정확도: 98.75%\n", + "17\t검증 세트 손실: 0.097800\t최선의 손실: 0.043682\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.092889\t최선의 손실: 0.043682\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.049688\t최선의 손실: 0.043682\t정확도: 99.02%\n", + "20\t검증 세트 손실: 0.052794\t최선의 손실: 0.043682\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.042165\t최선의 손실: 0.042165\t정확도: 99.18%\n", + "22\t검증 세트 손실: 0.069081\t최선의 손실: 0.042165\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.067200\t최선의 손실: 0.042165\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.111505\t최선의 손실: 0.042165\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.214609\t최선의 손실: 0.042165\t정확도: 98.28%\n", + "26\t검증 세트 손실: 0.066094\t최선의 손실: 0.042165\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.058753\t최선의 손실: 0.042165\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.060909\t최선의 손실: 0.042165\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.060825\t최선의 손실: 0.042165\t정확도: 99.14%\n", + "30\t검증 세트 손실: 0.060405\t최선의 손실: 0.042165\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.113069\t최선의 손실: 0.042165\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.090242\t최선의 손실: 0.042165\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.065164\t최선의 손실: 0.042165\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.057664\t최선의 손실: 0.042165\t정확도: 99.22%\n", + "35\t검증 세트 손실: 0.061140\t최선의 손실: 0.042165\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.063806\t최선의 손실: 0.042165\t정확도: 99.02%\n", + "37\t검증 세트 손실: 0.059989\t최선의 손실: 0.042165\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.167673\t최선의 손실: 0.042165\t정확도: 98.36%\n", + "39\t검증 세트 손실: 0.162391\t최선의 손실: 0.042165\t정확도: 98.44%\n", + "40\t검증 세트 손실: 0.118098\t최선의 손실: 0.042165\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.104305\t최선의 손실: 0.042165\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.075434\t최선의 손실: 0.042165\t정확도: 99.02%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90, total= 7.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 2.611147\t최선의 손실: 2.611147\t정확도: 92.89%\n", - "1\t검증 세트 손실: 0.329195\t최선의 손실: 0.329195\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.222968\t최선의 손실: 0.222968\t정확도: 97.15%\n", - "3\t검증 세트 손실: 0.108871\t최선의 손실: 0.108871\t정확도: 97.42%\n", - "4\t검증 세트 손실: 0.147907\t최선의 손실: 0.108871\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.128718\t최선의 손실: 0.108871\t정확도: 97.46%\n", - "6\t검증 세트 손실: 0.080175\t최선의 손실: 0.080175\t정확도: 98.20%\n", - "7\t검증 세트 손실: 0.064961\t최선의 손실: 0.064961\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.067571\t최선의 손실: 0.064961\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.062239\t최선의 손실: 0.062239\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.132144\t최선의 손실: 0.062239\t정확도: 97.58%\n", - "11\t검증 세트 손실: 0.090287\t최선의 손실: 0.062239\t정확도: 98.48%\n", - "12\t검증 세트 손실: 0.061763\t최선의 손실: 0.061763\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.084429\t최선의 손실: 0.061763\t정확도: 98.40%\n", - "14\t검증 세트 손실: 0.072295\t최선의 손실: 0.061763\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.079541\t최선의 손실: 0.061763\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.076270\t최선의 손실: 0.061763\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.073179\t최선의 손실: 0.061763\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.068456\t최선의 손실: 0.061763\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.065106\t최선의 손실: 0.061763\t정확도: 99.02%\n", - "20\t검증 세트 손실: 0.098396\t최선의 손실: 0.061763\t정확도: 98.36%\n", - "21\t검증 세트 손실: 0.062987\t최선의 손실: 0.061763\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.070724\t최선의 손실: 0.061763\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.060606\t최선의 손실: 0.060606\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.063149\t최선의 손실: 0.060606\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.086013\t최선의 손실: 0.060606\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.061112\t최선의 손실: 0.060606\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.079881\t최선의 손실: 0.060606\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.073265\t최선의 손실: 0.060606\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.070313\t최선의 손실: 0.060606\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.090095\t최선의 손실: 0.060606\t정확도: 98.36%\n", - "31\t검증 세트 손실: 0.072101\t최선의 손실: 0.060606\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.070241\t최선의 손실: 0.060606\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.085835\t최선의 손실: 0.060606\t정확도: 98.40%\n", - "34\t검증 세트 손실: 0.068177\t최선의 손실: 0.060606\t정확도: 98.98%\n", - "35\t검증 세트 손실: 0.069700\t최선의 손실: 0.060606\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.083005\t최선의 손실: 0.060606\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.065944\t최선의 손실: 0.060606\t정확도: 98.94%\n", - "38\t검증 세트 손실: 0.060114\t최선의 손실: 0.060114\t정확도: 99.06%\n", - "39\t검증 세트 손실: 0.067219\t최선의 손실: 0.060114\t정확도: 99.10%\n", - "40\t검증 세트 손실: 0.067212\t최선의 손실: 0.060114\t정확도: 98.71%\n", - "41\t검증 세트 손실: 0.062099\t최선의 손실: 0.060114\t정확도: 98.79%\n", - "42\t검증 세트 손실: 0.046679\t최선의 손실: 0.046679\t정확도: 99.18%\n", - "43\t검증 세트 손실: 0.061170\t최선의 손실: 0.046679\t정확도: 99.06%\n", - "44\t검증 세트 손실: 0.086005\t최선의 손실: 0.046679\t정확도: 98.67%\n", - "45\t검증 세트 손실: 0.071463\t최선의 손실: 0.046679\t정확도: 98.79%\n", - "46\t검증 세트 손실: 0.070531\t최선의 손실: 0.046679\t정확도: 98.75%\n", - "47\t검증 세트 손실: 0.087820\t최선의 손실: 0.046679\t정확도: 98.67%\n", - "48\t검증 세트 손실: 0.100402\t최선의 손실: 0.046679\t정확도: 98.51%\n", - "49\t검증 세트 손실: 0.076931\t최선의 손실: 0.046679\t정확도: 98.83%\n", - "50\t검증 세트 손실: 0.067172\t최선의 손실: 0.046679\t정확도: 98.98%\n", - "51\t검증 세트 손실: 0.074445\t최선의 손실: 0.046679\t정확도: 98.98%\n", - "52\t검증 세트 손실: 0.080193\t최선의 손실: 0.046679\t정확도: 98.75%\n", - "53\t검증 세트 손실: 0.074057\t최선의 손실: 0.046679\t정확도: 99.14%\n", - "54\t검증 세트 손실: 0.068816\t최선의 손실: 0.046679\t정확도: 99.10%\n", - "55\t검증 세트 손실: 0.072120\t최선의 손실: 0.046679\t정확도: 98.94%\n", - "56\t검증 세트 손실: 0.074556\t최선의 손실: 0.046679\t정확도: 99.14%\n", - "57\t검증 세트 손실: 0.067679\t최선의 손실: 0.046679\t정확도: 99.10%\n", - "58\t검증 세트 손실: 0.095872\t최선의 손실: 0.046679\t정확도: 98.71%\n", - "59\t검증 세트 손실: 0.096095\t최선의 손실: 0.046679\t정확도: 98.75%\n", - "60\t검증 세트 손실: 0.093343\t최선의 손실: 0.046679\t정확도: 98.87%\n", - "61\t검증 세트 손실: 0.105578\t최선의 손실: 0.046679\t정확도: 98.59%\n", - "62\t검증 세트 손실: 0.105666\t최선의 손실: 0.046679\t정확도: 98.16%\n", - "63\t검증 세트 손실: 0.084279\t최선의 손실: 0.046679\t정확도: 98.94%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation=, total= 59.0s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.122466\t최선의 손실: 0.122466\t정확도: 96.56%\n", + "1\t검증 세트 손실: 0.088246\t최선의 손실: 0.088246\t정확도: 97.19%\n", + "2\t검증 세트 손실: 0.070291\t최선의 손실: 0.070291\t정확도: 97.77%\n", + "3\t검증 세트 손실: 0.075099\t최선의 손실: 0.070291\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.083599\t최선의 손실: 0.070291\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.051380\t최선의 손실: 0.051380\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.095099\t최선의 손실: 0.051380\t정확도: 97.65%\n", + "7\t검증 세트 손실: 0.083727\t최선의 손실: 0.051380\t정확도: 98.36%\n", + "8\t검증 세트 손실: 0.056950\t최선의 손실: 0.051380\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.092848\t최선의 손실: 0.051380\t정확도: 97.62%\n", + "10\t검증 세트 손실: 0.049693\t최선의 손실: 0.049693\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.042854\t최선의 손실: 0.042854\t정확도: 98.63%\n", + "12\t검증 세트 손실: 0.064497\t최선의 손실: 0.042854\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.051712\t최선의 손실: 0.042854\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.086660\t최선의 손실: 0.042854\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.148951\t최선의 손실: 0.042854\t정확도: 98.44%\n", + "16\t검증 세트 손실: 0.082317\t최선의 손실: 0.042854\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.049374\t최선의 손실: 0.042854\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.042589\t최선의 손실: 0.042589\t정확도: 98.87%\n", + "19\t검증 세트 손실: 0.044015\t최선의 손실: 0.042589\t정확도: 99.14%\n", + "20\t검증 세트 손실: 0.074145\t최선의 손실: 0.042589\t정확도: 98.51%\n", + "21\t검증 세트 손실: 0.055267\t최선의 손실: 0.042589\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.086131\t최선의 손실: 0.042589\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.056578\t최선의 손실: 0.042589\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.061143\t최선의 손실: 0.042589\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.056499\t최선의 손실: 0.042589\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.064812\t최선의 손실: 0.042589\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.046709\t최선의 손실: 0.042589\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.088509\t최선의 손실: 0.042589\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.080761\t최선의 손실: 0.042589\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.039041\t최선의 손실: 0.039041\t정확도: 99.22%\n", + "31\t검증 세트 손실: 0.050280\t최선의 손실: 0.039041\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.054074\t최선의 손실: 0.039041\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.058631\t최선의 손실: 0.039041\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.110444\t최선의 손실: 0.039041\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.073900\t최선의 손실: 0.039041\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.056379\t최선의 손실: 0.039041\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.057838\t최선의 손실: 0.039041\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.077574\t최선의 손실: 0.039041\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.144159\t최선의 손실: 0.039041\t정확도: 98.44%\n", + "40\t검증 세트 손실: 0.093827\t최선의 손실: 0.039041\t정확도: 98.83%\n", + "41\t검증 세트 손실: 0.063468\t최선의 손실: 0.039041\t정확도: 99.02%\n", + "42\t검증 세트 손실: 0.048729\t최선의 손실: 0.039041\t정확도: 99.22%\n", + "43\t검증 세트 손실: 0.072583\t최선의 손실: 0.039041\t정확도: 99.18%\n", + "44\t검증 세트 손실: 0.058787\t최선의 손실: 0.039041\t정확도: 99.18%\n", + "45\t검증 세트 손실: 0.061962\t최선의 손실: 0.039041\t정확도: 99.22%\n", + "46\t검증 세트 손실: 0.053208\t최선의 손실: 0.039041\t정확도: 99.10%\n", + "47\t검증 세트 손실: 0.046544\t최선의 손실: 0.039041\t정확도: 99.22%\n", + "48\t검증 세트 손실: 0.116007\t최선의 손실: 0.039041\t정확도: 98.28%\n", + "49\t검증 세트 손실: 0.137169\t최선의 손실: 0.039041\t정확도: 98.94%\n", + "50\t검증 세트 손실: 0.103760\t최선의 손실: 0.039041\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.088912\t최선의 손실: 0.039041\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90, total= 12.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90 \n", - "0\t검증 세트 손실: 4.188056\t최선의 손실: 4.188056\t정확도: 87.26%\n", - "1\t검증 세트 손실: 0.365153\t최선의 손실: 0.365153\t정확도: 95.90%\n", - "2\t검증 세트 손실: 0.112459\t최선의 손실: 0.112459\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.096663\t최선의 손실: 0.096663\t정확도: 98.32%\n", - "4\t검증 세트 손실: 0.106690\t최선의 손실: 0.096663\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.061962\t최선의 손실: 0.061962\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.072431\t최선의 손실: 0.061962\t정확도: 98.55%\n", - "7\t검증 세트 손실: 0.084203\t최선의 손실: 0.061962\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.070452\t최선의 손실: 0.061962\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.056691\t최선의 손실: 0.056691\t정확도: 98.98%\n", - "10\t검증 세트 손실: 0.099957\t최선의 손실: 0.056691\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.086883\t최선의 손실: 0.056691\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.058331\t최선의 손실: 0.056691\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.083885\t최선의 손실: 0.056691\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.070222\t최선의 손실: 0.056691\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.097227\t최선의 손실: 0.056691\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.068876\t최선의 손실: 0.056691\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.063989\t최선의 손실: 0.056691\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.062172\t최선의 손실: 0.056691\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.069789\t최선의 손실: 0.056691\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.049966\t최선의 손실: 0.049966\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.059355\t최선의 손실: 0.049966\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.083066\t최선의 손실: 0.049966\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.114039\t최선의 손실: 0.049966\t정확도: 98.24%\n", - "24\t검증 세트 손실: 0.074058\t최선의 손실: 0.049966\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.100097\t최선의 손실: 0.049966\t정확도: 98.16%\n", - "26\t검증 세트 손실: 0.112392\t최선의 손실: 0.049966\t정확도: 98.20%\n", - "27\t검증 세트 손실: 0.073895\t최선의 손실: 0.049966\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.065203\t최선의 손실: 0.049966\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.080323\t최선의 손실: 0.049966\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.085915\t최선의 손실: 0.049966\t정확도: 98.63%\n", - "31\t검증 세트 손실: 0.049056\t최선의 손실: 0.049056\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.061053\t최선의 손실: 0.049056\t정확도: 98.75%\n", - "33\t검증 세트 손실: 0.061734\t최선의 손실: 0.049056\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.070944\t최선의 손실: 0.049056\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.065535\t최선의 손실: 0.049056\t정확도: 98.71%\n", - "36\t검증 세트 손실: 0.084605\t최선의 손실: 0.049056\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.086431\t최선의 손실: 0.049056\t정확도: 98.87%\n", - "38\t검증 세트 손실: 0.067088\t최선의 손실: 0.049056\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.064376\t최선의 손실: 0.049056\t정확도: 98.91%\n", - "40\t검증 세트 손실: 0.064298\t최선의 손실: 0.049056\t정확도: 98.83%\n", - "41\t검증 세트 손실: 0.058764\t최선의 손실: 0.049056\t정확도: 99.10%\n", - "42\t검증 세트 손실: 0.064812\t최선의 손실: 0.049056\t정확도: 98.71%\n", - "43\t검증 세트 손실: 0.059420\t최선의 손실: 0.049056\t정확도: 98.79%\n", - "44\t검증 세트 손실: 0.074673\t최선의 손실: 0.049056\t정확도: 98.79%\n", - "45\t검증 세트 손실: 0.068775\t최선의 손실: 0.049056\t정확도: 98.71%\n", - "46\t검증 세트 손실: 0.066007\t최선의 손실: 0.049056\t정확도: 98.79%\n", - "47\t검증 세트 손실: 0.066143\t최선의 손실: 0.049056\t정확도: 98.87%\n", - "48\t검증 세트 손실: 0.059352\t최선의 손실: 0.049056\t정확도: 98.94%\n", - "49\t검증 세트 손실: 0.050026\t최선의 손실: 0.049056\t정확도: 99.14%\n", - "50\t검증 세트 손실: 0.046825\t최선의 손실: 0.046825\t정확도: 99.06%\n", - "51\t검증 세트 손실: 0.052854\t최선의 손실: 0.046825\t정확도: 98.87%\n", - "52\t검증 세트 손실: 0.051145\t최선의 손실: 0.046825\t정확도: 99.06%\n", - "53\t검증 세트 손실: 0.081614\t최선의 손실: 0.046825\t정확도: 98.55%\n", - "54\t검증 세트 손실: 0.077910\t최선의 손실: 0.046825\t정확도: 98.79%\n", - "55\t검증 세트 손실: 0.082054\t최선의 손실: 0.046825\t정확도: 98.91%\n", - "56\t검증 세트 손실: 0.101228\t최선의 손실: 0.046825\t정확도: 98.44%\n", - "57\t검증 세트 손실: 0.103586\t최선의 손실: 0.046825\t정확도: 98.28%\n", - "58\t검증 세트 손실: 0.082251\t최선의 손실: 0.046825\t정확도: 98.87%\n", - "59\t검증 세트 손실: 0.066926\t최선의 손실: 0.046825\t정확도: 99.02%\n", - "60\t검증 세트 손실: 0.084568\t최선의 손실: 0.046825\t정확도: 98.71%\n", - "61\t검증 세트 손실: 0.138635\t최선의 손실: 0.046825\t정확도: 98.32%\n", - "62\t검증 세트 손실: 0.091414\t최선의 손실: 0.046825\t정확도: 98.44%\n", - "63\t검증 세트 손실: 0.114701\t최선의 손실: 0.046825\t정확도: 98.48%\n", - "64\t검증 세트 손실: 0.082429\t최선의 손실: 0.046825\t정확도: 98.55%\n", - "65\t검증 세트 손실: 0.101483\t최선의 손실: 0.046825\t정확도: 98.75%\n", - "66\t검증 세트 손실: 0.138116\t최선의 손실: 0.046825\t정확도: 97.93%\n", - "67\t검증 세트 손실: 0.074277\t최선의 손실: 0.046825\t정확도: 98.75%\n", - "68\t검증 세트 손실: 0.058912\t최선의 손실: 0.046825\t정확도: 98.83%\n", - "69\t검증 세트 손실: 0.054195\t최선의 손실: 0.046825\t정확도: 99.06%\n", - "70\t검증 세트 손실: 0.047374\t최선의 손실: 0.046825\t정확도: 99.10%\n", - "71\t검증 세트 손실: 0.046731\t최선의 손실: 0.046731\t정확도: 99.18%\n", - "72\t검증 세트 손실: 0.047290\t최선의 손실: 0.046731\t정확도: 99.14%\n", - "73\t검증 세트 손실: 0.053576\t최선의 손실: 0.046731\t정확도: 98.98%\n", - "74\t검증 세트 손실: 0.105883\t최선의 손실: 0.046731\t정확도: 98.63%\n", - "75\t검증 세트 손실: 0.087025\t최선의 손실: 0.046731\t정확도: 98.87%\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.9, activation=, total= 1.2min\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.172444\t최선의 손실: 0.172444\t정확도: 96.56%\n", + "1\t검증 세트 손실: 0.133056\t최선의 손실: 0.133056\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.133796\t최선의 손실: 0.133056\t정확도: 96.60%\n", + "3\t검증 세트 손실: 0.081537\t최선의 손실: 0.081537\t정확도: 97.73%\n", + "4\t검증 세트 손실: 0.071010\t최선의 손실: 0.071010\t정확도: 98.24%\n", + "5\t검증 세트 손실: 0.081727\t최선의 손실: 0.071010\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.103518\t최선의 손실: 0.071010\t정확도: 97.11%\n", + "7\t검증 세트 손실: 0.091328\t최선의 손실: 0.071010\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.087866\t최선의 손실: 0.071010\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.074479\t최선의 손실: 0.071010\t정확도: 98.16%\n", + "10\t검증 세트 손실: 0.069892\t최선의 손실: 0.069892\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.084731\t최선의 손실: 0.069892\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.076013\t최선의 손실: 0.069892\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.063745\t최선의 손실: 0.063745\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.075080\t최선의 손실: 0.063745\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.148371\t최선의 손실: 0.063745\t정확도: 98.08%\n", + "16\t검증 세트 손실: 0.059868\t최선의 손실: 0.059868\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.066228\t최선의 손실: 0.059868\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.087813\t최선의 손실: 0.059868\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.132460\t최선의 손실: 0.059868\t정확도: 97.89%\n", + "20\t검증 세트 손실: 0.069547\t최선의 손실: 0.059868\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.083335\t최선의 손실: 0.059868\t정확도: 98.12%\n", + "22\t검증 세트 손실: 0.099323\t최선의 손실: 0.059868\t정확도: 98.16%\n", + "23\t검증 세트 손실: 0.078705\t최선의 손실: 0.059868\t정확도: 98.28%\n", + "24\t검증 세트 손실: 0.121657\t최선의 손실: 0.059868\t정확도: 98.59%\n", + "25\t검증 세트 손실: 0.071804\t최선의 손실: 0.059868\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.082332\t최선의 손실: 0.059868\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.064967\t최선의 손실: 0.059868\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.076669\t최선의 손실: 0.059868\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.104675\t최선의 손실: 0.059868\t정확도: 98.05%\n", + "30\t검증 세트 손실: 0.091700\t최선의 손실: 0.059868\t정확도: 98.36%\n", + "31\t검증 세트 손실: 0.093670\t최선의 손실: 0.059868\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.067241\t최선의 손실: 0.059868\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.076965\t최선의 손실: 0.059868\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.078532\t최선의 손실: 0.059868\t정확도: 98.75%\n", + "35\t검증 세트 손실: 0.099389\t최선의 손실: 0.059868\t정확도: 98.24%\n", + "36\t검증 세트 손실: 0.064155\t최선의 손실: 0.059868\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.135598\t최선의 손실: 0.059868\t정확도: 98.24%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 52.0s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.287358\t최선의 손실: 0.287358\t정확도: 94.96%\n", + "1\t검증 세트 손실: 0.133814\t최선의 손실: 0.133814\t정확도: 97.34%\n", + "2\t검증 세트 손실: 0.097271\t최선의 손실: 0.097271\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.104495\t최선의 손실: 0.097271\t정확도: 97.65%\n", + "4\t검증 세트 손실: 0.108871\t최선의 손실: 0.097271\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.079477\t최선의 손실: 0.079477\t정확도: 98.01%\n", + "6\t검증 세트 손실: 0.085134\t최선의 손실: 0.079477\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.075545\t최선의 손실: 0.075545\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.205530\t최선의 손실: 0.075545\t정확도: 97.30%\n", + "9\t검증 세트 손실: 0.066132\t최선의 손실: 0.066132\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.075930\t최선의 손실: 0.066132\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.056312\t최선의 손실: 0.056312\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.082512\t최선의 손실: 0.056312\t정확도: 98.40%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "76\t검증 세트 손실: 0.065437\t최선의 손실: 0.046731\t정확도: 98.87%\n", - "77\t검증 세트 손실: 0.085684\t최선의 손실: 0.046731\t정확도: 98.44%\n", - "78\t검증 세트 손실: 0.077815\t최선의 손실: 0.046731\t정확도: 98.67%\n", - "79\t검증 세트 손실: 0.070025\t최선의 손실: 0.046731\t정확도: 98.55%\n", - "80\t검증 세트 손실: 0.078044\t최선의 손실: 0.046731\t정확도: 98.91%\n", - "81\t검증 세트 손실: 0.101573\t최선의 손실: 0.046731\t정확도: 98.44%\n", - "82\t검증 세트 손실: 0.074199\t최선의 손실: 0.046731\t정확도: 98.94%\n", - "83\t검증 세트 손실: 0.087504\t최선의 손실: 0.046731\t정확도: 98.75%\n", - "84\t검증 세트 손실: 0.104900\t최선의 손실: 0.046731\t정확도: 98.44%\n", - "85\t검증 세트 손실: 0.089540\t최선의 손실: 0.046731\t정확도: 98.87%\n", - "86\t검증 세트 손실: 0.085148\t최선의 손실: 0.046731\t정확도: 98.83%\n", - "87\t검증 세트 손실: 0.070849\t최선의 손실: 0.046731\t정확도: 98.91%\n", - "88\t검증 세트 손실: 0.085560\t최선의 손실: 0.046731\t정확도: 98.83%\n", - "89\t검증 세트 손실: 0.096922\t최선의 손실: 0.046731\t정확도: 98.55%\n", - "90\t검증 세트 손실: 0.079419\t최선의 손실: 0.046731\t정확도: 98.75%\n", - "91\t검증 세트 손실: 0.084000\t최선의 손실: 0.046731\t정확도: 98.91%\n", - "92\t검증 세트 손실: 0.075143\t최선의 손실: 0.046731\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.079363\t최선의 손실: 0.056312\t정확도: 98.36%\n", + "14\t검증 세트 손실: 0.069517\t최선의 손실: 0.056312\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.067814\t최선의 손실: 0.056312\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.064068\t최선의 손실: 0.056312\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.091455\t최선의 손실: 0.056312\t정확도: 98.44%\n", + "18\t검증 세트 손실: 12.102701\t최선의 손실: 0.056312\t정확도: 51.72%\n", + "19\t검증 세트 손실: 0.055591\t최선의 손실: 0.055591\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.082872\t최선의 손실: 0.055591\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.055647\t최선의 손실: 0.055591\t정확도: 98.44%\n", + "22\t검증 세트 손실: 0.064560\t최선의 손실: 0.055591\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.071919\t최선의 손실: 0.055591\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.063232\t최선의 손실: 0.055591\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.071220\t최선의 손실: 0.055591\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.057639\t최선의 손실: 0.055591\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.155758\t최선의 손실: 0.055591\t정확도: 98.05%\n", + "28\t검증 세트 손실: 0.074876\t최선의 손실: 0.055591\t정확도: 98.71%\n", + "29\t검증 세트 손실: 0.072994\t최선의 손실: 0.055591\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.058972\t최선의 손실: 0.055591\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.097632\t최선의 손실: 0.055591\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.139603\t최선의 손실: 0.055591\t정확도: 97.97%\n", + "33\t검증 세트 손실: 0.070192\t최선의 손실: 0.055591\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.097866\t최선의 손실: 0.055591\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.105696\t최선의 손실: 0.055591\t정확도: 98.44%\n", + "36\t검증 세트 손실: 0.096551\t최선의 손실: 0.055591\t정확도: 98.40%\n", + "37\t검증 세트 손실: 0.086515\t최선의 손실: 0.055591\t정확도: 98.59%\n", + "38\t검증 세트 손실: 0.134427\t최선의 손실: 0.055591\t정확도: 97.62%\n", + "39\t검증 세트 손실: 0.077892\t최선의 손실: 0.055591\t정확도: 98.48%\n", + "40\t검증 세트 손실: 0.078664\t최선의 손실: 0.055591\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=90, total= 17.9s\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.096978\t최선의 손실: 0.096978\t정확도: 97.30%\n", - "1\t검증 세트 손실: 0.112854\t최선의 손실: 0.096978\t정확도: 96.44%\n", - "2\t검증 세트 손실: 0.055253\t최선의 손실: 0.055253\t정확도: 98.32%\n", - "3\t검증 세트 손실: 0.072001\t최선의 손실: 0.055253\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.053359\t최선의 손실: 0.053359\t정확도: 98.51%\n", - "5\t검증 세트 손실: 0.048680\t최선의 손실: 0.048680\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.057046\t최선의 손실: 0.048680\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.052644\t최선의 손실: 0.048680\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.044177\t최선의 손실: 0.044177\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.054447\t최선의 손실: 0.044177\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.050202\t최선의 손실: 0.044177\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.040109\t최선의 손실: 0.040109\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.039591\t최선의 손실: 0.039591\t정확도: 98.98%\n", - "13\t검증 세트 손실: 0.053356\t최선의 손실: 0.039591\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.054836\t최선의 손실: 0.039591\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.038576\t최선의 손실: 0.038576\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.049281\t최선의 손실: 0.038576\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.044680\t최선의 손실: 0.038576\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.048048\t최선의 손실: 0.038576\t정확도: 98.36%\n", - "19\t검증 세트 손실: 0.047258\t최선의 손실: 0.038576\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.049524\t최선의 손실: 0.038576\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.050672\t최선의 손실: 0.038576\t정확도: 98.75%\n", - "22\t검증 세트 손실: 0.047611\t최선의 손실: 0.038576\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.056928\t최선의 손실: 0.038576\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.051932\t최선의 손실: 0.038576\t정확도: 98.20%\n", - "25\t검증 세트 손실: 0.033995\t최선의 손실: 0.033995\t정확도: 99.10%\n", - "26\t검증 세트 손실: 0.044368\t최선의 손실: 0.033995\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.052397\t최선의 손실: 0.033995\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.047020\t최선의 손실: 0.033995\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.040858\t최선의 손실: 0.033995\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.036302\t최선의 손실: 0.033995\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.056876\t최선의 손실: 0.033995\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.037074\t최선의 손실: 0.033995\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.051404\t최선의 손실: 0.033995\t정확도: 98.32%\n", - "34\t검증 세트 손실: 0.056508\t최선의 손실: 0.033995\t정확도: 98.48%\n", - "35\t검증 세트 손실: 0.045123\t최선의 손실: 0.033995\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.039042\t최선의 손실: 0.033995\t정확도: 98.94%\n", - "37\t검증 세트 손실: 0.046528\t최선의 손실: 0.033995\t정확도: 98.71%\n", - "38\t검증 세트 손실: 0.038646\t최선의 손실: 0.033995\t정확도: 98.91%\n", - "39\t검증 세트 손실: 0.041377\t최선의 손실: 0.033995\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.039349\t최선의 손실: 0.033995\t정확도: 98.75%\n", - "41\t검증 세트 손실: 0.050051\t최선의 손실: 0.033995\t정확도: 98.79%\n", - "42\t검증 세트 손실: 0.046143\t최선의 손실: 0.033995\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.035233\t최선의 손실: 0.033995\t정확도: 98.98%\n", - "44\t검증 세트 손실: 0.031639\t최선의 손실: 0.031639\t정확도: 99.18%\n", - "45\t검증 세트 손실: 0.045330\t최선의 손실: 0.031639\t정확도: 98.63%\n", - "46\t검증 세트 손실: 0.033205\t최선의 손실: 0.031639\t정확도: 99.02%\n", - "47\t검증 세트 손실: 0.038999\t최선의 손실: 0.031639\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.037164\t최선의 손실: 0.031639\t정확도: 99.14%\n", - "49\t검증 세트 손실: 0.036868\t최선의 손실: 0.031639\t정확도: 99.22%\n", - "50\t검증 세트 손실: 0.041086\t최선의 손실: 0.031639\t정확도: 99.14%\n", - "51\t검증 세트 손실: 0.045962\t최선의 손실: 0.031639\t정확도: 98.48%\n", - "52\t검증 세트 손실: 0.045828\t최선의 손실: 0.031639\t정확도: 98.87%\n", - "53\t검증 세트 손실: 0.056214\t최선의 손실: 0.031639\t정확도: 98.48%\n", - "54\t검증 세트 손실: 0.042836\t최선의 손실: 0.031639\t정확도: 98.83%\n", - "55\t검증 세트 손실: 0.034372\t최선의 손실: 0.031639\t정확도: 99.18%\n", - "56\t검증 세트 손실: 0.035091\t최선의 손실: 0.031639\t정확도: 99.10%\n", - "57\t검증 세트 손실: 0.048046\t최선의 손실: 0.031639\t정확도: 98.75%\n", - "58\t검증 세트 손실: 0.046053\t최선의 손실: 0.031639\t정확도: 98.75%\n", - "59\t검증 세트 손실: 0.065015\t최선의 손실: 0.031639\t정확도: 98.48%\n", - "60\t검증 세트 손실: 0.041717\t최선의 손실: 0.031639\t정확도: 99.06%\n", - "61\t검증 세트 손실: 0.037916\t최선의 손실: 0.031639\t정확도: 99.02%\n", - "62\t검증 세트 손실: 0.045199\t최선의 손실: 0.031639\t정확도: 98.98%\n", - "63\t검증 세트 손실: 0.044284\t최선의 손실: 0.031639\t정확도: 98.91%\n", - "64\t검증 세트 손실: 0.050787\t최선의 손실: 0.031639\t정확도: 98.67%\n", - "65\t검증 세트 손실: 0.042304\t최선의 손실: 0.031639\t정확도: 98.79%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 56.2s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.244232\t최선의 손실: 0.244232\t정확도: 96.40%\n", + "1\t검증 세트 손실: 0.105748\t최선의 손실: 0.105748\t정확도: 97.42%\n", + "2\t검증 세트 손실: 0.083791\t최선의 손실: 0.083791\t정확도: 97.19%\n", + "3\t검증 세트 손실: 0.092111\t최선의 손실: 0.083791\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.090029\t최선의 손실: 0.083791\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.068667\t최선의 손실: 0.068667\t정확도: 98.40%\n", + "6\t검증 세트 손실: 0.107322\t최선의 손실: 0.068667\t정확도: 97.19%\n", + "7\t검증 세트 손실: 0.070127\t최선의 손실: 0.068667\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.081971\t최선의 손실: 0.068667\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.078610\t최선의 손실: 0.068667\t정확도: 98.16%\n", + "10\t검증 세트 손실: 0.068111\t최선의 손실: 0.068111\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.055754\t최선의 손실: 0.055754\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.080364\t최선의 손실: 0.055754\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.456571\t최선의 손실: 0.055754\t정확도: 93.47%\n", + "14\t검증 세트 손실: 0.078316\t최선의 손실: 0.055754\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.067522\t최선의 손실: 0.055754\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.080015\t최선의 손실: 0.055754\t정확도: 98.28%\n", + "17\t검증 세트 손실: 0.079624\t최선의 손실: 0.055754\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.102424\t최선의 손실: 0.055754\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.101491\t최선의 손실: 0.055754\t정확도: 98.08%\n", + "20\t검증 세트 손실: 0.066626\t최선의 손실: 0.055754\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.054998\t최선의 손실: 0.054998\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.056032\t최선의 손실: 0.054998\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.064856\t최선의 손실: 0.054998\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.076430\t최선의 손실: 0.054998\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.050686\t최선의 손실: 0.050686\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.055301\t최선의 손실: 0.050686\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.071349\t최선의 손실: 0.050686\t정확도: 98.16%\n", + "28\t검증 세트 손실: 0.076282\t최선의 손실: 0.050686\t정확도: 98.51%\n", + "29\t검증 세트 손실: 0.067516\t최선의 손실: 0.050686\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.065691\t최선의 손실: 0.050686\t정확도: 98.63%\n", + "31\t검증 세트 손실: 0.089549\t최선의 손실: 0.050686\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.080302\t최선의 손실: 0.050686\t정확도: 98.67%\n", + "33\t검증 세트 손실: 0.092849\t최선의 손실: 0.050686\t정확도: 98.59%\n", + "34\t검증 세트 손실: 0.081229\t최선의 손실: 0.050686\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.097137\t최선의 손실: 0.050686\t정확도: 98.36%\n", + "36\t검증 세트 손실: 0.078144\t최선의 손실: 0.050686\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.085889\t최선의 손실: 0.050686\t정확도: 98.79%\n", + "38\t검증 세트 손실: 0.106365\t최선의 손실: 0.050686\t정확도: 98.51%\n", + "39\t검증 세트 손실: 0.103751\t최선의 손실: 0.050686\t정확도: 98.63%\n", + "40\t검증 세트 손실: 0.092396\t최선의 손실: 0.050686\t정확도: 98.91%\n", + "41\t검증 세트 손실: 0.074845\t최선의 손실: 0.050686\t정확도: 99.02%\n", + "42\t검증 세트 손실: 0.098892\t최선의 손실: 0.050686\t정확도: 98.94%\n", + "43\t검증 세트 손실: 0.062848\t최선의 손실: 0.050686\t정확도: 98.98%\n", + "44\t검증 세트 손실: 0.120628\t최선의 손실: 0.050686\t정확도: 98.51%\n", + "45\t검증 세트 손실: 0.060345\t최선의 손실: 0.050686\t정확도: 98.94%\n", + "46\t검증 세트 손실: 0.062983\t최선의 손실: 0.050686\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50, total= 7.0min\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.095904\t최선의 손실: 0.095904\t정확도: 97.50%\n", - "1\t검증 세트 손실: 0.084861\t최선의 손실: 0.084861\t정확도: 97.26%\n", - "2\t검증 세트 손실: 0.081257\t최선의 손실: 0.081257\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.059652\t최선의 손실: 0.059652\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.064768\t최선의 손실: 0.059652\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.064485\t최선의 손실: 0.059652\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.048992\t최선의 손실: 0.048992\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.043932\t최선의 손실: 0.043932\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.055271\t최선의 손실: 0.043932\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.056423\t최선의 손실: 0.043932\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.057078\t최선의 손실: 0.043932\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.036437\t최선의 손실: 0.036437\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.054579\t최선의 손실: 0.036437\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.040932\t최선의 손실: 0.036437\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.041749\t최선의 손실: 0.036437\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.037473\t최선의 손실: 0.036437\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.047992\t최선의 손실: 0.036437\t정확도: 98.44%\n", - "17\t검증 세트 손실: 0.047136\t최선의 손실: 0.036437\t정확도: 98.55%\n", - "18\t검증 세트 손실: 0.049372\t최선의 손실: 0.036437\t정확도: 98.48%\n", - "19\t검증 세트 손실: 0.048360\t최선의 손실: 0.036437\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.044232\t최선의 손실: 0.036437\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.043071\t최선의 손실: 0.036437\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.039054\t최선의 손실: 0.036437\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.039258\t최선의 손실: 0.036437\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.053488\t최선의 손실: 0.036437\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.048313\t최선의 손실: 0.036437\t정확도: 98.63%\n", - "26\t검증 세트 손실: 0.046819\t최선의 손실: 0.036437\t정확도: 98.59%\n", - "27\t검증 세트 손실: 0.041600\t최선의 손실: 0.036437\t정확도: 98.51%\n", - "28\t검증 세트 손실: 0.040787\t최선의 손실: 0.036437\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.043573\t최선의 손실: 0.036437\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.045084\t최선의 손실: 0.036437\t정확도: 98.63%\n", - "31\t검증 세트 손실: 0.044898\t최선의 손실: 0.036437\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.038699\t최선의 손실: 0.036437\t정확도: 98.67%\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 1.1min\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.088744\t최선의 손실: 0.088744\t정확도: 97.58%\n", + "1\t검증 세트 손실: 0.088107\t최선의 손실: 0.088107\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.060133\t최선의 손실: 0.060133\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.044359\t최선의 손실: 0.044359\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.052951\t최선의 손실: 0.044359\t정확도: 98.55%\n", + "5\t검증 세트 손실: 0.043661\t최선의 손실: 0.043661\t정확도: 99.02%\n", + "6\t검증 세트 손실: 0.046908\t최선의 손실: 0.043661\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.047537\t최선의 손실: 0.043661\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.056375\t최선의 손실: 0.043661\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.046069\t최선의 손실: 0.043661\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.047002\t최선의 손실: 0.043661\t정확도: 98.98%\n", + "11\t검증 세트 손실: 0.037859\t최선의 손실: 0.037859\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.056942\t최선의 손실: 0.037859\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.044378\t최선의 손실: 0.037859\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.032539\t최선의 손실: 0.032539\t정확도: 99.06%\n", + "15\t검증 세트 손실: 0.061499\t최선의 손실: 0.032539\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.076012\t최선의 손실: 0.032539\t정확도: 98.44%\n", + "17\t검증 세트 손실: 0.062425\t최선의 손실: 0.032539\t정확도: 98.32%\n", + "18\t검증 세트 손실: 0.046549\t최선의 손실: 0.032539\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.061075\t최선의 손실: 0.032539\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.055470\t최선의 손실: 0.032539\t정확도: 98.91%\n", + "21\t검증 세트 손실: 0.058931\t최선의 손실: 0.032539\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.046415\t최선의 손실: 0.032539\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.063416\t최선의 손실: 0.032539\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.065054\t최선의 손실: 0.032539\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.045703\t최선의 손실: 0.032539\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.043880\t최선의 손실: 0.032539\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.066695\t최선의 손실: 0.032539\t정확도: 98.59%\n", + "28\t검증 세트 손실: 0.051009\t최선의 손실: 0.032539\t정확도: 98.63%\n", + "29\t검증 세트 손실: 0.050575\t최선의 손실: 0.032539\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.044752\t최선의 손실: 0.032539\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.074009\t최선의 손실: 0.032539\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.066110\t최선의 손실: 0.032539\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.054220\t최선의 손실: 0.032539\t정확도: 99.02%\n", + "34\t검증 세트 손실: 0.051578\t최선의 손실: 0.032539\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.057337\t최선의 손실: 0.032539\t정확도: 98.67%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50, total= 3.4min\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.087870\t최선의 손실: 0.087870\t정확도: 97.69%\n", - "1\t검증 세트 손실: 0.059954\t최선의 손실: 0.059954\t정확도: 98.28%\n", - "2\t검증 세트 손실: 0.066038\t최선의 손실: 0.059954\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.066287\t최선의 손실: 0.059954\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.052358\t최선의 손실: 0.052358\t정확도: 98.32%\n", - "5\t검증 세트 손실: 0.049549\t최선의 손실: 0.049549\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.061688\t최선의 손실: 0.049549\t정확도: 97.93%\n", - "7\t검증 세트 손실: 0.038946\t최선의 손실: 0.038946\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.037313\t최선의 손실: 0.037313\t정확도: 98.87%\n", - "9\t검증 세트 손실: 0.038647\t최선의 손실: 0.037313\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.037596\t최선의 손실: 0.037313\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.049494\t최선의 손실: 0.037313\t정확도: 98.51%\n", - "12\t검증 세트 손실: 0.046538\t최선의 손실: 0.037313\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.034838\t최선의 손실: 0.034838\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.042017\t최선의 손실: 0.034838\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.037248\t최선의 손실: 0.034838\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.047638\t최선의 손실: 0.034838\t정확도: 98.40%\n", - "17\t검증 세트 손실: 0.041282\t최선의 손실: 0.034838\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.031195\t최선의 손실: 0.031195\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.029430\t최선의 손실: 0.029430\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.038785\t최선의 손실: 0.029430\t정확도: 98.83%\n", - "21\t검증 세트 손실: 0.041304\t최선의 손실: 0.029430\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.036261\t최선의 손실: 0.029430\t정확도: 98.83%\n", - "23\t검증 세트 손실: 0.036418\t최선의 손실: 0.029430\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.029054\t최선의 손실: 0.029054\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.035280\t최선의 손실: 0.029054\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.037893\t최선의 손실: 0.029054\t정확도: 98.91%\n", - "27\t검증 세트 손실: 0.033140\t최선의 손실: 0.029054\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.033235\t최선의 손실: 0.029054\t정확도: 99.02%\n" + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation=, total= 26.3s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.081745\t최선의 손실: 0.081745\t정확도: 97.73%\n", + "1\t검증 세트 손실: 0.050528\t최선의 손실: 0.050528\t정확도: 98.48%\n", + "2\t검증 세트 손실: 0.051378\t최선의 손실: 0.050528\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.070249\t최선의 손실: 0.050528\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.058906\t최선의 손실: 0.050528\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.049575\t최선의 손실: 0.049575\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.050654\t최선의 손실: 0.049575\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.053944\t최선의 손실: 0.049575\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.063880\t최선의 손실: 0.049575\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.064239\t최선의 손실: 0.049575\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.043694\t최선의 손실: 0.043694\t정확도: 98.98%\n", + "11\t검증 세트 손실: 0.051538\t최선의 손실: 0.043694\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.042390\t최선의 손실: 0.042390\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.066095\t최선의 손실: 0.042390\t정확도: 98.32%\n", + "14\t검증 세트 손실: 0.043790\t최선의 손실: 0.042390\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.044756\t최선의 손실: 0.042390\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.048153\t최선의 손실: 0.042390\t정확도: 99.14%\n", + "17\t검증 세트 손실: 0.071851\t최선의 손실: 0.042390\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.033217\t최선의 손실: 0.033217\t정확도: 99.18%\n", + "19\t검증 세트 손실: 0.035966\t최선의 손실: 0.033217\t정확도: 99.14%\n", + "20\t검증 세트 손실: 0.049735\t최선의 손실: 0.033217\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.043041\t최선의 손실: 0.033217\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.040455\t최선의 손실: 0.033217\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.048683\t최선의 손실: 0.033217\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.045708\t최선의 손실: 0.033217\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.038217\t최선의 손실: 0.033217\t정확도: 99.22%\n", + "26\t검증 세트 손실: 0.040310\t최선의 손실: 0.033217\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.049628\t최선의 손실: 0.033217\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.045959\t최선의 손실: 0.033217\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.057829\t최선의 손실: 0.033217\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.058279\t최선의 손실: 0.033217\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.053447\t최선의 손실: 0.033217\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.045946\t최선의 손실: 0.033217\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.045490\t최선의 손실: 0.033217\t정확도: 98.91%\n", + "34\t검증 세트 손실: 0.060875\t최선의 손실: 0.033217\t정확도: 98.83%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "29\t검증 세트 손실: 0.039207\t최선의 손실: 0.029054\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.040858\t최선의 손실: 0.029054\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.030017\t최선의 손실: 0.029054\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.032208\t최선의 손실: 0.029054\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.042530\t최선의 손실: 0.029054\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.040067\t최선의 손실: 0.029054\t정확도: 98.67%\n", - "35\t검증 세트 손실: 0.043733\t최선의 손실: 0.029054\t정확도: 98.40%\n", - "36\t검증 세트 손실: 0.041819\t최선의 손실: 0.029054\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.031849\t최선의 손실: 0.029054\t정확도: 99.02%\n", - "38\t검증 세트 손실: 0.034916\t최선의 손실: 0.029054\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.030296\t최선의 손실: 0.029054\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.046381\t최선의 손실: 0.029054\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.034857\t최선의 손실: 0.029054\t정확도: 98.94%\n", - "42\t검증 세트 손실: 0.036712\t최선의 손실: 0.029054\t정확도: 98.67%\n", - "43\t검증 세트 손실: 0.066128\t최선의 손실: 0.029054\t정확도: 98.48%\n", - "44\t검증 세트 손실: 0.028506\t최선의 손실: 0.028506\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.032316\t최선의 손실: 0.028506\t정확도: 99.14%\n", - "46\t검증 세트 손실: 0.055302\t최선의 손실: 0.028506\t정확도: 98.51%\n", - "47\t검증 세트 손실: 0.030114\t최선의 손실: 0.028506\t정확도: 98.94%\n", - "48\t검증 세트 손실: 0.041489\t최선의 손실: 0.028506\t정확도: 98.75%\n", - "49\t검증 세트 손실: 0.044913\t최선의 손실: 0.028506\t정확도: 98.71%\n", - "50\t검증 세트 손실: 0.041306\t최선의 손실: 0.028506\t정확도: 98.83%\n", - "51\t검증 세트 손실: 0.044254\t최선의 손실: 0.028506\t정확도: 98.87%\n", - "52\t검증 세트 손실: 0.034836\t최선의 손실: 0.028506\t정확도: 98.94%\n", - "53\t검증 세트 손실: 0.039152\t최선의 손실: 0.028506\t정확도: 99.10%\n", - "54\t검증 세트 손실: 0.038198\t최선의 손실: 0.028506\t정확도: 99.02%\n", - "55\t검증 세트 손실: 0.045002\t최선의 손실: 0.028506\t정확도: 98.98%\n", - "56\t검증 세트 손실: 0.039446\t최선의 손실: 0.028506\t정확도: 99.06%\n", - "57\t검증 세트 손실: 0.043565\t최선의 손실: 0.028506\t정확도: 98.94%\n", - "58\t검증 세트 손실: 0.042302\t최선의 손실: 0.028506\t정확도: 98.71%\n", - "59\t검증 세트 손실: 0.036168\t최선의 손실: 0.028506\t정확도: 98.98%\n", - "60\t검증 세트 손실: 0.043855\t최선의 손실: 0.028506\t정확도: 98.83%\n", - "61\t검증 세트 손실: 0.039906\t최선의 손실: 0.028506\t정확도: 98.71%\n", - "62\t검증 세트 손실: 0.051557\t최선의 손실: 0.028506\t정확도: 98.51%\n", - "63\t검증 세트 손실: 0.041147\t최선의 손실: 0.028506\t정확도: 99.02%\n", - "64\t검증 세트 손실: 0.038545\t최선의 손실: 0.028506\t정확도: 98.94%\n", - "65\t검증 세트 손실: 0.030753\t최선의 손실: 0.028506\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.066666\t최선의 손실: 0.033217\t정확도: 98.87%\n", + "36\t검증 세트 손실: 0.062955\t최선의 손실: 0.033217\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.054479\t최선의 손실: 0.033217\t정확도: 98.94%\n", + "38\t검증 세트 손실: 0.066518\t최선의 손실: 0.033217\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.054682\t최선의 손실: 0.033217\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=50, total= 6.8min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120 \n", - "0\t검증 세트 손실: 0.116777\t최선의 손실: 0.116777\t정확도: 96.56%\n", - "1\t검증 세트 손실: 0.136757\t최선의 손실: 0.116777\t정확도: 95.86%\n", - "2\t검증 세트 손실: 0.068325\t최선의 손실: 0.068325\t정확도: 98.12%\n", - "3\t검증 세트 손실: 0.088507\t최선의 손실: 0.068325\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.063202\t최선의 손실: 0.063202\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.112752\t최선의 손실: 0.063202\t정확도: 97.50%\n", - "6\t검증 세트 손실: 0.091423\t최선의 손실: 0.063202\t정확도: 97.81%\n", - "7\t검증 세트 손실: 0.095170\t최선의 손실: 0.063202\t정확도: 96.99%\n", - "8\t검증 세트 손실: 0.052942\t최선의 손실: 0.052942\t정확도: 98.28%\n", - "9\t검증 세트 손실: 0.047004\t최선의 손실: 0.047004\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.067101\t최선의 손실: 0.047004\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.032081\t최선의 손실: 0.032081\t정확도: 99.02%\n", - "12\t검증 세트 손실: 0.047173\t최선의 손실: 0.032081\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.070338\t최선의 손실: 0.032081\t정확도: 98.08%\n", - "14\t검증 세트 손실: 0.047967\t최선의 손실: 0.032081\t정확도: 98.67%\n", - "15\t검증 세트 손실: 0.045652\t최선의 손실: 0.032081\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.085640\t최선의 손실: 0.032081\t정확도: 98.20%\n", - "17\t검증 세트 손실: 0.038552\t최선의 손실: 0.032081\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.082988\t최선의 손실: 0.032081\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.076097\t최선의 손실: 0.032081\t정확도: 98.08%\n", - "20\t검증 세트 손실: 0.056143\t최선의 손실: 0.032081\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.062211\t최선의 손실: 0.032081\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.042904\t최선의 손실: 0.032081\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.050685\t최선의 손실: 0.032081\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.048012\t최선의 손실: 0.032081\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.051300\t최선의 손실: 0.032081\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.046824\t최선의 손실: 0.032081\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.106126\t최선의 손실: 0.032081\t정확도: 97.65%\n", - "28\t검증 세트 손실: 0.056282\t최선의 손실: 0.032081\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.050158\t최선의 손실: 0.032081\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.069284\t최선의 손실: 0.032081\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.055215\t최선의 손실: 0.032081\t정확도: 98.75%\n", - "32\t검증 세트 손실: 0.054022\t최선의 손실: 0.032081\t정확도: 98.83%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation=, total= 28.8s\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.096112\t최선의 손실: 0.096112\t정확도: 97.46%\n", + "1\t검증 세트 손실: 0.055807\t최선의 손실: 0.055807\t정확도: 98.59%\n", + "2\t검증 세트 손실: 0.049741\t최선의 손실: 0.049741\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.049317\t최선의 손실: 0.049317\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.053550\t최선의 손실: 0.049317\t정확도: 98.67%\n", + "5\t검증 세트 손실: 0.054360\t최선의 손실: 0.049317\t정확도: 98.83%\n", + "6\t검증 세트 손실: 0.066247\t최선의 손실: 0.049317\t정확도: 97.93%\n", + "7\t검증 세트 손실: 0.054959\t최선의 손실: 0.049317\t정확도: 98.36%\n", + "8\t검증 세트 손실: 0.067334\t최선의 손실: 0.049317\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.036501\t최선의 손실: 0.036501\t정확도: 99.18%\n", + "10\t검증 세트 손실: 0.046126\t최선의 손실: 0.036501\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.046391\t최선의 손실: 0.036501\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.072588\t최선의 손실: 0.036501\t정확도: 98.24%\n", + "13\t검증 세트 손실: 0.032052\t최선의 손실: 0.032052\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.036517\t최선의 손실: 0.032052\t정확도: 99.18%\n", + "15\t검증 세트 손실: 0.034206\t최선의 손실: 0.032052\t정확도: 99.14%\n", + "16\t검증 세트 손실: 0.054110\t최선의 손실: 0.032052\t정확도: 98.91%\n", + "17\t검증 세트 손실: 0.041047\t최선의 손실: 0.032052\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.044843\t최선의 손실: 0.032052\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.043084\t최선의 손실: 0.032052\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.043401\t최선의 손실: 0.032052\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.050842\t최선의 손실: 0.032052\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.049770\t최선의 손실: 0.032052\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.042446\t최선의 손실: 0.032052\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.040000\t최선의 손실: 0.032052\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.044948\t최선의 손실: 0.032052\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.039590\t최선의 손실: 0.032052\t정확도: 99.26%\n", + "27\t검증 세트 손실: 0.043448\t최선의 손실: 0.032052\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.045269\t최선의 손실: 0.032052\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.042231\t최선의 손실: 0.032052\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.039107\t최선의 손실: 0.032052\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.040476\t최선의 손실: 0.032052\t정확도: 99.18%\n", + "32\t검증 세트 손실: 0.056513\t최선의 손실: 0.032052\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.056611\t최선의 손실: 0.032052\t정확도: 98.75%\n", + "34\t검증 세트 손실: 0.051545\t최선의 손실: 0.032052\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120, total= 3.7min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120 \n", - "0\t검증 세트 손실: 0.119656\t최선의 손실: 0.119656\t정확도: 96.52%\n", - "1\t검증 세트 손실: 0.083369\t최선의 손실: 0.083369\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.088037\t최선의 손실: 0.083369\t정확도: 97.73%\n", - "3\t검증 세트 손실: 0.084917\t최선의 손실: 0.083369\t정확도: 97.26%\n", - "4\t검증 세트 손실: 0.408806\t최선의 손실: 0.083369\t정확도: 88.82%\n", - "5\t검증 세트 손실: 0.054569\t최선의 손실: 0.054569\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.063159\t최선의 손실: 0.054569\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.059206\t최선의 손실: 0.054569\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.059815\t최선의 손실: 0.054569\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.066764\t최선의 손실: 0.054569\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.128602\t최선의 손실: 0.054569\t정확도: 96.52%\n", - "11\t검증 세트 손실: 0.059790\t최선의 손실: 0.054569\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.041282\t최선의 손실: 0.041282\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.053042\t최선의 손실: 0.041282\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.059184\t최선의 손실: 0.041282\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.127422\t최선의 손실: 0.041282\t정확도: 96.21%\n", - "16\t검증 세트 손실: 0.069843\t최선의 손실: 0.041282\t정확도: 98.24%\n", - "17\t검증 세트 손실: 0.051472\t최선의 손실: 0.041282\t정확도: 98.55%\n", - "18\t검증 세트 손실: 0.062314\t최선의 손실: 0.041282\t정확도: 98.32%\n", - "19\t검증 세트 손실: 0.060744\t최선의 손실: 0.041282\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.081740\t최선의 손실: 0.041282\t정확도: 98.28%\n", - "21\t검증 세트 손실: 0.047823\t최선의 손실: 0.041282\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.066791\t최선의 손실: 0.041282\t정확도: 98.44%\n", - "23\t검증 세트 손실: 0.049661\t최선의 손실: 0.041282\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.049166\t최선의 손실: 0.041282\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.050005\t최선의 손실: 0.041282\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.056656\t최선의 손실: 0.041282\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.051406\t최선의 손실: 0.041282\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.051145\t최선의 손실: 0.041282\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.063088\t최선의 손실: 0.041282\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.075978\t최선의 손실: 0.041282\t정확도: 98.55%\n", - "31\t검증 세트 손실: 0.049713\t최선의 손실: 0.041282\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.082211\t최선의 손실: 0.041282\t정확도: 98.32%\n", - "33\t검증 세트 손실: 0.072877\t최선의 손실: 0.041282\t정확도: 98.63%\n", + "[CV] n_neurons=100, learning_rate=0.05, batch_size=100, batch_norm_momentum=0.95, activation=, total= 25.3s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.150943\t최선의 손실: 0.150943\t정확도: 96.52%\n", + "1\t검증 세트 손실: 0.066934\t최선의 손실: 0.066934\t정확도: 98.16%\n", + "2\t검증 세트 손실: 0.061196\t최선의 손실: 0.061196\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.061919\t최선의 손실: 0.061196\t정확도: 98.28%\n", + "4\t검증 세트 손실: 0.041477\t최선의 손실: 0.041477\t정확도: 98.83%\n", + "5\t검증 세트 손실: 0.040251\t최선의 손실: 0.040251\t정확도: 98.79%\n", + "6\t검증 세트 손실: 0.031126\t최선의 손실: 0.031126\t정확도: 99.10%\n", + "7\t검증 세트 손실: 0.074427\t최선의 손실: 0.031126\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.049221\t최선의 손실: 0.031126\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.048866\t최선의 손실: 0.031126\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.044720\t최선의 손실: 0.031126\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.045124\t최선의 손실: 0.031126\t정확도: 98.91%\n", + "12\t검증 세트 손실: 0.040248\t최선의 손실: 0.031126\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.058444\t최선의 손실: 0.031126\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.057076\t최선의 손실: 0.031126\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.073623\t최선의 손실: 0.031126\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.035835\t최선의 손실: 0.031126\t정확도: 99.06%\n", + "17\t검증 세트 손실: 0.030609\t최선의 손실: 0.030609\t정확도: 99.26%\n", + "18\t검증 세트 손실: 0.044392\t최선의 손실: 0.030609\t정확도: 98.87%\n", + "19\t검증 세트 손실: 0.045635\t최선의 손실: 0.030609\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.049086\t최선의 손실: 0.030609\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.051571\t최선의 손실: 0.030609\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.043622\t최선의 손실: 0.030609\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.041791\t최선의 손실: 0.030609\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.037506\t최선의 손실: 0.030609\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.059922\t최선의 손실: 0.030609\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.038483\t최선의 손실: 0.030609\t정확도: 99.02%\n", + "27\t검증 세트 손실: 0.062491\t최선의 손실: 0.030609\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.046092\t최선의 손실: 0.030609\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.042814\t최선의 손실: 0.030609\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.046026\t최선의 손실: 0.030609\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.057306\t최선의 손실: 0.030609\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.046137\t최선의 손실: 0.030609\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.037333\t최선의 손실: 0.030609\t정확도: 99.06%\n", + "34\t검증 세트 손실: 0.040610\t최선의 손실: 0.030609\t정확도: 99.06%\n", + "35\t검증 세트 손실: 0.048997\t최선의 손실: 0.030609\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.042789\t최선의 손실: 0.030609\t정확도: 99.06%\n", + "37\t검증 세트 손실: 0.048429\t최선의 손실: 0.030609\t정확도: 99.02%\n", + "38\t검증 세트 손실: 0.040056\t최선의 손실: 0.030609\t정확도: 99.22%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120, total= 3.8min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120 \n", - "0\t검증 세트 손실: 0.134105\t최선의 손실: 0.134105\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.069297\t최선의 손실: 0.069297\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.077878\t최선의 손실: 0.069297\t정확도: 97.65%\n", - "3\t검증 세트 손실: 0.064498\t최선의 손실: 0.064498\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.195118\t최선의 손실: 0.064498\t정확도: 94.02%\n", - "5\t검증 세트 손실: 0.101867\t최선의 손실: 0.064498\t정확도: 97.19%\n", - "6\t검증 세트 손실: 0.053866\t최선의 손실: 0.053866\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.054605\t최선의 손실: 0.053866\t정확도: 98.08%\n", - "8\t검증 세트 손실: 0.076127\t최선의 손실: 0.053866\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.102795\t최선의 손실: 0.053866\t정확도: 97.34%\n", - "10\t검증 세트 손실: 0.057974\t최선의 손실: 0.053866\t정확도: 98.16%\n", - "11\t검증 세트 손실: 0.054923\t최선의 손실: 0.053866\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.068695\t최선의 손실: 0.053866\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.063184\t최선의 손실: 0.053866\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.041052\t최선의 손실: 0.041052\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.041951\t최선의 손실: 0.041052\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.043527\t최선의 손실: 0.041052\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.044612\t최선의 손실: 0.041052\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.049249\t최선의 손실: 0.041052\t정확도: 98.83%\n", - "19\t검증 세트 손실: 0.040270\t최선의 손실: 0.040270\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.061687\t최선의 손실: 0.040270\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.045733\t최선의 손실: 0.040270\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.119481\t최선의 손실: 0.040270\t정확도: 96.99%\n", - "23\t검증 세트 손실: 0.032249\t최선의 손실: 0.032249\t정확도: 99.10%\n", - "24\t검증 세트 손실: 0.051179\t최선의 손실: 0.032249\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.046957\t최선의 손실: 0.032249\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.051148\t최선의 손실: 0.032249\t정확도: 99.14%\n", - "27\t검증 세트 손실: 0.179504\t최선의 손실: 0.032249\t정확도: 96.99%\n", - "28\t검증 세트 손실: 0.052706\t최선의 손실: 0.032249\t정확도: 98.71%\n", - "29\t검증 세트 손실: 0.048682\t최선의 손실: 0.032249\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.061176\t최선의 손실: 0.032249\t정확도: 98.44%\n", - "31\t검증 세트 손실: 0.037638\t최선의 손실: 0.032249\t정확도: 99.14%\n", - "32\t검증 세트 손실: 0.065486\t최선의 손실: 0.032249\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.045886\t최선의 손실: 0.032249\t정확도: 98.87%\n", - "34\t검증 세트 손실: 0.051519\t최선의 손실: 0.032249\t정확도: 98.91%\n", - "35\t검증 세트 손실: 0.052959\t최선의 손실: 0.032249\t정확도: 98.83%\n", - "36\t검증 세트 손실: 0.058313\t최선의 손실: 0.032249\t정확도: 98.36%\n", - "37\t검증 세트 손실: 0.035738\t최선의 손실: 0.032249\t정확도: 99.18%\n" + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation=, total= 53.9s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.060811\t최선의 손실: 0.060811\t정확도: 98.20%\n", + "1\t검증 세트 손실: 0.061595\t최선의 손실: 0.060811\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.072822\t최선의 손실: 0.060811\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.056751\t최선의 손실: 0.056751\t정확도: 98.36%\n", + "4\t검증 세트 손실: 0.077486\t최선의 손실: 0.056751\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.053651\t최선의 손실: 0.053651\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.048828\t최선의 손실: 0.048828\t정확도: 98.79%\n", + "7\t검증 세트 손실: 0.053014\t최선의 손실: 0.048828\t정확도: 98.71%\n", + "8\t검증 세트 손실: 0.045907\t최선의 손실: 0.045907\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.051510\t최선의 손실: 0.045907\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.056466\t최선의 손실: 0.045907\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.057143\t최선의 손실: 0.045907\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.036893\t최선의 손실: 0.036893\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.039632\t최선의 손실: 0.036893\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.036590\t최선의 손실: 0.036590\t정확도: 99.06%\n", + "15\t검증 세트 손실: 0.049565\t최선의 손실: 0.036590\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.043782\t최선의 손실: 0.036590\t정확도: 99.10%\n", + "17\t검증 세트 손실: 0.051567\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.043523\t최선의 손실: 0.036590\t정확도: 99.10%\n", + "19\t검증 세트 손실: 0.046657\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.049035\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.050094\t최선의 손실: 0.036590\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.047587\t최선의 손실: 0.036590\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.041069\t최선의 손실: 0.036590\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.049142\t최선의 손실: 0.036590\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.055495\t최선의 손실: 0.036590\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.041329\t최선의 손실: 0.036590\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.047515\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.048834\t최선의 손실: 0.036590\t정확도: 98.71%\n", + "29\t검증 세트 손실: 0.043665\t최선의 손실: 0.036590\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.050643\t최선의 손실: 0.036590\t정확도: 98.91%\n", + "31\t검증 세트 손실: 0.048993\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.050596\t최선의 손실: 0.036590\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.046613\t최선의 손실: 0.036590\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.035640\t최선의 손실: 0.035640\t정확도: 99.18%\n", + "35\t검증 세트 손실: 0.042851\t최선의 손실: 0.035640\t정확도: 99.18%\n", + "36\t검증 세트 손실: 0.052181\t최선의 손실: 0.035640\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.037994\t최선의 손실: 0.035640\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.048351\t최선의 손실: 0.035640\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.057101\t최선의 손실: 0.035640\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.048473\t최선의 손실: 0.035640\t정확도: 98.91%\n", + "41\t검증 세트 손실: 0.047810\t최선의 손실: 0.035640\t정확도: 99.06%\n", + "42\t검증 세트 손실: 0.047196\t최선의 손실: 0.035640\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.072090\t최선의 손실: 0.035640\t정확도: 98.91%\n", + "44\t검증 세트 손실: 0.058792\t최선의 손실: 0.035640\t정확도: 98.67%\n", + "45\t검증 세트 손실: 0.047862\t최선의 손실: 0.035640\t정확도: 99.02%\n", + "46\t검증 세트 손실: 0.052565\t최선의 손실: 0.035640\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.074007\t최선의 손실: 0.035640\t정확도: 98.98%\n", + "48\t검증 세트 손실: 0.053878\t최선의 손실: 0.035640\t정확도: 99.02%\n", + "49\t검증 세트 손실: 0.054490\t최선의 손실: 0.035640\t정확도: 98.83%\n", + "50\t검증 세트 손실: 0.057283\t최선의 손실: 0.035640\t정확도: 98.83%\n", + "51\t검증 세트 손실: 0.055406\t최선의 손실: 0.035640\t정확도: 98.83%\n", + "52\t검증 세트 손실: 0.058461\t최선의 손실: 0.035640\t정확도: 98.79%\n", + "53\t검증 세트 손실: 0.053014\t최선의 손실: 0.035640\t정확도: 99.06%\n", + "54\t검증 세트 손실: 0.071360\t최선의 손실: 0.035640\t정확도: 98.71%\n", + "55\t검증 세트 손실: 0.049659\t최선의 손실: 0.035640\t정확도: 98.94%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation=, total= 1.3min\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.068754\t최선의 손실: 0.068754\t정확도: 97.93%\n", + "1\t검증 세트 손실: 0.047833\t최선의 손실: 0.047833\t정확도: 98.44%\n", + "2\t검증 세트 손실: 0.043139\t최선의 손실: 0.043139\t정확도: 98.63%\n", + "3\t검증 세트 손실: 0.039536\t최선의 손실: 0.039536\t정확도: 98.75%\n", + "4\t검증 세트 손실: 0.055517\t최선의 손실: 0.039536\t정확도: 98.28%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "38\t검증 세트 손실: 0.060783\t최선의 손실: 0.032249\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.065021\t최선의 손실: 0.032249\t정확도: 98.44%\n", - "40\t검증 세트 손실: 0.065220\t최선의 손실: 0.032249\t정확도: 98.75%\n", - "41\t검증 세트 손실: 0.052252\t최선의 손실: 0.032249\t정확도: 98.83%\n", - "42\t검증 세트 손실: 0.043190\t최선의 손실: 0.032249\t정확도: 99.45%\n", - "43\t검증 세트 손실: 0.150628\t최선의 손실: 0.032249\t정확도: 97.69%\n", - "44\t검증 세트 손실: 0.052702\t최선의 손실: 0.032249\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.032189\t최선의 손실: 0.032189\t정확도: 99.10%\n", + "6\t검증 세트 손실: 0.035540\t최선의 손실: 0.032189\t정확도: 99.06%\n", + "7\t검증 세트 손실: 0.046705\t최선의 손실: 0.032189\t정확도: 99.02%\n", + "8\t검증 세트 손실: 0.046103\t최선의 손실: 0.032189\t정확도: 98.79%\n", + "9\t검증 세트 손실: 0.040575\t최선의 손실: 0.032189\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.038925\t최선의 손실: 0.032189\t정확도: 99.14%\n", + "11\t검증 세트 손실: 0.027017\t최선의 손실: 0.027017\t정확도: 99.18%\n", + "12\t검증 세트 손실: 0.053687\t최선의 손실: 0.027017\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.035248\t최선의 손실: 0.027017\t정확도: 99.26%\n", + "14\t검증 세트 손실: 0.049856\t최선의 손실: 0.027017\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.043422\t최선의 손실: 0.027017\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.033488\t최선의 손실: 0.027017\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.033348\t최선의 손실: 0.027017\t정확도: 99.14%\n", + "18\t검증 세트 손실: 0.037179\t최선의 손실: 0.027017\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.041610\t최선의 손실: 0.027017\t정확도: 99.18%\n", + "20\t검증 세트 손실: 0.038214\t최선의 손실: 0.027017\t정확도: 99.06%\n", + "21\t검증 세트 손실: 0.038200\t최선의 손실: 0.027017\t정확도: 99.10%\n", + "22\t검증 세트 손실: 0.044962\t최선의 손실: 0.027017\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.033945\t최선의 손실: 0.027017\t정확도: 99.26%\n", + "24\t검증 세트 손실: 0.038767\t최선의 손실: 0.027017\t정확도: 99.22%\n", + "25\t검증 세트 손실: 0.037358\t최선의 손실: 0.027017\t정확도: 99.18%\n", + "26\t검증 세트 손실: 0.040866\t최선의 손실: 0.027017\t정확도: 99.02%\n", + "27\t검증 세트 손실: 0.043605\t최선의 손실: 0.027017\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.062346\t최선의 손실: 0.027017\t정확도: 98.75%\n", + "29\t검증 세트 손실: 0.033666\t최선의 손실: 0.027017\t정확도: 99.30%\n", + "30\t검증 세트 손실: 0.044614\t최선의 손실: 0.027017\t정확도: 99.18%\n", + "31\t검증 세트 손실: 0.054321\t최선의 손실: 0.027017\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.036288\t최선의 손실: 0.027017\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.05, batch_norm_momentum=0.98, n_neurons=120, total= 5.0min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.061343\t최선의 손실: 0.061343\t정확도: 98.24%\n", - "1\t검증 세트 손실: 0.092855\t최선의 손실: 0.061343\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.056016\t최선의 손실: 0.056016\t정확도: 98.63%\n", - "3\t검증 세트 손실: 0.036236\t최선의 손실: 0.036236\t정확도: 98.79%\n", - "4\t검증 세트 손실: 0.043870\t최선의 손실: 0.036236\t정확도: 98.67%\n", - "5\t검증 세트 손실: 0.053011\t최선의 손실: 0.036236\t정확도: 98.51%\n", - "6\t검증 세트 손실: 0.047777\t최선의 손실: 0.036236\t정확도: 98.63%\n", - "7\t검증 세트 손실: 0.052829\t최선의 손실: 0.036236\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.050344\t최선의 손실: 0.036236\t정확도: 98.51%\n", - "9\t검증 세트 손실: 0.035788\t최선의 손실: 0.035788\t정확도: 99.18%\n", - "10\t검증 세트 손실: 0.042669\t최선의 손실: 0.035788\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.041024\t최선의 손실: 0.035788\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.045321\t최선의 손실: 0.035788\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.056885\t최선의 손실: 0.035788\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.062329\t최선의 손실: 0.035788\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.050035\t최선의 손실: 0.035788\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.037412\t최선의 손실: 0.035788\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.041354\t최선의 손실: 0.035788\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.044420\t최선의 손실: 0.035788\t정확도: 99.10%\n", - "19\t검증 세트 손실: 0.052518\t최선의 손실: 0.035788\t정확도: 98.94%\n", - "20\t검증 세트 손실: 0.053107\t최선의 손실: 0.035788\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.050111\t최선의 손실: 0.035788\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.047973\t최선의 손실: 0.035788\t정확도: 99.18%\n", - "23\t검증 세트 손실: 0.052860\t최선의 손실: 0.035788\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.048854\t최선의 손실: 0.035788\t정확도: 98.98%\n", - "25\t검증 세트 손실: 0.068567\t최선의 손실: 0.035788\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.054979\t최선의 손실: 0.035788\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.051484\t최선의 손실: 0.035788\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.038310\t최선의 손실: 0.035788\t정확도: 99.10%\n", - "29\t검증 세트 손실: 0.049579\t최선의 손실: 0.035788\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.043928\t최선의 손실: 0.035788\t정확도: 99.14%\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.98, activation=, total= 45.9s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.097158\t최선의 손실: 0.097158\t정확도: 96.83%\n", + "1\t검증 세트 손실: 0.080746\t최선의 손실: 0.080746\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.069455\t최선의 손실: 0.069455\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.058579\t최선의 손실: 0.058579\t정확도: 97.89%\n", + "4\t검증 세트 손실: 0.056126\t최선의 손실: 0.056126\t정확도: 98.28%\n", + "5\t검증 세트 손실: 0.078574\t최선의 손실: 0.056126\t정확도: 97.58%\n", + "6\t검증 세트 손실: 0.063971\t최선의 손실: 0.056126\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.073727\t최선의 손실: 0.056126\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.056549\t최선의 손실: 0.056126\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.055213\t최선의 손실: 0.055213\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.058561\t최선의 손실: 0.055213\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.079135\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.071637\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "13\t검증 세트 손실: 0.081434\t최선의 손실: 0.055213\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.066294\t최선의 손실: 0.055213\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.074534\t최선의 손실: 0.055213\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.079486\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.082127\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "18\t검증 세트 손실: 0.079075\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.065562\t최선의 손실: 0.055213\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.068650\t최선의 손실: 0.055213\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.064299\t최선의 손실: 0.055213\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.064755\t최선의 손실: 0.055213\t정확도: 98.71%\n", + "23\t검증 세트 손실: 0.058837\t최선의 손실: 0.055213\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.065562\t최선의 손실: 0.055213\t정확도: 98.63%\n", + "25\t검증 세트 손실: 0.063505\t최선의 손실: 0.055213\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.075299\t최선의 손실: 0.055213\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.082191\t최선의 손실: 0.055213\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.070864\t최선의 손실: 0.055213\t정확도: 98.32%\n", + "29\t검증 세트 손실: 0.079924\t최선의 손실: 0.055213\t정확도: 98.40%\n", + "30\t검증 세트 손실: 0.078846\t최선의 손실: 0.055213\t정확도: 98.36%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120, total= 46.3s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.102751\t최선의 손실: 0.102751\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.058735\t최선의 손실: 0.058735\t정확도: 98.24%\n", - "2\t검증 세트 손실: 0.055085\t최선의 손실: 0.055085\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.051649\t최선의 손실: 0.051649\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.093476\t최선의 손실: 0.051649\t정확도: 97.46%\n", - "5\t검증 세트 손실: 0.039300\t최선의 손실: 0.039300\t정확도: 98.67%\n", - "6\t검증 세트 손실: 0.057596\t최선의 손실: 0.039300\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.067741\t최선의 손실: 0.039300\t정확도: 98.24%\n", - "8\t검증 세트 손실: 0.034599\t최선의 손실: 0.034599\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.061323\t최선의 손실: 0.034599\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.041029\t최선의 손실: 0.034599\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.049458\t최선의 손실: 0.034599\t정확도: 98.94%\n", - "12\t검증 세트 손실: 0.047928\t최선의 손실: 0.034599\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.035485\t최선의 손실: 0.034599\t정확도: 99.14%\n", - "14\t검증 세트 손실: 0.068019\t최선의 손실: 0.034599\t정확도: 98.51%\n", - "15\t검증 세트 손실: 0.048835\t최선의 손실: 0.034599\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.034219\t최선의 손실: 0.034219\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.052109\t최선의 손실: 0.034219\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.056327\t최선의 손실: 0.034219\t정확도: 98.44%\n", - "19\t검증 세트 손실: 0.039765\t최선의 손실: 0.034219\t정확도: 99.14%\n", - "20\t검증 세트 손실: 0.069643\t최선의 손실: 0.034219\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.052780\t최선의 손실: 0.034219\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.054317\t최선의 손실: 0.034219\t정확도: 98.91%\n", - "23\t검증 세트 손실: 0.048549\t최선의 손실: 0.034219\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.059831\t최선의 손실: 0.034219\t정확도: 98.98%\n", - "25\t검증 세트 손실: 0.054184\t최선의 손실: 0.034219\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.064758\t최선의 손실: 0.034219\t정확도: 98.48%\n", - "27\t검증 세트 손실: 0.055836\t최선의 손실: 0.034219\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.059483\t최선의 손실: 0.034219\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.055508\t최선의 손실: 0.034219\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.058736\t최선의 손실: 0.034219\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.067702\t최선의 손실: 0.034219\t정확도: 98.75%\n", - "32\t검증 세트 손실: 0.083678\t최선의 손실: 0.034219\t정확도: 98.24%\n", - "33\t검증 세트 손실: 0.036882\t최선의 손실: 0.034219\t정확도: 99.10%\n", - "34\t검증 세트 손실: 0.073335\t최선의 손실: 0.034219\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.051463\t최선의 손실: 0.034219\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.045987\t최선의 손실: 0.034219\t정확도: 99.06%\n", - "37\t검증 세트 손실: 0.054756\t최선의 손실: 0.034219\t정확도: 98.91%\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 6.5s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.099875\t최선의 손실: 0.099875\t정확도: 96.91%\n", + "1\t검증 세트 손실: 0.080157\t최선의 손실: 0.080157\t정확도: 97.30%\n", + "2\t검증 세트 손실: 0.066998\t최선의 손실: 0.066998\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.064984\t최선의 손실: 0.064984\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.066437\t최선의 손실: 0.064984\t정확도: 97.89%\n", + "5\t검증 세트 손실: 0.060524\t최선의 손실: 0.060524\t정확도: 97.97%\n", + "6\t검증 세트 손실: 0.057586\t최선의 손실: 0.057586\t정확도: 98.32%\n", + "7\t검증 세트 손실: 0.063073\t최선의 손실: 0.057586\t정확도: 98.28%\n", + "8\t검증 세트 손실: 0.049682\t최선의 손실: 0.049682\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.065730\t최선의 손실: 0.049682\t정확도: 98.01%\n", + "10\t검증 세트 손실: 0.060134\t최선의 손실: 0.049682\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.081980\t최선의 손실: 0.049682\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.082550\t최선의 손실: 0.049682\t정확도: 98.12%\n", + "13\t검증 세트 손실: 0.063715\t최선의 손실: 0.049682\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.063077\t최선의 손실: 0.049682\t정확도: 98.20%\n", + "15\t검증 세트 손실: 0.076788\t최선의 손실: 0.049682\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.056721\t최선의 손실: 0.049682\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.084101\t최선의 손실: 0.049682\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.061137\t최선의 손실: 0.049682\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.050846\t최선의 손실: 0.049682\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.054833\t최선의 손실: 0.049682\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.067411\t최선의 손실: 0.049682\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.057691\t최선의 손실: 0.049682\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.060999\t최선의 손실: 0.049682\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.057713\t최선의 손실: 0.049682\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.066760\t최선의 손실: 0.049682\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.069800\t최선의 손실: 0.049682\t정확도: 98.55%\n", + "27\t검증 세트 손실: 0.065042\t최선의 손실: 0.049682\t정확도: 98.48%\n", + "28\t검증 세트 손실: 0.064751\t최선의 손실: 0.049682\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.063940\t최선의 손실: 0.049682\t정확도: 98.91%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120, total= 56.1s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120 \n", - "0\t검증 세트 손실: 0.072214\t최선의 손실: 0.072214\t정확도: 98.20%\n", - "1\t검증 세트 손실: 0.078920\t최선의 손실: 0.072214\t정확도: 97.50%\n", - "2\t검증 세트 손실: 0.076877\t최선의 손실: 0.072214\t정확도: 97.58%\n", - "3\t검증 세트 손실: 0.051608\t최선의 손실: 0.051608\t정확도: 98.44%\n", - "4\t검증 세트 손실: 0.063791\t최선의 손실: 0.051608\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.039870\t최선의 손실: 0.039870\t정확도: 98.94%\n", - "6\t검증 세트 손실: 0.038435\t최선의 손실: 0.038435\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.060640\t최선의 손실: 0.038435\t정확도: 98.28%\n", - "8\t검증 세트 손실: 0.065411\t최선의 손실: 0.038435\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.044354\t최선의 손실: 0.038435\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.053004\t최선의 손실: 0.038435\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.039701\t최선의 손실: 0.038435\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.046147\t최선의 손실: 0.038435\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.039985\t최선의 손실: 0.038435\t정확도: 99.06%\n", - "14\t검증 세트 손실: 0.036480\t최선의 손실: 0.036480\t정확도: 99.02%\n", - "15\t검증 세트 손실: 0.033436\t최선의 손실: 0.033436\t정확도: 99.22%\n", - "16\t검증 세트 손실: 0.039697\t최선의 손실: 0.033436\t정확도: 99.06%\n", - "17\t검증 세트 손실: 0.036699\t최선의 손실: 0.033436\t정확도: 99.06%\n", - "18\t검증 세트 손실: 0.030363\t최선의 손실: 0.030363\t정확도: 99.18%\n", - "19\t검증 세트 손실: 0.029244\t최선의 손실: 0.029244\t정확도: 99.26%\n", - "20\t검증 세트 손실: 0.052562\t최선의 손실: 0.029244\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.042869\t최선의 손실: 0.029244\t정확도: 98.87%\n", - "22\t검증 세트 손실: 0.036901\t최선의 손실: 0.029244\t정확도: 99.18%\n", - "23\t검증 세트 손실: 0.033276\t최선의 손실: 0.029244\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.032447\t최선의 손실: 0.029244\t정확도: 99.26%\n", - "25\t검증 세트 손실: 0.031756\t최선의 손실: 0.029244\t정확도: 99.26%\n", - "26\t검증 세트 손실: 0.046752\t최선의 손실: 0.029244\t정확도: 98.91%\n", - "27\t검증 세트 손실: 0.062289\t최선의 손실: 0.029244\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.065642\t최선의 손실: 0.029244\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.038004\t최선의 손실: 0.029244\t정확도: 99.10%\n", - "30\t검증 세트 손실: 0.040710\t최선의 손실: 0.029244\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.038604\t최선의 손실: 0.029244\t정확도: 99.10%\n", - "32\t검증 세트 손실: 0.038764\t최선의 손실: 0.029244\t정확도: 99.02%\n", - "33\t검증 세트 손실: 0.035431\t최선의 손실: 0.029244\t정확도: 98.91%\n", - "34\t검증 세트 손실: 0.040256\t최선의 손실: 0.029244\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.031368\t최선의 손실: 0.029244\t정확도: 99.26%\n", - "36\t검증 세트 손실: 0.028022\t최선의 손실: 0.028022\t정확도: 99.34%\n", - "37\t검증 세트 손실: 0.029344\t최선의 손실: 0.028022\t정확도: 99.22%\n", - "38\t검증 세트 손실: 0.032442\t최선의 손실: 0.028022\t정확도: 99.22%\n", - "39\t검증 세트 손실: 0.030828\t최선의 손실: 0.028022\t정확도: 99.30%\n", - "40\t검증 세트 손실: 0.030077\t최선의 손실: 0.028022\t정확도: 99.26%\n", - "41\t검증 세트 손실: 0.034269\t최선의 손실: 0.028022\t정확도: 99.14%\n", - "42\t검증 세트 손실: 0.046591\t최선의 손실: 0.028022\t정확도: 99.02%\n", - "43\t검증 세트 손실: 0.033647\t최선의 손실: 0.028022\t정확도: 99.14%\n", - "44\t검증 세트 손실: 0.050448\t최선의 손실: 0.028022\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.037530\t최선의 손실: 0.028022\t정확도: 99.30%\n", - "46\t검증 세트 손실: 0.028601\t최선의 손실: 0.028022\t정확도: 99.22%\n", - "47\t검증 세트 손실: 0.037573\t최선의 손실: 0.028022\t정확도: 99.30%\n", - "48\t검증 세트 손실: 0.025227\t최선의 손실: 0.025227\t정확도: 99.45%\n", - "49\t검증 세트 손실: 0.031127\t최선의 손실: 0.025227\t정확도: 99.57%\n", - "50\t검증 세트 손실: 0.047075\t최선의 손실: 0.025227\t정확도: 99.06%\n", - "51\t검증 세트 손실: 0.030472\t최선의 손실: 0.025227\t정확도: 99.49%\n", - "52\t검증 세트 손실: 0.042335\t최선의 손실: 0.025227\t정확도: 99.37%\n", - "53\t검증 세트 손실: 0.059074\t최선의 손실: 0.025227\t정확도: 99.37%\n", - "54\t검증 세트 손실: 0.051192\t최선의 손실: 0.025227\t정확도: 98.94%\n", - "55\t검증 세트 손실: 0.050349\t최선의 손실: 0.025227\t정확도: 98.98%\n", - "56\t검증 세트 손실: 0.047739\t최선의 손실: 0.025227\t정확도: 98.87%\n", - "57\t검증 세트 손실: 0.043501\t최선의 손실: 0.025227\t정확도: 98.79%\n", - "58\t검증 세트 손실: 0.044531\t최선의 손실: 0.025227\t정확도: 99.02%\n", - "59\t검증 세트 손실: 0.045715\t최선의 손실: 0.025227\t정확도: 99.02%\n", - "60\t검증 세트 손실: 0.032235\t최선의 손실: 0.025227\t정확도: 99.34%\n", - "61\t검증 세트 손실: 0.037784\t최선의 손실: 0.025227\t정확도: 98.98%\n", - "62\t검증 세트 손실: 0.046434\t최선의 손실: 0.025227\t정확도: 99.06%\n", - "63\t검증 세트 손실: 0.047430\t최선의 손실: 0.025227\t정확도: 99.02%\n", - "64\t검증 세트 손실: 0.035369\t최선의 손실: 0.025227\t정확도: 99.02%\n" + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 6.4s\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.114007\t최선의 손실: 0.114007\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.077241\t최선의 손실: 0.077241\t정확도: 97.50%\n", + "2\t검증 세트 손실: 0.070848\t최선의 손실: 0.070848\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.076744\t최선의 손실: 0.070848\t정확도: 97.54%\n", + "4\t검증 세트 손실: 0.056465\t최선의 손실: 0.056465\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.072290\t최선의 손실: 0.056465\t정확도: 97.89%\n", + "6\t검증 세트 손실: 0.053150\t최선의 손실: 0.053150\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.059842\t최선의 손실: 0.053150\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.059936\t최선의 손실: 0.053150\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.068470\t최선의 손실: 0.053150\t정확도: 98.28%\n", + "10\t검증 세트 손실: 0.074894\t최선의 손실: 0.053150\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.062947\t최선의 손실: 0.053150\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.055765\t최선의 손실: 0.053150\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.054500\t최선의 손실: 0.053150\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.064271\t최선의 손실: 0.053150\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.056172\t최선의 손실: 0.053150\t정확도: 98.59%\n", + "16\t검증 세트 손실: 0.061482\t최선의 손실: 0.053150\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.058183\t최선의 손실: 0.053150\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.054144\t최선의 손실: 0.053150\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.059719\t최선의 손실: 0.053150\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.045032\t최선의 손실: 0.045032\t정확도: 99.02%\n", + "21\t검증 세트 손실: 0.049410\t최선의 손실: 0.045032\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.054058\t최선의 손실: 0.045032\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.043230\t최선의 손실: 0.043230\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.053350\t최선의 손실: 0.043230\t정확도: 98.71%\n", + "25\t검증 세트 손실: 0.106467\t최선의 손실: 0.043230\t정확도: 98.01%\n", + "26\t검증 세트 손실: 0.069644\t최선의 손실: 0.043230\t정확도: 98.67%\n", + "27\t검증 세트 손실: 0.084834\t최선의 손실: 0.043230\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.073180\t최선의 손실: 0.043230\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.061714\t최선의 손실: 0.043230\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.042555\t최선의 손실: 0.042555\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.059042\t최선의 손실: 0.042555\t정확도: 98.83%\n", + "32\t검증 세트 손실: 0.059772\t최선의 손실: 0.042555\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.073166\t최선의 손실: 0.042555\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.055713\t최선의 손실: 0.042555\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.056308\t최선의 손실: 0.042555\t정확도: 98.79%\n", + "36\t검증 세트 손실: 0.061932\t최선의 손실: 0.042555\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.052324\t최선의 손실: 0.042555\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.059696\t최선의 손실: 0.042555\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.057646\t최선의 손실: 0.042555\t정확도: 98.87%\n", + "40\t검증 세트 손실: 0.057816\t최선의 손실: 0.042555\t정확도: 98.67%\n", + "41\t검증 세트 손실: 0.062628\t최선의 손실: 0.042555\t정확도: 98.63%\n", + "42\t검증 세트 손실: 0.052456\t최선의 손실: 0.042555\t정확도: 98.98%\n", + "43\t검증 세트 손실: 0.050611\t최선의 손실: 0.042555\t정확도: 98.91%\n", + "44\t검증 세트 손실: 0.068295\t최선의 손실: 0.042555\t정확도: 98.63%\n", + "45\t검증 세트 손실: 0.054394\t최선의 손실: 0.042555\t정확도: 98.98%\n", + "46\t검증 세트 손실: 0.073651\t최선의 손실: 0.042555\t정확도: 98.83%\n", + "47\t검증 세트 손실: 0.054971\t최선의 손실: 0.042555\t정확도: 99.02%\n", + "48\t검증 세트 손실: 0.064560\t최선의 손실: 0.042555\t정확도: 99.02%\n", + "49\t검증 세트 손실: 0.068029\t최선의 손실: 0.042555\t정확도: 98.79%\n", + "50\t검증 세트 손실: 0.070978\t최선의 손실: 0.042555\t정확도: 98.67%\n", + "51\t검증 세트 손실: 0.065261\t최선의 손실: 0.042555\t정확도: 98.63%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 10.1s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "65\t검증 세트 손실: 0.037671\t최선의 손실: 0.025227\t정확도: 99.10%\n", - "66\t검증 세트 손실: 0.051221\t최선의 손실: 0.025227\t정확도: 98.91%\n", - "67\t검증 세트 손실: 0.026387\t최선의 손실: 0.025227\t정확도: 99.34%\n", - "68\t검증 세트 손실: 0.042005\t최선의 손실: 0.025227\t정확도: 99.18%\n", - "69\t검증 세트 손실: 0.042958\t최선의 손실: 0.025227\t정확도: 99.26%\n", + "0\t검증 세트 손실: 0.103817\t최선의 손실: 0.103817\t정확도: 96.91%\n", + "1\t검증 세트 손실: 0.086258\t최선의 손실: 0.086258\t정확도: 97.58%\n", + "2\t검증 세트 손실: 0.065299\t최선의 손실: 0.065299\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.049146\t최선의 손실: 0.049146\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.054278\t최선의 손실: 0.049146\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.048301\t최선의 손실: 0.048301\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.048546\t최선의 손실: 0.048301\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.048299\t최선의 손실: 0.048299\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.061751\t최선의 손실: 0.048299\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.064308\t최선의 손실: 0.048299\t정확도: 98.51%\n", + "10\t검증 세트 손실: 0.047626\t최선의 손실: 0.047626\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.041891\t최선의 손실: 0.041891\t정확도: 98.87%\n", + "12\t검증 세트 손실: 0.043488\t최선의 손실: 0.041891\t정확도: 99.10%\n", + "13\t검증 세트 손실: 0.041687\t최선의 손실: 0.041687\t정확도: 98.94%\n", + "14\t검증 세트 손실: 0.054125\t최선의 손실: 0.041687\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.085060\t최선의 손실: 0.041687\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.058054\t최선의 손실: 0.041687\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.077614\t최선의 손실: 0.041687\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.038984\t최선의 손실: 0.038984\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.064473\t최선의 손실: 0.038984\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.051552\t최선의 손실: 0.038984\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.057882\t최선의 손실: 0.038984\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.043591\t최선의 손실: 0.038984\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.063312\t최선의 손실: 0.038984\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.044055\t최선의 손실: 0.038984\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.055827\t최선의 손실: 0.038984\t정확도: 99.02%\n", + "26\t검증 세트 손실: 0.044740\t최선의 손실: 0.038984\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.049711\t최선의 손실: 0.038984\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.040711\t최선의 손실: 0.038984\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.045576\t최선의 손실: 0.038984\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.050881\t최선의 손실: 0.038984\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.055842\t최선의 손실: 0.038984\t정확도: 98.83%\n", + "32\t검증 세트 손실: 0.052306\t최선의 손실: 0.038984\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.055390\t최선의 손실: 0.038984\t정확도: 98.75%\n", + "34\t검증 세트 손실: 0.079434\t최선의 손실: 0.038984\t정확도: 98.44%\n", + "35\t검증 세트 손실: 0.059631\t최선의 손실: 0.038984\t정확도: 99.18%\n", + "36\t검증 세트 손실: 0.065861\t최선의 손실: 0.038984\t정확도: 98.87%\n", + "37\t검증 세트 손실: 0.058020\t최선의 손실: 0.038984\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.032789\t최선의 손실: 0.032789\t정확도: 99.10%\n", + "39\t검증 세트 손실: 0.041488\t최선의 손실: 0.032789\t정확도: 99.10%\n", + "40\t검증 세트 손실: 0.047354\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.049686\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "42\t검증 세트 손실: 0.060431\t최선의 손실: 0.032789\t정확도: 98.83%\n", + "43\t검증 세트 손실: 0.061658\t최선의 손실: 0.032789\t정확도: 98.91%\n", + "44\t검증 세트 손실: 0.071303\t최선의 손실: 0.032789\t정확도: 98.79%\n", + "45\t검증 세트 손실: 0.047889\t최선의 손실: 0.032789\t정확도: 99.14%\n", + "46\t검증 세트 손실: 0.048530\t최선의 손실: 0.032789\t정확도: 99.14%\n", + "47\t검증 세트 손실: 0.048938\t최선의 손실: 0.032789\t정확도: 99.14%\n", + "48\t검증 세트 손실: 0.063268\t최선의 손실: 0.032789\t정확도: 99.02%\n", + "49\t검증 세트 손실: 0.058512\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "50\t검증 세트 손실: 0.120048\t최선의 손실: 0.032789\t정확도: 98.40%\n", + "51\t검증 세트 손실: 0.075483\t최선의 손실: 0.032789\t정확도: 98.83%\n", + "52\t검증 세트 손실: 0.081047\t최선의 손실: 0.032789\t정확도: 98.71%\n", + "53\t검증 세트 손실: 0.064158\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "54\t검증 세트 손실: 0.062785\t최선의 손실: 0.032789\t정확도: 99.10%\n", + "55\t검증 세트 손실: 0.063323\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "56\t검증 세트 손실: 0.060463\t최선의 손실: 0.032789\t정확도: 99.10%\n", + "57\t검증 세트 손실: 0.051798\t최선의 손실: 0.032789\t정확도: 98.98%\n", + "58\t검증 세트 손실: 0.057685\t최선의 손실: 0.032789\t정확도: 99.02%\n", + "59\t검증 세트 손실: 0.069170\t최선의 손실: 0.032789\t정확도: 99.22%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=120, total= 1.7min\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 201.350540\t최선의 손실: 201.350540\t정확도: 85.93%\n", - "1\t검증 세트 손실: 23.290667\t최선의 손실: 23.290667\t정확도: 91.44%\n", - "2\t검증 세트 손실: 11.956513\t최선의 손실: 11.956513\t정확도: 91.24%\n", - "3\t검증 세트 손실: 4.508650\t최선의 손실: 4.508650\t정확도: 94.45%\n", - "4\t검증 세트 손실: 4.159642\t최선의 손실: 4.159642\t정확도: 93.12%\n", - "5\t검증 세트 손실: 1.385204\t최선의 손실: 1.385204\t정확도: 97.03%\n", - "6\t검증 세트 손실: 1.392454\t최선의 손실: 1.385204\t정확도: 96.76%\n", - "7\t검증 세트 손실: 1.095826\t최선의 손실: 1.095826\t정확도: 97.38%\n", - "8\t검증 세트 손실: 0.670510\t최선의 손실: 0.670510\t정확도: 97.89%\n", - "9\t검증 세트 손실: 0.684699\t최선의 손실: 0.670510\t정확도: 97.65%\n", - "10\t검증 세트 손실: 0.494251\t최선의 손실: 0.494251\t정확도: 98.05%\n", - "11\t검증 세트 손실: 0.892210\t최선의 손실: 0.494251\t정확도: 97.03%\n", - "12\t검증 세트 손실: 0.534450\t최선의 손실: 0.494251\t정확도: 97.77%\n", - "13\t검증 세트 손실: 0.530880\t최선의 손실: 0.494251\t정확도: 97.58%\n", - "14\t검증 세트 손실: 0.460215\t최선의 손실: 0.460215\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.476261\t최선의 손실: 0.460215\t정확도: 97.58%\n", - "16\t검증 세트 손실: 0.422915\t최선의 손실: 0.422915\t정확도: 97.81%\n", - "17\t검증 세트 손실: 0.340137\t최선의 손실: 0.340137\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.467914\t최선의 손실: 0.340137\t정확도: 97.73%\n", - "19\t검증 세트 손실: 0.508998\t최선의 손실: 0.340137\t정확도: 98.12%\n", - "20\t검증 세트 손실: 0.247746\t최선의 손실: 0.247746\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.416637\t최선의 손실: 0.247746\t정확도: 97.93%\n", - "22\t검증 세트 손실: 0.351719\t최선의 손실: 0.247746\t정확도: 98.08%\n", - "23\t검증 세트 손실: 0.185835\t최선의 손실: 0.185835\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.232326\t최선의 손실: 0.185835\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.231070\t최선의 손실: 0.185835\t정확도: 98.55%\n", - "26\t검증 세트 손실: 0.133417\t최선의 손실: 0.133417\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.160911\t최선의 손실: 0.133417\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.145715\t최선의 손실: 0.133417\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.290035\t최선의 손실: 0.133417\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.171381\t최선의 손실: 0.133417\t정확도: 98.75%\n", - "31\t검증 세트 손실: 0.162910\t최선의 손실: 0.133417\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.219055\t최선의 손실: 0.133417\t정확도: 98.44%\n", - "33\t검증 세트 손실: 0.290063\t최선의 손실: 0.133417\t정확도: 98.16%\n", - "34\t검증 세트 손실: 0.224369\t최선의 손실: 0.133417\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.218714\t최선의 손실: 0.133417\t정확도: 98.98%\n", - "36\t검증 세트 손실: 0.272537\t최선의 손실: 0.133417\t정확도: 98.44%\n", - "37\t검증 세트 손실: 0.213410\t최선의 손실: 0.133417\t정확도: 98.75%\n", - "38\t검증 세트 손실: 0.174696\t최선의 손실: 0.133417\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.156932\t최선의 손실: 0.133417\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.164182\t최선의 손실: 0.133417\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.187780\t최선의 손실: 0.133417\t정확도: 98.71%\n", - "42\t검증 세트 손실: 0.186965\t최선의 손실: 0.133417\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.250247\t최선의 손실: 0.133417\t정확도: 98.59%\n", - "44\t검증 세트 손실: 0.324077\t최선의 손실: 0.133417\t정확도: 98.28%\n", - "45\t검증 세트 손실: 0.148492\t최선의 손실: 0.133417\t정확도: 98.79%\n", - "46\t검증 세트 손실: 0.128782\t최선의 손실: 0.128782\t정확도: 99.10%\n", - "47\t검증 세트 손실: 0.128124\t최선의 손실: 0.128124\t정확도: 98.98%\n", - "48\t검증 세트 손실: 0.236159\t최선의 손실: 0.128124\t정확도: 98.59%\n", - "49\t검증 세트 손실: 0.168459\t최선의 손실: 0.128124\t정확도: 98.79%\n", - "50\t검증 세트 손실: 0.200698\t최선의 손실: 0.128124\t정확도: 98.36%\n", - "51\t검증 세트 손실: 0.169390\t최선의 손실: 0.128124\t정확도: 98.94%\n", - "52\t검증 세트 손실: 0.164397\t최선의 손실: 0.128124\t정확도: 98.98%\n", - "53\t검증 세트 손실: 0.185698\t최선의 손실: 0.128124\t정확도: 98.83%\n", - "54\t검증 세트 손실: 0.171223\t최선의 손실: 0.128124\t정확도: 98.79%\n", - "55\t검증 세트 손실: 0.469652\t최선의 손실: 0.128124\t정확도: 97.73%\n", - "56\t검증 세트 손실: 0.289348\t최선의 손실: 0.128124\t정확도: 98.40%\n", - "57\t검증 세트 손실: 0.197328\t최선의 손실: 0.128124\t정확도: 98.79%\n", - "58\t검증 세트 손실: 0.168868\t최선의 손실: 0.128124\t정확도: 98.87%\n", - "59\t검증 세트 손실: 0.215075\t최선의 손실: 0.128124\t정확도: 98.83%\n", - "60\t검증 세트 손실: 0.401371\t최선의 손실: 0.128124\t정확도: 97.93%\n", - "61\t검증 세트 손실: 0.160647\t최선의 손실: 0.128124\t정확도: 98.71%\n", - "62\t검증 세트 손실: 0.189838\t최선의 손실: 0.128124\t정확도: 98.55%\n", - "63\t검증 세트 손실: 0.218456\t최선의 손실: 0.128124\t정확도: 98.59%\n", - "64\t검증 세트 손실: 0.170575\t최선의 손실: 0.128124\t정확도: 98.79%\n", - "65\t검증 세트 손실: 0.204905\t최선의 손실: 0.128124\t정확도: 98.67%\n", - "66\t검증 세트 손실: 0.222708\t최선의 손실: 0.128124\t정확도: 98.67%\n", - "67\t검증 세트 손실: 0.215705\t최선의 손실: 0.128124\t정확도: 98.51%\n", - "68\t검증 세트 손실: 0.137549\t최선의 손실: 0.128124\t정확도: 98.83%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 42.6s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.125668\t최선의 손실: 0.125668\t정확도: 96.40%\n", + "1\t검증 세트 손실: 0.060842\t최선의 손실: 0.060842\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.052548\t최선의 손실: 0.052548\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.082396\t최선의 손실: 0.052548\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.067255\t최선의 손실: 0.052548\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.043459\t최선의 손실: 0.043459\t정확도: 98.79%\n", + "6\t검증 세트 손실: 0.060465\t최선의 손실: 0.043459\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.063859\t최선의 손실: 0.043459\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.059523\t최선의 손실: 0.043459\t정확도: 98.67%\n", + "9\t검증 세트 손실: 0.059443\t최선의 손실: 0.043459\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.054754\t최선의 손실: 0.043459\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.076101\t최선의 손실: 0.043459\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.065454\t최선의 손실: 0.043459\t정확도: 98.91%\n", + "13\t검증 세트 손실: 0.057153\t최선의 손실: 0.043459\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.037096\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.046686\t최선의 손실: 0.037096\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.053930\t최선의 손실: 0.037096\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.056635\t최선의 손실: 0.037096\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.048214\t최선의 손실: 0.037096\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.046365\t최선의 손실: 0.037096\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.066252\t최선의 손실: 0.037096\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.045552\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.039984\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.050213\t최선의 손실: 0.037096\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.049196\t최선의 손실: 0.037096\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.054266\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.056601\t최선의 손실: 0.037096\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.072407\t최선의 손실: 0.037096\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.056817\t최선의 손실: 0.037096\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.067239\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.056267\t최선의 손실: 0.037096\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.052527\t최선의 손실: 0.037096\t정확도: 98.91%\n", + "32\t검증 세트 손실: 0.047982\t최선의 손실: 0.037096\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.067441\t최선의 손실: 0.037096\t정확도: 98.48%\n", + "34\t검증 세트 손실: 0.058222\t최선의 손실: 0.037096\t정확도: 98.94%\n", + "35\t검증 세트 손실: 0.080609\t최선의 손실: 0.037096\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 13.1s\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 134.921585\t최선의 손실: 134.921585\t정확도: 88.00%\n", - "1\t검증 세트 손실: 28.357632\t최선의 손실: 28.357632\t정확도: 88.51%\n", - "2\t검증 세트 손실: 10.578081\t최선의 손실: 10.578081\t정확도: 89.76%\n", - "3\t검증 세트 손실: 2.963521\t최선의 손실: 2.963521\t정확도: 95.58%\n", - "4\t검증 세트 손실: 4.752062\t최선의 손실: 2.963521\t정확도: 91.79%\n", - "5\t검증 세트 손실: 6.468737\t최선의 손실: 2.963521\t정확도: 90.07%\n", - "6\t검증 세트 손실: 1.555966\t최선의 손실: 1.555966\t정확도: 96.29%\n", - "7\t검증 세트 손실: 1.195242\t최선의 손실: 1.195242\t정확도: 96.60%\n", - "8\t검증 세트 손실: 1.212138\t최선의 손실: 1.195242\t정확도: 96.33%\n", - "9\t검증 세트 손실: 0.834825\t최선의 손실: 0.834825\t정확도: 97.07%\n", - "10\t검증 세트 손실: 0.803072\t최선의 손실: 0.803072\t정확도: 97.42%\n", - "11\t검증 세트 손실: 0.600534\t최선의 손실: 0.600534\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.511673\t최선의 손실: 0.511673\t정확도: 97.62%\n", - "13\t검증 세트 손실: 0.510442\t최선의 손실: 0.510442\t정확도: 97.89%\n", - "14\t검증 세트 손실: 0.431712\t최선의 손실: 0.431712\t정확도: 97.69%\n", - "15\t검증 세트 손실: 0.788709\t최선의 손실: 0.431712\t정확도: 97.22%\n", - "16\t검증 세트 손실: 0.548901\t최선의 손실: 0.431712\t정확도: 97.30%\n", - "17\t검증 세트 손실: 0.334116\t최선의 손실: 0.334116\t정확도: 98.05%\n", - "18\t검증 세트 손실: 0.386638\t최선의 손실: 0.334116\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.400214\t최선의 손실: 0.334116\t정확도: 98.05%\n", - "20\t검증 세트 손실: 0.664318\t최선의 손실: 0.334116\t정확도: 97.26%\n", - "21\t검증 세트 손실: 0.772704\t최선의 손실: 0.334116\t정확도: 96.52%\n", - "22\t검증 세트 손실: 0.304629\t최선의 손실: 0.304629\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.416265\t최선의 손실: 0.304629\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.352522\t최선의 손실: 0.304629\t정확도: 98.28%\n", - "25\t검증 세트 손실: 0.291643\t최선의 손실: 0.291643\t정확도: 98.44%\n", - "26\t검증 세트 손실: 0.226281\t최선의 손실: 0.226281\t정확도: 98.75%\n", - "27\t검증 세트 손실: 0.235502\t최선의 손실: 0.226281\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.308371\t최선의 손실: 0.226281\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.250173\t최선의 손실: 0.226281\t정확도: 98.51%\n", - "30\t검증 세트 손실: 0.532588\t최선의 손실: 0.226281\t정확도: 97.54%\n", - "31\t검증 세트 손실: 0.338428\t최선의 손실: 0.226281\t정확도: 98.08%\n", - "32\t검증 세트 손실: 0.259142\t최선의 손실: 0.226281\t정확도: 98.51%\n", - "33\t검증 세트 손실: 0.407033\t최선의 손실: 0.226281\t정확도: 98.01%\n", - "34\t검증 세트 손실: 0.257465\t최선의 손실: 0.226281\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.285851\t최선의 손실: 0.226281\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.258555\t최선의 손실: 0.226281\t정확도: 98.44%\n", - "37\t검증 세트 손실: 0.272459\t최선의 손실: 0.226281\t정확도: 98.12%\n", - "38\t검증 세트 손실: 0.330893\t최선의 손실: 0.226281\t정확도: 98.12%\n", - "39\t검증 세트 손실: 0.268104\t최선의 손실: 0.226281\t정확도: 98.44%\n", - "40\t검증 세트 손실: 0.332536\t최선의 손실: 0.226281\t정확도: 98.01%\n", - "41\t검증 세트 손실: 0.199516\t최선의 손실: 0.199516\t정확도: 98.67%\n", - "42\t검증 세트 손실: 0.241852\t최선의 손실: 0.199516\t정확도: 98.63%\n", - "43\t검증 세트 손실: 0.165017\t최선의 손실: 0.165017\t정확도: 99.02%\n", - "44\t검증 세트 손실: 0.216662\t최선의 손실: 0.165017\t정확도: 98.67%\n", - "45\t검증 세트 손실: 0.316521\t최선의 손실: 0.165017\t정확도: 98.16%\n", - "46\t검증 세트 손실: 0.374136\t최선의 손실: 0.165017\t정확도: 97.69%\n", - "47\t검증 세트 손실: 0.268151\t최선의 손실: 0.165017\t정확도: 98.32%\n", - "48\t검증 세트 손실: 0.255296\t최선의 손실: 0.165017\t정확도: 98.36%\n", - "49\t검증 세트 손실: 0.235373\t최선의 손실: 0.165017\t정확도: 98.67%\n", - "50\t검증 세트 손실: 0.206292\t최선의 손실: 0.165017\t정확도: 98.83%\n", - "51\t검증 세트 손실: 0.167458\t최선의 손실: 0.165017\t정확도: 98.98%\n", - "52\t검증 세트 손실: 0.206354\t최선의 손실: 0.165017\t정확도: 98.63%\n", - "53\t검증 세트 손실: 0.155558\t최선의 손실: 0.155558\t정확도: 98.98%\n", - "54\t검증 세트 손실: 0.165199\t최선의 손실: 0.155558\t정확도: 98.87%\n", - "55\t검증 세트 손실: 0.156487\t최선의 손실: 0.155558\t정확도: 99.10%\n", - "56\t검증 세트 손실: 0.144681\t최선의 손실: 0.144681\t정확도: 99.18%\n", - "57\t검증 세트 손실: 0.137558\t최선의 손실: 0.137558\t정확도: 99.14%\n", - "58\t검증 세트 손실: 0.128760\t최선의 손실: 0.128760\t정확도: 99.18%\n", - "59\t검증 세트 손실: 0.124892\t최선의 손실: 0.124892\t정확도: 99.18%\n", - "60\t검증 세트 손실: 0.121118\t최선의 손실: 0.121118\t정확도: 99.18%\n", - "61\t검증 세트 손실: 0.117004\t최선의 손실: 0.117004\t정확도: 99.22%\n", - "62\t검증 세트 손실: 0.115524\t최선의 손실: 0.115524\t정확도: 99.22%\n", - "63\t검증 세트 손실: 0.112479\t최선의 손실: 0.112479\t정확도: 99.22%\n", - "64\t검증 세트 손실: 0.108524\t최선의 손실: 0.108524\t정확도: 99.22%\n", - "65\t검증 세트 손실: 0.106841\t최선의 손실: 0.106841\t정확도: 99.22%\n", - "66\t검증 세트 손실: 0.104639\t최선의 손실: 0.104639\t정확도: 99.22%\n", - "67\t검증 세트 손실: 0.102194\t최선의 손실: 0.102194\t정확도: 99.22%\n", - "68\t검증 세트 손실: 0.100551\t최선의 손실: 0.100551\t정확도: 99.18%\n", - "69\t검증 세트 손실: 0.099278\t최선의 손실: 0.099278\t정확도: 99.18%\n", - "70\t검증 세트 손실: 0.097757\t최선의 손실: 0.097757\t정확도: 99.18%\n", - "71\t검증 세트 손실: 0.095738\t최선의 손실: 0.095738\t정확도: 99.14%\n", - "72\t검증 세트 손실: 0.094153\t최선의 손실: 0.094153\t정확도: 99.14%\n", - "73\t검증 세트 손실: 0.095563\t최선의 손실: 0.094153\t정확도: 99.14%\n", - "74\t검증 세트 손실: 0.091780\t최선의 손실: 0.091780\t정확도: 99.18%\n", - "75\t검증 세트 손실: 0.091089\t최선의 손실: 0.091089\t정확도: 99.18%\n" + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 26.1s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation= \n", + "0\t검증 세트 손실: 0.084804\t최선의 손실: 0.084804\t정확도: 97.38%\n", + "1\t검증 세트 손실: 0.064382\t최선의 손실: 0.064382\t정확도: 97.81%\n", + "2\t검증 세트 손실: 0.059545\t최선의 손실: 0.059545\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.049439\t최선의 손실: 0.049439\t정확도: 98.36%\n", + "4\t검증 세트 손실: 0.073801\t최선의 손실: 0.049439\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.044900\t최선의 손실: 0.044900\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.061464\t최선의 손실: 0.044900\t정확도: 98.71%\n", + "7\t검증 세트 손실: 0.061920\t최선의 손실: 0.044900\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.051737\t최선의 손실: 0.044900\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.030226\t최선의 손실: 0.030226\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.058298\t최선의 손실: 0.030226\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.036623\t최선의 손실: 0.030226\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.043108\t최선의 손실: 0.030226\t정확도: 99.06%\n", + "13\t검증 세트 손실: 0.052095\t최선의 손실: 0.030226\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.057669\t최선의 손실: 0.030226\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.042009\t최선의 손실: 0.030226\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.036129\t최선의 손실: 0.030226\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.044061\t최선의 손실: 0.030226\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.070033\t최선의 손실: 0.030226\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.054162\t최선의 손실: 0.030226\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.048682\t최선의 손실: 0.030226\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.037245\t최선의 손실: 0.030226\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.041953\t최선의 손실: 0.030226\t정확도: 99.18%\n", + "23\t검증 세트 손실: 0.039015\t최선의 손실: 0.030226\t정확도: 99.18%\n", + "24\t검증 세트 손실: 0.056157\t최선의 손실: 0.030226\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.038774\t최선의 손실: 0.030226\t정확도: 99.02%\n", + "26\t검증 세트 손실: 0.054363\t최선의 손실: 0.030226\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.041231\t최선의 손실: 0.030226\t정확도: 98.98%\n", + "28\t검증 세트 손실: 0.035795\t최선의 손실: 0.030226\t정확도: 99.18%\n", + "29\t검증 세트 손실: 0.042290\t최선의 손실: 0.030226\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.050229\t최선의 손실: 0.030226\t정확도: 98.98%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=100, batch_norm_momentum=0.95, activation=, total= 22.7s\n", + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.233519\t최선의 손실: 0.233519\t정확도: 94.80%\n", + "1\t검증 세트 손실: 0.109373\t최선의 손실: 0.109373\t정확도: 97.42%\n", + "2\t검증 세트 손실: 0.072222\t최선의 손실: 0.072222\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.080989\t최선의 손실: 0.072222\t정확도: 97.73%\n", + "4\t검증 세트 손실: 0.251858\t최선의 손실: 0.072222\t정확도: 97.38%\n", + "5\t검증 세트 손실: 0.200971\t최선의 손실: 0.072222\t정확도: 97.54%\n", + "6\t검증 세트 손실: 0.058604\t최선의 손실: 0.058604\t정확도: 98.40%\n", + "7\t검증 세트 손실: 0.065821\t최선의 손실: 0.058604\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.067631\t최선의 손실: 0.058604\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.196944\t최선의 손실: 0.058604\t정확도: 97.81%\n", + "10\t검증 세트 손실: 0.054941\t최선의 손실: 0.054941\t정확도: 98.48%\n", + "11\t검증 세트 손실: 2.205083\t최선의 손실: 0.054941\t정확도: 95.62%\n", + "12\t검증 세트 손실: 0.477981\t최선의 손실: 0.054941\t정확도: 97.26%\n", + "13\t검증 세트 손실: 0.091989\t최선의 손실: 0.054941\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.128636\t최선의 손실: 0.054941\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.115276\t최선의 손실: 0.054941\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.132160\t최선의 손실: 0.054941\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.057938\t최선의 손실: 0.054941\t정확도: 99.10%\n", + "18\t검증 세트 손실: 0.055237\t최선의 손실: 0.054941\t정확도: 99.06%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "76\t검증 세트 손실: 0.090508\t최선의 손실: 0.090508\t정확도: 99.14%\n", - "77\t검증 세트 손실: 0.089775\t최선의 손실: 0.089775\t정확도: 99.14%\n", - "78\t검증 세트 손실: 0.087690\t최선의 손실: 0.087690\t정확도: 99.10%\n", - "79\t검증 세트 손실: 0.087435\t최선의 손실: 0.087435\t정확도: 99.06%\n", - "80\t검증 세트 손실: 0.086629\t최선의 손실: 0.086629\t정확도: 99.10%\n", - "81\t검증 세트 손실: 0.085849\t최선의 손실: 0.085849\t정확도: 99.06%\n", - "82\t검증 세트 손실: 0.086975\t최선의 손실: 0.085849\t정확도: 99.10%\n", - "83\t검증 세트 손실: 0.087221\t최선의 손실: 0.085849\t정확도: 99.10%\n", - "84\t검증 세트 손실: 0.085723\t최선의 손실: 0.085723\t정확도: 99.14%\n", - "85\t검증 세트 손실: 0.085011\t최선의 손실: 0.085011\t정확도: 99.14%\n", - "86\t검증 세트 손실: 0.084023\t최선의 손실: 0.084023\t정확도: 99.10%\n", - "87\t검증 세트 손실: 0.083542\t최선의 손실: 0.083542\t정확도: 99.10%\n", - "88\t검증 세트 손실: 0.083023\t최선의 손실: 0.083023\t정확도: 99.10%\n", - "89\t검증 세트 손실: 0.082244\t최선의 손실: 0.082244\t정확도: 99.10%\n", - "90\t검증 세트 손실: 0.081631\t최선의 손실: 0.081631\t정확도: 99.10%\n", - "91\t검증 세트 손실: 0.081847\t최선의 손실: 0.081631\t정확도: 99.10%\n", - "92\t검증 세트 손실: 0.081353\t최선의 손실: 0.081353\t정확도: 99.10%\n", - "93\t검증 세트 손실: 0.081113\t최선의 손실: 0.081113\t정확도: 99.10%\n", - "94\t검증 세트 손실: 0.080383\t최선의 손실: 0.080383\t정확도: 99.06%\n", - "95\t검증 세트 손실: 0.079870\t최선의 손실: 0.079870\t정확도: 99.06%\n", - "96\t검증 세트 손실: 0.079793\t최선의 손실: 0.079793\t정확도: 99.06%\n", - "97\t검증 세트 손실: 0.079440\t최선의 손실: 0.079440\t정확도: 99.06%\n", - "98\t검증 세트 손실: 0.079052\t최선의 손실: 0.079052\t정확도: 99.06%\n", - "99\t검증 세트 손실: 0.079486\t최선의 손실: 0.079052\t정확도: 99.06%\n", - "100\t검증 세트 손실: 0.079354\t최선의 손실: 0.079052\t정확도: 99.06%\n", - "101\t검증 세트 손실: 0.078805\t최선의 손실: 0.078805\t정확도: 99.10%\n", - "102\t검증 세트 손실: 0.078285\t최선의 손실: 0.078285\t정확도: 99.10%\n", - "103\t검증 세트 손실: 0.097363\t최선의 손실: 0.078285\t정확도: 98.94%\n", - "104\t검증 세트 손실: 60.835102\t최선의 손실: 0.078285\t정확도: 84.95%\n", - "105\t검증 세트 손실: 34.450249\t최선의 손실: 0.078285\t정확도: 97.19%\n", - "106\t검증 세트 손실: 12.631807\t최선의 손실: 0.078285\t정확도: 97.19%\n", - "107\t검증 세트 손실: 6.185861\t최선의 손실: 0.078285\t정확도: 97.03%\n", - "108\t검증 세트 손실: 3.970058\t최선의 손실: 0.078285\t정확도: 97.42%\n", - "109\t검증 세트 손실: 2.696879\t최선의 손실: 0.078285\t정확도: 97.42%\n", - "110\t검증 세트 손실: 2.175081\t최선의 손실: 0.078285\t정확도: 97.62%\n", - "111\t검증 세트 손실: 2.328239\t최선의 손실: 0.078285\t정확도: 97.34%\n", - "112\t검증 세트 손실: 2.510819\t최선의 손실: 0.078285\t정확도: 96.44%\n", - "113\t검증 세트 손실: 1.558764\t최선의 손실: 0.078285\t정확도: 97.50%\n", - "114\t검증 세트 손실: 1.629484\t최선의 손실: 0.078285\t정확도: 97.07%\n", - "115\t검증 세트 손실: 1.045175\t최선의 손실: 0.078285\t정확도: 97.93%\n", - "116\t검증 세트 손실: 0.980876\t최선의 손실: 0.078285\t정확도: 97.81%\n", - "117\t검증 세트 손실: 0.696114\t최선의 손실: 0.078285\t정확도: 98.12%\n", - "118\t검증 세트 손실: 0.734240\t최선의 손실: 0.078285\t정확도: 98.08%\n", - "119\t검증 세트 손실: 0.634051\t최선의 손실: 0.078285\t정확도: 98.16%\n", - "120\t검증 세트 손실: 0.527846\t최선의 손실: 0.078285\t정확도: 98.20%\n", - "121\t검증 세트 손실: 0.440940\t최선의 손실: 0.078285\t정확도: 98.40%\n", - "122\t검증 세트 손실: 0.371384\t최선의 손실: 0.078285\t정확도: 98.55%\n", - "123\t검증 세트 손실: 0.330436\t최선의 손실: 0.078285\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.198465\t최선의 손실: 0.054941\t정확도: 98.71%\n", + "20\t검증 세트 손실: 0.694948\t최선의 손실: 0.054941\t정확도: 97.22%\n", + "21\t검증 세트 손실: 0.269670\t최선의 손실: 0.054941\t정확도: 97.93%\n", + "22\t검증 세트 손실: 0.117565\t최선의 손실: 0.054941\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.085263\t최선의 손실: 0.054941\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.099163\t최선의 손실: 0.054941\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.083543\t최선의 손실: 0.054941\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.093358\t최선의 손실: 0.054941\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.106070\t최선의 손실: 0.054941\t정확도: 98.75%\n", + "28\t검증 세트 손실: 4.084363\t최선의 손실: 0.054941\t정확도: 95.39%\n", + "29\t검증 세트 손실: 0.343195\t최선의 손실: 0.054941\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.168023\t최선의 손실: 0.054941\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.196809\t최선의 손실: 0.054941\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 22.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 411.945770\t최선의 손실: 411.945770\t정확도: 70.84%\n", - "1\t검증 세트 손실: 78.689690\t최선의 손실: 78.689690\t정확도: 76.19%\n", - "2\t검증 세트 손실: 28.895317\t최선의 손실: 28.895317\t정확도: 76.39%\n", - "3\t검증 세트 손실: 11.732854\t최선의 손실: 11.732854\t정확도: 79.95%\n", - "4\t검증 세트 손실: 4.377892\t최선의 손실: 4.377892\t정확도: 91.67%\n", - "5\t검증 세트 손실: 2.187544\t최선의 손실: 2.187544\t정확도: 93.67%\n", - "6\t검증 세트 손실: 2.329332\t최선의 손실: 2.187544\t정확도: 94.14%\n", - "7\t검증 세트 손실: 1.297179\t최선의 손실: 1.297179\t정확도: 96.52%\n", - "8\t검증 세트 손실: 1.833754\t최선의 손실: 1.297179\t정확도: 95.35%\n", - "9\t검증 세트 손실: 0.790275\t최선의 손실: 0.790275\t정확도: 97.62%\n", - "10\t검증 세트 손실: 1.430014\t최선의 손실: 0.790275\t정확도: 95.50%\n", - "11\t검증 세트 손실: 1.059726\t최선의 손실: 0.790275\t정확도: 96.68%\n", - "12\t검증 세트 손실: 0.528436\t최선의 손실: 0.528436\t정확도: 97.85%\n", - "13\t검증 세트 손실: 0.547276\t최선의 손실: 0.528436\t정확도: 97.85%\n", - "14\t검증 세트 손실: 0.631464\t최선의 손실: 0.528436\t정확도: 97.03%\n", - "15\t검증 세트 손실: 0.782471\t최선의 손실: 0.528436\t정확도: 96.36%\n", - "16\t검증 세트 손실: 0.431340\t최선의 손실: 0.431340\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.541496\t최선의 손실: 0.431340\t정확도: 97.50%\n", - "18\t검증 세트 손실: 0.594799\t최선의 손실: 0.431340\t정확도: 97.15%\n", - "19\t검증 세트 손실: 0.493455\t최선의 손실: 0.431340\t정확도: 97.42%\n", - "20\t검증 세트 손실: 0.375671\t최선의 손실: 0.375671\t정확도: 97.85%\n", - "21\t검증 세트 손실: 0.374120\t최선의 손실: 0.374120\t정확도: 97.89%\n", - "22\t검증 세트 손실: 0.592766\t최선의 손실: 0.374120\t정확도: 97.11%\n", - "23\t검증 세트 손실: 0.365891\t최선의 손실: 0.365891\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.365421\t최선의 손실: 0.365421\t정확도: 97.97%\n", - "25\t검증 세트 손실: 0.270817\t최선의 손실: 0.270817\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.203994\t최선의 손실: 0.203994\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.212388\t최선의 손실: 0.203994\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.176637\t최선의 손실: 0.176637\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.320330\t최선의 손실: 0.176637\t정확도: 98.48%\n", - "30\t검증 세트 손실: 0.183519\t최선의 손실: 0.176637\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.236324\t최선의 손실: 0.176637\t정확도: 98.75%\n", - "32\t검증 세트 손실: 0.261319\t최선의 손실: 0.176637\t정확도: 98.44%\n", - "33\t검증 세트 손실: 0.281253\t최선의 손실: 0.176637\t정확도: 98.16%\n", - "34\t검증 세트 손실: 0.308074\t최선의 손실: 0.176637\t정확도: 98.44%\n", - "35\t검증 세트 손실: 0.202940\t최선의 손실: 0.176637\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.498216\t최선의 손실: 0.176637\t정확도: 97.22%\n", - "37\t검증 세트 손실: 0.305456\t최선의 손실: 0.176637\t정확도: 97.93%\n", - "38\t검증 세트 손실: 0.172822\t최선의 손실: 0.172822\t정확도: 98.71%\n", - "39\t검증 세트 손실: 0.189202\t최선의 손실: 0.172822\t정확도: 98.40%\n", - "40\t검증 세트 손실: 0.218709\t최선의 손실: 0.172822\t정확도: 98.51%\n", - "41\t검증 세트 손실: 0.214125\t최선의 손실: 0.172822\t정확도: 98.83%\n", - "42\t검증 세트 손실: 0.309242\t최선의 손실: 0.172822\t정확도: 98.48%\n", - "43\t검증 세트 손실: 0.208022\t최선의 손실: 0.172822\t정확도: 98.71%\n", - "44\t검증 세트 손실: 0.263536\t최선의 손실: 0.172822\t정확도: 98.48%\n", - "45\t검증 세트 손실: 0.250368\t최선의 손실: 0.172822\t정확도: 98.44%\n", - "46\t검증 세트 손실: 0.243050\t최선의 손실: 0.172822\t정확도: 98.24%\n", - "47\t검증 세트 손실: 0.216919\t최선의 손실: 0.172822\t정확도: 98.59%\n", - "48\t검증 세트 손실: 0.149300\t최선의 손실: 0.149300\t정확도: 98.75%\n", - "49\t검증 세트 손실: 0.134516\t최선의 손실: 0.134516\t정확도: 98.75%\n", - "50\t검증 세트 손실: 0.179788\t최선의 손실: 0.134516\t정확도: 98.71%\n", - "51\t검증 세트 손실: 0.136034\t최선의 손실: 0.134516\t정확도: 98.71%\n", - "52\t검증 세트 손실: 0.135949\t최선의 손실: 0.134516\t정확도: 98.67%\n", - "53\t검증 세트 손실: 0.142198\t최선의 손실: 0.134516\t정확도: 98.87%\n", - "54\t검증 세트 손실: 0.130875\t최선의 손실: 0.130875\t정확도: 98.87%\n", - "55\t검증 세트 손실: 0.117064\t최선의 손실: 0.117064\t정확도: 98.87%\n", - "56\t검증 세트 손실: 0.119088\t최선의 손실: 0.117064\t정확도: 98.87%\n", - "57\t검증 세트 손실: 0.113740\t최선의 손실: 0.113740\t정확도: 98.83%\n", - "58\t검증 세트 손실: 0.108375\t최선의 손실: 0.108375\t정확도: 98.91%\n", - "59\t검증 세트 손실: 0.104941\t최선의 손실: 0.104941\t정확도: 98.91%\n", - "60\t검증 세트 손실: 0.100131\t최선의 손실: 0.100131\t정확도: 98.94%\n", - "61\t검증 세트 손실: 0.097417\t최선의 손실: 0.097417\t정확도: 98.94%\n", - "62\t검증 세트 손실: 0.094886\t최선의 손실: 0.094886\t정확도: 98.94%\n", - "63\t검증 세트 손실: 0.093159\t최선의 손실: 0.093159\t정확도: 98.94%\n", - "64\t검증 세트 손실: 0.095403\t최선의 손실: 0.093159\t정확도: 98.91%\n", - "65\t검증 세트 손실: 0.090674\t최선의 손실: 0.090674\t정확도: 98.98%\n", - "66\t검증 세트 손실: 0.086175\t최선의 손실: 0.086175\t정확도: 98.98%\n", - "67\t검증 세트 손실: 0.085754\t최선의 손실: 0.085754\t정확도: 98.98%\n", - "68\t검증 세트 손실: 0.083465\t최선의 손실: 0.083465\t정확도: 98.98%\n", - "69\t검증 세트 손실: 0.081653\t최선의 손실: 0.081653\t정확도: 99.02%\n", - "70\t검증 세트 손실: 0.079844\t최선의 손실: 0.079844\t정확도: 99.02%\n", - "71\t검증 세트 손실: 0.077332\t최선의 손실: 0.077332\t정확도: 99.02%\n", - "72\t검증 세트 손실: 0.076103\t최선의 손실: 0.076103\t정확도: 99.06%\n", - "73\t검증 세트 손실: 0.074743\t최선의 손실: 0.074743\t정확도: 99.06%\n", - "74\t검증 세트 손실: 0.073872\t최선의 손실: 0.073872\t정확도: 99.10%\n", - "75\t검증 세트 손실: 0.072964\t최선의 손실: 0.072964\t정확도: 99.10%\n", - "76\t검증 세트 손실: 0.069501\t최선의 손실: 0.069501\t정확도: 99.18%\n", - "77\t검증 세트 손실: 0.069357\t최선의 손실: 0.069357\t정확도: 99.18%\n", - "78\t검증 세트 손실: 0.069594\t최선의 손실: 0.069357\t정확도: 99.18%\n", - "79\t검증 세트 손실: 0.069607\t최선의 손실: 0.069357\t정확도: 99.14%\n", - "80\t검증 세트 손실: 0.069608\t최선의 손실: 0.069357\t정확도: 99.10%\n", - "81\t검증 세트 손실: 0.069142\t최선의 손실: 0.069142\t정확도: 99.10%\n", - "82\t검증 세트 손실: 0.069486\t최선의 손실: 0.069142\t정확도: 99.10%\n", - "83\t검증 세트 손실: 0.067378\t최선의 손실: 0.067378\t정확도: 99.10%\n", - "84\t검증 세트 손실: 0.066940\t최선의 손실: 0.066940\t정확도: 99.14%\n", - "85\t검증 세트 손실: 0.066275\t최선의 손실: 0.066275\t정확도: 99.10%\n", - "86\t검증 세트 손실: 0.065731\t최선의 손실: 0.065731\t정확도: 99.10%\n", - "87\t검증 세트 손실: 0.065339\t최선의 손실: 0.065339\t정확도: 99.10%\n", - "88\t검증 세트 손실: 0.064999\t최선의 손실: 0.064999\t정확도: 99.10%\n", - "89\t검증 세트 손실: 0.064511\t최선의 손실: 0.064511\t정확도: 99.14%\n", - "90\t검증 세트 손실: 0.064218\t최선의 손실: 0.064218\t정확도: 99.14%\n", - "91\t검증 세트 손실: 0.063909\t최선의 손실: 0.063909\t정확도: 99.14%\n", - "92\t검증 세트 손실: 0.063513\t최선의 손실: 0.063513\t정확도: 99.14%\n", - "93\t검증 세트 손실: 0.063299\t최선의 손실: 0.063299\t정확도: 99.10%\n", - "94\t검증 세트 손실: 0.063112\t최선의 손실: 0.063112\t정확도: 99.10%\n", - "95\t검증 세트 손실: 0.062896\t최선의 손실: 0.062896\t정확도: 99.10%\n", - "96\t검증 세트 손실: 0.063434\t최선의 손실: 0.062896\t정확도: 99.06%\n", - "97\t검증 세트 손실: 0.063214\t최선의 손실: 0.062896\t정확도: 99.06%\n", - "98\t검증 세트 손실: 0.062970\t최선의 손실: 0.062896\t정확도: 99.06%\n", - "99\t검증 세트 손실: 0.062768\t최선의 손실: 0.062768\t정확도: 99.10%\n", - "100\t검증 세트 손실: 0.062646\t최선의 손실: 0.062646\t정확도: 99.10%\n", - "101\t검증 세트 손실: 0.063090\t최선의 손실: 0.062646\t정확도: 99.10%\n", - "102\t검증 세트 손실: 0.062917\t최선의 손실: 0.062646\t정확도: 99.10%\n", - "103\t검증 세트 손실: 0.062461\t최선의 손실: 0.062461\t정확도: 99.14%\n", - "104\t검증 세트 손실: 0.062278\t최선의 손실: 0.062278\t정확도: 99.10%\n", - "105\t검증 세트 손실: 0.092729\t최선의 손실: 0.062278\t정확도: 98.67%\n", - "106\t검증 세트 손실: 0.303472\t최선의 손실: 0.062278\t정확도: 97.11%\n", - "107\t검증 세트 손실: 0.526361\t최선의 손실: 0.062278\t정확도: 97.85%\n" + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 44.2s\n", + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.167451\t최선의 손실: 0.167451\t정확도: 95.66%\n", + "1\t검증 세트 손실: 0.079740\t최선의 손실: 0.079740\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.270160\t최선의 손실: 0.079740\t정확도: 94.29%\n", + "3\t검증 세트 손실: 0.092527\t최선의 손실: 0.079740\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.059984\t최선의 손실: 0.059984\t정확도: 98.55%\n", + "5\t검증 세트 손실: 0.062262\t최선의 손실: 0.059984\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.147652\t최선의 손실: 0.059984\t정확도: 97.34%\n", + "7\t검증 세트 손실: 2.034700\t최선의 손실: 0.059984\t정확도: 96.72%\n", + "8\t검증 세트 손실: 0.165930\t최선의 손실: 0.059984\t정확도: 97.93%\n", + "9\t검증 세트 손실: 0.116371\t최선의 손실: 0.059984\t정확도: 98.16%\n", + "10\t검증 세트 손실: 0.070907\t최선의 손실: 0.059984\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.059982\t최선의 손실: 0.059982\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.040090\t최선의 손실: 0.040090\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.044975\t최선의 손실: 0.040090\t정확도: 99.06%\n", + "14\t검증 세트 손실: 0.104044\t최선의 손실: 0.040090\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.085498\t최선의 손실: 0.040090\t정확도: 98.51%\n", + "16\t검증 세트 손실: 1.056275\t최선의 손실: 0.040090\t정확도: 96.13%\n", + "17\t검증 세트 손실: 0.417337\t최선의 손실: 0.040090\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.230069\t최선의 손실: 0.040090\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.127825\t최선의 손실: 0.040090\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.097848\t최선의 손실: 0.040090\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.103893\t최선의 손실: 0.040090\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.136906\t최선의 손실: 0.040090\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.138977\t최선의 손실: 0.040090\t정확도: 98.59%\n", + "24\t검증 세트 손실: 13.297240\t최선의 손실: 0.040090\t정확도: 87.22%\n", + "25\t검증 세트 손실: 0.322572\t최선의 손실: 0.040090\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.145430\t최선의 손실: 0.040090\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.124322\t최선의 손실: 0.040090\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.156792\t최선의 손실: 0.040090\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.127708\t최선의 손실: 0.040090\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.115026\t최선의 손실: 0.040090\t정확도: 99.02%\n", + "31\t검증 세트 손실: 0.131052\t최선의 손실: 0.040090\t정확도: 98.67%\n", + "32\t검증 세트 손실: 0.240211\t최선의 손실: 0.040090\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.380066\t최선의 손실: 0.040090\t정확도: 98.24%\n", + "조기 종료!\n", + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 47.0s\n", + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.232642\t최선의 손실: 0.232642\t정확도: 94.96%\n", + "1\t검증 세트 손실: 0.081577\t최선의 손실: 0.081577\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.184028\t최선의 손실: 0.081577\t정확도: 96.36%\n", + "3\t검증 세트 손실: 0.084781\t최선의 손실: 0.081577\t정확도: 98.28%\n", + "4\t검증 세트 손실: 0.051192\t최선의 손실: 0.051192\t정확도: 98.59%\n", + "5\t검증 세트 손실: 0.061336\t최선의 손실: 0.051192\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.199811\t최선의 손실: 0.051192\t정확도: 96.13%\n", + "7\t검증 세트 손실: 0.580394\t최선의 손실: 0.051192\t정확도: 97.30%\n", + "8\t검증 세트 손실: 0.094372\t최선의 손실: 0.051192\t정확도: 98.48%\n", + "9\t검증 세트 손실: 0.072929\t최선의 손실: 0.051192\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.060733\t최선의 손실: 0.051192\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.056605\t최선의 손실: 0.051192\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.048366\t최선의 손실: 0.048366\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.061457\t최선의 손실: 0.048366\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.568374\t최선의 손실: 0.048366\t정확도: 95.43%\n", + "15\t검증 세트 손실: 0.196886\t최선의 손실: 0.048366\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.106866\t최선의 손실: 0.048366\t정확도: 98.94%\n", + "17\t검증 세트 손실: 0.313807\t최선의 손실: 0.048366\t정확도: 97.69%\n", + "18\t검증 세트 손실: 0.050719\t최선의 손실: 0.048366\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.045003\t최선의 손실: 0.045003\t정확도: 99.22%\n", + "20\t검증 세트 손실: 0.047318\t최선의 손실: 0.045003\t정확도: 99.34%\n", + "21\t검증 세트 손실: 1.272694\t최선의 손실: 0.045003\t정확도: 97.85%\n", + "22\t검증 세트 손실: 0.374911\t최선의 손실: 0.045003\t정확도: 98.32%\n", + "23\t검증 세트 손실: 0.208623\t최선의 손실: 0.045003\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.230560\t최선의 손실: 0.045003\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.149770\t최선의 손실: 0.045003\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.131447\t최선의 손실: 0.045003\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.127833\t최선의 손실: 0.045003\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.119246\t최선의 손실: 0.045003\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.952973\t최선의 손실: 0.045003\t정확도: 98.59%\n", + "30\t검증 세트 손실: 0.223599\t최선의 손실: 0.045003\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.193771\t최선의 손실: 0.045003\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.259616\t최선의 손실: 0.045003\t정확도: 98.51%\n", + "33\t검증 세트 손실: 0.150909\t최선의 손실: 0.045003\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.136143\t최선의 손실: 0.045003\t정확도: 99.14%\n", + "35\t검증 세트 손실: 0.129232\t최선의 손실: 0.045003\t정확도: 98.98%\n", + "36\t검증 세트 손실: 1.174827\t최선의 손실: 0.045003\t정확도: 97.89%\n", + "37\t검증 세트 손실: 0.348310\t최선의 손실: 0.045003\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.239009\t최선의 손실: 0.045003\t정확도: 98.63%\n", + "39\t검증 세트 손실: 0.181658\t최선의 손실: 0.045003\t정확도: 98.91%\n", + "40\t검증 세트 손실: 0.151965\t최선의 손실: 0.045003\t정확도: 99.06%\n", + "조기 종료!\n", + "[CV] n_neurons=120, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.99, activation=, total= 56.3s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.274016\t최선의 손실: 0.274016\t정확도: 91.79%\n", + "1\t검증 세트 손실: 0.198987\t최선의 손실: 0.198987\t정확도: 93.43%\n", + "2\t검증 세트 손실: 0.136471\t최선의 손실: 0.136471\t정확도: 95.58%\n", + "3\t검증 세트 손실: 0.141948\t최선의 손실: 0.136471\t정확도: 95.35%\n", + "4\t검증 세트 손실: 0.230216\t최선의 손실: 0.136471\t정확도: 91.48%\n", + "5\t검증 세트 손실: 0.146973\t최선의 손실: 0.136471\t정확도: 95.90%\n", + "6\t검증 세트 손실: 0.078473\t최선의 손실: 0.078473\t정확도: 97.77%\n", + "7\t검증 세트 손실: 0.122590\t최선의 손실: 0.078473\t정확도: 96.64%\n", + "8\t검증 세트 손실: 0.185053\t최선의 손실: 0.078473\t정확도: 95.27%\n", + "9\t검증 세트 손실: 0.074039\t최선의 손실: 0.074039\t정확도: 97.81%\n", + "10\t검증 세트 손실: 0.102349\t최선의 손실: 0.074039\t정확도: 97.22%\n", + "11\t검증 세트 손실: 0.110603\t최선의 손실: 0.074039\t정확도: 97.50%\n", + "12\t검증 세트 손실: 0.086223\t최선의 손실: 0.074039\t정확도: 98.01%\n", + "13\t검증 세트 손실: 0.118385\t최선의 손실: 0.074039\t정확도: 96.91%\n", + "14\t검증 세트 손실: 0.084635\t최선의 손실: 0.074039\t정확도: 97.85%\n", + "15\t검증 세트 손실: 0.076289\t최선의 손실: 0.074039\t정확도: 98.12%\n", + "16\t검증 세트 손실: 0.106392\t최선의 손실: 0.074039\t정확도: 97.15%\n", + "17\t검증 세트 손실: 0.091790\t최선의 손실: 0.074039\t정확도: 97.77%\n", + "18\t검증 세트 손실: 0.088521\t최선의 손실: 0.074039\t정확도: 98.01%\n", + "19\t검증 세트 손실: 0.080242\t최선의 손실: 0.074039\t정확도: 97.81%\n", + "20\t검증 세트 손실: 0.096290\t최선의 손실: 0.074039\t정확도: 98.05%\n", + "21\t검증 세트 손실: 0.090296\t최선의 손실: 0.074039\t정확도: 98.01%\n", + "22\t검증 세트 손실: 0.087325\t최선의 손실: 0.074039\t정확도: 98.01%\n", + "23\t검증 세트 손실: 0.093293\t최선의 손실: 0.074039\t정확도: 97.81%\n", + "24\t검증 세트 손실: 0.079923\t최선의 손실: 0.074039\t정확도: 98.05%\n", + "25\t검증 세트 손실: 0.186179\t최선의 손실: 0.074039\t정확도: 94.68%\n", + "26\t검증 세트 손실: 0.099632\t최선의 손실: 0.074039\t정확도: 97.93%\n", + "27\t검증 세트 손실: 0.101744\t최선의 손실: 0.074039\t정확도: 98.01%\n", + "28\t검증 세트 손실: 0.123306\t최선의 손실: 0.074039\t정확도: 96.91%\n", + "29\t검증 세트 손실: 0.136974\t최선의 손실: 0.074039\t정확도: 97.03%\n", + "30\t검증 세트 손실: 0.095023\t최선의 손실: 0.074039\t정확도: 97.89%\n", + "조기 종료!\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation=, total= 6.6s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.221518\t최선의 손실: 0.221518\t정확도: 93.12%\n", + "1\t검증 세트 손실: 0.269717\t최선의 손실: 0.221518\t정확도: 90.81%\n", + "2\t검증 세트 손실: 0.144677\t최선의 손실: 0.144677\t정확도: 95.90%\n", + "3\t검증 세트 손실: 0.150444\t최선의 손실: 0.144677\t정확도: 95.27%\n", + "4\t검증 세트 손실: 0.093724\t최선의 손실: 0.093724\t정확도: 97.15%\n", + "5\t검증 세트 손실: 0.118922\t최선의 손실: 0.093724\t정확도: 96.21%\n", + "6\t검증 세트 손실: 0.122674\t최선의 손실: 0.093724\t정확도: 96.95%\n", + "7\t검증 세트 손실: 0.143927\t최선의 손실: 0.093724\t정확도: 95.90%\n", + "8\t검증 세트 손실: 0.106467\t최선의 손실: 0.093724\t정확도: 96.99%\n", + "9\t검증 세트 손실: 0.120902\t최선의 손실: 0.093724\t정확도: 96.56%\n", + "10\t검증 세트 손실: 0.118033\t최선의 손실: 0.093724\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.106356\t최선의 손실: 0.093724\t정확도: 97.19%\n", + "12\t검증 세트 손실: 0.097662\t최선의 손실: 0.093724\t정확도: 97.65%\n", + "13\t검증 세트 손실: 0.115066\t최선의 손실: 0.093724\t정확도: 97.30%\n", + "14\t검증 세트 손실: 0.088703\t최선의 손실: 0.088703\t정확도: 97.58%\n", + "15\t검증 세트 손실: 0.118903\t최선의 손실: 0.088703\t정확도: 97.11%\n", + "16\t검증 세트 손실: 0.097063\t최선의 손실: 0.088703\t정확도: 97.85%\n", + "17\t검증 세트 손실: 0.129913\t최선의 손실: 0.088703\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.090921\t최선의 손실: 0.088703\t정확도: 98.01%\n", + "19\t검증 세트 손실: 0.094986\t최선의 손실: 0.088703\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.101436\t최선의 손실: 0.088703\t정확도: 97.85%\n", + "21\t검증 세트 손실: 0.142224\t최선의 손실: 0.088703\t정확도: 96.79%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "108\t검증 세트 손실: 1.277664\t최선의 손실: 0.062278\t정확도: 96.40%\n", - "109\t검증 세트 손실: 0.767619\t최선의 손실: 0.062278\t정확도: 98.01%\n", - "110\t검증 세트 손실: 0.657303\t최선의 손실: 0.062278\t정확도: 98.16%\n", - "111\t검증 세트 손실: 0.703333\t최선의 손실: 0.062278\t정확도: 98.36%\n", - "112\t검증 세트 손실: 0.700934\t최선의 손실: 0.062278\t정확도: 98.01%\n", - "113\t검증 세트 손실: 0.820728\t최선의 손실: 0.062278\t정확도: 98.32%\n", - "114\t검증 세트 손실: 0.402025\t최선의 손실: 0.062278\t정확도: 98.63%\n", - "115\t검증 세트 손실: 0.729238\t최선의 손실: 0.062278\t정확도: 97.89%\n", - "116\t검증 세트 손실: 0.457011\t최선의 손실: 0.062278\t정확도: 98.55%\n", - "117\t검증 세트 손실: 0.556598\t최선의 손실: 0.062278\t정확도: 98.44%\n", - "118\t검증 세트 손실: 0.458114\t최선의 손실: 0.062278\t정확도: 98.55%\n", - "119\t검증 세트 손실: 0.283602\t최선의 손실: 0.062278\t정확도: 99.02%\n", - "120\t검증 세트 손실: 0.339813\t최선의 손실: 0.062278\t정확도: 98.75%\n", - "121\t검증 세트 손실: 0.275453\t최선의 손실: 0.062278\t정확도: 98.91%\n", - "122\t검증 세트 손실: 0.216435\t최선의 손실: 0.062278\t정확도: 99.14%\n", - "123\t검증 세트 손실: 0.189303\t최선의 손실: 0.062278\t정확도: 99.18%\n", - "124\t검증 세트 손실: 0.186706\t최선의 손실: 0.062278\t정확도: 99.14%\n", - "125\t검증 세트 손실: 0.189144\t최선의 손실: 0.062278\t정확도: 99.02%\n", + "22\t검증 세트 손실: 0.092354\t최선의 손실: 0.088703\t정확도: 97.97%\n", + "23\t검증 세트 손실: 0.113068\t최선의 손실: 0.088703\t정확도: 97.73%\n", + "24\t검증 세트 손실: 0.110647\t최선의 손실: 0.088703\t정확도: 97.62%\n", + "25\t검증 세트 손실: 0.106872\t최선의 손실: 0.088703\t정확도: 97.77%\n", + "26\t검증 세트 손실: 0.098450\t최선의 손실: 0.088703\t정확도: 97.85%\n", + "27\t검증 세트 손실: 0.110559\t최선의 손실: 0.088703\t정확도: 98.16%\n", + "28\t검증 세트 손실: 0.101478\t최선의 손실: 0.088703\t정확도: 97.97%\n", + "29\t검증 세트 손실: 0.094280\t최선의 손실: 0.088703\t정확도: 98.16%\n", + "30\t검증 세트 손실: 0.131432\t최선의 손실: 0.088703\t정확도: 97.65%\n", + "31\t검증 세트 손실: 0.115925\t최선의 손실: 0.088703\t정확도: 98.01%\n", + "32\t검증 세트 손실: 0.114222\t최선의 손실: 0.088703\t정확도: 97.62%\n", + "33\t검증 세트 손실: 0.190592\t최선의 손실: 0.088703\t정확도: 97.03%\n", + "34\t검증 세트 손실: 0.144480\t최선의 손실: 0.088703\t정확도: 97.77%\n", + "35\t검증 세트 손실: 0.099947\t최선의 손실: 0.088703\t정확도: 98.12%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 22.9s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.065839\t최선의 손실: 0.065839\t정확도: 98.12%\n", - "1\t검증 세트 손실: 0.058368\t최선의 손실: 0.058368\t정확도: 98.08%\n", - "2\t검증 세트 손실: 0.050396\t최선의 손실: 0.050396\t정확도: 98.44%\n", - "3\t검증 세트 손실: 0.053600\t최선의 손실: 0.050396\t정확도: 98.63%\n", - "4\t검증 세트 손실: 0.043140\t최선의 손실: 0.043140\t정확도: 98.87%\n", - "5\t검증 세트 손실: 0.078758\t최선의 손실: 0.043140\t정확도: 98.20%\n", - "6\t검증 세트 손실: 0.041241\t최선의 손실: 0.041241\t정확도: 98.83%\n", - "7\t검증 세트 손실: 0.075107\t최선의 손실: 0.041241\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.042943\t최선의 손실: 0.041241\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.051796\t최선의 손실: 0.041241\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.065187\t최선의 손실: 0.041241\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.048593\t최선의 손실: 0.041241\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.051984\t최선의 손실: 0.041241\t정확도: 98.55%\n", - "13\t검증 세트 손실: 0.042787\t최선의 손실: 0.041241\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.052153\t최선의 손실: 0.041241\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.048714\t최선의 손실: 0.041241\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.054660\t최선의 손실: 0.041241\t정확도: 99.02%\n", - "17\t검증 세트 손실: 0.065688\t최선의 손실: 0.041241\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.056435\t최선의 손실: 0.041241\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.062315\t최선의 손실: 0.041241\t정확도: 98.75%\n", - "20\t검증 세트 손실: 0.048100\t최선의 손실: 0.041241\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.051774\t최선의 손실: 0.041241\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.053469\t최선의 손실: 0.041241\t정확도: 98.75%\n", - "23\t검증 세트 손실: 0.052349\t최선의 손실: 0.041241\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.056164\t최선의 손실: 0.041241\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.062666\t최선의 손실: 0.041241\t정확도: 98.79%\n", - "26\t검증 세트 손실: 0.043523\t최선의 손실: 0.041241\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.067653\t최선의 손실: 0.041241\t정확도: 98.51%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation=, total= 7.4s\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.238920\t최선의 손실: 0.238920\t정확도: 92.42%\n", + "1\t검증 세트 손실: 0.242316\t최선의 손실: 0.238920\t정확도: 90.89%\n", + "2\t검증 세트 손실: 0.287920\t최선의 손실: 0.238920\t정확도: 89.91%\n", + "3\t검증 세트 손실: 0.223128\t최선의 손실: 0.223128\t정확도: 92.77%\n", + "4\t검증 세트 손실: 0.089851\t최선의 손실: 0.089851\t정확도: 96.99%\n", + "5\t검증 세트 손실: 0.113741\t최선의 손실: 0.089851\t정확도: 96.21%\n", + "6\t검증 세트 손실: 0.103006\t최선의 손실: 0.089851\t정확도: 96.36%\n", + "7\t검증 세트 손실: 0.107236\t최선의 손실: 0.089851\t정확도: 96.76%\n", + "8\t검증 세트 손실: 0.096277\t최선의 손실: 0.089851\t정확도: 97.38%\n", + "9\t검증 세트 손실: 0.083585\t최선의 손실: 0.083585\t정확도: 97.81%\n", + "10\t검증 세트 손실: 0.110639\t최선의 손실: 0.083585\t정확도: 97.03%\n", + "11\t검증 세트 손실: 0.085213\t최선의 손실: 0.083585\t정확도: 97.54%\n", + "12\t검증 세트 손실: 0.084481\t최선의 손실: 0.083585\t정확도: 97.85%\n", + "13\t검증 세트 손실: 0.081160\t최선의 손실: 0.081160\t정확도: 97.46%\n", + "14\t검증 세트 손실: 0.102779\t최선의 손실: 0.081160\t정확도: 97.19%\n", + "15\t검증 세트 손실: 0.089334\t최선의 손실: 0.081160\t정확도: 97.77%\n", + "16\t검증 세트 손실: 0.097465\t최선의 손실: 0.081160\t정확도: 97.81%\n", + "17\t검증 세트 손실: 0.111039\t최선의 손실: 0.081160\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.068707\t최선의 손실: 0.068707\t정확도: 98.01%\n", + "19\t검증 세트 손실: 0.091258\t최선의 손실: 0.068707\t정확도: 97.46%\n", + "20\t검증 세트 손실: 0.065493\t최선의 손실: 0.065493\t정확도: 98.12%\n", + "21\t검증 세트 손실: 0.125433\t최선의 손실: 0.065493\t정확도: 97.15%\n", + "22\t검증 세트 손실: 0.089808\t최선의 손실: 0.065493\t정확도: 98.08%\n", + "23\t검증 세트 손실: 0.079341\t최선의 손실: 0.065493\t정확도: 98.28%\n", + "24\t검증 세트 손실: 0.102936\t최선의 손실: 0.065493\t정확도: 97.93%\n", + "25\t검증 세트 손실: 0.073068\t최선의 손실: 0.065493\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.093873\t최선의 손실: 0.065493\t정확도: 97.85%\n", + "27\t검증 세트 손실: 0.089287\t최선의 손실: 0.065493\t정확도: 98.01%\n", + "28\t검증 세트 손실: 0.083579\t최선의 손실: 0.065493\t정확도: 98.12%\n", + "29\t검증 세트 손실: 0.082397\t최선의 손실: 0.065493\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.089306\t최선의 손실: 0.065493\t정확도: 97.93%\n", + "31\t검증 세트 손실: 0.060800\t최선의 손실: 0.060800\t정확도: 98.44%\n", + "32\t검증 세트 손실: 0.076974\t최선의 손실: 0.060800\t정확도: 98.08%\n", + "33\t검증 세트 손실: 0.084608\t최선의 손실: 0.060800\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.079601\t최선의 손실: 0.060800\t정확도: 98.32%\n", + "35\t검증 세트 손실: 0.099989\t최선의 손실: 0.060800\t정확도: 98.08%\n", + "36\t검증 세트 손실: 0.087650\t최선의 손실: 0.060800\t정확도: 98.16%\n", + "37\t검증 세트 손실: 0.082337\t최선의 손실: 0.060800\t정확도: 98.05%\n", + "38\t검증 세트 손실: 0.109778\t최선의 손실: 0.060800\t정확도: 98.12%\n", + "39\t검증 세트 손실: 0.089339\t최선의 손실: 0.060800\t정확도: 98.01%\n", + "40\t검증 세트 손실: 0.103354\t최선의 손실: 0.060800\t정확도: 98.12%\n", + "41\t검증 세트 손실: 0.154953\t최선의 손실: 0.060800\t정확도: 97.46%\n", + "42\t검증 세트 손실: 0.095675\t최선의 손실: 0.060800\t정확도: 98.20%\n", + "43\t검증 세트 손실: 0.108383\t최선의 손실: 0.060800\t정확도: 98.01%\n", + "44\t검증 세트 손실: 0.080393\t최선의 손실: 0.060800\t정확도: 97.93%\n", + "45\t검증 세트 손실: 0.081222\t최선의 손실: 0.060800\t정확도: 98.59%\n", + "46\t검증 세트 손실: 0.078552\t최선의 손실: 0.060800\t정확도: 97.97%\n", + "47\t검증 세트 손실: 0.074647\t최선의 손실: 0.060800\t정확도: 98.40%\n", + "48\t검증 세트 손실: 0.103069\t최선의 손실: 0.060800\t정확도: 97.65%\n", + "49\t검증 세트 손실: 0.074490\t최선의 손실: 0.060800\t정확도: 98.36%\n", + "50\t검증 세트 손실: 0.067052\t최선의 손실: 0.060800\t정확도: 98.48%\n", + "51\t검증 세트 손실: 0.067191\t최선의 손실: 0.060800\t정확도: 98.28%\n", + "52\t검증 세트 손실: 0.082639\t최선의 손실: 0.060800\t정확도: 98.12%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 6.7s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.073382\t최선의 손실: 0.073382\t정확도: 97.85%\n", - "1\t검증 세트 손실: 0.044233\t최선의 손실: 0.044233\t정확도: 98.51%\n", - "2\t검증 세트 손실: 0.051768\t최선의 손실: 0.044233\t정확도: 98.63%\n", - "3\t검증 세트 손실: 0.043119\t최선의 손실: 0.043119\t정확도: 98.98%\n", - "4\t검증 세트 손실: 0.049286\t최선의 손실: 0.043119\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.040036\t최선의 손실: 0.040036\t정확도: 98.91%\n", - "6\t검증 세트 손실: 0.032444\t최선의 손실: 0.032444\t정확도: 98.87%\n", - "7\t검증 세트 손실: 0.038404\t최선의 손실: 0.032444\t정확도: 98.91%\n", - "8\t검증 세트 손실: 0.035691\t최선의 손실: 0.032444\t정확도: 99.06%\n", - "9\t검증 세트 손실: 0.046585\t최선의 손실: 0.032444\t정확도: 98.83%\n", - "10\t검증 세트 손실: 0.049466\t최선의 손실: 0.032444\t정확도: 98.98%\n", - "11\t검증 세트 손실: 0.039054\t최선의 손실: 0.032444\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.047378\t최선의 손실: 0.032444\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.040289\t최선의 손실: 0.032444\t정확도: 99.14%\n", - "14\t검증 세트 손실: 0.028456\t최선의 손실: 0.028456\t정확도: 99.18%\n", - "15\t검증 세트 손실: 0.042616\t최선의 손실: 0.028456\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.041677\t최선의 손실: 0.028456\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.042025\t최선의 손실: 0.028456\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.044929\t최선의 손실: 0.028456\t정확도: 98.83%\n", - "19\t검증 세트 손실: 0.046623\t최선의 손실: 0.028456\t정확도: 98.94%\n", - "20\t검증 세트 손실: 0.039430\t최선의 손실: 0.028456\t정확도: 99.02%\n", - "21\t검증 세트 손실: 0.044966\t최선의 손실: 0.028456\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.055965\t최선의 손실: 0.028456\t정확도: 98.83%\n", - "23\t검증 세트 손실: 0.046191\t최선의 손실: 0.028456\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.037214\t최선의 손실: 0.028456\t정확도: 99.26%\n", - "25\t검증 세트 손실: 0.045441\t최선의 손실: 0.028456\t정확도: 99.26%\n", - "26\t검증 세트 손실: 0.030518\t최선의 손실: 0.028456\t정확도: 99.34%\n", - "27\t검증 세트 손실: 0.041784\t최선의 손실: 0.028456\t정확도: 99.14%\n", - "28\t검증 세트 손실: 0.042543\t최선의 손실: 0.028456\t정확도: 99.26%\n", - "29\t검증 세트 손실: 0.055863\t최선의 손실: 0.028456\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.045880\t최선의 손실: 0.028456\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.067076\t최선의 손실: 0.028456\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.039665\t최선의 손실: 0.028456\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.053608\t최선의 손실: 0.028456\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.064706\t최선의 손실: 0.028456\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.056634\t최선의 손실: 0.028456\t정확도: 99.02%\n", + "[CV] n_neurons=10, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.99, activation=, total= 10.2s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.106969\t최선의 손실: 0.106969\t정확도: 97.22%\n", + "1\t검증 세트 손실: 0.098483\t최선의 손실: 0.098483\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.059509\t최선의 손실: 0.059509\t정확도: 98.32%\n", + "3\t검증 세트 손실: 0.092967\t최선의 손실: 0.059509\t정확도: 96.99%\n", + "4\t검증 세트 손실: 0.066441\t최선의 손실: 0.059509\t정확도: 97.97%\n", + "5\t검증 세트 손실: 0.076398\t최선의 손실: 0.059509\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.104145\t최선의 손실: 0.059509\t정확도: 97.65%\n", + "7\t검증 세트 손실: 0.068607\t최선의 손실: 0.059509\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.047920\t최선의 손실: 0.047920\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.097374\t최선의 손실: 0.047920\t정확도: 98.12%\n", + "10\t검증 세트 손실: 0.069291\t최선의 손실: 0.047920\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.127596\t최선의 손실: 0.047920\t정확도: 98.05%\n", + "12\t검증 세트 손실: 0.061203\t최선의 손실: 0.047920\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.122564\t최선의 손실: 0.047920\t정확도: 97.89%\n", + "14\t검증 세트 손실: 0.060708\t최선의 손실: 0.047920\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.050319\t최선의 손실: 0.047920\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.039209\t최선의 손실: 0.039209\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.072280\t최선의 손실: 0.039209\t정확도: 98.48%\n", + "18\t검증 세트 손실: 0.123169\t최선의 손실: 0.039209\t정확도: 98.08%\n", + "19\t검증 세트 손실: 0.061640\t최선의 손실: 0.039209\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.107097\t최선의 손실: 0.039209\t정확도: 98.40%\n", + "21\t검증 세트 손실: 0.148934\t최선의 손실: 0.039209\t정확도: 97.97%\n", + "22\t검증 세트 손실: 0.060145\t최선의 손실: 0.039209\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.099231\t최선의 손실: 0.039209\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.057408\t최선의 손실: 0.039209\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.043912\t최선의 손실: 0.039209\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.051317\t최선의 손실: 0.039209\t정확도: 99.14%\n", + "27\t검증 세트 손실: 0.105822\t최선의 손실: 0.039209\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.085640\t최선의 손실: 0.039209\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.085440\t최선의 손실: 0.039209\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.077502\t최선의 손실: 0.039209\t정확도: 99.02%\n", + "31\t검증 세트 손실: 0.096466\t최선의 손실: 0.039209\t정확도: 98.75%\n", + "32\t검증 세트 손실: 0.083310\t최선의 손실: 0.039209\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.079801\t최선의 손실: 0.039209\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.106236\t최선의 손실: 0.039209\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.343203\t최선의 손실: 0.039209\t정확도: 98.67%\n", + "36\t검증 세트 손실: 0.163256\t최선의 손실: 0.039209\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.242018\t최선의 손실: 0.039209\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 8.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.064143\t최선의 손실: 0.064143\t정확도: 98.24%\n", - "1\t검증 세트 손실: 0.056535\t최선의 손실: 0.056535\t정확도: 98.28%\n", - "2\t검증 세트 손실: 0.049990\t최선의 손실: 0.049990\t정확도: 98.36%\n", - "3\t검증 세트 손실: 0.042866\t최선의 손실: 0.042866\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.041918\t최선의 손실: 0.041918\t정확도: 98.79%\n", - "5\t검증 세트 손실: 0.050608\t최선의 손실: 0.041918\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.047772\t최선의 손실: 0.041918\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.048633\t최선의 손실: 0.041918\t정확도: 98.71%\n", - "8\t검증 세트 손실: 0.050027\t최선의 손실: 0.041918\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.039067\t최선의 손실: 0.039067\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.061984\t최선의 손실: 0.039067\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.050699\t최선의 손실: 0.039067\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.043775\t최선의 손실: 0.039067\t정확도: 98.98%\n", - "13\t검증 세트 손실: 0.048813\t최선의 손실: 0.039067\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.061707\t최선의 손실: 0.039067\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.051949\t최선의 손실: 0.039067\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.031228\t최선의 손실: 0.031228\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.037851\t최선의 손실: 0.031228\t정확도: 99.18%\n", - "18\t검증 세트 손실: 0.039309\t최선의 손실: 0.031228\t정확도: 99.18%\n", - "19\t검증 세트 손실: 0.039933\t최선의 손실: 0.031228\t정확도: 99.10%\n", - "20\t검증 세트 손실: 0.039944\t최선의 손실: 0.031228\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.049582\t최선의 손실: 0.031228\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.046761\t최선의 손실: 0.031228\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.041392\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "24\t검증 세트 손실: 0.087825\t최선의 손실: 0.031228\t정확도: 98.20%\n", - "25\t검증 세트 손실: 0.042939\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.049064\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.045306\t최선의 손실: 0.031228\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.044702\t최선의 손실: 0.031228\t정확도: 99.02%\n", - "29\t검증 세트 손실: 0.045001\t최선의 손실: 0.031228\t정확도: 99.06%\n", - "30\t검증 세트 손실: 0.040985\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.039088\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "32\t검증 세트 손실: 0.046764\t최선의 손실: 0.031228\t정확도: 98.83%\n", - "33\t검증 세트 손실: 0.038245\t최선의 손실: 0.031228\t정확도: 99.22%\n", - "34\t검증 세트 손실: 0.041262\t최선의 손실: 0.031228\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.034610\t최선의 손실: 0.031228\t정확도: 99.10%\n", - "36\t검증 세트 손실: 0.043077\t최선의 손실: 0.031228\t정확도: 99.02%\n", - "37\t검증 세트 손실: 0.035024\t최선의 손실: 0.031228\t정확도: 98.98%\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 56.1s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.101708\t최선의 손실: 0.101708\t정확도: 97.34%\n", + "1\t검증 세트 손실: 0.084633\t최선의 손실: 0.084633\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.082911\t최선의 손실: 0.082911\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.073696\t최선의 손실: 0.073696\t정확도: 98.05%\n", + "4\t검증 세트 손실: 0.119813\t최선의 손실: 0.073696\t정확도: 97.42%\n", + "5\t검증 세트 손실: 0.097617\t최선의 손실: 0.073696\t정확도: 97.73%\n", + "6\t검증 세트 손실: 0.053447\t최선의 손실: 0.053447\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.073310\t최선의 손실: 0.053447\t정확도: 98.05%\n", + "8\t검증 세트 손실: 0.120411\t최선의 손실: 0.053447\t정확도: 98.16%\n", + "9\t검증 세트 손실: 0.074711\t최선의 손실: 0.053447\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.074552\t최선의 손실: 0.053447\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.064577\t최선의 손실: 0.053447\t정확도: 98.63%\n", + "12\t검증 세트 손실: 0.047362\t최선의 손실: 0.047362\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.080353\t최선의 손실: 0.047362\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.072647\t최선의 손실: 0.047362\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.061990\t최선의 손실: 0.047362\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.217720\t최선의 손실: 0.047362\t정확도: 97.50%\n", + "17\t검증 세트 손실: 0.163500\t최선의 손실: 0.047362\t정확도: 97.34%\n", + "18\t검증 세트 손실: 0.081722\t최선의 손실: 0.047362\t정확도: 98.71%\n", + "19\t검증 세트 손실: 0.054500\t최선의 손실: 0.047362\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.057211\t최선의 손실: 0.047362\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.069824\t최선의 손실: 0.047362\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.066000\t최선의 손실: 0.047362\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.148036\t최선의 손실: 0.047362\t정확도: 97.34%\n", + "24\t검증 세트 손실: 0.089410\t최선의 손실: 0.047362\t정확도: 98.20%\n", + "25\t검증 세트 손실: 0.086240\t최선의 손실: 0.047362\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.079752\t최선의 손실: 0.047362\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.090194\t최선의 손실: 0.047362\t정확도: 98.59%\n", + "28\t검증 세트 손실: 0.091091\t최선의 손실: 0.047362\t정확도: 98.51%\n", + "29\t검증 세트 손실: 0.082345\t최선의 손실: 0.047362\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.087707\t최선의 손실: 0.047362\t정확도: 98.51%\n", + "31\t검증 세트 손실: 0.107957\t최선의 손실: 0.047362\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.085335\t최선의 손실: 0.047362\t정확도: 98.79%\n", + "33\t검증 세트 손실: 0.097049\t최선의 손실: 0.047362\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 8.7s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.152293\t최선의 손실: 0.152293\t정확도: 96.48%\n", - "1\t검증 세트 손실: 0.084866\t최선의 손실: 0.084866\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.064534\t최선의 손실: 0.064534\t정확도: 97.62%\n", - "3\t검증 세트 손실: 0.073013\t최선의 손실: 0.064534\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.072185\t최선의 손실: 0.064534\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.095159\t최선의 손실: 0.064534\t정확도: 97.93%\n", - "6\t검증 세트 손실: 0.055176\t최선의 손실: 0.055176\t정확도: 98.28%\n", - "7\t검증 세트 손실: 0.062947\t최선의 손실: 0.055176\t정확도: 98.40%\n", - "8\t검증 세트 손실: 0.089588\t최선의 손실: 0.055176\t정확도: 97.65%\n", - "9\t검증 세트 손실: 0.050393\t최선의 손실: 0.050393\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.063977\t최선의 손실: 0.050393\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.070309\t최선의 손실: 0.050393\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.084222\t최선의 손실: 0.050393\t정확도: 98.16%\n", - "13\t검증 세트 손실: 0.046166\t최선의 손실: 0.046166\t정확도: 98.51%\n", - "14\t검증 세트 손실: 0.059984\t최선의 손실: 0.046166\t정확도: 98.63%\n" + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 50.8s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 0.080247\t최선의 손실: 0.046166\t정확도: 97.93%\n", - "16\t검증 세트 손실: 0.061843\t최선의 손실: 0.046166\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.048337\t최선의 손실: 0.046166\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.060371\t최선의 손실: 0.046166\t정확도: 98.79%\n", - "19\t검증 세트 손실: 0.080577\t최선의 손실: 0.046166\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.068256\t최선의 손실: 0.046166\t정확도: 99.02%\n", - "21\t검증 세트 손실: 0.142209\t최선의 손실: 0.046166\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.110053\t최선의 손실: 0.046166\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.122068\t최선의 손실: 0.046166\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.084962\t최선의 손실: 0.046166\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.070149\t최선의 손실: 0.046166\t정확도: 98.59%\n", - "26\t검증 세트 손실: 0.059966\t최선의 손실: 0.046166\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.088774\t최선의 손실: 0.046166\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.082710\t최선의 손실: 0.046166\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.096589\t최선의 손실: 0.046166\t정확도: 98.63%\n", - "30\t검증 세트 손실: 0.093410\t최선의 손실: 0.046166\t정확도: 98.67%\n", - "31\t검증 세트 손실: 0.096619\t최선의 손실: 0.046166\t정확도: 98.67%\n", - "32\t검증 세트 손실: 0.118848\t최선의 손실: 0.046166\t정확도: 98.36%\n", - "33\t검증 세트 손실: 0.142411\t최선의 손실: 0.046166\t정확도: 98.24%\n", - "34\t검증 세트 손실: 0.135614\t최선의 손실: 0.046166\t정확도: 98.28%\n", + "0\t검증 세트 손실: 0.159965\t최선의 손실: 0.159965\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.129795\t최선의 손실: 0.129795\t정확도: 97.11%\n", + "2\t검증 세트 손실: 0.067028\t최선의 손실: 0.067028\t정확도: 97.62%\n", + "3\t검증 세트 손실: 0.083618\t최선의 손실: 0.067028\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.088017\t최선의 손실: 0.067028\t정확도: 97.77%\n", + "5\t검증 세트 손실: 0.059617\t최선의 손실: 0.059617\t정확도: 98.40%\n", + "6\t검증 세트 손실: 0.137974\t최선의 손실: 0.059617\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.094439\t최선의 손실: 0.059617\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.048721\t최선의 손실: 0.048721\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.063179\t최선의 손실: 0.048721\t정확도: 98.71%\n", + "10\t검증 세트 손실: 0.164371\t최선의 손실: 0.048721\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.187264\t최선의 손실: 0.048721\t정확도: 94.68%\n", + "12\t검증 세트 손실: 0.057844\t최선의 손실: 0.048721\t정확도: 98.98%\n", + "13\t검증 세트 손실: 0.068303\t최선의 손실: 0.048721\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.074320\t최선의 손실: 0.048721\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.121271\t최선의 손실: 0.048721\t정확도: 98.28%\n", + "16\t검증 세트 손실: 0.055829\t최선의 손실: 0.048721\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.096051\t최선의 손실: 0.048721\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.093204\t최선의 손실: 0.048721\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.100229\t최선의 손실: 0.048721\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.083880\t최선의 손실: 0.048721\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.080740\t최선의 손실: 0.048721\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.054600\t최선의 손실: 0.048721\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.074657\t최선의 손실: 0.048721\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.097390\t최선의 손실: 0.048721\t정확도: 98.32%\n", + "25\t검증 세트 손실: 0.060658\t최선의 손실: 0.048721\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.092623\t최선의 손실: 0.048721\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.054232\t최선의 손실: 0.048721\t정확도: 98.87%\n", + "28\t검증 세트 손실: 0.057484\t최선의 손실: 0.048721\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.101991\t최선의 손실: 0.048721\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100, total= 51.4s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.138441\t최선의 손실: 0.138441\t정확도: 96.21%\n", - "1\t검증 세트 손실: 0.083399\t최선의 손실: 0.083399\t정확도: 97.85%\n", - "2\t검증 세트 손실: 0.105974\t최선의 손실: 0.083399\t정확도: 97.03%\n", - "3\t검증 세트 손실: 0.101395\t최선의 손실: 0.083399\t정확도: 97.69%\n", - "4\t검증 세트 손실: 0.074190\t최선의 손실: 0.074190\t정확도: 98.08%\n", - "5\t검증 세트 손실: 0.066238\t최선의 손실: 0.066238\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.086413\t최선의 손실: 0.066238\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.084840\t최선의 손실: 0.066238\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.155621\t최선의 손실: 0.066238\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.086445\t최선의 손실: 0.066238\t정확도: 98.32%\n", - "10\t검증 세트 손실: 0.117953\t최선의 손실: 0.066238\t정확도: 97.65%\n", - "11\t검증 세트 손실: 0.087004\t최선의 손실: 0.066238\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.117125\t최선의 손실: 0.066238\t정확도: 97.07%\n", - "13\t검증 세트 손실: 0.062928\t최선의 손실: 0.062928\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.077043\t최선의 손실: 0.062928\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.081936\t최선의 손실: 0.062928\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.177484\t최선의 손실: 0.062928\t정확도: 96.99%\n", - "17\t검증 세트 손실: 0.070882\t최선의 손실: 0.062928\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.068643\t최선의 손실: 0.062928\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.059064\t최선의 손실: 0.059064\t정확도: 98.91%\n", - "20\t검증 세트 손실: 0.068133\t최선의 손실: 0.059064\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.078434\t최선의 손실: 0.059064\t정확도: 98.67%\n", - "22\t검증 세트 손실: 0.076682\t최선의 손실: 0.059064\t정확도: 98.01%\n", - "23\t검증 세트 손실: 0.064771\t최선의 손실: 0.059064\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.092372\t최선의 손실: 0.059064\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.068255\t최선의 손실: 0.059064\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.112308\t최선의 손실: 0.059064\t정확도: 98.24%\n", - "27\t검증 세트 손실: 0.056772\t최선의 손실: 0.056772\t정확도: 98.91%\n", - "28\t검증 세트 손실: 0.088694\t최선의 손실: 0.056772\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.156110\t최선의 손실: 0.056772\t정확도: 98.40%\n", - "30\t검증 세트 손실: 0.074796\t최선의 손실: 0.056772\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.069013\t최선의 손실: 0.056772\t정확도: 99.10%\n", - "32\t검증 세트 손실: 0.055825\t최선의 손실: 0.055825\t정확도: 98.79%\n", - "33\t검증 세트 손실: 0.138826\t최선의 손실: 0.055825\t정확도: 98.24%\n", - "34\t검증 세트 손실: 0.108524\t최선의 손실: 0.055825\t정확도: 97.77%\n", - "35\t검증 세트 손실: 0.092955\t최선의 손실: 0.055825\t정확도: 98.36%\n", - "36\t검증 세트 손실: 0.154812\t최선의 손실: 0.055825\t정확도: 98.44%\n", - "37\t검증 세트 손실: 0.143031\t최선의 손실: 0.055825\t정확도: 98.55%\n", - "38\t검증 세트 손실: 0.111527\t최선의 손실: 0.055825\t정확도: 98.59%\n", - "39\t검증 세트 손실: 0.071654\t최선의 손실: 0.055825\t정확도: 98.79%\n", - "40\t검증 세트 손실: 0.102922\t최선의 손실: 0.055825\t정확도: 98.59%\n", - "41\t검증 세트 손실: 0.099876\t최선의 손실: 0.055825\t정확도: 98.83%\n", - "42\t검증 세트 손실: 0.109394\t최선의 손실: 0.055825\t정확도: 98.63%\n", - "43\t검증 세트 손실: 0.111789\t최선의 손실: 0.055825\t정확도: 98.48%\n", - "44\t검증 세트 손실: 0.355538\t최선의 손실: 0.055825\t정확도: 97.73%\n", - "45\t검증 세트 손실: 0.121457\t최선의 손실: 0.055825\t정확도: 98.75%\n", - "46\t검증 세트 손실: 0.167768\t최선의 손실: 0.055825\t정확도: 98.36%\n", - "47\t검증 세트 손실: 0.117973\t최선의 손실: 0.055825\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.198363\t최선의 손실: 0.055825\t정확도: 98.24%\n", - "49\t검증 세트 손실: 0.148372\t최선의 손실: 0.055825\t정확도: 98.55%\n", - "50\t검증 세트 손실: 0.148182\t최선의 손실: 0.055825\t정확도: 98.98%\n", - "51\t검증 세트 손실: 0.077818\t최선의 손실: 0.055825\t정확도: 98.87%\n", - "52\t검증 세트 손실: 0.134905\t최선의 손실: 0.055825\t정확도: 98.83%\n", - "53\t검증 세트 손실: 0.155560\t최선의 손실: 0.055825\t정확도: 98.59%\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 44.7s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.081251\t최선의 손실: 0.081251\t정확도: 97.97%\n", + "1\t검증 세트 손실: 0.073316\t최선의 손실: 0.073316\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.075996\t최선의 손실: 0.073316\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.048655\t최선의 손실: 0.048655\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.046776\t최선의 손실: 0.046776\t정확도: 98.55%\n", + "5\t검증 세트 손실: 0.066611\t최선의 손실: 0.046776\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.028599\t최선의 손실: 0.028599\t정확도: 98.98%\n", + "7\t검증 세트 손실: 0.064939\t최선의 손실: 0.028599\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.040056\t최선의 손실: 0.028599\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.053919\t최선의 손실: 0.028599\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.056639\t최선의 손실: 0.028599\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.038853\t최선의 손실: 0.028599\t정확도: 98.98%\n", + "12\t검증 세트 손실: 0.045740\t최선의 손실: 0.028599\t정확도: 98.87%\n", + "13\t검증 세트 손실: 0.042321\t최선의 손실: 0.028599\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.044985\t최선의 손실: 0.028599\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.039328\t최선의 손실: 0.028599\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.053881\t최선의 손실: 0.028599\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.044936\t최선의 손실: 0.028599\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.045533\t최선의 손실: 0.028599\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.040313\t최선의 손실: 0.028599\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.050797\t최선의 손실: 0.028599\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.051328\t최선의 손실: 0.028599\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.043835\t최선의 손실: 0.028599\t정확도: 99.02%\n", + "23\t검증 세트 손실: 0.047605\t최선의 손실: 0.028599\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.057245\t최선의 손실: 0.028599\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.041518\t최선의 손실: 0.028599\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.038505\t최선의 손실: 0.028599\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.048300\t최선의 손실: 0.028599\t정확도: 98.87%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100, total= 1.3min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100 \n", - "0\t검증 세트 손실: 0.122714\t최선의 손실: 0.122714\t정확도: 96.72%\n", - "1\t검증 세트 손실: 0.103852\t최선의 손실: 0.103852\t정확도: 97.38%\n", - "2\t검증 세트 손실: 0.071847\t최선의 손실: 0.071847\t정확도: 97.65%\n", - "3\t검증 세트 손실: 0.063721\t최선의 손실: 0.063721\t정확도: 98.28%\n", - "4\t검증 세트 손실: 0.067185\t최선의 손실: 0.063721\t정확도: 98.36%\n", - "5\t검증 세트 손실: 0.060555\t최선의 손실: 0.060555\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.052923\t최선의 손실: 0.052923\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.112254\t최선의 손실: 0.052923\t정확도: 98.16%\n", - "8\t검증 세트 손실: 0.064250\t최선의 손실: 0.052923\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.080084\t최선의 손실: 0.052923\t정확도: 98.36%\n", - "10\t검증 세트 손실: 0.041694\t최선의 손실: 0.041694\t정확도: 98.98%\n", - "11\t검증 세트 손실: 0.085240\t최선의 손실: 0.041694\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.083483\t최선의 손실: 0.041694\t정확도: 97.81%\n", - "13\t검증 세트 손실: 0.052523\t최선의 손실: 0.041694\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.065294\t최선의 손실: 0.041694\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.059307\t최선의 손실: 0.041694\t정확도: 98.59%\n", - "16\t검증 세트 손실: 0.086920\t최선의 손실: 0.041694\t정확도: 98.01%\n", - "17\t검증 세트 손실: 0.099108\t최선의 손실: 0.041694\t정확도: 97.81%\n", - "18\t검증 세트 손실: 0.085882\t최선의 손실: 0.041694\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.061762\t최선의 손실: 0.041694\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.046894\t최선의 손실: 0.041694\t정확도: 99.14%\n", - "21\t검증 세트 손실: 0.118690\t최선의 손실: 0.041694\t정확도: 98.24%\n", - "22\t검증 세트 손실: 0.075201\t최선의 손실: 0.041694\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.066469\t최선의 손실: 0.041694\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.079118\t최선의 손실: 0.041694\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.077932\t최선의 손실: 0.041694\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.084854\t최선의 손실: 0.041694\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.067966\t최선의 손실: 0.041694\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.047967\t최선의 손실: 0.041694\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.064991\t최선의 손실: 0.041694\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.191775\t최선의 손실: 0.041694\t정확도: 98.08%\n", - "31\t검증 세트 손실: 0.076747\t최선의 손실: 0.041694\t정확도: 98.98%\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 41.8s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.215971\t최선의 손실: 0.215971\t정확도: 94.88%\n", + "1\t검증 세트 손실: 0.063963\t최선의 손실: 0.063963\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.073606\t최선의 손실: 0.063963\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.058236\t최선의 손실: 0.058236\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.063218\t최선의 손실: 0.058236\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.046943\t최선의 손실: 0.046943\t정확도: 98.75%\n", + "6\t검증 세트 손실: 0.054124\t최선의 손실: 0.046943\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.043226\t최선의 손실: 0.043226\t정확도: 98.91%\n", + "8\t검증 세트 손실: 0.033452\t최선의 손실: 0.033452\t정확도: 99.06%\n", + "9\t검증 세트 손실: 0.056433\t최선의 손실: 0.033452\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.053408\t최선의 손실: 0.033452\t정확도: 98.94%\n", + "11\t검증 세트 손실: 0.045126\t최선의 손실: 0.033452\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.045809\t최선의 손실: 0.033452\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.035406\t최선의 손실: 0.033452\t정확도: 99.10%\n", + "14\t검증 세트 손실: 0.029878\t최선의 손실: 0.029878\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.042524\t최선의 손실: 0.029878\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.034938\t최선의 손실: 0.029878\t정확도: 99.02%\n", + "17\t검증 세트 손실: 0.074919\t최선의 손실: 0.029878\t정확도: 98.16%\n", + "18\t검증 세트 손실: 0.037273\t최선의 손실: 0.029878\t정확도: 98.94%\n", + "19\t검증 세트 손실: 0.037862\t최선의 손실: 0.029878\t정확도: 99.22%\n", + "20\t검증 세트 손실: 0.037070\t최선의 손실: 0.029878\t정확도: 99.14%\n", + "21\t검증 세트 손실: 0.043722\t최선의 손실: 0.029878\t정확도: 98.75%\n", + "22\t검증 세트 손실: 0.033583\t최선의 손실: 0.029878\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.039973\t최선의 손실: 0.029878\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.048292\t최선의 손실: 0.029878\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.059197\t최선의 손실: 0.029878\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.044474\t최선의 손실: 0.029878\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.043221\t최선의 손실: 0.029878\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.051034\t최선의 손실: 0.029878\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.055342\t최선의 손실: 0.029878\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.060240\t최선의 손실: 0.029878\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.057662\t최선의 손실: 0.029878\t정확도: 98.75%\n", + "32\t검증 세트 손실: 0.038392\t최선의 손실: 0.029878\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.053588\t최선의 손실: 0.029878\t정확도: 99.02%\n", + "34\t검증 세트 손실: 0.067224\t최선의 손실: 0.029878\t정확도: 98.63%\n", + "35\t검증 세트 손실: 0.040707\t최선의 손실: 0.029878\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=100, total= 47.1s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.131640\t최선의 손실: 0.131640\t정확도: 97.54%\n", - "1\t검증 세트 손실: 0.067777\t최선의 손실: 0.067777\t정확도: 98.32%\n", - "2\t검증 세트 손실: 0.058200\t최선의 손실: 0.058200\t정확도: 98.28%\n", - "3\t검증 세트 손실: 0.044044\t최선의 손실: 0.044044\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.056763\t최선의 손실: 0.044044\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.087139\t최선의 손실: 0.044044\t정확도: 97.85%\n", - "6\t검증 세트 손실: 0.054986\t최선의 손실: 0.044044\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.060833\t최선의 손실: 0.044044\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.048951\t최선의 손실: 0.044044\t정확도: 98.79%\n", - "9\t검증 세트 손실: 0.057692\t최선의 손실: 0.044044\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.049042\t최선의 손실: 0.044044\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.084361\t최선의 손실: 0.044044\t정확도: 98.08%\n", - "12\t검증 세트 손실: 0.073885\t최선의 손실: 0.044044\t정확도: 98.40%\n", - "13\t검증 세트 손실: 0.064831\t최선의 손실: 0.044044\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.063182\t최선의 손실: 0.044044\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.053121\t최선의 손실: 0.044044\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.052870\t최선의 손실: 0.044044\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.058369\t최선의 손실: 0.044044\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.065199\t최선의 손실: 0.044044\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.059242\t최선의 손실: 0.044044\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.069061\t최선의 손실: 0.044044\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.072166\t최선의 손실: 0.044044\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.069980\t최선의 손실: 0.044044\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.060373\t최선의 손실: 0.044044\t정확도: 98.91%\n", - "24\t검증 세트 손실: 0.043956\t최선의 손실: 0.043956\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.049550\t최선의 손실: 0.043956\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.039582\t최선의 손실: 0.039582\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.048039\t최선의 손실: 0.039582\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.055581\t최선의 손실: 0.039582\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.051939\t최선의 손실: 0.039582\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.060323\t최선의 손실: 0.039582\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.073143\t최선의 손실: 0.039582\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.060483\t최선의 손실: 0.039582\t정확도: 98.59%\n", - "33\t검증 세트 손실: 0.052950\t최선의 손실: 0.039582\t정확도: 98.83%\n", - "34\t검증 세트 손실: 0.052075\t최선의 손실: 0.039582\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.044289\t최선의 손실: 0.039582\t정확도: 99.14%\n" + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 52.9s\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.095030\t최선의 손실: 0.095030\t정확도: 98.05%\n", + "1\t검증 세트 손실: 0.064164\t최선의 손실: 0.064164\t정확도: 98.12%\n", + "2\t검증 세트 손실: 0.069080\t최선의 손실: 0.064164\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.052512\t최선의 손실: 0.052512\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.051594\t최선의 손실: 0.051594\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.040792\t최선의 손실: 0.040792\t정확도: 98.87%\n", + "6\t검증 세트 손실: 0.041827\t최선의 손실: 0.040792\t정확도: 98.91%\n", + "7\t검증 세트 손실: 0.057906\t최선의 손실: 0.040792\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.041804\t최선의 손실: 0.040792\t정확도: 98.94%\n", + "9\t검증 세트 손실: 0.048821\t최선의 손실: 0.040792\t정확도: 98.51%\n", + "10\t검증 세트 손실: 0.054147\t최선의 손실: 0.040792\t정확도: 98.91%\n", + "11\t검증 세트 손실: 0.047569\t최선의 손실: 0.040792\t정확도: 98.87%\n", + "12\t검증 세트 손실: 0.042011\t최선의 손실: 0.040792\t정확도: 98.87%\n", + "13\t검증 세트 손실: 0.047350\t최선의 손실: 0.040792\t정확도: 98.87%\n", + "14\t검증 세트 손실: 0.047907\t최선의 손실: 0.040792\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.045983\t최선의 손실: 0.040792\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.049178\t최선의 손실: 0.040792\t정확도: 98.91%\n", + "17\t검증 세트 손실: 0.047068\t최선의 손실: 0.040792\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.036974\t최선의 손실: 0.036974\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.051518\t최선의 손실: 0.036974\t정확도: 99.10%\n", + "20\t검증 세트 손실: 0.041814\t최선의 손실: 0.036974\t정확도: 99.18%\n", + "21\t검증 세트 손실: 0.053646\t최선의 손실: 0.036974\t정확도: 99.06%\n", + "22\t검증 세트 손실: 0.042786\t최선의 손실: 0.036974\t정확도: 99.26%\n", + "23\t검증 세트 손실: 0.047277\t최선의 손실: 0.036974\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.042571\t최선의 손실: 0.036974\t정확도: 99.30%\n", + "25\t검증 세트 손실: 0.044859\t최선의 손실: 0.036974\t정확도: 99.30%\n", + "26\t검증 세트 손실: 0.037036\t최선의 손실: 0.036974\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.059787\t최선의 손실: 0.036974\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.040574\t최선의 손실: 0.036974\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.040402\t최선의 손실: 0.036974\t정확도: 99.14%\n", + "30\t검증 세트 손실: 0.045267\t최선의 손실: 0.036974\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.046616\t최선의 손실: 0.036974\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.033699\t최선의 손실: 0.033699\t정확도: 99.22%\n", + "33\t검증 세트 손실: 0.041360\t최선의 손실: 0.033699\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.044103\t최선의 손실: 0.033699\t정확도: 98.94%\n", + "35\t검증 세트 손실: 0.052194\t최선의 손실: 0.033699\t정확도: 99.10%\n", + "36\t검증 세트 손실: 0.039516\t최선의 손실: 0.033699\t정확도: 99.30%\n", + "37\t검증 세트 손실: 0.039952\t최선의 손실: 0.033699\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.041644\t최선의 손실: 0.033699\t정확도: 99.30%\n", + "39\t검증 세트 손실: 0.031103\t최선의 손실: 0.031103\t정확도: 99.30%\n", + "40\t검증 세트 손실: 0.059910\t최선의 손실: 0.031103\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.031167\t최선의 손실: 0.031103\t정확도: 99.14%\n", + "42\t검증 세트 손실: 0.047415\t최선의 손실: 0.031103\t정확도: 99.18%\n", + "43\t검증 세트 손실: 0.041488\t최선의 손실: 0.031103\t정확도: 99.26%\n", + "44\t검증 세트 손실: 0.050449\t최선의 손실: 0.031103\t정확도: 99.18%\n", + "45\t검증 세트 손실: 0.044718\t최선의 손실: 0.031103\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.045122\t최선의 손실: 0.031103\t정확도: 99.18%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "36\t검증 세트 손실: 0.062748\t최선의 손실: 0.039582\t정확도: 98.75%\n", - "37\t검증 세트 손실: 0.069537\t최선의 손실: 0.039582\t정확도: 98.75%\n", - "38\t검증 세트 손실: 0.064353\t최선의 손실: 0.039582\t정확도: 98.51%\n", - "39\t검증 세트 손실: 0.058209\t최선의 손실: 0.039582\t정확도: 98.79%\n", - "40\t검증 세트 손실: 0.061472\t최선의 손실: 0.039582\t정확도: 98.67%\n", - "41\t검증 세트 손실: 0.060261\t최선의 손실: 0.039582\t정확도: 98.75%\n", - "42\t검증 세트 손실: 0.058232\t최선의 손실: 0.039582\t정확도: 98.83%\n", - "43\t검증 세트 손실: 0.057877\t최선의 손실: 0.039582\t정확도: 98.87%\n", - "44\t검증 세트 손실: 0.061736\t최선의 손실: 0.039582\t정확도: 98.83%\n", - "45\t검증 세트 손실: 0.059831\t최선의 손실: 0.039582\t정확도: 98.91%\n", - "46\t검증 세트 손실: 0.060041\t최선의 손실: 0.039582\t정확도: 98.91%\n", - "47\t검증 세트 손실: 0.058600\t최선의 손실: 0.039582\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.056294\t최선의 손실: 0.031103\t정확도: 99.02%\n", + "48\t검증 세트 손실: 0.044674\t최선의 손실: 0.031103\t정확도: 99.22%\n", + "49\t검증 세트 손실: 0.036796\t최선의 손실: 0.031103\t정확도: 99.06%\n", + "50\t검증 세트 손실: 0.039334\t최선의 손실: 0.031103\t정확도: 99.14%\n", + "51\t검증 세트 손실: 0.055284\t최선의 손실: 0.031103\t정확도: 99.06%\n", + "52\t검증 세트 손실: 0.047601\t최선의 손실: 0.031103\t정확도: 99.18%\n", + "53\t검증 세트 손실: 0.046573\t최선의 손실: 0.031103\t정확도: 99.22%\n", + "54\t검증 세트 손실: 0.059152\t최선의 손실: 0.031103\t정확도: 99.02%\n", + "55\t검증 세트 손실: 0.048867\t최선의 손실: 0.031103\t정확도: 99.18%\n", + "56\t검증 세트 손실: 0.073182\t최선의 손실: 0.031103\t정확도: 98.91%\n", + "57\t검증 세트 손실: 0.050886\t최선의 손실: 0.031103\t정확도: 98.98%\n", + "58\t검증 세트 손실: 0.055589\t최선의 손실: 0.031103\t정확도: 99.14%\n", + "59\t검증 세트 손실: 0.061167\t최선의 손실: 0.031103\t정확도: 99.18%\n", + "60\t검증 세트 손실: 0.037026\t최선의 손실: 0.031103\t정확도: 99.14%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50, total= 10.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.310257\t최선의 손실: 0.310257\t정확도: 94.53%\n", - "1\t검증 세트 손실: 0.081824\t최선의 손실: 0.081824\t정확도: 97.93%\n", - "2\t검증 세트 손실: 0.070580\t최선의 손실: 0.070580\t정확도: 98.12%\n", - "3\t검증 세트 손실: 0.048284\t최선의 손실: 0.048284\t정확도: 98.71%\n", - "4\t검증 세트 손실: 0.053962\t최선의 손실: 0.048284\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.048556\t최선의 손실: 0.048284\t정확도: 98.59%\n", - "6\t검증 세트 손실: 0.045711\t최선의 손실: 0.045711\t정확도: 98.83%\n", - "7\t검증 세트 손실: 0.066662\t최선의 손실: 0.045711\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.061468\t최선의 손실: 0.045711\t정확도: 98.32%\n", - "9\t검증 세트 손실: 0.056925\t최선의 손실: 0.045711\t정확도: 98.63%\n", - "10\t검증 세트 손실: 0.054374\t최선의 손실: 0.045711\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.064617\t최선의 손실: 0.045711\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.054291\t최선의 손실: 0.045711\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.072076\t최선의 손실: 0.045711\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.089676\t최선의 손실: 0.045711\t정확도: 98.16%\n", - "15\t검증 세트 손실: 0.106082\t최선의 손실: 0.045711\t정확도: 97.97%\n", - "16\t검증 세트 손실: 0.048377\t최선의 손실: 0.045711\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.054448\t최선의 손실: 0.045711\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.043516\t최선의 손실: 0.043516\t정확도: 98.91%\n", - "19\t검증 세트 손실: 0.047234\t최선의 손실: 0.043516\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.086866\t최선의 손실: 0.043516\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.054887\t최선의 손실: 0.043516\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.070188\t최선의 손실: 0.043516\t정확도: 98.59%\n", - "23\t검증 세트 손실: 0.066819\t최선의 손실: 0.043516\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.047303\t최선의 손실: 0.043516\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.082098\t최선의 손실: 0.043516\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.069090\t최선의 손실: 0.043516\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.069150\t최선의 손실: 0.043516\t정확도: 98.44%\n", - "28\t검증 세트 손실: 0.078577\t최선의 손실: 0.043516\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.061226\t최선의 손실: 0.043516\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.068417\t최선의 손실: 0.043516\t정확도: 98.75%\n", - "31\t검증 세트 손실: 0.060865\t최선의 손실: 0.043516\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.055494\t최선의 손실: 0.043516\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.068801\t최선의 손실: 0.043516\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.062725\t최선의 손실: 0.043516\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.058445\t최선의 손실: 0.043516\t정확도: 98.71%\n", - "36\t검증 세트 손실: 0.057326\t최선의 손실: 0.043516\t정확도: 98.75%\n", - "37\t검증 세트 손실: 0.084973\t최선의 손실: 0.043516\t정확도: 98.24%\n", - "38\t검증 세트 손실: 0.055963\t최선의 손실: 0.043516\t정확도: 98.83%\n", - "39\t검증 세트 손실: 0.056920\t최선의 손실: 0.043516\t정확도: 98.83%\n", + "[CV] n_neurons=100, learning_rate=0.02, batch_size=50, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 1.5min\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.060930\t최선의 손실: 0.060930\t정확도: 98.08%\n", + "1\t검증 세트 손실: 0.069018\t최선의 손실: 0.060930\t정확도: 98.24%\n", + "2\t검증 세트 손실: 0.039961\t최선의 손실: 0.039961\t정확도: 98.75%\n", + "3\t검증 세트 손실: 0.044355\t최선의 손실: 0.039961\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.039833\t최선의 손실: 0.039833\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.038275\t최선의 손실: 0.038275\t정확도: 98.87%\n", + "6\t검증 세트 손실: 0.053675\t최선의 손실: 0.038275\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.051541\t최선의 손실: 0.038275\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.038397\t최선의 손실: 0.038275\t정확도: 98.94%\n", + "9\t검증 세트 손실: 0.045791\t최선의 손실: 0.038275\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.043217\t최선의 손실: 0.038275\t정확도: 98.94%\n", + "11\t검증 세트 손실: 0.037264\t최선의 손실: 0.037264\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.043593\t최선의 손실: 0.037264\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.053941\t최선의 손실: 0.037264\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.056451\t최선의 손실: 0.037264\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.056573\t최선의 손실: 0.037264\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.040631\t최선의 손실: 0.037264\t정확도: 99.10%\n", + "17\t검증 세트 손실: 0.024032\t최선의 손실: 0.024032\t정확도: 99.26%\n", + "18\t검증 세트 손실: 0.040536\t최선의 손실: 0.024032\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.046533\t최선의 손실: 0.024032\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.039920\t최선의 손실: 0.024032\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.036927\t최선의 손실: 0.024032\t정확도: 99.22%\n", + "22\t검증 세트 손실: 0.043688\t최선의 손실: 0.024032\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.050803\t최선의 손실: 0.024032\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.049816\t최선의 손실: 0.024032\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.053098\t최선의 손실: 0.024032\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.043391\t최선의 손실: 0.024032\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.042145\t최선의 손실: 0.024032\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.050808\t최선의 손실: 0.024032\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.045481\t최선의 손실: 0.024032\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.049535\t최선의 손실: 0.024032\t정확도: 98.87%\n", + "31\t검증 세트 손실: 0.051908\t최선의 손실: 0.024032\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.039170\t최선의 손실: 0.024032\t정확도: 99.22%\n", + "33\t검증 세트 손실: 0.051946\t최선의 손실: 0.024032\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.041080\t최선의 손실: 0.024032\t정확도: 99.18%\n", + "35\t검증 세트 손실: 0.043065\t최선의 손실: 0.024032\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.049218\t최선의 손실: 0.024032\t정확도: 98.98%\n", + "37\t검증 세트 손실: 0.038116\t최선의 손실: 0.024032\t정확도: 99.30%\n", + "38\t검증 세트 손실: 0.069129\t최선의 손실: 0.024032\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50, total= 8.6s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50 \n", - "0\t검증 세트 손실: 0.213854\t최선의 손실: 0.213854\t정확도: 95.82%\n", - "1\t검증 세트 손실: 0.063771\t최선의 손실: 0.063771\t정확도: 98.20%\n", - "2\t검증 세트 손실: 0.058673\t최선의 손실: 0.058673\t정확도: 98.55%\n", - "3\t검증 세트 손실: 0.058303\t최선의 손실: 0.058303\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.045434\t최선의 손실: 0.045434\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.055844\t최선의 손실: 0.045434\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.058532\t최선의 손실: 0.045434\t정확도: 98.20%\n", - "7\t검증 세트 손실: 0.052838\t최선의 손실: 0.045434\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.063394\t최선의 손실: 0.045434\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.041718\t최선의 손실: 0.041718\t정확도: 99.02%\n", - "10\t검증 세트 손실: 0.071004\t최선의 손실: 0.041718\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.057462\t최선의 손실: 0.041718\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.056396\t최선의 손실: 0.041718\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.052997\t최선의 손실: 0.041718\t정확도: 98.79%\n", - "14\t검증 세트 손실: 0.051012\t최선의 손실: 0.041718\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.054715\t최선의 손실: 0.041718\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.056088\t최선의 손실: 0.041718\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.051878\t최선의 손실: 0.041718\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.050674\t최선의 손실: 0.041718\t정확도: 98.75%\n", - "19\t검증 세트 손실: 0.060026\t최선의 손실: 0.041718\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.056220\t최선의 손실: 0.041718\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.083511\t최선의 손실: 0.041718\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.083593\t최선의 손실: 0.041718\t정확도: 98.32%\n", - "23\t검증 세트 손실: 0.056804\t최선의 손실: 0.041718\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.057978\t최선의 손실: 0.041718\t정확도: 99.06%\n", - "25\t검증 세트 손실: 0.054040\t최선의 손실: 0.041718\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.048978\t최선의 손실: 0.041718\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.043681\t최선의 손실: 0.041718\t정확도: 99.14%\n", - "28\t검증 세트 손실: 0.046134\t최선의 손실: 0.041718\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.055090\t최선의 손실: 0.041718\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.082211\t최선의 손실: 0.041718\t정확도: 98.44%\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 30.0s\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.064803\t최선의 손실: 0.064803\t정확도: 98.16%\n", + "1\t검증 세트 손실: 0.048462\t최선의 손실: 0.048462\t정확도: 98.51%\n", + "2\t검증 세트 손실: 0.047277\t최선의 손실: 0.047277\t정확도: 98.79%\n", + "3\t검증 세트 손실: 0.052520\t최선의 손실: 0.047277\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.049937\t최선의 손실: 0.047277\t정확도: 98.67%\n", + "5\t검증 세트 손실: 0.041412\t최선의 손실: 0.041412\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.051634\t최선의 손실: 0.041412\t정확도: 98.67%\n", + "7\t검증 세트 손실: 0.056061\t최선의 손실: 0.041412\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.045369\t최선의 손실: 0.041412\t정확도: 99.10%\n", + "9\t검증 세트 손실: 0.055875\t최선의 손실: 0.041412\t정확도: 98.55%\n", + "10\t검증 세트 손실: 0.059262\t최선의 손실: 0.041412\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.042508\t최선의 손실: 0.041412\t정확도: 98.83%\n", + "12\t검증 세트 손실: 0.036444\t최선의 손실: 0.036444\t정확도: 99.10%\n", + "13\t검증 세트 손실: 0.051681\t최선의 손실: 0.036444\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.060227\t최선의 손실: 0.036444\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.037370\t최선의 손실: 0.036444\t정확도: 99.06%\n", + "16\t검증 세트 손실: 0.048660\t최선의 손실: 0.036444\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.056127\t최선의 손실: 0.036444\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.045111\t최선의 손실: 0.036444\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.032696\t최선의 손실: 0.032696\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.060069\t최선의 손실: 0.032696\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.051488\t최선의 손실: 0.032696\t정확도: 98.63%\n", + "22\t검증 세트 손실: 0.037813\t최선의 손실: 0.032696\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.044832\t최선의 손실: 0.032696\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.060215\t최선의 손실: 0.032696\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.048347\t최선의 손실: 0.032696\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.038248\t최선의 손실: 0.032696\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.054494\t최선의 손실: 0.032696\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.039165\t최선의 손실: 0.032696\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.044383\t최선의 손실: 0.032696\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.043812\t최선의 손실: 0.032696\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.057051\t최선의 손실: 0.032696\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.038242\t최선의 손실: 0.032696\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.051631\t최선의 손실: 0.032696\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.072989\t최선의 손실: 0.032696\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.046682\t최선의 손실: 0.032696\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.050745\t최선의 손실: 0.032696\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.045246\t최선의 손실: 0.032696\t정확도: 99.18%\n", + "38\t검증 세트 손실: 0.059748\t최선의 손실: 0.032696\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.056028\t최선의 손실: 0.032696\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.056625\t최선의 손실: 0.032696\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.02, batch_norm_momentum=0.98, n_neurons=50, total= 7.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160 \n", - "0\t검증 세트 손실: 0.084799\t최선의 손실: 0.084799\t정확도: 98.01%\n", - "1\t검증 세트 손실: 0.139311\t최선의 손실: 0.084799\t정확도: 97.58%\n", - "2\t검증 세트 손실: 0.064946\t최선의 손실: 0.064946\t정확도: 98.28%\n", - "3\t검증 세트 손실: 0.051408\t최선의 손실: 0.051408\t정확도: 98.40%\n", - "4\t검증 세트 손실: 0.052306\t최선의 손실: 0.051408\t정확도: 98.67%\n", - "5\t검증 세트 손실: 0.044925\t최선의 손실: 0.044925\t정확도: 98.63%\n", - "6\t검증 세트 손실: 0.044967\t최선의 손실: 0.044925\t정확도: 98.83%\n", - "7\t검증 세트 손실: 0.043314\t최선의 손실: 0.043314\t정확도: 99.14%\n", - "8\t검증 세트 손실: 0.053872\t최선의 손실: 0.043314\t정확도: 98.79%\n", - "9\t검증 세트 손실: 0.049529\t최선의 손실: 0.043314\t정확도: 99.06%\n", - "10\t검증 세트 손실: 0.046229\t최선의 손실: 0.043314\t정확도: 98.91%\n", - "11\t검증 세트 손실: 0.060731\t최선의 손실: 0.043314\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.058213\t최선의 손실: 0.043314\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.056809\t최선의 손실: 0.043314\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.047647\t최선의 손실: 0.043314\t정확도: 98.79%\n", - "15\t검증 세트 손실: 0.070820\t최선의 손실: 0.043314\t정확도: 98.63%\n", - "16\t검증 세트 손실: 0.051094\t최선의 손실: 0.043314\t정확도: 98.91%\n", - "17\t검증 세트 손실: 0.054431\t최선의 손실: 0.043314\t정확도: 98.91%\n", - "18\t검증 세트 손실: 0.052506\t최선의 손실: 0.043314\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.047031\t최선의 손실: 0.043314\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.052852\t최선의 손실: 0.043314\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.042752\t최선의 손실: 0.042752\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.059583\t최선의 손실: 0.042752\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.038408\t최선의 손실: 0.038408\t정확도: 99.26%\n", - "24\t검증 세트 손실: 0.053986\t최선의 손실: 0.038408\t정확도: 99.06%\n", - "25\t검증 세트 손실: 0.064286\t최선의 손실: 0.038408\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.059326\t최선의 손실: 0.038408\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.047345\t최선의 손실: 0.038408\t정확도: 99.22%\n", - "28\t검증 세트 손실: 0.044879\t최선의 손실: 0.038408\t정확도: 99.14%\n", - "29\t검증 세트 손실: 0.051620\t최선의 손실: 0.038408\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.050484\t최선의 손실: 0.038408\t정확도: 99.10%\n", - "31\t검증 세트 손실: 0.052213\t최선의 손실: 0.038408\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.094945\t최선의 손실: 0.038408\t정확도: 98.44%\n", - "33\t검증 세트 손실: 0.063699\t최선의 손실: 0.038408\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.042543\t최선의 손실: 0.038408\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.053537\t최선의 손실: 0.038408\t정확도: 99.18%\n", - "36\t검증 세트 손실: 0.046573\t최선의 손실: 0.038408\t정확도: 99.30%\n", - "37\t검증 세트 손실: 0.052535\t최선의 손실: 0.038408\t정확도: 99.14%\n", - "38\t검증 세트 손실: 0.063129\t최선의 손실: 0.038408\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.051969\t최선의 손실: 0.038408\t정확도: 99.10%\n", - "40\t검증 세트 손실: 0.056391\t최선의 손실: 0.038408\t정확도: 98.83%\n", - "41\t검증 세트 손실: 0.051401\t최선의 손실: 0.038408\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.052303\t최선의 손실: 0.038408\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.053917\t최선의 손실: 0.038408\t정확도: 99.02%\n", - "44\t검증 세트 손실: 0.069120\t최선의 손실: 0.038408\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160, total= 35.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160 \n", - "0\t검증 세트 손실: 0.152589\t최선의 손실: 0.152589\t정확도: 96.52%\n", - "1\t검증 세트 손실: 0.066641\t최선의 손실: 0.066641\t정확도: 98.16%\n", - "2\t검증 세트 손실: 0.048475\t최선의 손실: 0.048475\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.057917\t최선의 손실: 0.048475\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.091609\t최선의 손실: 0.048475\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.048813\t최선의 손실: 0.048475\t정확도: 98.83%\n" + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 31.5s\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.072313\t최선의 손실: 0.072313\t정확도: 97.97%\n", + "1\t검증 세트 손실: 0.052268\t최선의 손실: 0.052268\t정확도: 98.24%\n", + "2\t검증 세트 손실: 0.039312\t최선의 손실: 0.039312\t정확도: 98.63%\n", + "3\t검증 세트 손실: 0.037159\t최선의 손실: 0.037159\t정확도: 98.83%\n", + "4\t검증 세트 손실: 0.034125\t최선의 손실: 0.034125\t정확도: 98.94%\n", + "5\t검증 세트 손실: 0.039260\t최선의 손실: 0.034125\t정확도: 98.79%\n", + "6\t검증 세트 손실: 0.037596\t최선의 손실: 0.034125\t정확도: 98.94%\n", + "7\t검증 세트 손실: 0.036389\t최선의 손실: 0.034125\t정확도: 98.87%\n", + "8\t검증 세트 손실: 0.038043\t최선의 손실: 0.034125\t정확도: 99.06%\n", + "9\t검증 세트 손실: 0.033142\t최선의 손실: 0.033142\t정확도: 99.06%\n", + "10\t검증 세트 손실: 0.042578\t최선의 손실: 0.033142\t정확도: 98.98%\n", + "11\t검증 세트 손실: 0.037154\t최선의 손실: 0.033142\t정확도: 98.98%\n", + "12\t검증 세트 손실: 0.039466\t최선의 손실: 0.033142\t정확도: 99.10%\n", + "13\t검증 세트 손실: 0.033252\t최선의 손실: 0.033142\t정확도: 99.14%\n", + "14\t검증 세트 손실: 0.037411\t최선의 손실: 0.033142\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.044815\t최선의 손실: 0.033142\t정확도: 98.91%\n", + "16\t검증 세트 손실: 0.034616\t최선의 손실: 0.033142\t정확도: 99.34%\n", + "17\t검증 세트 손실: 0.040686\t최선의 손실: 0.033142\t정확도: 99.10%\n", + "18\t검증 세트 손실: 0.032557\t최선의 손실: 0.032557\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.033378\t최선의 손실: 0.032557\t정확도: 99.10%\n", + "20\t검증 세트 손실: 0.044614\t최선의 손실: 0.032557\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.036285\t최선의 손실: 0.032557\t정확도: 99.22%\n", + "22\t검증 세트 손실: 0.034282\t최선의 손실: 0.032557\t정확도: 99.18%\n", + "23\t검증 세트 손실: 0.067961\t최선의 손실: 0.032557\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.043163\t최선의 손실: 0.032557\t정확도: 99.14%\n", + "25\t검증 세트 손실: 0.034413\t최선의 손실: 0.032557\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.043722\t최선의 손실: 0.032557\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.061887\t최선의 손실: 0.032557\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.039360\t최선의 손실: 0.032557\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.040454\t최선의 손실: 0.032557\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.037653\t최선의 손실: 0.032557\t정확도: 99.26%\n", + "31\t검증 세트 손실: 0.048988\t최선의 손실: 0.032557\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.019112\t최선의 손실: 0.019112\t정확도: 99.49%\n", + "33\t검증 세트 손실: 0.045403\t최선의 손실: 0.019112\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.039713\t최선의 손실: 0.019112\t정확도: 99.14%\n", + "35\t검증 세트 손실: 0.038764\t최선의 손실: 0.019112\t정확도: 99.18%\n", + "36\t검증 세트 손실: 0.047130\t최선의 손실: 0.019112\t정확도: 99.18%\n", + "37\t검증 세트 손실: 0.047391\t최선의 손실: 0.019112\t정확도: 99.02%\n", + "38\t검증 세트 손실: 0.048993\t최선의 손실: 0.019112\t정확도: 99.10%\n", + "39\t검증 세트 손실: 0.039849\t최선의 손실: 0.019112\t정확도: 99.26%\n", + "40\t검증 세트 손실: 0.046296\t최선의 손실: 0.019112\t정확도: 99.06%\n", + "41\t검증 세트 손실: 0.035248\t최선의 손실: 0.019112\t정확도: 99.30%\n", + "42\t검증 세트 손실: 0.038132\t최선의 손실: 0.019112\t정확도: 99.30%\n", + "43\t검증 세트 손실: 0.047044\t최선의 손실: 0.019112\t정확도: 99.14%\n", + "44\t검증 세트 손실: 0.043214\t최선의 손실: 0.019112\t정확도: 99.06%\n", + "45\t검증 세트 손실: 0.036470\t최선의 손실: 0.019112\t정확도: 99.22%\n", + "46\t검증 세트 손실: 0.058997\t최선의 손실: 0.019112\t정확도: 98.79%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "6\t검증 세트 손실: 0.048777\t최선의 손실: 0.048475\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.037165\t최선의 손실: 0.037165\t정확도: 99.14%\n", - "8\t검증 세트 손실: 0.046081\t최선의 손실: 0.037165\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.063288\t최선의 손실: 0.037165\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.056553\t최선의 손실: 0.037165\t정확도: 98.67%\n", - "11\t검증 세트 손실: 0.050754\t최선의 손실: 0.037165\t정확도: 98.83%\n", - "12\t검증 세트 손실: 0.052732\t최선의 손실: 0.037165\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.048010\t최선의 손실: 0.037165\t정확도: 99.06%\n", - "14\t검증 세트 손실: 0.039794\t최선의 손실: 0.037165\t정확도: 99.10%\n", - "15\t검증 세트 손실: 0.049692\t최선의 손실: 0.037165\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.042703\t최선의 손실: 0.037165\t정확도: 99.14%\n", - "17\t검증 세트 손실: 0.053856\t최선의 손실: 0.037165\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.058080\t최선의 손실: 0.037165\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.079347\t최선의 손실: 0.037165\t정확도: 98.40%\n", - "20\t검증 세트 손실: 0.049026\t최선의 손실: 0.037165\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.062239\t최선의 손실: 0.037165\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.060031\t최선의 손실: 0.037165\t정확도: 98.75%\n", - "23\t검증 세트 손실: 0.052763\t최선의 손실: 0.037165\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.042598\t최선의 손실: 0.037165\t정확도: 99.22%\n", - "25\t검증 세트 손실: 0.050408\t최선의 손실: 0.037165\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.052068\t최선의 손실: 0.037165\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.045806\t최선의 손실: 0.037165\t정확도: 99.26%\n", - "28\t검증 세트 손실: 0.031692\t최선의 손실: 0.031692\t정확도: 99.22%\n", - "29\t검증 세트 손실: 0.050749\t최선의 손실: 0.031692\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.031666\t최선의 손실: 0.031666\t정확도: 99.14%\n", - "31\t검증 세트 손실: 0.031157\t최선의 손실: 0.031157\t정확도: 99.18%\n", - "32\t검증 세트 손실: 0.047237\t최선의 손실: 0.031157\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.043049\t최선의 손실: 0.031157\t정확도: 98.91%\n", - "34\t검증 세트 손실: 0.050080\t최선의 손실: 0.031157\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.039172\t최선의 손실: 0.031157\t정확도: 99.22%\n", - "36\t검증 세트 손실: 0.049115\t최선의 손실: 0.031157\t정확도: 98.83%\n", - "37\t검증 세트 손실: 0.052377\t최선의 손실: 0.031157\t정확도: 98.94%\n", - "38\t검증 세트 손실: 0.043241\t최선의 손실: 0.031157\t정확도: 99.10%\n", - "39\t검증 세트 손실: 0.030910\t최선의 손실: 0.030910\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.034429\t최선의 손실: 0.030910\t정확도: 99.26%\n", - "41\t검증 세트 손실: 0.047494\t최선의 손실: 0.030910\t정확도: 99.10%\n", - "42\t검증 세트 손실: 0.037417\t최선의 손실: 0.030910\t정확도: 99.26%\n", - "43\t검증 세트 손실: 0.037431\t최선의 손실: 0.030910\t정확도: 99.26%\n", - "44\t검증 세트 손실: 0.067214\t최선의 손실: 0.030910\t정확도: 98.79%\n", - "45\t검증 세트 손실: 0.046348\t최선의 손실: 0.030910\t정확도: 98.98%\n", - "46\t검증 세트 손실: 0.049231\t최선의 손실: 0.030910\t정확도: 99.10%\n", - "47\t검증 세트 손실: 0.051206\t최선의 손실: 0.030910\t정확도: 99.06%\n", - "48\t검증 세트 손실: 0.067522\t최선의 손실: 0.030910\t정확도: 98.55%\n", - "49\t검증 세트 손실: 0.055208\t최선의 손실: 0.030910\t정확도: 98.83%\n", - "50\t검증 세트 손실: 0.047343\t최선의 손실: 0.030910\t정확도: 99.22%\n", - "51\t검증 세트 손실: 0.044135\t최선의 손실: 0.030910\t정확도: 99.26%\n", - "52\t검증 세트 손실: 0.047007\t최선의 손실: 0.030910\t정확도: 99.02%\n", - "53\t검증 세트 손실: 0.042780\t최선의 손실: 0.030910\t정확도: 99.22%\n", - "54\t검증 세트 손실: 0.035180\t최선의 손실: 0.030910\t정확도: 99.37%\n", - "55\t검증 세트 손실: 0.049428\t최선의 손실: 0.030910\t정확도: 99.06%\n", - "56\t검증 세트 손실: 0.036936\t최선의 손실: 0.030910\t정확도: 99.18%\n", - "57\t검증 세트 손실: 0.037086\t최선의 손실: 0.030910\t정확도: 99.22%\n", - "58\t검증 세트 손실: 0.051966\t최선의 손실: 0.030910\t정확도: 99.06%\n", - "59\t검증 세트 손실: 0.044551\t최선의 손실: 0.030910\t정확도: 99.18%\n", - "60\t검증 세트 손실: 0.041249\t최선의 손실: 0.030910\t정확도: 99.34%\n", + "47\t검증 세트 손실: 0.055659\t최선의 손실: 0.019112\t정확도: 98.94%\n", + "48\t검증 세트 손실: 0.055146\t최선의 손실: 0.019112\t정확도: 98.94%\n", + "49\t검증 세트 손실: 0.047232\t최선의 손실: 0.019112\t정확도: 99.02%\n", + "50\t검증 세트 손실: 0.041984\t최선의 손실: 0.019112\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.061248\t최선의 손실: 0.019112\t정확도: 98.87%\n", + "52\t검증 세트 손실: 0.041612\t최선의 손실: 0.019112\t정확도: 99.22%\n", + "53\t검증 세트 손실: 0.054194\t최선의 손실: 0.019112\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160, total= 46.9s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160 \n", - "0\t검증 세트 손실: 0.099057\t최선의 손실: 0.099057\t정확도: 97.58%\n", - "1\t검증 세트 손실: 0.057936\t최선의 손실: 0.057936\t정확도: 98.48%\n", - "2\t검증 세트 손실: 0.069850\t최선의 손실: 0.057936\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.054781\t최선의 손실: 0.054781\t정확도: 98.75%\n", - "4\t검증 세트 손실: 0.036577\t최선의 손실: 0.036577\t정확도: 99.14%\n", - "5\t검증 세트 손실: 0.042539\t최선의 손실: 0.036577\t정확도: 98.83%\n", - "6\t검증 세트 손실: 0.052452\t최선의 손실: 0.036577\t정확도: 98.71%\n", - "7\t검증 세트 손실: 0.051174\t최선의 손실: 0.036577\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.043023\t최선의 손실: 0.036577\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.058102\t최선의 손실: 0.036577\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.045111\t최선의 손실: 0.036577\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.057733\t최선의 손실: 0.036577\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.045594\t최선의 손실: 0.036577\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.041318\t최선의 손실: 0.036577\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.046061\t최선의 손실: 0.036577\t정확도: 99.18%\n", - "15\t검증 세트 손실: 0.055090\t최선의 손실: 0.036577\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.062471\t최선의 손실: 0.036577\t정확도: 98.75%\n", - "17\t검증 세트 손실: 0.058418\t최선의 손실: 0.036577\t정확도: 98.94%\n", - "18\t검증 세트 손실: 0.056053\t최선의 손실: 0.036577\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.040588\t최선의 손실: 0.036577\t정확도: 99.26%\n", - "20\t검증 세트 손실: 0.052022\t최선의 손실: 0.036577\t정확도: 99.22%\n", - "21\t검증 세트 손실: 0.050366\t최선의 손실: 0.036577\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.042717\t최선의 손실: 0.036577\t정확도: 99.22%\n", - "23\t검증 세트 손실: 0.034326\t최선의 손실: 0.034326\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.029079\t최선의 손실: 0.029079\t정확도: 99.26%\n", - "25\t검증 세트 손실: 0.047359\t최선의 손실: 0.029079\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.042310\t최선의 손실: 0.029079\t정확도: 99.18%\n", - "27\t검증 세트 손실: 0.045284\t최선의 손실: 0.029079\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.032511\t최선의 손실: 0.029079\t정확도: 99.30%\n", - "29\t검증 세트 손실: 0.030979\t최선의 손실: 0.029079\t정확도: 99.10%\n", - "30\t검증 세트 손실: 0.047930\t최선의 손실: 0.029079\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.041515\t최선의 손실: 0.029079\t정확도: 99.18%\n", - "32\t검증 세트 손실: 0.049346\t최선의 손실: 0.029079\t정확도: 99.10%\n", - "33\t검증 세트 손실: 0.037683\t최선의 손실: 0.029079\t정확도: 99.10%\n", - "34\t검증 세트 손실: 0.076145\t최선의 손실: 0.029079\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.050864\t최선의 손실: 0.029079\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.033240\t최선의 손실: 0.029079\t정확도: 99.14%\n", - "37\t검증 세트 손실: 0.051695\t최선의 손실: 0.029079\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.036021\t최선의 손실: 0.029079\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.045270\t최선의 손실: 0.029079\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.041446\t최선의 손실: 0.029079\t정확도: 99.10%\n", - "41\t검증 세트 손실: 0.029420\t최선의 손실: 0.029079\t정확도: 99.30%\n", - "42\t검증 세트 손실: 0.031106\t최선의 손실: 0.029079\t정확도: 99.34%\n", - "43\t검증 세트 손실: 0.046610\t최선의 손실: 0.029079\t정확도: 99.06%\n", - "44\t검증 세트 손실: 0.049976\t최선의 손실: 0.029079\t정확도: 99.18%\n", - "45\t검증 세트 손실: 0.047625\t최선의 손실: 0.029079\t정확도: 98.87%\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 41.2s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 2.663432\t최선의 손실: 2.663432\t정확도: 93.59%\n", + "1\t검증 세트 손실: 0.339904\t최선의 손실: 0.339904\t정확도: 96.52%\n", + "2\t검증 세트 손실: 0.202020\t최선의 손실: 0.202020\t정확도: 96.79%\n", + "3\t검증 세트 손실: 0.112760\t최선의 손실: 0.112760\t정확도: 97.46%\n", + "4\t검증 세트 손실: 0.122209\t최선의 손실: 0.112760\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.097449\t최선의 손실: 0.097449\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.085394\t최선의 손실: 0.085394\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.090860\t최선의 손실: 0.085394\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.069074\t최선의 손실: 0.069074\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.055485\t최선의 손실: 0.055485\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.082509\t최선의 손실: 0.055485\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.151976\t최선의 손실: 0.055485\t정확도: 97.93%\n", + "12\t검증 세트 손실: 0.090863\t최선의 손실: 0.055485\t정확도: 98.28%\n", + "13\t검증 세트 손실: 0.065905\t최선의 손실: 0.055485\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.063423\t최선의 손실: 0.055485\t정확도: 98.83%\n", + "15\t검증 세트 손실: 0.062828\t최선의 손실: 0.055485\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.064760\t최선의 손실: 0.055485\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.080816\t최선의 손실: 0.055485\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.079934\t최선의 손실: 0.055485\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.126054\t최선의 손실: 0.055485\t정확도: 98.36%\n", + "20\t검증 세트 손실: 0.071875\t최선의 손실: 0.055485\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.082660\t최선의 손실: 0.055485\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.053656\t최선의 손실: 0.053656\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.061223\t최선의 손실: 0.053656\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.071821\t최선의 손실: 0.053656\t정확도: 98.67%\n", + "25\t검증 세트 손실: 0.060756\t최선의 손실: 0.053656\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.060510\t최선의 손실: 0.053656\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.093000\t최선의 손실: 0.053656\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.087602\t최선의 손실: 0.053656\t정확도: 98.67%\n", + "29\t검증 세트 손실: 0.096751\t최선의 손실: 0.053656\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.074705\t최선의 손실: 0.053656\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.067264\t최선의 손실: 0.053656\t정확도: 98.75%\n", + "32\t검증 세트 손실: 0.088158\t최선의 손실: 0.053656\t정확도: 98.55%\n", + "33\t검증 세트 손실: 0.077637\t최선의 손실: 0.053656\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.076572\t최선의 손실: 0.053656\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.146030\t최선의 손실: 0.053656\t정확도: 98.16%\n", + "36\t검증 세트 손실: 0.074487\t최선의 손실: 0.053656\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.068795\t최선의 손실: 0.053656\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.060781\t최선의 손실: 0.053656\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.113154\t최선의 손실: 0.053656\t정확도: 98.32%\n", + "40\t검증 세트 손실: 0.093539\t최선의 손실: 0.053656\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.061208\t최선의 손실: 0.053656\t정확도: 98.75%\n", + "42\t검증 세트 손실: 0.084067\t최선의 손실: 0.053656\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.091235\t최선의 손실: 0.053656\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=160, total= 35.7s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50 \n", - "0\t검증 세트 손실: 0.156844\t최선의 손실: 0.156844\t정확도: 95.62%\n", - "1\t검증 세트 손실: 0.091185\t최선의 손실: 0.091185\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.095744\t최선의 손실: 0.091185\t정확도: 97.19%\n", - "3\t검증 세트 손실: 0.072913\t최선의 손실: 0.072913\t정확도: 97.65%\n", - "4\t검증 세트 손실: 0.072213\t최선의 손실: 0.072213\t정확도: 97.97%\n", - "5\t검증 세트 손실: 0.140449\t최선의 손실: 0.072213\t정확도: 96.21%\n", - "6\t검증 세트 손실: 0.066621\t최선의 손실: 0.066621\t정확도: 97.93%\n", - "7\t검증 세트 손실: 0.082047\t최선의 손실: 0.066621\t정확도: 97.89%\n", - "8\t검증 세트 손실: 0.094382\t최선의 손실: 0.066621\t정확도: 97.26%\n", - "9\t검증 세트 손실: 0.061278\t최선의 손실: 0.061278\t정확도: 98.40%\n", - "10\t검증 세트 손실: 0.071998\t최선의 손실: 0.061278\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.064475\t최선의 손실: 0.061278\t정확도: 97.97%\n", - "12\t검증 세트 손실: 0.067975\t최선의 손실: 0.061278\t정확도: 98.01%\n", - "13\t검증 세트 손실: 0.076488\t최선의 손실: 0.061278\t정확도: 98.05%\n", - "14\t검증 세트 손실: 0.093151\t최선의 손실: 0.061278\t정확도: 97.65%\n", - "15\t검증 세트 손실: 0.088873\t최선의 손실: 0.061278\t정확도: 97.54%\n", - "16\t검증 세트 손실: 0.079892\t최선의 손실: 0.061278\t정확도: 98.12%\n", - "17\t검증 세트 손실: 0.073544\t최선의 손실: 0.061278\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.074617\t최선의 손실: 0.061278\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.073107\t최선의 손실: 0.061278\t정확도: 98.32%\n", - "20\t검증 세트 손실: 0.085943\t최선의 손실: 0.061278\t정확도: 97.89%\n", - "21\t검증 세트 손실: 0.083374\t최선의 손실: 0.061278\t정확도: 98.24%\n", - "22\t검증 세트 손실: 0.083410\t최선의 손실: 0.061278\t정확도: 98.28%\n", - "23\t검증 세트 손실: 0.072515\t최선의 손실: 0.061278\t정확도: 98.28%\n", - "24\t검증 세트 손실: 0.076070\t최선의 손실: 0.061278\t정확도: 98.24%\n", - "25\t검증 세트 손실: 0.080725\t최선의 손실: 0.061278\t정확도: 98.01%\n", - "26\t검증 세트 손실: 0.074257\t최선의 손실: 0.061278\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.068803\t최선의 손실: 0.061278\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.080603\t최선의 손실: 0.061278\t정확도: 98.05%\n", - "29\t검증 세트 손실: 0.087916\t최선의 손실: 0.061278\t정확도: 97.97%\n", - "30\t검증 세트 손실: 0.068466\t최선의 손실: 0.061278\t정확도: 98.36%\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 9.4s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 5.212661\t최선의 손실: 5.212661\t정확도: 85.46%\n", + "1\t검증 세트 손실: 0.277346\t최선의 손실: 0.277346\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.141163\t최선의 손실: 0.141163\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.095773\t최선의 손실: 0.095773\t정확도: 97.85%\n", + "4\t검증 세트 손실: 0.151986\t최선의 손실: 0.095773\t정확도: 97.58%\n", + "5\t검증 세트 손실: 0.110860\t최선의 손실: 0.095773\t정확도: 97.50%\n", + "6\t검증 세트 손실: 0.102987\t최선의 손실: 0.095773\t정확도: 97.50%\n", + "7\t검증 세트 손실: 0.106680\t최선의 손실: 0.095773\t정확도: 97.85%\n", + "8\t검증 세트 손실: 0.073995\t최선의 손실: 0.073995\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.059710\t최선의 손실: 0.059710\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.071890\t최선의 손실: 0.059710\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.076336\t최선의 손실: 0.059710\t정확도: 98.51%\n", + "12\t검증 세트 손실: 0.063388\t최선의 손실: 0.059710\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.059042\t최선의 손실: 0.059042\t정확도: 98.87%\n", + "14\t검증 세트 손실: 0.142241\t최선의 손실: 0.059042\t정확도: 98.01%\n", + "15\t검증 세트 손실: 0.085986\t최선의 손실: 0.059042\t정확도: 98.40%\n", + "16\t검증 세트 손실: 0.077985\t최선의 손실: 0.059042\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.061793\t최선의 손실: 0.059042\t정확도: 98.63%\n", + "18\t검증 세트 손실: 0.062888\t최선의 손실: 0.059042\t정확도: 98.48%\n", + "19\t검증 세트 손실: 0.059024\t최선의 손실: 0.059024\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.063112\t최선의 손실: 0.059024\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.095278\t최선의 손실: 0.059024\t정확도: 98.28%\n", + "22\t검증 세트 손실: 0.083122\t최선의 손실: 0.059024\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.076307\t최선의 손실: 0.059024\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.061958\t최선의 손실: 0.059024\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.071301\t최선의 손실: 0.059024\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.060732\t최선의 손실: 0.059024\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.068181\t최선의 손실: 0.059024\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.075488\t최선의 손실: 0.059024\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.083667\t최선의 손실: 0.059024\t정확도: 98.40%\n", + "30\t검증 세트 손실: 0.069471\t최선의 손실: 0.059024\t정확도: 98.48%\n", + "31\t검증 세트 손실: 0.058971\t최선의 손실: 0.058971\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.082003\t최선의 손실: 0.058971\t정확도: 98.63%\n", + "33\t검증 세트 손실: 0.135883\t최선의 손실: 0.058971\t정확도: 97.77%\n", + "34\t검증 세트 손실: 0.102923\t최선의 손실: 0.058971\t정확도: 98.44%\n", + "35\t검증 세트 손실: 0.107005\t최선의 손실: 0.058971\t정확도: 98.32%\n", + "36\t검증 세트 손실: 0.086269\t최선의 손실: 0.058971\t정확도: 98.44%\n", + "37\t검증 세트 손실: 0.082985\t최선의 손실: 0.058971\t정확도: 98.91%\n", + "38\t검증 세트 손실: 0.057914\t최선의 손실: 0.057914\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.052471\t최선의 손실: 0.052471\t정확도: 99.10%\n", + "40\t검증 세트 손실: 0.058796\t최선의 손실: 0.052471\t정확도: 99.02%\n", + "41\t검증 세트 손실: 0.058181\t최선의 손실: 0.052471\t정확도: 98.98%\n", + "42\t검증 세트 손실: 0.093977\t최선의 손실: 0.052471\t정확도: 98.71%\n", + "43\t검증 세트 손실: 0.095068\t최선의 손실: 0.052471\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.053717\t최선의 손실: 0.052471\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.062587\t최선의 손실: 0.052471\t정확도: 98.98%\n", + "46\t검증 세트 손실: 0.057317\t최선의 손실: 0.052471\t정확도: 99.02%\n", + "47\t검증 세트 손실: 0.096670\t최선의 손실: 0.052471\t정확도: 98.63%\n", + "48\t검증 세트 손실: 0.067059\t최선의 손실: 0.052471\t정확도: 98.83%\n", + "49\t검증 세트 손실: 0.069293\t최선의 손실: 0.052471\t정확도: 98.87%\n", + "50\t검증 세트 손실: 0.071142\t최선의 손실: 0.052471\t정확도: 98.59%\n", + "51\t검증 세트 손실: 0.069528\t최선의 손실: 0.052471\t정확도: 98.79%\n", + "52\t검증 세트 손실: 0.091066\t최선의 손실: 0.052471\t정확도: 98.44%\n", + "53\t검증 세트 손실: 0.069358\t최선의 손실: 0.052471\t정확도: 98.71%\n", + "54\t검증 세트 손실: 0.061209\t최선의 손실: 0.052471\t정확도: 98.91%\n", + "55\t검증 세트 손실: 0.067490\t최선의 손실: 0.052471\t정확도: 99.06%\n", + "56\t검증 세트 손실: 0.073565\t최선의 손실: 0.052471\t정확도: 98.87%\n", + "57\t검증 세트 손실: 0.080222\t최선의 손실: 0.052471\t정확도: 98.79%\n", + "58\t검증 세트 손실: 0.100710\t최선의 손실: 0.052471\t정확도: 98.59%\n", + "59\t검증 세트 손실: 0.074436\t최선의 손실: 0.052471\t정확도: 98.79%\n", + "60\t검증 세트 손실: 0.094478\t최선의 손실: 0.052471\t정확도: 98.48%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50, total= 6.5s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50 \n", - "0\t검증 세트 손실: 0.179213\t최선의 손실: 0.179213\t정확도: 94.49%\n", - "1\t검증 세트 손실: 0.089666\t최선의 손실: 0.089666\t정확도: 97.15%\n", - "2\t검증 세트 손실: 0.079928\t최선의 손실: 0.079928\t정확도: 97.50%\n", - "3\t검증 세트 손실: 0.072080\t최선의 손실: 0.072080\t정확도: 97.81%\n", - "4\t검증 세트 손실: 0.068001\t최선의 손실: 0.068001\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.066494\t최선의 손실: 0.066494\t정확도: 97.77%\n", - "6\t검증 세트 손실: 0.070096\t최선의 손실: 0.066494\t정확도: 97.97%\n", - "7\t검증 세트 손실: 0.077662\t최선의 손실: 0.066494\t정확도: 97.85%\n", - "8\t검증 세트 손실: 0.088638\t최선의 손실: 0.066494\t정확도: 97.69%\n", - "9\t검증 세트 손실: 0.066893\t최선의 손실: 0.066494\t정확도: 98.16%\n", - "10\t검증 세트 손실: 0.062447\t최선의 손실: 0.062447\t정확도: 98.36%\n", - "11\t검증 세트 손실: 0.067889\t최선의 손실: 0.062447\t정확도: 98.28%\n" + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 12.4s\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 2.388708\t최선의 손실: 2.388708\t정확도: 90.85%\n", + "1\t검증 세트 손실: 0.298859\t최선의 손실: 0.298859\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.106129\t최선의 손실: 0.106129\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.086790\t최선의 손실: 0.086790\t정확도: 98.12%\n", + "4\t검증 세트 손실: 0.071706\t최선의 손실: 0.071706\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.068234\t최선의 손실: 0.068234\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.060840\t최선의 손실: 0.060840\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.067461\t최선의 손실: 0.060840\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.078416\t최선의 손실: 0.060840\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.074004\t최선의 손실: 0.060840\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.073754\t최선의 손실: 0.060840\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.072974\t최선의 손실: 0.060840\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.084768\t최선의 손실: 0.060840\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.058473\t최선의 손실: 0.058473\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.086034\t최선의 손실: 0.058473\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.062183\t최선의 손실: 0.058473\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.061514\t최선의 손실: 0.058473\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.098360\t최선의 손실: 0.058473\t정확도: 98.36%\n", + "18\t검증 세트 손실: 0.058761\t최선의 손실: 0.058473\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.045379\t최선의 손실: 0.045379\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.068831\t최선의 손실: 0.045379\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.072688\t최선의 손실: 0.045379\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.069961\t최선의 손실: 0.045379\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.053611\t최선의 손실: 0.045379\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.054123\t최선의 손실: 0.045379\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.064499\t최선의 손실: 0.045379\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.088175\t최선의 손실: 0.045379\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.055495\t최선의 손실: 0.045379\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.055316\t최선의 손실: 0.045379\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.084995\t최선의 손실: 0.045379\t정확도: 98.40%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "12\t검증 세트 손실: 0.061717\t최선의 손실: 0.061717\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.082593\t최선의 손실: 0.061717\t정확도: 97.77%\n", - "14\t검증 세트 손실: 0.057345\t최선의 손실: 0.057345\t정확도: 98.51%\n", - "15\t검증 세트 손실: 0.076093\t최선의 손실: 0.057345\t정확도: 98.51%\n", - "16\t검증 세트 손실: 0.073575\t최선의 손실: 0.057345\t정확도: 98.40%\n", - "17\t검증 세트 손실: 0.073913\t최선의 손실: 0.057345\t정확도: 98.40%\n", - "18\t검증 세트 손실: 0.066565\t최선의 손실: 0.057345\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.073315\t최선의 손실: 0.057345\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.082725\t최선의 손실: 0.057345\t정확도: 98.55%\n", - "21\t검증 세트 손실: 0.086592\t최선의 손실: 0.057345\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.085665\t최선의 손실: 0.057345\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.072130\t최선의 손실: 0.057345\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.067758\t최선의 손실: 0.057345\t정확도: 98.75%\n", - "25\t검증 세트 손실: 0.085129\t최선의 손실: 0.057345\t정확도: 98.44%\n", - "26\t검증 세트 손실: 0.074461\t최선의 손실: 0.057345\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.058741\t최선의 손실: 0.057345\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.061242\t최선의 손실: 0.057345\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.058648\t최선의 손실: 0.057345\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.067934\t최선의 손실: 0.057345\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.077883\t최선의 손실: 0.057345\t정확도: 98.79%\n", - "32\t검증 세트 손실: 0.069408\t최선의 손실: 0.057345\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.124454\t최선의 손실: 0.057345\t정확도: 98.40%\n", - "34\t검증 세트 손실: 0.088713\t최선의 손실: 0.057345\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.078442\t최선의 손실: 0.057345\t정확도: 98.63%\n", + "30\t검증 세트 손실: 0.045358\t최선의 손실: 0.045358\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.056084\t최선의 손실: 0.045358\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.042518\t최선의 손실: 0.042518\t정확도: 99.10%\n", + "33\t검증 세트 손실: 0.061155\t최선의 손실: 0.042518\t정확도: 98.75%\n", + "34\t검증 세트 손실: 0.062868\t최선의 손실: 0.042518\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.048541\t최선의 손실: 0.042518\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.047439\t최선의 손실: 0.042518\t정확도: 98.98%\n", + "37\t검증 세트 손실: 0.065922\t최선의 손실: 0.042518\t정확도: 98.67%\n", + "38\t검증 세트 손실: 0.044490\t최선의 손실: 0.042518\t정확도: 99.10%\n", + "39\t검증 세트 손실: 0.074835\t최선의 손실: 0.042518\t정확도: 98.63%\n", + "40\t검증 세트 손실: 0.069232\t최선의 손실: 0.042518\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.048024\t최선의 손실: 0.042518\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.063935\t최선의 손실: 0.042518\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.070645\t최선의 손실: 0.042518\t정확도: 98.67%\n", + "44\t검증 세트 손실: 0.064258\t최선의 손실: 0.042518\t정확도: 98.91%\n", + "45\t검증 세트 손실: 0.060221\t최선의 손실: 0.042518\t정확도: 98.79%\n", + "46\t검증 세트 손실: 0.092033\t최선의 손실: 0.042518\t정확도: 98.20%\n", + "47\t검증 세트 손실: 0.068747\t최선의 손실: 0.042518\t정확도: 98.79%\n", + "48\t검증 세트 손실: 0.056199\t최선의 손실: 0.042518\t정확도: 98.83%\n", + "49\t검증 세트 손실: 0.104702\t최선의 손실: 0.042518\t정확도: 98.48%\n", + "50\t검증 세트 손실: 0.065685\t최선의 손실: 0.042518\t정확도: 98.59%\n", + "51\t검증 세트 손실: 0.084804\t최선의 손실: 0.042518\t정확도: 98.48%\n", + "52\t검증 세트 손실: 0.064495\t최선의 손실: 0.042518\t정확도: 98.75%\n", + "53\t검증 세트 손실: 0.076841\t최선의 손실: 0.042518\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50, total= 7.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50 \n", - "0\t검증 세트 손실: 0.159377\t최선의 손실: 0.159377\t정확도: 94.49%\n", - "1\t검증 세트 손실: 0.094089\t최선의 손실: 0.094089\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.079831\t최선의 손실: 0.079831\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.070357\t최선의 손실: 0.070357\t정확도: 97.89%\n", - "4\t검증 세트 손실: 0.079704\t최선의 손실: 0.070357\t정확도: 97.73%\n", - "5\t검증 세트 손실: 0.061437\t최선의 손실: 0.061437\t정확도: 97.97%\n", - "6\t검증 세트 손실: 0.058507\t최선의 손실: 0.058507\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.050435\t최선의 손실: 0.050435\t정확도: 98.24%\n", - "8\t검증 세트 손실: 0.058137\t최선의 손실: 0.050435\t정확도: 98.28%\n", - "9\t검증 세트 손실: 0.060758\t최선의 손실: 0.050435\t정확도: 98.28%\n", - "10\t검증 세트 손실: 0.071140\t최선의 손실: 0.050435\t정확도: 98.01%\n", - "11\t검증 세트 손실: 0.055306\t최선의 손실: 0.050435\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.047806\t최선의 손실: 0.047806\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.063857\t최선의 손실: 0.047806\t정확도: 98.36%\n", - "14\t검증 세트 손실: 0.073359\t최선의 손실: 0.047806\t정확도: 98.24%\n", - "15\t검증 세트 손실: 0.068553\t최선의 손실: 0.047806\t정확도: 98.44%\n", - "16\t검증 세트 손실: 0.044919\t최선의 손실: 0.044919\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.051298\t최선의 손실: 0.044919\t정확도: 98.55%\n", - "18\t검증 세트 손실: 0.055715\t최선의 손실: 0.044919\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.070301\t최선의 손실: 0.044919\t정확도: 98.44%\n", - "20\t검증 세트 손실: 0.061103\t최선의 손실: 0.044919\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.047031\t최선의 손실: 0.044919\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.087924\t최선의 손실: 0.044919\t정확도: 97.73%\n", - "23\t검증 세트 손실: 0.068942\t최선의 손실: 0.044919\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.058679\t최선의 손실: 0.044919\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.073182\t최선의 손실: 0.044919\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.053898\t최선의 손실: 0.044919\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.061242\t최선의 손실: 0.044919\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.087533\t최선의 손실: 0.044919\t정확도: 98.36%\n", - "29\t검증 세트 손실: 0.099440\t최선의 손실: 0.044919\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.068251\t최선의 손실: 0.044919\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.053898\t최선의 손실: 0.044919\t정확도: 98.98%\n", - "32\t검증 세트 손실: 0.068974\t최선의 손실: 0.044919\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.087507\t최선의 손실: 0.044919\t정확도: 97.89%\n", - "34\t검증 세트 손실: 0.088117\t최선의 손실: 0.044919\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.053607\t최선의 손실: 0.044919\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.059511\t최선의 손실: 0.044919\t정확도: 98.91%\n", - "37\t검증 세트 손실: 0.054171\t최선의 손실: 0.044919\t정확도: 98.94%\n", + "[CV] n_neurons=90, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 11.1s\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.101443\t최선의 손실: 0.101443\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.090994\t최선의 손실: 0.090994\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.061728\t최선의 손실: 0.061728\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.069309\t최선의 손실: 0.061728\t정확도: 97.89%\n", + "4\t검증 세트 손실: 0.086633\t최선의 손실: 0.061728\t정확도: 96.76%\n", + "5\t검증 세트 손실: 0.054811\t최선의 손실: 0.054811\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.057683\t최선의 손실: 0.054811\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.039279\t최선의 손실: 0.039279\t정확도: 98.87%\n", + "8\t검증 세트 손실: 0.045971\t최선의 손실: 0.039279\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.039809\t최선의 손실: 0.039279\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.058763\t최선의 손실: 0.039279\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.042306\t최선의 손실: 0.039279\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.046593\t최선의 손실: 0.039279\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.045669\t최선의 손실: 0.039279\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.044627\t최선의 손실: 0.039279\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.036627\t최선의 손실: 0.036627\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.043467\t최선의 손실: 0.036627\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.036848\t최선의 손실: 0.036627\t정확도: 99.06%\n", + "18\t검증 세트 손실: 0.037769\t최선의 손실: 0.036627\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.041624\t최선의 손실: 0.036627\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.040327\t최선의 손실: 0.036627\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.041852\t최선의 손실: 0.036627\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.046185\t최선의 손실: 0.036627\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.034034\t최선의 손실: 0.034034\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.034501\t최선의 손실: 0.034034\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.037574\t최선의 손실: 0.034034\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.034240\t최선의 손실: 0.034034\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.038116\t최선의 손실: 0.034034\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.035887\t최선의 손실: 0.034034\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.040130\t최선의 손실: 0.034034\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.042431\t최선의 손실: 0.034034\t정확도: 98.91%\n", + "31\t검증 세트 손실: 0.038190\t최선의 손실: 0.034034\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.042385\t최선의 손실: 0.034034\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.041734\t최선의 손실: 0.034034\t정확도: 98.71%\n", + "34\t검증 세트 손실: 0.035201\t최선의 손실: 0.034034\t정확도: 99.10%\n", + "35\t검증 세트 손실: 0.041269\t최선의 손실: 0.034034\t정확도: 98.79%\n", + "36\t검증 세트 손실: 0.042853\t최선의 손실: 0.034034\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.048794\t최선의 손실: 0.034034\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.043274\t최선의 손실: 0.034034\t정확도: 98.71%\n", + "39\t검증 세트 손실: 0.043281\t최선의 손실: 0.034034\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.032853\t최선의 손실: 0.032853\t정확도: 98.94%\n", + "41\t검증 세트 손실: 0.041162\t최선의 손실: 0.032853\t정확도: 98.91%\n", + "42\t검증 세트 손실: 0.040218\t최선의 손실: 0.032853\t정확도: 98.94%\n", + "43\t검증 세트 손실: 0.034532\t최선의 손실: 0.032853\t정확도: 99.02%\n", + "44\t검증 세트 손실: 0.037774\t최선의 손실: 0.032853\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.041983\t최선의 손실: 0.032853\t정확도: 98.71%\n", + "46\t검증 세트 손실: 0.051505\t최선의 손실: 0.032853\t정확도: 98.63%\n", + "47\t검증 세트 손실: 0.050205\t최선의 손실: 0.032853\t정확도: 98.83%\n", + "48\t검증 세트 손실: 0.037092\t최선의 손실: 0.032853\t정확도: 98.83%\n", + "49\t검증 세트 손실: 0.041340\t최선의 손실: 0.032853\t정확도: 98.79%\n", + "50\t검증 세트 손실: 0.037256\t최선의 손실: 0.032853\t정확도: 99.06%\n", + "51\t검증 세트 손실: 0.042671\t최선의 손실: 0.032853\t정확도: 98.94%\n", + "52\t검증 세트 손실: 0.043593\t최선의 손실: 0.032853\t정확도: 98.94%\n", + "53\t검증 세트 손실: 0.049780\t최선의 손실: 0.032853\t정확도: 98.79%\n", + "54\t검증 세트 손실: 0.046832\t최선의 손실: 0.032853\t정확도: 98.91%\n", + "55\t검증 세트 손실: 0.038233\t최선의 손실: 0.032853\t정확도: 99.02%\n", + "56\t검증 세트 손실: 0.041373\t최선의 손실: 0.032853\t정확도: 98.87%\n", + "57\t검증 세트 손실: 0.044662\t최선의 손실: 0.032853\t정확도: 98.71%\n", + "58\t검증 세트 손실: 0.049140\t최선의 손실: 0.032853\t정확도: 98.91%\n", + "59\t검증 세트 손실: 0.044172\t최선의 손실: 0.032853\t정확도: 98.59%\n", + "60\t검증 세트 손실: 0.033293\t최선의 손실: 0.032853\t정확도: 99.06%\n", + "61\t검증 세트 손실: 0.039053\t최선의 손실: 0.032853\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=50, total= 7.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90 \n", - "0\t검증 세트 손실: 0.127901\t최선의 손실: 0.127901\t정확도: 96.40%\n", - "1\t검증 세트 손실: 0.077788\t최선의 손실: 0.077788\t정확도: 97.62%\n", - "2\t검증 세트 손실: 0.074908\t최선의 손실: 0.074908\t정확도: 97.62%\n", - "3\t검증 세트 손실: 0.064550\t최선의 손실: 0.064550\t정확도: 98.16%\n", - "4\t검증 세트 손실: 0.062282\t최선의 손실: 0.062282\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.068280\t최선의 손실: 0.062282\t정확도: 97.81%\n", - "6\t검증 세트 손실: 0.063382\t최선의 손실: 0.062282\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.077420\t최선의 손실: 0.062282\t정확도: 98.01%\n", - "8\t검증 세트 손실: 0.052871\t최선의 손실: 0.052871\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.056443\t최선의 손실: 0.052871\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.050707\t최선의 손실: 0.050707\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.077185\t최선의 손실: 0.050707\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.068348\t최선의 손실: 0.050707\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.077914\t최선의 손실: 0.050707\t정확도: 97.93%\n", - "14\t검증 세트 손실: 0.058825\t최선의 손실: 0.050707\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.080160\t최선의 손실: 0.050707\t정확도: 98.16%\n", - "16\t검증 세트 손실: 0.065129\t최선의 손실: 0.050707\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.092252\t최선의 손실: 0.050707\t정확도: 98.16%\n", - "18\t검증 세트 손실: 0.063728\t최선의 손실: 0.050707\t정확도: 98.40%\n", - "19\t검증 세트 손실: 0.057678\t최선의 손실: 0.050707\t정확도: 98.59%\n", - "20\t검증 세트 손실: 0.057497\t최선의 손실: 0.050707\t정확도: 98.71%\n", - "21\t검증 세트 손실: 0.080308\t최선의 손실: 0.050707\t정확도: 97.93%\n", - "22\t검증 세트 손실: 0.055157\t최선의 손실: 0.050707\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.067587\t최선의 손실: 0.050707\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.071486\t최선의 손실: 0.050707\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.072537\t최선의 손실: 0.050707\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.064644\t최선의 손실: 0.050707\t정확도: 98.63%\n", - "27\t검증 세트 손실: 0.074307\t최선의 손실: 0.050707\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.063573\t최선의 손실: 0.050707\t정확도: 98.59%\n", - "29\t검증 세트 손실: 0.095083\t최선의 손실: 0.050707\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.059401\t최선의 손실: 0.050707\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.076137\t최선의 손실: 0.050707\t정확도: 98.83%\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 6.4min\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.112228\t최선의 손실: 0.112228\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.082759\t최선의 손실: 0.082759\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.074280\t최선의 손실: 0.074280\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.066216\t최선의 손실: 0.066216\t정확도: 98.08%\n", + "4\t검증 세트 손실: 0.050650\t최선의 손실: 0.050650\t정확도: 98.67%\n", + "5\t검증 세트 손실: 0.076267\t최선의 손실: 0.050650\t정확도: 97.34%\n", + "6\t검증 세트 손실: 0.042442\t최선의 손실: 0.042442\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.046286\t최선의 손실: 0.042442\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.044817\t최선의 손실: 0.042442\t정확도: 98.83%\n", + "9\t검증 세트 손실: 0.052711\t최선의 손실: 0.042442\t정확도: 98.32%\n", + "10\t검증 세트 손실: 0.061260\t최선의 손실: 0.042442\t정확도: 98.32%\n", + "11\t검증 세트 손실: 0.054362\t최선의 손실: 0.042442\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.050714\t최선의 손실: 0.042442\t정확도: 98.51%\n", + "13\t검증 세트 손실: 0.050156\t최선의 손실: 0.042442\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.047296\t최선의 손실: 0.042442\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.040958\t최선의 손실: 0.040958\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.059193\t최선의 손실: 0.040958\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.039820\t최선의 손실: 0.039820\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.044955\t최선의 손실: 0.039820\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.046447\t최선의 손실: 0.039820\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.048627\t최선의 손실: 0.039820\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.043350\t최선의 손실: 0.039820\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.049210\t최선의 손실: 0.039820\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.042810\t최선의 손실: 0.039820\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.052629\t최선의 손실: 0.039820\t정확도: 98.32%\n", + "25\t검증 세트 손실: 0.041049\t최선의 손실: 0.039820\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.034320\t최선의 손실: 0.034320\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.041957\t최선의 손실: 0.034320\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.041982\t최선의 손실: 0.034320\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.048938\t최선의 손실: 0.034320\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.037932\t최선의 손실: 0.034320\t정확도: 98.83%\n", + "31\t검증 세트 손실: 0.044020\t최선의 손실: 0.034320\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.032652\t최선의 손실: 0.032652\t정확도: 99.14%\n", + "33\t검증 세트 손실: 0.036137\t최선의 손실: 0.032652\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.049169\t최선의 손실: 0.032652\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.042288\t최선의 손실: 0.032652\t정확도: 98.48%\n", + "36\t검증 세트 손실: 0.050204\t최선의 손실: 0.032652\t정확도: 98.71%\n", + "37\t검증 세트 손실: 0.036447\t최선의 손실: 0.032652\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.040520\t최선의 손실: 0.032652\t정확도: 98.71%\n", + "39\t검증 세트 손실: 0.041179\t최선의 손실: 0.032652\t정확도: 98.75%\n", + "40\t검증 세트 손실: 0.041519\t최선의 손실: 0.032652\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.042941\t최선의 손실: 0.032652\t정확도: 98.91%\n", + "42\t검증 세트 손실: 0.051045\t최선의 손실: 0.032652\t정확도: 98.59%\n", + "43\t검증 세트 손실: 0.042939\t최선의 손실: 0.032652\t정확도: 98.75%\n", + "44\t검증 세트 손실: 0.038325\t최선의 손실: 0.032652\t정확도: 98.83%\n", + "45\t검증 세트 손실: 0.047415\t최선의 손실: 0.032652\t정확도: 98.63%\n", + "46\t검증 세트 손실: 0.036549\t최선의 손실: 0.032652\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.049607\t최선의 손실: 0.032652\t정확도: 98.63%\n", + "48\t검증 세트 손실: 0.042492\t최선의 손실: 0.032652\t정확도: 98.83%\n", + "49\t검증 세트 손실: 0.038622\t최선의 손실: 0.032652\t정확도: 98.94%\n", + "50\t검증 세트 손실: 0.037014\t최선의 손실: 0.032652\t정확도: 98.87%\n", + "51\t검증 세트 손실: 0.037837\t최선의 손실: 0.032652\t정확도: 98.75%\n", + "52\t검증 세트 손실: 0.045780\t최선의 손실: 0.032652\t정확도: 98.75%\n", + "53\t검증 세트 손실: 0.036407\t최선의 손실: 0.032652\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90, total= 7.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90 \n", - "0\t검증 세트 손실: 0.125106\t최선의 손실: 0.125106\t정확도: 96.29%\n", - "1\t검증 세트 손실: 0.077279\t최선의 손실: 0.077279\t정확도: 97.65%\n", - "2\t검증 세트 손실: 0.058493\t최선의 손실: 0.058493\t정확도: 98.08%\n", - "3\t검증 세트 손실: 0.055457\t최선의 손실: 0.055457\t정확도: 98.16%\n", - "4\t검증 세트 손실: 0.073401\t최선의 손실: 0.055457\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.050215\t최선의 손실: 0.050215\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.053312\t최선의 손실: 0.050215\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.059130\t최선의 손실: 0.050215\t정확도: 98.36%\n", - "8\t검증 세트 손실: 0.049490\t최선의 손실: 0.049490\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.059782\t최선의 손실: 0.049490\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.071585\t최선의 손실: 0.049490\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.050226\t최선의 손실: 0.049490\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.058605\t최선의 손실: 0.049490\t정확도: 98.51%\n", - "13\t검증 세트 손실: 0.068625\t최선의 손실: 0.049490\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.084423\t최선의 손실: 0.049490\t정확도: 97.93%\n", - "15\t검증 세트 손실: 0.094974\t최선의 손실: 0.049490\t정확도: 98.01%\n", - "16\t검증 세트 손실: 0.056237\t최선의 손실: 0.049490\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.058291\t최선의 손실: 0.049490\t정확도: 98.51%\n", - "18\t검증 세트 손실: 0.061583\t최선의 손실: 0.049490\t정확도: 98.63%\n", - "19\t검증 세트 손실: 0.054132\t최선의 손실: 0.049490\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.074941\t최선의 손실: 0.049490\t정확도: 98.44%\n", - "21\t검증 세트 손실: 0.081716\t최선의 손실: 0.049490\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.058802\t최선의 손실: 0.049490\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.062441\t최선의 손실: 0.049490\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.057612\t최선의 손실: 0.049490\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.049616\t최선의 손실: 0.049490\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.058112\t최선의 손실: 0.049490\t정확도: 98.59%\n", - "27\t검증 세트 손실: 0.060132\t최선의 손실: 0.049490\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.077606\t최선의 손실: 0.049490\t정확도: 98.32%\n", - "29\t검증 세트 손실: 0.068543\t최선의 손실: 0.049490\t정확도: 98.71%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90, total= 7.3s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90 \n", - "0\t검증 세트 손실: 0.117131\t최선의 손실: 0.117131\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.078611\t최선의 손실: 0.078611\t정확도: 97.22%\n", - "2\t검증 세트 손실: 0.061023\t최선의 손실: 0.061023\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.059868\t최선의 손실: 0.059868\t정확도: 98.12%\n", - "4\t검증 세트 손실: 0.047879\t최선의 손실: 0.047879\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.057601\t최선의 손실: 0.047879\t정확도: 98.28%\n", - "6\t검증 세트 손실: 0.044868\t최선의 손실: 0.044868\t정확도: 98.67%\n", - "7\t검증 세트 손실: 0.047893\t최선의 손실: 0.044868\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.047836\t최선의 손실: 0.044868\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.060929\t최선의 손실: 0.044868\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.065200\t최선의 손실: 0.044868\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.052305\t최선의 손실: 0.044868\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.047940\t최선의 손실: 0.044868\t정확도: 98.83%\n", - "13\t검증 세트 손실: 0.050482\t최선의 손실: 0.044868\t정확도: 98.71%\n" + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 5.6min\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.100131\t최선의 손실: 0.100131\t정확도: 97.38%\n", + "1\t검증 세트 손실: 0.058818\t최선의 손실: 0.058818\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.074606\t최선의 손실: 0.058818\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.080190\t최선의 손실: 0.058818\t정확도: 97.34%\n", + "4\t검증 세트 손실: 0.056606\t최선의 손실: 0.056606\t정확도: 98.44%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "14\t검증 세트 손실: 0.065794\t최선의 손실: 0.044868\t정확도: 98.55%\n", - "15\t검증 세트 손실: 0.058689\t최선의 손실: 0.044868\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.060284\t최선의 손실: 0.044868\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.055110\t최선의 손실: 0.044868\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.056835\t최선의 손실: 0.044868\t정확도: 98.59%\n", - "19\t검증 세트 손실: 0.055508\t최선의 손실: 0.044868\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.085006\t최선의 손실: 0.044868\t정확도: 98.12%\n", - "21\t검증 세트 손실: 0.062964\t최선의 손실: 0.044868\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.056669\t최선의 손실: 0.044868\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.054541\t최선의 손실: 0.044868\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.071928\t최선의 손실: 0.044868\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.059803\t최선의 손실: 0.044868\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.058841\t최선의 손실: 0.044868\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.055096\t최선의 손실: 0.044868\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.073082\t최선의 손실: 0.056606\t정확도: 97.69%\n", + "6\t검증 세트 손실: 0.083123\t최선의 손실: 0.056606\t정확도: 97.38%\n", + "7\t검증 세트 손실: 0.041677\t최선의 손실: 0.041677\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.046600\t최선의 손실: 0.041677\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.040880\t최선의 손실: 0.040880\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.040307\t최선의 손실: 0.040307\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.060858\t최선의 손실: 0.040307\t정확도: 98.01%\n", + "12\t검증 세트 손실: 0.040616\t최선의 손실: 0.040307\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.033132\t최선의 손실: 0.033132\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.052517\t최선의 손실: 0.033132\t정확도: 98.51%\n", + "15\t검증 세트 손실: 0.032230\t최선의 손실: 0.032230\t정확도: 99.06%\n", + "16\t검증 세트 손실: 0.035850\t최선의 손실: 0.032230\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.041623\t최선의 손실: 0.032230\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.037278\t최선의 손실: 0.032230\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.034297\t최선의 손실: 0.032230\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.034902\t최선의 손실: 0.032230\t정확도: 99.14%\n", + "21\t검증 세트 손실: 0.026927\t최선의 손실: 0.026927\t정확도: 99.22%\n", + "22\t검증 세트 손실: 0.027719\t최선의 손실: 0.026927\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.036363\t최선의 손실: 0.026927\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.034072\t최선의 손실: 0.026927\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.035220\t최선의 손실: 0.026927\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.031400\t최선의 손실: 0.026927\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.026043\t최선의 손실: 0.026043\t정확도: 98.98%\n", + "28\t검증 세트 손실: 0.029773\t최선의 손실: 0.026043\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.039830\t최선의 손실: 0.026043\t정확도: 98.98%\n", + "30\t검증 세트 손실: 0.023783\t최선의 손실: 0.023783\t정확도: 99.22%\n", + "31\t검증 세트 손실: 0.031318\t최선의 손실: 0.023783\t정확도: 99.30%\n", + "32\t검증 세트 손실: 0.033307\t최선의 손실: 0.023783\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.030442\t최선의 손실: 0.023783\t정확도: 99.14%\n", + "34\t검증 세트 손실: 0.033769\t최선의 손실: 0.023783\t정확도: 98.98%\n", + "35\t검증 세트 손실: 0.032081\t최선의 손실: 0.023783\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.036240\t최선의 손실: 0.023783\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.039848\t최선의 손실: 0.023783\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.032940\t최선의 손실: 0.023783\t정확도: 99.10%\n", + "39\t검증 세트 손실: 0.038889\t최선의 손실: 0.023783\t정확도: 98.75%\n", + "40\t검증 세트 손실: 0.034330\t최선의 손실: 0.023783\t정확도: 99.26%\n", + "41\t검증 세트 손실: 0.035061\t최선의 손실: 0.023783\t정확도: 99.10%\n", + "42\t검증 세트 손실: 0.031322\t최선의 손실: 0.023783\t정확도: 99.18%\n", + "43\t검증 세트 손실: 0.040172\t최선의 손실: 0.023783\t정확도: 98.94%\n", + "44\t검증 세트 손실: 0.034491\t최선의 손실: 0.023783\t정확도: 98.83%\n", + "45\t검증 세트 손실: 0.034136\t최선의 손실: 0.023783\t정확도: 98.98%\n", + "46\t검증 세트 손실: 0.026603\t최선의 손실: 0.023783\t정확도: 99.30%\n", + "47\t검증 세트 손실: 0.033996\t최선의 손실: 0.023783\t정확도: 98.91%\n", + "48\t검증 세트 손실: 0.035208\t최선의 손실: 0.023783\t정확도: 98.79%\n", + "49\t검증 세트 손실: 0.041064\t최선의 손실: 0.023783\t정확도: 98.75%\n", + "50\t검증 세트 손실: 0.041879\t최선의 손실: 0.023783\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.033624\t최선의 손실: 0.023783\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=90, total= 6.6s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.063335\t최선의 손실: 0.063335\t정확도: 98.32%\n", - "1\t검증 세트 손실: 0.038618\t최선의 손실: 0.038618\t정확도: 98.79%\n", - "2\t검증 세트 손실: 0.049504\t최선의 손실: 0.038618\t정확도: 98.36%\n", - "3\t검증 세트 손실: 0.032138\t최선의 손실: 0.032138\t정확도: 98.94%\n", - "4\t검증 세트 손실: 0.049675\t최선의 손실: 0.032138\t정확도: 98.59%\n", - "5\t검증 세트 손실: 0.038140\t최선의 손실: 0.032138\t정확도: 98.71%\n", - "6\t검증 세트 손실: 0.041621\t최선의 손실: 0.032138\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.035683\t최선의 손실: 0.032138\t정확도: 98.98%\n", - "8\t검증 세트 손실: 0.035443\t최선의 손실: 0.032138\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.040408\t최선의 손실: 0.032138\t정확도: 99.10%\n", - "10\t검증 세트 손실: 0.035757\t최선의 손실: 0.032138\t정확도: 99.14%\n", - "11\t검증 세트 손실: 0.047156\t최선의 손실: 0.032138\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.050210\t최선의 손실: 0.032138\t정확도: 98.67%\n", - "13\t검증 세트 손실: 0.042609\t최선의 손실: 0.032138\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.052826\t최선의 손실: 0.032138\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.048722\t최선의 손실: 0.032138\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.053785\t최선의 손실: 0.032138\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.034717\t최선의 손실: 0.032138\t정확도: 99.10%\n", - "18\t검증 세트 손실: 0.042915\t최선의 손실: 0.032138\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.031272\t최선의 손실: 0.031272\t정확도: 99.14%\n", - "20\t검증 세트 손실: 0.049097\t최선의 손실: 0.031272\t정확도: 99.02%\n", - "21\t검증 세트 손실: 0.049258\t최선의 손실: 0.031272\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.032383\t최선의 손실: 0.031272\t정확도: 99.14%\n", - "23\t검증 세트 손실: 0.043546\t최선의 손실: 0.031272\t정확도: 99.22%\n", - "24\t검증 세트 손실: 0.041894\t최선의 손실: 0.031272\t정확도: 99.14%\n", - "25\t검증 세트 손실: 0.064502\t최선의 손실: 0.031272\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.053228\t최선의 손실: 0.031272\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.054926\t최선의 손실: 0.031272\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.052795\t최선의 손실: 0.031272\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.053428\t최선의 손실: 0.031272\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.060980\t최선의 손실: 0.031272\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.047749\t최선의 손실: 0.031272\t정확도: 98.91%\n", - "32\t검증 세트 손실: 0.061754\t최선의 손실: 0.031272\t정확도: 98.83%\n", - "33\t검증 세트 손실: 0.060219\t최선의 손실: 0.031272\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.046827\t최선의 손실: 0.031272\t정확도: 98.67%\n", - "35\t검증 세트 손실: 0.049114\t최선의 손실: 0.031272\t정확도: 99.02%\n", - "36\t검증 세트 손실: 0.059799\t최선의 손실: 0.031272\t정확도: 98.94%\n", - "37\t검증 세트 손실: 0.062679\t최선의 손실: 0.031272\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.065169\t최선의 손실: 0.031272\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.057588\t최선의 손실: 0.031272\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.054553\t최선의 손실: 0.031272\t정확도: 98.79%\n", + "[CV] n_neurons=50, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 5.4min\n", + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.328411\t최선의 손실: 0.328411\t정확도: 88.74%\n", + "1\t검증 세트 손실: 0.073621\t최선의 손실: 0.073621\t정확도: 97.89%\n", + "2\t검증 세트 손실: 0.069848\t최선의 손실: 0.069848\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.064653\t최선의 손실: 0.064653\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.052921\t최선의 손실: 0.052921\t정확도: 98.24%\n", + "5\t검증 세트 손실: 0.068440\t최선의 손실: 0.052921\t정확도: 98.51%\n", + "6\t검증 세트 손실: 0.063492\t최선의 손실: 0.052921\t정확도: 98.12%\n", + "7\t검증 세트 손실: 0.042137\t최선의 손실: 0.042137\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.041323\t최선의 손실: 0.041323\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.058559\t최선의 손실: 0.041323\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.086797\t최선의 손실: 0.041323\t정확도: 97.58%\n", + "11\t검증 세트 손실: 0.045018\t최선의 손실: 0.041323\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.054938\t최선의 손실: 0.041323\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.046875\t최선의 손실: 0.041323\t정확도: 98.87%\n", + "14\t검증 세트 손실: 0.059415\t최선의 손실: 0.041323\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.065540\t최선의 손실: 0.041323\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.061082\t최선의 손실: 0.041323\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.041376\t최선의 손실: 0.041323\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.051214\t최선의 손실: 0.041323\t정확도: 98.75%\n", + "19\t검증 세트 손실: 0.049888\t최선의 손실: 0.041323\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.047138\t최선의 손실: 0.041323\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.033709\t최선의 손실: 0.033709\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.046483\t최선의 손실: 0.033709\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.071716\t최선의 손실: 0.033709\t정확도: 98.75%\n", + "24\t검증 세트 손실: 0.072861\t최선의 손실: 0.033709\t정확도: 98.55%\n", + "25\t검증 세트 손실: 0.045611\t최선의 손실: 0.033709\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.045031\t최선의 손실: 0.033709\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.067159\t최선의 손실: 0.033709\t정확도: 98.51%\n", + "28\t검증 세트 손실: 0.096338\t최선의 손실: 0.033709\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.079497\t최선의 손실: 0.033709\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.077324\t최선의 손실: 0.033709\t정확도: 98.59%\n", + "31\t검증 세트 손실: 0.059261\t최선의 손실: 0.033709\t정확도: 98.63%\n", + "32\t검증 세트 손실: 0.068504\t최선의 손실: 0.033709\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.068527\t최선의 손실: 0.033709\t정확도: 98.63%\n", + "34\t검증 세트 손실: 0.038541\t최선의 손실: 0.033709\t정확도: 99.06%\n", + "35\t검증 세트 손실: 0.101320\t최선의 손실: 0.033709\t정확도: 98.32%\n", + "36\t검증 세트 손실: 0.047905\t최선의 손실: 0.033709\t정확도: 98.83%\n", + "37\t검증 세트 손실: 0.068745\t최선의 손실: 0.033709\t정확도: 98.79%\n", + "38\t검증 세트 손실: 0.068422\t최선의 손실: 0.033709\t정확도: 98.67%\n", + "39\t검증 세트 손실: 0.052273\t최선의 손실: 0.033709\t정확도: 98.59%\n", + "40\t검증 세트 손실: 0.074377\t최선의 손실: 0.033709\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.075525\t최선의 손실: 0.033709\t정확도: 98.48%\n", + "42\t검증 세트 손실: 0.082565\t최선의 손실: 0.033709\t정확도: 98.44%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 8.4s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.067267\t최선의 손실: 0.067267\t정확도: 98.36%\n", - "1\t검증 세트 손실: 0.047964\t최선의 손실: 0.047964\t정확도: 98.48%\n", - "2\t검증 세트 손실: 0.040943\t최선의 손실: 0.040943\t정확도: 98.79%\n", - "3\t검증 세트 손실: 0.041160\t최선의 손실: 0.040943\t정확도: 98.75%\n", - "4\t검증 세트 손실: 0.053311\t최선의 손실: 0.040943\t정확도: 98.83%\n", - "5\t검증 세트 손실: 0.083492\t최선의 손실: 0.040943\t정확도: 97.97%\n", - "6\t검증 세트 손실: 0.046856\t최선의 손실: 0.040943\t정확도: 98.71%\n", - "7\t검증 세트 손실: 0.053999\t최선의 손실: 0.040943\t정확도: 98.67%\n", - "8\t검증 세트 손실: 0.046343\t최선의 손실: 0.040943\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.044282\t최선의 손실: 0.040943\t정확도: 99.02%\n", - "10\t검증 세트 손실: 0.035600\t최선의 손실: 0.035600\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.040050\t최선의 손실: 0.035600\t정확도: 99.22%\n", - "12\t검증 세트 손실: 0.040235\t최선의 손실: 0.035600\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.041725\t최선의 손실: 0.035600\t정확도: 99.18%\n", - "14\t검증 세트 손실: 0.047580\t최선의 손실: 0.035600\t정확도: 99.10%\n", - "15\t검증 세트 손실: 0.072373\t최선의 손실: 0.035600\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.050393\t최선의 손실: 0.035600\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.049347\t최선의 손실: 0.035600\t정확도: 98.94%\n", - "18\t검증 세트 손실: 0.047268\t최선의 손실: 0.035600\t정확도: 98.91%\n", - "19\t검증 세트 손실: 0.048110\t최선의 손실: 0.035600\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.047093\t최선의 손실: 0.035600\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.048145\t최선의 손실: 0.035600\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.045099\t최선의 손실: 0.035600\t정확도: 99.02%\n", - "23\t검증 세트 손실: 0.045521\t최선의 손실: 0.035600\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.037144\t최선의 손실: 0.035600\t정확도: 99.06%\n", - "25\t검증 세트 손실: 0.039588\t최선의 손실: 0.035600\t정확도: 99.26%\n", - "26\t검증 세트 손실: 0.046607\t최선의 손실: 0.035600\t정확도: 99.06%\n", - "27\t검증 세트 손실: 0.045448\t최선의 손실: 0.035600\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.071973\t최선의 손실: 0.035600\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.048649\t최선의 손실: 0.035600\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.048138\t최선의 손실: 0.035600\t정확도: 99.14%\n", - "31\t검증 세트 손실: 0.048046\t최선의 손실: 0.035600\t정확도: 98.98%\n", + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 4.9min\n", + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.143051\t최선의 손실: 0.143051\t정확도: 95.54%\n", + "1\t검증 세트 손실: 0.101395\t최선의 손실: 0.101395\t정확도: 97.22%\n", + "2\t검증 세트 손실: 0.101492\t최선의 손실: 0.101395\t정확도: 97.03%\n", + "3\t검증 세트 손실: 0.062018\t최선의 손실: 0.062018\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.057613\t최선의 손실: 0.057613\t정확도: 98.55%\n", + "5\t검증 세트 손실: 0.090685\t최선의 손실: 0.057613\t정확도: 97.54%\n", + "6\t검증 세트 손실: 0.053597\t최선의 손실: 0.053597\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.058377\t최선의 손실: 0.053597\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.088247\t최선의 손실: 0.053597\t정확도: 97.81%\n", + "9\t검증 세트 손실: 0.060326\t최선의 손실: 0.053597\t정확도: 98.01%\n", + "10\t검증 세트 손실: 0.080261\t최선의 손실: 0.053597\t정확도: 97.89%\n", + "11\t검증 세트 손실: 0.046915\t최선의 손실: 0.046915\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.068591\t최선의 손실: 0.046915\t정확도: 98.01%\n", + "13\t검증 세트 손실: 0.043798\t최선의 손실: 0.043798\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.049908\t최선의 손실: 0.043798\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.040887\t최선의 손실: 0.040887\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.092800\t최선의 손실: 0.040887\t정확도: 97.81%\n", + "17\t검증 세트 손실: 0.093366\t최선의 손실: 0.040887\t정확도: 98.05%\n", + "18\t검증 세트 손실: 0.052797\t최선의 손실: 0.040887\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.040162\t최선의 손실: 0.040162\t정확도: 98.67%\n", + "20\t검증 세트 손실: 0.057949\t최선의 손실: 0.040162\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.061990\t최선의 손실: 0.040162\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.052598\t최선의 손실: 0.040162\t정확도: 98.63%\n", + "23\t검증 세트 손실: 0.056488\t최선의 손실: 0.040162\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.064680\t최선의 손실: 0.040162\t정확도: 98.12%\n", + "25\t검증 세트 손실: 0.034262\t최선의 손실: 0.034262\t정확도: 99.02%\n", + "26\t검증 세트 손실: 0.058947\t최선의 손실: 0.034262\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.027014\t최선의 손실: 0.027014\t정확도: 99.06%\n", + "28\t검증 세트 손실: 0.043776\t최선의 손실: 0.027014\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.045780\t최선의 손실: 0.027014\t정확도: 98.87%\n", + "30\t검증 세트 손실: 0.093059\t최선의 손실: 0.027014\t정확도: 97.69%\n", + "31\t검증 세트 손실: 0.042672\t최선의 손실: 0.027014\t정확도: 98.91%\n", + "32\t검증 세트 손실: 0.057859\t최선의 손실: 0.027014\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.059860\t최선의 손실: 0.027014\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.061315\t최선의 손실: 0.027014\t정확도: 98.44%\n", + "35\t검증 세트 손실: 0.050557\t최선의 손실: 0.027014\t정확도: 98.83%\n", + "36\t검증 세트 손실: 0.058030\t최선의 손실: 0.027014\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.096350\t최선의 손실: 0.027014\t정확도: 98.55%\n", + "38\t검증 세트 손실: 0.048274\t최선의 손실: 0.027014\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.094796\t최선의 손실: 0.027014\t정확도: 98.16%\n", + "40\t검증 세트 손실: 0.055629\t최선의 손실: 0.027014\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.069176\t최선의 손실: 0.027014\t정확도: 98.67%\n", + "42\t검증 세트 손실: 0.127209\t최선의 손실: 0.027014\t정확도: 97.93%\n", + "43\t검증 세트 손실: 0.059611\t최선의 손실: 0.027014\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.048914\t최선의 손실: 0.027014\t정확도: 98.75%\n", + "45\t검증 세트 손실: 0.063027\t최선의 손실: 0.027014\t정확도: 98.75%\n", + "46\t검증 세트 손실: 0.093996\t최선의 손실: 0.027014\t정확도: 98.55%\n", + "47\t검증 세트 손실: 0.058513\t최선의 손실: 0.027014\t정확도: 98.75%\n", + "48\t검증 세트 손실: 0.080514\t최선의 손실: 0.027014\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 6.8s\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.054568\t최선의 손실: 0.054568\t정확도: 98.36%\n", - "1\t검증 세트 손실: 0.041864\t최선의 손실: 0.041864\t정확도: 98.55%\n", - "2\t검증 세트 손실: 0.043607\t최선의 손실: 0.041864\t정확도: 98.63%\n", - "3\t검증 세트 손실: 0.038952\t최선의 손실: 0.038952\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.044816\t최선의 손실: 0.038952\t정확도: 98.83%\n", - "5\t검증 세트 손실: 0.056749\t최선의 손실: 0.038952\t정확도: 98.36%\n", - "6\t검증 세트 손실: 0.033830\t최선의 손실: 0.033830\t정확도: 99.10%\n", - "7\t검증 세트 손실: 0.045286\t최선의 손실: 0.033830\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.054171\t최선의 손실: 0.033830\t정확도: 98.51%\n", - "9\t검증 세트 손실: 0.032349\t최선의 손실: 0.032349\t정확도: 99.10%\n", - "10\t검증 세트 손실: 0.039896\t최선의 손실: 0.032349\t정확도: 99.02%\n", - "11\t검증 세트 손실: 0.038936\t최선의 손실: 0.032349\t정확도: 99.06%\n", - "12\t검증 세트 손실: 0.056325\t최선의 손실: 0.032349\t정확도: 98.94%\n", - "13\t검증 세트 손실: 0.046094\t최선의 손실: 0.032349\t정확도: 98.91%\n", - "14\t검증 세트 손실: 0.050346\t최선의 손실: 0.032349\t정확도: 98.98%\n", - "15\t검증 세트 손실: 0.045519\t최선의 손실: 0.032349\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.039615\t최선의 손실: 0.032349\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.054653\t최선의 손실: 0.032349\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.043707\t최선의 손실: 0.032349\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.041024\t최선의 손실: 0.032349\t정확도: 98.83%\n", - "20\t검증 세트 손실: 0.043258\t최선의 손실: 0.032349\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.046458\t최선의 손실: 0.032349\t정확도: 99.10%\n", - "22\t검증 세트 손실: 0.059106\t최선의 손실: 0.032349\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.044273\t최선의 손실: 0.032349\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.061021\t최선의 손실: 0.032349\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.048934\t최선의 손실: 0.032349\t정확도: 99.18%\n", - "26\t검증 세트 손실: 0.053888\t최선의 손실: 0.032349\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.032923\t최선의 손실: 0.032349\t정확도: 99.37%\n", - "28\t검증 세트 손실: 0.046090\t최선의 손실: 0.032349\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.045241\t최선의 손실: 0.032349\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.038401\t최선의 손실: 0.032349\t정확도: 99.18%\n", - "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.02, batch_norm_momentum=0.9, n_neurons=140, total= 6.7s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.066357\t최선의 손실: 0.066357\t정확도: 98.36%\n", - "1\t검증 세트 손실: 0.050730\t최선의 손실: 0.050730\t정확도: 98.51%\n", - "2\t검증 세트 손실: 0.041090\t최선의 손실: 0.041090\t정확도: 98.94%\n", - "3\t검증 세트 손실: 0.050092\t최선의 손실: 0.041090\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.032200\t최선의 손실: 0.032200\t정확도: 99.06%\n", - "5\t검증 세트 손실: 0.062294\t최선의 손실: 0.032200\t정확도: 98.51%\n", - "6\t검증 세트 손실: 0.047585\t최선의 손실: 0.032200\t정확도: 98.91%\n", - "7\t검증 세트 손실: 0.041306\t최선의 손실: 0.032200\t정확도: 99.02%\n", - "8\t검증 세트 손실: 0.035877\t최선의 손실: 0.032200\t정확도: 99.06%\n", - "9\t검증 세트 손실: 0.046501\t최선의 손실: 0.032200\t정확도: 98.79%\n", - "10\t검증 세트 손실: 0.045153\t최선의 손실: 0.032200\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.077506\t최선의 손실: 0.032200\t정확도: 98.36%\n", - "12\t검증 세트 손실: 0.040705\t최선의 손실: 0.032200\t정확도: 99.10%\n", - "13\t검증 세트 손실: 0.043831\t최선의 손실: 0.032200\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.053311\t최선의 손실: 0.032200\t정확도: 98.91%\n", - "15\t검증 세트 손실: 0.058056\t최선의 손실: 0.032200\t정확도: 99.10%\n", - "16\t검증 세트 손실: 0.051227\t최선의 손실: 0.032200\t정확도: 98.94%\n", - "17\t검증 세트 손실: 0.066968\t최선의 손실: 0.032200\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.066215\t최선의 손실: 0.032200\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.051190\t최선의 손실: 0.032200\t정확도: 98.94%\n", - "20\t검증 세트 손실: 0.056974\t최선의 손실: 0.032200\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.052588\t최선의 손실: 0.032200\t정확도: 98.83%\n" + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 5.5min\n", + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.100379\t최선의 손실: 0.100379\t정확도: 96.99%\n", + "1\t검증 세트 손실: 0.063571\t최선의 손실: 0.063571\t정확도: 98.12%\n", + "2\t검증 세트 손실: 0.093007\t최선의 손실: 0.063571\t정확도: 97.15%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "22\t검증 세트 손실: 0.048454\t최선의 손실: 0.032200\t정확도: 98.98%\n", - "23\t검증 세트 손실: 0.044931\t최선의 손실: 0.032200\t정확도: 99.06%\n", - "24\t검증 세트 손실: 0.057418\t최선의 손실: 0.032200\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.050679\t최선의 손실: 0.032200\t정확도: 99.06%\n", + "3\t검증 세트 손실: 0.063251\t최선의 손실: 0.063251\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.107213\t최선의 손실: 0.063251\t정확도: 96.68%\n", + "5\t검증 세트 손실: 0.086360\t최선의 손실: 0.063251\t정확도: 97.07%\n", + "6\t검증 세트 손실: 0.091452\t최선의 손실: 0.063251\t정확도: 97.65%\n", + "7\t검증 세트 손실: 0.081460\t최선의 손실: 0.063251\t정확도: 97.69%\n", + "8\t검증 세트 손실: 0.109914\t최선의 손실: 0.063251\t정확도: 97.30%\n", + "9\t검증 세트 손실: 0.067611\t최선의 손실: 0.063251\t정확도: 97.65%\n", + "10\t검증 세트 손실: 0.048732\t최선의 손실: 0.048732\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.052366\t최선의 손실: 0.048732\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.115009\t최선의 손실: 0.048732\t정확도: 97.22%\n", + "13\t검증 세트 손실: 0.051103\t최선의 손실: 0.048732\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.047300\t최선의 손실: 0.047300\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.047444\t최선의 손실: 0.047300\t정확도: 98.59%\n", + "16\t검증 세트 손실: 0.080735\t최선의 손실: 0.047300\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.042238\t최선의 손실: 0.042238\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.057427\t최선의 손실: 0.042238\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.035819\t최선의 손실: 0.035819\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.074460\t최선의 손실: 0.035819\t정확도: 98.12%\n", + "21\t검증 세트 손실: 0.054371\t최선의 손실: 0.035819\t정확도: 98.67%\n", + "22\t검증 세트 손실: 0.032609\t최선의 손실: 0.032609\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.038504\t최선의 손실: 0.032609\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.071052\t최선의 손실: 0.032609\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.048096\t최선의 손실: 0.032609\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.045762\t최선의 손실: 0.032609\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.051009\t최선의 손실: 0.032609\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.044181\t최선의 손실: 0.032609\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.051739\t최선의 손실: 0.032609\t정확도: 98.63%\n", + "30\t검증 세트 손실: 0.096728\t최선의 손실: 0.032609\t정확도: 97.50%\n", + "31\t검증 세트 손실: 0.052518\t최선의 손실: 0.032609\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.065801\t최선의 손실: 0.032609\t정확도: 98.36%\n", + "33\t검증 세트 손실: 0.042761\t최선의 손실: 0.032609\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.041430\t최선의 손실: 0.032609\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.055333\t최선의 손실: 0.032609\t정확도: 98.91%\n", + "36\t검증 세트 손실: 0.054250\t최선의 손실: 0.032609\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.052620\t최선의 손실: 0.032609\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.089347\t최선의 손실: 0.032609\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.060002\t최선의 손실: 0.032609\t정확도: 98.32%\n", + "40\t검증 세트 손실: 0.046283\t최선의 손실: 0.032609\t정확도: 98.87%\n", + "41\t검증 세트 손실: 0.051663\t최선의 손실: 0.032609\t정확도: 98.87%\n", + "42\t검증 세트 손실: 0.067638\t최선의 손실: 0.032609\t정확도: 98.40%\n", + "43\t검증 세트 손실: 0.100942\t최선의 손실: 0.032609\t정확도: 97.69%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140, total= 6.2s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.056921\t최선의 손실: 0.056921\t정확도: 98.08%\n", - "1\t검증 세트 손실: 0.046394\t최선의 손실: 0.046394\t정확도: 98.55%\n", - "2\t검증 세트 손실: 0.044573\t최선의 손실: 0.044573\t정확도: 98.59%\n", - "3\t검증 세트 손실: 0.050558\t최선의 손실: 0.044573\t정확도: 98.55%\n", - "4\t검증 세트 손실: 0.046283\t최선의 손실: 0.044573\t정확도: 98.67%\n", - "5\t검증 세트 손실: 0.049044\t최선의 손실: 0.044573\t정확도: 98.67%\n", - "6\t검증 세트 손실: 0.037831\t최선의 손실: 0.037831\t정확도: 98.94%\n", - "7\t검증 세트 손실: 0.055440\t최선의 손실: 0.037831\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.060828\t최선의 손실: 0.037831\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.059158\t최선의 손실: 0.037831\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.040160\t최선의 손실: 0.037831\t정확도: 98.83%\n", - "11\t검증 세트 손실: 0.055848\t최선의 손실: 0.037831\t정확도: 98.94%\n", - "12\t검증 세트 손실: 0.041807\t최선의 손실: 0.037831\t정확도: 99.02%\n", - "13\t검증 세트 손실: 0.036333\t최선의 손실: 0.036333\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.042120\t최선의 손실: 0.036333\t정확도: 99.22%\n", - "15\t검증 세트 손실: 0.040308\t최선의 손실: 0.036333\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.037431\t최선의 손실: 0.036333\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.050488\t최선의 손실: 0.036333\t정확도: 98.94%\n", - "18\t검증 세트 손실: 0.048771\t최선의 손실: 0.036333\t정확도: 98.67%\n", - "19\t검증 세트 손실: 0.042726\t최선의 손실: 0.036333\t정확도: 99.06%\n", - "20\t검증 세트 손실: 0.044913\t최선의 손실: 0.036333\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.043223\t최선의 손실: 0.036333\t정확도: 99.26%\n", - "22\t검증 세트 손실: 0.048663\t최선의 손실: 0.036333\t정확도: 99.14%\n", - "23\t검증 세트 손실: 0.049508\t최선의 손실: 0.036333\t정확도: 99.14%\n", - "24\t검증 세트 손실: 0.053865\t최선의 손실: 0.036333\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.050363\t최선의 손실: 0.036333\t정확도: 98.94%\n", - "26\t검증 세트 손실: 0.076581\t최선의 손실: 0.036333\t정확도: 98.63%\n", - "27\t검증 세트 손실: 0.086406\t최선의 손실: 0.036333\t정확도: 98.32%\n", - "28\t검증 세트 손실: 0.063638\t최선의 손실: 0.036333\t정확도: 98.83%\n", - "29\t검증 세트 손실: 0.059319\t최선의 손실: 0.036333\t정확도: 98.59%\n", - "30\t검증 세트 손실: 0.052663\t최선의 손실: 0.036333\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.052377\t최선의 손실: 0.036333\t정확도: 99.02%\n", - "32\t검증 세트 손실: 0.055749\t최선의 손실: 0.036333\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.048183\t최선의 손실: 0.036333\t정확도: 98.83%\n", - "34\t검증 세트 손실: 0.048848\t최선의 손실: 0.036333\t정확도: 99.06%\n", + "[CV] n_neurons=120, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 5.0min\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.122835\t최선의 손실: 0.122835\t정확도: 97.30%\n", + "1\t검증 세트 손실: 0.060050\t최선의 손실: 0.060050\t정확도: 98.48%\n", + "2\t검증 세트 손실: 0.064824\t최선의 손실: 0.060050\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.053393\t최선의 손실: 0.053393\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.053365\t최선의 손실: 0.053365\t정확도: 98.59%\n", + "5\t검증 세트 손실: 0.031807\t최선의 손실: 0.031807\t정확도: 99.18%\n", + "6\t검증 세트 손실: 0.038561\t최선의 손실: 0.031807\t정확도: 98.91%\n", + "7\t검증 세트 손실: 0.043076\t최선의 손실: 0.031807\t정확도: 98.98%\n", + "8\t검증 세트 손실: 0.034642\t최선의 손실: 0.031807\t정확도: 99.10%\n", + "9\t검증 세트 손실: 0.051310\t최선의 손실: 0.031807\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.035245\t최선의 손실: 0.031807\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.040469\t최선의 손실: 0.031807\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.041197\t최선의 손실: 0.031807\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.040786\t최선의 손실: 0.031807\t정확도: 98.94%\n", + "14\t검증 세트 손실: 0.049410\t최선의 손실: 0.031807\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.043254\t최선의 손실: 0.031807\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.058427\t최선의 손실: 0.031807\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.036463\t최선의 손실: 0.031807\t정확도: 99.10%\n", + "18\t검증 세트 손실: 0.052921\t최선의 손실: 0.031807\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.048468\t최선의 손실: 0.031807\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.035646\t최선의 손실: 0.031807\t정확도: 99.30%\n", + "21\t검증 세트 손실: 0.043756\t최선의 손실: 0.031807\t정확도: 99.18%\n", + "22\t검증 세트 손실: 0.048545\t최선의 손실: 0.031807\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.054367\t최선의 손실: 0.031807\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.049241\t최선의 손실: 0.031807\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.041647\t최선의 손실: 0.031807\t정확도: 99.10%\n", + "26\t검증 세트 손실: 0.043750\t최선의 손실: 0.031807\t정확도: 99.10%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140, total= 7.8s\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140 \n", - "0\t검증 세트 손실: 0.054452\t최선의 손실: 0.054452\t정확도: 98.36%\n", - "1\t검증 세트 손실: 0.048056\t최선의 손실: 0.048056\t정확도: 98.48%\n", - "2\t검증 세트 손실: 0.045235\t최선의 손실: 0.045235\t정확도: 98.87%\n", - "3\t검증 세트 손실: 0.042560\t최선의 손실: 0.042560\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.039681\t최선의 손실: 0.039681\t정확도: 98.79%\n", - "5\t검증 세트 손실: 0.048611\t최선의 손실: 0.039681\t정확도: 98.67%\n", - "6\t검증 세트 손실: 0.040204\t최선의 손실: 0.039681\t정확도: 98.79%\n", - "7\t검증 세트 손실: 0.041293\t최선의 손실: 0.039681\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.061015\t최선의 손실: 0.039681\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.044629\t최선의 손실: 0.039681\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.054142\t최선의 손실: 0.039681\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.040387\t최선의 손실: 0.039681\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.052586\t최선의 손실: 0.039681\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.054709\t최선의 손실: 0.039681\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.058777\t최선의 손실: 0.039681\t정확도: 98.51%\n", - "15\t검증 세트 손실: 0.040559\t최선의 손실: 0.039681\t정확도: 98.94%\n", - "16\t검증 세트 손실: 0.049943\t최선의 손실: 0.039681\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.046184\t최선의 손실: 0.039681\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.041955\t최선의 손실: 0.039681\t정확도: 99.02%\n", - "19\t검증 세트 손실: 0.044302\t최선의 손실: 0.039681\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.032009\t최선의 손실: 0.032009\t정확도: 99.06%\n", - "21\t검증 세트 손실: 0.044219\t최선의 손실: 0.032009\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.035678\t최선의 손실: 0.032009\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.037836\t최선의 손실: 0.032009\t정확도: 99.10%\n", - "24\t검증 세트 손실: 0.043236\t최선의 손실: 0.032009\t정확도: 99.10%\n", - "25\t검증 세트 손실: 0.040817\t최선의 손실: 0.032009\t정확도: 99.22%\n", - "26\t검증 세트 손실: 0.037308\t최선의 손실: 0.032009\t정확도: 99.18%\n", - "27\t검증 세트 손실: 0.039765\t최선의 손실: 0.032009\t정확도: 99.18%\n", - "28\t검증 세트 손실: 0.050416\t최선의 손실: 0.032009\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.063658\t최선의 손실: 0.032009\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.052800\t최선의 손실: 0.032009\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.043767\t최선의 손실: 0.032009\t정확도: 99.14%\n", - "32\t검증 세트 손실: 0.052215\t최선의 손실: 0.032009\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.055052\t최선의 손실: 0.032009\t정확도: 98.94%\n", - "34\t검증 세트 손실: 0.053464\t최선의 손실: 0.032009\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.049468\t최선의 손실: 0.032009\t정확도: 98.67%\n", - "36\t검증 세트 손실: 0.031984\t최선의 손실: 0.031984\t정확도: 99.18%\n", - "37\t검증 세트 손실: 0.029672\t최선의 손실: 0.029672\t정확도: 99.18%\n", - "38\t검증 세트 손실: 0.055158\t최선의 손실: 0.029672\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.046245\t최선의 손실: 0.029672\t정확도: 98.83%\n", - "40\t검증 세트 손실: 0.054413\t최선의 손실: 0.029672\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.044089\t최선의 손실: 0.029672\t정확도: 99.02%\n", - "42\t검증 세트 손실: 0.040131\t최선의 손실: 0.029672\t정확도: 99.02%\n", - "43\t검증 세트 손실: 0.040692\t최선의 손실: 0.029672\t정확도: 99.06%\n", - "44\t검증 세트 손실: 0.041724\t최선의 손실: 0.029672\t정확도: 98.94%\n", - "45\t검증 세트 손실: 0.067827\t최선의 손실: 0.029672\t정확도: 98.36%\n", - "46\t검증 세트 손실: 0.036614\t최선의 손실: 0.029672\t정확도: 98.94%\n", - "47\t검증 세트 손실: 0.046851\t최선의 손실: 0.029672\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.047860\t최선의 손실: 0.029672\t정확도: 98.91%\n", - "49\t검증 세트 손실: 0.049455\t최선의 손실: 0.029672\t정확도: 98.94%\n", - "50\t검증 세트 손실: 0.050313\t최선의 손실: 0.029672\t정확도: 98.98%\n", - "51\t검증 세트 손실: 0.048054\t최선의 손실: 0.029672\t정확도: 99.10%\n", - "52\t검증 세트 손실: 0.050048\t최선의 손실: 0.029672\t정확도: 99.06%\n", - "53\t검증 세트 손실: 0.047867\t최선의 손실: 0.029672\t정확도: 99.18%\n", - "54\t검증 세트 손실: 0.046316\t최선의 손실: 0.029672\t정확도: 99.14%\n", - "55\t검증 세트 손실: 0.046693\t최선의 손실: 0.029672\t정확도: 99.14%\n", - "56\t검증 세트 손실: 0.047013\t최선의 손실: 0.029672\t정확도: 99.10%\n", - "57\t검증 세트 손실: 0.047155\t최선의 손실: 0.029672\t정확도: 99.06%\n", - "58\t검증 세트 손실: 0.049513\t최선의 손실: 0.029672\t정확도: 99.06%\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 40.3s\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.117047\t최선의 손실: 0.117047\t정확도: 97.46%\n", + "1\t검증 세트 손실: 0.060103\t최선의 손실: 0.060103\t정확도: 98.51%\n", + "2\t검증 세트 손실: 0.085131\t최선의 손실: 0.060103\t정확도: 97.62%\n", + "3\t검증 세트 손실: 0.054735\t최선의 손실: 0.054735\t정확도: 98.51%\n", + "4\t검증 세트 손실: 0.079704\t최선의 손실: 0.054735\t정확도: 98.12%\n", + "5\t검증 세트 손실: 0.057793\t최선의 손실: 0.054735\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.039698\t최선의 손실: 0.039698\t정확도: 98.87%\n", + "7\t검증 세트 손실: 0.045282\t최선의 손실: 0.039698\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.046015\t최선의 손실: 0.039698\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.052091\t최선의 손실: 0.039698\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.061670\t최선의 손실: 0.039698\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.047252\t최선의 손실: 0.039698\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.053795\t최선의 손실: 0.039698\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.035286\t최선의 손실: 0.035286\t정확도: 98.94%\n", + "14\t검증 세트 손실: 0.051326\t최선의 손실: 0.035286\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.040300\t최선의 손실: 0.035286\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.050711\t최선의 손실: 0.035286\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.036316\t최선의 손실: 0.035286\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.038142\t최선의 손실: 0.035286\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.045653\t최선의 손실: 0.035286\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.055214\t최선의 손실: 0.035286\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.045555\t최선의 손실: 0.035286\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.042597\t최선의 손실: 0.035286\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.047878\t최선의 손실: 0.035286\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.040552\t최선의 손실: 0.035286\t정확도: 99.18%\n", + "25\t검증 세트 손실: 0.042047\t최선의 손실: 0.035286\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.035928\t최선의 손실: 0.035286\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.044103\t최선의 손실: 0.035286\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.055894\t최선의 손실: 0.035286\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.045656\t최선의 손실: 0.035286\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.036951\t최선의 손실: 0.035286\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.043178\t최선의 손실: 0.035286\t정확도: 99.10%\n", + "32\t검증 세트 손실: 0.035221\t최선의 손실: 0.035221\t정확도: 99.34%\n", + "33\t검증 세트 손실: 0.036695\t최선의 손실: 0.035221\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.048066\t최선의 손실: 0.035221\t정확도: 98.98%\n", + "35\t검증 세트 손실: 0.058676\t최선의 손실: 0.035221\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.038984\t최선의 손실: 0.035221\t정확도: 99.10%\n", + "37\t검증 세트 손실: 0.038728\t최선의 손실: 0.035221\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.047563\t최선의 손실: 0.035221\t정확도: 99.18%\n", + "39\t검증 세트 손실: 0.048217\t최선의 손실: 0.035221\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.034098\t최선의 손실: 0.034098\t정확도: 99.22%\n", + "41\t검증 세트 손실: 0.049754\t최선의 손실: 0.034098\t정확도: 98.75%\n", + "42\t검증 세트 손실: 0.044460\t최선의 손실: 0.034098\t정확도: 99.06%\n", + "43\t검증 세트 손실: 0.044447\t최선의 손실: 0.034098\t정확도: 99.06%\n", + "44\t검증 세트 손실: 0.053446\t최선의 손실: 0.034098\t정확도: 99.10%\n", + "45\t검증 세트 손실: 0.039944\t최선의 손실: 0.034098\t정확도: 99.26%\n", + "46\t검증 세트 손실: 0.051775\t최선의 손실: 0.034098\t정확도: 99.06%\n", + "47\t검증 세트 손실: 0.050924\t최선의 손실: 0.034098\t정확도: 99.14%\n", + "48\t검증 세트 손실: 0.039521\t최선의 손실: 0.034098\t정확도: 99.26%\n", + "49\t검증 세트 손실: 0.049294\t최선의 손실: 0.034098\t정확도: 99.14%\n", + "50\t검증 세트 손실: 0.041534\t최선의 손실: 0.034098\t정확도: 99.34%\n", + "51\t검증 세트 손실: 0.042380\t최선의 손실: 0.034098\t정확도: 99.41%\n", + "52\t검증 세트 손실: 0.059010\t최선의 손실: 0.034098\t정확도: 99.06%\n", + "53\t검증 세트 손실: 0.037247\t최선의 손실: 0.034098\t정확도: 99.34%\n", + "54\t검증 세트 손실: 0.034674\t최선의 손실: 0.034098\t정확도: 99.18%\n", + "55\t검증 세트 손실: 0.034852\t최선의 손실: 0.034098\t정확도: 99.22%\n", + "56\t검증 세트 손실: 0.053589\t최선의 손실: 0.034098\t정확도: 98.98%\n", + "57\t검증 세트 손실: 0.056484\t최선의 손실: 0.034098\t정확도: 99.22%\n", + "58\t검증 세트 손실: 0.037283\t최선의 손실: 0.034098\t정확도: 99.06%\n", + "59\t검증 세트 손실: 0.042164\t최선의 손실: 0.034098\t정확도: 99.30%\n", + "60\t검증 세트 손실: 0.044683\t최선의 손실: 0.034098\t정확도: 99.37%\n", + "61\t검증 세트 손실: 0.051594\t최선의 손실: 0.034098\t정확도: 99.06%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.9, n_neurons=140, total= 12.1s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160 \n", - "0\t검증 세트 손실: 12.404781\t최선의 손실: 12.404781\t정확도: 81.55%\n", - "1\t검증 세트 손실: 1.165093\t최선의 손실: 1.165093\t정확도: 90.54%\n", - "2\t검증 세트 손실: 0.886011\t최선의 손실: 0.886011\t정확도: 95.04%\n", - "3\t검증 세트 손실: 0.188608\t최선의 손실: 0.188608\t정확도: 96.64%\n", - "4\t검증 세트 손실: 0.334942\t최선의 손실: 0.188608\t정확도: 96.87%\n", - "5\t검증 세트 손실: 0.447536\t최선의 손실: 0.188608\t정확도: 94.84%\n", - "6\t검증 세트 손실: 0.551342\t최선의 손실: 0.188608\t정확도: 93.43%\n", - "7\t검증 세트 손실: 0.275792\t최선의 손실: 0.188608\t정확도: 94.61%\n", - "8\t검증 세트 손실: 0.859471\t최선의 손실: 0.188608\t정확도: 95.62%\n", - "9\t검증 세트 손실: 0.366413\t최선의 손실: 0.188608\t정확도: 94.96%\n", - "10\t검증 세트 손실: 0.358832\t최선의 손실: 0.188608\t정확도: 96.44%\n", - "11\t검증 세트 손실: 0.291471\t최선의 손실: 0.188608\t정확도: 96.83%\n", - "12\t검증 세트 손실: 0.212431\t최선의 손실: 0.188608\t정확도: 97.34%\n", - "13\t검증 세트 손실: 0.283574\t최선의 손실: 0.188608\t정확도: 97.77%\n", - "14\t검증 세트 손실: 0.186273\t최선의 손실: 0.186273\t정확도: 98.12%\n", - "15\t검증 세트 손실: 0.204032\t최선의 손실: 0.186273\t정확도: 97.89%\n", - "16\t검증 세트 손실: 0.306143\t최선의 손실: 0.186273\t정확도: 97.30%\n", - "17\t검증 세트 손실: 0.183629\t최선의 손실: 0.183629\t정확도: 98.36%\n", - "18\t검증 세트 손실: 0.272847\t최선의 손실: 0.183629\t정확도: 97.85%\n", - "19\t검증 세트 손실: 0.213216\t최선의 손실: 0.183629\t정확도: 98.08%\n", - "20\t검증 세트 손실: 0.312479\t최선의 손실: 0.183629\t정확도: 97.65%\n", - "21\t검증 세트 손실: 0.316772\t최선의 손실: 0.183629\t정확도: 97.26%\n", - "22\t검증 세트 손실: 0.411407\t최선의 손실: 0.183629\t정확도: 97.46%\n", - "23\t검증 세트 손실: 0.142618\t최선의 손실: 0.142618\t정확도: 98.44%\n", - "24\t검증 세트 손실: 0.140662\t최선의 손실: 0.140662\t정확도: 98.83%\n", - "25\t검증 세트 손실: 0.380379\t최선의 손실: 0.140662\t정확도: 97.89%\n", - "26\t검증 세트 손실: 0.112672\t최선의 손실: 0.112672\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.226894\t최선의 손실: 0.112672\t정확도: 98.71%\n", - "28\t검증 세트 손실: 0.309039\t최선의 손실: 0.112672\t정확도: 98.24%\n", - "29\t검증 세트 손실: 0.248673\t최선의 손실: 0.112672\t정확도: 98.24%\n", - "30\t검증 세트 손실: 0.175645\t최선의 손실: 0.112672\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.419740\t최선의 손실: 0.112672\t정확도: 98.36%\n", - "32\t검증 세트 손실: 0.214152\t최선의 손실: 0.112672\t정확도: 98.59%\n", - "33\t검증 세트 손실: 0.243632\t최선의 손실: 0.112672\t정확도: 98.40%\n", - "34\t검증 세트 손실: 0.303171\t최선의 손실: 0.112672\t정확도: 98.28%\n", - "35\t검증 세트 손실: 0.320183\t최선의 손실: 0.112672\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.285973\t최선의 손실: 0.112672\t정확도: 98.59%\n", - "37\t검증 세트 손실: 0.266382\t최선의 손실: 0.112672\t정확도: 98.59%\n", - "38\t검증 세트 손실: 0.271029\t최선의 손실: 0.112672\t정확도: 98.44%\n", - "39\t검증 세트 손실: 0.165325\t최선의 손실: 0.112672\t정확도: 98.91%\n", - "40\t검증 세트 손실: 0.280748\t최선의 손실: 0.112672\t정확도: 98.55%\n", - "41\t검증 세트 손실: 0.538206\t최선의 손실: 0.112672\t정확도: 96.91%\n", - "42\t검증 세트 손실: 0.405633\t최선의 손실: 0.112672\t정확도: 98.16%\n" + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 1.5min\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.084484\t최선의 손실: 0.084484\t정확도: 98.01%\n", + "1\t검증 세트 손실: 0.057475\t최선의 손실: 0.057475\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.054329\t최선의 손실: 0.054329\t정확도: 98.28%\n", + "3\t검증 세트 손실: 0.044163\t최선의 손실: 0.044163\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.040165\t최선의 손실: 0.040165\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.041029\t최선의 손실: 0.040165\t정확도: 99.06%\n", + "6\t검증 세트 손실: 0.040343\t최선의 손실: 0.040165\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.071403\t최선의 손실: 0.040165\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.067538\t최선의 손실: 0.040165\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.046579\t최선의 손실: 0.040165\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.047537\t최선의 손실: 0.040165\t정확도: 98.63%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "43\t검증 세트 손실: 0.441366\t최선의 손실: 0.112672\t정확도: 98.44%\n", - "44\t검증 세트 손실: 0.353795\t최선의 손실: 0.112672\t정확도: 98.44%\n", - "45\t검증 세트 손실: 0.425371\t최선의 손실: 0.112672\t정확도: 98.59%\n", - "46\t검증 세트 손실: 0.418789\t최선의 손실: 0.112672\t정확도: 98.28%\n", - "47\t검증 세트 손실: 0.643492\t최선의 손실: 0.112672\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.043873\t최선의 손실: 0.040165\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.042601\t최선의 손실: 0.040165\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.039731\t최선의 손실: 0.039731\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.040009\t최선의 손실: 0.039731\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.034969\t최선의 손실: 0.034969\t정확도: 99.18%\n", + "16\t검증 세트 손실: 0.029781\t최선의 손실: 0.029781\t정확도: 99.10%\n", + "17\t검증 세트 손실: 0.051950\t최선의 손실: 0.029781\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.042619\t최선의 손실: 0.029781\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.038592\t최선의 손실: 0.029781\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.030513\t최선의 손실: 0.029781\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.037588\t최선의 손실: 0.029781\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.046527\t최선의 손실: 0.029781\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.031647\t최선의 손실: 0.029781\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.048648\t최선의 손실: 0.029781\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.041194\t최선의 손실: 0.029781\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.038867\t최선의 손실: 0.029781\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.057491\t최선의 손실: 0.029781\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.050238\t최선의 손실: 0.029781\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.035993\t최선의 손실: 0.029781\t정확도: 99.06%\n", + "30\t검증 세트 손실: 0.030169\t최선의 손실: 0.029781\t정확도: 99.30%\n", + "31\t검증 세트 손실: 0.044199\t최선의 손실: 0.029781\t정확도: 99.22%\n", + "32\t검증 세트 손실: 0.025587\t최선의 손실: 0.025587\t정확도: 99.10%\n", + "33\t검증 세트 손실: 0.037546\t최선의 손실: 0.025587\t정확도: 99.14%\n", + "34\t검증 세트 손실: 0.029264\t최선의 손실: 0.025587\t정확도: 99.26%\n", + "35\t검증 세트 손실: 0.033909\t최선의 손실: 0.025587\t정확도: 99.22%\n", + "36\t검증 세트 손실: 0.036224\t최선의 손실: 0.025587\t정확도: 99.18%\n", + "37\t검증 세트 손실: 0.039193\t최선의 손실: 0.025587\t정확도: 99.10%\n", + "38\t검증 세트 손실: 0.033255\t최선의 손실: 0.025587\t정확도: 99.18%\n", + "39\t검증 세트 손실: 0.034332\t최선의 손실: 0.025587\t정확도: 99.26%\n", + "40\t검증 세트 손실: 0.044683\t최선의 손실: 0.025587\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.038160\t최선의 손실: 0.025587\t정확도: 99.10%\n", + "42\t검증 세트 손실: 0.036076\t최선의 손실: 0.025587\t정확도: 99.18%\n", + "43\t검증 세트 손실: 0.038031\t최선의 손실: 0.025587\t정확도: 99.18%\n", + "44\t검증 세트 손실: 0.035725\t최선의 손실: 0.025587\t정확도: 99.41%\n", + "45\t검증 세트 손실: 0.049823\t최선의 손실: 0.025587\t정확도: 98.94%\n", + "46\t검증 세트 손실: 0.031112\t최선의 손실: 0.025587\t정확도: 99.37%\n", + "47\t검증 세트 손실: 0.027874\t최선의 손실: 0.025587\t정확도: 99.45%\n", + "48\t검증 세트 손실: 0.025768\t최선의 손실: 0.025587\t정확도: 99.30%\n", + "49\t검증 세트 손실: 0.037004\t최선의 손실: 0.025587\t정확도: 99.18%\n", + "50\t검증 세트 손실: 0.035796\t최선의 손실: 0.025587\t정확도: 99.22%\n", + "51\t검증 세트 손실: 0.047226\t최선의 손실: 0.025587\t정확도: 98.94%\n", + "52\t검증 세트 손실: 0.038258\t최선의 손실: 0.025587\t정확도: 99.30%\n", + "53\t검증 세트 손실: 0.023874\t최선의 손실: 0.023874\t정확도: 99.30%\n", + "54\t검증 세트 손실: 0.046670\t최선의 손실: 0.023874\t정확도: 98.83%\n", + "55\t검증 세트 손실: 0.034326\t최선의 손실: 0.023874\t정확도: 99.30%\n", + "56\t검증 세트 손실: 0.031131\t최선의 손실: 0.023874\t정확도: 99.18%\n", + "57\t검증 세트 손실: 0.048295\t최선의 손실: 0.023874\t정확도: 98.94%\n", + "58\t검증 세트 손실: 0.043147\t최선의 손실: 0.023874\t정확도: 99.10%\n", + "59\t검증 세트 손실: 0.036030\t최선의 손실: 0.023874\t정확도: 98.94%\n", + "60\t검증 세트 손실: 0.042434\t최선의 손실: 0.023874\t정확도: 99.10%\n", + "61\t검증 세트 손실: 0.078714\t최선의 손실: 0.023874\t정확도: 99.02%\n", + "62\t검증 세트 손실: 0.049926\t최선의 손실: 0.023874\t정확도: 99.26%\n", + "63\t검증 세트 손실: 0.050405\t최선의 손실: 0.023874\t정확도: 99.10%\n", + "64\t검증 세트 손실: 0.031132\t최선의 손실: 0.023874\t정확도: 99.26%\n", + "65\t검증 세트 손실: 0.044724\t최선의 손실: 0.023874\t정확도: 99.30%\n", + "66\t검증 세트 손실: 0.033617\t최선의 손실: 0.023874\t정확도: 99.41%\n", + "67\t검증 세트 손실: 0.047489\t최선의 손실: 0.023874\t정확도: 99.02%\n", + "68\t검증 세트 손실: 0.031604\t최선의 손실: 0.023874\t정확도: 99.30%\n", + "69\t검증 세트 손실: 0.039464\t최선의 손실: 0.023874\t정확도: 99.06%\n", + "70\t검증 세트 손실: 0.034651\t최선의 손실: 0.023874\t정확도: 99.30%\n", + "71\t검증 세트 손실: 0.039183\t최선의 손실: 0.023874\t정확도: 99.18%\n", + "72\t검증 세트 손실: 0.037381\t최선의 손실: 0.023874\t정확도: 99.26%\n", + "73\t검증 세트 손실: 0.032533\t최선의 손실: 0.023874\t정확도: 99.49%\n", + "74\t검증 세트 손실: 0.036188\t최선의 손실: 0.023874\t정확도: 99.41%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160, total= 5.4min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160 \n", - "0\t검증 세트 손실: 2.164887\t최선의 손실: 2.164887\t정확도: 90.58%\n", - "1\t검증 세트 손실: 4.042850\t최선의 손실: 2.164887\t정확도: 92.46%\n", - "2\t검증 세트 손실: 0.485385\t최선의 손실: 0.485385\t정확도: 94.10%\n", - "3\t검증 세트 손실: 0.328102\t최선의 손실: 0.328102\t정확도: 96.76%\n", - "4\t검증 세트 손실: 0.435461\t최선의 손실: 0.328102\t정확도: 97.15%\n", - "5\t검증 세트 손실: 0.488258\t최선의 손실: 0.328102\t정확도: 94.45%\n", - "6\t검증 세트 손실: 0.574346\t최선의 손실: 0.328102\t정확도: 95.07%\n", - "7\t검증 세트 손실: 0.464429\t최선의 손실: 0.328102\t정확도: 96.56%\n", - "8\t검증 세트 손실: 0.304956\t최선의 손실: 0.304956\t정확도: 96.36%\n", - "9\t검증 세트 손실: 0.378182\t최선의 손실: 0.304956\t정확도: 97.58%\n", - "10\t검증 세트 손실: 0.333229\t최선의 손실: 0.304956\t정확도: 95.27%\n", - "11\t검증 세트 손실: 0.122098\t최선의 손실: 0.122098\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.940346\t최선의 손실: 0.122098\t정확도: 92.26%\n", - "13\t검증 세트 손실: 0.403638\t최선의 손실: 0.122098\t정확도: 97.97%\n", - "14\t검증 세트 손실: 0.141495\t최선의 손실: 0.122098\t정확도: 97.93%\n", - "15\t검증 세트 손실: 0.391154\t최선의 손실: 0.122098\t정확도: 95.74%\n", - "16\t검증 세트 손실: 0.389622\t최선의 손실: 0.122098\t정확도: 96.91%\n", - "17\t검증 세트 손실: 0.467329\t최선의 손실: 0.122098\t정확도: 97.46%\n", - "18\t검증 세트 손실: 0.135555\t최선의 손실: 0.122098\t정확도: 98.79%\n", - "19\t검증 세트 손실: 1.281357\t최선의 손실: 0.122098\t정확도: 93.00%\n", - "20\t검증 세트 손실: 0.186977\t최선의 손실: 0.122098\t정확도: 98.55%\n", - "21\t검증 세트 손실: 0.737944\t최선의 손실: 0.122098\t정확도: 94.64%\n", - "22\t검증 세트 손실: 0.279441\t최선의 손실: 0.122098\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.248304\t최선의 손실: 0.122098\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.179294\t최선의 손실: 0.122098\t정확도: 98.12%\n", - "25\t검증 세트 손실: 0.204056\t최선의 손실: 0.122098\t정확도: 98.67%\n", - "26\t검증 세트 손실: 0.208904\t최선의 손실: 0.122098\t정확도: 98.05%\n", - "27\t검증 세트 손실: 0.268777\t최선의 손실: 0.122098\t정확도: 97.69%\n", - "28\t검증 세트 손실: 0.364215\t최선의 손실: 0.122098\t정확도: 98.24%\n", - "29\t검증 세트 손실: 0.191645\t최선의 손실: 0.122098\t정확도: 98.36%\n", - "30\t검증 세트 손실: 0.700360\t최선의 손실: 0.122098\t정확도: 96.48%\n", - "31\t검증 세트 손실: 0.201593\t최선의 손실: 0.122098\t정확도: 98.79%\n", - "32\t검증 세트 손실: 0.589171\t최선의 손실: 0.122098\t정확도: 97.11%\n", + "[CV] n_neurons=120, learning_rate=0.01, batch_size=50, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 1.8min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 1078.078247\t최선의 손실: 1078.078247\t정확도: 66.03%\n", + "1\t검증 세트 손실: 129.192703\t최선의 손실: 129.192703\t정확도: 76.31%\n", + "2\t검증 세트 손실: 49.802307\t최선의 손실: 49.802307\t정확도: 73.46%\n", + "3\t검증 세트 손실: 14.246206\t최선의 손실: 14.246206\t정확도: 83.78%\n", + "4\t검증 세트 손실: 5.546666\t최선의 손실: 5.546666\t정확도: 89.21%\n", + "5\t검증 세트 손실: 8.250346\t최선의 손실: 5.546666\t정확도: 86.24%\n", + "6\t검증 세트 손실: 7.408963\t최선의 손실: 5.546666\t정확도: 84.48%\n", + "7\t검증 세트 손실: 2.842361\t최선의 손실: 2.842361\t정확도: 93.08%\n", + "8\t검증 세트 손실: 1.881247\t최선의 손실: 1.881247\t정확도: 94.41%\n", + "9\t검증 세트 손실: 1.742338\t최선의 손실: 1.742338\t정확도: 95.27%\n", + "10\t검증 세트 손실: 0.934796\t최선의 손실: 0.934796\t정확도: 97.15%\n", + "11\t검증 세트 손실: 1.001416\t최선의 손실: 0.934796\t정확도: 96.21%\n", + "12\t검증 세트 손실: 0.646771\t최선의 손실: 0.646771\t정확도: 97.42%\n", + "13\t검증 세트 손실: 0.709581\t최선의 손실: 0.646771\t정확도: 97.46%\n", + "14\t검증 세트 손실: 0.655292\t최선의 손실: 0.646771\t정확도: 96.95%\n", + "15\t검증 세트 손실: 0.600269\t최선의 손실: 0.600269\t정확도: 97.42%\n", + "16\t검증 세트 손실: 0.733731\t최선의 손실: 0.600269\t정확도: 97.22%\n", + "17\t검증 세트 손실: 0.385089\t최선의 손실: 0.385089\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.449500\t최선의 손실: 0.385089\t정확도: 98.05%\n", + "19\t검증 세트 손실: 0.712310\t최선의 손실: 0.385089\t정확도: 97.26%\n", + "20\t검증 세트 손실: 0.375320\t최선의 손실: 0.375320\t정확도: 98.08%\n", + "21\t검증 세트 손실: 0.342668\t최선의 손실: 0.342668\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.616035\t최선의 손실: 0.342668\t정확도: 97.65%\n", + "23\t검증 세트 손실: 0.313215\t최선의 손실: 0.313215\t정확도: 98.55%\n", + "24\t검증 세트 손실: 0.320001\t최선의 손실: 0.313215\t정확도: 98.40%\n", + "25\t검증 세트 손실: 0.401642\t최선의 손실: 0.313215\t정확도: 97.81%\n", + "26\t검증 세트 손실: 0.253050\t최선의 손실: 0.253050\t정확도: 98.36%\n", + "27\t검증 세트 손실: 0.478518\t최선의 손실: 0.253050\t정확도: 97.62%\n", + "28\t검증 세트 손실: 0.260924\t최선의 손실: 0.253050\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.262477\t최선의 손실: 0.253050\t정확도: 98.48%\n", + "30\t검증 세트 손실: 0.302090\t최선의 손실: 0.253050\t정확도: 98.16%\n", + "31\t검증 세트 손실: 0.291347\t최선의 손실: 0.253050\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.245914\t최선의 손실: 0.245914\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.196062\t최선의 손실: 0.196062\t정확도: 98.71%\n", + "34\t검증 세트 손실: 0.200262\t최선의 손실: 0.196062\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.190099\t최선의 손실: 0.190099\t정확도: 98.67%\n", + "36\t검증 세트 손실: 0.164565\t최선의 손실: 0.164565\t정확도: 98.75%\n", + "37\t검증 세트 손실: 0.167189\t최선의 손실: 0.164565\t정확도: 98.67%\n", + "38\t검증 세트 손실: 0.189779\t최선의 손실: 0.164565\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.163197\t최선의 손실: 0.163197\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.250246\t최선의 손실: 0.163197\t정확도: 98.36%\n", + "41\t검증 세트 손실: 0.241397\t최선의 손실: 0.163197\t정확도: 98.28%\n", + "42\t검증 세트 손실: 0.161876\t최선의 손실: 0.161876\t정확도: 98.59%\n", + "43\t검증 세트 손실: 0.202888\t최선의 손실: 0.161876\t정확도: 98.59%\n", + "44\t검증 세트 손실: 0.349119\t최선의 손실: 0.161876\t정확도: 97.54%\n", + "45\t검증 세트 손실: 0.333811\t최선의 손실: 0.161876\t정확도: 97.93%\n", + "46\t검증 세트 손실: 0.206845\t최선의 손실: 0.161876\t정확도: 98.71%\n", + "47\t검증 세트 손실: 0.171870\t최선의 손실: 0.161876\t정확도: 98.87%\n", + "48\t검증 세트 손실: 0.162420\t최선의 손실: 0.161876\t정확도: 98.94%\n", + "49\t검증 세트 손실: 0.165978\t최선의 손실: 0.161876\t정확도: 98.94%\n", + "50\t검증 세트 손실: 0.146159\t최선의 손실: 0.146159\t정확도: 99.06%\n", + "51\t검증 세트 손실: 0.164277\t최선의 손실: 0.146159\t정확도: 98.98%\n", + "52\t검증 세트 손실: 0.244821\t최선의 손실: 0.146159\t정확도: 98.28%\n", + "53\t검증 세트 손실: 0.189830\t최선의 손실: 0.146159\t정확도: 98.83%\n", + "54\t검증 세트 손실: 0.254107\t최선의 손실: 0.146159\t정확도: 98.48%\n", + "55\t검증 세트 손실: 0.178361\t최선의 손실: 0.146159\t정확도: 98.83%\n", + "56\t검증 세트 손실: 0.218016\t최선의 손실: 0.146159\t정확도: 98.67%\n", + "57\t검증 세트 손실: 0.261928\t최선의 손실: 0.146159\t정확도: 98.44%\n", + "58\t검증 세트 손실: 0.288034\t최선의 손실: 0.146159\t정확도: 98.51%\n", + "59\t검증 세트 손실: 0.193977\t최선의 손실: 0.146159\t정확도: 98.91%\n", + "60\t검증 세트 손실: 0.181861\t최선의 손실: 0.146159\t정확도: 98.71%\n", + "61\t검증 세트 손실: 0.227308\t최선의 손실: 0.146159\t정확도: 98.79%\n", + "62\t검증 세트 손실: 0.216682\t최선의 손실: 0.146159\t정확도: 98.75%\n", + "63\t검증 세트 손실: 0.241696\t최선의 손실: 0.146159\t정확도: 98.75%\n", + "64\t검증 세트 손실: 0.377366\t최선의 손실: 0.146159\t정확도: 98.05%\n", + "65\t검증 세트 손실: 0.236433\t최선의 손실: 0.146159\t정확도: 98.63%\n", + "66\t검증 세트 손실: 0.220064\t최선의 손실: 0.146159\t정확도: 98.83%\n", + "67\t검증 세트 손실: 0.251937\t최선의 손실: 0.146159\t정확도: 98.59%\n", + "68\t검증 세트 손실: 0.222704\t최선의 손실: 0.146159\t정확도: 98.79%\n", + "69\t검증 세트 손실: 0.223422\t최선의 손실: 0.146159\t정확도: 98.75%\n", + "70\t검증 세트 손실: 0.165579\t최선의 손실: 0.146159\t정확도: 99.18%\n", + "71\t검증 세트 손실: 0.164587\t최선의 손실: 0.146159\t정확도: 99.14%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160, total= 3.7min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160 \n", - "0\t검증 세트 손실: 8.353540\t최선의 손실: 8.353540\t정확도: 87.88%\n", - "1\t검증 세트 손실: 2.348000\t최선의 손실: 2.348000\t정확도: 92.34%\n", - "2\t검증 세트 손실: 1.656776\t최선의 손실: 1.656776\t정확도: 87.88%\n", - "3\t검증 세트 손실: 0.366419\t최선의 손실: 0.366419\t정확도: 93.78%\n", - "4\t검증 세트 손실: 0.818430\t최선의 손실: 0.366419\t정확도: 97.22%\n", - "5\t검증 세트 손실: 0.384452\t최선의 손실: 0.366419\t정확도: 92.18%\n", - "6\t검증 세트 손실: 0.321514\t최선의 손실: 0.321514\t정확도: 96.83%\n", - "7\t검증 세트 손실: 0.322048\t최선의 손실: 0.321514\t정확도: 94.41%\n", - "8\t검증 세트 손실: 0.323052\t최선의 손실: 0.321514\t정확도: 97.50%\n", - "9\t검증 세트 손실: 0.385919\t최선의 손실: 0.321514\t정확도: 94.57%\n", - "10\t검증 세트 손실: 0.180219\t최선의 손실: 0.180219\t정확도: 97.34%\n", - "11\t검증 세트 손실: 0.937840\t최선의 손실: 0.180219\t정확도: 88.35%\n", - "12\t검증 세트 손실: 2.571483\t최선의 손실: 0.180219\t정확도: 88.66%\n", - "13\t검증 세트 손실: 0.247830\t최선의 손실: 0.180219\t정확도: 97.15%\n", - "14\t검증 세트 손실: 0.072703\t최선의 손실: 0.072703\t정확도: 98.98%\n", - "15\t검증 세트 손실: 0.150375\t최선의 손실: 0.072703\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.089818\t최선의 손실: 0.072703\t정확도: 98.44%\n", - "17\t검증 세트 손실: 0.732057\t최선의 손실: 0.072703\t정확도: 94.29%\n", - "18\t검증 세트 손실: 0.116479\t최선의 손실: 0.072703\t정확도: 98.36%\n", - "19\t검증 세트 손실: 1.672525\t최선의 손실: 0.072703\t정확도: 84.64%\n", - "20\t검증 세트 손실: 0.340295\t최선의 손실: 0.072703\t정확도: 96.99%\n", - "21\t검증 세트 손실: 0.391266\t최선의 손실: 0.072703\t정확도: 95.11%\n", - "22\t검증 세트 손실: 0.105073\t최선의 손실: 0.072703\t정확도: 98.71%\n", - "23\t검증 세트 손실: 0.197473\t최선의 손실: 0.072703\t정확도: 98.08%\n", - "24\t검증 세트 손실: 0.826520\t최선의 손실: 0.072703\t정확도: 95.66%\n", - "25\t검증 세트 손실: 0.246479\t최선의 손실: 0.072703\t정확도: 97.77%\n", - "26\t검증 세트 손실: 0.256992\t최선의 손실: 0.072703\t정확도: 97.65%\n", - "27\t검증 세트 손실: 0.157127\t최선의 손실: 0.072703\t정확도: 98.24%\n", - "28\t검증 세트 손실: 0.145652\t최선의 손실: 0.072703\t정확도: 98.55%\n", - "29\t검증 세트 손실: 0.246523\t최선의 손실: 0.072703\t정확도: 98.24%\n", - "30\t검증 세트 손실: 1.031174\t최선의 손실: 0.072703\t정확도: 91.59%\n", - "31\t검증 세트 손실: 0.154950\t최선의 손실: 0.072703\t정확도: 98.28%\n", - "32\t검증 세트 손실: 0.164489\t최선의 손실: 0.072703\t정확도: 98.32%\n", - "33\t검증 세트 손실: 0.158793\t최선의 손실: 0.072703\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.124996\t최선의 손실: 0.072703\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.175614\t최선의 손실: 0.072703\t정확도: 98.51%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.999, n_neurons=160, total= 4.0min\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.102314\t최선의 손실: 0.102314\t정확도: 97.97%\n", - "1\t검증 세트 손실: 0.129371\t최선의 손실: 0.102314\t정확도: 97.38%\n", - "2\t검증 세트 손실: 0.085769\t최선의 손실: 0.085769\t정확도: 98.24%\n", - "3\t검증 세트 손실: 0.075509\t최선의 손실: 0.075509\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.079170\t최선의 손실: 0.075509\t정확도: 98.16%\n", - "5\t검증 세트 손실: 0.075839\t최선의 손실: 0.075509\t정확도: 98.51%\n", - "6\t검증 세트 손실: 0.039396\t최선의 손실: 0.039396\t정확도: 98.83%\n", - "7\t검증 세트 손실: 0.051735\t최선의 손실: 0.039396\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.049114\t최선의 손실: 0.039396\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.070319\t최선의 손실: 0.039396\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.049911\t최선의 손실: 0.039396\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.090767\t최선의 손실: 0.039396\t정확도: 98.12%\n", - "12\t검증 세트 손실: 0.062656\t최선의 손실: 0.039396\t정확도: 98.40%\n", - "13\t검증 세트 손실: 0.046628\t최선의 손실: 0.039396\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.052898\t최선의 손실: 0.039396\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.041819\t최선의 손실: 0.039396\t정확도: 99.02%\n", - "16\t검증 세트 손실: 0.079374\t최선의 손실: 0.039396\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.045926\t최선의 손실: 0.039396\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.052596\t최선의 손실: 0.039396\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.076897\t최선의 손실: 0.039396\t정확도: 98.59%\n", - "20\t검증 세트 손실: 0.059759\t최선의 손실: 0.039396\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.063086\t최선의 손실: 0.039396\t정확도: 98.71%\n", - "22\t검증 세트 손실: 0.046622\t최선의 손실: 0.039396\t정확도: 99.02%\n", - "23\t검증 세트 손실: 0.064550\t최선의 손실: 0.039396\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.044008\t최선의 손실: 0.039396\t정확도: 99.02%\n", - "25\t검증 세트 손실: 0.069505\t최선의 손실: 0.039396\t정확도: 98.79%\n", - "26\t검증 세트 손실: 0.041251\t최선의 손실: 0.039396\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.059744\t최선의 손실: 0.039396\t정확도: 98.83%\n", - "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100, total= 22.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.161394\t최선의 손실: 0.161394\t정확도: 96.56%\n", - "1\t검증 세트 손실: 0.067289\t최선의 손실: 0.067289\t정확도: 98.36%\n", - "2\t검증 세트 손실: 0.056330\t최선의 손실: 0.056330\t정확도: 98.44%\n", - "3\t검증 세트 손실: 0.053458\t최선의 손실: 0.053458\t정확도: 98.59%\n", - "4\t검증 세트 손실: 0.071447\t최선의 손실: 0.053458\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.044694\t최선의 손실: 0.044694\t정확도: 98.71%\n", - "6\t검증 세트 손실: 0.061146\t최선의 손실: 0.044694\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.043055\t최선의 손실: 0.043055\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.052526\t최선의 손실: 0.043055\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.045807\t최선의 손실: 0.043055\t정확도: 98.75%\n", - "10\t검증 세트 손실: 0.043742\t최선의 손실: 0.043055\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.048216\t최선의 손실: 0.043055\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.050116\t최선의 손실: 0.043055\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.037879\t최선의 손실: 0.037879\t정확도: 99.02%\n", - "14\t검증 세트 손실: 0.041612\t최선의 손실: 0.037879\t정확도: 99.10%\n", - "15\t검증 세트 손실: 0.054091\t최선의 손실: 0.037879\t정확도: 98.59%\n", - "16\t검증 세트 손실: 0.052866\t최선의 손실: 0.037879\t정확도: 98.87%\n", - "17\t검증 세트 손실: 0.116048\t최선의 손실: 0.037879\t정확도: 97.93%\n", - "18\t검증 세트 손실: 0.057383\t최선의 손실: 0.037879\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.094535\t최선의 손실: 0.037879\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.046133\t최선의 손실: 0.037879\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.061255\t최선의 손실: 0.037879\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.069009\t최선의 손실: 0.037879\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.055576\t최선의 손실: 0.037879\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.057096\t최선의 손실: 0.037879\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.089235\t최선의 손실: 0.037879\t정확도: 98.44%\n", - "26\t검증 세트 손실: 0.048262\t최선의 손실: 0.037879\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.059564\t최선의 손실: 0.037879\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.084816\t최선의 손실: 0.037879\t정확도: 98.28%\n", - "29\t검증 세트 손실: 0.062579\t최선의 손실: 0.037879\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.064137\t최선의 손실: 0.037879\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.056499\t최선의 손실: 0.037879\t정확도: 98.71%\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation=, total= 13.6s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 237.561066\t최선의 손실: 237.561066\t정확도: 86.47%\n", + "1\t검증 세트 손실: 57.841473\t최선의 손실: 57.841473\t정확도: 85.85%\n", + "2\t검증 세트 손실: 19.321991\t최선의 손실: 19.321991\t정확도: 87.14%\n", + "3\t검증 세트 손실: 7.167615\t최선의 손실: 7.167615\t정확도: 91.67%\n", + "4\t검증 세트 손실: 4.724746\t최선의 손실: 4.724746\t정확도: 90.73%\n", + "5\t검증 세트 손실: 7.160437\t최선의 손실: 4.724746\t정확도: 86.28%\n", + "6\t검증 세트 손실: 3.978778\t최선의 손실: 3.978778\t정확도: 90.34%\n", + "7\t검증 세트 손실: 1.999985\t최선의 손실: 1.999985\t정확도: 94.14%\n", + "8\t검증 세트 손실: 2.689953\t최선의 손실: 1.999985\t정확도: 91.87%\n", + "9\t검증 세트 손실: 1.460521\t최선의 손실: 1.460521\t정확도: 95.31%\n", + "10\t검증 세트 손실: 1.489202\t최선의 손실: 1.460521\t정확도: 94.64%\n", + "11\t검증 세트 손실: 0.842744\t최선의 손실: 0.842744\t정확도: 96.91%\n", + "12\t검증 세트 손실: 1.196058\t최선의 손실: 0.842744\t정확도: 95.50%\n", + "13\t검증 세트 손실: 0.874326\t최선의 손실: 0.842744\t정확도: 96.76%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "32\t검증 세트 손실: 0.049268\t최선의 손실: 0.037879\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.061203\t최선의 손실: 0.037879\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.082191\t최선의 손실: 0.037879\t정확도: 98.28%\n", + "14\t검증 세트 손실: 0.893873\t최선의 손실: 0.842744\t정확도: 96.52%\n", + "15\t검증 세트 손실: 0.715668\t최선의 손실: 0.715668\t정확도: 96.68%\n", + "16\t검증 세트 손실: 0.651673\t최선의 손실: 0.651673\t정확도: 96.72%\n", + "17\t검증 세트 손실: 0.677186\t최선의 손실: 0.651673\t정확도: 97.26%\n", + "18\t검증 세트 손실: 0.574981\t최선의 손실: 0.574981\t정확도: 97.62%\n", + "19\t검증 세트 손실: 0.586569\t최선의 손실: 0.574981\t정확도: 97.62%\n", + "20\t검증 세트 손실: 0.409534\t최선의 손실: 0.409534\t정확도: 97.97%\n", + "21\t검증 세트 손실: 0.441702\t최선의 손실: 0.409534\t정확도: 98.20%\n", + "22\t검증 세트 손실: 0.570582\t최선의 손실: 0.409534\t정확도: 97.19%\n", + "23\t검증 세트 손실: 0.466090\t최선의 손실: 0.409534\t정확도: 98.05%\n", + "24\t검증 세트 손실: 0.540475\t최선의 손실: 0.409534\t정확도: 97.58%\n", + "25\t검증 세트 손실: 0.700270\t최선의 손실: 0.409534\t정확도: 96.95%\n", + "26\t검증 세트 손실: 0.392780\t최선의 손실: 0.392780\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.501745\t최선의 손실: 0.392780\t정확도: 97.89%\n", + "28\t검증 세트 손실: 0.355518\t최선의 손실: 0.355518\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.384283\t최선의 손실: 0.355518\t정확도: 97.89%\n", + "30\t검증 세트 손실: 0.463473\t최선의 손실: 0.355518\t정확도: 97.46%\n", + "31\t검증 세트 손실: 0.272400\t최선의 손실: 0.272400\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.438282\t최선의 손실: 0.272400\t정확도: 97.58%\n", + "33\t검증 세트 손실: 0.290583\t최선의 손실: 0.272400\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.250526\t최선의 손실: 0.250526\t정확도: 98.44%\n", + "35\t검증 세트 손실: 0.211045\t최선의 손실: 0.211045\t정확도: 98.79%\n", + "36\t검증 세트 손실: 0.260550\t최선의 손실: 0.211045\t정확도: 98.48%\n", + "37\t검증 세트 손실: 0.305827\t최선의 손실: 0.211045\t정확도: 98.44%\n", + "38\t검증 세트 손실: 0.310660\t최선의 손실: 0.211045\t정확도: 98.32%\n", + "39\t검증 세트 손실: 0.358111\t최선의 손실: 0.211045\t정확도: 98.01%\n", + "40\t검증 세트 손실: 0.331725\t최선의 손실: 0.211045\t정확도: 98.05%\n", + "41\t검증 세트 손실: 0.208008\t최선의 손실: 0.208008\t정확도: 98.67%\n", + "42\t검증 세트 손실: 0.271875\t최선의 손실: 0.208008\t정확도: 98.55%\n", + "43\t검증 세트 손실: 0.296627\t최선의 손실: 0.208008\t정확도: 98.36%\n", + "44\t검증 세트 손실: 0.326281\t최선의 손실: 0.208008\t정확도: 98.24%\n", + "45\t검증 세트 손실: 0.328347\t최선의 손실: 0.208008\t정확도: 98.05%\n", + "46\t검증 세트 손실: 0.190598\t최선의 손실: 0.190598\t정확도: 98.71%\n", + "47\t검증 세트 손실: 0.254692\t최선의 손실: 0.190598\t정확도: 98.40%\n", + "48\t검증 세트 손실: 0.257967\t최선의 손실: 0.190598\t정확도: 98.55%\n", + "49\t검증 세트 손실: 0.273649\t최선의 손실: 0.190598\t정확도: 98.28%\n", + "50\t검증 세트 손실: 0.249390\t최선의 손실: 0.190598\t정확도: 98.51%\n", + "51\t검증 세트 손실: 0.253595\t최선의 손실: 0.190598\t정확도: 98.59%\n", + "52\t검증 세트 손실: 0.271963\t최선의 손실: 0.190598\t정확도: 98.79%\n", + "53\t검증 세트 손실: 0.234627\t최선의 손실: 0.190598\t정확도: 98.63%\n", + "54\t검증 세트 손실: 0.248456\t최선의 손실: 0.190598\t정확도: 98.83%\n", + "55\t검증 세트 손실: 0.211022\t최선의 손실: 0.190598\t정확도: 98.87%\n", + "56\t검증 세트 손실: 0.217858\t최선의 손실: 0.190598\t정확도: 98.83%\n", + "57\t검증 세트 손실: 0.271239\t최선의 손실: 0.190598\t정확도: 98.28%\n", + "58\t검증 세트 손실: 0.208659\t최선의 손실: 0.190598\t정확도: 98.63%\n", + "59\t검증 세트 손실: 0.258485\t최선의 손실: 0.190598\t정확도: 98.59%\n", + "60\t검증 세트 손실: 0.262538\t최선의 손실: 0.190598\t정확도: 98.51%\n", + "61\t검증 세트 손실: 0.240616\t최선의 손실: 0.190598\t정확도: 98.83%\n", + "62\t검증 세트 손실: 0.238294\t최선의 손실: 0.190598\t정확도: 98.59%\n", + "63\t검증 세트 손실: 0.194562\t최선의 손실: 0.190598\t정확도: 98.87%\n", + "64\t검증 세트 손실: 0.193696\t최선의 손실: 0.190598\t정확도: 98.79%\n", + "65\t검증 세트 손실: 0.254888\t최선의 손실: 0.190598\t정확도: 98.40%\n", + "66\t검증 세트 손실: 0.426311\t최선의 손실: 0.190598\t정확도: 97.03%\n", + "67\t검증 세트 손실: 0.312564\t최선의 손실: 0.190598\t정확도: 97.85%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100, total= 27.3s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.133654\t최선의 손실: 0.133654\t정확도: 97.34%\n", - "1\t검증 세트 손실: 0.110461\t최선의 손실: 0.110461\t정확도: 97.30%\n", - "2\t검증 세트 손실: 0.072654\t최선의 손실: 0.072654\t정확도: 97.85%\n", - "3\t검증 세트 손실: 0.077950\t최선의 손실: 0.072654\t정확도: 98.24%\n", - "4\t검증 세트 손실: 0.035914\t최선의 손실: 0.035914\t정확도: 99.06%\n", - "5\t검증 세트 손실: 0.038382\t최선의 손실: 0.035914\t정확도: 99.02%\n", - "6\t검증 세트 손실: 0.059620\t최선의 손실: 0.035914\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.055095\t최선의 손실: 0.035914\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.054558\t최선의 손실: 0.035914\t정확도: 98.59%\n", - "9\t검증 세트 손실: 0.047655\t최선의 손실: 0.035914\t정확도: 98.98%\n", - "10\t검증 세트 손실: 0.046808\t최선의 손실: 0.035914\t정확도: 98.75%\n", - "11\t검증 세트 손실: 0.051341\t최선의 손실: 0.035914\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.064113\t최선의 손실: 0.035914\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.031824\t최선의 손실: 0.031824\t정확도: 99.18%\n", - "14\t검증 세트 손실: 0.050515\t최선의 손실: 0.031824\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.068757\t최선의 손실: 0.031824\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.050589\t최선의 손실: 0.031824\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.044696\t최선의 손실: 0.031824\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.071638\t최선의 손실: 0.031824\t정확도: 98.36%\n", - "19\t검증 세트 손실: 0.049810\t최선의 손실: 0.031824\t정확도: 98.94%\n", - "20\t검증 세트 손실: 0.048257\t최선의 손실: 0.031824\t정확도: 99.02%\n", - "21\t검증 세트 손실: 0.053362\t최선의 손실: 0.031824\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.081526\t최선의 손실: 0.031824\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.049269\t최선의 손실: 0.031824\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.036882\t최선의 손실: 0.031824\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.041976\t최선의 손실: 0.031824\t정확도: 99.22%\n", - "26\t검증 세트 손실: 0.075618\t최선의 손실: 0.031824\t정확도: 98.24%\n", - "27\t검증 세트 손실: 0.042882\t최선의 손실: 0.031824\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.050440\t최선의 손실: 0.031824\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.052706\t최선의 손실: 0.031824\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.056886\t최선의 손실: 0.031824\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.049100\t최선의 손실: 0.031824\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.050914\t최선의 손실: 0.031824\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.065283\t최선의 손실: 0.031824\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.063661\t최선의 손실: 0.031824\t정확도: 98.67%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation=, total= 13.0s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 569.611511\t최선의 손실: 569.611511\t정확도: 70.09%\n", + "1\t검증 세트 손실: 120.308434\t최선의 손실: 120.308434\t정확도: 73.18%\n", + "2\t검증 세트 손실: 28.182579\t최선의 손실: 28.182579\t정확도: 77.80%\n", + "3\t검증 세트 손실: 13.760184\t최선의 손실: 13.760184\t정확도: 81.70%\n", + "4\t검증 세트 손실: 5.671293\t최선의 손실: 5.671293\t정확도: 86.98%\n", + "5\t검증 세트 손실: 5.377365\t최선의 손실: 5.377365\t정확도: 88.98%\n", + "6\t검증 세트 손실: 2.232918\t최선의 손실: 2.232918\t정확도: 92.42%\n", + "7\t검증 세트 손실: 1.798158\t최선의 손실: 1.798158\t정확도: 93.35%\n", + "8\t검증 세트 손실: 1.082519\t최선의 손실: 1.082519\t정확도: 96.09%\n", + "9\t검증 세트 손실: 1.009291\t최선의 손실: 1.009291\t정확도: 96.25%\n", + "10\t검증 세트 손실: 1.043655\t최선의 손실: 1.009291\t정확도: 96.44%\n", + "11\t검증 세트 손실: 1.273440\t최선의 손실: 1.009291\t정확도: 95.54%\n", + "12\t검증 세트 손실: 0.796677\t최선의 손실: 0.796677\t정확도: 96.68%\n", + "13\t검증 세트 손실: 0.683465\t최선의 손실: 0.683465\t정확도: 97.15%\n", + "14\t검증 세트 손실: 0.673821\t최선의 손실: 0.673821\t정확도: 97.19%\n", + "15\t검증 세트 손실: 0.631786\t최선의 손실: 0.631786\t정확도: 97.15%\n", + "16\t검증 세트 손실: 0.657033\t최선의 손실: 0.631786\t정확도: 97.15%\n", + "17\t검증 세트 손실: 0.474260\t최선의 손실: 0.474260\t정확도: 97.69%\n", + "18\t검증 세트 손실: 0.894188\t최선의 손실: 0.474260\t정확도: 95.90%\n", + "19\t검증 세트 손실: 0.453878\t최선의 손실: 0.453878\t정확도: 97.89%\n", + "20\t검증 세트 손실: 0.396912\t최선의 손실: 0.396912\t정확도: 97.93%\n", + "21\t검증 세트 손실: 0.709269\t최선의 손실: 0.396912\t정확도: 96.40%\n", + "22\t검증 세트 손실: 0.314454\t최선의 손실: 0.314454\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.400558\t최선의 손실: 0.314454\t정확도: 97.97%\n", + "24\t검증 세트 손실: 0.517437\t최선의 손실: 0.314454\t정확도: 97.65%\n", + "25\t검증 세트 손실: 0.328046\t최선의 손실: 0.314454\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.292877\t최선의 손실: 0.292877\t정확도: 98.12%\n", + "27\t검증 세트 손실: 0.326910\t최선의 손실: 0.292877\t정확도: 97.73%\n", + "28\t검증 세트 손실: 0.232284\t최선의 손실: 0.232284\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.316841\t최선의 손실: 0.232284\t정확도: 98.12%\n", + "30\t검증 세트 손실: 0.295325\t최선의 손실: 0.232284\t정확도: 98.12%\n", + "31\t검증 세트 손실: 0.195560\t최선의 손실: 0.195560\t정확도: 98.63%\n", + "32\t검증 세트 손실: 0.271914\t최선의 손실: 0.195560\t정확도: 98.24%\n", + "33\t검증 세트 손실: 0.257433\t최선의 손실: 0.195560\t정확도: 98.36%\n", + "34\t검증 세트 손실: 0.242884\t최선의 손실: 0.195560\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.258299\t최선의 손실: 0.195560\t정확도: 98.24%\n", + "36\t검증 세트 손실: 0.307394\t최선의 손실: 0.195560\t정확도: 97.73%\n", + "37\t검증 세트 손실: 0.211531\t최선의 손실: 0.195560\t정확도: 98.48%\n", + "38\t검증 세트 손실: 0.217159\t최선의 손실: 0.195560\t정확도: 98.51%\n", + "39\t검증 세트 손실: 0.209197\t최선의 손실: 0.195560\t정확도: 98.44%\n", + "40\t검증 세트 손실: 0.220492\t최선의 손실: 0.195560\t정확도: 98.59%\n", + "41\t검증 세트 손실: 0.190238\t최선의 손실: 0.190238\t정확도: 98.98%\n", + "42\t검증 세트 손실: 0.278459\t최선의 손실: 0.190238\t정확도: 98.67%\n", + "43\t검증 세트 손실: 0.211145\t최선의 손실: 0.190238\t정확도: 98.71%\n", + "44\t검증 세트 손실: 0.190424\t최선의 손실: 0.190238\t정확도: 98.79%\n", + "45\t검증 세트 손실: 0.159429\t최선의 손실: 0.159429\t정확도: 98.55%\n", + "46\t검증 세트 손실: 0.210104\t최선의 손실: 0.159429\t정확도: 98.59%\n", + "47\t검증 세트 손실: 0.179209\t최선의 손실: 0.159429\t정확도: 98.79%\n", + "48\t검증 세트 손실: 0.144912\t최선의 손실: 0.144912\t정확도: 98.91%\n", + "49\t검증 세트 손실: 0.183269\t최선의 손실: 0.144912\t정확도: 98.48%\n", + "50\t검증 세트 손실: 0.164451\t최선의 손실: 0.144912\t정확도: 98.36%\n", + "51\t검증 세트 손실: 0.152350\t최선의 손실: 0.144912\t정확도: 98.59%\n", + "52\t검증 세트 손실: 0.194836\t최선의 손실: 0.144912\t정확도: 98.36%\n", + "53\t검증 세트 손실: 0.235179\t최선의 손실: 0.144912\t정확도: 98.24%\n", + "54\t검증 세트 손실: 0.431046\t최선의 손실: 0.144912\t정확도: 97.19%\n", + "55\t검증 세트 손실: 0.182184\t최선의 손실: 0.144912\t정확도: 98.55%\n", + "56\t검증 세트 손실: 0.161346\t최선의 손실: 0.144912\t정확도: 98.67%\n", + "57\t검증 세트 손실: 0.182739\t최선의 손실: 0.144912\t정확도: 98.67%\n", + "58\t검증 세트 손실: 0.255327\t최선의 손실: 0.144912\t정확도: 98.55%\n", + "59\t검증 세트 손실: 0.299715\t최선의 손실: 0.144912\t정확도: 98.12%\n", + "60\t검증 세트 손실: 0.241754\t최선의 손실: 0.144912\t정확도: 97.97%\n", + "61\t검증 세트 손실: 0.244595\t최선의 손실: 0.144912\t정확도: 98.05%\n", + "62\t검증 세트 손실: 0.186670\t최선의 손실: 0.144912\t정확도: 98.59%\n", + "63\t검증 세트 손실: 0.150161\t최선의 손실: 0.144912\t정확도: 98.79%\n", + "64\t검증 세트 손실: 0.177499\t최선의 손실: 0.144912\t정확도: 98.40%\n", + "65\t검증 세트 손실: 0.171703\t최선의 손실: 0.144912\t정확도: 98.71%\n", + "66\t검증 세트 손실: 0.146225\t최선의 손실: 0.144912\t정확도: 98.91%\n", + "67\t검증 세트 손실: 0.147977\t최선의 손실: 0.144912\t정확도: 98.98%\n", + "68\t검증 세트 손실: 0.167507\t최선의 손실: 0.144912\t정확도: 98.71%\n", + "69\t검증 세트 손실: 0.268591\t최선의 손실: 0.144912\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.01, batch_norm_momentum=0.99, n_neurons=100, total= 27.3s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.144551\t최선의 손실: 0.144551\t정확도: 95.90%\n", - "1\t검증 세트 손실: 0.116310\t최선의 손실: 0.116310\t정확도: 95.93%\n", - "2\t검증 세트 손실: 0.100381\t최선의 손실: 0.100381\t정확도: 97.26%\n", - "3\t검증 세트 손실: 0.119972\t최선의 손실: 0.100381\t정확도: 96.64%\n", - "4\t검증 세트 손실: 0.067615\t최선의 손실: 0.067615\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.076297\t최선의 손실: 0.067615\t정확도: 97.54%\n", - "6\t검증 세트 손실: 0.176198\t최선의 손실: 0.067615\t정확도: 96.25%\n", - "7\t검증 세트 손실: 0.051072\t최선의 손실: 0.051072\t정확도: 98.55%\n", - "8\t검증 세트 손실: 0.082424\t최선의 손실: 0.051072\t정확도: 97.22%\n", - "9\t검증 세트 손실: 0.158158\t최선의 손실: 0.051072\t정확도: 96.21%\n", - "10\t검증 세트 손실: 0.086964\t최선의 손실: 0.051072\t정확도: 97.69%\n", - "11\t검증 세트 손실: 0.060028\t최선의 손실: 0.051072\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.072540\t최선의 손실: 0.051072\t정확도: 97.89%\n", - "13\t검증 세트 손실: 0.079637\t최선의 손실: 0.051072\t정확도: 97.77%\n", - "14\t검증 세트 손실: 0.064637\t최선의 손실: 0.051072\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.068313\t최선의 손실: 0.051072\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.101897\t최선의 손실: 0.051072\t정확도: 97.73%\n", - "17\t검증 세트 손실: 0.080606\t최선의 손실: 0.051072\t정확도: 98.12%\n", - "18\t검증 세트 손실: 0.078153\t최선의 손실: 0.051072\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.053681\t최선의 손실: 0.051072\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.059021\t최선의 손실: 0.051072\t정확도: 98.83%\n", - "21\t검증 세트 손실: 0.060512\t최선의 손실: 0.051072\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.121736\t최선의 손실: 0.051072\t정확도: 98.16%\n", - "23\t검증 세트 손실: 0.054560\t최선의 손실: 0.051072\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.058051\t최선의 손실: 0.051072\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.094590\t최선의 손실: 0.051072\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.066408\t최선의 손실: 0.051072\t정확도: 98.59%\n", - "27\t검증 세트 손실: 0.082490\t최선의 손실: 0.051072\t정확도: 97.81%\n", - "28\t검증 세트 손실: 0.077736\t최선의 손실: 0.051072\t정확도: 98.24%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100, total= 3.3min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.158769\t최선의 손실: 0.158769\t정확도: 95.23%\n", - "1\t검증 세트 손실: 0.130086\t최선의 손실: 0.130086\t정확도: 96.09%\n", - "2\t검증 세트 손실: 0.102388\t최선의 손실: 0.102388\t정확도: 96.99%\n", - "3\t검증 세트 손실: 0.103125\t최선의 손실: 0.102388\t정확도: 97.22%\n", - "4\t검증 세트 손실: 0.080375\t최선의 손실: 0.080375\t정확도: 97.81%\n", - "5\t검증 세트 손실: 0.102045\t최선의 손실: 0.080375\t정확도: 97.85%\n", - "6\t검증 세트 손실: 0.083224\t최선의 손실: 0.080375\t정확도: 98.05%\n", - "7\t검증 세트 손실: 0.085090\t최선의 손실: 0.080375\t정확도: 97.85%\n", - "8\t검증 세트 손실: 0.100082\t최선의 손실: 0.080375\t정확도: 97.85%\n", - "9\t검증 세트 손실: 0.079508\t최선의 손실: 0.079508\t정확도: 98.16%\n", - "10\t검증 세트 손실: 0.103537\t최선의 손실: 0.079508\t정확도: 97.46%\n", - "11\t검증 세트 손실: 0.065633\t최선의 손실: 0.065633\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.070693\t최선의 손실: 0.065633\t정확도: 98.36%\n", - "13\t검증 세트 손실: 0.105670\t최선의 손실: 0.065633\t정확도: 97.69%\n", - "14\t검증 세트 손실: 0.057834\t최선의 손실: 0.057834\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.070851\t최선의 손실: 0.057834\t정확도: 98.36%\n", - "16\t검증 세트 손실: 0.088599\t최선의 손실: 0.057834\t정확도: 98.12%\n", - "17\t검증 세트 손실: 0.052759\t최선의 손실: 0.052759\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.097003\t최선의 손실: 0.052759\t정확도: 97.69%\n", - "19\t검증 세트 손실: 0.080440\t최선의 손실: 0.052759\t정확도: 98.55%\n", - "20\t검증 세트 손실: 0.048717\t최선의 손실: 0.048717\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.082395\t최선의 손실: 0.048717\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.061601\t최선의 손실: 0.048717\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.055394\t최선의 손실: 0.048717\t정확도: 98.75%\n", - "24\t검증 세트 손실: 0.089831\t최선의 손실: 0.048717\t정확도: 97.97%\n", - "25\t검증 세트 손실: 0.063026\t최선의 손실: 0.048717\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.097280\t최선의 손실: 0.048717\t정확도: 98.40%\n", - "27\t검증 세트 손실: 0.065314\t최선의 손실: 0.048717\t정확도: 98.36%\n", - "28\t검증 세트 손실: 0.048612\t최선의 손실: 0.048612\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.046045\t최선의 손실: 0.046045\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.066140\t최선의 손실: 0.046045\t정확도: 97.97%\n", - "31\t검증 세트 손실: 0.056148\t최선의 손실: 0.046045\t정확도: 98.36%\n", - "32\t검증 세트 손실: 0.063132\t최선의 손실: 0.046045\t정확도: 98.24%\n", - "33\t검증 세트 손실: 0.081330\t최선의 손실: 0.046045\t정확도: 97.58%\n", - "34\t검증 세트 손실: 0.052933\t최선의 손실: 0.046045\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.118788\t최선의 손실: 0.046045\t정확도: 96.76%\n", - "36\t검증 세트 손실: 0.064742\t최선의 손실: 0.046045\t정확도: 98.63%\n", - "37\t검증 세트 손실: 0.060297\t최선의 손실: 0.046045\t정확도: 98.67%\n", - "38\t검증 세트 손실: 0.057539\t최선의 손실: 0.046045\t정확도: 98.63%\n", - "39\t검증 세트 손실: 0.055329\t최선의 손실: 0.046045\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.047086\t최선의 손실: 0.046045\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.349151\t최선의 손실: 0.046045\t정확도: 92.73%\n", - "42\t검증 세트 손실: 0.067062\t최선의 손실: 0.046045\t정확도: 98.63%\n", - "43\t검증 세트 손실: 0.048457\t최선의 손실: 0.046045\t정확도: 98.83%\n", - "44\t검증 세트 손실: 0.062351\t최선의 손실: 0.046045\t정확도: 98.67%\n", - "45\t검증 세트 손실: 0.087215\t최선의 손실: 0.046045\t정확도: 97.89%\n", - "46\t검증 세트 손실: 0.093897\t최선의 손실: 0.046045\t정확도: 98.67%\n", - "47\t검증 세트 손실: 0.063740\t최선의 손실: 0.046045\t정확도: 98.67%\n", - "48\t검증 세트 손실: 0.058062\t최선의 손실: 0.046045\t정확도: 98.83%\n", - "49\t검증 세트 손실: 0.068311\t최선의 손실: 0.046045\t정확도: 98.87%\n", - "50\t검증 세트 손실: 0.087333\t최선의 손실: 0.046045\t정확도: 98.59%\n", - "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100, total= 5.7min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100 \n", - "0\t검증 세트 손실: 0.129841\t최선의 손실: 0.129841\t정확도: 97.07%\n", - "1\t검증 세트 손실: 0.109284\t최선의 손실: 0.109284\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.106268\t최선의 손실: 0.106268\t정확도: 97.22%\n", - "3\t검증 세트 손실: 0.091080\t최선의 손실: 0.091080\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.148931\t최선의 손실: 0.091080\t정확도: 95.70%\n", - "5\t검증 세트 손실: 0.072530\t최선의 손실: 0.072530\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.082197\t최선의 손실: 0.072530\t정확도: 97.38%\n", - "7\t검증 세트 손실: 0.091775\t최선의 손실: 0.072530\t정확도: 98.16%\n", - "8\t검증 세트 손실: 0.067102\t최선의 손실: 0.067102\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.072692\t최선의 손실: 0.067102\t정확도: 98.05%\n", - "10\t검증 세트 손실: 0.080821\t최선의 손실: 0.067102\t정확도: 97.58%\n", - "11\t검증 세트 손실: 0.072944\t최선의 손실: 0.067102\t정확도: 98.24%\n", - "12\t검증 세트 손실: 0.062013\t최선의 손실: 0.062013\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.061679\t최선의 손실: 0.061679\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.050635\t최선의 손실: 0.050635\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.067161\t최선의 손실: 0.050635\t정확도: 98.24%\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=500, batch_norm_momentum=0.999, activation=, total= 13.1s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.087167\t최선의 손실: 0.087167\t정확도: 97.85%\n", + "1\t검증 세트 손실: 0.061278\t최선의 손실: 0.061278\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.057527\t최선의 손실: 0.057527\t정확도: 98.40%\n", + "3\t검증 세트 손실: 0.043605\t최선의 손실: 0.043605\t정확도: 98.79%\n", + "4\t검증 세트 손실: 0.043663\t최선의 손실: 0.043605\t정확도: 98.67%\n", + "5\t검증 세트 손실: 0.052828\t최선의 손실: 0.043605\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.053624\t최선의 손실: 0.043605\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.099462\t최선의 손실: 0.043605\t정확도: 97.85%\n", + "8\t검증 세트 손실: 0.036180\t최선의 손실: 0.036180\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.060169\t최선의 손실: 0.036180\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.050541\t최선의 손실: 0.036180\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.070013\t최선의 손실: 0.036180\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.042585\t최선의 손실: 0.036180\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.054406\t최선의 손실: 0.036180\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.055588\t최선의 손실: 0.036180\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.057349\t최선의 손실: 0.036180\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.075586\t최선의 손실: 0.036180\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.054006\t최선의 손실: 0.036180\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.036655\t최선의 손실: 0.036180\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.042430\t최선의 손실: 0.036180\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.047573\t최선의 손실: 0.036180\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.053786\t최선의 손실: 0.036180\t정확도: 98.83%\n", + "22\t검증 세트 손실: 0.042665\t최선의 손실: 0.036180\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.038666\t최선의 손실: 0.036180\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.056563\t최선의 손실: 0.036180\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.062293\t최선의 손실: 0.036180\t정확도: 98.55%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "16\t검증 세트 손실: 0.044588\t최선의 손실: 0.044588\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.045706\t최선의 손실: 0.044588\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.062400\t최선의 손실: 0.044588\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.055432\t최선의 손실: 0.044588\t정확도: 98.67%\n", - "20\t검증 세트 손실: 0.264644\t최선의 손실: 0.044588\t정확도: 94.53%\n", - "21\t검증 세트 손실: 0.042788\t최선의 손실: 0.042788\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.068676\t최선의 손실: 0.042788\t정확도: 98.24%\n", - "23\t검증 세트 손실: 0.053952\t최선의 손실: 0.042788\t정확도: 98.48%\n", - "24\t검증 세트 손실: 0.098559\t최선의 손실: 0.042788\t정확도: 97.73%\n", - "25\t검증 세트 손실: 0.061829\t최선의 손실: 0.042788\t정확도: 98.75%\n", - "26\t검증 세트 손실: 0.060669\t최선의 손실: 0.042788\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.048550\t최선의 손실: 0.042788\t정확도: 98.51%\n", - "28\t검증 세트 손실: 0.044040\t최선의 손실: 0.042788\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.057678\t최선의 손실: 0.042788\t정확도: 98.48%\n", - "30\t검증 세트 손실: 0.087282\t최선의 손실: 0.042788\t정확도: 97.93%\n", - "31\t검증 세트 손실: 0.100054\t최선의 손실: 0.042788\t정확도: 98.24%\n", - "32\t검증 세트 손실: 0.044889\t최선의 손실: 0.042788\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.064980\t최선의 손실: 0.042788\t정확도: 98.63%\n", - "34\t검증 세트 손실: 0.053308\t최선의 손실: 0.042788\t정확도: 98.83%\n", - "35\t검증 세트 손실: 0.054006\t최선의 손실: 0.042788\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.132288\t최선의 손실: 0.042788\t정확도: 97.15%\n", - "37\t검증 세트 손실: 0.057736\t최선의 손실: 0.042788\t정확도: 98.40%\n", - "38\t검증 세트 손실: 0.060927\t최선의 손실: 0.042788\t정확도: 98.32%\n", - "39\t검증 세트 손실: 0.048779\t최선의 손실: 0.042788\t정확도: 98.75%\n", - "40\t검증 세트 손실: 0.049862\t최선의 손실: 0.042788\t정확도: 98.75%\n", - "41\t검증 세트 손실: 0.224073\t최선의 손실: 0.042788\t정확도: 98.59%\n", - "42\t검증 세트 손실: 0.083405\t최선의 손실: 0.042788\t정확도: 98.55%\n", + "26\t검증 세트 손실: 0.044622\t최선의 손실: 0.036180\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.062339\t최선의 손실: 0.036180\t정확도: 98.75%\n", + "28\t검증 세트 손실: 0.059170\t최선의 손실: 0.036180\t정확도: 98.63%\n", + "29\t검증 세트 손실: 0.047573\t최선의 손실: 0.036180\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.1, batch_norm_momentum=0.9, n_neurons=100, total= 4.8min\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 0.509582\t최선의 손실: 0.509582\t정확도: 96.13%\n", - "1\t검증 세트 손실: 0.291314\t최선의 손실: 0.291314\t정확도: 96.68%\n", - "2\t검증 세트 손실: 0.234906\t최선의 손실: 0.234906\t정확도: 94.96%\n", - "3\t검증 세트 손실: 0.128765\t최선의 손실: 0.128765\t정확도: 96.56%\n", - "4\t검증 세트 손실: 0.134042\t최선의 손실: 0.128765\t정확도: 96.95%\n", - "5\t검증 세트 손실: 0.115241\t최선의 손실: 0.115241\t정확도: 96.95%\n", - "6\t검증 세트 손실: 0.235785\t최선의 손실: 0.115241\t정확도: 95.47%\n", - "7\t검증 세트 손실: 0.067992\t최선의 손실: 0.067992\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.230837\t최선의 손실: 0.067992\t정확도: 96.72%\n", - "9\t검증 세트 손실: 0.189988\t최선의 손실: 0.067992\t정확도: 97.11%\n", - "10\t검증 세트 손실: 0.064175\t최선의 손실: 0.064175\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.170783\t최선의 손실: 0.064175\t정확도: 97.69%\n", - "12\t검증 세트 손실: 0.201488\t최선의 손실: 0.064175\t정확도: 97.34%\n", - "13\t검증 세트 손실: 0.294559\t최선의 손실: 0.064175\t정확도: 96.91%\n", - "14\t검증 세트 손실: 0.106344\t최선의 손실: 0.064175\t정확도: 98.12%\n", - "15\t검증 세트 손실: 0.299656\t최선의 손실: 0.064175\t정확도: 96.21%\n", - "16\t검증 세트 손실: 0.237869\t최선의 손실: 0.064175\t정확도: 97.97%\n", - "17\t검증 세트 손실: 0.116589\t최선의 손실: 0.064175\t정확도: 98.71%\n", - "18\t검증 세트 손실: 0.176744\t최선의 손실: 0.064175\t정확도: 97.46%\n", - "19\t검증 세트 손실: 0.101439\t최선의 손실: 0.064175\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.071610\t최선의 손실: 0.064175\t정확도: 98.79%\n", - "21\t검증 세트 손실: 0.126507\t최선의 손실: 0.064175\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.155054\t최선의 손실: 0.064175\t정확도: 98.20%\n", - "23\t검증 세트 손실: 0.106519\t최선의 손실: 0.064175\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.149832\t최선의 손실: 0.064175\t정확도: 98.05%\n", - "25\t검증 세트 손실: 0.211202\t최선의 손실: 0.064175\t정확도: 98.16%\n", - "26\t검증 세트 손실: 0.074377\t최선의 손실: 0.064175\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.165355\t최선의 손실: 0.064175\t정확도: 98.59%\n", - "28\t검증 세트 손실: 0.136431\t최선의 손실: 0.064175\t정확도: 98.36%\n", - "29\t검증 세트 손실: 0.525734\t최선의 손실: 0.064175\t정확도: 97.07%\n", - "30\t검증 세트 손실: 0.162243\t최선의 손실: 0.064175\t정확도: 98.87%\n", - "31\t검증 세트 손실: 0.153574\t최선의 손실: 0.064175\t정확도: 98.79%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.9s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.079436\t최선의 손실: 0.079436\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.049245\t최선의 손실: 0.049245\t정확도: 98.36%\n", + "2\t검증 세트 손실: 0.055525\t최선의 손실: 0.049245\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.039232\t최선의 손실: 0.039232\t정확도: 98.79%\n", + "4\t검증 세트 손실: 0.053244\t최선의 손실: 0.039232\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.049806\t최선의 손실: 0.039232\t정확도: 98.71%\n", + "6\t검증 세트 손실: 0.046665\t최선의 손실: 0.039232\t정확도: 98.87%\n", + "7\t검증 세트 손실: 0.054202\t최선의 손실: 0.039232\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.063648\t최선의 손실: 0.039232\t정확도: 98.67%\n", + "9\t검증 세트 손실: 0.049535\t최선의 손실: 0.039232\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.048627\t최선의 손실: 0.039232\t정확도: 98.91%\n", + "11\t검증 세트 손실: 0.045050\t최선의 손실: 0.039232\t정확도: 98.98%\n", + "12\t검증 세트 손실: 0.058797\t최선의 손실: 0.039232\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.064787\t최선의 손실: 0.039232\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.055320\t최선의 손실: 0.039232\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.056079\t최선의 손실: 0.039232\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.059135\t최선의 손실: 0.039232\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.057995\t최선의 손실: 0.039232\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.053248\t최선의 손실: 0.039232\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.047227\t최선의 손실: 0.039232\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.056034\t최선의 손실: 0.039232\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.043215\t최선의 손실: 0.039232\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.049631\t최선의 손실: 0.039232\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.053519\t최선의 손실: 0.039232\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.047129\t최선의 손실: 0.039232\t정확도: 98.91%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 3.3min\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 0.245778\t최선의 손실: 0.245778\t정확도: 97.03%\n", - "1\t검증 세트 손실: 0.898370\t최선의 손실: 0.245778\t정확도: 92.61%\n", - "2\t검증 세트 손실: 0.738140\t최선의 손실: 0.245778\t정확도: 89.01%\n", - "3\t검증 세트 손실: 0.190951\t최선의 손실: 0.190951\t정확도: 95.74%\n", - "4\t검증 세트 손실: 0.247942\t최선의 손실: 0.190951\t정확도: 95.04%\n", - "5\t검증 세트 손실: 1.474474\t최선의 손실: 0.190951\t정확도: 91.83%\n", - "6\t검증 세트 손실: 0.189150\t최선의 손실: 0.189150\t정확도: 96.91%\n", - "7\t검증 세트 손실: 0.889207\t최선의 손실: 0.189150\t정확도: 92.61%\n", - "8\t검증 세트 손실: 0.047392\t최선의 손실: 0.047392\t정확도: 98.71%\n", - "9\t검증 세트 손실: 0.152904\t최선의 손실: 0.047392\t정확도: 98.24%\n", - "10\t검증 세트 손실: 0.305628\t최선의 손실: 0.047392\t정확도: 97.73%\n", - "11\t검증 세트 손실: 0.191479\t최선의 손실: 0.047392\t정확도: 96.52%\n", - "12\t검증 세트 손실: 0.165395\t최선의 손실: 0.047392\t정확도: 96.87%\n", - "13\t검증 세트 손실: 0.260276\t최선의 손실: 0.047392\t정확도: 95.97%\n", - "14\t검증 세트 손실: 0.179698\t최선의 손실: 0.047392\t정확도: 97.38%\n", - "15\t검증 세트 손실: 0.056757\t최선의 손실: 0.047392\t정확도: 98.59%\n", - "16\t검증 세트 손실: 0.260506\t최선의 손실: 0.047392\t정확도: 97.22%\n", - "17\t검증 세트 손실: 1.414460\t최선의 손실: 0.047392\t정확도: 88.35%\n", - "18\t검증 세트 손실: 0.113564\t최선의 손실: 0.047392\t정확도: 97.81%\n", - "19\t검증 세트 손실: 1.243818\t최선의 손실: 0.047392\t정확도: 94.80%\n", - "20\t검증 세트 손실: 0.101798\t최선의 손실: 0.047392\t정확도: 98.55%\n", - "21\t검증 세트 손실: 0.190385\t최선의 손실: 0.047392\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.099198\t최선의 손실: 0.047392\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.141255\t최선의 손실: 0.047392\t정확도: 98.12%\n", - "24\t검증 세트 손실: 0.099300\t최선의 손실: 0.047392\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.117514\t최선의 손실: 0.047392\t정확도: 98.51%\n", - "26\t검증 세트 손실: 0.159143\t최선의 손실: 0.047392\t정확도: 98.01%\n", - "27\t검증 세트 손실: 0.170380\t최선의 손실: 0.047392\t정확도: 97.89%\n", - "28\t검증 세트 손실: 0.156193\t최선의 손실: 0.047392\t정확도: 97.73%\n", - "29\t검증 세트 손실: 0.203965\t최선의 손실: 0.047392\t정확도: 98.44%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.0s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.067961\t최선의 손실: 0.067961\t정확도: 98.12%\n", + "1\t검증 세트 손실: 0.055229\t최선의 손실: 0.055229\t정확도: 98.24%\n", + "2\t검증 세트 손실: 0.050497\t최선의 손실: 0.050497\t정확도: 98.44%\n", + "3\t검증 세트 손실: 0.052547\t최선의 손실: 0.050497\t정확도: 98.51%\n", + "4\t검증 세트 손실: 0.049016\t최선의 손실: 0.049016\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.057574\t최선의 손실: 0.049016\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.047598\t최선의 손실: 0.047598\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.057304\t최선의 손실: 0.047598\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.057566\t최선의 손실: 0.047598\t정확도: 98.44%\n", + "9\t검증 세트 손실: 0.039803\t최선의 손실: 0.039803\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.053852\t최선의 손실: 0.039803\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.052146\t최선의 손실: 0.039803\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.048837\t최선의 손실: 0.039803\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.043940\t최선의 손실: 0.039803\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.042763\t최선의 손실: 0.039803\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.046612\t최선의 손실: 0.039803\t정확도: 99.14%\n", + "16\t검증 세트 손실: 0.048191\t최선의 손실: 0.039803\t정확도: 98.94%\n", + "17\t검증 세트 손실: 0.052050\t최선의 손실: 0.039803\t정확도: 98.94%\n", + "18\t검증 세트 손실: 0.043983\t최선의 손실: 0.039803\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.045390\t최선의 손실: 0.039803\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.042222\t최선의 손실: 0.039803\t정확도: 99.02%\n", + "21\t검증 세트 손실: 0.053585\t최선의 손실: 0.039803\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.051866\t최선의 손실: 0.039803\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.046016\t최선의 손실: 0.039803\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.043645\t최선의 손실: 0.039803\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.053797\t최선의 손실: 0.039803\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.055628\t최선의 손실: 0.039803\t정확도: 98.94%\n", + "27\t검증 세트 손실: 0.048787\t최선의 손실: 0.039803\t정확도: 99.06%\n", + "28\t검증 세트 손실: 0.043182\t최선의 손실: 0.039803\t정확도: 99.18%\n", + "29\t검증 세트 손실: 0.046245\t최선의 손실: 0.039803\t정확도: 98.98%\n", + "30\t검증 세트 손실: 0.048815\t최선의 손실: 0.039803\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 3.1min\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140 \n", - "0\t검증 세트 손실: 0.493161\t최선의 손실: 0.493161\t정확도: 95.54%\n", - "1\t검증 세트 손실: 0.441118\t최선의 손실: 0.441118\t정확도: 94.68%\n", - "2\t검증 세트 손실: 0.522968\t최선의 손실: 0.441118\t정확도: 90.34%\n", - "3\t검증 세트 손실: 0.290910\t최선의 손실: 0.290910\t정확도: 96.99%\n", - "4\t검증 세트 손실: 1.146777\t최선의 손실: 0.290910\t정확도: 96.87%\n", - "5\t검증 세트 손실: 0.300799\t최선의 손실: 0.290910\t정확도: 94.29%\n", - "6\t검증 세트 손실: 0.184808\t최선의 손실: 0.184808\t정확도: 97.42%\n", - "7\t검증 세트 손실: 0.189519\t최선의 손실: 0.184808\t정확도: 96.99%\n", - "8\t검증 세트 손실: 0.086486\t최선의 손실: 0.086486\t정확도: 97.93%\n", - "9\t검증 세트 손실: 0.142187\t최선의 손실: 0.086486\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.138434\t최선의 손실: 0.086486\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.345438\t최선의 손실: 0.086486\t정확도: 94.02%\n", - "12\t검증 세트 손실: 0.105808\t최선의 손실: 0.086486\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.107850\t최선의 손실: 0.086486\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.139177\t최선의 손실: 0.086486\t정확도: 97.97%\n", - "15\t검증 세트 손실: 0.500896\t최선의 손실: 0.086486\t정확도: 94.21%\n", - "16\t검증 세트 손실: 0.155276\t최선의 손실: 0.086486\t정확도: 98.28%\n", - "17\t검증 세트 손실: 0.493875\t최선의 손실: 0.086486\t정확도: 95.31%\n", - "18\t검증 세트 손실: 0.064763\t최선의 손실: 0.064763\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.226233\t최선의 손실: 0.064763\t정확도: 97.89%\n", - "20\t검증 세트 손실: 0.204016\t최선의 손실: 0.064763\t정확도: 98.05%\n", - "21\t검증 세트 손실: 0.129152\t최선의 손실: 0.064763\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.104999\t최선의 손실: 0.064763\t정확도: 98.32%\n", - "23\t검증 세트 손실: 0.142954\t최선의 손실: 0.064763\t정확도: 98.59%\n", - "24\t검증 세트 손실: 0.080547\t최선의 손실: 0.064763\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.675306\t최선의 손실: 0.064763\t정확도: 94.37%\n", - "26\t검증 세트 손실: 0.083711\t최선의 손실: 0.064763\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.118496\t최선의 손실: 0.064763\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.062209\t최선의 손실: 0.062209\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.125865\t최선의 손실: 0.062209\t정확도: 98.87%\n", - "30\t검증 세트 손실: 0.236404\t최선의 손실: 0.062209\t정확도: 98.28%\n", - "31\t검증 세트 손실: 0.104822\t최선의 손실: 0.062209\t정확도: 99.06%\n", - "32\t검증 세트 손실: 0.149137\t최선의 손실: 0.062209\t정확도: 98.91%\n", - "33\t검증 세트 손실: 0.171076\t최선의 손실: 0.062209\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.161566\t최선의 손실: 0.062209\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.182610\t최선의 손실: 0.062209\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.224212\t최선의 손실: 0.062209\t정확도: 98.48%\n", - "37\t검증 세트 손실: 0.232257\t최선의 손실: 0.062209\t정확도: 98.12%\n", - "38\t검증 세트 손실: 0.307822\t최선의 손실: 0.062209\t정확도: 97.97%\n", - "39\t검증 세트 손실: 0.185401\t최선의 손실: 0.062209\t정확도: 98.36%\n", - "40\t검증 세트 손실: 0.139612\t최선의 손실: 0.062209\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.337792\t최선의 손실: 0.062209\t정확도: 97.58%\n", - "42\t검증 세트 손실: 0.162186\t최선의 손실: 0.062209\t정확도: 98.59%\n", - "43\t검증 세트 손실: 0.277750\t최선의 손실: 0.062209\t정확도: 98.32%\n", - "44\t검증 세트 손실: 0.113696\t최선의 손실: 0.062209\t정확도: 98.94%\n", - "45\t검증 세트 손실: 0.151858\t최선의 손실: 0.062209\t정확도: 98.75%\n", - "46\t검증 세트 손실: 0.365426\t최선의 손실: 0.062209\t정확도: 98.05%\n", - "47\t검증 세트 손실: 0.114940\t최선의 손실: 0.062209\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.366033\t최선의 손실: 0.062209\t정확도: 97.50%\n", - "49\t검증 세트 손실: 0.265177\t최선의 손실: 0.062209\t정확도: 98.05%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.1s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.095219\t최선의 손실: 0.095219\t정확도: 97.62%\n", + "1\t검증 세트 손실: 0.105717\t최선의 손실: 0.095219\t정확도: 97.42%\n", + "2\t검증 세트 손실: 0.073054\t최선의 손실: 0.073054\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.070896\t최선의 손실: 0.070896\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.075681\t최선의 손실: 0.070896\t정확도: 97.89%\n", + "5\t검증 세트 손실: 0.088120\t최선의 손실: 0.070896\t정확도: 97.97%\n", + "6\t검증 세트 손실: 0.057466\t최선의 손실: 0.057466\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.082265\t최선의 손실: 0.057466\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.050639\t최선의 손실: 0.050639\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.124489\t최선의 손실: 0.050639\t정확도: 96.91%\n", + "10\t검증 세트 손실: 0.076898\t최선의 손실: 0.050639\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.066769\t최선의 손실: 0.050639\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.082173\t최선의 손실: 0.050639\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.084539\t최선의 손실: 0.050639\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.091698\t최선의 손실: 0.050639\t정확도: 98.01%\n", + "15\t검증 세트 손실: 0.045112\t최선의 손실: 0.045112\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.052124\t최선의 손실: 0.045112\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.140061\t최선의 손실: 0.045112\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.123986\t최선의 손실: 0.045112\t정확도: 97.73%\n", + "19\t검증 세트 손실: 0.068670\t최선의 손실: 0.045112\t정확도: 98.63%\n", + "20\t검증 세트 손실: 0.050144\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "21\t검증 세트 손실: 0.060745\t최선의 손실: 0.045112\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.058686\t최선의 손실: 0.045112\t정확도: 98.79%\n", + "23\t검증 세트 손실: 0.114849\t최선의 손실: 0.045112\t정확도: 98.20%\n", + "24\t검증 세트 손실: 0.076253\t최선의 손실: 0.045112\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.064354\t최선의 손실: 0.045112\t정확도: 98.79%\n", + "26\t검증 세트 손실: 0.073260\t최선의 손실: 0.045112\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.078315\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.047502\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.086943\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.076251\t최선의 손실: 0.045112\t정확도: 99.02%\n", + "31\t검증 세트 손실: 0.064599\t최선의 손실: 0.045112\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.056507\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.147521\t최선의 손실: 0.045112\t정확도: 98.12%\n", + "34\t검증 세트 손실: 0.101733\t최선의 손실: 0.045112\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.106564\t최선의 손실: 0.045112\t정확도: 98.75%\n", + "36\t검증 세트 손실: 0.097597\t최선의 손실: 0.045112\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.05, batch_norm_momentum=0.999, n_neurons=140, total= 5.2min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70 \n" + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 54.4s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.168244\t최선의 손실: 0.168244\t정확도: 95.74%\n", + "1\t검증 세트 손실: 0.079349\t최선의 손실: 0.079349\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.119845\t최선의 손실: 0.079349\t정확도: 96.76%\n", + "3\t검증 세트 손실: 0.079577\t최선의 손실: 0.079349\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.081933\t최선의 손실: 0.079349\t정확도: 97.93%\n", + "5\t검증 세트 손실: 0.091369\t최선의 손실: 0.079349\t정확도: 97.69%\n", + "6\t검증 세트 손실: 0.124185\t최선의 손실: 0.079349\t정확도: 97.19%\n", + "7\t검증 세트 손실: 0.057399\t최선의 손실: 0.057399\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.067514\t최선의 손실: 0.057399\t정확도: 98.05%\n", + "9\t검증 세트 손실: 0.061358\t최선의 손실: 0.057399\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.064615\t최선의 손실: 0.057399\t정확도: 98.28%\n", + "11\t검증 세트 손실: 0.073075\t최선의 손실: 0.057399\t정확도: 98.48%\n", + "12\t검증 세트 손실: 0.132870\t최선의 손실: 0.057399\t정확도: 97.93%\n", + "13\t검증 세트 손실: 0.074921\t최선의 손실: 0.057399\t정확도: 98.20%\n", + "14\t검증 세트 손실: 0.057622\t최선의 손실: 0.057399\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.050461\t최선의 손실: 0.050461\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.125160\t최선의 손실: 0.050461\t정확도: 97.54%\n", + "17\t검증 세트 손실: 0.073272\t최선의 손실: 0.050461\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.055216\t최선의 손실: 0.050461\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.065822\t최선의 손실: 0.050461\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.072428\t최선의 손실: 0.050461\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.081167\t최선의 손실: 0.050461\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.061713\t최선의 손실: 0.050461\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.097352\t최선의 손실: 0.050461\t정확도: 98.36%\n", + "24\t검증 세트 손실: 0.084420\t최선의 손실: 0.050461\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.080815\t최선의 손실: 0.050461\t정확도: 98.59%\n", + "26\t검증 세트 손실: 0.069932\t최선의 손실: 0.050461\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.091722\t최선의 손실: 0.050461\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.084886\t최선의 손실: 0.050461\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.081360\t최선의 손실: 0.050461\t정확도: 98.59%\n", + "30\t검증 세트 손실: 0.077362\t최선의 손실: 0.050461\t정확도: 98.63%\n", + "31\t검증 세트 손실: 0.199051\t최선의 손실: 0.050461\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.133241\t최선의 손실: 0.050461\t정확도: 98.16%\n", + "33\t검증 세트 손실: 0.090352\t최선의 손실: 0.050461\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.105353\t최선의 손실: 0.050461\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.228627\t최선의 손실: 0.050461\t정확도: 98.20%\n", + "36\t검증 세트 손실: 0.305731\t최선의 손실: 0.050461\t정확도: 96.60%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 54.9s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.159471\t최선의 손실: 0.159471\t정확도: 95.43%\n", - "1\t검증 세트 손실: 0.086191\t최선의 손실: 0.086191\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.088526\t최선의 손실: 0.086191\t정확도: 97.73%\n", - "3\t검증 세트 손실: 0.079645\t최선의 손실: 0.079645\t정확도: 97.89%\n", - "4\t검증 세트 손실: 0.073451\t최선의 손실: 0.073451\t정확도: 97.85%\n", - "5\t검증 세트 손실: 0.095928\t최선의 손실: 0.073451\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.067359\t최선의 손실: 0.067359\t정확도: 98.28%\n", - "7\t검증 세트 손실: 0.053618\t최선의 손실: 0.053618\t정확도: 98.51%\n", - "8\t검증 세트 손실: 0.065295\t최선의 손실: 0.053618\t정확도: 98.91%\n", - "9\t검증 세트 손실: 0.104914\t최선의 손실: 0.053618\t정확도: 97.89%\n", - "10\t검증 세트 손실: 0.051703\t최선의 손실: 0.051703\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.091118\t최선의 손실: 0.051703\t정확도: 98.36%\n", - "12\t검증 세트 손실: 0.099088\t최선의 손실: 0.051703\t정확도: 98.16%\n", - "13\t검증 세트 손실: 0.048817\t최선의 손실: 0.048817\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.086798\t최선의 손실: 0.048817\t정확도: 98.44%\n", - "15\t검증 세트 손실: 0.096072\t최선의 손실: 0.048817\t정확도: 98.01%\n", - "16\t검증 세트 손실: 0.059161\t최선의 손실: 0.048817\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.046486\t최선의 손실: 0.046486\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.085353\t최선의 손실: 0.046486\t정확도: 98.40%\n", - "19\t검증 세트 손실: 0.082220\t최선의 손실: 0.046486\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.062105\t최선의 손실: 0.046486\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.079298\t최선의 손실: 0.046486\t정확도: 98.79%\n", - "22\t검증 세트 손실: 0.057623\t최선의 손실: 0.046486\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.057712\t최선의 손실: 0.046486\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.069260\t최선의 손실: 0.046486\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.056484\t최선의 손실: 0.046486\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.083098\t최선의 손실: 0.046486\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.081916\t최선의 손실: 0.046486\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.079876\t최선의 손실: 0.046486\t정확도: 98.51%\n", - "29\t검증 세트 손실: 0.074126\t최선의 손실: 0.046486\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.092348\t최선의 손실: 0.046486\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.058143\t최선의 손실: 0.046486\t정확도: 99.10%\n", - "32\t검증 세트 손실: 0.049243\t최선의 손실: 0.046486\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.050219\t최선의 손실: 0.046486\t정확도: 99.34%\n", - "34\t검증 세트 손실: 0.072959\t최선의 손실: 0.046486\t정확도: 98.75%\n", - "35\t검증 세트 손실: 0.080203\t최선의 손실: 0.046486\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.067982\t최선의 손실: 0.046486\t정확도: 98.75%\n", - "37\t검증 세트 손실: 0.124554\t최선의 손실: 0.046486\t정확도: 98.20%\n", - "38\t검증 세트 손실: 0.080788\t최선의 손실: 0.046486\t정확도: 98.59%\n", + "0\t검증 세트 손실: 0.175080\t최선의 손실: 0.175080\t정확도: 95.90%\n", + "1\t검증 세트 손실: 0.103548\t최선의 손실: 0.103548\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.081268\t최선의 손실: 0.081268\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.089182\t최선의 손실: 0.081268\t정확도: 97.85%\n", + "4\t검증 세트 손실: 0.058621\t최선의 손실: 0.058621\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.079671\t최선의 손실: 0.058621\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.112143\t최선의 손실: 0.058621\t정확도: 96.44%\n", + "7\t검증 세트 손실: 0.071020\t최선의 손실: 0.058621\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.086873\t최선의 손실: 0.058621\t정확도: 98.48%\n", + "9\t검증 세트 손실: 0.151214\t최선의 손실: 0.058621\t정확도: 96.33%\n", + "10\t검증 세트 손실: 0.069223\t최선의 손실: 0.058621\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.047414\t최선의 손실: 0.047414\t정확도: 98.87%\n", + "12\t검증 세트 손실: 0.207594\t최선의 손실: 0.047414\t정확도: 97.81%\n", + "13\t검증 세트 손실: 0.057484\t최선의 손실: 0.047414\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.063920\t최선의 손실: 0.047414\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.059514\t최선의 손실: 0.047414\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.057156\t최선의 손실: 0.047414\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.077410\t최선의 손실: 0.047414\t정확도: 98.32%\n", + "18\t검증 세트 손실: 0.066622\t최선의 손실: 0.047414\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.074319\t최선의 손실: 0.047414\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.058334\t최선의 손실: 0.047414\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.089942\t최선의 손실: 0.047414\t정확도: 98.63%\n", + "22\t검증 세트 손실: 0.072470\t최선의 손실: 0.047414\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.091466\t최선의 손실: 0.047414\t정확도: 98.28%\n", + "24\t검증 세트 손실: 0.067545\t최선의 손실: 0.047414\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.090143\t최선의 손실: 0.047414\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.079757\t최선의 손실: 0.047414\t정확도: 98.55%\n", + "27\t검증 세트 손실: 0.070540\t최선의 손실: 0.047414\t정확도: 98.08%\n", + "28\t검증 세트 손실: 0.060927\t최선의 손실: 0.047414\t정확도: 98.67%\n", + "29\t검증 세트 손실: 0.063925\t최선의 손실: 0.047414\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.093133\t최선의 손실: 0.047414\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.092652\t최선의 손실: 0.047414\t정확도: 98.71%\n", + "32\t검증 세트 손실: 0.080431\t최선의 손실: 0.047414\t정확도: 98.75%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70, total= 57.3s\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70 \n", - "0\t검증 세트 손실: 0.170013\t최선의 손실: 0.170013\t정확도: 96.01%\n", - "1\t검증 세트 손실: 0.075382\t최선의 손실: 0.075382\t정확도: 98.12%\n", - "2\t검증 세트 손실: 0.091120\t최선의 손실: 0.075382\t정확도: 97.73%\n", - "3\t검증 세트 손실: 0.101989\t최선의 손실: 0.075382\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.060178\t최선의 손실: 0.060178\t정확도: 98.63%\n", - "5\t검증 세트 손실: 0.152828\t최선의 손실: 0.060178\t정확도: 97.19%\n", - "6\t검증 세트 손실: 0.079138\t최선의 손실: 0.060178\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.059889\t최선의 손실: 0.059889\t정확도: 98.08%\n", - "8\t검증 세트 손실: 0.056250\t최선의 손실: 0.056250\t정확도: 98.32%\n", - "9\t검증 세트 손실: 0.074646\t최선의 손실: 0.056250\t정확도: 98.59%\n", - "10\t검증 세트 손실: 0.064788\t최선의 손실: 0.056250\t정확도: 98.05%\n", - "11\t검증 세트 손실: 0.052458\t최선의 손실: 0.052458\t정확도: 98.71%\n", - "12\t검증 세트 손실: 0.058304\t최선의 손실: 0.052458\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.058086\t최선의 손실: 0.052458\t정확도: 98.51%\n", - "14\t검증 세트 손실: 0.095570\t최선의 손실: 0.052458\t정확도: 98.16%\n", - "15\t검증 세트 손실: 0.069161\t최선의 손실: 0.052458\t정확도: 98.44%\n", - "16\t검증 세트 손실: 0.083527\t최선의 손실: 0.052458\t정확도: 98.28%\n", - "17\t검증 세트 손실: 0.094122\t최선의 손실: 0.052458\t정확도: 98.32%\n", - "18\t검증 세트 손실: 0.054591\t최선의 손실: 0.052458\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.081997\t최선의 손실: 0.052458\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.068243\t최선의 손실: 0.052458\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.090026\t최선의 손실: 0.052458\t정확도: 98.40%\n", - "22\t검증 세트 손실: 0.052689\t최선의 손실: 0.052458\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.045850\t최선의 손실: 0.045850\t정확도: 98.87%\n", - "24\t검증 세트 손실: 0.077498\t최선의 손실: 0.045850\t정확도: 98.51%\n", - "25\t검증 세트 손실: 0.065465\t최선의 손실: 0.045850\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.059927\t최선의 손실: 0.045850\t정확도: 99.02%\n", - "27\t검증 세트 손실: 0.053308\t최선의 손실: 0.045850\t정확도: 98.91%\n", - "28\t검증 세트 손실: 0.067475\t최선의 손실: 0.045850\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.051927\t최선의 손실: 0.045850\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.137845\t최선의 손실: 0.045850\t정확도: 98.40%\n", - "31\t검증 세트 손실: 0.078815\t최선의 손실: 0.045850\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.052088\t최선의 손실: 0.045850\t정확도: 99.14%\n", - "33\t검증 세트 손실: 0.111957\t최선의 손실: 0.045850\t정확도: 98.51%\n", - "34\t검증 세트 손실: 0.065633\t최선의 손실: 0.045850\t정확도: 98.67%\n", - "35\t검증 세트 손실: 0.078841\t최선의 손실: 0.045850\t정확도: 98.40%\n", - "36\t검증 세트 손실: 0.064393\t최선의 손실: 0.045850\t정확도: 98.51%\n", - "37\t검증 세트 손실: 0.102391\t최선의 손실: 0.045850\t정확도: 98.40%\n", - "38\t검증 세트 손실: 0.099589\t최선의 손실: 0.045850\t정확도: 98.36%\n", - "39\t검증 세트 손실: 0.086384\t최선의 손실: 0.045850\t정확도: 98.24%\n", - "40\t검증 세트 손실: 0.059899\t최선의 손실: 0.045850\t정확도: 98.91%\n", - "41\t검증 세트 손실: 0.064106\t최선의 손실: 0.045850\t정확도: 98.75%\n", - "42\t검증 세트 손실: 0.056259\t최선의 손실: 0.045850\t정확도: 98.87%\n", - "43\t검증 세트 손실: 0.109210\t최선의 손실: 0.045850\t정확도: 98.63%\n", - "44\t검증 세트 손실: 0.101052\t최선의 손실: 0.045850\t정확도: 98.59%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 48.9s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.140626\t최선의 손실: 0.140626\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.061266\t최선의 손실: 0.061266\t정확도: 98.20%\n", + "2\t검증 세트 손실: 0.077403\t최선의 손실: 0.061266\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.070038\t최선의 손실: 0.061266\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.056376\t최선의 손실: 0.056376\t정확도: 98.24%\n", + "5\t검증 세트 손실: 0.069409\t최선의 손실: 0.056376\t정확도: 98.08%\n", + "6\t검증 세트 손실: 0.057344\t최선의 손실: 0.056376\t정확도: 98.12%\n", + "7\t검증 세트 손실: 0.056101\t최선의 손실: 0.056101\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.069095\t최선의 손실: 0.056101\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.063187\t최선의 손실: 0.056101\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.045855\t최선의 손실: 0.045855\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.071577\t최선의 손실: 0.045855\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.057365\t최선의 손실: 0.045855\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.069880\t최선의 손실: 0.045855\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.066639\t최선의 손실: 0.045855\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.073541\t최선의 손실: 0.045855\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.058613\t최선의 손실: 0.045855\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.055510\t최선의 손실: 0.045855\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.075830\t최선의 손실: 0.045855\t정확도: 98.55%\n", + "19\t검증 세트 손실: 0.074353\t최선의 손실: 0.045855\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.057268\t최선의 손실: 0.045855\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.086822\t최선의 손실: 0.045855\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.050904\t최선의 손실: 0.045855\t정확도: 99.14%\n", + "23\t검증 세트 손실: 0.065840\t최선의 손실: 0.045855\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.049523\t최선의 손실: 0.045855\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.059124\t최선의 손실: 0.045855\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.056728\t최선의 손실: 0.045855\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.061113\t최선의 손실: 0.045855\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.052627\t최선의 손실: 0.045855\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.052155\t최선의 손실: 0.045855\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.050536\t최선의 손실: 0.045855\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.039589\t최선의 손실: 0.039589\t정확도: 98.83%\n", + "32\t검증 세트 손실: 0.038064\t최선의 손실: 0.038064\t정확도: 99.10%\n", + "33\t검증 세트 손실: 0.039310\t최선의 손실: 0.038064\t정확도: 99.10%\n", + "34\t검증 세트 손실: 0.047129\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "35\t검증 세트 손실: 0.039566\t최선의 손실: 0.038064\t정확도: 99.06%\n", + "36\t검증 세트 손실: 0.044006\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "37\t검증 세트 손실: 0.042376\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.042510\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "39\t검증 세트 손실: 0.041759\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.044936\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.045381\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "42\t검증 세트 손실: 0.045546\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "43\t검증 세트 손실: 0.044845\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "44\t검증 세트 손실: 0.045134\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "45\t검증 세트 손실: 0.045408\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "46\t검증 세트 손실: 0.045853\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "47\t검증 세트 손실: 0.045305\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "48\t검증 세트 손실: 0.045438\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "49\t검증 세트 손실: 0.045663\t최선의 손실: 0.038064\t정확도: 99.06%\n", + "50\t검증 세트 손실: 0.046111\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.046554\t최선의 손실: 0.038064\t정확도: 99.02%\n", + "52\t검증 세트 손실: 0.047050\t최선의 손실: 0.038064\t정확도: 98.98%\n", + "53\t검증 세트 손실: 0.047688\t최선의 손실: 0.038064\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70, total= 1.1min\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70 \n", - "0\t검증 세트 손실: 0.209219\t최선의 손실: 0.209219\t정확도: 95.66%\n", - "1\t검증 세트 손실: 0.076929\t최선의 손실: 0.076929\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.091216\t최선의 손실: 0.076929\t정확도: 97.65%\n", - "3\t검증 세트 손실: 0.072728\t최선의 손실: 0.072728\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.078856\t최선의 손실: 0.072728\t정확도: 97.97%\n", - "5\t검증 세트 손실: 0.073982\t최선의 손실: 0.072728\t정확도: 98.01%\n", - "6\t검증 세트 손실: 0.072736\t최선의 손실: 0.072728\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.151626\t최선의 손실: 0.072728\t정확도: 96.64%\n", - "8\t검증 세트 손실: 0.069100\t최선의 손실: 0.069100\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.061906\t최선의 손실: 0.061906\t정확도: 98.12%\n", - "10\t검증 세트 손실: 0.094723\t최선의 손실: 0.061906\t정확도: 98.12%\n", - "11\t검증 세트 손실: 0.058318\t최선의 손실: 0.058318\t정확도: 98.40%\n", - "12\t검증 세트 손실: 0.060118\t최선의 손실: 0.058318\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.059640\t최선의 손실: 0.058318\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.078938\t최선의 손실: 0.058318\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.066538\t최선의 손실: 0.058318\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.067758\t최선의 손실: 0.058318\t정확도: 98.40%\n", - "17\t검증 세트 손실: 0.083072\t최선의 손실: 0.058318\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.137469\t최선의 손실: 0.058318\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.060224\t최선의 손실: 0.058318\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.063920\t최선의 손실: 0.058318\t정확도: 98.63%\n", - "21\t검증 세트 손실: 0.050515\t최선의 손실: 0.050515\t정확도: 99.02%\n", - "22\t검증 세트 손실: 0.059857\t최선의 손실: 0.050515\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.065171\t최선의 손실: 0.050515\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.054030\t최선의 손실: 0.050515\t정확도: 98.94%\n", - "25\t검증 세트 손실: 0.062598\t최선의 손실: 0.050515\t정확도: 98.44%\n", - "26\t검증 세트 손실: 0.051893\t최선의 손실: 0.050515\t정확도: 98.67%\n", - "27\t검증 세트 손실: 0.049937\t최선의 손실: 0.049937\t정확도: 98.91%\n", - "28\t검증 세트 손실: 0.056449\t최선의 손실: 0.049937\t정확도: 98.91%\n", - "29\t검증 세트 손실: 0.059673\t최선의 손실: 0.049937\t정확도: 98.98%\n", - "30\t검증 세트 손실: 0.160729\t최선의 손실: 0.049937\t정확도: 98.28%\n", - "31\t검증 세트 손실: 0.065066\t최선의 손실: 0.049937\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.067019\t최선의 손실: 0.049937\t정확도: 98.75%\n", - "33\t검증 세트 손실: 0.065709\t최선의 손실: 0.049937\t정확도: 98.51%\n", - "34\t검증 세트 손실: 0.071227\t최선의 손실: 0.049937\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.127996\t최선의 손실: 0.049937\t정확도: 98.55%\n", - "36\t검증 세트 손실: 0.080193\t최선의 손실: 0.049937\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.069568\t최선의 손실: 0.049937\t정확도: 98.87%\n", - "38\t검증 세트 손실: 0.074172\t최선의 손실: 0.049937\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.133766\t최선의 손실: 0.049937\t정확도: 98.40%\n", - "40\t검증 세트 손실: 0.080795\t최선의 손실: 0.049937\t정확도: 98.71%\n", - "41\t검증 세트 손실: 0.107418\t최선의 손실: 0.049937\t정확도: 98.40%\n", - "42\t검증 세트 손실: 0.073153\t최선의 손실: 0.049937\t정확도: 98.51%\n", - "43\t검증 세트 손실: 0.078024\t최선의 손실: 0.049937\t정확도: 98.67%\n", - "44\t검증 세트 손실: 0.063595\t최선의 손실: 0.049937\t정확도: 98.94%\n", - "45\t검증 세트 손실: 0.110486\t최선의 손실: 0.049937\t정확도: 98.87%\n", - "46\t검증 세트 손실: 0.109057\t최선의 손실: 0.049937\t정확도: 98.79%\n", - "47\t검증 세트 손실: 0.092582\t최선의 손실: 0.049937\t정확도: 98.75%\n", - "48\t검증 세트 손실: 0.073971\t최선의 손실: 0.049937\t정확도: 98.91%\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 11.0s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.254350\t최선의 손실: 0.254350\t정확도: 95.19%\n", + "1\t검증 세트 손실: 0.103038\t최선의 손실: 0.103038\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.083689\t최선의 손실: 0.083689\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.051127\t최선의 손실: 0.051127\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.074358\t최선의 손실: 0.051127\t정확도: 97.89%\n", + "5\t검증 세트 손실: 0.060663\t최선의 손실: 0.051127\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.044615\t최선의 손실: 0.044615\t정확도: 98.79%\n", + "7\t검증 세트 손실: 0.070712\t최선의 손실: 0.044615\t정확도: 98.32%\n", + "8\t검증 세트 손실: 0.068465\t최선의 손실: 0.044615\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.057473\t최선의 손실: 0.044615\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.100868\t최선의 손실: 0.044615\t정확도: 97.77%\n", + "11\t검증 세트 손실: 0.063192\t최선의 손실: 0.044615\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.072072\t최선의 손실: 0.044615\t정확도: 98.51%\n", + "13\t검증 세트 손실: 0.049030\t최선의 손실: 0.044615\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.057440\t최선의 손실: 0.044615\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.043509\t최선의 손실: 0.043509\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.077595\t최선의 손실: 0.043509\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.064632\t최선의 손실: 0.043509\t정확도: 98.36%\n", + "18\t검증 세트 손실: 0.057785\t최선의 손실: 0.043509\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.046590\t최선의 손실: 0.043509\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.044775\t최선의 손실: 0.043509\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.062949\t최선의 손실: 0.043509\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.053534\t최선의 손실: 0.043509\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.061223\t최선의 손실: 0.043509\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.066336\t최선의 손실: 0.043509\t정확도: 98.59%\n", + "25\t검증 세트 손실: 0.075019\t최선의 손실: 0.043509\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.050055\t최선의 손실: 0.043509\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.063285\t최선의 손실: 0.043509\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.060330\t최선의 손실: 0.043509\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.058538\t최선의 손실: 0.043509\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.059268\t최선의 손실: 0.043509\t정확도: 98.98%\n", + "31\t검증 세트 손실: 0.058922\t최선의 손실: 0.043509\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.063333\t최선의 손실: 0.043509\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.082258\t최선의 손실: 0.043509\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.072931\t최선의 손실: 0.043509\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.077340\t최선의 손실: 0.043509\t정확도: 98.71%\n", + "36\t검증 세트 손실: 0.068315\t최선의 손실: 0.043509\t정확도: 98.63%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.95, n_neurons=70, total= 1.2min\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30 \n", - "0\t검증 세트 손실: 0.807715\t최선의 손실: 0.807715\t정확도: 86.63%\n", - "1\t검증 세트 손실: 0.873947\t최선의 손실: 0.807715\t정확도: 85.22%\n", - "2\t검증 세트 손실: 0.781258\t최선의 손실: 0.781258\t정확도: 88.00%\n", - "3\t검증 세트 손실: 0.380515\t최선의 손실: 0.380515\t정확도: 93.35%\n", - "4\t검증 세트 손실: 0.341699\t최선의 손실: 0.341699\t정확도: 93.32%\n", - "5\t검증 세트 손실: 0.512823\t최선의 손실: 0.341699\t정확도: 92.06%\n", - "6\t검증 세트 손실: 0.192770\t최선의 손실: 0.192770\t정확도: 96.91%\n", - "7\t검증 세트 손실: 0.264989\t최선의 손실: 0.192770\t정확도: 96.52%\n", - "8\t검증 세트 손실: 0.293473\t최선의 손실: 0.192770\t정확도: 95.82%\n", - "9\t검증 세트 손실: 0.264163\t최선의 손실: 0.192770\t정확도: 96.79%\n" + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 8.1s\n", + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.189111\t최선의 손실: 0.189111\t정확도: 95.97%\n", + "1\t검증 세트 손실: 0.061382\t최선의 손실: 0.061382\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.052477\t최선의 손실: 0.052477\t정확도: 98.44%\n", + "3\t검증 세트 손실: 0.042755\t최선의 손실: 0.042755\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.050621\t최선의 손실: 0.042755\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.071761\t최선의 손실: 0.042755\t정확도: 98.36%\n", + "6\t검증 세트 손실: 0.063798\t최선의 손실: 0.042755\t정확도: 98.44%\n", + "7\t검증 세트 손실: 0.049257\t최선의 손실: 0.042755\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.055330\t최선의 손실: 0.042755\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.045376\t최선의 손실: 0.042755\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.059467\t최선의 손실: 0.042755\t정확도: 98.63%\n", + "11\t검증 세트 손실: 0.047005\t최선의 손실: 0.042755\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.062751\t최선의 손실: 0.042755\t정확도: 98.71%\n", + "13\t검증 세트 손실: 0.060541\t최선의 손실: 0.042755\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.059494\t최선의 손실: 0.042755\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.066015\t최선의 손실: 0.042755\t정확도: 98.44%\n", + "16\t검증 세트 손실: 0.048029\t최선의 손실: 0.042755\t정확도: 99.02%\n", + "17\t검증 세트 손실: 0.060158\t최선의 손실: 0.042755\t정확도: 98.67%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 0.319068\t최선의 손실: 0.192770\t정확도: 96.60%\n", - "11\t검증 세트 손실: 0.301009\t최선의 손실: 0.192770\t정확도: 96.79%\n", - "12\t검증 세트 손실: 0.255210\t최선의 손실: 0.192770\t정확도: 97.34%\n", - "13\t검증 세트 손실: 0.411416\t최선의 손실: 0.192770\t정확도: 96.29%\n", - "14\t검증 세트 손실: 0.235172\t최선의 손실: 0.192770\t정확도: 97.62%\n", - "15\t검증 세트 손실: 0.172069\t최선의 손실: 0.172069\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.219581\t최선의 손실: 0.172069\t정확도: 97.58%\n", - "17\t검증 세트 손실: 0.204718\t최선의 손실: 0.172069\t정확도: 97.77%\n", - "18\t검증 세트 손실: 0.218686\t최선의 손실: 0.172069\t정확도: 97.73%\n", - "19\t검증 세트 손실: 0.192214\t최선의 손실: 0.172069\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.171978\t최선의 손실: 0.171978\t정확도: 98.32%\n", - "21\t검증 세트 손실: 0.229062\t최선의 손실: 0.171978\t정확도: 98.16%\n", - "22\t검증 세트 손실: 0.243987\t최선의 손실: 0.171978\t정확도: 97.38%\n", - "23\t검증 세트 손실: 0.190578\t최선의 손실: 0.171978\t정확도: 98.44%\n", - "24\t검증 세트 손실: 0.163932\t최선의 손실: 0.163932\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.188630\t최선의 손실: 0.163932\t정확도: 98.24%\n", - "26\t검증 세트 손실: 0.209388\t최선의 손실: 0.163932\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.153010\t최선의 손실: 0.153010\t정확도: 98.55%\n", - "28\t검증 세트 손실: 0.137776\t최선의 손실: 0.137776\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.134993\t최선의 손실: 0.134993\t정확도: 98.75%\n", - "30\t검증 세트 손실: 0.114397\t최선의 손실: 0.114397\t정확도: 98.48%\n", - "31\t검증 세트 손실: 0.108852\t최선의 손실: 0.108852\t정확도: 98.59%\n", - "32\t검증 세트 손실: 0.101213\t최선의 손실: 0.101213\t정확도: 98.67%\n", - "33\t검증 세트 손실: 0.098962\t최선의 손실: 0.098962\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.092069\t최선의 손실: 0.092069\t정확도: 98.71%\n", - "35\t검증 세트 손실: 0.089113\t최선의 손실: 0.089113\t정확도: 98.75%\n", - "36\t검증 세트 손실: 0.086567\t최선의 손실: 0.086567\t정확도: 98.79%\n", - "37\t검증 세트 손실: 0.086999\t최선의 손실: 0.086567\t정확도: 98.75%\n", - "38\t검증 세트 손실: 0.082672\t최선의 손실: 0.082672\t정확도: 98.79%\n", - "39\t검증 세트 손실: 0.080718\t최선의 손실: 0.080718\t정확도: 98.79%\n", - "40\t검증 세트 손실: 0.079001\t최선의 손실: 0.079001\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.077647\t최선의 손실: 0.077647\t정확도: 98.79%\n", - "42\t검증 세트 손실: 0.076493\t최선의 손실: 0.076493\t정확도: 98.75%\n", - "43\t검증 세트 손실: 0.074591\t최선의 손실: 0.074591\t정확도: 98.83%\n", - "44\t검증 세트 손실: 0.073490\t최선의 손실: 0.073490\t정확도: 98.75%\n", - "45\t검증 세트 손실: 0.073193\t최선의 손실: 0.073193\t정확도: 98.75%\n", - "46\t검증 세트 손실: 0.072099\t최선의 손실: 0.072099\t정확도: 98.87%\n", - "47\t검증 세트 손실: 0.070630\t최선의 손실: 0.070630\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.069077\t최선의 손실: 0.069077\t정확도: 98.87%\n", - "49\t검증 세트 손실: 0.069835\t최선의 손실: 0.069077\t정확도: 98.79%\n", - "50\t검증 세트 손실: 0.069817\t최선의 손실: 0.069077\t정확도: 98.79%\n", - "51\t검증 세트 손실: 0.068487\t최선의 손실: 0.068487\t정확도: 98.87%\n", - "52\t검증 세트 손실: 0.066781\t최선의 손실: 0.066781\t정확도: 98.91%\n", - "53\t검증 세트 손실: 0.067611\t최선의 손실: 0.066781\t정확도: 98.79%\n", - "54\t검증 세트 손실: 0.069005\t최선의 손실: 0.066781\t정확도: 98.83%\n", - "55\t검증 세트 손실: 0.068396\t최선의 손실: 0.066781\t정확도: 98.83%\n", - "56\t검증 세트 손실: 0.065865\t최선의 손실: 0.065865\t정확도: 98.87%\n", - "57\t검증 세트 손실: 0.065482\t최선의 손실: 0.065482\t정확도: 98.83%\n", - "58\t검증 세트 손실: 0.065216\t최선의 손실: 0.065216\t정확도: 98.83%\n", - "59\t검증 세트 손실: 0.064563\t최선의 손실: 0.064563\t정확도: 98.87%\n", - "60\t검증 세트 손실: 0.062341\t최선의 손실: 0.062341\t정확도: 98.91%\n", - "61\t검증 세트 손실: 0.063714\t최선의 손실: 0.062341\t정확도: 98.83%\n", - "62\t검증 세트 손실: 0.063006\t최선의 손실: 0.062341\t정확도: 98.79%\n", - "63\t검증 세트 손실: 0.063267\t최선의 손실: 0.062341\t정확도: 98.87%\n", - "64\t검증 세트 손실: 0.062413\t최선의 손실: 0.062341\t정확도: 98.87%\n", - "65\t검증 세트 손실: 0.061477\t최선의 손실: 0.061477\t정확도: 98.91%\n", - "66\t검증 세트 손실: 0.062323\t최선의 손실: 0.061477\t정확도: 98.83%\n", - "67\t검증 세트 손실: 0.063324\t최선의 손실: 0.061477\t정확도: 98.83%\n", - "68\t검증 세트 손실: 0.062594\t최선의 손실: 0.061477\t정확도: 98.87%\n", - "69\t검증 세트 손실: 0.061164\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "70\t검증 세트 손실: 0.062381\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "71\t검증 세트 손실: 0.062474\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "72\t검증 세트 손실: 0.062384\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "73\t검증 세트 손실: 0.062537\t최선의 손실: 0.061164\t정확도: 98.83%\n", - "74\t검증 세트 손실: 0.061997\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "75\t검증 세트 손실: 0.062275\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "76\t검증 세트 손실: 0.062123\t최선의 손실: 0.061164\t정확도: 98.94%\n", - "77\t검증 세트 손실: 0.061821\t최선의 손실: 0.061164\t정확도: 98.94%\n", - "78\t검증 세트 손실: 0.063660\t최선의 손실: 0.061164\t정확도: 98.83%\n", - "79\t검증 세트 손실: 0.063238\t최선의 손실: 0.061164\t정확도: 98.87%\n", - "80\t검증 세트 손실: 0.063775\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "81\t검증 세트 손실: 0.062609\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "82\t검증 세트 손실: 0.062288\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "83\t검증 세트 손실: 0.061726\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "84\t검증 세트 손실: 0.061228\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "85\t검증 세트 손실: 0.062219\t최선의 손실: 0.061164\t정확도: 98.98%\n", - "86\t검증 세트 손실: 0.061269\t최선의 손실: 0.061164\t정확도: 98.94%\n", - "87\t검증 세트 손실: 0.061755\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "88\t검증 세트 손실: 0.061285\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "89\t검증 세트 손실: 0.061301\t최선의 손실: 0.061164\t정확도: 98.91%\n", - "90\t검증 세트 손실: 0.061250\t최선의 손실: 0.061164\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.046305\t최선의 손실: 0.042755\t정확도: 98.87%\n", + "19\t검증 세트 손실: 0.064976\t최선의 손실: 0.042755\t정확도: 98.55%\n", + "20\t검증 세트 손실: 0.067832\t최선의 손실: 0.042755\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.085064\t최선의 손실: 0.042755\t정확도: 98.08%\n", + "22\t검증 세트 손실: 0.075416\t최선의 손실: 0.042755\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.058795\t최선의 손실: 0.042755\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.055471\t최선의 손실: 0.042755\t정확도: 99.14%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30, total= 17.3s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30 \n", - "0\t검증 세트 손실: 1.155564\t최선의 손실: 1.155564\t정확도: 83.11%\n", - "1\t검증 세트 손실: 0.514831\t최선의 손실: 0.514831\t정확도: 91.79%\n", - "2\t검증 세트 손실: 0.535744\t최선의 손실: 0.514831\t정확도: 91.05%\n", - "3\t검증 세트 손실: 0.297607\t최선의 손실: 0.297607\t정확도: 95.62%\n", - "4\t검증 세트 손실: 0.274796\t최선의 손실: 0.274796\t정확도: 96.33%\n", - "5\t검증 세트 손실: 0.689869\t최선의 손실: 0.274796\t정확도: 91.24%\n", - "6\t검증 세트 손실: 0.250661\t최선의 손실: 0.250661\t정확도: 96.95%\n", - "7\t검증 세트 손실: 0.321565\t최선의 손실: 0.250661\t정확도: 96.33%\n", - "8\t검증 세트 손실: 0.446385\t최선의 손실: 0.250661\t정확도: 94.72%\n", - "9\t검증 세트 손실: 0.262028\t최선의 손실: 0.250661\t정확도: 97.11%\n", - "10\t검증 세트 손실: 0.207130\t최선의 손실: 0.207130\t정확도: 97.77%\n", - "11\t검증 세트 손실: 0.293213\t최선의 손실: 0.207130\t정확도: 97.11%\n", - "12\t검증 세트 손실: 0.247475\t최선의 손실: 0.207130\t정확도: 97.42%\n", - "13\t검증 세트 손실: 0.281591\t최선의 손실: 0.207130\t정확도: 97.34%\n", - "14\t검증 세트 손실: 0.219772\t최선의 손실: 0.207130\t정확도: 97.81%\n", - "15\t검증 세트 손실: 0.358786\t최선의 손실: 0.207130\t정확도: 96.60%\n", - "16\t검증 세트 손실: 0.233113\t최선의 손실: 0.207130\t정확도: 97.85%\n", - "17\t검증 세트 손실: 0.281210\t최선의 손실: 0.207130\t정확도: 97.85%\n", - "18\t검증 세트 손실: 0.230709\t최선의 손실: 0.207130\t정확도: 97.54%\n", - "19\t검증 세트 손실: 0.167845\t최선의 손실: 0.167845\t정확도: 98.01%\n", - "20\t검증 세트 손실: 0.187677\t최선의 손실: 0.167845\t정확도: 98.28%\n", - "21\t검증 세트 손실: 0.186255\t최선의 손실: 0.167845\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.224939\t최선의 손실: 0.167845\t정확도: 97.89%\n", - "23\t검증 세트 손실: 0.265500\t최선의 손실: 0.167845\t정확도: 97.81%\n", - "24\t검증 세트 손실: 0.283337\t최선의 손실: 0.167845\t정확도: 97.85%\n", - "25\t검증 세트 손실: 0.312451\t최선의 손실: 0.167845\t정확도: 96.83%\n", - "26\t검증 세트 손실: 0.206318\t최선의 손실: 0.167845\t정확도: 98.20%\n", - "27\t검증 세트 손실: 0.251022\t최선의 손실: 0.167845\t정확도: 97.62%\n", - "28\t검증 세트 손실: 0.162218\t최선의 손실: 0.162218\t정확도: 98.63%\n", - "29\t검증 세트 손실: 0.201514\t최선의 손실: 0.162218\t정확도: 98.12%\n", - "30\t검증 세트 손실: 0.166709\t최선의 손실: 0.162218\t정확도: 98.48%\n", - "31\t검증 세트 손실: 0.133228\t최선의 손실: 0.133228\t정확도: 98.67%\n", - "32\t검증 세트 손실: 0.117905\t최선의 손실: 0.117905\t정확도: 98.71%\n", - "33\t검증 세트 손실: 0.159426\t최선의 손실: 0.117905\t정확도: 98.48%\n", - "34\t검증 세트 손실: 0.134436\t최선의 손실: 0.117905\t정확도: 98.75%\n", - "35\t검증 세트 손실: 0.125179\t최선의 손실: 0.117905\t정확도: 98.67%\n", - "36\t검증 세트 손실: 0.122108\t최선의 손실: 0.117905\t정확도: 98.87%\n", - "37\t검증 세트 손실: 0.106403\t최선의 손실: 0.106403\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.100628\t최선의 손실: 0.100628\t정확도: 98.87%\n", - "39\t검증 세트 손실: 0.103968\t최선의 손실: 0.100628\t정확도: 98.98%\n", - "40\t검증 세트 손실: 0.099073\t최선의 손실: 0.099073\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.093878\t최선의 손실: 0.093878\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.091302\t최선의 손실: 0.091302\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.089769\t최선의 손실: 0.089769\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.088655\t최선의 손실: 0.088655\t정확도: 98.94%\n", - "45\t검증 세트 손실: 0.086573\t최선의 손실: 0.086573\t정확도: 98.94%\n", - "46\t검증 세트 손실: 0.083486\t최선의 손실: 0.083486\t정확도: 98.94%\n", - "47\t검증 세트 손실: 0.082863\t최선의 손실: 0.082863\t정확도: 98.98%\n", - "48\t검증 세트 손실: 0.080195\t최선의 손실: 0.080195\t정확도: 99.02%\n", - "49\t검증 세트 손실: 0.078377\t최선의 손실: 0.078377\t정확도: 99.02%\n", - "50\t검증 세트 손실: 0.076919\t최선의 손실: 0.076919\t정확도: 99.02%\n", - "51\t검증 세트 손실: 0.076093\t최선의 손실: 0.076093\t정확도: 98.98%\n", - "52\t검증 세트 손실: 0.076204\t최선의 손실: 0.076093\t정확도: 98.98%\n", - "53\t검증 세트 손실: 0.075865\t최선의 손실: 0.075865\t정확도: 99.06%\n", - "54\t검증 세트 손실: 0.077270\t최선의 손실: 0.075865\t정확도: 99.02%\n", - "55\t검증 세트 손실: 0.075989\t최선의 손실: 0.075865\t정확도: 98.98%\n", - "56\t검증 세트 손실: 0.073566\t최선의 손실: 0.073566\t정확도: 98.98%\n", - "57\t검증 세트 손실: 0.072004\t최선의 손실: 0.072004\t정확도: 98.98%\n", - "58\t검증 세트 손실: 0.071743\t최선의 손실: 0.071743\t정확도: 98.98%\n", - "59\t검증 세트 손실: 0.071845\t최선의 손실: 0.071743\t정확도: 98.98%\n", - "60\t검증 세트 손실: 0.071274\t최선의 손실: 0.071274\t정확도: 98.98%\n", - "61\t검증 세트 손실: 0.070807\t최선의 손실: 0.070807\t정확도: 98.98%\n", - "62\t검증 세트 손실: 0.072289\t최선의 손실: 0.070807\t정확도: 98.94%\n", - "63\t검증 세트 손실: 0.067975\t최선의 손실: 0.067975\t정확도: 98.91%\n", - "64\t검증 세트 손실: 0.067646\t최선의 손실: 0.067646\t정확도: 98.94%\n", - "65\t검증 세트 손실: 0.065065\t최선의 손실: 0.065065\t정확도: 98.94%\n", - "66\t검증 세트 손실: 0.064693\t최선의 손실: 0.064693\t정확도: 98.91%\n", - "67\t검증 세트 손실: 0.065611\t최선의 손실: 0.064693\t정확도: 98.87%\n", - "68\t검증 세트 손실: 0.066022\t최선의 손실: 0.064693\t정확도: 98.83%\n", - "69\t검증 세트 손실: 0.066342\t최선의 손실: 0.064693\t정확도: 98.87%\n", - "70\t검증 세트 손실: 0.066881\t최선의 손실: 0.064693\t정확도: 98.87%\n", - "71\t검증 세트 손실: 0.066504\t최선의 손실: 0.064693\t정확도: 98.91%\n", - "72\t검증 세트 손실: 0.066354\t최선의 손실: 0.064693\t정확도: 98.94%\n", - "73\t검증 세트 손실: 0.066274\t최선의 손실: 0.064693\t정확도: 98.94%\n", - "74\t검증 세트 손실: 0.066034\t최선의 손실: 0.064693\t정확도: 98.94%\n", - "75\t검증 세트 손실: 0.065188\t최선의 손실: 0.064693\t정확도: 98.94%\n" + "[CV] n_neurons=50, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 5.9s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.179029\t최선의 손실: 0.179029\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.110821\t최선의 손실: 0.110821\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.088153\t최선의 손실: 0.088153\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.070197\t최선의 손실: 0.070197\t정확도: 98.12%\n", + "4\t검증 세트 손실: 0.053119\t최선의 손실: 0.053119\t정확도: 98.48%\n", + "5\t검증 세트 손실: 0.044531\t최선의 손실: 0.044531\t정확도: 98.75%\n", + "6\t검증 세트 손실: 0.063588\t최선의 손실: 0.044531\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.043706\t최선의 손실: 0.043706\t정확도: 99.10%\n", + "8\t검증 세트 손실: 0.043868\t최선의 손실: 0.043706\t정확도: 99.06%\n", + "9\t검증 세트 손실: 0.043415\t최선의 손실: 0.043415\t정확도: 99.14%\n", + "10\t검증 세트 손실: 0.057932\t최선의 손실: 0.043415\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.080830\t최선의 손실: 0.043415\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.058389\t최선의 손실: 0.043415\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.078033\t최선의 손실: 0.043415\t정확도: 98.36%\n", + "14\t검증 세트 손실: 0.046370\t최선의 손실: 0.043415\t정확도: 98.94%\n", + "15\t검증 세트 손실: 0.050335\t최선의 손실: 0.043415\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.067142\t최선의 손실: 0.043415\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.063529\t최선의 손실: 0.043415\t정확도: 98.55%\n", + "18\t검증 세트 손실: 0.045876\t최선의 손실: 0.043415\t정확도: 99.18%\n", + "19\t검증 세트 손실: 0.059483\t최선의 손실: 0.043415\t정확도: 99.10%\n", + "20\t검증 세트 손실: 0.041089\t최선의 손실: 0.041089\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.048803\t최선의 손실: 0.041089\t정확도: 98.94%\n", + "22\t검증 세트 손실: 0.035609\t최선의 손실: 0.035609\t정확도: 99.22%\n", + "23\t검증 세트 손실: 0.041091\t최선의 손실: 0.035609\t정확도: 99.06%\n", + "24\t검증 세트 손실: 0.039968\t최선의 손실: 0.035609\t정확도: 99.18%\n", + "25\t검증 세트 손실: 0.041264\t최선의 손실: 0.035609\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.051589\t최선의 손실: 0.035609\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.034110\t최선의 손실: 0.034110\t정확도: 99.30%\n", + "28\t검증 세트 손실: 0.032873\t최선의 손실: 0.032873\t정확도: 99.37%\n", + "29\t검증 세트 손실: 0.034765\t최선의 손실: 0.032873\t정확도: 99.30%\n", + "30\t검증 세트 손실: 0.044282\t최선의 손실: 0.032873\t정확도: 99.06%\n", + "31\t검증 세트 손실: 0.045803\t최선의 손실: 0.032873\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.042973\t최선의 손실: 0.032873\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.063972\t최선의 손실: 0.032873\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.044213\t최선의 손실: 0.032873\t정확도: 99.18%\n", + "35\t검증 세트 손실: 0.048445\t최선의 손실: 0.032873\t정확도: 98.98%\n", + "36\t검증 세트 손실: 0.064079\t최선의 손실: 0.032873\t정확도: 98.87%\n", + "37\t검증 세트 손실: 0.048783\t최선의 손실: 0.032873\t정확도: 98.94%\n", + "38\t검증 세트 손실: 0.066073\t최선의 손실: 0.032873\t정확도: 98.75%\n", + "39\t검증 세트 손실: 0.049818\t최선의 손실: 0.032873\t정확도: 99.02%\n", + "40\t검증 세트 손실: 0.046771\t최선의 손실: 0.032873\t정확도: 99.18%\n", + "41\t검증 세트 손실: 0.048799\t최선의 손실: 0.032873\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.054327\t최선의 손실: 0.032873\t정확도: 98.98%\n", + "43\t검증 세트 손실: 0.052195\t최선의 손실: 0.032873\t정확도: 98.98%\n", + "44\t검증 세트 손실: 0.080240\t최선의 손실: 0.032873\t정확도: 98.67%\n", + "45\t검증 세트 손실: 0.075724\t최선의 손실: 0.032873\t정확도: 98.44%\n", + "46\t검증 세트 손실: 0.064075\t최선의 손실: 0.032873\t정확도: 98.75%\n", + "47\t검증 세트 손실: 0.055901\t최선의 손실: 0.032873\t정확도: 98.83%\n", + "48\t검증 세트 손실: 0.049842\t최선의 손실: 0.032873\t정확도: 99.10%\n", + "49\t검증 세트 손실: 0.038782\t최선의 손실: 0.032873\t정확도: 99.22%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 38.6s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.151787\t최선의 손실: 0.151787\t정확도: 96.68%\n", + "1\t검증 세트 손실: 0.088886\t최선의 손실: 0.088886\t정확도: 97.89%\n", + "2\t검증 세트 손실: 0.047003\t최선의 손실: 0.047003\t정확도: 98.75%\n", + "3\t검증 세트 손실: 0.054551\t최선의 손실: 0.047003\t정확도: 98.63%\n", + "4\t검증 세트 손실: 0.053343\t최선의 손실: 0.047003\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.048615\t최선의 손실: 0.047003\t정확도: 98.83%\n", + "6\t검증 세트 손실: 0.053921\t최선의 손실: 0.047003\t정확도: 98.79%\n", + "7\t검증 세트 손실: 0.051922\t최선의 손실: 0.047003\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.052472\t최선의 손실: 0.047003\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.067947\t최선의 손실: 0.047003\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.049365\t최선의 손실: 0.047003\t정확도: 99.10%\n", + "11\t검증 세트 손실: 0.070774\t최선의 손실: 0.047003\t정확도: 98.79%\n", + "12\t검증 세트 손실: 0.084032\t최선의 손실: 0.047003\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.058597\t최선의 손실: 0.047003\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.039755\t최선의 손실: 0.039755\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.043997\t최선의 손실: 0.039755\t정확도: 99.06%\n", + "16\t검증 세트 손실: 0.042421\t최선의 손실: 0.039755\t정확도: 99.06%\n", + "17\t검증 세트 손실: 0.195659\t최선의 손실: 0.039755\t정확도: 96.76%\n", + "18\t검증 세트 손실: 0.058635\t최선의 손실: 0.039755\t정확도: 98.83%\n", + "19\t검증 세트 손실: 0.058606\t최선의 손실: 0.039755\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.068462\t최선의 손실: 0.039755\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.061094\t최선의 손실: 0.039755\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.057365\t최선의 손실: 0.039755\t정확도: 98.87%\n", + "23\t검증 세트 손실: 0.069001\t최선의 손실: 0.039755\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.058640\t최선의 손실: 0.039755\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.047953\t최선의 손실: 0.039755\t정확도: 99.18%\n", + "26\t검증 세트 손실: 0.043277\t최선의 손실: 0.039755\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.051066\t최선의 손실: 0.039755\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.048165\t최선의 손실: 0.039755\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.051943\t최선의 손실: 0.039755\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.048006\t최선의 손실: 0.039755\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.066532\t최선의 손실: 0.039755\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.057044\t최선의 손실: 0.039755\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.092323\t최선의 손실: 0.039755\t정확도: 98.24%\n", + "34\t검증 세트 손실: 0.059987\t최선의 손실: 0.039755\t정확도: 98.87%\n", + "35\t검증 세트 손실: 0.044963\t최선의 손실: 0.039755\t정확도: 99.06%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 28.1s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.106256\t최선의 손실: 0.106256\t정확도: 97.93%\n", + "1\t검증 세트 손실: 0.091314\t최선의 손실: 0.091314\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.044949\t최선의 손실: 0.044949\t정확도: 98.44%\n", + "3\t검증 세트 손실: 0.101475\t최선의 손실: 0.044949\t정확도: 97.58%\n", + "4\t검증 세트 손실: 0.045692\t최선의 손실: 0.044949\t정확도: 98.94%\n", + "5\t검증 세트 손실: 0.045522\t최선의 손실: 0.044949\t정확도: 98.83%\n", + "6\t검증 세트 손실: 0.043188\t최선의 손실: 0.043188\t정확도: 98.91%\n", + "7\t검증 세트 손실: 0.055768\t최선의 손실: 0.043188\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.049473\t최선의 손실: 0.043188\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.034331\t최선의 손실: 0.034331\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.052639\t최선의 손실: 0.034331\t정확도: 98.83%\n", + "11\t검증 세트 손실: 0.034487\t최선의 손실: 0.034331\t정확도: 99.26%\n", + "12\t검증 세트 손실: 0.051707\t최선의 손실: 0.034331\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.047883\t최선의 손실: 0.034331\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.067061\t최선의 손실: 0.034331\t정확도: 98.51%\n", + "15\t검증 세트 손실: 0.039485\t최선의 손실: 0.034331\t정확도: 99.02%\n", + "16\t검증 세트 손실: 0.043616\t최선의 손실: 0.034331\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.053680\t최선의 손실: 0.034331\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.042353\t최선의 손실: 0.034331\t정확도: 99.06%\n", + "19\t검증 세트 손실: 0.047920\t최선의 손실: 0.034331\t정확도: 99.14%\n", + "20\t검증 세트 손실: 0.039728\t최선의 손실: 0.034331\t정확도: 99.18%\n", + "21\t검증 세트 손실: 0.041422\t최선의 손실: 0.034331\t정확도: 99.10%\n", + "22\t검증 세트 손실: 0.043029\t최선의 손실: 0.034331\t정확도: 99.06%\n", + "23\t검증 세트 손실: 0.039243\t최선의 손실: 0.034331\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.057835\t최선의 손실: 0.034331\t정확도: 98.75%\n", + "25\t검증 세트 손실: 0.047708\t최선의 손실: 0.034331\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.050259\t최선의 손실: 0.034331\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.056814\t최선의 손실: 0.034331\t정확도: 98.75%\n", + "28\t검증 세트 손실: 0.045130\t최선의 손실: 0.034331\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.081819\t최선의 손실: 0.034331\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.060468\t최선의 손실: 0.034331\t정확도: 98.94%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 24.6s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.169963\t최선의 손실: 0.169963\t정확도: 95.00%\n", + "1\t검증 세트 손실: 0.093032\t최선의 손실: 0.093032\t정확도: 97.19%\n", + "2\t검증 세트 손실: 0.097276\t최선의 손실: 0.093032\t정확도: 96.95%\n", + "3\t검증 세트 손실: 0.074246\t최선의 손실: 0.074246\t정확도: 97.77%\n", + "4\t검증 세트 손실: 0.066253\t최선의 손실: 0.066253\t정확도: 97.97%\n", + "5\t검증 세트 손실: 0.147794\t최선의 손실: 0.066253\t정확도: 96.01%\n", + "6\t검증 세트 손실: 0.067885\t최선의 손실: 0.066253\t정확도: 97.65%\n", + "7\t검증 세트 손실: 0.065352\t최선의 손실: 0.065352\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.059391\t최선의 손실: 0.059391\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.046584\t최선의 손실: 0.046584\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.063337\t최선의 손실: 0.046584\t정확도: 98.28%\n", + "11\t검증 세트 손실: 0.082852\t최선의 손실: 0.046584\t정확도: 97.54%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "76\t검증 세트 손실: 0.064487\t최선의 손실: 0.064487\t정확도: 98.91%\n", - "77\t검증 세트 손실: 0.064023\t최선의 손실: 0.064023\t정확도: 98.98%\n", - "78\t검증 세트 손실: 0.063898\t최선의 손실: 0.063898\t정확도: 98.94%\n", - "79\t검증 세트 손실: 0.064060\t최선의 손실: 0.063898\t정확도: 98.91%\n", - "80\t검증 세트 손실: 0.063392\t최선의 손실: 0.063392\t정확도: 98.91%\n", - "81\t검증 세트 손실: 0.062782\t최선의 손실: 0.062782\t정확도: 98.91%\n", - "82\t검증 세트 손실: 0.062901\t최선의 손실: 0.062782\t정확도: 98.87%\n", - "83\t검증 세트 손실: 0.063029\t최선의 손실: 0.062782\t정확도: 98.91%\n", - "84\t검증 세트 손실: 0.063280\t최선의 손실: 0.062782\t정확도: 98.87%\n", - "85\t검증 세트 손실: 0.063269\t최선의 손실: 0.062782\t정확도: 98.91%\n", - "86\t검증 세트 손실: 0.063340\t최선의 손실: 0.062782\t정확도: 98.87%\n", - "87\t검증 세트 손실: 0.063215\t최선의 손실: 0.062782\t정확도: 98.91%\n", - "88\t검증 세트 손실: 0.062545\t최선의 손실: 0.062545\t정확도: 98.94%\n", - "89\t검증 세트 손실: 0.063188\t최선의 손실: 0.062545\t정확도: 98.87%\n", - "90\t검증 세트 손실: 0.063373\t최선의 손실: 0.062545\t정확도: 98.83%\n", - "91\t검증 세트 손실: 0.061868\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "92\t검증 세트 손실: 0.062247\t최선의 손실: 0.061868\t정확도: 98.94%\n", - "93\t검증 세트 손실: 0.062627\t최선의 손실: 0.061868\t정확도: 98.98%\n", - "94\t검증 세트 손실: 0.062289\t최선의 손실: 0.061868\t정확도: 98.94%\n", - "95\t검증 세트 손실: 0.062109\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "96\t검증 세트 손실: 0.062755\t최선의 손실: 0.061868\t정확도: 98.94%\n", - "97\t검증 세트 손실: 0.062883\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "98\t검증 세트 손실: 0.062671\t최선의 손실: 0.061868\t정확도: 98.87%\n", - "99\t검증 세트 손실: 0.062705\t최선의 손실: 0.061868\t정확도: 98.87%\n", - "100\t검증 세트 손실: 0.062969\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "101\t검증 세트 손실: 0.063227\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "102\t검증 세트 손실: 0.062429\t최선의 손실: 0.061868\t정확도: 98.98%\n", - "103\t검증 세트 손실: 0.063412\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "104\t검증 세트 손실: 0.064090\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "105\t검증 세트 손실: 0.063990\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "106\t검증 세트 손실: 0.063286\t최선의 손실: 0.061868\t정확도: 98.87%\n", - "107\t검증 세트 손실: 0.062578\t최선의 손실: 0.061868\t정확도: 98.83%\n", - "108\t검증 세트 손실: 0.062719\t최선의 손실: 0.061868\t정확도: 98.87%\n", - "109\t검증 세트 손실: 0.062232\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "110\t검증 세트 손실: 0.062795\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "111\t검증 세트 손실: 0.063615\t최선의 손실: 0.061868\t정확도: 98.91%\n", - "112\t검증 세트 손실: 0.063750\t최선의 손실: 0.061868\t정확도: 98.94%\n", + "12\t검증 세트 손실: 0.055772\t최선의 손실: 0.046584\t정확도: 98.63%\n", + "13\t검증 세트 손실: 0.056987\t최선의 손실: 0.046584\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.051101\t최선의 손실: 0.046584\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.070971\t최선의 손실: 0.046584\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.071598\t최선의 손실: 0.046584\t정확도: 98.24%\n", + "17\t검증 세트 손실: 0.095073\t최선의 손실: 0.046584\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.081339\t최선의 손실: 0.046584\t정확도: 98.12%\n", + "19\t검증 세트 손실: 0.072606\t최선의 손실: 0.046584\t정확도: 98.55%\n", + "20\t검증 세트 손실: 0.063512\t최선의 손실: 0.046584\t정확도: 98.55%\n", + "21\t검증 세트 손실: 0.076025\t최선의 손실: 0.046584\t정확도: 98.44%\n", + "22\t검증 세트 손실: 0.082149\t최선의 손실: 0.046584\t정확도: 98.28%\n", + "23\t검증 세트 손실: 0.085552\t최선의 손실: 0.046584\t정확도: 98.32%\n", + "24\t검증 세트 손실: 0.073288\t최선의 손실: 0.046584\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.083834\t최선의 손실: 0.046584\t정확도: 98.59%\n", + "26\t검증 세트 손실: 0.101878\t최선의 손실: 0.046584\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.109755\t최선의 손실: 0.046584\t정확도: 98.08%\n", + "28\t검증 세트 손실: 0.076123\t최선의 손실: 0.046584\t정확도: 98.32%\n", + "29\t검증 세트 손실: 0.086193\t최선의 손실: 0.046584\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.080810\t최선의 손실: 0.046584\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30, total= 21.1s\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30 \n", - "0\t검증 세트 손실: 2.071557\t최선의 손실: 2.071557\t정확도: 75.96%\n", - "1\t검증 세트 손실: 0.836531\t최선의 손실: 0.836531\t정확도: 87.45%\n", - "2\t검증 세트 손실: 0.690738\t최선의 손실: 0.690738\t정확도: 89.41%\n", - "3\t검증 세트 손실: 0.443596\t최선의 손실: 0.443596\t정확도: 92.26%\n", - "4\t검증 세트 손실: 0.278550\t최선의 손실: 0.278550\t정확도: 95.58%\n", - "5\t검증 세트 손실: 0.343146\t최선의 손실: 0.278550\t정확도: 94.80%\n", - "6\t검증 세트 손실: 0.299596\t최선의 손실: 0.278550\t정확도: 95.78%\n", - "7\t검증 세트 손실: 0.267364\t최선의 손실: 0.267364\t정확도: 96.21%\n", - "8\t검증 세트 손실: 0.228093\t최선의 손실: 0.228093\t정확도: 97.26%\n", - "9\t검증 세트 손실: 0.178495\t최선의 손실: 0.178495\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.227205\t최선의 손실: 0.178495\t정확도: 97.07%\n", - "11\t검증 세트 손실: 0.244553\t최선의 손실: 0.178495\t정확도: 97.22%\n", - "12\t검증 세트 손실: 0.216027\t최선의 손실: 0.178495\t정확도: 97.19%\n", - "13\t검증 세트 손실: 0.180679\t최선의 손실: 0.178495\t정확도: 98.08%\n", - "14\t검증 세트 손실: 0.174364\t최선의 손실: 0.174364\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.158282\t최선의 손실: 0.158282\t정확도: 98.55%\n", - "16\t검증 세트 손실: 0.121757\t최선의 손실: 0.121757\t정확도: 98.71%\n", - "17\t검증 세트 손실: 0.164822\t최선의 손실: 0.121757\t정확도: 98.20%\n", - "18\t검증 세트 손실: 0.151618\t최선의 손실: 0.121757\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.222920\t최선의 손실: 0.121757\t정확도: 97.73%\n", - "20\t검증 세트 손실: 0.165313\t최선의 손실: 0.121757\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.209737\t최선의 손실: 0.121757\t정확도: 98.16%\n", - "22\t검증 세트 손실: 0.190188\t최선의 손실: 0.121757\t정확도: 98.55%\n", - "23\t검증 세트 손실: 0.174642\t최선의 손실: 0.121757\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.111173\t최선의 손실: 0.111173\t정확도: 98.71%\n", - "25\t검증 세트 손실: 0.124024\t최선의 손실: 0.111173\t정확도: 98.63%\n", - "26\t검증 세트 손실: 0.127780\t최선의 손실: 0.111173\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.115838\t최선의 손실: 0.111173\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.084719\t최선의 손실: 0.084719\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.104794\t최선의 손실: 0.084719\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.109063\t최선의 손실: 0.084719\t정확도: 98.83%\n", - "31\t검증 세트 손실: 0.122138\t최선의 손실: 0.084719\t정확도: 98.75%\n", - "32\t검증 세트 손실: 0.107258\t최선의 손실: 0.084719\t정확도: 98.79%\n", - "33\t검증 세트 손실: 0.084208\t최선의 손실: 0.084208\t정확도: 98.98%\n", - "34\t검증 세트 손실: 0.097947\t최선의 손실: 0.084208\t정확도: 98.79%\n", - "35\t검증 세트 손실: 0.115107\t최선의 손실: 0.084208\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.088437\t최선의 손실: 0.084208\t정확도: 98.94%\n", - "37\t검증 세트 손실: 0.113297\t최선의 손실: 0.084208\t정확도: 98.91%\n", - "38\t검증 세트 손실: 0.101319\t최선의 손실: 0.084208\t정확도: 98.79%\n", - "39\t검증 세트 손실: 0.161548\t최선의 손실: 0.084208\t정확도: 98.28%\n", - "40\t검증 세트 손실: 0.231355\t최선의 손실: 0.084208\t정확도: 98.08%\n", - "41\t검증 세트 손실: 0.118496\t최선의 손실: 0.084208\t정확도: 98.94%\n", - "42\t검증 세트 손실: 0.112695\t최선의 손실: 0.084208\t정확도: 98.91%\n", - "43\t검증 세트 손실: 0.150932\t최선의 손실: 0.084208\t정확도: 98.55%\n", - "44\t검증 세트 손실: 0.090831\t최선의 손실: 0.084208\t정확도: 98.91%\n", - "45\t검증 세트 손실: 0.102440\t최선의 손실: 0.084208\t정확도: 98.79%\n", - "46\t검증 세트 손실: 0.088000\t최선의 손실: 0.084208\t정확도: 98.98%\n", - "47\t검증 세트 손실: 0.088635\t최선의 손실: 0.084208\t정확도: 99.02%\n", - "48\t검증 세트 손실: 0.081033\t최선의 손실: 0.081033\t정확도: 98.94%\n", - "49\t검증 세트 손실: 0.081429\t최선의 손실: 0.081033\t정확도: 99.02%\n", - "50\t검증 세트 손실: 0.073939\t최선의 손실: 0.073939\t정확도: 99.14%\n", - "51\t검증 세트 손실: 0.069664\t최선의 손실: 0.069664\t정확도: 99.18%\n", - "52\t검증 세트 손실: 0.065464\t최선의 손실: 0.065464\t정확도: 99.14%\n", - "53\t검증 세트 손실: 0.061489\t최선의 손실: 0.061489\t정확도: 99.10%\n", - "54\t검증 세트 손실: 0.059905\t최선의 손실: 0.059905\t정확도: 99.22%\n", - "55\t검증 세트 손실: 0.058369\t최선의 손실: 0.058369\t정확도: 99.14%\n", - "56\t검증 세트 손실: 0.057472\t최선의 손실: 0.057472\t정확도: 99.06%\n", - "57\t검증 세트 손실: 0.053208\t최선의 손실: 0.053208\t정확도: 99.14%\n", - "58\t검증 세트 손실: 0.052357\t최선의 손실: 0.052357\t정확도: 99.18%\n", - "59\t검증 세트 손실: 0.051203\t최선의 손실: 0.051203\t정확도: 99.14%\n", - "60\t검증 세트 손실: 0.050362\t최선의 손실: 0.050362\t정확도: 99.22%\n", - "61\t검증 세트 손실: 0.049733\t최선의 손실: 0.049733\t정확도: 99.18%\n", - "62\t검증 세트 손실: 0.048465\t최선의 손실: 0.048465\t정확도: 99.18%\n", - "63\t검증 세트 손실: 0.046849\t최선의 손실: 0.046849\t정확도: 99.26%\n", - "64\t검증 세트 손실: 0.046633\t최선의 손실: 0.046633\t정확도: 99.26%\n", - "65\t검증 세트 손실: 0.047047\t최선의 손실: 0.046633\t정확도: 99.26%\n", - "66\t검증 세트 손실: 0.049779\t최선의 손실: 0.046633\t정확도: 99.22%\n", - "67\t검증 세트 손실: 0.049278\t최선의 손실: 0.046633\t정확도: 99.30%\n", - "68\t검증 세트 손실: 0.049606\t최선의 손실: 0.046633\t정확도: 99.18%\n", - "69\t검증 세트 손실: 0.049420\t최선의 손실: 0.046633\t정확도: 99.18%\n", - "70\t검증 세트 손실: 0.048281\t최선의 손실: 0.046633\t정확도: 99.18%\n", - "71\t검증 세트 손실: 0.045840\t최선의 손실: 0.045840\t정확도: 99.18%\n", - "72\t검증 세트 손실: 0.045030\t최선의 손실: 0.045030\t정확도: 99.18%\n", - "73\t검증 세트 손실: 0.044936\t최선의 손실: 0.044936\t정확도: 99.26%\n", - "74\t검증 세트 손실: 0.043930\t최선의 손실: 0.043930\t정확도: 99.22%\n", - "75\t검증 세트 손실: 0.043545\t최선의 손실: 0.043545\t정확도: 99.22%\n", - "76\t검증 세트 손실: 0.043012\t최선의 손실: 0.043012\t정확도: 99.26%\n", - "77\t검증 세트 손실: 0.042348\t최선의 손실: 0.042348\t정확도: 99.26%\n", - "78\t검증 세트 손실: 0.041744\t최선의 손실: 0.041744\t정확도: 99.30%\n", - "79\t검증 세트 손실: 0.041890\t최선의 손실: 0.041744\t정확도: 99.22%\n", - "80\t검증 세트 손실: 0.042413\t최선의 손실: 0.041744\t정확도: 99.14%\n", - "81\t검증 세트 손실: 0.041852\t최선의 손실: 0.041744\t정확도: 99.22%\n", - "82\t검증 세트 손실: 0.041593\t최선의 손실: 0.041593\t정확도: 99.22%\n", - "83\t검증 세트 손실: 0.041465\t최선의 손실: 0.041465\t정확도: 99.26%\n", - "84\t검증 세트 손실: 0.041839\t최선의 손실: 0.041465\t정확도: 99.26%\n", - "85\t검증 세트 손실: 0.041735\t최선의 손실: 0.041465\t정확도: 99.26%\n", - "86\t검증 세트 손실: 0.041329\t최선의 손실: 0.041329\t정확도: 99.26%\n", - "87\t검증 세트 손실: 0.039910\t최선의 손실: 0.039910\t정확도: 99.22%\n", - "88\t검증 세트 손실: 0.039779\t최선의 손실: 0.039779\t정확도: 99.22%\n", - "89\t검증 세트 손실: 0.039632\t최선의 손실: 0.039632\t정확도: 99.26%\n", - "90\t검증 세트 손실: 0.039923\t최선의 손실: 0.039632\t정확도: 99.26%\n", - "91\t검증 세트 손실: 0.039724\t최선의 손실: 0.039632\t정확도: 99.26%\n", - "92\t검증 세트 손실: 0.039472\t최선의 손실: 0.039472\t정확도: 99.22%\n", - "93\t검증 세트 손실: 0.039465\t최선의 손실: 0.039465\t정확도: 99.22%\n", - "94\t검증 세트 손실: 0.038355\t최선의 손실: 0.038355\t정확도: 99.18%\n", - "95\t검증 세트 손실: 0.038630\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "96\t검증 세트 손실: 0.038579\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "97\t검증 세트 손실: 0.038836\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "98\t검증 세트 손실: 0.039050\t최선의 손실: 0.038355\t정확도: 99.26%\n", - "99\t검증 세트 손실: 0.040340\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "100\t검증 세트 손실: 0.040915\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "101\t검증 세트 손실: 0.040603\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "102\t검증 세트 손실: 0.040032\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "103\t검증 세트 손실: 0.039537\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "104\t검증 세트 손실: 0.039892\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "105\t검증 세트 손실: 0.041110\t최선의 손실: 0.038355\t정확도: 99.18%\n", - "106\t검증 세트 손실: 0.039834\t최선의 손실: 0.038355\t정확도: 99.26%\n", - "107\t검증 세트 손실: 0.039222\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "108\t검증 세트 손실: 0.039439\t최선의 손실: 0.038355\t정확도: 99.22%\n", - "109\t검증 세트 손실: 0.040351\t최선의 손실: 0.038355\t정확도: 99.30%\n", - "110\t검증 세트 손실: 0.040047\t최선의 손실: 0.038355\t정확도: 99.26%\n", - "111\t검증 세트 손실: 0.039982\t최선의 손실: 0.038355\t정확도: 99.26%\n", - "112\t검증 세트 손실: 0.038274\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "113\t검증 세트 손실: 0.039569\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "114\t검증 세트 손실: 0.039823\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "115\t검증 세트 손실: 0.039976\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "116\t검증 세트 손실: 0.039691\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "117\t검증 세트 손실: 0.039648\t최선의 손실: 0.038274\t정확도: 99.26%\n" + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=, total= 6.6s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.158078\t최선의 손실: 0.158078\t정확도: 95.39%\n", + "1\t검증 세트 손실: 0.093365\t최선의 손실: 0.093365\t정확도: 97.07%\n", + "2\t검증 세트 손실: 0.073393\t최선의 손실: 0.073393\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.083278\t최선의 손실: 0.073393\t정확도: 97.38%\n", + "4\t검증 세트 손실: 0.067235\t최선의 손실: 0.067235\t정확도: 98.05%\n", + "5\t검증 세트 손실: 0.077131\t최선의 손실: 0.067235\t정확도: 97.69%\n", + "6\t검증 세트 손실: 0.064860\t최선의 손실: 0.064860\t정확도: 97.85%\n", + "7\t검증 세트 손실: 0.090982\t최선의 손실: 0.064860\t정확도: 97.30%\n", + "8\t검증 세트 손실: 0.068744\t최선의 손실: 0.064860\t정확도: 98.12%\n", + "9\t검증 세트 손실: 0.070991\t최선의 손실: 0.064860\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.064445\t최선의 손실: 0.064445\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.064173\t최선의 손실: 0.064173\t정확도: 98.51%\n", + "12\t검증 세트 손실: 0.056321\t최선의 손실: 0.056321\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.060700\t최선의 손실: 0.056321\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.066625\t최선의 손실: 0.056321\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.057635\t최선의 손실: 0.056321\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.063068\t최선의 손실: 0.056321\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.063220\t최선의 손실: 0.056321\t정확도: 98.67%\n", + "18\t검증 세트 손실: 0.072242\t최선의 손실: 0.056321\t정확도: 98.28%\n", + "19\t검증 세트 손실: 0.068964\t최선의 손실: 0.056321\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.138730\t최선의 손실: 0.056321\t정확도: 97.22%\n", + "21\t검증 세트 손실: 0.071795\t최선의 손실: 0.056321\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.078775\t최선의 손실: 0.056321\t정확도: 98.36%\n", + "23\t검증 세트 손실: 0.080077\t최선의 손실: 0.056321\t정확도: 98.48%\n", + "24\t검증 세트 손실: 0.089809\t최선의 손실: 0.056321\t정확도: 98.28%\n", + "25\t검증 세트 손실: 0.086116\t최선의 손실: 0.056321\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.070744\t최선의 손실: 0.056321\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.086641\t최선의 손실: 0.056321\t정확도: 98.16%\n", + "28\t검증 세트 손실: 0.071571\t최선의 손실: 0.056321\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.104034\t최선의 손실: 0.056321\t정확도: 98.12%\n", + "30\t검증 세트 손실: 0.068852\t최선의 손실: 0.056321\t정확도: 98.44%\n", + "31\t검증 세트 손실: 0.085645\t최선의 손실: 0.056321\t정확도: 98.79%\n", + "32\t검증 세트 손실: 0.086640\t최선의 손실: 0.056321\t정확도: 98.40%\n", + "33\t검증 세트 손실: 0.087459\t최선의 손실: 0.056321\t정확도: 98.75%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=, total= 7.1s\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.147843\t최선의 손실: 0.147843\t정확도: 95.74%\n", + "1\t검증 세트 손실: 0.088062\t최선의 손실: 0.088062\t정확도: 97.19%\n", + "2\t검증 세트 손실: 0.076220\t최선의 손실: 0.076220\t정확도: 97.62%\n", + "3\t검증 세트 손실: 0.068685\t최선의 손실: 0.068685\t정확도: 97.69%\n", + "4\t검증 세트 손실: 0.083536\t최선의 손실: 0.068685\t정확도: 97.62%\n", + "5\t검증 세트 손실: 0.076342\t최선의 손실: 0.068685\t정확도: 97.58%\n", + "6\t검증 세트 손실: 0.067880\t최선의 손실: 0.067880\t정확도: 98.20%\n", + "7\t검증 세트 손실: 0.068144\t최선의 손실: 0.067880\t정확도: 97.93%\n", + "8\t검증 세트 손실: 0.063157\t최선의 손실: 0.063157\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.055607\t최선의 손실: 0.055607\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.058851\t최선의 손실: 0.055607\t정확도: 98.40%\n", + "11\t검증 세트 손실: 0.086050\t최선의 손실: 0.055607\t정확도: 98.12%\n", + "12\t검증 세트 손실: 0.060304\t최선의 손실: 0.055607\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.071458\t최선의 손실: 0.055607\t정확도: 98.20%\n", + "14\t검증 세트 손실: 0.103201\t최선의 손실: 0.055607\t정확도: 97.19%\n", + "15\t검증 세트 손실: 0.051609\t최선의 손실: 0.051609\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.066782\t최선의 손실: 0.051609\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.045169\t최선의 손실: 0.045169\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.057008\t최선의 손실: 0.045169\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.068275\t최선의 손실: 0.045169\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.067645\t최선의 손실: 0.045169\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.067562\t최선의 손실: 0.045169\t정확도: 98.44%\n", + "22\t검증 세트 손실: 0.070503\t최선의 손실: 0.045169\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.062975\t최선의 손실: 0.045169\t정확도: 98.48%\n", + "24\t검증 세트 손실: 0.057496\t최선의 손실: 0.045169\t정확도: 98.83%\n", + "25\t검증 세트 손실: 0.081177\t최선의 손실: 0.045169\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.075994\t최선의 손실: 0.045169\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.063272\t최선의 손실: 0.045169\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.069672\t최선의 손실: 0.045169\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.094914\t최선의 손실: 0.045169\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.060068\t최선의 손실: 0.045169\t정확도: 98.55%\n", + "31\t검증 세트 손실: 0.055357\t최선의 손실: 0.045169\t정확도: 98.67%\n", + "32\t검증 세트 손실: 0.056809\t최선의 손실: 0.045169\t정확도: 98.91%\n", + "33\t검증 세트 손실: 0.052360\t최선의 손실: 0.045169\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.063025\t최선의 손실: 0.045169\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.071902\t최선의 손실: 0.045169\t정확도: 98.63%\n", + "36\t검증 세트 손실: 0.054522\t최선의 손실: 0.045169\t정확도: 99.06%\n", + "37\t검증 세트 손실: 0.069377\t최선의 손실: 0.045169\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.084267\t최선의 손실: 0.045169\t정확도: 98.79%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=, total= 8.0s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.133072\t최선의 손실: 0.133072\t정확도: 96.17%\n", + "1\t검증 세트 손실: 0.085206\t최선의 손실: 0.085206\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.062828\t최선의 손실: 0.062828\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.058529\t최선의 손실: 0.058529\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.063167\t최선의 손실: 0.058529\t정확도: 97.97%\n", + "5\t검증 세트 손실: 0.048781\t최선의 손실: 0.048781\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.056479\t최선의 손실: 0.048781\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.066877\t최선의 손실: 0.048781\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.058493\t최선의 손실: 0.048781\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.062063\t최선의 손실: 0.048781\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.071181\t최선의 손실: 0.048781\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.059291\t최선의 손실: 0.048781\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.057834\t최선의 손실: 0.048781\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.105228\t최선의 손실: 0.048781\t정확도: 97.85%\n", + "14\t검증 세트 손실: 0.055528\t최선의 손실: 0.048781\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.066810\t최선의 손실: 0.048781\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.071307\t최선의 손실: 0.048781\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.081076\t최선의 손실: 0.048781\t정확도: 98.44%\n", + "18\t검증 세트 손실: 0.067036\t최선의 손실: 0.048781\t정확도: 98.48%\n", + "19\t검증 세트 손실: 0.083472\t최선의 손실: 0.048781\t정확도: 98.24%\n", + "20\t검증 세트 손실: 0.056690\t최선의 손실: 0.048781\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.098359\t최선의 손실: 0.048781\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.062687\t최선의 손실: 0.048781\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.056933\t최선의 손실: 0.048781\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.054520\t최선의 손실: 0.048781\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.064198\t최선의 손실: 0.048781\t정확도: 98.48%\n", + "26\t검증 세트 손실: 0.061050\t최선의 손실: 0.048781\t정확도: 98.79%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 6.3s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.134830\t최선의 손실: 0.134830\t정확도: 95.82%\n", + "1\t검증 세트 손실: 0.070735\t최선의 손실: 0.070735\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.067114\t최선의 손실: 0.067114\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.057547\t최선의 손실: 0.057547\t정확도: 98.16%\n", + "4\t검증 세트 손실: 0.081552\t최선의 손실: 0.057547\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.051253\t최선의 손실: 0.051253\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.045678\t최선의 손실: 0.045678\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.058417\t최선의 손실: 0.045678\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.050087\t최선의 손실: 0.045678\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.063026\t최선의 손실: 0.045678\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.059872\t최선의 손실: 0.045678\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.069308\t최선의 손실: 0.045678\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.055726\t최선의 손실: 0.045678\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.087510\t최선의 손실: 0.045678\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.069826\t최선의 손실: 0.045678\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.052156\t최선의 손실: 0.045678\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.065603\t최선의 손실: 0.045678\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.059355\t최선의 손실: 0.045678\t정확도: 98.63%\n", + "18\t검증 세트 손실: 0.055722\t최선의 손실: 0.045678\t정확도: 98.94%\n", + "19\t검증 세트 손실: 0.065934\t최선의 손실: 0.045678\t정확도: 98.67%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "118\t검증 세트 손실: 0.039581\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "119\t검증 세트 손실: 0.039879\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "120\t검증 세트 손실: 0.040054\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "121\t검증 세트 손실: 0.039658\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "122\t검증 세트 손실: 0.039412\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "123\t검증 세트 손실: 0.039386\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "124\t검증 세트 손실: 0.039033\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "125\t검증 세트 손실: 0.038885\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "126\t검증 세트 손실: 0.039280\t최선의 손실: 0.038274\t정확도: 99.26%\n", - "127\t검증 세트 손실: 0.042395\t최선의 손실: 0.038274\t정확도: 99.22%\n", - "128\t검증 세트 손실: 0.038072\t최선의 손실: 0.038072\t정확도: 99.14%\n", - "129\t검증 세트 손실: 0.038175\t최선의 손실: 0.038072\t정확도: 99.10%\n", - "130\t검증 세트 손실: 0.038238\t최선의 손실: 0.038072\t정확도: 99.18%\n", - "131\t검증 세트 손실: 0.037953\t최선의 손실: 0.037953\t정확도: 99.18%\n", - "132\t검증 세트 손실: 0.037770\t최선의 손실: 0.037770\t정확도: 99.18%\n", - "133\t검증 세트 손실: 0.037593\t최선의 손실: 0.037593\t정확도: 99.18%\n", - "134\t검증 세트 손실: 0.037741\t최선의 손실: 0.037593\t정확도: 99.18%\n", - "135\t검증 세트 손실: 0.037763\t최선의 손실: 0.037593\t정확도: 99.18%\n", - "136\t검증 세트 손실: 0.037681\t최선의 손실: 0.037593\t정확도: 99.22%\n", - "137\t검증 세트 손실: 0.037547\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "138\t검증 세트 손실: 0.038157\t최선의 손실: 0.037547\t정확도: 99.26%\n", - "139\t검증 세트 손실: 0.038203\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "140\t검증 세트 손실: 0.038354\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "141\t검증 세트 손실: 0.038182\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "142\t검증 세트 손실: 0.038327\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "143\t검증 세트 손실: 0.038246\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "144\t검증 세트 손실: 0.038811\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "145\t검증 세트 손실: 0.038574\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "146\t검증 세트 손실: 0.038836\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "147\t검증 세트 손실: 0.039027\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "148\t검증 세트 손실: 0.038707\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "149\t검증 세트 손실: 0.038941\t최선의 손실: 0.037547\t정확도: 99.18%\n", - "150\t검증 세트 손실: 0.038582\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "151\t검증 세트 손실: 0.038559\t최선의 손실: 0.037547\t정확도: 99.26%\n", - "152\t검증 세트 손실: 0.039587\t최선의 손실: 0.037547\t정확도: 99.26%\n", - "153\t검증 세트 손실: 0.040815\t최선의 손실: 0.037547\t정확도: 99.26%\n", - "154\t검증 세트 손실: 0.040621\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "155\t검증 세트 손실: 0.040149\t최선의 손실: 0.037547\t정확도: 99.26%\n", - "156\t검증 세트 손실: 0.039620\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "157\t검증 세트 손실: 0.040005\t최선의 손실: 0.037547\t정확도: 99.22%\n", - "158\t검증 세트 손실: 0.039979\t최선의 손실: 0.037547\t정확도: 99.22%\n", + "20\t검증 세트 손실: 0.041092\t최선의 손실: 0.041092\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.052433\t최선의 손실: 0.041092\t정확도: 98.71%\n", + "22\t검증 세트 손실: 0.062612\t최선의 손실: 0.041092\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.065578\t최선의 손실: 0.041092\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.071526\t최선의 손실: 0.041092\t정확도: 98.55%\n", + "25\t검증 세트 손실: 0.079373\t최선의 손실: 0.041092\t정확도: 98.32%\n", + "26\t검증 세트 손실: 0.066161\t최선의 손실: 0.041092\t정확도: 98.55%\n", + "27\t검증 세트 손실: 0.074814\t최선의 손실: 0.041092\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.069726\t최선의 손실: 0.041092\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.067366\t최선의 손실: 0.041092\t정확도: 98.55%\n", + "30\t검증 세트 손실: 0.069879\t최선의 손실: 0.041092\t정확도: 98.51%\n", + "31\t검증 세트 손실: 0.078175\t최선의 손실: 0.041092\t정확도: 98.36%\n", + "32\t검증 세트 손실: 0.053646\t최선의 손실: 0.041092\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.078667\t최선의 손실: 0.041092\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.078336\t최선의 손실: 0.041092\t정확도: 98.59%\n", + "35\t검증 세트 손실: 0.077813\t최선의 손실: 0.041092\t정확도: 98.87%\n", + "36\t검증 세트 손실: 0.102202\t최선의 손실: 0.041092\t정확도: 98.44%\n", + "37\t검증 세트 손실: 0.074936\t최선의 손실: 0.041092\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.081709\t최선의 손실: 0.041092\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.075282\t최선의 손실: 0.041092\t정확도: 98.40%\n", + "40\t검증 세트 손실: 0.072472\t최선의 손실: 0.041092\t정확도: 98.55%\n", + "41\t검증 세트 손실: 0.097626\t최선의 손실: 0.041092\t정확도: 98.16%\n", "조기 종료!\n", - "[CV] batch_size=500, activation=, learning_rate=0.01, batch_norm_momentum=0.999, n_neurons=30, total= 29.1s\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90 \n", - "0\t검증 세트 손실: 1.222787\t최선의 손실: 1.222787\t정확도: 89.25%\n", - "1\t검증 세트 손실: 0.145905\t최선의 손실: 0.145905\t정확도: 97.77%\n", - "2\t검증 세트 손실: 0.121568\t최선의 손실: 0.121568\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.098396\t최선의 손실: 0.098396\t정확도: 97.97%\n", - "4\t검증 세트 손실: 0.061845\t최선의 손실: 0.061845\t정확도: 98.32%\n", - "5\t검증 세트 손실: 0.089877\t최선의 손실: 0.061845\t정확도: 97.42%\n", - "6\t검증 세트 손실: 0.092608\t최선의 손실: 0.061845\t정확도: 97.22%\n", - "7\t검증 세트 손실: 0.055512\t최선의 손실: 0.055512\t정확도: 98.32%\n", - "8\t검증 세트 손실: 0.082699\t최선의 손실: 0.055512\t정확도: 97.77%\n", - "9\t검증 세트 손실: 0.058193\t최선의 손실: 0.055512\t정확도: 98.48%\n", - "10\t검증 세트 손실: 0.075556\t최선의 손실: 0.055512\t정확도: 97.89%\n", - "11\t검증 세트 손실: 0.044831\t최선의 손실: 0.044831\t정확도: 98.51%\n", - "12\t검증 세트 손실: 0.052319\t최선의 손실: 0.044831\t정확도: 98.55%\n", - "13\t검증 세트 손실: 0.070776\t최선의 손실: 0.044831\t정확도: 98.12%\n", - "14\t검증 세트 손실: 0.081133\t최선의 손실: 0.044831\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.064737\t최선의 손실: 0.044831\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.045890\t최선의 손실: 0.044831\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.055936\t최선의 손실: 0.044831\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.057638\t최선의 손실: 0.044831\t정확도: 98.71%\n", - "19\t검증 세트 손실: 0.045185\t최선의 손실: 0.044831\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.046436\t최선의 손실: 0.044831\t정확도: 98.83%\n", - "21\t검증 세트 손실: 0.040164\t최선의 손실: 0.040164\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.036420\t최선의 손실: 0.036420\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.054534\t최선의 손실: 0.036420\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.061577\t최선의 손실: 0.036420\t정확도: 98.48%\n", - "25\t검증 세트 손실: 0.053326\t최선의 손실: 0.036420\t정확도: 98.83%\n", - "26\t검증 세트 손실: 0.046493\t최선의 손실: 0.036420\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.051856\t최선의 손실: 0.036420\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.048684\t최선의 손실: 0.036420\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.051745\t최선의 손실: 0.036420\t정확도: 98.83%\n", - "30\t검증 세트 손실: 0.051121\t최선의 손실: 0.036420\t정확도: 98.63%\n", - "31\t검증 세트 손실: 0.037121\t최선의 손실: 0.036420\t정확도: 98.98%\n", - "32\t검증 세트 손실: 0.042323\t최선의 손실: 0.036420\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.055486\t최선의 손실: 0.036420\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.055202\t최선의 손실: 0.036420\t정확도: 98.94%\n", - "35\t검증 세트 손실: 0.064269\t최선의 손실: 0.036420\t정확도: 98.32%\n", - "36\t검증 세트 손실: 0.051545\t최선의 손실: 0.036420\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.064434\t최선의 손실: 0.036420\t정확도: 98.51%\n", - "38\t검증 세트 손실: 0.037803\t최선의 손실: 0.036420\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.051444\t최선의 손실: 0.036420\t정확도: 98.55%\n", - "40\t검증 세트 손실: 0.049253\t최선의 손실: 0.036420\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.053765\t최선의 손실: 0.036420\t정확도: 98.63%\n", - "42\t검증 세트 손실: 0.061515\t최선의 손실: 0.036420\t정확도: 98.48%\n", - "43\t검증 세트 손실: 0.044544\t최선의 손실: 0.036420\t정확도: 98.75%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 9.0s\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.132292\t최선의 손실: 0.132292\t정확도: 96.09%\n", + "1\t검증 세트 손실: 0.069229\t최선의 손실: 0.069229\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.052408\t최선의 손실: 0.052408\t정확도: 98.48%\n", + "3\t검증 세트 손실: 0.054828\t최선의 손실: 0.052408\t정확도: 98.40%\n", + "4\t검증 세트 손실: 0.060730\t최선의 손실: 0.052408\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.060710\t최선의 손실: 0.052408\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.050403\t최선의 손실: 0.050403\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.041211\t최선의 손실: 0.041211\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.053469\t최선의 손실: 0.041211\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.041037\t최선의 손실: 0.041037\t정확도: 99.06%\n", + "10\t검증 세트 손실: 0.049886\t최선의 손실: 0.041037\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.089855\t최선의 손실: 0.041037\t정확도: 98.08%\n", + "12\t검증 세트 손실: 0.055927\t최선의 손실: 0.041037\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.045685\t최선의 손실: 0.041037\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.062385\t최선의 손실: 0.041037\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.067522\t최선의 손실: 0.041037\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.062380\t최선의 손실: 0.041037\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.063883\t최선의 손실: 0.041037\t정확도: 98.63%\n", + "18\t검증 세트 손실: 0.055585\t최선의 손실: 0.041037\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.063723\t최선의 손실: 0.041037\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.060566\t최선의 손실: 0.041037\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.043315\t최선의 손실: 0.041037\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.060352\t최선의 손실: 0.041037\t정확도: 98.71%\n", + "23\t검증 세트 손실: 0.057391\t최선의 손실: 0.041037\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.073764\t최선의 손실: 0.041037\t정확도: 98.55%\n", + "25\t검증 세트 손실: 0.064322\t최선의 손실: 0.041037\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.078792\t최선의 손실: 0.041037\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.046795\t최선의 손실: 0.041037\t정확도: 98.75%\n", + "28\t검증 세트 손실: 0.070625\t최선의 손실: 0.041037\t정확도: 98.67%\n", + "29\t검증 세트 손실: 0.057071\t최선의 손실: 0.041037\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.059212\t최선의 손실: 0.041037\t정확도: 98.91%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90, total= 4.9min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90 \n", - "0\t검증 세트 손실: 0.231920\t최선의 손실: 0.231920\t정확도: 96.44%\n", - "1\t검증 세트 손실: 0.302893\t최선의 손실: 0.231920\t정확도: 93.39%\n", - "2\t검증 세트 손실: 0.088163\t최선의 손실: 0.088163\t정확도: 97.89%\n", - "3\t검증 세트 손실: 0.090105\t최선의 손실: 0.088163\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.146557\t최선의 손실: 0.088163\t정확도: 96.76%\n", - "5\t검증 세트 손실: 0.116529\t최선의 손실: 0.088163\t정확도: 97.11%\n", - "6\t검증 세트 손실: 0.088754\t최선의 손실: 0.088163\t정확도: 97.62%\n", - "7\t검증 세트 손실: 0.064790\t최선의 손실: 0.064790\t정확도: 98.24%\n", - "8\t검증 세트 손실: 0.057653\t최선의 손실: 0.057653\t정확도: 98.83%\n", - "9\t검증 세트 손실: 0.066521\t최선의 손실: 0.057653\t정확도: 98.44%\n", - "10\t검증 세트 손실: 0.120275\t최선의 손실: 0.057653\t정확도: 97.15%\n", - "11\t검증 세트 손실: 0.057794\t최선의 손실: 0.057653\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.058682\t최선의 손실: 0.057653\t정확도: 98.40%\n", - "13\t검증 세트 손실: 0.050780\t최선의 손실: 0.050780\t정확도: 98.51%\n", - "14\t검증 세트 손실: 0.050458\t최선의 손실: 0.050458\t정확도: 98.48%\n", - "15\t검증 세트 손실: 0.048437\t최선의 손실: 0.048437\t정확도: 98.40%\n", - "16\t검증 세트 손실: 0.045325\t최선의 손실: 0.045325\t정확도: 98.63%\n", - "17\t검증 세트 손실: 0.045930\t최선의 손실: 0.045325\t정확도: 98.87%\n", - "18\t검증 세트 손실: 0.034150\t최선의 손실: 0.034150\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.052354\t최선의 손실: 0.034150\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.045701\t최선의 손실: 0.034150\t정확도: 98.87%\n", - "21\t검증 세트 손실: 0.056819\t최선의 손실: 0.034150\t정확도: 98.63%\n", - "22\t검증 세트 손실: 0.056642\t최선의 손실: 0.034150\t정확도: 98.48%\n", - "23\t검증 세트 손실: 0.073236\t최선의 손실: 0.034150\t정확도: 98.48%\n", - "24\t검증 세트 손실: 0.052801\t최선의 손실: 0.034150\t정확도: 98.55%\n", - "25\t검증 세트 손실: 0.045939\t최선의 손실: 0.034150\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.043158\t최선의 손실: 0.034150\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.046068\t최선의 손실: 0.034150\t정확도: 98.63%\n", - "28\t검증 세트 손실: 0.052544\t최선의 손실: 0.034150\t정확도: 98.71%\n", - "29\t검증 세트 손실: 0.066632\t최선의 손실: 0.034150\t정확도: 98.44%\n", - "30\t검증 세트 손실: 0.095002\t최선의 손실: 0.034150\t정확도: 97.15%\n", - "31\t검증 세트 손실: 0.059935\t최선의 손실: 0.034150\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.038292\t최선의 손실: 0.034150\t정확도: 98.98%\n", - "33\t검증 세트 손실: 0.028571\t최선의 손실: 0.028571\t정확도: 99.02%\n", - "34\t검증 세트 손실: 0.037646\t최선의 손실: 0.028571\t정확도: 98.87%\n", - "35\t검증 세트 손실: 0.047495\t최선의 손실: 0.028571\t정확도: 98.87%\n", - "36\t검증 세트 손실: 0.041674\t최선의 손실: 0.028571\t정확도: 98.79%\n", - "37\t검증 세트 손실: 0.043881\t최선의 손실: 0.028571\t정확도: 98.98%\n", - "38\t검증 세트 손실: 0.038096\t최선의 손실: 0.028571\t정확도: 98.91%\n", - "39\t검증 세트 손실: 0.049818\t최선의 손실: 0.028571\t정확도: 98.63%\n", - "40\t검증 세트 손실: 0.036491\t최선의 손실: 0.028571\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.049623\t최선의 손실: 0.028571\t정확도: 98.94%\n", - "42\t검증 세트 손실: 0.055309\t최선의 손실: 0.028571\t정확도: 98.48%\n", - "43\t검증 세트 손실: 0.045092\t최선의 손실: 0.028571\t정확도: 98.98%\n", - "44\t검증 세트 손실: 0.061969\t최선의 손실: 0.028571\t정확도: 98.63%\n", - "45\t검증 세트 손실: 0.035158\t최선의 손실: 0.028571\t정확도: 99.14%\n", - "46\t검증 세트 손실: 0.051832\t최선의 손실: 0.028571\t정확도: 98.59%\n", - "47\t검증 세트 손실: 0.065410\t최선의 손실: 0.028571\t정확도: 98.83%\n", - "48\t검증 세트 손실: 0.059482\t최선의 손실: 0.028571\t정확도: 98.79%\n", - "49\t검증 세트 손실: 0.056751\t최선의 손실: 0.028571\t정확도: 98.67%\n", - "50\t검증 세트 손실: 0.066098\t최선의 손실: 0.028571\t정확도: 98.83%\n", - "51\t검증 세트 손실: 0.041228\t최선의 손실: 0.028571\t정확도: 98.94%\n", - "52\t검증 세트 손실: 0.039405\t최선의 손실: 0.028571\t정확도: 99.06%\n", - "53\t검증 세트 손실: 0.049228\t최선의 손실: 0.028571\t정확도: 98.87%\n", - "54\t검증 세트 손실: 0.037108\t최선의 손실: 0.028571\t정확도: 98.98%\n", + "[CV] n_neurons=90, learning_rate=0.1, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 7.0s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.072609\t최선의 손실: 0.072609\t정확도: 98.08%\n", + "1\t검증 세트 손실: 0.053102\t최선의 손실: 0.053102\t정확도: 98.44%\n", + "2\t검증 세트 손실: 0.055841\t최선의 손실: 0.053102\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.054551\t최선의 손실: 0.053102\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.041921\t최선의 손실: 0.041921\t정확도: 98.79%\n", + "5\t검증 세트 손실: 0.055650\t최선의 손실: 0.041921\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.044535\t최선의 손실: 0.041921\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.073687\t최선의 손실: 0.041921\t정확도: 98.40%\n", + "8\t검증 세트 손실: 0.044941\t최선의 손실: 0.041921\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.049920\t최선의 손실: 0.041921\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.053953\t최선의 손실: 0.041921\t정확도: 98.67%\n", + "11\t검증 세트 손실: 0.047688\t최선의 손실: 0.041921\t정확도: 98.83%\n", + "12\t검증 세트 손실: 0.047657\t최선의 손실: 0.041921\t정확도: 98.98%\n", + "13\t검증 세트 손실: 0.049273\t최선의 손실: 0.041921\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.035685\t최선의 손실: 0.035685\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.039688\t최선의 손실: 0.035685\t정확도: 99.06%\n", + "16\t검증 세트 손실: 0.056731\t최선의 손실: 0.035685\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.047127\t최선의 손실: 0.035685\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.044971\t최선의 손실: 0.035685\t정확도: 99.10%\n", + "19\t검증 세트 손실: 0.033394\t최선의 손실: 0.033394\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.046245\t최선의 손실: 0.033394\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.037722\t최선의 손실: 0.033394\t정확도: 99.26%\n", + "22\t검증 세트 손실: 0.064901\t최선의 손실: 0.033394\t정확도: 98.71%\n", + "23\t검증 세트 손실: 0.053572\t최선의 손실: 0.033394\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.043846\t최선의 손실: 0.033394\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.049465\t최선의 손실: 0.033394\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.077728\t최선의 손실: 0.033394\t정확도: 98.44%\n", + "27\t검증 세트 손실: 0.043586\t최선의 손실: 0.033394\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.068021\t최선의 손실: 0.033394\t정확도: 98.71%\n", + "29\t검증 세트 손실: 0.060193\t최선의 손실: 0.033394\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.051052\t최선의 손실: 0.033394\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.054352\t최선의 손실: 0.033394\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.053306\t최선의 손실: 0.033394\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.062063\t최선의 손실: 0.033394\t정확도: 98.91%\n", + "34\t검증 세트 손실: 0.062498\t최선의 손실: 0.033394\t정확도: 98.75%\n", + "35\t검증 세트 손실: 0.079795\t최선의 손실: 0.033394\t정확도: 98.40%\n", + "36\t검증 세트 손실: 0.053244\t최선의 손실: 0.033394\t정확도: 98.98%\n", + "37\t검증 세트 손실: 0.059798\t최선의 손실: 0.033394\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.047381\t최선의 손실: 0.033394\t정확도: 99.14%\n", + "39\t검증 세트 손실: 0.065575\t최선의 손실: 0.033394\t정확도: 98.91%\n", + "40\t검증 세트 손실: 0.072464\t최선의 손실: 0.033394\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90, total= 6.2min\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90 \n", - "0\t검증 세트 손실: 0.509211\t최선의 손실: 0.509211\t정확도: 93.16%\n" + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 8.5s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.065862\t최선의 손실: 0.065862\t정확도: 98.05%\n", + "1\t검증 세트 손실: 0.049761\t최선의 손실: 0.049761\t정확도: 98.51%\n", + "2\t검증 세트 손실: 0.041331\t최선의 손실: 0.041331\t정확도: 98.83%\n", + "3\t검증 세트 손실: 0.045487\t최선의 손실: 0.041331\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.054793\t최선의 손실: 0.041331\t정확도: 98.32%\n", + "5\t검증 세트 손실: 0.053056\t최선의 손실: 0.041331\t정확도: 98.75%\n", + "6\t검증 세트 손실: 0.044595\t최선의 손실: 0.041331\t정확도: 98.94%\n", + "7\t검증 세트 손실: 0.048170\t최선의 손실: 0.041331\t정확도: 98.94%\n", + "8\t검증 세트 손실: 0.056557\t최선의 손실: 0.041331\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.046530\t최선의 손실: 0.041331\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.046902\t최선의 손실: 0.041331\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.036020\t최선의 손실: 0.036020\t정확도: 99.18%\n", + "12\t검증 세트 손실: 0.046521\t최선의 손실: 0.036020\t정확도: 98.98%\n", + "13\t검증 세트 손실: 0.045201\t최선의 손실: 0.036020\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.038508\t최선의 손실: 0.036020\t정확도: 98.91%\n", + "15\t검증 세트 손실: 0.047614\t최선의 손실: 0.036020\t정확도: 98.91%\n", + "16\t검증 세트 손실: 0.053880\t최선의 손실: 0.036020\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.050715\t최선의 손실: 0.036020\t정확도: 98.91%\n", + "18\t검증 세트 손실: 0.047157\t최선의 손실: 0.036020\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.042711\t최선의 손실: 0.036020\t정확도: 99.10%\n", + "20\t검증 세트 손실: 0.055017\t최선의 손실: 0.036020\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.077781\t최선의 손실: 0.036020\t정확도: 98.40%\n", + "22\t검증 세트 손실: 0.041532\t최선의 손실: 0.036020\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.060778\t최선의 손실: 0.036020\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.050334\t최선의 손실: 0.036020\t정확도: 99.14%\n", + "25\t검증 세트 손실: 0.059423\t최선의 손실: 0.036020\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.053770\t최선의 손실: 0.036020\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.064145\t최선의 손실: 0.036020\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.043202\t최선의 손실: 0.036020\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.047101\t최선의 손실: 0.036020\t정확도: 98.83%\n", + "30\t검증 세트 손실: 0.062335\t최선의 손실: 0.036020\t정확도: 98.91%\n", + "31\t검증 세트 손실: 0.065558\t최선의 손실: 0.036020\t정확도: 98.87%\n", + "32\t검증 세트 손실: 0.058241\t최선의 손실: 0.036020\t정확도: 98.79%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 7.0s\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation= \n", + "0\t검증 세트 손실: 0.067980\t최선의 손실: 0.067980\t정확도: 97.85%\n", + "1\t검증 세트 손실: 0.056332\t최선의 손실: 0.056332\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.034498\t최선의 손실: 0.034498\t정확도: 99.06%\n", + "3\t검증 세트 손실: 0.038630\t최선의 손실: 0.034498\t정확도: 98.63%\n", + "4\t검증 세트 손실: 0.033272\t최선의 손실: 0.033272\t정확도: 99.06%\n", + "5\t검증 세트 손실: 0.050105\t최선의 손실: 0.033272\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.031764\t최선의 손실: 0.031764\t정확도: 99.14%\n", + "7\t검증 세트 손실: 0.067287\t최선의 손실: 0.031764\t정확도: 98.44%\n", + "8\t검증 세트 손실: 0.043149\t최선의 손실: 0.031764\t정확도: 98.98%\n", + "9\t검증 세트 손실: 0.041946\t최선의 손실: 0.031764\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.034714\t최선의 손실: 0.031764\t정확도: 99.02%\n", + "11\t검증 세트 손실: 0.053909\t최선의 손실: 0.031764\t정확도: 98.87%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "1\t검증 세트 손실: 0.154125\t최선의 손실: 0.154125\t정확도: 97.65%\n", - "2\t검증 세트 손실: 0.143028\t최선의 손실: 0.143028\t정확도: 96.13%\n", - "3\t검증 세트 손실: 0.092420\t최선의 손실: 0.092420\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.106767\t최선의 손실: 0.092420\t정확도: 96.48%\n", - "5\t검증 세트 손실: 0.440529\t최선의 손실: 0.092420\t정확도: 89.64%\n", - "6\t검증 세트 손실: 0.053277\t최선의 손실: 0.053277\t정확도: 98.59%\n", - "7\t검증 세트 손실: 0.102831\t최선의 손실: 0.053277\t정확도: 96.99%\n", - "8\t검증 세트 손실: 0.055311\t최선의 손실: 0.053277\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.050859\t최선의 손실: 0.050859\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.052555\t최선의 손실: 0.050859\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.046673\t최선의 손실: 0.046673\t정확도: 98.67%\n", - "12\t검증 세트 손실: 0.037888\t최선의 손실: 0.037888\t정확도: 98.75%\n", - "13\t검증 세트 손실: 0.055524\t최선의 손실: 0.037888\t정확도: 98.67%\n", - "14\t검증 세트 손실: 0.041076\t최선의 손실: 0.037888\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.056087\t최선의 손실: 0.037888\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.042697\t최선의 손실: 0.037888\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.054755\t최선의 손실: 0.037888\t정확도: 98.63%\n", - "18\t검증 세트 손실: 0.045557\t최선의 손실: 0.037888\t정확도: 98.87%\n", - "19\t검증 세트 손실: 0.041613\t최선의 손실: 0.037888\t정확도: 98.98%\n", - "20\t검증 세트 손실: 0.072091\t최선의 손실: 0.037888\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.035773\t최선의 손실: 0.035773\t정확도: 98.94%\n", - "22\t검증 세트 손실: 0.051965\t최선의 손실: 0.035773\t정확도: 98.67%\n", - "23\t검증 세트 손실: 0.040352\t최선의 손실: 0.035773\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.044118\t최선의 손실: 0.035773\t정확도: 98.98%\n", - "25\t검증 세트 손실: 0.087325\t최선의 손실: 0.035773\t정확도: 97.97%\n", - "26\t검증 세트 손실: 0.036186\t최선의 손실: 0.035773\t정확도: 98.87%\n", - "27\t검증 세트 손실: 0.047193\t최선의 손실: 0.035773\t정확도: 98.79%\n", - "28\t검증 세트 손실: 0.048336\t최선의 손실: 0.035773\t정확도: 98.79%\n", - "29\t검증 세트 손실: 0.045217\t최선의 손실: 0.035773\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.037545\t최선의 손실: 0.035773\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.062496\t최선의 손실: 0.035773\t정확도: 98.40%\n", - "32\t검증 세트 손실: 0.027539\t최선의 손실: 0.027539\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.050007\t최선의 손실: 0.027539\t정확도: 98.75%\n", - "34\t검증 세트 손실: 0.028711\t최선의 손실: 0.027539\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.041673\t최선의 손실: 0.027539\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.049211\t최선의 손실: 0.027539\t정확도: 98.79%\n", - "37\t검증 세트 손실: 0.038846\t최선의 손실: 0.027539\t정확도: 99.22%\n", - "38\t검증 세트 손실: 0.050473\t최선의 손실: 0.027539\t정확도: 98.71%\n", - "39\t검증 세트 손실: 0.057025\t최선의 손실: 0.027539\t정확도: 98.67%\n", - "40\t검증 세트 손실: 0.046713\t최선의 손실: 0.027539\t정확도: 98.91%\n", - "41\t검증 세트 손실: 0.035716\t최선의 손실: 0.027539\t정확도: 99.18%\n", - "42\t검증 세트 손실: 0.040153\t최선의 손실: 0.027539\t정확도: 99.06%\n", - "43\t검증 세트 손실: 0.043382\t최선의 손실: 0.027539\t정확도: 98.75%\n", - "44\t검증 세트 손실: 0.028385\t최선의 손실: 0.027539\t정확도: 99.22%\n", - "45\t검증 세트 손실: 0.044109\t최선의 손실: 0.027539\t정확도: 99.22%\n", - "46\t검증 세트 손실: 0.056230\t최선의 손실: 0.027539\t정확도: 98.79%\n", - "47\t검증 세트 손실: 0.046310\t최선의 손실: 0.027539\t정확도: 98.71%\n", - "48\t검증 세트 손실: 0.064205\t최선의 손실: 0.027539\t정확도: 98.28%\n", - "49\t검증 세트 손실: 0.041383\t최선의 손실: 0.027539\t정확도: 99.06%\n", - "50\t검증 세트 손실: 0.044330\t최선의 손실: 0.027539\t정확도: 98.98%\n", - "51\t검증 세트 손실: 0.224173\t최선의 손실: 0.027539\t정확도: 93.86%\n", - "52\t검증 세트 손실: 0.035513\t최선의 손실: 0.027539\t정확도: 99.10%\n", - "53\t검증 세트 손실: 0.060580\t최선의 손실: 0.027539\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.035563\t최선의 손실: 0.031764\t정확도: 99.30%\n", + "13\t검증 세트 손실: 0.041711\t최선의 손실: 0.031764\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.049679\t최선의 손실: 0.031764\t정확도: 98.71%\n", + "15\t검증 세트 손실: 0.037898\t최선의 손실: 0.031764\t정확도: 99.10%\n", + "16\t검증 세트 손실: 0.031636\t최선의 손실: 0.031636\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.045854\t최선의 손실: 0.031636\t정확도: 98.94%\n", + "18\t검증 세트 손실: 0.046828\t최선의 손실: 0.031636\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.039234\t최선의 손실: 0.031636\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.043232\t최선의 손실: 0.031636\t정확도: 99.10%\n", + "21\t검증 세트 손실: 0.045357\t최선의 손실: 0.031636\t정확도: 99.10%\n", + "22\t검증 세트 손실: 0.043089\t최선의 손실: 0.031636\t정확도: 99.10%\n", + "23\t검증 세트 손실: 0.043242\t최선의 손실: 0.031636\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.047761\t최선의 손실: 0.031636\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.044259\t최선의 손실: 0.031636\t정확도: 98.94%\n", + "26\t검증 세트 손실: 0.062656\t최선의 손실: 0.031636\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.026200\t최선의 손실: 0.026200\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.045152\t최선의 손실: 0.026200\t정확도: 99.06%\n", + "29\t검증 세트 손실: 0.067567\t최선의 손실: 0.026200\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.041827\t최선의 손실: 0.026200\t정확도: 99.10%\n", + "31\t검증 세트 손실: 0.043427\t최선의 손실: 0.026200\t정확도: 99.06%\n", + "32\t검증 세트 손실: 0.044378\t최선의 손실: 0.026200\t정확도: 99.02%\n", + "33\t검증 세트 손실: 0.049460\t최선의 손실: 0.026200\t정확도: 99.06%\n", + "34\t검증 세트 손실: 0.057998\t최선의 손실: 0.026200\t정확도: 98.98%\n", + "35\t검증 세트 손실: 0.052257\t최선의 손실: 0.026200\t정확도: 98.98%\n", + "36\t검증 세트 손실: 0.054513\t최선의 손실: 0.026200\t정확도: 98.94%\n", + "37\t검증 세트 손실: 0.054669\t최선의 손실: 0.026200\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.050071\t최선의 손실: 0.026200\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.047986\t최선의 손실: 0.026200\t정확도: 99.18%\n", + "40\t검증 세트 손실: 0.100963\t최선의 손실: 0.026200\t정확도: 97.85%\n", + "41\t검증 세트 손실: 0.041813\t최선의 손실: 0.026200\t정확도: 98.87%\n", + "42\t검증 세트 손실: 0.064042\t최선의 손실: 0.026200\t정확도: 98.67%\n", + "43\t검증 세트 손실: 0.051276\t최선의 손실: 0.026200\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.036762\t최선의 손실: 0.026200\t정확도: 99.22%\n", + "45\t검증 세트 손실: 0.038113\t최선의 손실: 0.026200\t정확도: 99.06%\n", + "46\t검증 세트 손실: 0.035329\t최선의 손실: 0.026200\t정확도: 99.18%\n", + "47\t검증 세트 손실: 0.045298\t최선의 손실: 0.026200\t정확도: 99.14%\n", + "48\t검증 세트 손실: 0.045531\t최선의 손실: 0.026200\t정확도: 99.18%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.02, batch_norm_momentum=0.999, n_neurons=90, total= 6.0min\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.079689\t최선의 손실: 0.079689\t정확도: 98.05%\n", - "1\t검증 세트 손실: 0.087904\t최선의 손실: 0.079689\t정확도: 97.69%\n", - "2\t검증 세트 손실: 0.074079\t최선의 손실: 0.074079\t정확도: 97.93%\n", - "3\t검증 세트 손실: 0.062604\t최선의 손실: 0.062604\t정확도: 98.05%\n", - "4\t검증 세트 손실: 0.042636\t최선의 손실: 0.042636\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.038079\t최선의 손실: 0.038079\t정확도: 98.87%\n", - "6\t검증 세트 손실: 0.034619\t최선의 손실: 0.034619\t정확도: 98.94%\n", - "7\t검증 세트 손실: 0.042526\t최선의 손실: 0.034619\t정확도: 98.71%\n", - "8\t검증 세트 손실: 0.045885\t최선의 손실: 0.034619\t정확도: 98.75%\n", - "9\t검증 세트 손실: 0.042420\t최선의 손실: 0.034619\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.050029\t최선의 손실: 0.034619\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.039804\t최선의 손실: 0.034619\t정확도: 98.87%\n", - "12\t검증 세트 손실: 0.040726\t최선의 손실: 0.034619\t정확도: 98.79%\n", - "13\t검증 세트 손실: 0.063324\t최선의 손실: 0.034619\t정확도: 98.55%\n", - "14\t검증 세트 손실: 0.074780\t최선의 손실: 0.034619\t정확도: 98.32%\n", - "15\t검증 세트 손실: 0.056216\t최선의 손실: 0.034619\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.052356\t최선의 손실: 0.034619\t정확도: 99.10%\n", - "17\t검증 세트 손실: 0.057881\t최선의 손실: 0.034619\t정확도: 98.75%\n", - "18\t검증 세트 손실: 0.041021\t최선의 손실: 0.034619\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.054007\t최선의 손실: 0.034619\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.069950\t최선의 손실: 0.034619\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.055257\t최선의 손실: 0.034619\t정확도: 98.71%\n", - "22\t검증 세트 손실: 0.046504\t최선의 손실: 0.034619\t정확도: 98.94%\n", - "23\t검증 세트 손실: 0.047095\t최선의 손실: 0.034619\t정확도: 98.83%\n", - "24\t검증 세트 손실: 0.079192\t최선의 손실: 0.034619\t정확도: 98.36%\n", - "25\t검증 세트 손실: 0.052534\t최선의 손실: 0.034619\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.049041\t최선의 손실: 0.034619\t정확도: 98.83%\n", - "27\t검증 세트 손실: 0.046368\t최선의 손실: 0.034619\t정확도: 98.87%\n", + "[CV] n_neurons=140, learning_rate=0.02, batch_size=500, batch_norm_momentum=0.9, activation=, total= 9.7s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.071123\t최선의 손실: 0.071123\t정확도: 97.89%\n", + "1\t검증 세트 손실: 0.061892\t최선의 손실: 0.061892\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.045303\t최선의 손실: 0.045303\t정확도: 98.63%\n", + "3\t검증 세트 손실: 0.043869\t최선의 손실: 0.043869\t정확도: 98.59%\n", + "4\t검증 세트 손실: 0.044221\t최선의 손실: 0.043869\t정확도: 98.63%\n", + "5\t검증 세트 손실: 0.071683\t최선의 손실: 0.043869\t정확도: 98.20%\n", + "6\t검증 세트 손실: 0.043104\t최선의 손실: 0.043104\t정확도: 98.87%\n", + "7\t검증 세트 손실: 0.060566\t최선의 손실: 0.043104\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.045165\t최선의 손실: 0.043104\t정확도: 98.87%\n", + "9\t검증 세트 손실: 0.046991\t최선의 손실: 0.043104\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.046858\t최선의 손실: 0.043104\t정확도: 98.94%\n", + "11\t검증 세트 손실: 0.064605\t최선의 손실: 0.043104\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.046368\t최선의 손실: 0.043104\t정확도: 98.94%\n", + "13\t검증 세트 손실: 0.043412\t최선의 손실: 0.043104\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.030702\t최선의 손실: 0.030702\t정확도: 99.41%\n", + "15\t검증 세트 손실: 0.049110\t최선의 손실: 0.030702\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.041156\t최선의 손실: 0.030702\t정확도: 99.06%\n", + "17\t검증 세트 손실: 0.042686\t최선의 손실: 0.030702\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.040349\t최선의 손실: 0.030702\t정확도: 98.98%\n", + "19\t검증 세트 손실: 0.043404\t최선의 손실: 0.030702\t정확도: 98.98%\n", + "20\t검증 세트 손실: 0.037630\t최선의 손실: 0.030702\t정확도: 99.18%\n", + "21\t검증 세트 손실: 0.042674\t최선의 손실: 0.030702\t정확도: 99.14%\n", + "22\t검증 세트 손실: 0.050036\t최선의 손실: 0.030702\t정확도: 99.02%\n", + "23\t검증 세트 손실: 0.049632\t최선의 손실: 0.030702\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.047085\t최선의 손실: 0.030702\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.058227\t최선의 손실: 0.030702\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.064860\t최선의 손실: 0.030702\t정확도: 98.48%\n", + "27\t검증 세트 손실: 0.044710\t최선의 손실: 0.030702\t정확도: 98.67%\n", + "28\t검증 세트 손실: 0.040538\t최선의 손실: 0.030702\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.043701\t최선의 손실: 0.030702\t정확도: 98.91%\n", + "30\t검증 세트 손실: 0.043834\t최선의 손실: 0.030702\t정확도: 98.94%\n", + "31\t검증 세트 손실: 0.038693\t최선의 손실: 0.030702\t정확도: 99.22%\n", + "32\t검증 세트 손실: 0.039576\t최선의 손실: 0.030702\t정확도: 99.06%\n", + "33\t검증 세트 손실: 0.048748\t최선의 손실: 0.030702\t정확도: 98.91%\n", + "34\t검증 세트 손실: 0.045031\t최선의 손실: 0.030702\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.062957\t최선의 손실: 0.030702\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70, total= 22.2s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.101712\t최선의 손실: 0.101712\t정확도: 97.34%\n", - "1\t검증 세트 손실: 0.062402\t최선의 손실: 0.062402\t정확도: 98.20%\n", - "2\t검증 세트 손실: 0.049311\t최선의 손실: 0.049311\t정확도: 98.48%\n", - "3\t검증 세트 손실: 0.056752\t최선의 손실: 0.049311\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.052336\t최선의 손실: 0.049311\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.051348\t최선의 손실: 0.049311\t정확도: 98.59%\n", - "6\t검증 세트 손실: 0.059225\t최선의 손실: 0.049311\t정확도: 98.12%\n", - "7\t검증 세트 손실: 0.046526\t최선의 손실: 0.046526\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.039620\t최선의 손실: 0.039620\t정확도: 98.87%\n", - "9\t검증 세트 손실: 0.039678\t최선의 손실: 0.039620\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.048783\t최선의 손실: 0.039620\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.046172\t최선의 손실: 0.039620\t정확도: 98.75%\n", - "12\t검증 세트 손실: 0.046344\t최선의 손실: 0.039620\t정확도: 99.10%\n", - "13\t검증 세트 손실: 0.045789\t최선의 손실: 0.039620\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.043098\t최선의 손실: 0.039620\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.032391\t최선의 손실: 0.032391\t정확도: 99.30%\n", - "16\t검증 세트 손실: 0.046578\t최선의 손실: 0.032391\t정확도: 98.98%\n", - "17\t검증 세트 손실: 0.045556\t최선의 손실: 0.032391\t정확도: 98.83%\n", - "18\t검증 세트 손실: 0.042524\t최선의 손실: 0.032391\t정확도: 99.10%\n", - "19\t검증 세트 손실: 0.032031\t최선의 손실: 0.032031\t정확도: 99.26%\n", - "20\t검증 세트 손실: 0.046288\t최선의 손실: 0.032031\t정확도: 98.98%\n", - "21\t검증 세트 손실: 0.039022\t최선의 손실: 0.032031\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.038616\t최선의 손실: 0.032031\t정확도: 99.06%\n", - "23\t검증 세트 손실: 0.055678\t최선의 손실: 0.032031\t정확도: 98.91%\n", - "24\t검증 세트 손실: 0.051878\t최선의 손실: 0.032031\t정확도: 98.91%\n", - "25\t검증 세트 손실: 0.053500\t최선의 손실: 0.032031\t정확도: 98.87%\n", - "26\t검증 세트 손실: 0.053286\t최선의 손실: 0.032031\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.036357\t최선의 손실: 0.032031\t정확도: 99.18%\n", - "28\t검증 세트 손실: 0.039309\t최선의 손실: 0.032031\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.051259\t최선의 손실: 0.032031\t정확도: 98.79%\n", - "30\t검증 세트 손실: 0.053425\t최선의 손실: 0.032031\t정확도: 98.63%\n", - "31\t검증 세트 손실: 0.039833\t최선의 손실: 0.032031\t정확도: 99.14%\n", - "32\t검증 세트 손실: 0.042526\t최선의 손실: 0.032031\t정확도: 99.14%\n", - "33\t검증 세트 손실: 0.063431\t최선의 손실: 0.032031\t정확도: 98.63%\n", - "34\t검증 세트 손실: 0.045219\t최선의 손실: 0.032031\t정확도: 99.41%\n", - "35\t검증 세트 손실: 0.049184\t최선의 손실: 0.032031\t정확도: 99.06%\n", - "36\t검증 세트 손실: 0.038502\t최선의 손실: 0.032031\t정확도: 99.18%\n", - "37\t검증 세트 손실: 0.031137\t최선의 손실: 0.031137\t정확도: 99.41%\n", - "38\t검증 세트 손실: 0.030395\t최선의 손실: 0.030395\t정확도: 99.37%\n", - "39\t검증 세트 손실: 0.050383\t최선의 손실: 0.030395\t정확도: 98.71%\n", - "40\t검증 세트 손실: 0.034855\t최선의 손실: 0.030395\t정확도: 99.06%\n", - "41\t검증 세트 손실: 0.036598\t최선의 손실: 0.030395\t정확도: 99.18%\n", - "42\t검증 세트 손실: 0.055314\t최선의 손실: 0.030395\t정확도: 98.94%\n", - "43\t검증 세트 손실: 0.057435\t최선의 손실: 0.030395\t정확도: 98.91%\n", - "44\t검증 세트 손실: 0.038605\t최선의 손실: 0.030395\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.042323\t최선의 손실: 0.030395\t정확도: 98.94%\n", - "46\t검증 세트 손실: 0.047634\t최선의 손실: 0.030395\t정확도: 99.22%\n", - "47\t검증 세트 손실: 0.042662\t최선의 손실: 0.030395\t정확도: 99.34%\n", - "48\t검증 세트 손실: 0.047816\t최선의 손실: 0.030395\t정확도: 99.18%\n", - "49\t검증 세트 손실: 0.048256\t최선의 손실: 0.030395\t정확도: 99.02%\n", - "50\t검증 세트 손실: 0.043679\t최선의 손실: 0.030395\t정확도: 99.10%\n", - "51\t검증 세트 손실: 0.068706\t최선의 손실: 0.030395\t정확도: 98.83%\n", - "52\t검증 세트 손실: 0.065680\t최선의 손실: 0.030395\t정확도: 98.83%\n", - "53\t검증 세트 손실: 0.043498\t최선의 손실: 0.030395\t정확도: 98.98%\n", - "54\t검증 세트 손실: 0.038306\t최선의 손실: 0.030395\t정확도: 99.06%\n", - "55\t검증 세트 손실: 0.035384\t최선의 손실: 0.030395\t정확도: 99.22%\n", - "56\t검증 세트 손실: 0.036625\t최선의 손실: 0.030395\t정확도: 99.14%\n", - "57\t검증 세트 손실: 0.029292\t최선의 손실: 0.029292\t정확도: 99.26%\n", - "58\t검증 세트 손실: 0.033059\t최선의 손실: 0.029292\t정확도: 99.22%\n", - "59\t검증 세트 손실: 0.043839\t최선의 손실: 0.029292\t정확도: 99.10%\n", - "60\t검증 세트 손실: 0.043441\t최선의 손실: 0.029292\t정확도: 99.18%\n", - "61\t검증 세트 손실: 0.034448\t최선의 손실: 0.029292\t정확도: 99.34%\n", - "62\t검증 세트 손실: 0.042042\t최선의 손실: 0.029292\t정확도: 99.30%\n", - "63\t검증 세트 손실: 0.049148\t최선의 손실: 0.029292\t정확도: 99.14%\n", - "64\t검증 세트 손실: 0.052765\t최선의 손실: 0.029292\t정확도: 99.06%\n", - "65\t검증 세트 손실: 0.037383\t최선의 손실: 0.029292\t정확도: 99.26%\n", - "66\t검증 세트 손실: 0.034276\t최선의 손실: 0.029292\t정확도: 99.41%\n" + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 7.9s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.060760\t최선의 손실: 0.060760\t정확도: 97.97%\n", + "1\t검증 세트 손실: 0.045755\t최선의 손실: 0.045755\t정확도: 98.44%\n", + "2\t검증 세트 손실: 0.059761\t최선의 손실: 0.045755\t정확도: 98.20%\n", + "3\t검증 세트 손실: 0.046139\t최선의 손실: 0.045755\t정확도: 98.71%\n", + "4\t검증 세트 손실: 0.048990\t최선의 손실: 0.045755\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.055956\t최선의 손실: 0.045755\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.044474\t최선의 손실: 0.044474\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.047226\t최선의 손실: 0.044474\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.054252\t최선의 손실: 0.044474\t정확도: 98.63%\n", + "9\t검증 세트 손실: 0.049347\t최선의 손실: 0.044474\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.058721\t최선의 손실: 0.044474\t정확도: 98.32%\n", + "11\t검증 세트 손실: 0.051362\t최선의 손실: 0.044474\t정확도: 98.83%\n", + "12\t검증 세트 손실: 0.044947\t최선의 손실: 0.044474\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.044327\t최선의 손실: 0.044327\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.060308\t최선의 손실: 0.044327\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.048822\t최선의 손실: 0.044327\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.047526\t최선의 손실: 0.044327\t정확도: 98.91%\n", + "17\t검증 세트 손실: 0.071310\t최선의 손실: 0.044327\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.059433\t최선의 손실: 0.044327\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.035658\t최선의 손실: 0.035658\t정확도: 99.26%\n", + "20\t검증 세트 손실: 0.071478\t최선의 손실: 0.035658\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.040329\t최선의 손실: 0.035658\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.065609\t최선의 손실: 0.035658\t정확도: 98.63%\n", + "23\t검증 세트 손실: 0.048789\t최선의 손실: 0.035658\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.046967\t최선의 손실: 0.035658\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.054300\t최선의 손실: 0.035658\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.059767\t최선의 손실: 0.035658\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.068581\t최선의 손실: 0.035658\t정확도: 98.59%\n", + "28\t검증 세트 손실: 0.052617\t최선의 손실: 0.035658\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.045677\t최선의 손실: 0.035658\t정확도: 98.94%\n", + "30\t검증 세트 손실: 0.050151\t최선의 손실: 0.035658\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.045759\t최선의 손실: 0.035658\t정확도: 99.06%\n", + "32\t검증 세트 손실: 0.050861\t최선의 손실: 0.035658\t정확도: 98.98%\n", + "33\t검증 세트 손실: 0.049083\t최선의 손실: 0.035658\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.043978\t최선의 손실: 0.035658\t정확도: 99.18%\n", + "35\t검증 세트 손실: 0.038103\t최선의 손실: 0.035658\t정확도: 99.18%\n", + "36\t검증 세트 손실: 0.046312\t최선의 손실: 0.035658\t정확도: 99.06%\n", + "37\t검증 세트 손실: 0.055921\t최선의 손실: 0.035658\t정확도: 98.91%\n", + "38\t검증 세트 손실: 0.059262\t최선의 손실: 0.035658\t정확도: 99.06%\n", + "39\t검증 세트 손실: 0.051883\t최선의 손실: 0.035658\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.043478\t최선의 손실: 0.035658\t정확도: 98.79%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 8.9s\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.060108\t최선의 손실: 0.060108\t정확도: 98.28%\n", + "1\t검증 세트 손실: 0.052435\t최선의 손실: 0.052435\t정확도: 98.28%\n", + "2\t검증 세트 손실: 0.040661\t최선의 손실: 0.040661\t정확도: 98.51%\n", + "3\t검증 세트 손실: 0.045278\t최선의 손실: 0.040661\t정확도: 98.51%\n", + "4\t검증 세트 손실: 0.038487\t최선의 손실: 0.038487\t정확도: 98.91%\n", + "5\t검증 세트 손실: 0.052995\t최선의 손실: 0.038487\t정확도: 98.40%\n", + "6\t검증 세트 손실: 0.044894\t최선의 손실: 0.038487\t정확도: 98.83%\n", + "7\t검증 세트 손실: 0.051523\t최선의 손실: 0.038487\t정확도: 98.48%\n", + "8\t검증 세트 손실: 0.050514\t최선의 손실: 0.038487\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.054728\t최선의 손실: 0.038487\t정확도: 98.75%\n", + "10\t검증 세트 손실: 0.053670\t최선의 손실: 0.038487\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.055161\t최선의 손실: 0.038487\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.057807\t최선의 손실: 0.038487\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.069018\t최선의 손실: 0.038487\t정확도: 98.71%\n", + "14\t검증 세트 손실: 0.062331\t최선의 손실: 0.038487\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.058356\t최선의 손실: 0.038487\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.045402\t최선의 손실: 0.038487\t정확도: 98.91%\n", + "17\t검증 세트 손실: 0.048724\t최선의 손실: 0.038487\t정확도: 98.83%\n", + "18\t검증 세트 손실: 0.043247\t최선의 손실: 0.038487\t정확도: 99.14%\n", + "19\t검증 세트 손실: 0.043179\t최선의 손실: 0.038487\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.051583\t최선의 손실: 0.038487\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.044487\t최선의 손실: 0.038487\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.048439\t최선의 손실: 0.038487\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.047898\t최선의 손실: 0.038487\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.047564\t최선의 손실: 0.038487\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.051227\t최선의 손실: 0.038487\t정확도: 98.87%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 6.2s\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "67\t검증 세트 손실: 0.038295\t최선의 손실: 0.029292\t정확도: 99.10%\n", - "68\t검증 세트 손실: 0.036326\t최선의 손실: 0.029292\t정확도: 99.34%\n", - "69\t검증 세트 손실: 0.030817\t최선의 손실: 0.029292\t정확도: 99.30%\n", - "70\t검증 세트 손실: 0.042943\t최선의 손실: 0.029292\t정확도: 99.18%\n", - "71\t검증 세트 손실: 0.054757\t최선의 손실: 0.029292\t정확도: 98.94%\n", - "72\t검증 세트 손실: 0.036897\t최선의 손실: 0.029292\t정확도: 99.34%\n", - "73\t검증 세트 손실: 0.048006\t최선의 손실: 0.029292\t정확도: 98.83%\n", - "74\t검증 세트 손실: 0.033149\t최선의 손실: 0.029292\t정확도: 99.41%\n", - "75\t검증 세트 손실: 0.043783\t최선의 손실: 0.029292\t정확도: 99.30%\n", - "76\t검증 세트 손실: 0.042742\t최선의 손실: 0.029292\t정확도: 99.37%\n", - "77\t검증 세트 손실: 0.043424\t최선의 손실: 0.029292\t정확도: 99.30%\n", - "78\t검증 세트 손실: 0.065959\t최선의 손실: 0.029292\t정확도: 98.83%\n", + "0\t검증 세트 손실: 5.293644\t최선의 손실: 5.293644\t정확도: 91.91%\n", + "1\t검증 세트 손실: 0.760886\t최선의 손실: 0.760886\t정확도: 95.27%\n", + "2\t검증 세트 손실: 0.549825\t최선의 손실: 0.549825\t정확도: 96.05%\n", + "3\t검증 세트 손실: 0.276733\t최선의 손실: 0.276733\t정확도: 96.64%\n", + "4\t검증 세트 손실: 0.366967\t최선의 손실: 0.276733\t정확도: 97.07%\n", + "5\t검증 세트 손실: 0.183328\t최선의 손실: 0.183328\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.194199\t최선의 손실: 0.183328\t정확도: 97.58%\n", + "7\t검증 세트 손실: 0.195892\t최선의 손실: 0.183328\t정확도: 97.54%\n", + "8\t검증 세트 손실: 0.725971\t최선의 손실: 0.183328\t정확도: 94.84%\n", + "9\t검증 세트 손실: 0.237860\t최선의 손실: 0.183328\t정확도: 97.50%\n", + "10\t검증 세트 손실: 0.301694\t최선의 손실: 0.183328\t정확도: 97.07%\n", + "11\t검증 세트 손실: 0.101018\t최선의 손실: 0.101018\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.246957\t최선의 손실: 0.101018\t정확도: 97.42%\n", + "13\t검증 세트 손실: 0.521978\t최선의 손실: 0.101018\t정확도: 97.38%\n", + "14\t검증 세트 손실: 13.004383\t최선의 손실: 0.101018\t정확도: 83.78%\n", + "15\t검증 세트 손실: 0.181261\t최선의 손실: 0.101018\t정확도: 98.05%\n", + "16\t검증 세트 손실: 0.189076\t최선의 손실: 0.101018\t정확도: 97.73%\n", + "17\t검증 세트 손실: 0.243115\t최선의 손실: 0.101018\t정확도: 96.21%\n", + "18\t검증 세트 손실: 0.138385\t최선의 손실: 0.101018\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.289413\t최선의 손실: 0.101018\t정확도: 96.48%\n", + "20\t검증 세트 손실: 0.177756\t최선의 손실: 0.101018\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.354204\t최선의 손실: 0.101018\t정확도: 96.01%\n", + "22\t검증 세트 손실: 0.252997\t최선의 손실: 0.101018\t정확도: 98.24%\n", + "23\t검증 세트 손실: 0.202294\t최선의 손실: 0.101018\t정확도: 98.20%\n", + "24\t검증 세트 손실: 0.367950\t최선의 손실: 0.101018\t정확도: 98.08%\n", + "25\t검증 세트 손실: 0.980093\t최선의 손실: 0.101018\t정확도: 95.19%\n", + "26\t검증 세트 손실: 0.150100\t최선의 손실: 0.101018\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.193011\t최선의 손실: 0.101018\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.352763\t최선의 손실: 0.101018\t정확도: 97.81%\n", + "29\t검증 세트 손실: 0.304026\t최선의 손실: 0.101018\t정확도: 97.97%\n", + "30\t검증 세트 손실: 0.505782\t최선의 손실: 0.101018\t정확도: 95.90%\n", + "31\t검증 세트 손실: 0.289236\t최선의 손실: 0.101018\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.116250\t최선의 손실: 0.101018\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70, total= 59.6s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70 \n", - "0\t검증 세트 손실: 0.067144\t최선의 손실: 0.067144\t정확도: 98.01%\n", - "1\t검증 세트 손실: 0.054913\t최선의 손실: 0.054913\t정확도: 98.28%\n", - "2\t검증 세트 손실: 0.050591\t최선의 손실: 0.050591\t정확도: 98.40%\n", - "3\t검증 세트 손실: 0.041975\t최선의 손실: 0.041975\t정확도: 98.71%\n", - "4\t검증 세트 손실: 0.042864\t최선의 손실: 0.041975\t정확도: 98.83%\n", - "5\t검증 세트 손실: 0.035743\t최선의 손실: 0.035743\t정확도: 98.75%\n", - "6\t검증 세트 손실: 0.042842\t최선의 손실: 0.035743\t정확도: 98.75%\n", - "7\t검증 세트 손실: 0.052148\t최선의 손실: 0.035743\t정확도: 98.48%\n", - "8\t검증 세트 손실: 0.047309\t최선의 손실: 0.035743\t정확도: 99.02%\n", - "9\t검증 세트 손실: 0.055008\t최선의 손실: 0.035743\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.046197\t최선의 손실: 0.035743\t정확도: 98.71%\n", - "11\t검증 세트 손실: 0.044221\t최선의 손실: 0.035743\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.066396\t최선의 손실: 0.035743\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.049269\t최선의 손실: 0.035743\t정확도: 98.83%\n", - "14\t검증 세트 손실: 0.035831\t최선의 손실: 0.035743\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.044986\t최선의 손실: 0.035743\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.033805\t최선의 손실: 0.033805\t정확도: 98.94%\n", - "17\t검증 세트 손실: 0.043624\t최선의 손실: 0.033805\t정확도: 98.98%\n", - "18\t검증 세트 손실: 0.043181\t최선의 손실: 0.033805\t정확도: 98.98%\n", - "19\t검증 세트 손실: 0.042283\t최선의 손실: 0.033805\t정확도: 99.14%\n", - "20\t검증 세트 손실: 0.053266\t최선의 손실: 0.033805\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.032630\t최선의 손실: 0.032630\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.030870\t최선의 손실: 0.030870\t정확도: 99.10%\n", - "23\t검증 세트 손실: 0.043858\t최선의 손실: 0.030870\t정확도: 98.79%\n", - "24\t검증 세트 손실: 0.031849\t최선의 손실: 0.030870\t정확도: 99.34%\n", - "25\t검증 세트 손실: 0.037964\t최선의 손실: 0.030870\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.042762\t최선의 손실: 0.030870\t정확도: 98.98%\n", - "27\t검증 세트 손실: 0.070489\t최선의 손실: 0.030870\t정확도: 98.20%\n", - "28\t검증 세트 손실: 0.102231\t최선의 손실: 0.030870\t정확도: 98.08%\n", - "29\t검증 세트 손실: 0.045944\t최선의 손실: 0.030870\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.041106\t최선의 손실: 0.030870\t정확도: 99.02%\n", - "31\t검증 세트 손실: 0.057360\t최선의 손실: 0.030870\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.049764\t최선의 손실: 0.030870\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.043030\t최선의 손실: 0.030870\t정확도: 99.18%\n", - "34\t검증 세트 손실: 0.039234\t최선의 손실: 0.030870\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.040069\t최선의 손실: 0.030870\t정확도: 99.10%\n", - "36\t검증 세트 손실: 0.039902\t최선의 손실: 0.030870\t정확도: 99.22%\n", - "37\t검증 세트 손실: 0.044940\t최선의 손실: 0.030870\t정확도: 99.06%\n", - "38\t검증 세트 손실: 0.042215\t최선의 손실: 0.030870\t정확도: 99.02%\n", - "39\t검증 세트 손실: 0.040002\t최선의 손실: 0.030870\t정확도: 99.18%\n", - "40\t검증 세트 손실: 0.043565\t최선의 손실: 0.030870\t정확도: 98.87%\n", - "41\t검증 세트 손실: 0.050889\t최선의 손실: 0.030870\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.043313\t최선의 손실: 0.030870\t정확도: 99.06%\n", - "43\t검증 세트 손실: 0.043706\t최선의 손실: 0.030870\t정확도: 98.94%\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 3.8min\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.909183\t최선의 손실: 0.909183\t정확도: 93.98%\n", + "1\t검증 세트 손실: 1.716636\t최선의 손실: 0.909183\t정확도: 91.99%\n", + "2\t검증 세트 손실: 0.211345\t최선의 손실: 0.211345\t정확도: 96.68%\n", + "3\t검증 세트 손실: 0.252545\t최선의 손실: 0.211345\t정확도: 96.25%\n", + "4\t검증 세트 손실: 2.038756\t최선의 손실: 0.211345\t정확도: 89.72%\n", + "5\t검증 세트 손실: 2.288628\t최선의 손실: 0.211345\t정확도: 81.98%\n", + "6\t검증 세트 손실: 0.645852\t최선의 손실: 0.211345\t정확도: 92.81%\n", + "7\t검증 세트 손실: 0.244808\t최선의 손실: 0.211345\t정확도: 98.05%\n", + "8\t검증 세트 손실: 0.225056\t최선의 손실: 0.211345\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.612463\t최선의 손실: 0.211345\t정확도: 94.96%\n", + "10\t검증 세트 손실: 0.843405\t최선의 손실: 0.211345\t정확도: 94.45%\n", + "11\t검증 세트 손실: 0.285217\t최선의 손실: 0.211345\t정확도: 97.46%\n", + "12\t검증 세트 손실: 0.223164\t최선의 손실: 0.211345\t정확도: 97.65%\n", + "13\t검증 세트 손실: 0.277768\t최선의 손실: 0.211345\t정확도: 98.01%\n", + "14\t검증 세트 손실: 0.203136\t최선의 손실: 0.203136\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.276587\t최선의 손실: 0.203136\t정확도: 97.15%\n", + "16\t검증 세트 손실: 0.528339\t최선의 손실: 0.203136\t정확도: 95.62%\n", + "17\t검증 세트 손실: 0.683335\t최선의 손실: 0.203136\t정확도: 96.56%\n", + "18\t검증 세트 손실: 0.567892\t최선의 손실: 0.203136\t정확도: 97.19%\n", + "19\t검증 세트 손실: 0.287218\t최선의 손실: 0.203136\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.390128\t최선의 손실: 0.203136\t정확도: 98.28%\n", + "21\t검증 세트 손실: 0.382240\t최선의 손실: 0.203136\t정확도: 97.69%\n", + "22\t검증 세트 손실: 0.592355\t최선의 손실: 0.203136\t정확도: 95.04%\n", + "23\t검증 세트 손실: 0.456670\t최선의 손실: 0.203136\t정확도: 96.87%\n", + "24\t검증 세트 손실: 0.341341\t최선의 손실: 0.203136\t정확도: 98.24%\n", + "25\t검증 세트 손실: 0.277856\t최선의 손실: 0.203136\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.207531\t최선의 손실: 0.203136\t정확도: 98.36%\n", + "27\t검증 세트 손실: 0.294330\t최선의 손실: 0.203136\t정확도: 97.89%\n", + "28\t검증 세트 손실: 0.580070\t최선의 손실: 0.203136\t정확도: 98.01%\n", + "29\t검증 세트 손실: 0.343764\t최선의 손실: 0.203136\t정확도: 97.81%\n", + "30\t검증 세트 손실: 0.486007\t최선의 손실: 0.203136\t정확도: 97.69%\n", + "31\t검증 세트 손실: 0.273561\t최선의 손실: 0.203136\t정확도: 97.19%\n", + "32\t검증 세트 손실: 0.271450\t최선의 손실: 0.203136\t정확도: 98.16%\n", + "33\t검증 세트 손실: 0.330681\t최선의 손실: 0.203136\t정확도: 98.16%\n", + "34\t검증 세트 손실: 0.400244\t최선의 손실: 0.203136\t정확도: 98.59%\n", + "35\t검증 세트 손실: 0.411516\t최선의 손실: 0.203136\t정확도: 97.97%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f7354033730>, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=70, total= 34.1s\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.096425\t최선의 손실: 0.096425\t정확도: 97.42%\n", - "1\t검증 세트 손실: 0.085447\t최선의 손실: 0.085447\t정확도: 97.19%\n", - "2\t검증 세트 손실: 0.056368\t최선의 손실: 0.056368\t정확도: 98.59%\n", - "3\t검증 세트 손실: 0.062206\t최선의 손실: 0.056368\t정확도: 98.08%\n", - "4\t검증 세트 손실: 0.045111\t최선의 손실: 0.045111\t정확도: 98.55%\n", - "5\t검증 세트 손실: 0.071518\t최선의 손실: 0.045111\t정확도: 97.69%\n", - "6\t검증 세트 손실: 0.045895\t최선의 손실: 0.045111\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.043598\t최선의 손실: 0.043598\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.036469\t최선의 손실: 0.036469\t정확도: 99.06%\n", - "9\t검증 세트 손실: 0.034446\t최선의 손실: 0.034446\t정확도: 98.91%\n", - "10\t검증 세트 손실: 0.041765\t최선의 손실: 0.034446\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.035290\t최선의 손실: 0.034446\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.055551\t최선의 손실: 0.034446\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.031404\t최선의 손실: 0.031404\t정확도: 98.87%\n", - "14\t검증 세트 손실: 0.044144\t최선의 손실: 0.031404\t정확도: 98.40%\n", - "15\t검증 세트 손실: 0.044451\t최선의 손실: 0.031404\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.032306\t최선의 손실: 0.031404\t정확도: 98.83%\n", - "17\t검증 세트 손실: 0.028589\t최선의 손실: 0.028589\t정확도: 99.02%\n", - "18\t검증 세트 손실: 0.030549\t최선의 손실: 0.028589\t정확도: 99.06%\n", - "19\t검증 세트 손실: 0.032095\t최선의 손실: 0.028589\t정확도: 99.18%\n", - "20\t검증 세트 손실: 0.036157\t최선의 손실: 0.028589\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.036337\t최선의 손실: 0.028589\t정확도: 98.98%\n", - "22\t검증 세트 손실: 0.030830\t최선의 손실: 0.028589\t정확도: 99.10%\n", - "23\t검증 세트 손실: 0.040532\t최선의 손실: 0.028589\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.034079\t최선의 손실: 0.028589\t정확도: 99.14%\n", - "25\t검증 세트 손실: 0.028735\t최선의 손실: 0.028589\t정확도: 99.18%\n", - "26\t검증 세트 손실: 0.036802\t최선의 손실: 0.028589\t정확도: 99.10%\n", - "27\t검증 세트 손실: 0.034832\t최선의 손실: 0.028589\t정확도: 98.94%\n", - "28\t검증 세트 손실: 0.035065\t최선의 손실: 0.028589\t정확도: 98.87%\n", - "29\t검증 세트 손실: 0.031655\t최선의 손실: 0.028589\t정확도: 99.02%\n", - "30\t검증 세트 손실: 0.037086\t최선의 손실: 0.028589\t정확도: 98.94%\n", - "31\t검증 세트 손실: 0.039528\t최선의 손실: 0.028589\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.038741\t최선의 손실: 0.028589\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.045782\t최선의 손실: 0.028589\t정확도: 98.83%\n", - "34\t검증 세트 손실: 0.026784\t최선의 손실: 0.026784\t정확도: 99.34%\n", - "35\t검증 세트 손실: 0.036696\t최선의 손실: 0.026784\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.036399\t최선의 손실: 0.026784\t정확도: 98.87%\n", - "37\t검증 세트 손실: 0.054533\t최선의 손실: 0.026784\t정확도: 98.67%\n", - "38\t검증 세트 손실: 0.046361\t최선의 손실: 0.026784\t정확도: 98.94%\n", - "39\t검증 세트 손실: 0.038532\t최선의 손실: 0.026784\t정확도: 99.02%\n", - "40\t검증 세트 손실: 0.038239\t최선의 손실: 0.026784\t정확도: 98.98%\n", - "41\t검증 세트 손실: 0.047633\t최선의 손실: 0.026784\t정확도: 98.87%\n", - "42\t검증 세트 손실: 0.031835\t최선의 손실: 0.026784\t정확도: 99.18%\n", - "43\t검증 세트 손실: 0.055877\t최선의 손실: 0.026784\t정확도: 98.75%\n", - "44\t검증 세트 손실: 0.035196\t최선의 손실: 0.026784\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.066143\t최선의 손실: 0.026784\t정확도: 98.59%\n", - "46\t검증 세트 손실: 0.038274\t최선의 손실: 0.026784\t정확도: 98.98%\n", - "47\t검증 세트 손실: 0.047818\t최선의 손실: 0.026784\t정확도: 98.91%\n", - "48\t검증 세트 손실: 0.030867\t최선의 손실: 0.026784\t정확도: 99.26%\n", - "49\t검증 세트 손실: 0.046787\t최선의 손실: 0.026784\t정확도: 98.98%\n", - "50\t검증 세트 손실: 0.051540\t최선의 손실: 0.026784\t정확도: 98.79%\n", - "51\t검증 세트 손실: 0.044232\t최선의 손실: 0.026784\t정확도: 99.06%\n", - "52\t검증 세트 손실: 0.053814\t최선의 손실: 0.026784\t정확도: 98.79%\n", - "53\t검증 세트 손실: 0.049278\t최선의 손실: 0.026784\t정확도: 99.10%\n", - "54\t검증 세트 손실: 0.042503\t최선의 손실: 0.026784\t정확도: 98.98%\n", - "55\t검증 세트 손실: 0.040357\t최선의 손실: 0.026784\t정확도: 98.98%\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 4.1min\n", + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 6.277224\t최선의 손실: 6.277224\t정확도: 80.77%\n", + "1\t검증 세트 손실: 1.414261\t최선의 손실: 1.414261\t정확도: 96.29%\n", + "2\t검증 세트 손실: 0.320435\t최선의 손실: 0.320435\t정확도: 96.95%\n", + "3\t검증 세트 손실: 0.510267\t최선의 손실: 0.320435\t정확도: 95.04%\n", + "4\t검증 세트 손실: 0.469492\t최선의 손실: 0.320435\t정확도: 95.58%\n", + "5\t검증 세트 손실: 0.858987\t최선의 손실: 0.320435\t정확도: 94.18%\n", + "6\t검증 세트 손실: 0.445446\t최선의 손실: 0.320435\t정확도: 95.86%\n", + "7\t검증 세트 손실: 0.316918\t최선의 손실: 0.316918\t정확도: 96.87%\n", + "8\t검증 세트 손실: 0.217321\t최선의 손실: 0.217321\t정확도: 97.38%\n", + "9\t검증 세트 손실: 0.182774\t최선의 손실: 0.182774\t정확도: 97.42%\n", + "10\t검증 세트 손실: 0.188847\t최선의 손실: 0.182774\t정확도: 97.03%\n", + "11\t검증 세트 손실: 0.817694\t최선의 손실: 0.182774\t정확도: 91.36%\n", + "12\t검증 세트 손실: 0.211047\t최선의 손실: 0.182774\t정확도: 97.07%\n", + "13\t검증 세트 손실: 0.232933\t최선의 손실: 0.182774\t정확도: 97.26%\n", + "14\t검증 세트 손실: 0.250968\t최선의 손실: 0.182774\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.199207\t최선의 손실: 0.182774\t정확도: 97.38%\n", + "16\t검증 세트 손실: 0.362415\t최선의 손실: 0.182774\t정확도: 97.03%\n", + "17\t검증 세트 손실: 0.149242\t최선의 손실: 0.149242\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.157607\t최선의 손실: 0.149242\t정확도: 98.40%\n", + "19\t검증 세트 손실: 0.344975\t최선의 손실: 0.149242\t정확도: 97.58%\n", + "20\t검증 세트 손실: 0.389987\t최선의 손실: 0.149242\t정확도: 97.54%\n", + "21\t검증 세트 손실: 0.513614\t최선의 손실: 0.149242\t정확도: 92.46%\n", + "22\t검증 세트 손실: 0.191169\t최선의 손실: 0.149242\t정확도: 98.16%\n", + "23\t검증 세트 손실: 0.220652\t최선의 손실: 0.149242\t정확도: 98.01%\n", + "24\t검증 세트 손실: 0.223861\t최선의 손실: 0.149242\t정확도: 98.55%\n", + "25\t검증 세트 손실: 0.470919\t최선의 손실: 0.149242\t정확도: 97.54%\n", + "26\t검증 세트 손실: 0.202774\t최선의 손실: 0.149242\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.176403\t최선의 손실: 0.149242\t정확도: 98.05%\n", + "28\t검증 세트 손실: 0.278474\t최선의 손실: 0.149242\t정확도: 97.93%\n", + "29\t검증 세트 손실: 0.190948\t최선의 손실: 0.149242\t정확도: 98.16%\n", + "30\t검증 세트 손실: 0.264878\t최선의 손실: 0.149242\t정확도: 98.05%\n", + "31\t검증 세트 손실: 0.158432\t최선의 손실: 0.149242\t정확도: 98.55%\n", + "32\t검증 세트 손실: 0.439009\t최선의 손실: 0.149242\t정확도: 96.72%\n", + "33\t검증 세트 손실: 0.264191\t최선의 손실: 0.149242\t정확도: 98.16%\n", + "34\t검증 세트 손실: 0.195719\t최선의 손실: 0.149242\t정확도: 98.63%\n", + "35\t검증 세트 손실: 0.306624\t최선의 손실: 0.149242\t정확도: 97.62%\n", + "36\t검증 세트 손실: 0.544007\t최선의 손실: 0.149242\t정확도: 96.05%\n", + "37\t검증 세트 손실: 0.153093\t최선의 손실: 0.149242\t정확도: 98.67%\n", + "38\t검증 세트 손실: 0.331602\t최선의 손실: 0.149242\t정확도: 97.58%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 5.8min\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.084538\t최선의 손실: 0.084538\t정확도: 97.42%\n", - "1\t검증 세트 손실: 0.073821\t최선의 손실: 0.073821\t정확도: 97.62%\n", - "2\t검증 세트 손실: 0.061198\t최선의 손실: 0.061198\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.052916\t최선의 손실: 0.052916\t정확도: 98.40%\n", - "4\t검증 세트 손실: 0.049352\t최선의 손실: 0.049352\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.048191\t최선의 손실: 0.048191\t정확도: 98.55%\n", - "6\t검증 세트 손실: 0.043616\t최선의 손실: 0.043616\t정확도: 98.71%\n", - "7\t검증 세트 손실: 0.043730\t최선의 손실: 0.043616\t정확도: 98.44%\n", - "8\t검증 세트 손실: 0.036991\t최선의 손실: 0.036991\t정확도: 98.98%\n", - "9\t검증 세트 손실: 0.051148\t최선의 손실: 0.036991\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.042031\t최선의 손실: 0.036991\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.036347\t최선의 손실: 0.036347\t정확도: 98.79%\n", - "12\t검증 세트 손실: 0.034439\t최선의 손실: 0.034439\t정확도: 98.91%\n", - "13\t검증 세트 손실: 0.036673\t최선의 손실: 0.034439\t정확도: 98.98%\n", - "14\t검증 세트 손실: 0.040298\t최선의 손실: 0.034439\t정확도: 98.83%\n", - "15\t검증 세트 손실: 0.039716\t최선의 손실: 0.034439\t정확도: 98.83%\n", - "16\t검증 세트 손실: 0.038812\t최선의 손실: 0.034439\t정확도: 98.67%\n", - "17\t검증 세트 손실: 0.036187\t최선의 손실: 0.034439\t정확도: 99.10%\n", - "18\t검증 세트 손실: 0.042548\t최선의 손실: 0.034439\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.038665\t최선의 손실: 0.034439\t정확도: 98.87%\n", - "20\t검증 세트 손실: 0.041848\t최선의 손실: 0.034439\t정확도: 98.94%\n", - "21\t검증 세트 손실: 0.039294\t최선의 손실: 0.034439\t정확도: 98.91%\n", - "22\t검증 세트 손실: 0.049091\t최선의 손실: 0.034439\t정확도: 98.63%\n", - "23\t검증 세트 손실: 0.038221\t최선의 손실: 0.034439\t정확도: 98.98%\n", - "24\t검증 세트 손실: 0.030232\t최선의 손실: 0.030232\t정확도: 99.30%\n", - "25\t검증 세트 손실: 0.039030\t최선의 손실: 0.030232\t정확도: 98.91%\n", - "26\t검증 세트 손실: 0.029369\t최선의 손실: 0.029369\t정확도: 99.26%\n", - "27\t검증 세트 손실: 0.032020\t최선의 손실: 0.029369\t정확도: 98.98%\n", - "28\t검증 세트 손실: 0.029907\t최선의 손실: 0.029369\t정확도: 98.98%\n", - "29\t검증 세트 손실: 0.038126\t최선의 손실: 0.029369\t정확도: 99.10%\n", - "30\t검증 세트 손실: 0.039118\t최선의 손실: 0.029369\t정확도: 99.14%\n" + "[CV] n_neurons=160, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 4.5min\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.125253\t최선의 손실: 0.125253\t정확도: 97.22%\n", + "1\t검증 세트 손실: 0.115504\t최선의 손실: 0.115504\t정확도: 97.34%\n", + "2\t검증 세트 손실: 0.075762\t최선의 손실: 0.075762\t정확도: 98.32%\n", + "3\t검증 세트 손실: 0.051590\t최선의 손실: 0.051590\t정확도: 98.67%\n", + "4\t검증 세트 손실: 0.047799\t최선의 손실: 0.047799\t정확도: 98.36%\n", + "5\t검증 세트 손실: 0.059141\t최선의 손실: 0.047799\t정확도: 98.63%\n", + "6\t검증 세트 손실: 0.038776\t최선의 손실: 0.038776\t정확도: 98.83%\n", + "7\t검증 세트 손실: 0.064521\t최선의 손실: 0.038776\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.043128\t최선의 손실: 0.038776\t정확도: 98.94%\n", + "9\t검증 세트 손실: 0.046803\t최선의 손실: 0.038776\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.074323\t최선의 손실: 0.038776\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.052222\t최선의 손실: 0.038776\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.056724\t최선의 손실: 0.038776\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.042915\t최선의 손실: 0.038776\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.056892\t최선의 손실: 0.038776\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.061656\t최선의 손실: 0.038776\t정확도: 98.87%\n", + "16\t검증 세트 손실: 0.065574\t최선의 손실: 0.038776\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.046570\t최선의 손실: 0.038776\t정확도: 98.79%\n", + "18\t검증 세트 손실: 0.061168\t최선의 손실: 0.038776\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.054688\t최선의 손실: 0.038776\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.064002\t최선의 손실: 0.038776\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.069744\t최선의 손실: 0.038776\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.078080\t최선의 손실: 0.038776\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.076930\t최선의 손실: 0.038776\t정확도: 98.28%\n", + "24\t검증 세트 손실: 0.051204\t최선의 손실: 0.038776\t정확도: 99.14%\n", + "25\t검증 세트 손실: 0.066101\t최선의 손실: 0.038776\t정확도: 98.87%\n", + "26\t검증 세트 손실: 0.072912\t최선의 손실: 0.038776\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.052021\t최선의 손실: 0.038776\t정확도: 98.87%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 22.3s\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "31\t검증 세트 손실: 0.035614\t최선의 손실: 0.029369\t정확도: 99.10%\n", - "32\t검증 세트 손실: 0.032993\t최선의 손실: 0.029369\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.042674\t최선의 손실: 0.029369\t정확도: 98.94%\n", - "34\t검증 세트 손실: 0.036620\t최선의 손실: 0.029369\t정확도: 99.06%\n", - "35\t검증 세트 손실: 0.040542\t최선의 손실: 0.029369\t정확도: 98.83%\n", - "36\t검증 세트 손실: 0.036386\t최선의 손실: 0.029369\t정확도: 99.18%\n", - "37\t검증 세트 손실: 0.044442\t최선의 손실: 0.029369\t정확도: 98.55%\n", - "38\t검증 세트 손실: 0.032158\t최선의 손실: 0.029369\t정확도: 99.14%\n", - "39\t검증 세트 손실: 0.029448\t최선의 손실: 0.029369\t정확도: 99.26%\n", - "40\t검증 세트 손실: 0.035393\t최선의 손실: 0.029369\t정확도: 99.10%\n", - "41\t검증 세트 손실: 0.033461\t최선의 손실: 0.029369\t정확도: 99.10%\n", - "42\t검증 세트 손실: 0.032154\t최선의 손실: 0.029369\t정확도: 99.10%\n", - "43\t검증 세트 손실: 0.043954\t최선의 손실: 0.029369\t정확도: 98.94%\n", - "44\t검증 세트 손실: 0.030341\t최선의 손실: 0.029369\t정확도: 99.26%\n", - "45\t검증 세트 손실: 0.028665\t최선의 손실: 0.028665\t정확도: 99.22%\n", - "46\t검증 세트 손실: 0.031814\t최선의 손실: 0.028665\t정확도: 99.14%\n", - "47\t검증 세트 손실: 0.041641\t최선의 손실: 0.028665\t정확도: 99.10%\n", - "48\t검증 세트 손실: 0.041181\t최선의 손실: 0.028665\t정확도: 98.91%\n", - "49\t검증 세트 손실: 0.040978\t최선의 손실: 0.028665\t정확도: 99.14%\n", - "50\t검증 세트 손실: 0.029696\t최선의 손실: 0.028665\t정확도: 99.26%\n", - "51\t검증 세트 손실: 0.039678\t최선의 손실: 0.028665\t정확도: 98.98%\n", - "52\t검증 세트 손실: 0.029006\t최선의 손실: 0.028665\t정확도: 99.18%\n", - "53\t검증 세트 손실: 0.023878\t최선의 손실: 0.023878\t정확도: 99.22%\n", - "54\t검증 세트 손실: 0.039372\t최선의 손실: 0.023878\t정확도: 99.22%\n", - "55\t검증 세트 손실: 0.035560\t최선의 손실: 0.023878\t정확도: 99.06%\n", - "56\t검증 세트 손실: 0.028179\t최선의 손실: 0.023878\t정확도: 99.37%\n", - "57\t검증 세트 손실: 0.022981\t최선의 손실: 0.022981\t정확도: 99.37%\n", - "58\t검증 세트 손실: 0.036060\t최선의 손실: 0.022981\t정확도: 99.14%\n", - "59\t검증 세트 손실: 0.042231\t최선의 손실: 0.022981\t정확도: 98.94%\n", - "60\t검증 세트 손실: 0.036020\t최선의 손실: 0.022981\t정확도: 99.14%\n", - "61\t검증 세트 손실: 0.034911\t최선의 손실: 0.022981\t정확도: 99.10%\n", - "62\t검증 세트 손실: 0.034953\t최선의 손실: 0.022981\t정확도: 98.94%\n", - "63\t검증 세트 손실: 0.036893\t최선의 손실: 0.022981\t정확도: 98.94%\n", - "64\t검증 세트 손실: 0.031231\t최선의 손실: 0.022981\t정확도: 99.30%\n", - "65\t검증 세트 손실: 0.033498\t최선의 손실: 0.022981\t정확도: 99.14%\n", - "66\t검증 세트 손실: 0.025869\t최선의 손실: 0.022981\t정확도: 99.14%\n", - "67\t검증 세트 손실: 0.028080\t최선의 손실: 0.022981\t정확도: 99.26%\n", - "68\t검증 세트 손실: 0.033007\t최선의 손실: 0.022981\t정확도: 99.30%\n", - "69\t검증 세트 손실: 0.030608\t최선의 손실: 0.022981\t정확도: 99.22%\n", - "70\t검증 세트 손실: 0.057068\t최선의 손실: 0.022981\t정확도: 99.02%\n", - "71\t검증 세트 손실: 0.028250\t최선의 손실: 0.022981\t정확도: 99.34%\n", - "72\t검증 세트 손실: 0.029925\t최선의 손실: 0.022981\t정확도: 99.37%\n", - "73\t검증 세트 손실: 0.035956\t최선의 손실: 0.022981\t정확도: 99.22%\n", - "74\t검증 세트 손실: 0.032857\t최선의 손실: 0.022981\t정확도: 99.30%\n", - "75\t검증 세트 손실: 0.045135\t최선의 손실: 0.022981\t정확도: 98.91%\n", - "76\t검증 세트 손실: 0.036102\t최선의 손실: 0.022981\t정확도: 99.14%\n", - "77\t검증 세트 손실: 0.035665\t최선의 손실: 0.022981\t정확도: 99.22%\n", - "78\t검증 세트 손실: 0.064432\t최선의 손실: 0.022981\t정확도: 98.36%\n", + "0\t검증 세트 손실: 0.272100\t최선의 손실: 0.272100\t정확도: 94.57%\n", + "1\t검증 세트 손실: 0.051546\t최선의 손실: 0.051546\t정확도: 98.55%\n", + "2\t검증 세트 손실: 0.045908\t최선의 손실: 0.045908\t정확도: 98.59%\n", + "3\t검증 세트 손실: 0.153084\t최선의 손실: 0.045908\t정확도: 96.72%\n", + "4\t검증 세트 손실: 0.088362\t최선의 손실: 0.045908\t정확도: 97.89%\n", + "5\t검증 세트 손실: 0.053511\t최선의 손실: 0.045908\t정확도: 98.59%\n", + "6\t검증 세트 손실: 0.059033\t최선의 손실: 0.045908\t정확도: 98.48%\n", + "7\t검증 세트 손실: 0.054591\t최선의 손실: 0.045908\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.046543\t최선의 손실: 0.045908\t정확도: 98.75%\n", + "9\t검증 세트 손실: 0.050414\t최선의 손실: 0.045908\t정확도: 98.83%\n", + "10\t검증 세트 손실: 0.055755\t최선의 손실: 0.045908\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.057842\t최선의 손실: 0.045908\t정확도: 98.51%\n", + "12\t검증 세트 손실: 0.061497\t최선의 손실: 0.045908\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.035807\t최선의 손실: 0.035807\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.054453\t최선의 손실: 0.035807\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.067873\t최선의 손실: 0.035807\t정확도: 98.36%\n", + "16\t검증 세트 손실: 0.050379\t최선의 손실: 0.035807\t정확도: 98.63%\n", + "17\t검증 세트 손실: 0.064931\t최선의 손실: 0.035807\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.039518\t최선의 손실: 0.035807\t정확도: 99.10%\n", + "19\t검증 세트 손실: 0.049253\t최선의 손실: 0.035807\t정확도: 99.02%\n", + "20\t검증 세트 손실: 0.035123\t최선의 손실: 0.035123\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.045057\t최선의 손실: 0.035123\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.056050\t최선의 손실: 0.035123\t정확도: 98.67%\n", + "23\t검증 세트 손실: 0.052854\t최선의 손실: 0.035123\t정확도: 99.02%\n", + "24\t검증 세트 손실: 0.047498\t최선의 손실: 0.035123\t정확도: 98.91%\n", + "25\t검증 세트 손실: 0.059372\t최선의 손실: 0.035123\t정확도: 98.91%\n", + "26\t검증 세트 손실: 0.053733\t최선의 손실: 0.035123\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.038711\t최선의 손실: 0.035123\t정확도: 99.22%\n", + "28\t검증 세트 손실: 0.053110\t최선의 손실: 0.035123\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.062380\t최선의 손실: 0.035123\t정확도: 98.79%\n", + "30\t검증 세트 손실: 0.047031\t최선의 손실: 0.035123\t정확도: 99.18%\n", + "31\t검증 세트 손실: 0.042672\t최선의 손실: 0.035123\t정확도: 99.22%\n", + "32\t검증 세트 손실: 0.055323\t최선의 손실: 0.035123\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.047466\t최선의 손실: 0.035123\t정확도: 99.02%\n", + "34\t검증 세트 손실: 0.036688\t최선의 손실: 0.035123\t정확도: 99.10%\n", + "35\t검증 세트 손실: 0.037022\t최선의 손실: 0.035123\t정확도: 99.34%\n", + "36\t검증 세트 손실: 0.055003\t최선의 손실: 0.035123\t정확도: 99.06%\n", + "37\t검증 세트 손실: 0.043270\t최선의 손실: 0.035123\t정확도: 98.91%\n", + "38\t검증 세트 손실: 0.047316\t최선의 손실: 0.035123\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.048646\t최선의 손실: 0.035123\t정확도: 99.06%\n", + "40\t검증 세트 손실: 0.054231\t최선의 손실: 0.035123\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.045005\t최선의 손실: 0.035123\t정확도: 98.94%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 8.2min\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160 \n", - "0\t검증 세트 손실: 0.085820\t최선의 손실: 0.085820\t정확도: 97.65%\n", - "1\t검증 세트 손실: 0.058153\t최선의 손실: 0.058153\t정확도: 98.20%\n", - "2\t검증 세트 손실: 0.065788\t최선의 손실: 0.058153\t정확도: 97.81%\n", - "3\t검증 세트 손실: 0.048446\t최선의 손실: 0.048446\t정확도: 98.51%\n", - "4\t검증 세트 손실: 0.045191\t최선의 손실: 0.045191\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.055042\t최선의 손실: 0.045191\t정확도: 98.20%\n", - "6\t검증 세트 손실: 0.043875\t최선의 손실: 0.043875\t정확도: 98.63%\n", - "7\t검증 세트 손실: 0.039239\t최선의 손실: 0.039239\t정확도: 98.87%\n", - "8\t검증 세트 손실: 0.047206\t최선의 손실: 0.039239\t정확도: 98.67%\n", - "9\t검증 세트 손실: 0.041365\t최선의 손실: 0.039239\t정확도: 98.55%\n", - "10\t검증 세트 손실: 0.041298\t최선의 손실: 0.039239\t정확도: 98.87%\n", - "11\t검증 세트 손실: 0.040746\t최선의 손실: 0.039239\t정확도: 98.91%\n", - "12\t검증 세트 손실: 0.030013\t최선의 손실: 0.030013\t정확도: 99.06%\n", - "13\t검증 세트 손실: 0.028235\t최선의 손실: 0.028235\t정확도: 99.02%\n", - "14\t검증 세트 손실: 0.036419\t최선의 손실: 0.028235\t정확도: 98.75%\n", - "15\t검증 세트 손실: 0.033063\t최선의 손실: 0.028235\t정확도: 98.98%\n", - "16\t검증 세트 손실: 0.028039\t최선의 손실: 0.028039\t정확도: 99.18%\n", - "17\t검증 세트 손실: 0.041816\t최선의 손실: 0.028039\t정확도: 98.59%\n", - "18\t검증 세트 손실: 0.039080\t최선의 손실: 0.028039\t정확도: 98.94%\n", - "19\t검증 세트 손실: 0.029332\t최선의 손실: 0.028039\t정확도: 98.94%\n", - "20\t검증 세트 손실: 0.031377\t최선의 손실: 0.028039\t정확도: 99.10%\n", - "21\t검증 세트 손실: 0.025528\t최선의 손실: 0.025528\t정확도: 99.18%\n", - "22\t검증 세트 손실: 0.036906\t최선의 손실: 0.025528\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.030436\t최선의 손실: 0.025528\t정확도: 99.02%\n", - "24\t검증 세트 손실: 0.051171\t최선의 손실: 0.025528\t정확도: 98.67%\n", - "25\t검증 세트 손실: 0.042641\t최선의 손실: 0.025528\t정확도: 99.06%\n", - "26\t검증 세트 손실: 0.029045\t최선의 손실: 0.025528\t정확도: 99.22%\n", - "27\t검증 세트 손실: 0.028399\t최선의 손실: 0.025528\t정확도: 99.02%\n", - "28\t검증 세트 손실: 0.031169\t최선의 손실: 0.025528\t정확도: 99.06%\n", - "29\t검증 세트 손실: 0.034690\t최선의 손실: 0.025528\t정확도: 98.94%\n", - "30\t검증 세트 손실: 0.034924\t최선의 손실: 0.025528\t정확도: 98.98%\n", - "31\t검증 세트 손실: 0.023999\t최선의 손실: 0.023999\t정확도: 99.22%\n", - "32\t검증 세트 손실: 0.035237\t최선의 손실: 0.023999\t정확도: 99.14%\n", - "33\t검증 세트 손실: 0.032921\t최선의 손실: 0.023999\t정확도: 99.06%\n", - "34\t검증 세트 손실: 0.030156\t최선의 손실: 0.023999\t정확도: 99.18%\n", - "35\t검증 세트 손실: 0.049717\t최선의 손실: 0.023999\t정확도: 98.63%\n", - "36\t검증 세트 손실: 0.040187\t최선의 손실: 0.023999\t정확도: 98.98%\n", - "37\t검증 세트 손실: 0.040080\t최선의 손실: 0.023999\t정확도: 98.79%\n", - "38\t검증 세트 손실: 0.040052\t최선의 손실: 0.023999\t정확도: 98.94%\n", - "39\t검증 세트 손실: 0.043558\t최선의 손실: 0.023999\t정확도: 98.83%\n", - "40\t검증 세트 손실: 0.032510\t최선의 손실: 0.023999\t정확도: 98.94%\n", - "41\t검증 세트 손실: 0.039498\t최선의 손실: 0.023999\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.035875\t최선의 손실: 0.023999\t정확도: 98.98%\n", - "43\t검증 세트 손실: 0.033222\t최선의 손실: 0.023999\t정확도: 99.10%\n", - "44\t검증 세트 손실: 0.027574\t최선의 손실: 0.023999\t정확도: 99.06%\n", - "45\t검증 세트 손실: 0.034251\t최선의 손실: 0.023999\t정확도: 98.98%\n", - "46\t검증 세트 손실: 0.042008\t최선의 손실: 0.023999\t정확도: 98.94%\n", - "47\t검증 세트 손실: 0.032645\t최선의 손실: 0.023999\t정확도: 98.98%\n", - "48\t검증 세트 손실: 0.051769\t최선의 손실: 0.023999\t정확도: 98.91%\n", - "49\t검증 세트 손실: 0.047539\t최선의 손실: 0.023999\t정확도: 98.67%\n", - "50\t검증 세트 손실: 0.033489\t최선의 손실: 0.023999\t정확도: 99.14%\n", - "51\t검증 세트 손실: 0.036434\t최선의 손실: 0.023999\t정확도: 99.02%\n", - "52\t검증 세트 손실: 0.038560\t최선의 손실: 0.023999\t정확도: 98.98%\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 32.6s\n", + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.108833\t최선의 손실: 0.108833\t정확도: 97.69%\n", + "1\t검증 세트 손실: 0.066783\t최선의 손실: 0.066783\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.061050\t최선의 손실: 0.061050\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.049911\t최선의 손실: 0.049911\t정확도: 98.83%\n", + "4\t검증 세트 손실: 0.041515\t최선의 손실: 0.041515\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.039584\t최선의 손실: 0.039584\t정확도: 98.87%\n", + "6\t검증 세트 손실: 0.041603\t최선의 손실: 0.039584\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.062196\t최선의 손실: 0.039584\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.051235\t최선의 손실: 0.039584\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.056694\t최선의 손실: 0.039584\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.061460\t최선의 손실: 0.039584\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.046772\t최선의 손실: 0.039584\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.038035\t최선의 손실: 0.038035\t정확도: 99.02%\n", + "13\t검증 세트 손실: 0.058545\t최선의 손실: 0.038035\t정확도: 98.83%\n", + "14\t검증 세트 손실: 0.050444\t최선의 손실: 0.038035\t정확도: 98.94%\n", + "15\t검증 세트 손실: 0.053700\t최선의 손실: 0.038035\t정확도: 98.63%\n", + "16\t검증 세트 손실: 0.034926\t최선의 손실: 0.034926\t정확도: 99.14%\n", + "17\t검증 세트 손실: 0.077984\t최선의 손실: 0.034926\t정확도: 98.51%\n", + "18\t검증 세트 손실: 0.052750\t최선의 손실: 0.034926\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.043904\t최선의 손실: 0.034926\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.052395\t최선의 손실: 0.034926\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.054622\t최선의 손실: 0.034926\t정확도: 98.91%\n", + "22\t검증 세트 손실: 0.048243\t최선의 손실: 0.034926\t정확도: 98.83%\n", + "23\t검증 세트 손실: 0.045039\t최선의 손실: 0.034926\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.043763\t최선의 손실: 0.034926\t정확도: 99.14%\n", + "25\t검증 세트 손실: 0.046608\t최선의 손실: 0.034926\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.046268\t최선의 손실: 0.034926\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.051947\t최선의 손실: 0.034926\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.049003\t최선의 손실: 0.034926\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.066037\t최선의 손실: 0.034926\t정확도: 98.75%\n", + "30\t검증 세트 손실: 0.079046\t최선의 손실: 0.034926\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.038184\t최선의 손실: 0.034926\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.033576\t최선의 손실: 0.033576\t정확도: 99.22%\n", + "33\t검증 세트 손실: 0.053067\t최선의 손실: 0.033576\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.089193\t최선의 손실: 0.033576\t정확도: 98.24%\n", + "35\t검증 세트 손실: 0.068839\t최선의 손실: 0.033576\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.052171\t최선의 손실: 0.033576\t정확도: 98.87%\n", + "37\t검증 세트 손실: 0.047092\t최선의 손실: 0.033576\t정확도: 98.94%\n", + "38\t검증 세트 손실: 0.045834\t최선의 손실: 0.033576\t정확도: 98.87%\n", + "39\t검증 세트 손실: 0.050875\t최선의 손실: 0.033576\t정확도: 98.98%\n", + "40\t검증 세트 손실: 0.048830\t최선의 손실: 0.033576\t정확도: 99.14%\n", + "41\t검증 세트 손실: 0.055994\t최선의 손실: 0.033576\t정확도: 99.14%\n", + "42\t검증 세트 손실: 0.050133\t최선의 손실: 0.033576\t정확도: 98.98%\n", + "43\t검증 세트 손실: 0.050143\t최선의 손실: 0.033576\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.049023\t최선의 손실: 0.033576\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.079318\t최선의 손실: 0.033576\t정확도: 98.36%\n", + "46\t검증 세트 손실: 0.050757\t최선의 손실: 0.033576\t정확도: 98.91%\n", + "47\t검증 세트 손실: 0.061111\t최선의 손실: 0.033576\t정확도: 98.59%\n", + "48\t검증 세트 손실: 0.049742\t최선의 손실: 0.033576\t정확도: 98.71%\n", + "49\t검증 세트 손실: 0.045500\t최선의 손실: 0.033576\t정확도: 99.14%\n", + "50\t검증 세트 손실: 0.058284\t최선의 손실: 0.033576\t정확도: 98.91%\n", + "51\t검증 세트 손실: 0.050314\t최선의 손실: 0.033576\t정확도: 99.06%\n", + "52\t검증 세트 손실: 0.058698\t최선의 손실: 0.033576\t정확도: 98.94%\n", + "53\t검증 세트 손실: 0.048146\t최선의 손실: 0.033576\t정확도: 98.98%\n", "조기 종료!\n", - "[CV] batch_size=10, activation=, learning_rate=0.01, batch_norm_momentum=0.98, n_neurons=160, total= 5.5min\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.148160\t최선의 손실: 0.148160\t정확도: 96.91%\n", - "1\t검증 세트 손실: 0.118993\t최선의 손실: 0.118993\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.195716\t최선의 손실: 0.118993\t정확도: 97.46%\n", - "3\t검증 세트 손실: 0.111618\t최선의 손실: 0.111618\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.138943\t최선의 손실: 0.111618\t정확도: 97.46%\n", - "5\t검증 세트 손실: 0.100274\t최선의 손실: 0.100274\t정확도: 98.40%\n", - "6\t검증 세트 손실: 0.077783\t최선의 손실: 0.077783\t정확도: 98.32%\n", - "7\t검증 세트 손실: 0.087436\t최선의 손실: 0.077783\t정확도: 98.08%\n", - "8\t검증 세트 손실: 0.118321\t최선의 손실: 0.077783\t정확도: 98.08%\n", - "9\t검증 세트 손실: 0.090182\t최선의 손실: 0.077783\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.067583\t최선의 손실: 0.067583\t정확도: 98.51%\n", - "11\t검증 세트 손실: 0.086251\t최선의 손실: 0.067583\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.081990\t최선의 손실: 0.067583\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.090893\t최선의 손실: 0.067583\t정확도: 98.32%\n", - "14\t검증 세트 손실: 0.070392\t최선의 손실: 0.067583\t정확도: 98.71%\n", - "15\t검증 세트 손실: 0.085099\t최선의 손실: 0.067583\t정확도: 98.59%\n", - "16\t검증 세트 손실: 0.067875\t최선의 손실: 0.067583\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.144479\t최선의 손실: 0.067583\t정확도: 97.73%\n", - "18\t검증 세트 손실: 0.077123\t최선의 손실: 0.067583\t정확도: 98.91%\n", - "19\t검증 세트 손실: 0.118697\t최선의 손실: 0.067583\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.117552\t최선의 손실: 0.067583\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.084112\t최선의 손실: 0.067583\t정확도: 98.51%\n", - "22\t검증 세트 손실: 0.072727\t최선의 손실: 0.067583\t정확도: 98.44%\n", - "23\t검증 세트 손실: 0.070832\t최선의 손실: 0.067583\t정확도: 98.67%\n", - "24\t검증 세트 손실: 0.130780\t최선의 손실: 0.067583\t정확도: 97.50%\n", - "25\t검증 세트 손실: 0.064428\t최선의 손실: 0.064428\t정확도: 98.79%\n", - "26\t검증 세트 손실: 0.104403\t최선의 손실: 0.064428\t정확도: 98.59%\n", - "27\t검증 세트 손실: 0.057099\t최선의 손실: 0.057099\t정확도: 98.87%\n", - "28\t검증 세트 손실: 0.063509\t최선의 손실: 0.057099\t정확도: 98.87%\n", - "29\t검증 세트 손실: 0.203346\t최선의 손실: 0.057099\t정확도: 98.40%\n", - "30\t검증 세트 손실: 0.083960\t최선의 손실: 0.057099\t정확도: 98.71%\n", - "31\t검증 세트 손실: 0.082844\t최선의 손실: 0.057099\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.097079\t최선의 손실: 0.057099\t정확도: 98.87%\n", - "33\t검증 세트 손실: 0.084168\t최선의 손실: 0.057099\t정확도: 98.51%\n", - "34\t검증 세트 손실: 0.131311\t최선의 손실: 0.057099\t정확도: 97.97%\n", - "35\t검증 세트 손실: 0.074069\t최선의 손실: 0.057099\t정확도: 98.91%\n", - "36\t검증 세트 손실: 0.076639\t최선의 손실: 0.057099\t정확도: 98.79%\n", - "37\t검증 세트 손실: 0.125278\t최선의 손실: 0.057099\t정확도: 98.55%\n", - "38\t검증 세트 손실: 0.124819\t최선의 손실: 0.057099\t정확도: 97.93%\n", - "39\t검증 세트 손실: 0.056288\t최선의 손실: 0.056288\t정확도: 98.87%\n", - "40\t검증 세트 손실: 0.055309\t최선의 손실: 0.055309\t정확도: 99.10%\n", - "41\t검증 세트 손실: 0.072681\t최선의 손실: 0.055309\t정확도: 98.98%\n", - "42\t검증 세트 손실: 0.058018\t최선의 손실: 0.055309\t정확도: 99.02%\n", - "43\t검증 세트 손실: 0.082851\t최선의 손실: 0.055309\t정확도: 98.67%\n", - "44\t검증 세트 손실: 0.053856\t최선의 손실: 0.053856\t정확도: 98.98%\n", - "45\t검증 세트 손실: 0.076079\t최선의 손실: 0.053856\t정확도: 98.83%\n", - "46\t검증 세트 손실: 3.049181\t최선의 손실: 0.053856\t정확도: 88.62%\n", - "47\t검증 세트 손실: 0.544072\t최선의 손실: 0.053856\t정확도: 97.77%\n", - "48\t검증 세트 손실: 0.111416\t최선의 손실: 0.053856\t정확도: 98.87%\n" + "[CV] n_neurons=100, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 41.4s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.151003\t최선의 손실: 0.151003\t정확도: 95.70%\n", + "1\t검증 세트 손실: 0.146872\t최선의 손실: 0.146872\t정확도: 95.47%\n", + "2\t검증 세트 손실: 0.104820\t최선의 손실: 0.104820\t정확도: 96.95%\n", + "3\t검증 세트 손실: 0.122554\t최선의 손실: 0.104820\t정확도: 96.01%\n", + "4\t검증 세트 손실: 0.111344\t최선의 손실: 0.104820\t정확도: 96.91%\n", + "5\t검증 세트 손실: 0.078408\t최선의 손실: 0.078408\t정확도: 97.65%\n", + "6\t검증 세트 손실: 0.078094\t최선의 손실: 0.078094\t정확도: 97.89%\n", + "7\t검증 세트 손실: 0.057150\t최선의 손실: 0.057150\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.066270\t최선의 손실: 0.057150\t정확도: 98.12%\n", + "9\t검증 세트 손실: 0.053826\t최선의 손실: 0.053826\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.069029\t최선의 손실: 0.053826\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.050341\t최선의 손실: 0.050341\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.070870\t최선의 손실: 0.050341\t정확도: 98.16%\n", + "13\t검증 세트 손실: 0.098765\t최선의 손실: 0.050341\t정확도: 97.42%\n", + "14\t검증 세트 손실: 0.050846\t최선의 손실: 0.050341\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.048338\t최선의 손실: 0.048338\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.090439\t최선의 손실: 0.048338\t정확도: 98.36%\n", + "17\t검증 세트 손실: 0.055239\t최선의 손실: 0.048338\t정확도: 98.40%\n", + "18\t검증 세트 손실: 0.067103\t최선의 손실: 0.048338\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.064979\t최선의 손실: 0.048338\t정확도: 98.32%\n", + "20\t검증 세트 손실: 0.065642\t최선의 손실: 0.048338\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.076900\t최선의 손실: 0.048338\t정확도: 97.73%\n", + "22\t검증 세트 손실: 0.080188\t최선의 손실: 0.048338\t정확도: 97.69%\n", + "23\t검증 세트 손실: 0.054217\t최선의 손실: 0.048338\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.084748\t최선의 손실: 0.048338\t정확도: 97.62%\n", + "25\t검증 세트 손실: 0.053522\t최선의 손실: 0.048338\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.071134\t최선의 손실: 0.048338\t정확도: 98.16%\n", + "27\t검증 세트 손실: 0.062530\t최선의 손실: 0.048338\t정확도: 98.48%\n", + "28\t검증 세트 손실: 0.119053\t최선의 손실: 0.048338\t정확도: 96.40%\n", + "29\t검증 세트 손실: 0.047642\t최선의 손실: 0.047642\t정확도: 98.87%\n", + "30\t검증 세트 손실: 1.564353\t최선의 손실: 0.047642\t정확도: 83.15%\n", + "31\t검증 세트 손실: 0.051195\t최선의 손실: 0.047642\t정확도: 98.71%\n", + "32\t검증 세트 손실: 0.061422\t최선의 손실: 0.047642\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.077169\t최선의 손실: 0.047642\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.053222\t최선의 손실: 0.047642\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.063697\t최선의 손실: 0.047642\t정확도: 98.36%\n", + "36\t검증 세트 손실: 0.067990\t최선의 손실: 0.047642\t정확도: 98.55%\n", + "37\t검증 세트 손실: 0.055836\t최선의 손실: 0.047642\t정확도: 98.55%\n", + "38\t검증 세트 손실: 0.075636\t최선의 손실: 0.047642\t정확도: 98.55%\n", + "39\t검증 세트 손실: 0.072139\t최선의 손실: 0.047642\t정확도: 98.40%\n", + "40\t검증 세트 손실: 0.061156\t최선의 손실: 0.047642\t정확도: 98.51%\n", + "41\t검증 세트 손실: 0.060352\t최선의 손실: 0.047642\t정확도: 98.51%\n", + "42\t검증 세트 손실: 0.062782\t최선의 손실: 0.047642\t정확도: 98.55%\n", + "43\t검증 세트 손실: 0.043696\t최선의 손실: 0.043696\t정확도: 98.79%\n", + "44\t검증 세트 손실: 0.099022\t최선의 손실: 0.043696\t정확도: 98.48%\n", + "45\t검증 세트 손실: 0.070811\t최선의 손실: 0.043696\t정확도: 98.36%\n", + "46\t검증 세트 손실: 0.076042\t최선의 손실: 0.043696\t정확도: 98.08%\n", + "47\t검증 세트 손실: 0.095987\t최선의 손실: 0.043696\t정확도: 97.97%\n", + "48\t검증 세트 손실: 0.074225\t최선의 손실: 0.043696\t정확도: 98.40%\n", + "49\t검증 세트 손실: 0.065592\t최선의 손실: 0.043696\t정확도: 98.44%\n", + "50\t검증 세트 손실: 0.076552\t최선의 손실: 0.043696\t정확도: 98.40%\n", + "51\t검증 세트 손실: 0.069474\t최선의 손실: 0.043696\t정확도: 98.28%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "49\t검증 세트 손실: 0.112044\t최선의 손실: 0.053856\t정확도: 98.94%\n", - "50\t검증 세트 손실: 0.088844\t최선의 손실: 0.053856\t정확도: 98.79%\n", - "51\t검증 세트 손실: 0.101536\t최선의 손실: 0.053856\t정확도: 98.75%\n", - "52\t검증 세트 손실: 0.074789\t최선의 손실: 0.053856\t정확도: 98.87%\n", - "53\t검증 세트 손실: 0.098000\t최선의 손실: 0.053856\t정확도: 98.83%\n", - "54\t검증 세트 손실: 0.130868\t최선의 손실: 0.053856\t정확도: 98.55%\n", - "55\t검증 세트 손실: 0.092992\t최선의 손실: 0.053856\t정확도: 98.79%\n", - "56\t검증 세트 손실: 0.134793\t최선의 손실: 0.053856\t정확도: 99.06%\n", - "57\t검증 세트 손실: 0.154402\t최선의 손실: 0.053856\t정확도: 98.83%\n", - "58\t검증 세트 손실: 0.085951\t최선의 손실: 0.053856\t정확도: 99.10%\n", - "59\t검증 세트 손실: 0.133642\t최선의 손실: 0.053856\t정확도: 98.87%\n", - "60\t검증 세트 손실: 0.074166\t최선의 손실: 0.053856\t정확도: 99.26%\n", - "61\t검증 세트 손실: 0.134175\t최선의 손실: 0.053856\t정확도: 98.71%\n", - "62\t검증 세트 손실: 0.114631\t최선의 손실: 0.053856\t정확도: 98.75%\n", - "63\t검증 세트 손실: 0.105282\t최선의 손실: 0.053856\t정확도: 98.71%\n", - "64\t검증 세트 손실: 0.102412\t최선의 손실: 0.053856\t정확도: 98.94%\n", - "65\t검증 세트 손실: 0.115263\t최선의 손실: 0.053856\t정확도: 98.71%\n", + "52\t검증 세트 손실: 0.115850\t최선의 손실: 0.043696\t정확도: 97.97%\n", + "53\t검증 세트 손실: 0.084871\t최선의 손실: 0.043696\t정확도: 98.55%\n", + "54\t검증 세트 손실: 0.105568\t최선의 손실: 0.043696\t정확도: 98.44%\n", + "55\t검증 세트 손실: 0.130608\t최선의 손실: 0.043696\t정확도: 97.42%\n", + "56\t검증 세트 손실: 0.066186\t최선의 손실: 0.043696\t정확도: 98.63%\n", + "57\t검증 세트 손실: 0.078571\t최선의 손실: 0.043696\t정확도: 98.71%\n", + "58\t검증 세트 손실: 0.084736\t최선의 손실: 0.043696\t정확도: 98.51%\n", + "59\t검증 세트 손실: 0.101282\t최선의 손실: 0.043696\t정확도: 97.97%\n", + "60\t검증 세트 손실: 0.066283\t최선의 손실: 0.043696\t정확도: 98.75%\n", + "61\t검증 세트 손실: 0.069000\t최선의 손실: 0.043696\t정확도: 98.28%\n", + "62\t검증 세트 손실: 0.095420\t최선의 손실: 0.043696\t정확도: 98.20%\n", + "63\t검증 세트 손실: 0.067017\t최선의 손실: 0.043696\t정확도: 98.55%\n", + "64\t검증 세트 손실: 0.072630\t최선의 손실: 0.043696\t정확도: 98.79%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100, total= 50.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.956434\t최선의 손실: 0.956434\t정확도: 93.86%\n", - "1\t검증 세트 손실: 0.119549\t최선의 손실: 0.119549\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.118120\t최선의 손실: 0.118120\t정확도: 97.26%\n", - "3\t검증 세트 손실: 0.123112\t최선의 손실: 0.118120\t정확도: 97.15%\n", - "4\t검증 세트 손실: 0.126990\t최선의 손실: 0.118120\t정확도: 97.54%\n", - "5\t검증 세트 손실: 0.064321\t최선의 손실: 0.064321\t정확도: 98.32%\n", - "6\t검증 세트 손실: 0.087609\t최선의 손실: 0.064321\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.102494\t최선의 손실: 0.064321\t정확도: 97.81%\n", - "8\t검증 세트 손실: 0.122984\t최선의 손실: 0.064321\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.516196\t최선의 손실: 0.064321\t정확도: 95.15%\n", - "10\t검증 세트 손실: 0.094879\t최선의 손실: 0.064321\t정확도: 98.44%\n", - "11\t검증 세트 손실: 0.073287\t최선의 손실: 0.064321\t정확도: 98.63%\n", - "12\t검증 세트 손실: 0.064735\t최선의 손실: 0.064321\t정확도: 98.94%\n", - "13\t검증 세트 손실: 0.060212\t최선의 손실: 0.060212\t정확도: 98.75%\n", - "14\t검증 세트 손실: 0.057979\t최선의 손실: 0.057979\t정확도: 98.59%\n", - "15\t검증 세트 손실: 0.089249\t최선의 손실: 0.057979\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.093672\t최선의 손실: 0.057979\t정확도: 98.08%\n", - "17\t검증 세트 손실: 0.097515\t최선의 손실: 0.057979\t정확도: 98.28%\n", - "18\t검증 세트 손실: 0.068477\t최선의 손실: 0.057979\t정확도: 98.91%\n", - "19\t검증 세트 손실: 0.058878\t최선의 손실: 0.057979\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.061606\t최선의 손실: 0.057979\t정확도: 98.59%\n", - "21\t검증 세트 손실: 0.129801\t최선의 손실: 0.057979\t정확도: 97.85%\n", - "22\t검증 세트 손실: 0.172462\t최선의 손실: 0.057979\t정확도: 97.65%\n", - "23\t검증 세트 손실: 0.099830\t최선의 손실: 0.057979\t정확도: 98.71%\n", - "24\t검증 세트 손실: 0.094421\t최선의 손실: 0.057979\t정확도: 98.59%\n", - "25\t검증 세트 손실: 0.044927\t최선의 손실: 0.044927\t정확도: 98.98%\n", - "26\t검증 세트 손실: 0.050414\t최선의 손실: 0.044927\t정확도: 98.79%\n", - "27\t검증 세트 손실: 0.083735\t최선의 손실: 0.044927\t정확도: 98.71%\n", - "28\t검증 세트 손실: 0.131055\t최선의 손실: 0.044927\t정확도: 98.48%\n", - "29\t검증 세트 손실: 0.104745\t최선의 손실: 0.044927\t정확도: 98.08%\n", - "30\t검증 세트 손실: 0.173490\t최선의 손실: 0.044927\t정확도: 98.12%\n", - "31\t검증 세트 손실: 0.161628\t최선의 손실: 0.044927\t정확도: 97.46%\n", - "32\t검증 세트 손실: 0.058688\t최선의 손실: 0.044927\t정확도: 98.94%\n", - "33\t검증 세트 손실: 0.078395\t최선의 손실: 0.044927\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.082828\t최선의 손실: 0.044927\t정확도: 98.63%\n", - "35\t검증 세트 손실: 0.141703\t최선의 손실: 0.044927\t정확도: 98.32%\n", - "36\t검증 세트 손실: 0.096862\t최선의 손실: 0.044927\t정확도: 98.48%\n", - "37\t검증 세트 손실: 0.083520\t최선의 손실: 0.044927\t정확도: 98.71%\n", - "38\t검증 세트 손실: 0.082070\t최선의 손실: 0.044927\t정확도: 98.83%\n", - "39\t검증 세트 손실: 0.087943\t최선의 손실: 0.044927\t정확도: 98.59%\n", - "40\t검증 세트 손실: 0.053893\t최선의 손실: 0.044927\t정확도: 98.98%\n", - "41\t검증 세트 손실: 0.083658\t최선의 손실: 0.044927\t정확도: 98.48%\n", - "42\t검증 세트 손실: 0.168787\t최선의 손실: 0.044927\t정확도: 98.01%\n", - "43\t검증 세트 손실: 0.098514\t최선의 손실: 0.044927\t정확도: 98.75%\n", - "44\t검증 세트 손실: 0.227392\t최선의 손실: 0.044927\t정확도: 98.01%\n", - "45\t검증 세트 손실: 0.339799\t최선의 손실: 0.044927\t정확도: 98.12%\n", - "46\t검증 세트 손실: 0.079133\t최선의 손실: 0.044927\t정확도: 99.10%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.4min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.434457\t최선의 손실: 0.434457\t정확도: 84.87%\n", + "1\t검증 세트 손실: 0.114025\t최선의 손실: 0.114025\t정확도: 97.15%\n", + "2\t검증 세트 손실: 0.118505\t최선의 손실: 0.114025\t정확도: 97.22%\n", + "3\t검증 세트 손실: 0.117616\t최선의 손실: 0.114025\t정확도: 96.40%\n", + "4\t검증 세트 손실: 0.295895\t최선의 손실: 0.114025\t정확도: 93.39%\n", + "5\t검증 세트 손실: 0.146217\t최선의 손실: 0.114025\t정확도: 96.52%\n", + "6\t검증 세트 손실: 0.069554\t최선의 손실: 0.069554\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.088808\t최선의 손실: 0.069554\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.079666\t최선의 손실: 0.069554\t정확도: 98.12%\n", + "9\t검증 세트 손실: 0.104637\t최선의 손실: 0.069554\t정확도: 97.89%\n", + "10\t검증 세트 손실: 0.120937\t최선의 손실: 0.069554\t정확도: 97.54%\n", + "11\t검증 세트 손실: 0.077051\t최선의 손실: 0.069554\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.061309\t최선의 손실: 0.061309\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.068507\t최선의 손실: 0.061309\t정확도: 98.59%\n", + "14\t검증 세트 손실: 0.087285\t최선의 손실: 0.061309\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.279667\t최선의 손실: 0.061309\t정확도: 95.62%\n", + "16\t검증 세트 손실: 0.141482\t최선의 손실: 0.061309\t정확도: 95.43%\n", + "17\t검증 세트 손실: 0.137740\t최선의 손실: 0.061309\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.071767\t최선의 손실: 0.061309\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.087585\t최선의 손실: 0.061309\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.089942\t최선의 손실: 0.061309\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.074296\t최선의 손실: 0.061309\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.079864\t최선의 손실: 0.061309\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.054707\t최선의 손실: 0.054707\t정확도: 98.71%\n", + "24\t검증 세트 손실: 0.069939\t최선의 손실: 0.054707\t정확도: 97.93%\n", + "25\t검증 세트 손실: 0.089796\t최선의 손실: 0.054707\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.077804\t최선의 손실: 0.054707\t정확도: 98.36%\n", + "27\t검증 세트 손실: 0.093038\t최선의 손실: 0.054707\t정확도: 98.01%\n", + "28\t검증 세트 손실: 0.238240\t최선의 손실: 0.054707\t정확도: 94.96%\n", + "29\t검증 세트 손실: 0.116483\t최선의 손실: 0.054707\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.125551\t최선의 손실: 0.054707\t정확도: 97.97%\n", + "31\t검증 세트 손실: 0.084360\t최선의 손실: 0.054707\t정확도: 97.89%\n", + "32\t검증 세트 손실: 0.111884\t최선의 손실: 0.054707\t정확도: 98.08%\n", + "33\t검증 세트 손실: 0.106942\t최선의 손실: 0.054707\t정확도: 98.05%\n", + "34\t검증 세트 손실: 0.078087\t최선의 손실: 0.054707\t정확도: 98.75%\n", + "35\t검증 세트 손실: 0.086780\t최선의 손실: 0.054707\t정확도: 98.75%\n", + "36\t검증 세트 손실: 0.089568\t최선의 손실: 0.054707\t정확도: 98.55%\n", + "37\t검증 세트 손실: 0.070517\t최선의 손실: 0.054707\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.077135\t최선의 손실: 0.054707\t정확도: 98.63%\n", + "39\t검증 세트 손실: 0.071401\t최선의 손실: 0.054707\t정확도: 98.87%\n", + "40\t검증 세트 손실: 0.062835\t최선의 손실: 0.054707\t정확도: 98.79%\n", + "41\t검증 세트 손실: 0.071143\t최선의 손실: 0.054707\t정확도: 98.75%\n", + "42\t검증 세트 손실: 0.155961\t최선의 손실: 0.054707\t정확도: 98.40%\n", + "43\t검증 세트 손실: 0.063991\t최선의 손실: 0.054707\t정확도: 98.75%\n", + "44\t검증 세트 손실: 0.048580\t최선의 손실: 0.048580\t정확도: 98.75%\n", + "45\t검증 세트 손실: 0.101365\t최선의 손실: 0.048580\t정확도: 98.40%\n", + "46\t검증 세트 손실: 0.075145\t최선의 손실: 0.048580\t정확도: 98.40%\n", + "47\t검증 세트 손실: 0.051617\t최선의 손실: 0.048580\t정확도: 98.98%\n", + "48\t검증 세트 손실: 0.058995\t최선의 손실: 0.048580\t정확도: 98.32%\n", + "49\t검증 세트 손실: 0.090380\t최선의 손실: 0.048580\t정확도: 97.93%\n", + "50\t검증 세트 손실: 0.080947\t최선의 손실: 0.048580\t정확도: 98.32%\n", + "51\t검증 세트 손실: 0.063450\t최선의 손실: 0.048580\t정확도: 98.71%\n", + "52\t검증 세트 손실: 0.067418\t최선의 손실: 0.048580\t정확도: 98.59%\n", + "53\t검증 세트 손실: 0.258399\t최선의 손실: 0.048580\t정확도: 93.47%\n", + "54\t검증 세트 손실: 0.082224\t최선의 손실: 0.048580\t정확도: 98.20%\n", + "55\t검증 세트 손실: 0.068784\t최선의 손실: 0.048580\t정확도: 98.63%\n", + "56\t검증 세트 손실: 0.082114\t최선의 손실: 0.048580\t정확도: 98.55%\n", + "57\t검증 세트 손실: 0.097330\t최선의 손실: 0.048580\t정확도: 98.44%\n", + "58\t검증 세트 손실: 0.055771\t최선의 손실: 0.048580\t정확도: 98.94%\n", + "59\t검증 세트 손실: 0.122808\t최선의 손실: 0.048580\t정확도: 97.77%\n", + "60\t검증 세트 손실: 0.068427\t최선의 손실: 0.048580\t정확도: 98.24%\n", + "61\t검증 세트 손실: 0.064758\t최선의 손실: 0.048580\t정확도: 98.75%\n", + "62\t검증 세트 손실: 0.080787\t최선의 손실: 0.048580\t정확도: 98.75%\n", + "63\t검증 세트 손실: 0.081473\t최선의 손실: 0.048580\t정확도: 98.63%\n", + "64\t검증 세트 손실: 0.072272\t최선의 손실: 0.048580\t정확도: 98.87%\n", + "65\t검증 세트 손실: 0.155057\t최선의 손실: 0.048580\t정확도: 97.97%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100, total= 36.1s\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100 \n", - "0\t검증 세트 손실: 0.260659\t최선의 손실: 0.260659\t정확도: 95.90%\n", - "1\t검증 세트 손실: 0.144921\t최선의 손실: 0.144921\t정확도: 97.26%\n", - "2\t검증 세트 손실: 0.130803\t최선의 손실: 0.130803\t정확도: 97.34%\n", - "3\t검증 세트 손실: 0.102405\t최선의 손실: 0.102405\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.085434\t최선의 손실: 0.085434\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.171491\t최선의 손실: 0.085434\t정확도: 96.60%\n", - "6\t검증 세트 손실: 0.081782\t최선의 손실: 0.081782\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.115276\t최선의 손실: 0.081782\t정확도: 97.58%\n", - "8\t검증 세트 손실: 0.070404\t최선의 손실: 0.070404\t정확도: 98.16%\n", - "9\t검증 세트 손실: 0.113719\t최선의 손실: 0.070404\t정확도: 97.62%\n", - "10\t검증 세트 손실: 0.074893\t최선의 손실: 0.070404\t정확도: 98.63%\n", - "11\t검증 세트 손실: 0.089308\t최선의 손실: 0.070404\t정확도: 98.24%\n", - "12\t검증 세트 손실: 0.081746\t최선의 손실: 0.070404\t정확도: 98.48%\n", - "13\t검증 세트 손실: 0.094099\t최선의 손실: 0.070404\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.049303\t최선의 손실: 0.049303\t정확도: 98.94%\n", - "15\t검증 세트 손실: 0.060011\t최선의 손실: 0.049303\t정확도: 98.79%\n", - "16\t검증 세트 손실: 0.078212\t최선의 손실: 0.049303\t정확도: 98.51%\n", - "17\t검증 세트 손실: 0.082789\t최선의 손실: 0.049303\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.084642\t최선의 손실: 0.049303\t정확도: 98.24%\n", - "19\t검증 세트 손실: 0.062490\t최선의 손실: 0.049303\t정확도: 98.71%\n", - "20\t검증 세트 손실: 0.114636\t최선의 손실: 0.049303\t정확도: 98.20%\n", - "21\t검증 세트 손실: 1.519289\t최선의 손실: 0.049303\t정확도: 82.76%\n", - "22\t검증 세트 손실: 0.071085\t최선의 손실: 0.049303\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.078298\t최선의 손실: 0.049303\t정확도: 98.51%\n", - "24\t검증 세트 손실: 0.067901\t최선의 손실: 0.049303\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.081811\t최선의 손실: 0.049303\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.085421\t최선의 손실: 0.049303\t정확도: 98.59%\n", - "27\t검증 세트 손실: 0.066546\t최선의 손실: 0.049303\t정확도: 98.75%\n", - "28\t검증 세트 손실: 0.049642\t최선의 손실: 0.049303\t정확도: 98.87%\n", - "29\t검증 세트 손실: 0.049375\t최선의 손실: 0.049303\t정확도: 99.14%\n", - "30\t검증 세트 손실: 0.095365\t최선의 손실: 0.049303\t정확도: 98.75%\n", - "31\t검증 세트 손실: 0.084198\t최선의 손실: 0.049303\t정확도: 98.63%\n", - "32\t검증 세트 손실: 0.080280\t최선의 손실: 0.049303\t정확도: 99.06%\n", - "33\t검증 세트 손실: 0.199324\t최선의 손실: 0.049303\t정확도: 98.24%\n", - "34\t검증 세트 손실: 0.127343\t최선의 손실: 0.049303\t정확도: 98.28%\n", - "35\t검증 세트 손실: 0.096491\t최선의 손실: 0.049303\t정확도: 98.36%\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.4min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.203469\t최선의 손실: 0.203469\t정확도: 94.49%\n", + "1\t검증 세트 손실: 0.082421\t최선의 손실: 0.082421\t정확도: 97.77%\n", + "2\t검증 세트 손실: 0.115134\t최선의 손실: 0.082421\t정확도: 96.40%\n", + "3\t검증 세트 손실: 0.088135\t최선의 손실: 0.082421\t정확도: 97.58%\n", + "4\t검증 세트 손실: 0.115976\t최선의 손실: 0.082421\t정확도: 96.36%\n", + "5\t검증 세트 손실: 0.255388\t최선의 손실: 0.082421\t정확도: 94.25%\n", + "6\t검증 세트 손실: 0.276386\t최선의 손실: 0.082421\t정확도: 94.68%\n", + "7\t검증 세트 손실: 0.094960\t최선의 손실: 0.082421\t정확도: 97.77%\n", + "8\t검증 세트 손실: 0.122953\t최선의 손실: 0.082421\t정확도: 96.76%\n", + "9\t검증 세트 손실: 0.075644\t최선의 손실: 0.075644\t정확도: 97.97%\n", + "10\t검증 세트 손실: 0.085388\t최선의 손실: 0.075644\t정확도: 97.77%\n", + "11\t검증 세트 손실: 0.074828\t최선의 손실: 0.074828\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.109776\t최선의 손실: 0.074828\t정확도: 97.42%\n", + "13\t검증 세트 손실: 0.103251\t최선의 손실: 0.074828\t정확도: 96.79%\n", + "14\t검증 세트 손실: 0.085790\t최선의 손실: 0.074828\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.073161\t최선의 손실: 0.073161\t정확도: 98.12%\n", + "16\t검증 세트 손실: 0.106190\t최선의 손실: 0.073161\t정확도: 97.97%\n", + "17\t검증 세트 손실: 0.128510\t최선의 손실: 0.073161\t정확도: 96.72%\n", + "18\t검증 세트 손실: 0.195189\t최선의 손실: 0.073161\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.093644\t최선의 손실: 0.073161\t정확도: 98.24%\n", + "20\t검증 세트 손실: 0.104526\t최선의 손실: 0.073161\t정확도: 97.85%\n", + "21\t검증 세트 손실: 0.073079\t최선의 손실: 0.073079\t정확도: 98.44%\n", + "22\t검증 세트 손실: 0.071463\t최선의 손실: 0.071463\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.155275\t최선의 손실: 0.071463\t정확도: 96.95%\n", + "24\t검증 세트 손실: 0.077727\t최선의 손실: 0.071463\t정확도: 98.12%\n", + "25\t검증 세트 손실: 0.077817\t최선의 손실: 0.071463\t정확도: 98.12%\n", + "26\t검증 세트 손실: 0.151495\t최선의 손실: 0.071463\t정확도: 97.97%\n", + "27\t검증 세트 손실: 0.130678\t최선의 손실: 0.071463\t정확도: 97.54%\n", + "28\t검증 세트 손실: 0.107792\t최선의 손실: 0.071463\t정확도: 97.73%\n", + "29\t검증 세트 손실: 0.068324\t최선의 손실: 0.068324\t정확도: 98.48%\n", + "30\t검증 세트 손실: 0.141855\t최선의 손실: 0.068324\t정확도: 97.15%\n", + "31\t검증 세트 손실: 0.067649\t최선의 손실: 0.067649\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.053423\t최선의 손실: 0.053423\t정확도: 98.79%\n", + "33\t검증 세트 손실: 0.055456\t최선의 손실: 0.053423\t정확도: 98.75%\n", + "34\t검증 세트 손실: 0.074185\t최선의 손실: 0.053423\t정확도: 98.67%\n", + "35\t검증 세트 손실: 0.072739\t최선의 손실: 0.053423\t정확도: 98.44%\n", + "36\t검증 세트 손실: 0.087535\t최선의 손실: 0.053423\t정확도: 98.28%\n", + "37\t검증 세트 손실: 0.063294\t최선의 손실: 0.053423\t정확도: 98.67%\n", + "38\t검증 세트 손실: 0.132968\t최선의 손실: 0.053423\t정확도: 98.01%\n", + "39\t검증 세트 손실: 0.076569\t최선의 손실: 0.053423\t정확도: 98.24%\n", + "40\t검증 세트 손실: 0.063373\t최선의 손실: 0.053423\t정확도: 98.51%\n", + "41\t검증 세트 손실: 0.058702\t최선의 손실: 0.053423\t정확도: 98.55%\n", + "42\t검증 세트 손실: 0.046697\t최선의 손실: 0.046697\t정확도: 98.59%\n", + "43\t검증 세트 손실: 0.212619\t최선의 손실: 0.046697\t정확도: 96.79%\n", + "44\t검증 세트 손실: 0.070246\t최선의 손실: 0.046697\t정확도: 98.83%\n", + "45\t검증 세트 손실: 0.066087\t최선의 손실: 0.046697\t정확도: 98.79%\n", + "46\t검증 세트 손실: 0.068352\t최선의 손실: 0.046697\t정확도: 98.51%\n", + "47\t검증 세트 손실: 0.091378\t최선의 손실: 0.046697\t정확도: 97.89%\n", + "48\t검증 세트 손실: 0.069447\t최선의 손실: 0.046697\t정확도: 97.97%\n", + "49\t검증 세트 손실: 0.097203\t최선의 손실: 0.046697\t정확도: 98.55%\n", + "50\t검증 세트 손실: 0.065726\t최선의 손실: 0.046697\t정확도: 98.67%\n", + "51\t검증 세트 손실: 0.062864\t최선의 손실: 0.046697\t정확도: 98.71%\n", + "52\t검증 세트 손실: 0.057348\t최선의 손실: 0.046697\t정확도: 98.63%\n", + "53\t검증 세트 손실: 0.071329\t최선의 손실: 0.046697\t정확도: 98.51%\n", + "54\t검증 세트 손실: 0.091497\t최선의 손실: 0.046697\t정확도: 98.01%\n", + "55\t검증 세트 손실: 0.186078\t최선의 손실: 0.046697\t정확도: 98.28%\n", + "56\t검증 세트 손실: 0.136875\t최선의 손실: 0.046697\t정확도: 97.54%\n", + "57\t검증 세트 손실: 0.051781\t최선의 손실: 0.046697\t정확도: 98.71%\n", + "58\t검증 세트 손실: 0.077658\t최선의 손실: 0.046697\t정확도: 98.48%\n", + "59\t검증 세트 손실: 0.085528\t최선의 손실: 0.046697\t정확도: 98.59%\n", + "60\t검증 세트 손실: 0.055382\t최선의 손실: 0.046697\t정확도: 98.16%\n", + "61\t검증 세트 손실: 0.057765\t최선의 손실: 0.046697\t정확도: 98.55%\n", + "62\t검증 세트 손실: 0.083772\t최선의 손실: 0.046697\t정확도: 97.97%\n", + "63\t검증 세트 손실: 0.098727\t최선의 손실: 0.046697\t정확도: 97.89%\n", "조기 종료!\n", - "[CV] batch_size=100, activation=.parametrized_leaky_relu at 0x7f73540339d8>, learning_rate=0.1, batch_norm_momentum=0.99, n_neurons=100, total= 28.1s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140 \n", - "0\t검증 세트 손실: 0.168566\t최선의 손실: 0.168566\t정확도: 95.23%\n", - "1\t검증 세트 손실: 0.076786\t최선의 손실: 0.076786\t정확도: 98.16%\n", - "2\t검증 세트 손실: 0.070977\t최선의 손실: 0.070977\t정확도: 97.97%\n", - "3\t검증 세트 손실: 0.120925\t최선의 손실: 0.070977\t정확도: 96.99%\n", - "4\t검증 세트 손실: 0.077866\t최선의 손실: 0.070977\t정확도: 98.48%\n", - "5\t검증 세트 손실: 0.069627\t최선의 손실: 0.069627\t정확도: 98.48%\n", - "6\t검증 세트 손실: 0.277481\t최선의 손실: 0.069627\t정확도: 96.17%\n", - "7\t검증 세트 손실: 0.050863\t최선의 손실: 0.050863\t정확도: 98.83%\n", - "8\t검증 세트 손실: 0.048399\t최선의 손실: 0.048399\t정확도: 98.63%\n", - "9\t검증 세트 손실: 0.059025\t최선의 손실: 0.048399\t정확도: 98.71%\n", - "10\t검증 세트 손실: 0.063731\t최선의 손실: 0.048399\t정확도: 98.79%\n", - "11\t검증 세트 손실: 0.061433\t최선의 손실: 0.048399\t정확도: 98.91%\n", - "12\t검증 세트 손실: 0.086001\t최선의 손실: 0.048399\t정확도: 98.71%\n", - "13\t검증 세트 손실: 0.051767\t최선의 손실: 0.048399\t정확도: 98.71%\n", - "14\t검증 세트 손실: 0.043881\t최선의 손실: 0.043881\t정확도: 98.87%\n", - "15\t검증 세트 손실: 0.057007\t최선의 손실: 0.043881\t정확도: 98.87%\n", - "16\t검증 세트 손실: 0.064264\t최선의 손실: 0.043881\t정확도: 98.79%\n", - "17\t검증 세트 손실: 0.070962\t최선의 손실: 0.043881\t정확도: 98.67%\n", - "18\t검증 세트 손실: 0.100781\t최선의 손실: 0.043881\t정확도: 98.63%\n", - "19\t검증 세트 손실: 0.100746\t최선의 손실: 0.043881\t정확도: 98.79%\n", - "20\t검증 세트 손실: 0.076990\t최선의 손실: 0.043881\t정확도: 98.75%\n", - "21\t검증 세트 손실: 0.105787\t최선의 손실: 0.043881\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.079515\t최선의 손실: 0.043881\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.241563\t최선의 손실: 0.043881\t정확도: 98.40%\n", - "24\t검증 세트 손실: 0.037368\t최선의 손실: 0.037368\t정확도: 99.18%\n", - "25\t검증 세트 손실: 0.042256\t최선의 손실: 0.037368\t정확도: 99.18%\n", - "26\t검증 세트 손실: 0.038282\t최선의 손실: 0.037368\t정확도: 99.18%\n", - "27\t검증 세트 손실: 0.052527\t최선의 손실: 0.037368\t정확도: 99.10%\n", - "28\t검증 세트 손실: 0.074215\t최선의 손실: 0.037368\t정확도: 98.75%\n", - "29\t검증 세트 손실: 0.136831\t최선의 손실: 0.037368\t정확도: 98.28%\n", - "30\t검증 세트 손실: 0.178128\t최선의 손실: 0.037368\t정확도: 98.55%\n", - "31\t검증 세트 손실: 0.063459\t최선의 손실: 0.037368\t정확도: 98.94%\n", - "32\t검증 세트 손실: 0.058044\t최선의 손실: 0.037368\t정확도: 99.34%\n", - "33\t검증 세트 손실: 0.070263\t최선의 손실: 0.037368\t정확도: 98.79%\n", - "34\t검증 세트 손실: 0.069229\t최선의 손실: 0.037368\t정확도: 99.02%\n", - "35\t검증 세트 손실: 0.068915\t최선의 손실: 0.037368\t정확도: 98.98%\n", - "36\t검증 세트 손실: 0.112329\t최선의 손실: 0.037368\t정확도: 98.55%\n", - "37\t검증 세트 손실: 0.296199\t최선의 손실: 0.037368\t정확도: 98.48%\n", - "38\t검증 세트 손실: 0.068715\t최선의 손실: 0.037368\t정확도: 98.98%\n", - "39\t검증 세트 손실: 0.089878\t최선의 손실: 0.037368\t정확도: 98.83%\n", - "40\t검증 세트 손실: 0.113317\t최선의 손실: 0.037368\t정확도: 98.75%\n", - "41\t검증 세트 손실: 0.096049\t최선의 손실: 0.037368\t정확도: 98.91%\n" + "[CV] n_neurons=100, learning_rate=0.1, batch_size=10, batch_norm_momentum=0.9, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.2min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "42\t검증 세트 손실: 0.072405\t최선의 손실: 0.037368\t정확도: 99.14%\n", - "43\t검증 세트 손실: 0.093697\t최선의 손실: 0.037368\t정확도: 98.91%\n", - "44\t검증 세트 손실: 0.411707\t최선의 손실: 0.037368\t정확도: 97.62%\n", - "45\t검증 세트 손실: 0.129432\t최선의 손실: 0.037368\t정확도: 98.75%\n", + "0\t검증 세트 손실: 0.483077\t최선의 손실: 0.483077\t정확도: 96.17%\n", + "1\t검증 세트 손실: 0.505842\t최선의 손실: 0.483077\t정확도: 90.34%\n", + "2\t검증 세트 손실: 0.594659\t최선의 손실: 0.483077\t정확도: 88.58%\n", + "3\t검증 세트 손실: 0.213584\t최선의 손실: 0.213584\t정확도: 95.54%\n", + "4\t검증 세트 손실: 1.151869\t최선의 손실: 0.213584\t정확도: 89.87%\n", + "5\t검증 세트 손실: 0.407447\t최선의 손실: 0.213584\t정확도: 92.73%\n", + "6\t검증 세트 손실: 0.234391\t최선의 손실: 0.213584\t정확도: 95.19%\n", + "7\t검증 세트 손실: 0.513575\t최선의 손실: 0.213584\t정확도: 95.62%\n", + "8\t검증 세트 손실: 0.166986\t최선의 손실: 0.166986\t정확도: 97.38%\n", + "9\t검증 세트 손실: 1.007659\t최선의 손실: 0.166986\t정확도: 92.96%\n", + "10\t검증 세트 손실: 0.108938\t최선의 손실: 0.108938\t정확도: 97.93%\n", + "11\t검증 세트 손실: 0.100636\t최선의 손실: 0.100636\t정확도: 98.12%\n", + "12\t검증 세트 손실: 0.165225\t최선의 손실: 0.100636\t정확도: 97.19%\n", + "13\t검증 세트 손실: 0.131043\t최선의 손실: 0.100636\t정확도: 97.30%\n", + "14\t검증 세트 손실: 0.219278\t최선의 손실: 0.100636\t정확도: 96.87%\n", + "15\t검증 세트 손실: 0.134978\t최선의 손실: 0.100636\t정확도: 98.24%\n", + "16\t검증 세트 손실: 0.073902\t최선의 손실: 0.073902\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.181493\t최선의 손실: 0.073902\t정확도: 97.65%\n", + "18\t검증 세트 손실: 0.127668\t최선의 손실: 0.073902\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.113495\t최선의 손실: 0.073902\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.226658\t최선의 손실: 0.073902\t정확도: 97.15%\n", + "21\t검증 세트 손실: 0.132222\t최선의 손실: 0.073902\t정확도: 98.20%\n", + "22\t검증 세트 손실: 0.141789\t최선의 손실: 0.073902\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.172394\t최선의 손실: 0.073902\t정확도: 98.16%\n", + "24\t검증 세트 손실: 0.098380\t최선의 손실: 0.073902\t정확도: 98.63%\n", + "25\t검증 세트 손실: 0.163256\t최선의 손실: 0.073902\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.121882\t최선의 손실: 0.073902\t정확도: 98.36%\n", + "27\t검증 세트 손실: 0.120971\t최선의 손실: 0.073902\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.190886\t최선의 손실: 0.073902\t정확도: 97.77%\n", + "29\t검증 세트 손실: 0.275274\t최선의 손실: 0.073902\t정확도: 97.81%\n", + "30\t검증 세트 손실: 0.177502\t최선의 손실: 0.073902\t정확도: 98.63%\n", + "31\t검증 세트 손실: 0.226612\t최선의 손실: 0.073902\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.267565\t최선의 손실: 0.073902\t정확도: 97.85%\n", + "33\t검증 세트 손실: 0.282721\t최선의 손실: 0.073902\t정확도: 96.95%\n", + "34\t검증 세트 손실: 0.188347\t최선의 손실: 0.073902\t정확도: 98.48%\n", + "35\t검증 세트 손실: 0.503104\t최선의 손실: 0.073902\t정확도: 97.62%\n", + "36\t검증 세트 손실: 0.180658\t최선의 손실: 0.073902\t정확도: 98.44%\n", + "37\t검증 세트 손실: 0.185271\t최선의 손실: 0.073902\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140, total= 1.1min\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140 \n", - "0\t검증 세트 손실: 0.165604\t최선의 손실: 0.165604\t정확도: 96.17%\n", - "1\t검증 세트 손실: 0.101739\t최선의 손실: 0.101739\t정확도: 97.26%\n", - "2\t검증 세트 손실: 0.077055\t최선의 손실: 0.077055\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.072214\t최선의 손실: 0.072214\t정확도: 98.08%\n", - "4\t검증 세트 손실: 0.078594\t최선의 손실: 0.072214\t정확도: 97.85%\n", - "5\t검증 세트 손실: 0.117106\t최선의 손실: 0.072214\t정확도: 97.69%\n", - "6\t검증 세트 손실: 0.075206\t최선의 손실: 0.072214\t정확도: 98.08%\n", - "7\t검증 세트 손실: 0.043270\t최선의 손실: 0.043270\t정확도: 98.79%\n", - "8\t검증 세트 손실: 0.068778\t최선의 손실: 0.043270\t정확도: 98.24%\n", - "9\t검증 세트 손실: 0.052392\t최선의 손실: 0.043270\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.066052\t최선의 손실: 0.043270\t정확도: 98.24%\n", - "11\t검증 세트 손실: 0.270648\t최선의 손실: 0.043270\t정확도: 98.01%\n", - "12\t검증 세트 손실: 0.039745\t최선의 손실: 0.039745\t정확도: 98.87%\n", - "13\t검증 세트 손실: 0.034715\t최선의 손실: 0.034715\t정확도: 98.94%\n", - "14\t검증 세트 손실: 0.054818\t최선의 손실: 0.034715\t정확도: 98.63%\n", - "15\t검증 세트 손실: 0.080160\t최선의 손실: 0.034715\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.065784\t최선의 손실: 0.034715\t정확도: 98.48%\n", - "17\t검증 세트 손실: 0.088054\t최선의 손실: 0.034715\t정확도: 98.40%\n", - "18\t검증 세트 손실: 0.067658\t최선의 손실: 0.034715\t정확도: 98.51%\n", - "19\t검증 세트 손실: 0.354436\t최선의 손실: 0.034715\t정확도: 96.40%\n", - "20\t검증 세트 손실: 0.067736\t최선의 손실: 0.034715\t정확도: 98.67%\n", - "21\t검증 세트 손실: 0.090547\t최선의 손실: 0.034715\t정확도: 98.83%\n", - "22\t검증 세트 손실: 0.074185\t최선의 손실: 0.034715\t정확도: 98.79%\n", - "23\t검증 세트 손실: 0.141325\t최선의 손실: 0.034715\t정확도: 98.01%\n", - "24\t검증 세트 손실: 0.124468\t최선의 손실: 0.034715\t정확도: 98.24%\n", - "25\t검증 세트 손실: 0.068752\t최선의 손실: 0.034715\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.056516\t최선의 손실: 0.034715\t정확도: 98.94%\n", - "27\t검증 세트 손실: 0.045568\t최선의 손실: 0.034715\t정확도: 99.06%\n", - "28\t검증 세트 손실: 0.061457\t최선의 손실: 0.034715\t정확도: 98.94%\n", - "29\t검증 세트 손실: 0.055946\t최선의 손실: 0.034715\t정확도: 98.91%\n", - "30\t검증 세트 손실: 0.058222\t최선의 손실: 0.034715\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.065218\t최선의 손실: 0.034715\t정확도: 98.83%\n", - "32\t검증 세트 손실: 0.139678\t최선의 손실: 0.034715\t정확도: 98.20%\n", - "33\t검증 세트 손실: 0.116010\t최선의 손실: 0.034715\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.078088\t최선의 손실: 0.034715\t정확도: 98.71%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation=, total= 4.0min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 0.598353\t최선의 손실: 0.598353\t정확도: 93.63%\n", + "1\t검증 세트 손실: 0.496886\t최선의 손실: 0.496886\t정확도: 92.03%\n", + "2\t검증 세트 손실: 2.000886\t최선의 손실: 0.496886\t정확도: 90.81%\n", + "3\t검증 세트 손실: 0.145095\t최선의 손실: 0.145095\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.535258\t최선의 손실: 0.145095\t정확도: 86.16%\n", + "5\t검증 세트 손실: 0.081705\t최선의 손실: 0.081705\t정확도: 97.93%\n", + "6\t검증 세트 손실: 0.474446\t최선의 손실: 0.081705\t정확도: 91.83%\n", + "7\t검증 세트 손실: 0.073782\t최선의 손실: 0.073782\t정확도: 98.12%\n", + "8\t검증 세트 손실: 0.112082\t최선의 손실: 0.073782\t정확도: 97.85%\n", + "9\t검증 세트 손실: 0.332630\t최선의 손실: 0.073782\t정확도: 96.36%\n", + "10\t검증 세트 손실: 0.592135\t최선의 손실: 0.073782\t정확도: 94.88%\n", + "11\t검증 세트 손실: 0.097517\t최선의 손실: 0.073782\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.467632\t최선의 손실: 0.073782\t정확도: 88.98%\n", + "13\t검증 세트 손실: 0.383141\t최선의 손실: 0.073782\t정확도: 97.54%\n", + "14\t검증 세트 손실: 0.083361\t최선의 손실: 0.073782\t정확도: 98.51%\n", + "15\t검증 세트 손실: 0.059776\t최선의 손실: 0.059776\t정확도: 98.83%\n", + "16\t검증 세트 손실: 0.130574\t최선의 손실: 0.059776\t정확도: 97.81%\n", + "17\t검증 세트 손실: 0.129356\t최선의 손실: 0.059776\t정확도: 97.69%\n", + "18\t검증 세트 손실: 0.298225\t최선의 손실: 0.059776\t정확도: 96.48%\n", + "19\t검증 세트 손실: 0.118419\t최선의 손실: 0.059776\t정확도: 98.40%\n", + "20\t검증 세트 손실: 0.134277\t최선의 손실: 0.059776\t정확도: 98.44%\n", + "21\t검증 세트 손실: 0.138227\t최선의 손실: 0.059776\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.201320\t최선의 손실: 0.059776\t정확도: 97.07%\n", + "23\t검증 세트 손실: 0.157111\t최선의 손실: 0.059776\t정확도: 98.20%\n", + "24\t검증 세트 손실: 0.231506\t최선의 손실: 0.059776\t정확도: 97.22%\n", + "25\t검증 세트 손실: 0.127512\t최선의 손실: 0.059776\t정확도: 98.51%\n", + "26\t검증 세트 손실: 0.154042\t최선의 손실: 0.059776\t정확도: 97.97%\n", + "27\t검증 세트 손실: 0.107099\t최선의 손실: 0.059776\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.279141\t최선의 손실: 0.059776\t정확도: 98.20%\n", + "29\t검증 세트 손실: 0.278159\t최선의 손실: 0.059776\t정확도: 98.05%\n", + "30\t검증 세트 손실: 0.276855\t최선의 손실: 0.059776\t정확도: 97.93%\n", + "31\t검증 세트 손실: 0.205465\t최선의 손실: 0.059776\t정확도: 98.16%\n", + "32\t검증 세트 손실: 0.421256\t최선의 손실: 0.059776\t정확도: 96.13%\n", + "33\t검증 세트 손실: 0.100904\t최선의 손실: 0.059776\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.220502\t최선의 손실: 0.059776\t정확도: 98.63%\n", + "35\t검증 세트 손실: 0.319796\t최선의 손실: 0.059776\t정확도: 96.95%\n", + "36\t검증 세트 손실: 0.176389\t최선의 손실: 0.059776\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140, total= 48.3s\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140 \n", - "0\t검증 세트 손실: 0.182922\t최선의 손실: 0.182922\t정확도: 95.50%\n", - "1\t검증 세트 손실: 0.084590\t최선의 손실: 0.084590\t정확도: 98.01%\n", - "2\t검증 세트 손실: 0.073171\t최선의 손실: 0.073171\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.112833\t최선의 손실: 0.073171\t정확도: 97.65%\n", - "4\t검증 세트 손실: 0.054152\t최선의 손실: 0.054152\t정확도: 98.71%\n", - "5\t검증 세트 손실: 0.071914\t최선의 손실: 0.054152\t정확도: 98.24%\n", - "6\t검증 세트 손실: 0.165654\t최선의 손실: 0.054152\t정확도: 95.04%\n", - "7\t검증 세트 손실: 0.146447\t최선의 손실: 0.054152\t정확도: 97.62%\n", - "8\t검증 세트 손실: 0.057221\t최선의 손실: 0.054152\t정확도: 98.55%\n", - "9\t검증 세트 손실: 0.036044\t최선의 손실: 0.036044\t정확도: 99.02%\n", - "10\t검증 세트 손실: 0.053146\t최선의 손실: 0.036044\t정확도: 98.94%\n", - "11\t검증 세트 손실: 0.061673\t최선의 손실: 0.036044\t정확도: 98.28%\n", - "12\t검증 세트 손실: 0.105205\t최선의 손실: 0.036044\t정확도: 98.24%\n", - "13\t검증 세트 손실: 0.117441\t최선의 손실: 0.036044\t정확도: 98.44%\n", - "14\t검증 세트 손실: 0.044596\t최선의 손실: 0.036044\t정확도: 99.02%\n", - "15\t검증 세트 손실: 0.029053\t최선의 손실: 0.029053\t정확도: 99.30%\n", - "16\t검증 세트 손실: 0.027236\t최선의 손실: 0.027236\t정확도: 99.34%\n", - "17\t검증 세트 손실: 0.078262\t최선의 손실: 0.027236\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.050703\t최선의 손실: 0.027236\t정확도: 98.79%\n", - "19\t검증 세트 손실: 1.297021\t최선의 손실: 0.027236\t정확도: 96.95%\n", - "20\t검증 세트 손실: 0.068767\t최선의 손실: 0.027236\t정확도: 98.91%\n", - "21\t검증 세트 손실: 0.038300\t최선의 손실: 0.027236\t정확도: 99.06%\n", - "22\t검증 세트 손실: 0.045134\t최선의 손실: 0.027236\t정확도: 99.26%\n", - "23\t검증 세트 손실: 0.037370\t최선의 손실: 0.027236\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.047406\t최선의 손실: 0.027236\t정확도: 99.22%\n", - "25\t검증 세트 손실: 0.047665\t최선의 손실: 0.027236\t정확도: 99.22%\n", - "26\t검증 세트 손실: 0.073990\t최선의 손실: 0.027236\t정확도: 98.71%\n", - "27\t검증 세트 손실: 0.097039\t최선의 손실: 0.027236\t정확도: 98.83%\n", - "28\t검증 세트 손실: 0.079830\t최선의 손실: 0.027236\t정확도: 98.87%\n", - "29\t검증 세트 손실: 0.037542\t최선의 손실: 0.027236\t정확도: 99.14%\n", - "30\t검증 세트 손실: 0.042977\t최선의 손실: 0.027236\t정확도: 99.06%\n", - "31\t검증 세트 손실: 0.083389\t최선의 손실: 0.027236\t정확도: 98.91%\n", - "32\t검증 세트 손실: 2.708771\t최선의 손실: 0.027236\t정확도: 92.26%\n", - "33\t검증 세트 손실: 0.112853\t최선의 손실: 0.027236\t정확도: 98.71%\n", - "34\t검증 세트 손실: 0.040287\t최선의 손실: 0.027236\t정확도: 99.18%\n", - "35\t검증 세트 손실: 0.037146\t최선의 손실: 0.027236\t정확도: 99.26%\n", - "36\t검증 세트 손실: 0.038783\t최선의 손실: 0.027236\t정확도: 99.45%\n", - "37\t검증 세트 손실: 0.044508\t최선의 손실: 0.027236\t정확도: 99.18%\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation=, total= 3.9min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 1.459998\t최선의 손실: 1.459998\t정확도: 89.60%\n", + "1\t검증 세트 손실: 0.591941\t최선의 손실: 0.591941\t정확도: 95.93%\n", + "2\t검증 세트 손실: 0.633804\t최선의 손실: 0.591941\t정확도: 88.98%\n", + "3\t검증 세트 손실: 0.701733\t최선의 손실: 0.591941\t정확도: 93.16%\n", + "4\t검증 세트 손실: 0.521520\t최선의 손실: 0.521520\t정확도: 91.71%\n", + "5\t검증 세트 손실: 0.121236\t최선의 손실: 0.121236\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.139848\t최선의 손실: 0.121236\t정확도: 97.97%\n", + "7\t검증 세트 손실: 0.311846\t최선의 손실: 0.121236\t정확도: 96.79%\n", + "8\t검증 세트 손실: 0.255030\t최선의 손실: 0.121236\t정확도: 97.77%\n", + "9\t검증 세트 손실: 0.104428\t최선의 손실: 0.104428\t정확도: 98.36%\n", + "10\t검증 세트 손실: 0.127013\t최선의 손실: 0.104428\t정확도: 98.12%\n", + "11\t검증 세트 손실: 0.153165\t최선의 손실: 0.104428\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.265711\t최선의 손실: 0.104428\t정확도: 96.64%\n", + "13\t검증 세트 손실: 0.243680\t최선의 손실: 0.104428\t정확도: 97.03%\n", + "14\t검증 세트 손실: 0.076462\t최선의 손실: 0.076462\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.170559\t최선의 손실: 0.076462\t정확도: 97.69%\n", + "16\t검증 세트 손실: 0.062733\t최선의 손실: 0.062733\t정확도: 98.59%\n", + "17\t검증 세트 손실: 0.399048\t최선의 손실: 0.062733\t정확도: 97.58%\n", + "18\t검증 세트 손실: 0.078682\t최선의 손실: 0.062733\t정확도: 98.63%\n", + "19\t검증 세트 손실: 0.215118\t최선의 손실: 0.062733\t정확도: 98.12%\n", + "20\t검증 세트 손실: 0.104925\t최선의 손실: 0.062733\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.062213\t최선의 손실: 0.062213\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.103243\t최선의 손실: 0.062213\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.207790\t최선의 손실: 0.062213\t정확도: 98.40%\n", + "24\t검증 세트 손실: 0.702395\t최선의 손실: 0.062213\t정확도: 91.40%\n", + "25\t검증 세트 손실: 0.207432\t최선의 손실: 0.062213\t정확도: 98.32%\n", + "26\t검증 세트 손실: 0.180390\t최선의 손실: 0.062213\t정확도: 98.59%\n", + "27\t검증 세트 손실: 0.128126\t최선의 손실: 0.062213\t정확도: 98.51%\n", + "28\t검증 세트 손실: 0.231220\t최선의 손실: 0.062213\t정확도: 97.85%\n", + "29\t검증 세트 손실: 0.182780\t최선의 손실: 0.062213\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.175057\t최선의 손실: 0.062213\t정확도: 98.36%\n", + "31\t검증 세트 손실: 0.440102\t최선의 손실: 0.062213\t정확도: 96.21%\n", + "32\t검증 세트 손실: 0.130503\t최선의 손실: 0.062213\t정확도: 98.71%\n", + "33\t검증 세트 손실: 0.128253\t최선의 손실: 0.062213\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.137423\t최선의 손실: 0.062213\t정확도: 98.32%\n", + "35\t검증 세트 손실: 0.265091\t최선의 손실: 0.062213\t정확도: 97.38%\n", + "36\t검증 세트 손실: 0.200066\t최선의 손실: 0.062213\t정확도: 98.40%\n", + "37\t검증 세트 손실: 0.196110\t최선의 손실: 0.062213\t정확도: 98.51%\n", + "38\t검증 세트 손실: 0.129356\t최선의 손실: 0.062213\t정확도: 98.91%\n", + "39\t검증 세트 손실: 0.248041\t최선의 손실: 0.062213\t정확도: 98.20%\n", + "40\t검증 세트 손실: 0.127562\t최선의 손실: 0.062213\t정확도: 98.83%\n", + "41\t검증 세트 손실: 0.167585\t최선의 손실: 0.062213\t정확도: 98.28%\n", + "42\t검증 세트 손실: 0.091247\t최선의 손실: 0.062213\t정확도: 98.71%\n", "조기 종료!\n", - "[CV] batch_size=50, activation=, learning_rate=0.05, batch_norm_momentum=0.99, n_neurons=140, total= 52.4s\n" + "[CV] n_neurons=140, learning_rate=0.05, batch_size=10, batch_norm_momentum=0.999, activation=, total= 4.5min\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.116248\t최선의 손실: 0.116248\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.075991\t최선의 손실: 0.075991\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.085029\t최선의 손실: 0.075991\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.098782\t최선의 손실: 0.075991\t정확도: 97.62%\n", + "4\t검증 세트 손실: 0.049573\t최선의 손실: 0.049573\t정확도: 98.71%\n", + "5\t검증 세트 손실: 0.079591\t최선의 손실: 0.049573\t정확도: 98.16%\n", + "6\t검증 세트 손실: 0.046373\t최선의 손실: 0.046373\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.056480\t최선의 손실: 0.046373\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.065781\t최선의 손실: 0.046373\t정확도: 98.24%\n", + "9\t검증 세트 손실: 0.075820\t최선의 손실: 0.046373\t정확도: 98.44%\n", + "10\t검증 세트 손실: 0.052182\t최선의 손실: 0.046373\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.056833\t최선의 손실: 0.046373\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.074747\t최선의 손실: 0.046373\t정확도: 98.40%\n", + "13\t검증 세트 손실: 0.101700\t최선의 손실: 0.046373\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.074596\t최선의 손실: 0.046373\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.071996\t최선의 손실: 0.046373\t정확도: 98.12%\n", + "16\t검증 세트 손실: 0.092278\t최선의 손실: 0.046373\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.058675\t최선의 손실: 0.046373\t정확도: 98.98%\n", + "18\t검증 세트 손실: 0.206107\t최선의 손실: 0.046373\t정확도: 97.42%\n", + "19\t검증 세트 손실: 0.092369\t최선의 손실: 0.046373\t정확도: 98.51%\n", + "20\t검증 세트 손실: 0.062547\t최선의 손실: 0.046373\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.054146\t최선의 손실: 0.046373\t정확도: 98.79%\n", + "22\t검증 세트 손실: 0.093382\t최선의 손실: 0.046373\t정확도: 98.63%\n", + "23\t검증 세트 손실: 0.108194\t최선의 손실: 0.046373\t정확도: 98.08%\n", + "24\t검증 세트 손실: 0.054557\t최선의 손실: 0.046373\t정확도: 99.06%\n", + "25\t검증 세트 손실: 0.068939\t최선의 손실: 0.046373\t정확도: 98.71%\n", + "26\t검증 세트 손실: 0.068574\t최선의 손실: 0.046373\t정확도: 98.94%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "27\t검증 세트 손실: 0.058335\t최선의 손실: 0.046373\t정확도: 98.63%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 41.7s\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.086639\t최선의 손실: 0.086639\t정확도: 97.73%\n", + "1\t검증 세트 손실: 0.085928\t최선의 손실: 0.085928\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.099868\t최선의 손실: 0.085928\t정확도: 97.54%\n", + "3\t검증 세트 손실: 0.076947\t최선의 손실: 0.076947\t정확도: 97.81%\n", + "4\t검증 세트 손실: 0.067968\t최선의 손실: 0.067968\t정확도: 98.05%\n", + "5\t검증 세트 손실: 0.074949\t최선의 손실: 0.067968\t정확도: 97.89%\n", + "6\t검증 세트 손실: 0.060651\t최선의 손실: 0.060651\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.066528\t최선의 손실: 0.060651\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.065484\t최선의 손실: 0.060651\t정확도: 97.89%\n", + "9\t검증 세트 손실: 0.072149\t최선의 손실: 0.060651\t정확도: 98.32%\n", + "10\t검증 세트 손실: 0.067127\t최선의 손실: 0.060651\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.073527\t최선의 손실: 0.060651\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.073089\t최선의 손실: 0.060651\t정확도: 98.28%\n", + "13\t검증 세트 손실: 0.052882\t최선의 손실: 0.052882\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.058849\t최선의 손실: 0.052882\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.062067\t최선의 손실: 0.052882\t정확도: 98.59%\n", + "16\t검증 세트 손실: 0.081640\t최선의 손실: 0.052882\t정확도: 98.01%\n", + "17\t검증 세트 손실: 0.075623\t최선의 손실: 0.052882\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.118437\t최선의 손실: 0.052882\t정확도: 98.28%\n", + "19\t검증 세트 손실: 0.088278\t최선의 손실: 0.052882\t정확도: 98.08%\n", + "20\t검증 세트 손실: 0.067499\t최선의 손실: 0.052882\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.072590\t최선의 손실: 0.052882\t정확도: 98.24%\n", + "22\t검증 세트 손실: 0.084700\t최선의 손실: 0.052882\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.210904\t최선의 손실: 0.052882\t정확도: 97.58%\n", + "24\t검증 세트 손실: 0.056117\t최선의 손실: 0.052882\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.052026\t최선의 손실: 0.052026\t정확도: 98.59%\n", + "26\t검증 세트 손실: 0.066952\t최선의 손실: 0.052026\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.071579\t최선의 손실: 0.052026\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.072554\t최선의 손실: 0.052026\t정확도: 98.63%\n", + "29\t검증 세트 손실: 0.052385\t최선의 손실: 0.052026\t정확도: 98.55%\n", + "30\t검증 세트 손실: 0.071486\t최선의 손실: 0.052026\t정확도: 98.55%\n", + "31\t검증 세트 손실: 0.069187\t최선의 손실: 0.052026\t정확도: 98.59%\n", + "32\t검증 세트 손실: 0.070456\t최선의 손실: 0.052026\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.080034\t최선의 손실: 0.052026\t정확도: 98.59%\n", + "34\t검증 세트 손실: 0.094699\t최선의 손실: 0.052026\t정확도: 98.44%\n", + "35\t검증 세트 손실: 0.079642\t최선의 손실: 0.052026\t정확도: 98.71%\n", + "36\t검증 세트 손실: 0.073518\t최선의 손실: 0.052026\t정확도: 98.16%\n", + "37\t검증 세트 손실: 0.057663\t최선의 손실: 0.052026\t정확도: 98.87%\n", + "38\t검증 세트 손실: 0.076351\t최선의 손실: 0.052026\t정확도: 98.51%\n", + "39\t검증 세트 손실: 0.087151\t최선의 손실: 0.052026\t정확도: 98.36%\n", + "40\t검증 세트 손실: 0.075516\t최선의 손실: 0.052026\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.058934\t최선의 손실: 0.052026\t정확도: 98.87%\n", + "42\t검증 세트 손실: 0.069693\t최선의 손실: 0.052026\t정확도: 98.83%\n", + "43\t검증 세트 손실: 0.091160\t최선의 손실: 0.052026\t정확도: 98.51%\n", + "44\t검증 세트 손실: 0.157824\t최선의 손실: 0.052026\t정확도: 98.08%\n", + "45\t검증 세트 손실: 0.082517\t최선의 손실: 0.052026\t정확도: 98.44%\n", + "46\t검증 세트 손실: 0.079833\t최선의 손실: 0.052026\t정확도: 98.71%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 1.1min\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.150401\t최선의 손실: 0.150401\t정확도: 96.33%\n", + "1\t검증 세트 손실: 0.087081\t최선의 손실: 0.087081\t정확도: 97.58%\n", + "2\t검증 세트 손실: 0.071018\t최선의 손실: 0.071018\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.059572\t최선의 손실: 0.059572\t정확도: 98.51%\n", + "4\t검증 세트 손실: 0.099876\t최선의 손실: 0.059572\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.089580\t최선의 손실: 0.059572\t정확도: 97.65%\n", + "6\t검증 세트 손실: 0.213345\t최선의 손실: 0.059572\t정확도: 93.55%\n", + "7\t검증 세트 손실: 0.079077\t최선의 손실: 0.059572\t정확도: 97.93%\n", + "8\t검증 세트 손실: 0.063635\t최선의 손실: 0.059572\t정확도: 98.40%\n", + "9\t검증 세트 손실: 3.391007\t최선의 손실: 0.059572\t정확도: 77.13%\n", + "10\t검증 세트 손실: 0.075067\t최선의 손실: 0.059572\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.078860\t최선의 손실: 0.059572\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.074613\t최선의 손실: 0.059572\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.060430\t최선의 손실: 0.059572\t정확도: 98.67%\n", + "14\t검증 세트 손실: 0.057534\t최선의 손실: 0.057534\t정확도: 98.63%\n", + "15\t검증 세트 손실: 0.059812\t최선의 손실: 0.057534\t정확도: 98.51%\n", + "16\t검증 세트 손실: 0.075241\t최선의 손실: 0.057534\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.107834\t최선의 손실: 0.057534\t정확도: 97.89%\n", + "18\t검증 세트 손실: 0.064800\t최선의 손실: 0.057534\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.059687\t최선의 손실: 0.057534\t정확도: 99.06%\n", + "20\t검증 세트 손실: 0.099537\t최선의 손실: 0.057534\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.088298\t최선의 손실: 0.057534\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.079168\t최선의 손실: 0.057534\t정확도: 98.75%\n", + "23\t검증 세트 손실: 0.067315\t최선의 손실: 0.057534\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.091560\t최선의 손실: 0.057534\t정확도: 98.87%\n", + "25\t검증 세트 손실: 0.089014\t최선의 손실: 0.057534\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.072003\t최선의 손실: 0.057534\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.060476\t최선의 손실: 0.057534\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.077995\t최선의 손실: 0.057534\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.086468\t최선의 손실: 0.057534\t정확도: 98.28%\n", + "30\t검증 세트 손실: 0.077426\t최선의 손실: 0.057534\t정확도: 98.55%\n", + "31\t검증 세트 손실: 0.067309\t최선의 손실: 0.057534\t정확도: 98.67%\n", + "32\t검증 세트 손실: 0.094197\t최선의 손실: 0.057534\t정확도: 98.28%\n", + "33\t검증 세트 손실: 0.104154\t최선의 손실: 0.057534\t정확도: 98.67%\n", + "34\t검증 세트 손실: 0.098941\t최선의 손실: 0.057534\t정확도: 98.83%\n", + "35\t검증 세트 손실: 0.076762\t최선의 손실: 0.057534\t정확도: 98.98%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, batch_size=50, batch_norm_momentum=0.95, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 52.8s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 0.259196\t최선의 손실: 0.259196\t정확도: 91.75%\n", + "1\t검증 세트 손실: 0.699083\t최선의 손실: 0.259196\t정확도: 83.58%\n", + "2\t검증 세트 손실: 0.212982\t최선의 손실: 0.212982\t정확도: 94.29%\n", + "3\t검증 세트 손실: 0.165536\t최선의 손실: 0.165536\t정확도: 95.54%\n", + "4\t검증 세트 손실: 0.241812\t최선의 손실: 0.165536\t정확도: 93.59%\n", + "5\t검증 세트 손실: 0.379470\t최선의 손실: 0.165536\t정확도: 93.00%\n", + "6\t검증 세트 손실: 0.175629\t최선의 손실: 0.165536\t정확도: 96.87%\n", + "7\t검증 세트 손실: 0.148633\t최선의 손실: 0.148633\t정확도: 97.15%\n", + "8\t검증 세트 손실: 0.103775\t최선의 손실: 0.103775\t정확도: 98.08%\n", + "9\t검증 세트 손실: 0.133605\t최선의 손실: 0.103775\t정확도: 97.93%\n", + "10\t검증 세트 손실: 0.132570\t최선의 손실: 0.103775\t정확도: 98.01%\n", + "11\t검증 세트 손실: 0.252849\t최선의 손실: 0.103775\t정확도: 96.64%\n", + "12\t검증 세트 손실: 0.176270\t최선의 손실: 0.103775\t정확도: 97.97%\n", + "13\t검증 세트 손실: 0.186650\t최선의 손실: 0.103775\t정확도: 97.65%\n", + "14\t검증 세트 손실: 0.173248\t최선의 손실: 0.103775\t정확도: 97.81%\n", + "15\t검증 세트 손실: 0.166817\t최선의 손실: 0.103775\t정확도: 97.85%\n", + "16\t검증 세트 손실: 0.198665\t최선의 손실: 0.103775\t정확도: 97.93%\n", + "17\t검증 세트 손실: 0.240781\t최선의 손실: 0.103775\t정확도: 97.38%\n", + "18\t검증 세트 손실: 0.190145\t최선의 손실: 0.103775\t정확도: 98.32%\n", + "19\t검증 세트 손실: 0.189365\t최선의 손실: 0.103775\t정확도: 98.08%\n", + "20\t검증 세트 손실: 0.143027\t최선의 손실: 0.103775\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.187112\t최선의 손실: 0.103775\t정확도: 98.08%\n", + "22\t검증 세트 손실: 0.229252\t최선의 손실: 0.103775\t정확도: 98.08%\n", + "23\t검증 세트 손실: 0.268353\t최선의 손실: 0.103775\t정확도: 97.46%\n", + "24\t검증 세트 손실: 0.184261\t최선의 손실: 0.103775\t정확도: 97.93%\n", + "25\t검증 세트 손실: 0.172805\t최선의 손실: 0.103775\t정확도: 98.08%\n", + "26\t검증 세트 손실: 0.233253\t최선의 손실: 0.103775\t정확도: 97.46%\n", + "27\t검증 세트 손실: 0.162683\t최선의 손실: 0.103775\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.162009\t최선의 손실: 0.103775\t정확도: 98.48%\n", + "29\t검증 세트 손실: 0.160555\t최선의 손실: 0.103775\t정확도: 98.59%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation=, total= 6.3s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 0.221217\t최선의 손실: 0.221217\t정확도: 93.63%\n", + "1\t검증 세트 손실: 0.144060\t최선의 손실: 0.144060\t정확도: 95.82%\n", + "2\t검증 세트 손실: 0.098399\t최선의 손실: 0.098399\t정확도: 97.19%\n", + "3\t검증 세트 손실: 0.129410\t최선의 손실: 0.098399\t정확도: 96.33%\n", + "4\t검증 세트 손실: 0.135231\t최선의 손실: 0.098399\t정확도: 96.87%\n", + "5\t검증 세트 손실: 0.156737\t최선의 손실: 0.098399\t정확도: 96.68%\n", + "6\t검증 세트 손실: 0.109853\t최선의 손실: 0.098399\t정확도: 98.05%\n", + "7\t검증 세트 손실: 0.129370\t최선의 손실: 0.098399\t정확도: 97.34%\n", + "8\t검증 세트 손실: 0.179151\t최선의 손실: 0.098399\t정확도: 96.48%\n", + "9\t검증 세트 손실: 0.313501\t최선의 손실: 0.098399\t정확도: 95.78%\n", + "10\t검증 세트 손실: 0.273909\t최선의 손실: 0.098399\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.210047\t최선의 손실: 0.098399\t정확도: 97.03%\n", + "12\t검증 세트 손실: 0.184956\t최선의 손실: 0.098399\t정확도: 97.73%\n", + "13\t검증 세트 손실: 0.223722\t최선의 손실: 0.098399\t정확도: 97.11%\n", + "14\t검증 세트 손실: 0.193505\t최선의 손실: 0.098399\t정확도: 97.73%\n", + "15\t검증 세트 손실: 0.226267\t최선의 손실: 0.098399\t정확도: 97.65%\n", + "16\t검증 세트 손실: 0.321930\t최선의 손실: 0.098399\t정확도: 96.99%\n", + "17\t검증 세트 손실: 0.249555\t최선의 손실: 0.098399\t정확도: 97.38%\n", + "18\t검증 세트 손실: 0.149250\t최선의 손실: 0.098399\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.144109\t최선의 손실: 0.098399\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.157248\t최선의 손실: 0.098399\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.140379\t최선의 손실: 0.098399\t정확도: 98.40%\n", + "22\t검증 세트 손실: 0.191600\t최선의 손실: 0.098399\t정확도: 97.81%\n", + "23\t검증 세트 손실: 0.196924\t최선의 손실: 0.098399\t정확도: 98.08%\n", + "조기 종료!\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation=, total= 5.6s\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation= \n", + "0\t검증 세트 손실: 0.592864\t최선의 손실: 0.592864\t정확도: 81.51%\n", + "1\t검증 세트 손실: 0.156402\t최선의 손실: 0.156402\t정확도: 95.19%\n", + "2\t검증 세트 손실: 0.187990\t최선의 손실: 0.156402\t정확도: 94.53%\n", + "3\t검증 세트 손실: 0.134298\t최선의 손실: 0.134298\t정확도: 96.17%\n", + "4\t검증 세트 손실: 0.125619\t최선의 손실: 0.125619\t정확도: 96.64%\n", + "5\t검증 세트 손실: 0.142794\t최선의 손실: 0.125619\t정확도: 96.36%\n", + "6\t검증 세트 손실: 0.111444\t최선의 손실: 0.111444\t정확도: 97.62%\n", + "7\t검증 세트 손실: 0.141484\t최선의 손실: 0.111444\t정확도: 97.73%\n", + "8\t검증 세트 손실: 0.150718\t최선의 손실: 0.111444\t정확도: 97.34%\n", + "9\t검증 세트 손실: 0.119767\t최선의 손실: 0.111444\t정확도: 97.97%\n", + "10\t검증 세트 손실: 0.205911\t최선의 손실: 0.111444\t정확도: 97.15%\n", + "11\t검증 세트 손실: 0.186199\t최선의 손실: 0.111444\t정확도: 97.54%\n", + "12\t검증 세트 손실: 0.146893\t최선의 손실: 0.111444\t정확도: 97.81%\n", + "13\t검증 세트 손실: 0.114454\t최선의 손실: 0.111444\t정확도: 98.40%\n", + "14\t검증 세트 손실: 0.127142\t최선의 손실: 0.111444\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.137325\t최선의 손실: 0.111444\t정확도: 98.24%\n", + "16\t검증 세트 손실: 0.108876\t최선의 손실: 0.108876\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.217204\t최선의 손실: 0.108876\t정확도: 97.65%\n", + "18\t검증 세트 손실: 0.198897\t최선의 손실: 0.108876\t정확도: 97.54%\n", + "19\t검증 세트 손실: 0.144067\t최선의 손실: 0.108876\t정확도: 98.28%\n", + "20\t검증 세트 손실: 0.206894\t최선의 손실: 0.108876\t정확도: 97.85%\n", + "21\t검증 세트 손실: 0.159411\t최선의 손실: 0.108876\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.203180\t최선의 손실: 0.108876\t정확도: 98.28%\n", + "23\t검증 세트 손실: 0.134700\t최선의 손실: 0.108876\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.179738\t최선의 손실: 0.108876\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.158615\t최선의 손실: 0.108876\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.295426\t최선의 손실: 0.108876\t정확도: 97.46%\n", + "27\t검증 세트 손실: 0.167643\t최선의 손실: 0.108876\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.121519\t최선의 손실: 0.108876\t정확도: 98.87%\n", + "29\t검증 세트 손실: 0.161252\t최선의 손실: 0.108876\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.152885\t최선의 손실: 0.108876\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.116538\t최선의 손실: 0.108876\t정확도: 98.59%\n", + "32\t검증 세트 손실: 0.110737\t최선의 손실: 0.108876\t정확도: 98.71%\n", + "33\t검증 세트 손실: 0.109405\t최선의 손실: 0.108876\t정확도: 98.48%\n", + "34\t검증 세트 손실: 0.148315\t최선의 손실: 0.108876\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.178032\t최선의 손실: 0.108876\t정확도: 98.28%\n", + "36\t검증 세트 손실: 0.273841\t최선의 손실: 0.108876\t정확도: 97.73%\n", + "37\t검증 세트 손실: 0.220936\t최선의 손실: 0.108876\t정확도: 98.16%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.01, batch_size=500, batch_norm_momentum=0.999, activation=, total= 7.7s\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.340573\t최선의 손실: 0.340573\t정확도: 96.25%\n", + "1\t검증 세트 손실: 0.137622\t최선의 손실: 0.137622\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.092429\t최선의 손실: 0.092429\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.115973\t최선의 손실: 0.092429\t정확도: 97.34%\n", + "4\t검증 세트 손실: 0.082478\t최선의 손실: 0.082478\t정확도: 97.97%\n", + "5\t검증 세트 손실: 0.093195\t최선의 손실: 0.082478\t정확도: 97.73%\n", + "6\t검증 세트 손실: 0.054717\t최선의 손실: 0.054717\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.096240\t최선의 손실: 0.054717\t정확도: 97.34%\n", + "8\t검증 세트 손실: 0.078074\t최선의 손실: 0.054717\t정확도: 97.81%\n", + "9\t검증 세트 손실: 0.067979\t최선의 손실: 0.054717\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.064192\t최선의 손실: 0.054717\t정확도: 98.44%\n", + "11\t검증 세트 손실: 0.050539\t최선의 손실: 0.050539\t정확도: 98.55%\n", + "12\t검증 세트 손실: 0.067448\t최선의 손실: 0.050539\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.062388\t최선의 손실: 0.050539\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.062379\t최선의 손실: 0.050539\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.060595\t최선의 손실: 0.050539\t정확도: 98.48%\n", + "16\t검증 세트 손실: 0.047674\t최선의 손실: 0.047674\t정확도: 98.94%\n", + "17\t검증 세트 손실: 0.046718\t최선의 손실: 0.046718\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.072700\t최선의 손실: 0.046718\t정확도: 97.85%\n", + "19\t검증 세트 손실: 0.044388\t최선의 손실: 0.044388\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.047437\t최선의 손실: 0.044388\t정확도: 98.63%\n", + "21\t검증 세트 손실: 0.066894\t최선의 손실: 0.044388\t정확도: 98.28%\n", + "22\t검증 세트 손실: 0.049924\t최선의 손실: 0.044388\t정확도: 98.71%\n", + "23\t검증 세트 손실: 0.049466\t최선의 손실: 0.044388\t정확도: 98.83%\n", + "24\t검증 세트 손실: 0.065760\t최선의 손실: 0.044388\t정확도: 98.48%\n", + "25\t검증 세트 손실: 0.064100\t최선의 손실: 0.044388\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.044916\t최선의 손실: 0.044388\t정확도: 98.67%\n", + "27\t검증 세트 손실: 0.100398\t최선의 손실: 0.044388\t정확도: 97.46%\n", + "28\t검증 세트 손실: 0.047822\t최선의 손실: 0.044388\t정확도: 98.67%\n", + "29\t검증 세트 손실: 0.062776\t최선의 손실: 0.044388\t정확도: 98.59%\n", + "30\t검증 세트 손실: 0.059560\t최선의 손실: 0.044388\t정확도: 98.59%\n", + "31\t검증 세트 손실: 0.053306\t최선의 손실: 0.044388\t정확도: 98.75%\n", + "32\t검증 세트 손실: 0.044015\t최선의 손실: 0.044015\t정확도: 98.87%\n", + "33\t검증 세트 손실: 0.081857\t최선의 손실: 0.044015\t정확도: 97.77%\n", + "34\t검증 세트 손실: 0.057176\t최선의 손실: 0.044015\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.046877\t최선의 손실: 0.044015\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.057211\t최선의 손실: 0.044015\t정확도: 98.51%\n", + "37\t검증 세트 손실: 0.060889\t최선의 손실: 0.044015\t정확도: 98.79%\n", + "38\t검증 세트 손실: 0.040551\t최선의 손실: 0.040551\t정확도: 99.10%\n", + "39\t검증 세트 손실: 0.050186\t최선의 손실: 0.040551\t정확도: 98.59%\n", + "40\t검증 세트 손실: 0.038027\t최선의 손실: 0.038027\t정확도: 99.14%\n", + "41\t검증 세트 손실: 0.084377\t최선의 손실: 0.038027\t정확도: 98.08%\n", + "42\t검증 세트 손실: 0.040101\t최선의 손실: 0.038027\t정확도: 99.02%\n", + "43\t검증 세트 손실: 0.053792\t최선의 손실: 0.038027\t정확도: 98.75%\n", + "44\t검증 세트 손실: 0.044532\t최선의 손실: 0.038027\t정확도: 99.06%\n", + "45\t검증 세트 손실: 0.075845\t최선의 손실: 0.038027\t정확도: 98.40%\n", + "46\t검증 세트 손실: 0.061587\t최선의 손실: 0.038027\t정확도: 98.44%\n", + "47\t검증 세트 손실: 0.084660\t최선의 손실: 0.038027\t정확도: 98.32%\n", + "48\t검증 세트 손실: 0.051725\t최선의 손실: 0.038027\t정확도: 98.83%\n", + "49\t검증 세트 손실: 0.053397\t최선의 손실: 0.038027\t정확도: 98.71%\n", + "50\t검증 세트 손실: 0.072052\t최선의 손실: 0.038027\t정확도: 98.32%\n", + "51\t검증 세트 손실: 0.046839\t최선의 손실: 0.038027\t정확도: 99.02%\n", + "52\t검증 세트 손실: 0.053251\t최선의 손실: 0.038027\t정확도: 98.71%\n", + "53\t검증 세트 손실: 0.059930\t최선의 손실: 0.038027\t정확도: 98.94%\n", + "54\t검증 세트 손실: 0.049935\t최선의 손실: 0.038027\t정확도: 98.87%\n", + "55\t검증 세트 손실: 0.054948\t최선의 손실: 0.038027\t정확도: 98.87%\n", + "56\t검증 세트 손실: 0.056017\t최선의 손실: 0.038027\t정확도: 98.94%\n", + "57\t검증 세트 손실: 0.053706\t최선의 손실: 0.038027\t정확도: 98.51%\n", + "58\t검증 세트 손실: 0.044977\t최선의 손실: 0.038027\t정확도: 98.91%\n", + "59\t검증 세트 손실: 0.066390\t최선의 손실: 0.038027\t정확도: 98.75%\n", + "60\t검증 세트 손실: 0.052794\t최선의 손실: 0.038027\t정확도: 98.91%\n", + "61\t검증 세트 손실: 0.069462\t최선의 손실: 0.038027\t정확도: 98.59%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 7.0min\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.345537\t최선의 손실: 0.345537\t정확도: 95.50%\n", + "1\t검증 세트 손실: 0.180384\t최선의 손실: 0.180384\t정확도: 96.68%\n", + "2\t검증 세트 손실: 0.369321\t최선의 손실: 0.180384\t정확도: 93.20%\n", + "3\t검증 세트 손실: 0.142544\t최선의 손실: 0.142544\t정확도: 96.76%\n", + "4\t검증 세트 손실: 0.112886\t최선의 손실: 0.112886\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.103095\t최선의 손실: 0.103095\t정확도: 97.34%\n", + "6\t검증 세트 손실: 0.062869\t최선의 손실: 0.062869\t정확도: 98.08%\n", + "7\t검증 세트 손실: 0.055397\t최선의 손실: 0.055397\t정확도: 98.08%\n", + "8\t검증 세트 손실: 0.119355\t최선의 손실: 0.055397\t정확도: 96.99%\n", + "9\t검증 세트 손실: 0.100178\t최선의 손실: 0.055397\t정확도: 97.22%\n", + "10\t검증 세트 손실: 0.054666\t최선의 손실: 0.054666\t정확도: 98.16%\n", + "11\t검증 세트 손실: 0.052260\t최선의 손실: 0.052260\t정확도: 98.51%\n", + "12\t검증 세트 손실: 0.049158\t최선의 손실: 0.049158\t정확도: 98.32%\n", + "13\t검증 세트 손실: 0.059044\t최선의 손실: 0.049158\t정확도: 98.36%\n", + "14\t검증 세트 손실: 0.044955\t최선의 손실: 0.044955\t정확도: 98.79%\n", + "15\t검증 세트 손실: 0.042488\t최선의 손실: 0.042488\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.072703\t최선의 손실: 0.042488\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.067167\t최선의 손실: 0.042488\t정확도: 98.16%\n", + "18\t검증 세트 손실: 0.054634\t최선의 손실: 0.042488\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.046106\t최선의 손실: 0.042488\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.054403\t최선의 손실: 0.042488\t정확도: 98.83%\n", + "21\t검증 세트 손실: 0.049719\t최선의 손실: 0.042488\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.050542\t최선의 손실: 0.042488\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.040510\t최선의 손실: 0.040510\t정확도: 98.71%\n", + "24\t검증 세트 손실: 0.036506\t최선의 손실: 0.036506\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.040839\t최선의 손실: 0.036506\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.049226\t최선의 손실: 0.036506\t정확도: 98.59%\n", + "27\t검증 세트 손실: 0.048295\t최선의 손실: 0.036506\t정확도: 98.71%\n", + "28\t검증 세트 손실: 0.040602\t최선의 손실: 0.036506\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.060895\t최선의 손실: 0.036506\t정확도: 98.20%\n", + "30\t검증 세트 손실: 0.095833\t최선의 손실: 0.036506\t정확도: 97.58%\n", + "31\t검증 세트 손실: 0.042674\t최선의 손실: 0.036506\t정확도: 98.83%\n", + "32\t검증 세트 손실: 0.039368\t최선의 손실: 0.036506\t정확도: 98.94%\n", + "33\t검증 세트 손실: 0.044523\t최선의 손실: 0.036506\t정확도: 98.75%\n", + "34\t검증 세트 손실: 0.047287\t최선의 손실: 0.036506\t정확도: 98.79%\n", + "35\t검증 세트 손실: 0.037682\t최선의 손실: 0.036506\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.036094\t최선의 손실: 0.036094\t정확도: 99.26%\n", + "37\t검증 세트 손실: 0.031950\t최선의 손실: 0.031950\t정확도: 99.14%\n", + "38\t검증 세트 손실: 0.034313\t최선의 손실: 0.031950\t정확도: 98.87%\n", + "39\t검증 세트 손실: 0.034529\t최선의 손실: 0.031950\t정확도: 99.10%\n", + "40\t검증 세트 손실: 0.033677\t최선의 손실: 0.031950\t정확도: 99.10%\n", + "41\t검증 세트 손실: 0.034158\t최선의 손실: 0.031950\t정확도: 99.06%\n", + "42\t검증 세트 손실: 0.038323\t최선의 손실: 0.031950\t정확도: 99.02%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "43\t검증 세트 손실: 0.039247\t최선의 손실: 0.031950\t정확도: 98.98%\n", + "44\t검증 세트 손실: 0.034105\t최선의 손실: 0.031950\t정확도: 99.22%\n", + "45\t검증 세트 손실: 0.034982\t최선의 손실: 0.031950\t정확도: 99.06%\n", + "46\t검증 세트 손실: 0.046459\t최선의 손실: 0.031950\t정확도: 98.91%\n", + "47\t검증 세트 손실: 0.074517\t최선의 손실: 0.031950\t정확도: 98.63%\n", + "48\t검증 세트 손실: 0.041028\t최선의 손실: 0.031950\t정확도: 98.91%\n", + "49\t검증 세트 손실: 0.038842\t최선의 손실: 0.031950\t정확도: 98.83%\n", + "50\t검증 세트 손실: 0.042878\t최선의 손실: 0.031950\t정확도: 99.02%\n", + "51\t검증 세트 손실: 0.050619\t최선의 손실: 0.031950\t정확도: 98.83%\n", + "52\t검증 세트 손실: 0.035218\t최선의 손실: 0.031950\t정확도: 99.10%\n", + "53\t검증 세트 손실: 0.043632\t최선의 손실: 0.031950\t정확도: 98.91%\n", + "54\t검증 세트 손실: 0.059285\t최선의 손실: 0.031950\t정확도: 98.59%\n", + "55\t검증 세트 손실: 0.037149\t최선의 손실: 0.031950\t정확도: 98.83%\n", + "56\t검증 세트 손실: 0.060045\t최선의 손실: 0.031950\t정확도: 98.51%\n", + "57\t검증 세트 손실: 0.042023\t최선의 손실: 0.031950\t정확도: 98.83%\n", + "58\t검증 세트 손실: 0.050744\t최선의 손실: 0.031950\t정확도: 98.94%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.7min\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.272361\t최선의 손실: 0.272361\t정확도: 96.68%\n", + "1\t검증 세트 손실: 0.179001\t최선의 손실: 0.179001\t정확도: 97.54%\n", + "2\t검증 세트 손실: 0.130677\t최선의 손실: 0.130677\t정확도: 96.60%\n", + "3\t검증 세트 손실: 0.081181\t최선의 손실: 0.081181\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.109422\t최선의 손실: 0.081181\t정확도: 97.22%\n", + "5\t검증 세트 손실: 0.380446\t최선의 손실: 0.081181\t정확도: 89.37%\n", + "6\t검증 세트 손실: 0.139738\t최선의 손실: 0.081181\t정확도: 96.29%\n", + "7\t검증 세트 손실: 0.092486\t최선의 손실: 0.081181\t정확도: 97.50%\n", + "8\t검증 세트 손실: 0.076771\t최선의 손실: 0.076771\t정확도: 97.54%\n", + "9\t검증 세트 손실: 0.101723\t최선의 손실: 0.076771\t정확도: 97.26%\n", + "10\t검증 세트 손실: 0.113900\t최선의 손실: 0.076771\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.080039\t최선의 손실: 0.076771\t정확도: 97.62%\n", + "12\t검증 세트 손실: 0.052347\t최선의 손실: 0.052347\t정확도: 98.16%\n", + "13\t검증 세트 손실: 0.068510\t최선의 손실: 0.052347\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.077190\t최선의 손실: 0.052347\t정확도: 97.73%\n", + "15\t검증 세트 손실: 0.064281\t최선의 손실: 0.052347\t정확도: 98.20%\n", + "16\t검증 세트 손실: 0.071500\t최선의 손실: 0.052347\t정확도: 98.01%\n", + "17\t검증 세트 손실: 0.051988\t최선의 손실: 0.051988\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.053773\t최선의 손실: 0.051988\t정확도: 98.51%\n", + "19\t검증 세트 손실: 0.048581\t최선의 손실: 0.048581\t정확도: 98.59%\n", + "20\t검증 세트 손실: 0.084460\t최선의 손실: 0.048581\t정확도: 98.08%\n", + "21\t검증 세트 손실: 0.031356\t최선의 손실: 0.031356\t정확도: 99.22%\n", + "22\t검증 세트 손실: 0.065146\t최선의 손실: 0.031356\t정확도: 98.05%\n", + "23\t검증 세트 손실: 0.036686\t최선의 손실: 0.031356\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.071104\t최선의 손실: 0.031356\t정확도: 97.89%\n", + "25\t검증 세트 손실: 0.059308\t최선의 손실: 0.031356\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.045869\t최선의 손실: 0.031356\t정확도: 99.02%\n", + "27\t검증 세트 손실: 0.042493\t최선의 손실: 0.031356\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.043442\t최선의 손실: 0.031356\t정확도: 98.98%\n", + "29\t검증 세트 손실: 0.042983\t최선의 손실: 0.031356\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.116659\t최선의 손실: 0.031356\t정확도: 97.19%\n", + "31\t검증 세트 손실: 0.083947\t최선의 손실: 0.031356\t정확도: 97.62%\n", + "32\t검증 세트 손실: 0.041901\t최선의 손실: 0.031356\t정확도: 98.83%\n", + "33\t검증 세트 손실: 0.030395\t최선의 손실: 0.030395\t정확도: 99.06%\n", + "34\t검증 세트 손실: 0.052087\t최선의 손실: 0.030395\t정확도: 98.55%\n", + "35\t검증 세트 손실: 0.056370\t최선의 손실: 0.030395\t정확도: 98.59%\n", + "36\t검증 세트 손실: 0.043415\t최선의 손실: 0.030395\t정확도: 98.98%\n", + "37\t검증 세트 손실: 0.046660\t최선의 손실: 0.030395\t정확도: 98.83%\n", + "38\t검증 세트 손실: 0.039612\t최선의 손실: 0.030395\t정확도: 99.02%\n", + "39\t검증 세트 손실: 0.046058\t최선의 손실: 0.030395\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.046523\t최선의 손실: 0.030395\t정확도: 98.75%\n", + "41\t검증 세트 손실: 0.051308\t최선의 손실: 0.030395\t정확도: 98.32%\n", + "42\t검증 세트 손실: 0.047413\t최선의 손실: 0.030395\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.085642\t최선의 손실: 0.030395\t정확도: 97.97%\n", + "44\t검증 세트 손실: 0.033879\t최선의 손실: 0.030395\t정확도: 98.94%\n", + "45\t검증 세트 손실: 0.032661\t최선의 손실: 0.030395\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.052735\t최선의 손실: 0.030395\t정확도: 98.63%\n", + "47\t검증 세트 손실: 0.036384\t최선의 손실: 0.030395\t정확도: 98.83%\n", + "48\t검증 세트 손실: 0.052527\t최선의 손실: 0.030395\t정확도: 98.75%\n", + "49\t검증 세트 손실: 0.047780\t최선의 손실: 0.030395\t정확도: 98.98%\n", + "50\t검증 세트 손실: 0.044543\t최선의 손실: 0.030395\t정확도: 98.87%\n", + "51\t검증 세트 손실: 0.044044\t최선의 손실: 0.030395\t정확도: 98.91%\n", + "52\t검증 세트 손실: 0.054210\t최선의 손실: 0.030395\t정확도: 98.79%\n", + "53\t검증 세트 손실: 0.066122\t최선의 손실: 0.030395\t정확도: 98.12%\n", + "54\t검증 세트 손실: 0.038926\t최선의 손실: 0.030395\t정확도: 99.02%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.02, batch_size=10, batch_norm_momentum=0.999, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 6.2min\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.094782\t최선의 손실: 0.094782\t정확도: 97.50%\n", + "1\t검증 세트 손실: 0.078781\t최선의 손실: 0.078781\t정확도: 97.85%\n", + "2\t검증 세트 손실: 0.066579\t최선의 손실: 0.066579\t정확도: 98.12%\n", + "3\t검증 세트 손실: 0.049520\t최선의 손실: 0.049520\t정확도: 98.32%\n", + "4\t검증 세트 손실: 0.041704\t최선의 손실: 0.041704\t정확도: 98.75%\n", + "5\t검증 세트 손실: 0.059588\t최선의 손실: 0.041704\t정확도: 98.48%\n", + "6\t검증 세트 손실: 0.051395\t최선의 손실: 0.041704\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.058567\t최선의 손실: 0.041704\t정확도: 98.59%\n", + "8\t검증 세트 손실: 0.059850\t최선의 손실: 0.041704\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.040736\t최선의 손실: 0.040736\t정확도: 98.98%\n", + "10\t검증 세트 손실: 0.045576\t최선의 손실: 0.040736\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.065528\t최선의 손실: 0.040736\t정확도: 98.71%\n", + "12\t검증 세트 손실: 0.056483\t최선의 손실: 0.040736\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.055427\t최선의 손실: 0.040736\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.054682\t최선의 손실: 0.040736\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.048353\t최선의 손실: 0.040736\t정확도: 98.94%\n", + "16\t검증 세트 손실: 0.047636\t최선의 손실: 0.040736\t정확도: 99.06%\n", + "17\t검증 세트 손실: 0.055676\t최선의 손실: 0.040736\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.046714\t최선의 손실: 0.040736\t정확도: 98.94%\n", + "19\t검증 세트 손실: 0.065768\t최선의 손실: 0.040736\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.063152\t최선의 손실: 0.040736\t정확도: 98.75%\n", + "21\t검증 세트 손실: 0.052254\t최선의 손실: 0.040736\t정확도: 98.67%\n", + "22\t검증 세트 손실: 0.072628\t최선의 손실: 0.040736\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.050572\t최선의 손실: 0.040736\t정확도: 98.94%\n", + "24\t검증 세트 손실: 0.050261\t최선의 손실: 0.040736\t정확도: 98.94%\n", + "25\t검증 세트 손실: 0.039572\t최선의 손실: 0.039572\t정확도: 99.06%\n", + "26\t검증 세트 손실: 0.044907\t최선의 손실: 0.039572\t정확도: 98.79%\n", + "27\t검증 세트 손실: 0.058362\t최선의 손실: 0.039572\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.045945\t최선의 손실: 0.039572\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.043818\t최선의 손실: 0.039572\t정확도: 98.98%\n", + "30\t검증 세트 손실: 0.067584\t최선의 손실: 0.039572\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.057093\t최선의 손실: 0.039572\t정확도: 98.67%\n", + "32\t검증 세트 손실: 0.074691\t최선의 손실: 0.039572\t정확도: 98.63%\n", + "33\t검증 세트 손실: 0.041805\t최선의 손실: 0.039572\t정확도: 99.10%\n", + "34\t검증 세트 손실: 0.053498\t최선의 손실: 0.039572\t정확도: 98.94%\n", + "35\t검증 세트 손실: 0.056670\t최선의 손실: 0.039572\t정확도: 98.94%\n", + "36\t검증 세트 손실: 0.054569\t최선의 손실: 0.039572\t정확도: 98.67%\n", + "37\t검증 세트 손실: 0.042519\t최선의 손실: 0.039572\t정확도: 99.14%\n", + "38\t검증 세트 손실: 0.066261\t최선의 손실: 0.039572\t정확도: 98.79%\n", + "39\t검증 세트 손실: 0.060212\t최선의 손실: 0.039572\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.041327\t최선의 손실: 0.039572\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.045710\t최선의 손실: 0.039572\t정확도: 99.22%\n", + "42\t검증 세트 손실: 0.044806\t최선의 손실: 0.039572\t정확도: 99.22%\n", + "43\t검증 세트 손실: 0.064116\t최선의 손실: 0.039572\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.053120\t최선의 손실: 0.039572\t정확도: 98.91%\n", + "45\t검증 세트 손실: 0.052706\t최선의 손실: 0.039572\t정확도: 99.10%\n", + "46\t검증 세트 손실: 0.055393\t최선의 손실: 0.039572\t정확도: 99.06%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 36.0s\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.176036\t최선의 손실: 0.176036\t정확도: 95.47%\n", + "1\t검증 세트 손실: 0.052728\t최선의 손실: 0.052728\t정확도: 98.48%\n", + "2\t검증 세트 손실: 0.063408\t최선의 손실: 0.052728\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.056331\t최선의 손실: 0.052728\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.052908\t최선의 손실: 0.052728\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.041575\t최선의 손실: 0.041575\t정확도: 98.67%\n", + "6\t검증 세트 손실: 0.063892\t최선의 손실: 0.041575\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.032753\t최선의 손실: 0.032753\t정확도: 98.79%\n", + "8\t검증 세트 손실: 0.035643\t최선의 손실: 0.032753\t정확도: 99.02%\n", + "9\t검증 세트 손실: 0.044581\t최선의 손실: 0.032753\t정확도: 98.63%\n", + "10\t검증 세트 손실: 0.051856\t최선의 손실: 0.032753\t정확도: 98.91%\n", + "11\t검증 세트 손실: 0.047161\t최선의 손실: 0.032753\t정확도: 98.63%\n", + "12\t검증 세트 손실: 0.040263\t최선의 손실: 0.032753\t정확도: 98.87%\n", + "13\t검증 세트 손실: 0.044546\t최선의 손실: 0.032753\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.042302\t최선의 손실: 0.032753\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.037611\t최선의 손실: 0.032753\t정확도: 99.10%\n", + "16\t검증 세트 손실: 0.034263\t최선의 손실: 0.032753\t정확도: 98.98%\n", + "17\t검증 세트 손실: 0.068334\t최선의 손실: 0.032753\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.049779\t최선의 손실: 0.032753\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.036903\t최선의 손실: 0.032753\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.069400\t최선의 손실: 0.032753\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.046621\t최선의 손실: 0.032753\t정확도: 99.10%\n", + "22\t검증 세트 손실: 0.054589\t최선의 손실: 0.032753\t정확도: 98.87%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "23\t검증 세트 손실: 0.042013\t최선의 손실: 0.032753\t정확도: 98.91%\n", + "24\t검증 세트 손실: 0.039229\t최선의 손실: 0.032753\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.050334\t최선의 손실: 0.032753\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.052711\t최선의 손실: 0.032753\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.035000\t최선의 손실: 0.032753\t정확도: 99.18%\n", + "28\t검증 세트 손실: 0.050020\t최선의 손실: 0.032753\t정확도: 98.83%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 23.0s\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8> \n", + "0\t검증 세트 손실: 0.087105\t최선의 손실: 0.087105\t정확도: 97.73%\n", + "1\t검증 세트 손실: 0.064654\t최선의 손실: 0.064654\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.044752\t최선의 손실: 0.044752\t정확도: 98.48%\n", + "3\t검증 세트 손실: 0.046151\t최선의 손실: 0.044752\t정확도: 98.79%\n", + "4\t검증 세트 손실: 0.041248\t최선의 손실: 0.041248\t정확도: 98.91%\n", + "5\t검증 세트 손실: 0.039968\t최선의 손실: 0.039968\t정확도: 98.79%\n", + "6\t검증 세트 손실: 0.044947\t최선의 손실: 0.039968\t정확도: 98.94%\n", + "7\t검증 세트 손실: 0.072186\t최선의 손실: 0.039968\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.040433\t최선의 손실: 0.039968\t정확도: 98.83%\n", + "9\t검증 세트 손실: 0.031966\t최선의 손실: 0.031966\t정확도: 98.91%\n", + "10\t검증 세트 손실: 0.043555\t최선의 손실: 0.031966\t정확도: 98.75%\n", + "11\t검증 세트 손실: 0.046994\t최선의 손실: 0.031966\t정확도: 98.75%\n", + "12\t검증 세트 손실: 0.051162\t최선의 손실: 0.031966\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.052457\t최선의 손실: 0.031966\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.036697\t최선의 손실: 0.031966\t정확도: 98.75%\n", + "15\t검증 세트 손실: 0.055616\t최선의 손실: 0.031966\t정확도: 98.91%\n", + "16\t검증 세트 손실: 0.060615\t최선의 손실: 0.031966\t정확도: 98.48%\n", + "17\t검증 세트 손실: 0.026307\t최선의 손실: 0.026307\t정확도: 99.18%\n", + "18\t검증 세트 손실: 0.043579\t최선의 손실: 0.026307\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.052853\t최선의 손실: 0.026307\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.049632\t최선의 손실: 0.026307\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.036124\t최선의 손실: 0.026307\t정확도: 99.14%\n", + "22\t검증 세트 손실: 0.037274\t최선의 손실: 0.026307\t정확도: 99.14%\n", + "23\t검증 세트 손실: 0.047875\t최선의 손실: 0.026307\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.038196\t최선의 손실: 0.026307\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.038216\t최선의 손실: 0.026307\t정확도: 99.10%\n", + "26\t검증 세트 손실: 0.051547\t최선의 손실: 0.026307\t정확도: 98.83%\n", + "27\t검증 세트 손실: 0.036522\t최선의 손실: 0.026307\t정확도: 99.26%\n", + "28\t검증 세트 손실: 0.061296\t최선의 손실: 0.026307\t정확도: 98.79%\n", + "29\t검증 세트 손실: 0.045646\t최선의 손실: 0.026307\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.052631\t최선의 손실: 0.026307\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.036406\t최선의 손실: 0.026307\t정확도: 99.30%\n", + "32\t검증 세트 손실: 0.032781\t최선의 손실: 0.026307\t정확도: 99.22%\n", + "33\t검증 세트 손실: 0.028055\t최선의 손실: 0.026307\t정확도: 99.26%\n", + "34\t검증 세트 손실: 0.047364\t최선의 손실: 0.026307\t정확도: 98.91%\n", + "35\t검증 세트 손실: 0.064749\t최선의 손실: 0.026307\t정확도: 98.67%\n", + "36\t검증 세트 손실: 0.040132\t최선의 손실: 0.026307\t정확도: 99.10%\n", + "37\t검증 세트 손실: 0.039466\t최선의 손실: 0.026307\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.047924\t최선의 손실: 0.026307\t정확도: 99.02%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.01, batch_size=100, batch_norm_momentum=0.98, activation=.parametrized_leaky_relu at 0x7fc0c9ff48c8>, total= 30.0s\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.256142\t최선의 손실: 0.256142\t정확도: 91.16%\n", + "1\t검증 세트 손실: 0.073306\t최선의 손실: 0.073306\t정확도: 98.05%\n", + "2\t검증 세트 손실: 0.054403\t최선의 손실: 0.054403\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.054742\t최선의 손실: 0.054403\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.048826\t최선의 손실: 0.048826\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.055829\t최선의 손실: 0.048826\t정확도: 98.20%\n", + "6\t검증 세트 손실: 0.038039\t최선의 손실: 0.038039\t정확도: 98.83%\n", + "7\t검증 세트 손실: 0.040937\t최선의 손실: 0.038039\t정확도: 98.98%\n", + "8\t검증 세트 손실: 0.039330\t최선의 손실: 0.038039\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.038425\t최선의 손실: 0.038039\t정확도: 98.94%\n", + "10\t검증 세트 손실: 0.036845\t최선의 손실: 0.036845\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.036763\t최선의 손실: 0.036763\t정확도: 98.83%\n", + "12\t검증 세트 손실: 0.042759\t최선의 손실: 0.036763\t정확도: 98.75%\n", + "13\t검증 세트 손실: 0.050931\t최선의 손실: 0.036763\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.042291\t최선의 손실: 0.036763\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.037922\t최선의 손실: 0.036763\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.037575\t최선의 손실: 0.036763\t정확도: 98.87%\n", + "17\t검증 세트 손실: 0.037013\t최선의 손실: 0.036763\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.031069\t최선의 손실: 0.031069\t정확도: 99.26%\n", + "19\t검증 세트 손실: 0.041379\t최선의 손실: 0.031069\t정확도: 98.79%\n", + "20\t검증 세트 손실: 0.038897\t최선의 손실: 0.031069\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.036870\t최선의 손실: 0.031069\t정확도: 99.14%\n", + "22\t검증 세트 손실: 0.032235\t최선의 손실: 0.031069\t정확도: 99.14%\n", + "23\t검증 세트 손실: 0.031705\t최선의 손실: 0.031069\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.035964\t최선의 손실: 0.031069\t정확도: 99.02%\n", + "25\t검증 세트 손실: 0.040067\t최선의 손실: 0.031069\t정확도: 98.83%\n", + "26\t검증 세트 손실: 0.035861\t최선의 손실: 0.031069\t정확도: 99.10%\n", + "27\t검증 세트 손실: 0.042880\t최선의 손실: 0.031069\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.038415\t최선의 손실: 0.031069\t정확도: 99.18%\n", + "29\t검증 세트 손실: 0.035632\t최선의 손실: 0.031069\t정확도: 99.02%\n", + "30\t검증 세트 손실: 0.042411\t최선의 손실: 0.031069\t정확도: 98.91%\n", + "31\t검증 세트 손실: 0.047039\t최선의 손실: 0.031069\t정확도: 98.94%\n", + "32\t검증 세트 손실: 0.034265\t최선의 손실: 0.031069\t정확도: 99.26%\n", + "33\t검증 세트 손실: 0.030031\t최선의 손실: 0.030031\t정확도: 99.06%\n", + "34\t검증 세트 손실: 0.030566\t최선의 손실: 0.030031\t정확도: 99.22%\n", + "35\t검증 세트 손실: 0.036364\t최선의 손실: 0.030031\t정확도: 99.02%\n", + "36\t검증 세트 손실: 0.037252\t최선의 손실: 0.030031\t정확도: 98.79%\n", + "37\t검증 세트 손실: 0.040755\t최선의 손실: 0.030031\t정확도: 98.98%\n", + "38\t검증 세트 손실: 0.032589\t최선의 손실: 0.030031\t정확도: 98.94%\n", + "39\t검증 세트 손실: 0.047152\t최선의 손실: 0.030031\t정확도: 98.79%\n", + "40\t검증 세트 손실: 0.040918\t최선의 손실: 0.030031\t정확도: 98.98%\n", + "41\t검증 세트 손실: 0.042386\t최선의 손실: 0.030031\t정확도: 99.02%\n", + "42\t검증 세트 손실: 0.048366\t최선의 손실: 0.030031\t정확도: 98.87%\n", + "43\t검증 세트 손실: 0.040707\t최선의 손실: 0.030031\t정확도: 99.06%\n", + "44\t검증 세트 손실: 0.042022\t최선의 손실: 0.030031\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.060441\t최선의 손실: 0.030031\t정확도: 98.71%\n", + "46\t검증 세트 손실: 0.045614\t최선의 손실: 0.030031\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.054881\t최선의 손실: 0.030031\t정확도: 98.59%\n", + "48\t검증 세트 손실: 0.030452\t최선의 손실: 0.030031\t정확도: 99.22%\n", + "49\t검증 세트 손실: 0.041706\t최선의 손실: 0.030031\t정확도: 99.02%\n", + "50\t검증 세트 손실: 0.043132\t최선의 손실: 0.030031\t정확도: 98.94%\n", + "51\t검증 세트 손실: 0.053562\t최선의 손실: 0.030031\t정확도: 98.94%\n", + "52\t검증 세트 손실: 0.038258\t최선의 손실: 0.030031\t정확도: 99.02%\n", + "53\t검증 세트 손실: 0.057164\t최선의 손실: 0.030031\t정확도: 98.48%\n", + "54\t검증 세트 손실: 0.040936\t최선의 손실: 0.030031\t정확도: 98.98%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 5.8min\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.151410\t최선의 손실: 0.151410\t정확도: 95.15%\n", + "1\t검증 세트 손실: 0.068888\t최선의 손실: 0.068888\t정확도: 97.77%\n", + "2\t검증 세트 손실: 0.057680\t최선의 손실: 0.057680\t정확도: 98.36%\n", + "3\t검증 세트 손실: 0.052979\t최선의 손실: 0.052979\t정확도: 98.44%\n", + "4\t검증 세트 손실: 0.061998\t최선의 손실: 0.052979\t정확도: 98.12%\n", + "5\t검증 세트 손실: 0.050699\t최선의 손실: 0.050699\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.045822\t최선의 손실: 0.045822\t정확도: 98.63%\n", + "7\t검증 세트 손실: 0.042248\t최선의 손실: 0.042248\t정확도: 98.55%\n", + "8\t검증 세트 손실: 0.030905\t최선의 손실: 0.030905\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.044016\t최선의 손실: 0.030905\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.038125\t최선의 손실: 0.030905\t정확도: 98.71%\n", + "11\t검증 세트 손실: 0.031606\t최선의 손실: 0.030905\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.032587\t최선의 손실: 0.030905\t정확도: 98.98%\n", + "13\t검증 세트 손실: 0.042350\t최선의 손실: 0.030905\t정확도: 98.91%\n", + "14\t검증 세트 손실: 0.033642\t최선의 손실: 0.030905\t정확도: 98.87%\n", + "15\t검증 세트 손실: 0.032011\t최선의 손실: 0.030905\t정확도: 99.06%\n", + "16\t검증 세트 손실: 0.053259\t최선의 손실: 0.030905\t정확도: 98.67%\n", + "17\t검증 세트 손실: 0.038264\t최선의 손실: 0.030905\t정확도: 98.71%\n", + "18\t검증 세트 손실: 0.036324\t최선의 손실: 0.030905\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.034890\t최선의 손실: 0.030905\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.038420\t최선의 손실: 0.030905\t정확도: 99.06%\n", + "21\t검증 세트 손실: 0.029952\t최선의 손실: 0.029952\t정확도: 99.18%\n", + "22\t검증 세트 손실: 0.033457\t최선의 손실: 0.029952\t정확도: 99.14%\n", + "23\t검증 세트 손실: 0.031226\t최선의 손실: 0.029952\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.024583\t최선의 손실: 0.024583\t정확도: 99.37%\n", + "25\t검증 세트 손실: 0.033133\t최선의 손실: 0.024583\t정확도: 99.22%\n", + "26\t검증 세트 손실: 0.026248\t최선의 손실: 0.024583\t정확도: 99.22%\n", + "27\t검증 세트 손실: 0.033782\t최선의 손실: 0.024583\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.029760\t최선의 손실: 0.024583\t정확도: 99.18%\n", + "29\t검증 세트 손실: 0.039645\t최선의 손실: 0.024583\t정확도: 98.87%\n", + "30\t검증 세트 손실: 0.033801\t최선의 손실: 0.024583\t정확도: 98.87%\n", + "31\t검증 세트 손실: 0.034131\t최선의 손실: 0.024583\t정확도: 99.10%\n", + "32\t검증 세트 손실: 0.028843\t최선의 손실: 0.024583\t정확도: 99.02%\n", + "33\t검증 세트 손실: 0.040786\t최선의 손실: 0.024583\t정확도: 98.98%\n", + "34\t검증 세트 손실: 0.028400\t최선의 손실: 0.024583\t정확도: 99.22%\n", + "35\t검증 세트 손실: 0.028834\t최선의 손실: 0.024583\t정확도: 99.18%\n", + "36\t검증 세트 손실: 0.035821\t최선의 손실: 0.024583\t정확도: 98.91%\n", + "37\t검증 세트 손실: 0.035363\t최선의 손실: 0.024583\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.036674\t최선의 손실: 0.024583\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.040491\t최선의 손실: 0.024583\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.028863\t최선의 손실: 0.024583\t정확도: 99.10%\n", + "41\t검증 세트 손실: 0.032907\t최선의 손실: 0.024583\t정확도: 99.30%\n", + "42\t검증 세트 손실: 0.029087\t최선의 손실: 0.024583\t정확도: 99.14%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "43\t검증 세트 손실: 0.038137\t최선의 손실: 0.024583\t정확도: 98.83%\n", + "44\t검증 세트 손실: 0.031340\t최선의 손실: 0.024583\t정확도: 99.26%\n", + "45\t검증 세트 손실: 0.037016\t최선의 손실: 0.024583\t정확도: 99.06%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 4.8min\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation= \n", + "0\t검증 세트 손실: 0.118230\t최선의 손실: 0.118230\t정확도: 97.38%\n", + "1\t검증 세트 손실: 0.055270\t최선의 손실: 0.055270\t정확도: 98.51%\n", + "2\t검증 세트 손실: 0.065024\t최선의 손실: 0.055270\t정확도: 98.01%\n", + "3\t검증 세트 손실: 0.044549\t최선의 손실: 0.044549\t정확도: 98.40%\n", + "4\t검증 세트 손실: 0.050486\t최선의 손실: 0.044549\t정확도: 98.28%\n", + "5\t검증 세트 손실: 0.045832\t최선의 손실: 0.044549\t정확도: 98.40%\n", + "6\t검증 세트 손실: 0.056624\t최선의 손실: 0.044549\t정확도: 98.51%\n", + "7\t검증 세트 손실: 0.032029\t최선의 손실: 0.032029\t정확도: 98.83%\n", + "8\t검증 세트 손실: 0.033081\t최선의 손실: 0.032029\t정확도: 98.83%\n", + "9\t검증 세트 손실: 0.061206\t최선의 손실: 0.032029\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.040488\t최선의 손실: 0.032029\t정확도: 98.79%\n", + "11\t검증 세트 손실: 0.038420\t최선의 손실: 0.032029\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.034694\t최선의 손실: 0.032029\t정확도: 98.79%\n", + "13\t검증 세트 손실: 0.040813\t최선의 손실: 0.032029\t정확도: 98.79%\n", + "14\t검증 세트 손실: 0.044529\t최선의 손실: 0.032029\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.046529\t최선의 손실: 0.032029\t정확도: 98.75%\n", + "16\t검증 세트 손실: 0.029787\t최선의 손실: 0.029787\t정확도: 99.14%\n", + "17\t검증 세트 손실: 0.031381\t최선의 손실: 0.029787\t정확도: 99.02%\n", + "18\t검증 세트 손실: 0.028711\t최선의 손실: 0.028711\t정확도: 99.10%\n", + "19\t검증 세트 손실: 0.037500\t최선의 손실: 0.028711\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.034003\t최선의 손실: 0.028711\t정확도: 98.91%\n", + "21\t검증 세트 손실: 0.026280\t최선의 손실: 0.026280\t정확도: 99.06%\n", + "22\t검증 세트 손실: 0.027217\t최선의 손실: 0.026280\t정확도: 98.94%\n", + "23\t검증 세트 손실: 0.027192\t최선의 손실: 0.026280\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.029090\t최선의 손실: 0.026280\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.030169\t최선의 손실: 0.026280\t정확도: 99.22%\n", + "26\t검증 세트 손실: 0.031601\t최선의 손실: 0.026280\t정확도: 99.06%\n", + "27\t검증 세트 손실: 0.020598\t최선의 손실: 0.020598\t정확도: 99.34%\n", + "28\t검증 세트 손실: 0.042164\t최선의 손실: 0.020598\t정확도: 98.71%\n", + "29\t검증 세트 손실: 0.034839\t최선의 손실: 0.020598\t정확도: 99.10%\n", + "30\t검증 세트 손실: 0.032438\t최선의 손실: 0.020598\t정확도: 99.14%\n", + "31\t검증 세트 손실: 0.031950\t최선의 손실: 0.020598\t정확도: 99.18%\n", + "32\t검증 세트 손실: 0.026377\t최선의 손실: 0.020598\t정확도: 99.26%\n", + "33\t검증 세트 손실: 0.029283\t최선의 손실: 0.020598\t정확도: 99.10%\n", + "34\t검증 세트 손실: 0.028029\t최선의 손실: 0.020598\t정확도: 99.22%\n", + "35\t검증 세트 손실: 0.036953\t최선의 손실: 0.020598\t정확도: 99.10%\n", + "36\t검증 세트 손실: 0.033171\t최선의 손실: 0.020598\t정확도: 99.22%\n", + "37\t검증 세트 손실: 0.040517\t최선의 손실: 0.020598\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.032487\t최선의 손실: 0.020598\t정확도: 99.26%\n", + "39\t검증 세트 손실: 0.032080\t최선의 손실: 0.020598\t정확도: 99.34%\n", + "40\t검증 세트 손실: 0.037757\t최선의 손실: 0.020598\t정확도: 98.79%\n", + "41\t검증 세트 손실: 0.030400\t최선의 손실: 0.020598\t정확도: 99.18%\n", + "42\t검증 세트 손실: 0.034706\t최선의 손실: 0.020598\t정확도: 99.18%\n", + "43\t검증 세트 손실: 0.032879\t최선의 손실: 0.020598\t정확도: 99.14%\n", + "44\t검증 세트 손실: 0.029353\t최선의 손실: 0.020598\t정확도: 99.18%\n", + "45\t검증 세트 손실: 0.027457\t최선의 손실: 0.020598\t정확도: 99.30%\n", + "46\t검증 세트 손실: 0.031701\t최선의 손실: 0.020598\t정확도: 99.30%\n", + "47\t검증 세트 손실: 0.024624\t최선의 손실: 0.020598\t정확도: 99.41%\n", + "48\t검증 세트 손실: 0.042741\t최선의 손실: 0.020598\t정확도: 98.87%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, batch_size=10, batch_norm_momentum=0.98, activation=, total= 5.1min\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.131845\t최선의 손실: 0.131845\t정확도: 97.22%\n", + "1\t검증 세트 손실: 0.154436\t최선의 손실: 0.131845\t정확도: 97.07%\n", + "2\t검증 세트 손실: 0.322813\t최선의 손실: 0.131845\t정확도: 95.93%\n", + "3\t검증 세트 손실: 0.125876\t최선의 손실: 0.125876\t정확도: 97.19%\n", + "4\t검증 세트 손실: 0.100905\t최선의 손실: 0.100905\t정확도: 98.05%\n", + "5\t검증 세트 손실: 0.115453\t최선의 손실: 0.100905\t정확도: 97.77%\n", + "6\t검증 세트 손실: 0.051223\t최선의 손실: 0.051223\t정확도: 98.67%\n", + "7\t검증 세트 손실: 0.117899\t최선의 손실: 0.051223\t정확도: 97.73%\n", + "8\t검증 세트 손실: 0.078050\t최선의 손실: 0.051223\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.068370\t최선의 손실: 0.051223\t정확도: 98.59%\n", + "10\t검증 세트 손실: 0.205688\t최선의 손실: 0.051223\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.094235\t최선의 손실: 0.051223\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.098083\t최선의 손실: 0.051223\t정확도: 98.71%\n", + "13\t검증 세트 손실: 0.059779\t최선의 손실: 0.051223\t정확도: 98.44%\n", + "14\t검증 세트 손실: 0.077130\t최선의 손실: 0.051223\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.095862\t최선의 손실: 0.051223\t정확도: 98.05%\n", + "16\t검증 세트 손실: 0.081244\t최선의 손실: 0.051223\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.122536\t최선의 손실: 0.051223\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.102365\t최선의 손실: 0.051223\t정확도: 98.71%\n", + "19\t검증 세트 손실: 0.095438\t최선의 손실: 0.051223\t정확도: 98.44%\n", + "20\t검증 세트 손실: 0.102808\t최선의 손실: 0.051223\t정확도: 98.55%\n", + "21\t검증 세트 손실: 0.098788\t최선의 손실: 0.051223\t정확도: 98.55%\n", + "22\t검증 세트 손실: 0.106635\t최선의 손실: 0.051223\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.060731\t최선의 손실: 0.051223\t정확도: 98.87%\n", + "24\t검증 세트 손실: 0.075112\t최선의 손실: 0.051223\t정확도: 98.32%\n", + "25\t검증 세트 손실: 0.078665\t최선의 손실: 0.051223\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.088867\t최선의 손실: 0.051223\t정확도: 98.40%\n", + "27\t검증 세트 손실: 0.168634\t최선의 손실: 0.051223\t정확도: 97.93%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 22.1s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.816695\t최선의 손실: 0.816695\t정확도: 92.18%\n", + "1\t검증 세트 손실: 0.165305\t최선의 손실: 0.165305\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.101258\t최선의 손실: 0.101258\t정확도: 97.81%\n", + "3\t검증 세트 손실: 0.093692\t최선의 손실: 0.093692\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.130902\t최선의 손실: 0.093692\t정확도: 97.30%\n", + "5\t검증 세트 손실: 0.059325\t최선의 손실: 0.059325\t정확도: 98.44%\n", + "6\t검증 세트 손실: 0.078930\t최선의 손실: 0.059325\t정확도: 97.85%\n", + "7\t검증 세트 손실: 0.082538\t최선의 손실: 0.059325\t정확도: 98.16%\n", + "8\t검증 세트 손실: 0.072480\t최선의 손실: 0.059325\t정확도: 98.40%\n", + "9\t검증 세트 손실: 0.085475\t최선의 손실: 0.059325\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.076309\t최선의 손실: 0.059325\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.086960\t최선의 손실: 0.059325\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.090099\t최선의 손실: 0.059325\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.103502\t최선의 손실: 0.059325\t정확도: 97.58%\n", + "14\t검증 세트 손실: 0.075508\t최선의 손실: 0.059325\t정확도: 98.40%\n", + "15\t검증 세트 손실: 0.121580\t최선의 손실: 0.059325\t정확도: 98.12%\n", + "16\t검증 세트 손실: 0.043576\t최선의 손실: 0.043576\t정확도: 98.83%\n", + "17\t검증 세트 손실: 0.089558\t최선의 손실: 0.043576\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.053518\t최선의 손실: 0.043576\t정확도: 98.91%\n", + "19\t검증 세트 손실: 0.063036\t최선의 손실: 0.043576\t정확도: 98.71%\n", + "20\t검증 세트 손실: 0.131085\t최선의 손실: 0.043576\t정확도: 98.24%\n", + "21\t검증 세트 손실: 1.120932\t최선의 손실: 0.043576\t정확도: 97.42%\n", + "22\t검증 세트 손실: 0.129387\t최선의 손실: 0.043576\t정확도: 98.20%\n", + "23\t검증 세트 손실: 0.053065\t최선의 손실: 0.043576\t정확도: 98.98%\n", + "24\t검증 세트 손실: 0.068305\t최선의 손실: 0.043576\t정확도: 98.79%\n", + "25\t검증 세트 손실: 0.063386\t최선의 손실: 0.043576\t정확도: 99.02%\n", + "26\t검증 세트 손실: 0.070603\t최선의 손실: 0.043576\t정확도: 98.75%\n", + "27\t검증 세트 손실: 0.066601\t최선의 손실: 0.043576\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.050863\t최선의 손실: 0.043576\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.084780\t최선의 손실: 0.043576\t정확도: 98.67%\n", + "30\t검증 세트 손실: 0.067786\t최선의 손실: 0.043576\t정확도: 98.55%\n", + "31\t검증 세트 손실: 0.156443\t최선의 손실: 0.043576\t정확도: 97.85%\n", + "32\t검증 세트 손실: 0.076964\t최선의 손실: 0.043576\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.122348\t최선의 손실: 0.043576\t정확도: 98.51%\n", + "34\t검증 세트 손실: 0.085730\t최선의 손실: 0.043576\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.062504\t최선의 손실: 0.043576\t정확도: 99.22%\n", + "36\t검증 세트 손실: 0.088558\t최선의 손실: 0.043576\t정확도: 98.36%\n", + "37\t검증 세트 손실: 0.107650\t최선의 손실: 0.043576\t정확도: 98.55%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 29.8s\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488> \n", + "0\t검증 세트 손실: 0.285653\t최선의 손실: 0.285653\t정확도: 96.29%\n", + "1\t검증 세트 손실: 0.113710\t최선의 손실: 0.113710\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.109661\t최선의 손실: 0.109661\t정확도: 97.93%\n", + "3\t검증 세트 손실: 0.093194\t최선의 손실: 0.093194\t정확도: 98.36%\n", + "4\t검증 세트 손실: 0.087551\t최선의 손실: 0.087551\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.132782\t최선의 손실: 0.087551\t정확도: 97.73%\n", + "6\t검증 세트 손실: 0.109190\t최선의 손실: 0.087551\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.120380\t최선의 손실: 0.087551\t정확도: 97.65%\n", + "8\t검증 세트 손실: 0.053235\t최선의 손실: 0.053235\t정확도: 98.59%\n", + "9\t검증 세트 손실: 0.059049\t최선의 손실: 0.053235\t정확도: 98.67%\n", + "10\t검증 세트 손실: 0.066699\t최선의 손실: 0.053235\t정확도: 98.87%\n", + "11\t검증 세트 손실: 0.062995\t최선의 손실: 0.053235\t정확도: 98.67%\n", + "12\t검증 세트 손실: 0.064912\t최선의 손실: 0.053235\t정확도: 98.83%\n", + "13\t검증 세트 손실: 0.089145\t최선의 손실: 0.053235\t정확도: 98.28%\n", + "14\t검증 세트 손실: 0.093082\t최선의 손실: 0.053235\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.071191\t최선의 손실: 0.053235\t정확도: 98.32%\n", + "16\t검증 세트 손실: 0.072246\t최선의 손실: 0.053235\t정확도: 98.71%\n", + "17\t검증 세트 손실: 0.108708\t최선의 손실: 0.053235\t정확도: 98.28%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "18\t검증 세트 손실: 0.076637\t최선의 손실: 0.053235\t정확도: 98.79%\n", + "19\t검증 세트 손실: 1.477542\t최선의 손실: 0.053235\t정확도: 77.52%\n", + "20\t검증 세트 손실: 0.109070\t최선의 손실: 0.053235\t정확도: 98.24%\n", + "21\t검증 세트 손실: 0.067411\t최선의 손실: 0.053235\t정확도: 98.59%\n", + "22\t검증 세트 손실: 0.059827\t최선의 손실: 0.053235\t정확도: 98.91%\n", + "23\t검증 세트 손실: 0.044714\t최선의 손실: 0.044714\t정확도: 99.10%\n", + "24\t검증 세트 손실: 0.090258\t최선의 손실: 0.044714\t정확도: 98.59%\n", + "25\t검증 세트 손실: 0.090580\t최선의 손실: 0.044714\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.060757\t최선의 손실: 0.044714\t정확도: 98.71%\n", + "27\t검증 세트 손실: 0.046372\t최선의 손실: 0.044714\t정확도: 99.02%\n", + "28\t검증 세트 손실: 0.049863\t최선의 손실: 0.044714\t정확도: 98.94%\n", + "29\t검증 세트 손실: 0.100580\t최선의 손실: 0.044714\t정확도: 98.44%\n", + "30\t검증 세트 손실: 0.099540\t최선의 손실: 0.044714\t정확도: 98.36%\n", + "31\t검증 세트 손실: 0.052907\t최선의 손실: 0.044714\t정확도: 99.14%\n", + "32\t검증 세트 손실: 0.086879\t최선의 손실: 0.044714\t정확도: 98.44%\n", + "33\t검증 세트 손실: 0.073461\t최선의 손실: 0.044714\t정확도: 98.87%\n", + "34\t검증 세트 손실: 0.162880\t최선의 손실: 0.044714\t정확도: 97.42%\n", + "35\t검증 세트 손실: 0.400012\t최선의 손실: 0.044714\t정확도: 98.20%\n", + "36\t검증 세트 손실: 0.118699\t최선의 손실: 0.044714\t정확도: 98.55%\n", + "37\t검증 세트 손실: 0.048461\t최선의 손실: 0.044714\t정확도: 99.06%\n", + "38\t검증 세트 손실: 0.075532\t최선의 손실: 0.044714\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.066708\t최선의 손실: 0.044714\t정확도: 98.94%\n", + "40\t검증 세트 손실: 0.087686\t최선의 손실: 0.044714\t정확도: 98.55%\n", + "41\t검증 세트 손실: 0.043055\t최선의 손실: 0.043055\t정확도: 98.94%\n", + "42\t검증 세트 손실: 0.080718\t최선의 손실: 0.043055\t정확도: 98.83%\n", + "43\t검증 세트 손실: 0.067731\t최선의 손실: 0.043055\t정확도: 98.87%\n", + "44\t검증 세트 손실: 0.095779\t최선의 손실: 0.043055\t정확도: 98.44%\n", + "45\t검증 세트 손실: 0.080191\t최선의 손실: 0.043055\t정확도: 98.83%\n", + "46\t검증 세트 손실: 0.058812\t최선의 손실: 0.043055\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.055146\t최선의 손실: 0.043055\t정확도: 99.14%\n", + "48\t검증 세트 손실: 0.061493\t최선의 손실: 0.043055\t정확도: 98.91%\n", + "49\t검증 세트 손실: 0.065995\t최선의 손실: 0.043055\t정확도: 98.87%\n", + "50\t검증 세트 손실: 0.159886\t최선의 손실: 0.043055\t정확도: 98.67%\n", + "51\t검증 세트 손실: 0.075505\t최선의 손실: 0.043055\t정확도: 98.87%\n", + "52\t검증 세트 손실: 0.091321\t최선의 손실: 0.043055\t정확도: 98.98%\n", + "53\t검증 세트 손실: 0.110239\t최선의 손실: 0.043055\t정확도: 98.55%\n", + "54\t검증 세트 손실: 0.072980\t최선의 손실: 0.043055\t정확도: 98.98%\n", + "55\t검증 세트 손실: 0.053288\t최선의 손실: 0.043055\t정확도: 99.18%\n", + "56\t검증 세트 손실: 0.292542\t최선의 손실: 0.043055\t정확도: 96.76%\n", + "57\t검증 세트 손실: 0.310805\t최선의 손실: 0.043055\t정확도: 97.77%\n", + "58\t검증 세트 손실: 0.131927\t최선의 손실: 0.043055\t정확도: 98.40%\n", + "59\t검증 세트 손실: 0.102098\t최선의 손실: 0.043055\t정확도: 98.59%\n", + "60\t검증 세트 손실: 0.057128\t최선의 손실: 0.043055\t정확도: 98.98%\n", + "61\t검증 세트 손실: 0.084011\t최선의 손실: 0.043055\t정확도: 98.94%\n", + "62\t검증 세트 손실: 0.052252\t최선의 손실: 0.043055\t정확도: 99.10%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, batch_size=100, batch_norm_momentum=0.99, activation=.parametrized_leaky_relu at 0x7fc0c9ff4488>, total= 47.6s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.119418\t최선의 손실: 0.119418\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.072045\t최선의 손실: 0.072045\t정확도: 98.32%\n", + "2\t검증 세트 손실: 0.106778\t최선의 손실: 0.072045\t정확도: 97.22%\n", + "3\t검증 세트 손실: 0.083829\t최선의 손실: 0.072045\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.082036\t최선의 손실: 0.072045\t정확도: 97.62%\n", + "5\t검증 세트 손실: 0.060891\t최선의 손실: 0.060891\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.082500\t최선의 손실: 0.060891\t정확도: 98.55%\n", + "7\t검증 세트 손실: 0.082038\t최선의 손실: 0.060891\t정확도: 98.51%\n", + "8\t검증 세트 손실: 0.071838\t최선의 손실: 0.060891\t정확도: 98.32%\n", + "9\t검증 세트 손실: 0.053833\t최선의 손실: 0.053833\t정확도: 98.79%\n", + "10\t검증 세트 손실: 0.058392\t최선의 손실: 0.053833\t정확도: 98.59%\n", + "11\t검증 세트 손실: 0.105262\t최선의 손실: 0.053833\t정확도: 98.16%\n", + "12\t검증 세트 손실: 0.061452\t최선의 손실: 0.053833\t정확도: 98.55%\n", + "13\t검증 세트 손실: 0.044740\t최선의 손실: 0.044740\t정확도: 99.10%\n", + "14\t검증 세트 손실: 0.073569\t최선의 손실: 0.044740\t정확도: 98.44%\n", + "15\t검증 세트 손실: 3.566308\t최선의 손실: 0.044740\t정확도: 81.43%\n", + "16\t검증 세트 손실: 0.051642\t최선의 손실: 0.044740\t정확도: 98.55%\n", + "17\t검증 세트 손실: 0.043496\t최선의 손실: 0.043496\t정확도: 98.94%\n", + "18\t검증 세트 손실: 0.043625\t최선의 손실: 0.043496\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.053358\t최선의 손실: 0.043496\t정확도: 98.75%\n", + "20\t검증 세트 손실: 0.064686\t최선의 손실: 0.043496\t정확도: 98.71%\n", + "21\t검증 세트 손실: 0.047357\t최선의 손실: 0.043496\t정확도: 98.87%\n", + "22\t검증 세트 손실: 0.080124\t최선의 손실: 0.043496\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.125869\t최선의 손실: 0.043496\t정확도: 98.48%\n", + "24\t검증 세트 손실: 0.148310\t최선의 손실: 0.043496\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.055689\t최선의 손실: 0.043496\t정확도: 99.02%\n", + "26\t검증 세트 손실: 0.039039\t최선의 손실: 0.039039\t정확도: 98.98%\n", + "27\t검증 세트 손실: 0.053190\t최선의 손실: 0.039039\t정확도: 98.94%\n", + "28\t검증 세트 손실: 0.041507\t최선의 손실: 0.039039\t정확도: 99.02%\n", + "29\t검증 세트 손실: 0.234104\t최선의 손실: 0.039039\t정확도: 97.85%\n", + "30\t검증 세트 손실: 0.157030\t최선의 손실: 0.039039\t정확도: 98.40%\n", + "31\t검증 세트 손실: 0.078644\t최선의 손실: 0.039039\t정확도: 98.98%\n", + "32\t검증 세트 손실: 0.057457\t최선의 손실: 0.039039\t정확도: 99.18%\n", + "33\t검증 세트 손실: 0.057934\t최선의 손실: 0.039039\t정확도: 98.79%\n", + "34\t검증 세트 손실: 0.039120\t최선의 손실: 0.039039\t정확도: 99.18%\n", + "35\t검증 세트 손실: 0.063618\t최선의 손실: 0.039039\t정확도: 98.87%\n", + "36\t검증 세트 손실: 0.159784\t최선의 손실: 0.039039\t정확도: 98.28%\n", + "37\t검증 세트 손실: 0.465371\t최선의 손실: 0.039039\t정확도: 98.16%\n", + "38\t검증 세트 손실: 0.100392\t최선의 손실: 0.039039\t정확도: 98.98%\n", + "39\t검증 세트 손실: 0.075692\t최선의 손실: 0.039039\t정확도: 99.30%\n", + "40\t검증 세트 손실: 0.101603\t최선의 손실: 0.039039\t정확도: 98.63%\n", + "41\t검증 세트 손실: 0.082792\t최선의 손실: 0.039039\t정확도: 99.18%\n", + "42\t검증 세트 손실: 0.101643\t최선의 손실: 0.039039\t정확도: 98.79%\n", + "43\t검증 세트 손실: 0.074677\t최선의 손실: 0.039039\t정확도: 98.94%\n", + "44\t검증 세트 손실: 0.124992\t최선의 손실: 0.039039\t정확도: 98.98%\n", + "45\t검증 세트 손실: 0.216630\t최선의 손실: 0.039039\t정확도: 98.79%\n", + "46\t검증 세트 손실: 0.114853\t최선의 손실: 0.039039\t정확도: 98.98%\n", + "47\t검증 세트 손실: 0.080901\t최선의 손실: 0.039039\t정확도: 98.79%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation=, total= 1.1min\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.127550\t최선의 손실: 0.127550\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.120140\t최선의 손실: 0.120140\t정확도: 96.83%\n", + "2\t검증 세트 손실: 0.128392\t최선의 손실: 0.120140\t정확도: 97.22%\n", + "3\t검증 세트 손실: 0.074949\t최선의 손실: 0.074949\t정확도: 97.97%\n", + "4\t검증 세트 손실: 0.063735\t최선의 손실: 0.063735\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.051819\t최선의 손실: 0.051819\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.048558\t최선의 손실: 0.048558\t정확도: 98.67%\n", + "7\t검증 세트 손실: 0.103604\t최선의 손실: 0.048558\t정확도: 97.38%\n", + "8\t검증 세트 손실: 0.050652\t최선의 손실: 0.048558\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.066430\t최선의 손실: 0.048558\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.153103\t최선의 손실: 0.048558\t정확도: 97.54%\n", + "11\t검증 세트 손실: 0.081787\t최선의 손실: 0.048558\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.073453\t최선의 손실: 0.048558\t정확도: 98.59%\n", + "13\t검증 세트 손실: 0.041991\t최선의 손실: 0.041991\t정확도: 99.22%\n", + "14\t검증 세트 손실: 0.125113\t최선의 손실: 0.041991\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.076251\t최선의 손실: 0.041991\t정확도: 98.51%\n", + "16\t검증 세트 손실: 0.070598\t최선의 손실: 0.041991\t정확도: 98.55%\n", + "17\t검증 세트 손실: 1.547998\t최선의 손실: 0.041991\t정확도: 94.72%\n", + "18\t검증 세트 손실: 0.057111\t최선의 손실: 0.041991\t정확도: 98.79%\n", + "19\t검증 세트 손실: 0.050326\t최선의 손실: 0.041991\t정확도: 98.94%\n", + "20\t검증 세트 손실: 0.060267\t최선의 손실: 0.041991\t정확도: 98.79%\n", + "21\t검증 세트 손실: 0.064922\t최선의 손실: 0.041991\t정확도: 98.98%\n", + "22\t검증 세트 손실: 0.057622\t최선의 손실: 0.041991\t정확도: 98.98%\n", + "23\t검증 세트 손실: 0.072516\t최선의 손실: 0.041991\t정확도: 98.79%\n", + "24\t검증 세트 손실: 0.044765\t최선의 손실: 0.041991\t정확도: 99.18%\n", + "25\t검증 세트 손실: 0.083133\t최선의 손실: 0.041991\t정확도: 98.67%\n", + "26\t검증 세트 손실: 0.089691\t최선의 손실: 0.041991\t정확도: 98.87%\n", + "27\t검증 세트 손실: 0.089021\t최선의 손실: 0.041991\t정확도: 98.91%\n", + "28\t검증 세트 손실: 0.068761\t최선의 손실: 0.041991\t정확도: 98.91%\n", + "29\t검증 세트 손실: 0.075209\t최선의 손실: 0.041991\t정확도: 98.87%\n", + "30\t검증 세트 손실: 0.098789\t최선의 손실: 0.041991\t정확도: 98.71%\n", + "31\t검증 세트 손실: 0.205841\t최선의 손실: 0.041991\t정확도: 97.11%\n", + "32\t검증 세트 손실: 0.115879\t최선의 손실: 0.041991\t정확도: 98.63%\n", + "33\t검증 세트 손실: 0.083998\t최선의 손실: 0.041991\t정확도: 98.94%\n", + "34\t검증 세트 손실: 0.094910\t최선의 손실: 0.041991\t정확도: 98.94%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation=, total= 48.5s\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation= \n", + "0\t검증 세트 손실: 0.122157\t최선의 손실: 0.122157\t정확도: 96.95%\n", + "1\t검증 세트 손실: 0.116779\t최선의 손실: 0.116779\t정확도: 96.48%\n", + "2\t검증 세트 손실: 0.079950\t최선의 손실: 0.079950\t정확도: 97.73%\n", + "3\t검증 세트 손실: 0.091798\t최선의 손실: 0.079950\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.089820\t최선의 손실: 0.079950\t정확도: 97.89%\n", + "5\t검증 세트 손실: 0.089536\t최선의 손실: 0.079950\t정확도: 97.77%\n", + "6\t검증 세트 손실: 0.091524\t최선의 손실: 0.079950\t정확도: 98.01%\n", + "7\t검증 세트 손실: 0.042984\t최선의 손실: 0.042984\t정확도: 98.87%\n", + "8\t검증 세트 손실: 0.044420\t최선의 손실: 0.042984\t정확도: 98.79%\n", + "9\t검증 세트 손실: 0.105360\t최선의 손실: 0.042984\t정확도: 97.85%\n", + "10\t검증 세트 손실: 0.055644\t최선의 손실: 0.042984\t정확도: 98.55%\n", + "11\t검증 세트 손실: 0.053023\t최선의 손실: 0.042984\t정확도: 99.10%\n", + "12\t검증 세트 손실: 0.050917\t최선의 손실: 0.042984\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.042309\t최선의 손실: 0.042309\t정확도: 98.94%\n", + "14\t검증 세트 손실: 0.045033\t최선의 손실: 0.042309\t정확도: 98.98%\n", + "15\t검증 세트 손실: 0.046067\t최선의 손실: 0.042309\t정확도: 98.98%\n", + "16\t검증 세트 손실: 0.084642\t최선의 손실: 0.042309\t정확도: 98.12%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "17\t검증 세트 손실: 0.079570\t최선의 손실: 0.042309\t정확도: 98.87%\n", + "18\t검증 세트 손실: 0.080432\t최선의 손실: 0.042309\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.062092\t최선의 손실: 0.042309\t정확도: 98.87%\n", + "20\t검증 세트 손실: 0.064383\t최선의 손실: 0.042309\t정확도: 98.67%\n", + "21\t검증 세트 손실: 0.078619\t최선의 손실: 0.042309\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.065527\t최선의 손실: 0.042309\t정확도: 99.02%\n", + "23\t검증 세트 손실: 0.058682\t최선의 손실: 0.042309\t정확도: 99.14%\n", + "24\t검증 세트 손실: 0.316811\t최선의 손실: 0.042309\t정확도: 97.73%\n", + "25\t검증 세트 손실: 0.052777\t최선의 손실: 0.042309\t정확도: 98.98%\n", + "26\t검증 세트 손실: 0.066741\t최선의 손실: 0.042309\t정확도: 98.91%\n", + "27\t검증 세트 손실: 0.066172\t최선의 손실: 0.042309\t정확도: 98.83%\n", + "28\t검증 세트 손실: 0.074326\t최선의 손실: 0.042309\t정확도: 98.83%\n", + "29\t검증 세트 손실: 0.056164\t최선의 손실: 0.042309\t정확도: 99.22%\n", + "30\t검증 세트 손실: 0.048458\t최선의 손실: 0.042309\t정확도: 99.18%\n", + "31\t검증 세트 손실: 0.064537\t최선의 손실: 0.042309\t정확도: 99.02%\n", + "32\t검증 세트 손실: 0.398325\t최선의 손실: 0.042309\t정확도: 97.50%\n", + "33\t검증 세트 손실: 0.089940\t최선의 손실: 0.042309\t정확도: 99.10%\n", + "34\t검증 세트 손실: 0.082289\t최선의 손실: 0.042309\t정확도: 98.98%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, batch_size=50, batch_norm_momentum=0.99, activation=, total= 48.6s\n" ] }, { "name": "stderr", "output_type": "stream", "text": [ - "[Parallel(n_jobs=1)]: Done 150 out of 150 | elapsed: 217.5min finished\n" + "[Parallel(n_jobs=1)]: Done 150 out of 150 | elapsed: 233.9min finished\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.075115\t최선의 손실: 0.075115\t정확도: 97.65%\n", - "1\t검증 세트 손실: 0.055800\t최선의 손실: 0.055800\t정확도: 98.28%\n", - "2\t검증 세트 손실: 0.044505\t최선의 손실: 0.044505\t정확도: 98.67%\n", - "3\t검증 세트 손실: 0.047578\t최선의 손실: 0.044505\t정확도: 98.63%\n", - "4\t검증 세트 손실: 0.035123\t최선의 손실: 0.035123\t정확도: 98.98%\n", - "5\t검증 세트 손실: 0.030424\t최선의 손실: 0.030424\t정확도: 99.02%\n", - "6\t검증 세트 손실: 0.032113\t최선의 손실: 0.030424\t정확도: 99.06%\n", - "7\t검증 세트 손실: 0.032850\t최선의 손실: 0.030424\t정확도: 98.94%\n", - "8\t검증 세트 손실: 0.026317\t최선의 손실: 0.026317\t정확도: 99.10%\n", - "9\t검증 세트 손실: 0.026240\t최선의 손실: 0.026240\t정확도: 99.14%\n", - "10\t검증 세트 손실: 0.024848\t최선의 손실: 0.024848\t정확도: 99.26%\n", - "11\t검증 세트 손실: 0.027026\t최선의 손실: 0.024848\t정확도: 99.22%\n", - "12\t검증 세트 손실: 0.033376\t최선의 손실: 0.024848\t정확도: 99.14%\n", - "13\t검증 세트 손실: 0.028493\t최선의 손실: 0.024848\t정확도: 99.10%\n", - "14\t검증 세트 손실: 0.026331\t최선의 손실: 0.024848\t정확도: 99.10%\n", - "15\t검증 세트 손실: 0.028913\t최선의 손실: 0.024848\t정확도: 99.18%\n", - "16\t검증 세트 손실: 0.026107\t최선의 손실: 0.024848\t정확도: 99.30%\n", - "17\t검증 세트 손실: 0.038757\t최선의 손실: 0.024848\t정확도: 98.79%\n", - "18\t검증 세트 손실: 0.031658\t최선의 손실: 0.024848\t정확도: 99.18%\n", - "19\t검증 세트 손실: 0.030226\t최선의 손실: 0.024848\t정확도: 99.30%\n", - "20\t검증 세트 손실: 0.033438\t최선의 손실: 0.024848\t정확도: 99.18%\n", - "21\t검증 세트 손실: 0.027085\t최선의 손실: 0.024848\t정확도: 99.22%\n", - "22\t검증 세트 손실: 0.029832\t최선의 손실: 0.024848\t정확도: 99.22%\n", - "23\t검증 세트 손실: 0.035639\t최선의 손실: 0.024848\t정확도: 99.18%\n", - "24\t검증 세트 손실: 0.047529\t최선의 손실: 0.024848\t정확도: 98.79%\n", - "25\t검증 세트 손실: 0.025108\t최선의 손실: 0.024848\t정확도: 99.22%\n", - "26\t검증 세트 손실: 0.026803\t최선의 손실: 0.024848\t정확도: 99.37%\n", - "27\t검증 세트 손실: 0.032334\t최선의 손실: 0.024848\t정확도: 99.14%\n", - "28\t검증 세트 손실: 0.023959\t최선의 손실: 0.023959\t정확도: 99.37%\n", - "29\t검증 세트 손실: 0.029242\t최선의 손실: 0.023959\t정확도: 99.22%\n", - "30\t검증 세트 손실: 0.027949\t최선의 손실: 0.023959\t정확도: 99.30%\n", - "31\t검증 세트 손실: 0.027325\t최선의 손실: 0.023959\t정확도: 99.26%\n", - "32\t검증 세트 손실: 0.029723\t최선의 손실: 0.023959\t정확도: 99.26%\n", - "33\t검증 세트 손실: 0.027126\t최선의 손실: 0.023959\t정확도: 99.34%\n", - "34\t검증 세트 손실: 0.028486\t최선의 손실: 0.023959\t정확도: 99.10%\n", - "35\t검증 세트 손실: 0.027864\t최선의 손실: 0.023959\t정확도: 99.34%\n", - "36\t검증 세트 손실: 0.037534\t최선의 손실: 0.023959\t정확도: 98.98%\n", - "37\t검증 세트 손실: 0.024888\t최선의 손실: 0.023959\t정확도: 99.22%\n", - "38\t검증 세트 손실: 0.025950\t최선의 손실: 0.023959\t정확도: 99.18%\n", - "39\t검증 세트 손실: 0.029853\t최선의 손실: 0.023959\t정확도: 99.06%\n", - "40\t검증 세트 손실: 0.024515\t최선의 손실: 0.023959\t정확도: 99.30%\n", - "41\t검증 세트 손실: 0.041579\t최선의 손실: 0.023959\t정확도: 99.10%\n", - "42\t검증 세트 손실: 0.025913\t최선의 손실: 0.023959\t정확도: 99.22%\n", - "43\t검증 세트 손실: 0.038939\t최선의 손실: 0.023959\t정확도: 99.06%\n", - "44\t검증 세트 손실: 0.027479\t최선의 손실: 0.023959\t정확도: 99.30%\n", - "45\t검증 세트 손실: 0.035361\t최선의 손실: 0.023959\t정확도: 99.10%\n", - "46\t검증 세트 손실: 0.041640\t최선의 손실: 0.023959\t정확도: 98.98%\n", - "47\t검증 세트 손실: 0.033505\t최선의 손실: 0.023959\t정확도: 99.34%\n", - "48\t검증 세트 손실: 0.037782\t최선의 손실: 0.023959\t정확도: 99.02%\n", - "49\t검증 세트 손실: 0.032728\t최선의 손실: 0.023959\t정확도: 99.34%\n", + "0\t검증 세트 손실: 0.076195\t최선의 손실: 0.076195\t정확도: 97.85%\n", + "1\t검증 세트 손실: 0.072980\t최선의 손실: 0.072980\t정확도: 98.08%\n", + "2\t검증 세트 손실: 0.055026\t최선의 손실: 0.055026\t정확도: 98.44%\n", + "3\t검증 세트 손실: 0.049989\t최선의 손실: 0.049989\t정확도: 98.55%\n", + "4\t검증 세트 손실: 0.034880\t최선의 손실: 0.034880\t정확도: 98.98%\n", + "5\t검증 세트 손실: 0.034757\t최선의 손실: 0.034757\t정확도: 98.87%\n", + "6\t검증 세트 손실: 0.040602\t최선의 손실: 0.034757\t정확도: 98.91%\n", + "7\t검증 세트 손실: 0.055554\t최선의 손실: 0.034757\t정확도: 98.24%\n", + "8\t검증 세트 손실: 0.037345\t최선의 손실: 0.034757\t정확도: 98.91%\n", + "9\t검증 세트 손실: 0.038750\t최선의 손실: 0.034757\t정확도: 98.87%\n", + "10\t검증 세트 손실: 0.034077\t최선의 손실: 0.034077\t정확도: 99.02%\n", + "11\t검증 세트 손실: 0.045887\t최선의 손실: 0.034077\t정확도: 99.02%\n", + "12\t검증 세트 손실: 0.040500\t최선의 손실: 0.034077\t정확도: 98.98%\n", + "13\t검증 세트 손실: 0.036902\t최선의 손실: 0.034077\t정확도: 99.02%\n", + "14\t검증 세트 손실: 0.027696\t최선의 손실: 0.027696\t정확도: 99.10%\n", + "15\t검증 세트 손실: 0.037959\t최선의 손실: 0.027696\t정확도: 98.79%\n", + "16\t검증 세트 손실: 0.031500\t최선의 손실: 0.027696\t정확도: 99.18%\n", + "17\t검증 세트 손실: 0.032267\t최선의 손실: 0.027696\t정확도: 99.06%\n", + "18\t검증 세트 손실: 0.033234\t최선의 손실: 0.027696\t정확도: 99.02%\n", + "19\t검증 세트 손실: 0.033293\t최선의 손실: 0.027696\t정확도: 98.91%\n", + "20\t검증 세트 손실: 0.030983\t최선의 손실: 0.027696\t정확도: 98.94%\n", + "21\t검증 세트 손실: 0.030859\t최선의 손실: 0.027696\t정확도: 99.14%\n", + "22\t검증 세트 손실: 0.025446\t최선의 손실: 0.025446\t정확도: 99.34%\n", + "23\t검증 세트 손실: 0.062108\t최선의 손실: 0.025446\t정확도: 97.93%\n", + "24\t검증 세트 손실: 0.043934\t최선의 손실: 0.025446\t정확도: 98.98%\n", + "25\t검증 세트 손실: 0.039510\t최선의 손실: 0.025446\t정확도: 99.10%\n", + "26\t검증 세트 손실: 0.033181\t최선의 손실: 0.025446\t정확도: 99.22%\n", + "27\t검증 세트 손실: 0.030433\t최선의 손실: 0.025446\t정확도: 99.10%\n", + "28\t검증 세트 손실: 0.032405\t최선의 손실: 0.025446\t정확도: 99.18%\n", + "29\t검증 세트 손실: 0.053990\t최선의 손실: 0.025446\t정확도: 98.71%\n", + "30\t검증 세트 손실: 0.024093\t최선의 손실: 0.024093\t정확도: 99.34%\n", + "31\t검증 세트 손실: 0.025608\t최선의 손실: 0.024093\t정확도: 99.34%\n", + "32\t검증 세트 손실: 0.031868\t최선의 손실: 0.024093\t정확도: 99.18%\n", + "33\t검증 세트 손실: 0.034651\t최선의 손실: 0.024093\t정확도: 99.06%\n", + "34\t검증 세트 손실: 0.028707\t최선의 손실: 0.024093\t정확도: 99.37%\n", + "35\t검증 세트 손실: 0.032536\t최선의 손실: 0.024093\t정확도: 99.10%\n", + "36\t검증 세트 손실: 0.031272\t최선의 손실: 0.024093\t정확도: 99.14%\n", + "37\t검증 세트 손실: 0.035426\t최선의 손실: 0.024093\t정확도: 99.02%\n", + "38\t검증 세트 손실: 0.036308\t최선의 손실: 0.024093\t정확도: 99.02%\n", + "39\t검증 세트 손실: 0.038124\t최선의 손실: 0.024093\t정확도: 99.22%\n", + "40\t검증 세트 손실: 0.059737\t최선의 손실: 0.024093\t정확도: 98.48%\n", + "41\t검증 세트 손실: 0.037747\t최선의 손실: 0.024093\t정확도: 99.26%\n", + "42\t검증 세트 손실: 0.035647\t최선의 손실: 0.024093\t정확도: 99.06%\n", + "43\t검증 세트 손실: 0.048407\t최선의 손실: 0.024093\t정확도: 98.79%\n", + "44\t검증 세트 손실: 0.060821\t최선의 손실: 0.024093\t정확도: 98.83%\n", + "45\t검증 세트 손실: 0.034688\t최선의 손실: 0.024093\t정확도: 99.30%\n", + "46\t검증 세트 손실: 0.039798\t최선의 손실: 0.024093\t정확도: 98.94%\n", + "47\t검증 세트 손실: 0.031766\t최선의 손실: 0.024093\t정확도: 99.22%\n", + "48\t검증 세트 손실: 0.035324\t최선의 손실: 0.024093\t정확도: 99.30%\n", + "49\t검증 세트 손실: 0.032197\t최선의 손실: 0.024093\t정확도: 99.34%\n", + "50\t검증 세트 손실: 0.031711\t최선의 손실: 0.024093\t정확도: 99.30%\n", + "51\t검증 세트 손실: 0.031460\t최선의 손실: 0.024093\t정확도: 99.30%\n", "조기 종료!\n" ] }, @@ -14155,14 +13927,14 @@ "data": { "text/plain": [ "RandomizedSearchCV(cv=None, error_score='raise',\n", - " estimator=DNNClassifier(activation=,\n", + " estimator=DNNClassifier(activation=,\n", " batch_norm_momentum=None, batch_size=20, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=100,\n", " optimizer_class=,\n", " random_state=42),\n", " fit_params=None, iid=True, n_iter=50, n_jobs=1,\n", - " param_distributions={'batch_size': [10, 50, 100, 500], 'activation': [, , .parametrized_leaky_relu at 0x7f7354033730>, .parametrized_leaky_relu at 0x7f73540339d8>], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'batch_norm_momentum': [0.9, 0.95, 0.98, 0.99, 0.999], 'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160]},\n", + " param_distributions={'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160], 'batch_size': [10, 50, 100, 500], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'activation': [, , .parametrized_leaky_relu at 0x7fc0c9ff48c8>, .parametrized_leaky_relu at 0x7fc0c9ff4488>], 'batch_norm_momentum': [0.9, 0.95, 0.98, 0.99, 0.999]},\n", " pre_dispatch='2*n_jobs', random_state=42, refit=True,\n", " return_train_score='warn', scoring=None, verbose=2)" ] @@ -14200,11 +13972,11 @@ { "data": { "text/plain": [ - "{'activation': ,\n", - " 'batch_norm_momentum': 0.98,\n", + "{'n_neurons': 160,\n", + " 'learning_rate': 0.02,\n", " 'batch_size': 10,\n", - " 'learning_rate': 0.01,\n", - " 'n_neurons': 160}" + " 'batch_norm_momentum': 0.95,\n", + " 'activation': .parametrized_leaky_relu(z, name=None)>}" ] }, "execution_count": 22, @@ -14224,7 +13996,7 @@ { "data": { "text/plain": [ - "0.9949406499318934" + "0.99241097489784" ] }, "execution_count": 23, @@ -14273,7 +14045,7 @@ { "data": { "text/plain": [ - "0.9990013553035166" + "0.9967900706184464" ] }, "execution_count": 24, @@ -14302,67 +14074,58 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.164877\t최선의 손실: 0.164877\t정확도: 95.07%\n", - "1\t검증 세트 손실: 0.125693\t최선의 손실: 0.125693\t정확도: 96.60%\n", - "2\t검증 세트 손실: 0.112100\t최선의 손실: 0.112100\t정확도: 97.03%\n", - "3\t검증 세트 손실: 0.106780\t최선의 손실: 0.106780\t정확도: 97.07%\n", - "4\t검증 세트 손실: 0.099562\t최선의 손실: 0.099562\t정확도: 97.58%\n", - "5\t검증 세트 손실: 0.081377\t최선의 손실: 0.081377\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.086977\t최선의 손실: 0.081377\t정확도: 97.89%\n", - "7\t검증 세트 손실: 0.099665\t최선의 손실: 0.081377\t정확도: 97.69%\n", - "8\t검증 세트 손실: 0.076637\t최선의 손실: 0.076637\t정확도: 97.81%\n", - "9\t검증 세트 손실: 0.085823\t최선의 손실: 0.076637\t정확도: 97.69%\n", - "10\t검증 세트 손실: 0.080536\t최선의 손실: 0.076637\t정확도: 98.12%\n", - "11\t검증 세트 손실: 0.075929\t최선의 손실: 0.075929\t정확도: 98.01%\n", - "12\t검증 세트 손실: 0.071711\t최선의 손실: 0.071711\t정확도: 98.20%\n", - "13\t검증 세트 손실: 0.071252\t최선의 손실: 0.071252\t정확도: 97.93%\n", - "14\t검증 세트 손실: 0.072574\t최선의 손실: 0.071252\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.074046\t최선의 손실: 0.071252\t정확도: 98.24%\n", - "16\t검증 세트 손실: 0.081158\t최선의 손실: 0.071252\t정확도: 98.08%\n", - "17\t검증 세트 손실: 0.063611\t최선의 손실: 0.063611\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.074846\t최선의 손실: 0.063611\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.067766\t최선의 손실: 0.063611\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.067653\t최선의 손실: 0.063611\t정확도: 98.12%\n", - "21\t검증 세트 손실: 0.067341\t최선의 손실: 0.063611\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.069543\t최선의 손실: 0.063611\t정확도: 98.28%\n", - "23\t검증 세트 손실: 0.068828\t최선의 손실: 0.063611\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.066190\t최선의 손실: 0.063611\t정확도: 98.32%\n", - "25\t검증 세트 손실: 0.068393\t최선의 손실: 0.063611\t정확도: 98.20%\n", - "26\t검증 세트 손실: 0.065304\t최선의 손실: 0.063611\t정확도: 98.28%\n", - "27\t검증 세트 손실: 0.068476\t최선의 손실: 0.063611\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.064938\t최선의 손실: 0.063611\t정확도: 98.28%\n", - "29\t검증 세트 손실: 0.073792\t최선의 손실: 0.063611\t정확도: 98.44%\n", - "30\t검증 세트 손실: 0.057035\t최선의 손실: 0.057035\t정확도: 98.51%\n", - "31\t검증 세트 손실: 0.096908\t최선의 손실: 0.057035\t정확도: 97.38%\n", - "32\t검증 세트 손실: 0.092149\t최선의 손실: 0.057035\t정확도: 98.01%\n", - "33\t검증 세트 손실: 0.072100\t최선의 손실: 0.057035\t정확도: 98.28%\n", - "34\t검증 세트 손실: 0.073842\t최선의 손실: 0.057035\t정확도: 98.05%\n", - "35\t검증 세트 손실: 0.096235\t최선의 손실: 0.057035\t정확도: 97.38%\n", - "36\t검증 세트 손실: 0.116559\t최선의 손실: 0.057035\t정확도: 97.73%\n", - "37\t검증 세트 손실: 0.085090\t최선의 손실: 0.057035\t정확도: 98.01%\n", - "38\t검증 세트 손실: 0.083896\t최선의 손실: 0.057035\t정확도: 98.05%\n", - "39\t검증 세트 손실: 0.082442\t최선의 손실: 0.057035\t정확도: 98.20%\n", - "40\t검증 세트 손실: 0.072432\t최선의 손실: 0.057035\t정확도: 98.20%\n", - "41\t검증 세트 손실: 0.068573\t최선의 손실: 0.057035\t정확도: 98.05%\n", - "42\t검증 세트 손실: 0.066772\t최선의 손실: 0.057035\t정확도: 98.24%\n", - "43\t검증 세트 손실: 0.070165\t최선의 손실: 0.057035\t정확도: 98.24%\n", - "44\t검증 세트 손실: 0.068059\t최선의 손실: 0.057035\t정확도: 98.20%\n", - "45\t검증 세트 손실: 0.073538\t최선의 손실: 0.057035\t정확도: 97.77%\n", - "46\t검증 세트 손실: 0.120571\t최선의 손실: 0.057035\t정확도: 97.38%\n", - "47\t검증 세트 손실: 0.147346\t최선의 손실: 0.057035\t정확도: 96.56%\n", - "48\t검증 세트 손실: 0.221838\t최선의 손실: 0.057035\t정확도: 92.53%\n", - "49\t검증 세트 손실: 0.208795\t최선의 손실: 0.057035\t정확도: 92.92%\n", - "50\t검증 세트 손실: 0.134298\t최선의 손실: 0.057035\t정확도: 95.97%\n", - "51\t검증 세트 손실: 0.140104\t최선의 손실: 0.057035\t정확도: 96.01%\n", + "0\t검증 세트 손실: 0.114465\t최선의 손실: 0.114465\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.086994\t최선의 손실: 0.086994\t정확도: 97.69%\n", + "2\t검증 세트 손실: 0.081228\t최선의 손실: 0.081228\t정확도: 97.97%\n", + "3\t검증 세트 손실: 0.075501\t최선의 손실: 0.075501\t정확도: 98.20%\n", + "4\t검증 세트 손실: 0.081151\t최선의 손실: 0.075501\t정확도: 98.28%\n", + "5\t검증 세트 손실: 0.081787\t최선의 손실: 0.075501\t정확도: 97.85%\n", + "6\t검증 세트 손실: 0.070766\t최선의 손실: 0.070766\t정확도: 98.01%\n", + "7\t검증 세트 손실: 0.075968\t최선의 손실: 0.070766\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.064333\t최선의 손실: 0.064333\t정확도: 98.24%\n", + "9\t검증 세트 손실: 0.069273\t최선의 손실: 0.064333\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.069437\t최선의 손실: 0.064333\t정확도: 98.12%\n", + "11\t검증 세트 손실: 0.069250\t최선의 손실: 0.064333\t정확도: 98.24%\n", + "12\t검증 세트 손실: 0.069354\t최선의 손실: 0.064333\t정확도: 98.28%\n", + "13\t검증 세트 손실: 0.067514\t최선의 손실: 0.064333\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.063433\t최선의 손실: 0.063433\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.068003\t최선의 손실: 0.063433\t정확도: 98.16%\n", + "16\t검증 세트 손실: 0.068444\t최선의 손실: 0.063433\t정확도: 98.28%\n", + "17\t검증 세트 손실: 0.072475\t최선의 손실: 0.063433\t정확도: 98.32%\n", + "18\t검증 세트 손실: 0.069815\t최선의 손실: 0.063433\t정확도: 98.08%\n", + "19\t검증 세트 손실: 0.067547\t최선의 손실: 0.063433\t정확도: 98.24%\n", + "20\t검증 세트 손실: 0.073694\t최선의 손실: 0.063433\t정확도: 98.12%\n", + "21\t검증 세트 손실: 0.063302\t최선의 손실: 0.063302\t정확도: 98.20%\n", + "22\t검증 세트 손실: 0.068773\t최선의 손실: 0.063302\t정확도: 98.20%\n", + "23\t검증 세트 손실: 0.085822\t최선의 손실: 0.063302\t정확도: 98.32%\n", + "24\t검증 세트 손실: 0.064305\t최선의 손실: 0.063302\t정확도: 98.20%\n", + "25\t검증 세트 손실: 0.068514\t최선의 손실: 0.063302\t정확도: 98.20%\n", + "26\t검증 세트 손실: 0.065828\t최선의 손실: 0.063302\t정확도: 98.28%\n", + "27\t검증 세트 손실: 0.070024\t최선의 손실: 0.063302\t정확도: 98.28%\n", + "28\t검증 세트 손실: 0.070102\t최선의 손실: 0.063302\t정확도: 98.48%\n", + "29\t검증 세트 손실: 0.105515\t최선의 손실: 0.063302\t정확도: 97.81%\n", + "30\t검증 세트 손실: 0.089360\t최선의 손실: 0.063302\t정확도: 97.62%\n", + "31\t검증 세트 손실: 0.096837\t최선의 손실: 0.063302\t정확도: 97.93%\n", + "32\t검증 세트 손실: 0.096344\t최선의 손실: 0.063302\t정확도: 97.26%\n", + "33\t검증 세트 손실: 0.176938\t최선의 손실: 0.063302\t정확도: 95.82%\n", + "34\t검증 세트 손실: 0.170075\t최선의 손실: 0.063302\t정확도: 96.05%\n", + "35\t검증 세트 손실: 0.170340\t최선의 손실: 0.063302\t정확도: 95.00%\n", + "36\t검증 세트 손실: 0.171228\t최선의 손실: 0.063302\t정확도: 96.17%\n", + "37\t검증 세트 손실: 0.121245\t최선의 손실: 0.063302\t정확도: 97.22%\n", + "38\t검증 세트 손실: 0.111531\t최선의 손실: 0.063302\t정확도: 97.77%\n", + "39\t검증 세트 손실: 0.116690\t최선의 손실: 0.063302\t정확도: 97.50%\n", + "40\t검증 세트 손실: 0.109886\t최선의 손실: 0.063302\t정확도: 96.91%\n", + "41\t검증 세트 손실: 0.112250\t최선의 손실: 0.063302\t정확도: 97.30%\n", + "42\t검증 세트 손실: 0.115647\t최선의 손실: 0.063302\t정확도: 97.11%\n", "조기 종료!\n" ] }, { "data": { "text/plain": [ - "DNNClassifier(activation=.parametrized_leaky_relu at 0x7f7354033f28>,\n", + "DNNClassifier(activation=.parametrized_leaky_relu at 0x7fc0a20dd488>,\n", " batch_norm_momentum=None, batch_size=500, dropout_rate=0.5,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=90,\n", " optimizer_class=,\n", " random_state=42)" @@ -14402,7 +14165,7 @@ { "data": { "text/plain": [ - "0.9881299863786729" + "0.9854057209573847" ] }, "execution_count": 26, @@ -14432,2174 +14195,2300 @@ "output_type": "stream", "text": [ "Fitting 3 folds for each of 50 candidates, totalling 150 fits\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 0.642312\t최선의 손실: 0.642312\t정확도: 74.90%\n", - "1\t검증 세트 손실: 0.246857\t최선의 손실: 0.246857\t정확도: 94.33%\n", - "2\t검증 세트 손실: 0.235708\t최선의 손실: 0.235708\t정확도: 94.88%\n", - "3\t검증 세트 손실: 0.193189\t최선의 손실: 0.193189\t정확도: 95.27%\n", - "4\t검증 세트 손실: 0.217870\t최선의 손실: 0.193189\t정확도: 95.35%\n", - "5\t검증 세트 손실: 0.203067\t최선의 손실: 0.193189\t정확도: 95.47%\n", - "6\t검증 세트 손실: 0.182191\t최선의 손실: 0.182191\t정확도: 96.01%\n", - "7\t검증 세트 손실: 0.185686\t최선의 손실: 0.182191\t정확도: 95.74%\n", - "8\t검증 세트 손실: 0.222046\t최선의 손실: 0.182191\t정확도: 95.50%\n", - "9\t검증 세트 손실: 0.196364\t최선의 손실: 0.182191\t정확도: 95.54%\n", - "10\t검증 세트 손실: 0.214568\t최선의 손실: 0.182191\t정확도: 94.84%\n", - "11\t검증 세트 손실: 0.190757\t최선의 손실: 0.182191\t정확도: 95.66%\n", - "12\t검증 세트 손실: 0.265067\t최선의 손실: 0.182191\t정확도: 94.80%\n", - "13\t검증 세트 손실: 0.224544\t최선의 손실: 0.182191\t정확도: 95.39%\n", - "14\t검증 세트 손실: 0.202190\t최선의 손실: 0.182191\t정확도: 95.70%\n", - "15\t검증 세트 손실: 0.176293\t최선의 손실: 0.176293\t정확도: 95.47%\n", - "16\t검증 세트 손실: 0.209432\t최선의 손실: 0.176293\t정확도: 95.23%\n", - "17\t검증 세트 손실: 0.248119\t최선의 손실: 0.176293\t정확도: 94.76%\n", - "18\t검증 세트 손실: 0.198097\t최선의 손실: 0.176293\t정확도: 95.86%\n", - "19\t검증 세트 손실: 0.189158\t최선의 손실: 0.176293\t정확도: 95.74%\n", - "20\t검증 세트 손실: 0.195897\t최선의 손실: 0.176293\t정확도: 95.39%\n", - "21\t검증 세트 손실: 0.217057\t최선의 손실: 0.176293\t정확도: 95.97%\n", - "22\t검증 세트 손실: 0.216957\t최선의 손실: 0.176293\t정확도: 95.31%\n", - "23\t검증 세트 손실: 0.194688\t최선의 손실: 0.176293\t정확도: 95.58%\n", - "24\t검증 세트 손실: 0.241097\t최선의 손실: 0.176293\t정확도: 96.13%\n", - "25\t검증 세트 손실: 0.216482\t최선의 손실: 0.176293\t정확도: 95.15%\n", - "26\t검증 세트 손실: 0.187766\t최선의 손실: 0.176293\t정확도: 95.43%\n", - "27\t검증 세트 손실: 0.160965\t최선의 손실: 0.160965\t정확도: 96.33%\n", - "28\t검증 세트 손실: 0.206022\t최선의 손실: 0.160965\t정확도: 95.70%\n", - "29\t검증 세트 손실: 0.231958\t최선의 손실: 0.160965\t정확도: 95.23%\n", - "30\t검증 세트 손실: 0.202318\t최선의 손실: 0.160965\t정확도: 95.86%\n", - "31\t검증 세트 손실: 0.170422\t최선의 손실: 0.160965\t정확도: 96.36%\n", - "32\t검증 세트 손실: 0.180134\t최선의 손실: 0.160965\t정확도: 96.13%\n", - "33\t검증 세트 손실: 0.187408\t최선의 손실: 0.160965\t정확도: 95.86%\n", - "34\t검증 세트 손실: 0.172766\t최선의 손실: 0.160965\t정확도: 96.21%\n", - "35\t검증 세트 손실: 0.211479\t최선의 손실: 0.160965\t정확도: 95.70%\n", - "36\t검증 세트 손실: 0.187087\t최선의 손실: 0.160965\t정확도: 95.86%\n", - "37\t검증 세트 손실: 0.173479\t최선의 손실: 0.160965\t정확도: 95.70%\n", - "38\t검증 세트 손실: 0.181360\t최선의 손실: 0.160965\t정확도: 95.97%\n", - "39\t검증 세트 손실: 0.221640\t최선의 손실: 0.160965\t정확도: 96.01%\n", - "40\t검증 세트 손실: 0.203683\t최선의 손실: 0.160965\t정확도: 96.21%\n", - "41\t검증 세트 손실: 0.184147\t최선의 손실: 0.160965\t정확도: 95.19%\n", - "42\t검증 세트 손실: 0.189295\t최선의 손실: 0.160965\t정확도: 95.90%\n", - "43\t검증 세트 손실: 0.178151\t최선의 손실: 0.160965\t정확도: 96.21%\n", - "44\t검증 세트 손실: 0.185048\t최선의 손실: 0.160965\t정확도: 96.33%\n", - "45\t검증 세트 손실: 0.192258\t최선의 손실: 0.160965\t정확도: 96.29%\n", - "46\t검증 세트 손실: 0.179968\t최선의 손실: 0.160965\t정확도: 96.25%\n", - "47\t검증 세트 손실: 0.184349\t최선의 손실: 0.160965\t정확도: 96.25%\n", - "48\t검증 세트 손실: 0.170941\t최선의 손실: 0.160965\t정확도: 96.56%\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.210660\t최선의 손실: 0.210660\t정확도: 94.29%\n", + "1\t검증 세트 손실: 0.177637\t최선의 손실: 0.177637\t정확도: 95.70%\n", + "2\t검증 세트 손실: 0.185464\t최선의 손실: 0.177637\t정확도: 96.05%\n", + "3\t검증 세트 손실: 0.164002\t최선의 손실: 0.164002\t정확도: 95.78%\n", + "4\t검증 세트 손실: 0.204128\t최선의 손실: 0.164002\t정확도: 95.82%\n", + "5\t검증 세트 손실: 0.156323\t최선의 손실: 0.156323\t정확도: 96.56%\n", + "6\t검증 세트 손실: 0.189188\t최선의 손실: 0.156323\t정확도: 96.25%\n", + "7\t검증 세트 손실: 0.171975\t최선의 손실: 0.156323\t정확도: 96.48%\n", + "8\t검증 세트 손실: 0.190550\t최선의 손실: 0.156323\t정확도: 95.93%\n", + "9\t검증 세트 손실: 0.170761\t최선의 손실: 0.156323\t정확도: 95.11%\n", + "10\t검증 세트 손실: 0.152721\t최선의 손실: 0.152721\t정확도: 96.40%\n", + "11\t검증 세트 손실: 0.195179\t최선의 손실: 0.152721\t정확도: 96.05%\n", + "12\t검증 세트 손실: 0.167356\t최선의 손실: 0.152721\t정확도: 96.29%\n", + "13\t검증 세트 손실: 0.201045\t최선의 손실: 0.152721\t정확도: 96.52%\n", + "14\t검증 세트 손실: 0.217216\t최선의 손실: 0.152721\t정확도: 94.72%\n", + "15\t검증 세트 손실: 0.158181\t최선의 손실: 0.152721\t정확도: 96.48%\n", + "16\t검증 세트 손실: 0.165449\t최선의 손실: 0.152721\t정확도: 96.17%\n", + "17\t검증 세트 손실: 0.153988\t최선의 손실: 0.152721\t정확도: 96.05%\n", + "18\t검증 세트 손실: 0.219083\t최선의 손실: 0.152721\t정확도: 95.43%\n", + "19\t검증 세트 손실: 0.145512\t최선의 손실: 0.145512\t정확도: 96.68%\n", + "20\t검증 세트 손실: 0.148407\t최선의 손실: 0.145512\t정확도: 96.33%\n", + "21\t검증 세트 손실: 0.153700\t최선의 손실: 0.145512\t정확도: 96.48%\n", + "22\t검증 세트 손실: 0.164976\t최선의 손실: 0.145512\t정확도: 96.99%\n", + "23\t검증 세트 손실: 0.149962\t최선의 손실: 0.145512\t정확도: 96.48%\n", + "24\t검증 세트 손실: 0.149703\t최선의 손실: 0.145512\t정확도: 96.68%\n", + "25\t검증 세트 손실: 0.160169\t최선의 손실: 0.145512\t정확도: 96.83%\n", + "26\t검증 세트 손실: 0.131918\t최선의 손실: 0.131918\t정확도: 97.11%\n", + "27\t검증 세트 손실: 0.172654\t최선의 손실: 0.131918\t정확도: 96.79%\n", + "28\t검증 세트 손실: 0.170357\t최선의 손실: 0.131918\t정확도: 96.83%\n", + "29\t검증 세트 손실: 0.160409\t최선의 손실: 0.131918\t정확도: 95.31%\n", + "30\t검증 세트 손실: 0.175379\t최선의 손실: 0.131918\t정확도: 96.25%\n", + "31\t검증 세트 손실: 0.163185\t최선의 손실: 0.131918\t정확도: 96.25%\n", + "32\t검증 세트 손실: 0.165754\t최선의 손실: 0.131918\t정확도: 96.52%\n", + "33\t검증 세트 손실: 0.164238\t최선의 손실: 0.131918\t정확도: 96.25%\n", + "34\t검증 세트 손실: 0.174860\t최선의 손실: 0.131918\t정확도: 96.13%\n", + "35\t검증 세트 손실: 0.166428\t최선의 손실: 0.131918\t정확도: 96.52%\n", + "36\t검증 세트 손실: 0.157660\t최선의 손실: 0.131918\t정확도: 96.44%\n", + "37\t검증 세트 손실: 0.204677\t최선의 손실: 0.131918\t정확도: 96.29%\n", + "38\t검증 세트 손실: 0.181116\t최선의 손실: 0.131918\t정확도: 96.01%\n", + "39\t검증 세트 손실: 0.172153\t최선의 손실: 0.131918\t정확도: 96.05%\n", + "40\t검증 세트 손실: 0.150879\t최선의 손실: 0.131918\t정확도: 96.44%\n", + "41\t검증 세트 손실: 0.153921\t최선의 손실: 0.131918\t정확도: 96.68%\n", + "42\t검증 세트 손실: 0.162965\t최선의 손실: 0.131918\t정확도: 96.36%\n", + "43\t검증 세트 손실: 0.155658\t최선의 손실: 0.131918\t정확도: 96.29%\n", + "44\t검증 세트 손실: 0.176731\t최선의 손실: 0.131918\t정확도: 95.66%\n", + "45\t검증 세트 손실: 0.170557\t최선의 손실: 0.131918\t정확도: 96.33%\n", + "46\t검증 세트 손실: 0.148643\t최선의 손실: 0.131918\t정확도: 96.25%\n", + "47\t검증 세트 손실: 0.167249\t최선의 손실: 0.131918\t정확도: 96.60%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70, total= 12.9s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70 \n" + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=, total= 12.3s\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation= \n" ] }, { "name": "stderr", "output_type": "stream", "text": [ - "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 13.0s remaining: 0.0s\n" + "[Parallel(n_jobs=1)]: Done 1 out of 1 | elapsed: 12.3s remaining: 0.0s\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.532325\t최선의 손실: 0.532325\t정확도: 80.22%\n", - "1\t검증 세트 손실: 0.393442\t최선의 손실: 0.393442\t정확도: 90.46%\n", - "2\t검증 세트 손실: 0.259364\t최선의 손실: 0.259364\t정확도: 93.82%\n", - "3\t검증 세트 손실: 0.235185\t최선의 손실: 0.235185\t정확도: 93.63%\n", - "4\t검증 세트 손실: 0.265762\t최선의 손실: 0.235185\t정확도: 94.64%\n", - "5\t검증 세트 손실: 0.240393\t최선의 손실: 0.235185\t정확도: 93.82%\n", - "6\t검증 세트 손실: 0.246490\t최선의 손실: 0.235185\t정확도: 94.06%\n", - "7\t검증 세트 손실: 0.171823\t최선의 손실: 0.171823\t정확도: 95.35%\n", - "8\t검증 세트 손실: 0.178645\t최선의 손실: 0.171823\t정확도: 95.90%\n", - "9\t검증 세트 손실: 0.177762\t최선의 손실: 0.171823\t정확도: 95.74%\n", - "10\t검증 세트 손실: 0.169223\t최선의 손실: 0.169223\t정확도: 95.93%\n", - "11\t검증 세트 손실: 0.151553\t최선의 손실: 0.151553\t정확도: 96.64%\n", - "12\t검증 세트 손실: 0.185944\t최선의 손실: 0.151553\t정확도: 95.70%\n", - "13\t검증 세트 손실: 0.178171\t최선의 손실: 0.151553\t정확도: 95.70%\n", - "14\t검증 세트 손실: 0.179702\t최선의 손실: 0.151553\t정확도: 96.21%\n", - "15\t검증 세트 손실: 0.173852\t최선의 손실: 0.151553\t정확도: 95.43%\n", - "16\t검증 세트 손실: 0.181027\t최선의 손실: 0.151553\t정확도: 95.82%\n", - "17\t검증 세트 손실: 0.190215\t최선의 손실: 0.151553\t정확도: 95.54%\n", - "18\t검증 세트 손실: 0.156775\t최선의 손실: 0.151553\t정확도: 95.78%\n", - "19\t검증 세트 손실: 0.202137\t최선의 손실: 0.151553\t정확도: 96.56%\n", - "20\t검증 세트 손실: 0.204871\t최선의 손실: 0.151553\t정확도: 95.23%\n", - "21\t검증 세트 손실: 0.158161\t최선의 손실: 0.151553\t정확도: 96.87%\n", - "22\t검증 세트 손실: 0.170110\t최선의 손실: 0.151553\t정확도: 96.56%\n", - "23\t검증 세트 손실: 0.178517\t최선의 손실: 0.151553\t정확도: 96.33%\n", - "24\t검증 세트 손실: 0.163038\t최선의 손실: 0.151553\t정확도: 96.44%\n", - "25\t검증 세트 손실: 0.164890\t최선의 손실: 0.151553\t정확도: 96.56%\n", - "26\t검증 세트 손실: 0.157295\t최선의 손실: 0.151553\t정확도: 96.52%\n", - "27\t검증 세트 손실: 0.175615\t최선의 손실: 0.151553\t정확도: 96.25%\n", - "28\t검증 세트 손실: 0.157094\t최선의 손실: 0.151553\t정확도: 96.21%\n", - "29\t검증 세트 손실: 0.155013\t최선의 손실: 0.151553\t정확도: 96.33%\n", - "30\t검증 세트 손실: 0.186913\t최선의 손실: 0.151553\t정확도: 95.74%\n", - "31\t검증 세트 손실: 0.181908\t최선의 손실: 0.151553\t정확도: 96.25%\n", - "32\t검증 세트 손실: 0.155025\t최선의 손실: 0.151553\t정확도: 95.74%\n", + "0\t검증 세트 손실: 0.208143\t최선의 손실: 0.208143\t정확도: 94.21%\n", + "1\t검증 세트 손실: 0.208362\t최선의 손실: 0.208143\t정확도: 94.64%\n", + "2\t검증 세트 손실: 0.166810\t최선의 손실: 0.166810\t정확도: 96.01%\n", + "3\t검증 세트 손실: 0.181467\t최선의 손실: 0.166810\t정확도: 95.62%\n", + "4\t검증 세트 손실: 0.165758\t최선의 손실: 0.165758\t정확도: 95.97%\n", + "5\t검증 세트 손실: 0.173686\t최선의 손실: 0.165758\t정확도: 96.01%\n", + "6\t검증 세트 손실: 0.170208\t최선의 손실: 0.165758\t정확도: 96.25%\n", + "7\t검증 세트 손실: 0.170506\t최선의 손실: 0.165758\t정확도: 96.17%\n", + "8\t검증 세트 손실: 0.147627\t최선의 손실: 0.147627\t정확도: 96.33%\n", + "9\t검증 세트 손실: 0.156481\t최선의 손실: 0.147627\t정확도: 96.29%\n", + "10\t검증 세트 손실: 0.184798\t최선의 손실: 0.147627\t정확도: 96.09%\n", + "11\t검증 세트 손실: 0.145332\t최선의 손실: 0.145332\t정확도: 96.52%\n", + "12\t검증 세트 손실: 0.128597\t최선의 손실: 0.128597\t정확도: 97.03%\n", + "13\t검증 세트 손실: 0.131444\t최선의 손실: 0.128597\t정확도: 97.11%\n", + "14\t검증 세트 손실: 0.198305\t최선의 손실: 0.128597\t정확도: 96.56%\n", + "15\t검증 세트 손실: 0.132331\t최선의 손실: 0.128597\t정확도: 96.87%\n", + "16\t검증 세트 손실: 0.152521\t최선의 손실: 0.128597\t정확도: 96.64%\n", + "17\t검증 세트 손실: 0.186119\t최선의 손실: 0.128597\t정확도: 96.48%\n", + "18\t검증 세트 손실: 0.170823\t최선의 손실: 0.128597\t정확도: 96.36%\n", + "19\t검증 세트 손실: 0.157697\t최선의 손실: 0.128597\t정확도: 96.17%\n", + "20\t검증 세트 손실: 0.176365\t최선의 손실: 0.128597\t정확도: 96.79%\n", + "21\t검증 세트 손실: 0.188563\t최선의 손실: 0.128597\t정확도: 95.97%\n", + "22\t검증 세트 손실: 0.169992\t최선의 손실: 0.128597\t정확도: 96.13%\n", + "23\t검증 세트 손실: 0.195975\t최선의 손실: 0.128597\t정확도: 96.09%\n", + "24\t검증 세트 손실: 0.151757\t최선의 손실: 0.128597\t정확도: 96.33%\n", + "25\t검증 세트 손실: 0.168250\t최선의 손실: 0.128597\t정확도: 96.56%\n", + "26\t검증 세트 손실: 0.161277\t최선의 손실: 0.128597\t정확도: 96.68%\n", + "27\t검증 세트 손실: 0.140926\t최선의 손실: 0.128597\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.156251\t최선의 손실: 0.128597\t정확도: 97.03%\n", + "29\t검증 세트 손실: 0.159333\t최선의 손실: 0.128597\t정확도: 96.05%\n", + "30\t검증 세트 손실: 0.167159\t최선의 손실: 0.128597\t정확도: 96.68%\n", + "31\t검증 세트 손실: 0.174448\t최선의 손실: 0.128597\t정확도: 96.56%\n", + "32\t검증 세트 손실: 0.155713\t최선의 손실: 0.128597\t정확도: 96.64%\n", + "33\t검증 세트 손실: 0.156657\t최선의 손실: 0.128597\t정확도: 96.36%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70, total= 8.8s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 0.441622\t최선의 손실: 0.441622\t정확도: 89.17%\n", - "1\t검증 세트 손실: 0.271857\t최선의 손실: 0.271857\t정확도: 93.39%\n", - "2\t검증 세트 손실: 0.209448\t최선의 손실: 0.209448\t정확도: 94.92%\n", - "3\t검증 세트 손실: 0.232165\t최선의 손실: 0.209448\t정확도: 94.53%\n", - "4\t검증 세트 손실: 0.208333\t최선의 손실: 0.208333\t정확도: 95.31%\n", - "5\t검증 세트 손실: 0.220057\t최선의 손실: 0.208333\t정확도: 95.78%\n", - "6\t검증 세트 손실: 0.205971\t최선의 손실: 0.205971\t정확도: 95.07%\n", - "7\t검증 세트 손실: 0.217318\t최선의 손실: 0.205971\t정확도: 95.31%\n", - "8\t검증 세트 손실: 0.186803\t최선의 손실: 0.186803\t정확도: 95.50%\n", - "9\t검증 세트 손실: 0.194400\t최선의 손실: 0.186803\t정확도: 95.82%\n", - "10\t검증 세트 손실: 0.201880\t최선의 손실: 0.186803\t정확도: 95.90%\n", - "11\t검증 세트 손실: 0.165139\t최선의 손실: 0.165139\t정확도: 95.90%\n", - "12\t검증 세트 손실: 0.190738\t최선의 손실: 0.165139\t정확도: 96.09%\n", - "13\t검증 세트 손실: 0.180658\t최선의 손실: 0.165139\t정확도: 96.21%\n", - "14\t검증 세트 손실: 0.191751\t최선의 손실: 0.165139\t정확도: 95.66%\n", - "15\t검증 세트 손실: 0.168989\t최선의 손실: 0.165139\t정확도: 96.40%\n", - "16\t검증 세트 손실: 0.190279\t최선의 손실: 0.165139\t정확도: 95.66%\n", - "17\t검증 세트 손실: 0.198651\t최선의 손실: 0.165139\t정확도: 96.09%\n", - "18\t검증 세트 손실: 0.224099\t최선의 손실: 0.165139\t정확도: 95.90%\n", - "19\t검증 세트 손실: 0.193308\t최선의 손실: 0.165139\t정확도: 95.93%\n", - "20\t검증 세트 손실: 0.213549\t최선의 손실: 0.165139\t정확도: 95.66%\n", - "21\t검증 세트 손실: 0.179633\t최선의 손실: 0.165139\t정확도: 96.01%\n", - "22\t검증 세트 손실: 0.171253\t최선의 손실: 0.165139\t정확도: 96.05%\n", - "23\t검증 세트 손실: 0.178211\t최선의 손실: 0.165139\t정확도: 95.86%\n", - "24\t검증 세트 손실: 0.169027\t최선의 손실: 0.165139\t정확도: 95.97%\n", - "25\t검증 세트 손실: 0.179837\t최선의 손실: 0.165139\t정확도: 95.62%\n", - "26\t검증 세트 손실: 0.161571\t최선의 손실: 0.161571\t정확도: 95.54%\n", - "27\t검증 세트 손실: 0.158761\t최선의 손실: 0.158761\t정확도: 96.09%\n", - "28\t검증 세트 손실: 0.182836\t최선의 손실: 0.158761\t정확도: 96.17%\n", - "29\t검증 세트 손실: 0.186746\t최선의 손실: 0.158761\t정확도: 95.90%\n", - "30\t검증 세트 손실: 0.176855\t최선의 손실: 0.158761\t정확도: 96.17%\n", - "31\t검증 세트 손실: 0.179175\t최선의 손실: 0.158761\t정확도: 95.86%\n", - "32\t검증 세트 손실: 0.159778\t최선의 손실: 0.158761\t정확도: 96.40%\n", - "33\t검증 세트 손실: 0.199193\t최선의 손실: 0.158761\t정확도: 96.91%\n", - "34\t검증 세트 손실: 0.166915\t최선의 손실: 0.158761\t정확도: 96.44%\n", - "35\t검증 세트 손실: 0.236168\t최선의 손실: 0.158761\t정확도: 96.29%\n", - "36\t검증 세트 손실: 0.207188\t최선의 손실: 0.158761\t정확도: 96.72%\n", - "37\t검증 세트 손실: 0.180584\t최선의 손실: 0.158761\t정확도: 96.64%\n", - "38\t검증 세트 손실: 0.189679\t최선의 손실: 0.158761\t정확도: 96.79%\n", - "39\t검증 세트 손실: 0.201452\t최선의 손실: 0.158761\t정확도: 96.68%\n", - "40\t검증 세트 손실: 0.184477\t최선의 손실: 0.158761\t정확도: 96.09%\n", - "41\t검증 세트 손실: 0.178517\t최선의 손실: 0.158761\t정확도: 96.56%\n", - "42\t검증 세트 손실: 0.220323\t최선의 손실: 0.158761\t정확도: 95.90%\n", - "43\t검증 세트 손실: 0.189469\t최선의 손실: 0.158761\t정확도: 95.86%\n", - "44\t검증 세트 손실: 0.211570\t최선의 손실: 0.158761\t정확도: 96.60%\n", - "45\t검증 세트 손실: 0.159326\t최선의 손실: 0.158761\t정확도: 96.52%\n", - "46\t검증 세트 손실: 0.167901\t최선의 손실: 0.158761\t정확도: 96.21%\n", - "47\t검증 세트 손실: 0.198988\t최선의 손실: 0.158761\t정확도: 96.29%\n", - "48\t검증 세트 손실: 0.161220\t최선의 손실: 0.158761\t정확도: 96.79%\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=, total= 8.9s\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.156285\t최선의 손실: 0.156285\t정확도: 96.01%\n", + "1\t검증 세트 손실: 0.159883\t최선의 손실: 0.156285\t정확도: 96.33%\n", + "2\t검증 세트 손실: 0.157760\t최선의 손실: 0.156285\t정확도: 96.21%\n", + "3\t검증 세트 손실: 0.160766\t최선의 손실: 0.156285\t정확도: 96.13%\n", + "4\t검증 세트 손실: 0.156549\t최선의 손실: 0.156285\t정확도: 96.56%\n", + "5\t검증 세트 손실: 0.124273\t최선의 손실: 0.124273\t정확도: 96.64%\n", + "6\t검증 세트 손실: 0.145249\t최선의 손실: 0.124273\t정확도: 96.29%\n", + "7\t검증 세트 손실: 0.151178\t최선의 손실: 0.124273\t정확도: 96.91%\n", + "8\t검증 세트 손실: 0.140690\t최선의 손실: 0.124273\t정확도: 97.03%\n", + "9\t검증 세트 손실: 0.126299\t최선의 손실: 0.124273\t정확도: 97.11%\n", + "10\t검증 세트 손실: 0.128469\t최선의 손실: 0.124273\t정확도: 96.91%\n", + "11\t검증 세트 손실: 0.136255\t최선의 손실: 0.124273\t정확도: 96.52%\n", + "12\t검증 세트 손실: 0.131364\t최선의 손실: 0.124273\t정확도: 96.79%\n", + "13\t검증 세트 손실: 0.121234\t최선의 손실: 0.121234\t정확도: 97.11%\n", + "14\t검증 세트 손실: 0.124738\t최선의 손실: 0.121234\t정확도: 96.87%\n", + "15\t검증 세트 손실: 0.146159\t최선의 손실: 0.121234\t정확도: 96.91%\n", + "16\t검증 세트 손실: 0.126557\t최선의 손실: 0.121234\t정확도: 96.87%\n", + "17\t검증 세트 손실: 0.138684\t최선의 손실: 0.121234\t정확도: 96.68%\n", + "18\t검증 세트 손실: 0.126321\t최선의 손실: 0.121234\t정확도: 97.34%\n", + "19\t검증 세트 손실: 0.135394\t최선의 손실: 0.121234\t정확도: 96.95%\n", + "20\t검증 세트 손실: 0.132767\t최선의 손실: 0.121234\t정확도: 97.15%\n", + "21\t검증 세트 손실: 0.134329\t최선의 손실: 0.121234\t정확도: 96.64%\n", + "22\t검증 세트 손실: 0.127098\t최선의 손실: 0.121234\t정확도: 97.15%\n", + "23\t검증 세트 손실: 0.119731\t최선의 손실: 0.119731\t정확도: 97.11%\n", + "24\t검증 세트 손실: 0.142295\t최선의 손실: 0.119731\t정확도: 97.11%\n", + "25\t검증 세트 손실: 0.113254\t최선의 손실: 0.113254\t정확도: 97.50%\n", + "26\t검증 세트 손실: 0.128720\t최선의 손실: 0.113254\t정확도: 97.11%\n", + "27\t검증 세트 손실: 0.127929\t최선의 손실: 0.113254\t정확도: 96.99%\n", + "28\t검증 세트 손실: 0.146525\t최선의 손실: 0.113254\t정확도: 96.44%\n", + "29\t검증 세트 손실: 0.126798\t최선의 손실: 0.113254\t정확도: 97.19%\n", + "30\t검증 세트 손실: 0.126967\t최선의 손실: 0.113254\t정확도: 96.99%\n", + "31\t검증 세트 손실: 0.129638\t최선의 손실: 0.113254\t정확도: 97.26%\n", + "32\t검증 세트 손실: 0.139813\t최선의 손실: 0.113254\t정확도: 96.68%\n", + "33\t검증 세트 손실: 0.112722\t최선의 손실: 0.112722\t정확도: 97.54%\n", + "34\t검증 세트 손실: 0.155462\t최선의 손실: 0.112722\t정확도: 96.48%\n", + "35\t검증 세트 손실: 0.124355\t최선의 손실: 0.112722\t정확도: 97.50%\n", + "36\t검증 세트 손실: 0.164923\t최선의 손실: 0.112722\t정확도: 97.19%\n", + "37\t검증 세트 손실: 0.115692\t최선의 손실: 0.112722\t정확도: 97.26%\n", + "38\t검증 세트 손실: 0.111030\t최선의 손실: 0.111030\t정확도: 97.58%\n", + "39\t검증 세트 손실: 0.123934\t최선의 손실: 0.111030\t정확도: 97.50%\n", + "40\t검증 세트 손실: 0.122509\t최선의 손실: 0.111030\t정확도: 97.26%\n", + "41\t검증 세트 손실: 0.130956\t최선의 손실: 0.111030\t정확도: 97.07%\n", + "42\t검증 세트 손실: 0.113392\t최선의 손실: 0.111030\t정확도: 97.26%\n", + "43\t검증 세트 손실: 0.136631\t최선의 손실: 0.111030\t정확도: 97.34%\n", + "44\t검증 세트 손실: 0.132120\t최선의 손실: 0.111030\t정확도: 97.30%\n", + "45\t검증 세트 손실: 0.142307\t최선의 손실: 0.111030\t정확도: 97.34%\n", + "46\t검증 세트 손실: 0.138160\t최선의 손실: 0.111030\t정확도: 96.95%\n", + "47\t검증 세트 손실: 0.126460\t최선의 손실: 0.111030\t정확도: 96.95%\n", + "48\t검증 세트 손실: 0.132232\t최선의 손실: 0.111030\t정확도: 96.79%\n", + "49\t검증 세트 손실: 0.212655\t최선의 손실: 0.111030\t정확도: 97.07%\n", + "50\t검증 세트 손실: 0.108899\t최선의 손실: 0.108899\t정확도: 97.46%\n", + "51\t검증 세트 손실: 0.129816\t최선의 손실: 0.108899\t정확도: 97.34%\n", + "52\t검증 세트 손실: 0.105695\t최선의 손실: 0.105695\t정확도: 97.62%\n", + "53\t검증 세트 손실: 0.122148\t최선의 손실: 0.105695\t정확도: 97.11%\n", + "54\t검증 세트 손실: 0.128276\t최선의 손실: 0.105695\t정확도: 97.30%\n", + "55\t검증 세트 손실: 0.109561\t최선의 손실: 0.105695\t정확도: 97.38%\n", + "56\t검증 세트 손실: 0.117528\t최선의 손실: 0.105695\t정확도: 97.46%\n", + "57\t검증 세트 손실: 0.105507\t최선의 손실: 0.105507\t정확도: 97.58%\n", + "58\t검증 세트 손실: 0.117800\t최선의 손실: 0.105507\t정확도: 97.11%\n", + "59\t검증 세트 손실: 0.119425\t최선의 손실: 0.105507\t정확도: 97.22%\n", + "60\t검증 세트 손실: 0.116513\t최선의 손실: 0.105507\t정확도: 97.22%\n", + "61\t검증 세트 손실: 0.133367\t최선의 손실: 0.105507\t정확도: 96.99%\n", + "62\t검증 세트 손실: 0.134791\t최선의 손실: 0.105507\t정확도: 97.22%\n", + "63\t검증 세트 손실: 0.153597\t최선의 손실: 0.105507\t정확도: 96.87%\n", + "64\t검증 세트 손실: 0.128561\t최선의 손실: 0.105507\t정확도: 96.76%\n", + "65\t검증 세트 손실: 0.126932\t최선의 손실: 0.105507\t정확도: 97.19%\n", + "66\t검증 세트 손실: 0.114324\t최선의 손실: 0.105507\t정확도: 97.03%\n", + "67\t검증 세트 손실: 0.142578\t최선의 손실: 0.105507\t정확도: 96.83%\n", + "68\t검증 세트 손실: 0.122706\t최선의 손실: 0.105507\t정확도: 97.50%\n", + "69\t검증 세트 손실: 0.147195\t최선의 손실: 0.105507\t정확도: 97.03%\n", + "70\t검증 세트 손실: 0.123236\t최선의 손실: 0.105507\t정확도: 97.11%\n", + "71\t검증 세트 손실: 0.146810\t최선의 손실: 0.105507\t정확도: 96.95%\n", + "72\t검증 세트 손실: 0.128132\t최선의 손실: 0.105507\t정확도: 97.38%\n", + "73\t검증 세트 손실: 0.124311\t최선의 손실: 0.105507\t정확도: 97.62%\n", + "74\t검증 세트 손실: 0.118539\t최선의 손실: 0.105507\t정확도: 97.34%\n", + "75\t검증 세트 손실: 0.132718\t최선의 손실: 0.105507\t정확도: 97.22%\n", + "76\t검증 세트 손실: 0.116149\t최선의 손실: 0.105507\t정확도: 97.73%\n", + "77\t검증 세트 손실: 0.120176\t최선의 손실: 0.105507\t정확도: 97.50%\n", + "78\t검증 세트 손실: 0.124576\t최선의 손실: 0.105507\t정확도: 97.22%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=70, total= 12.9s\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 1.088507\t최선의 손실: 1.088507\t정확도: 52.46%\n", - "1\t검증 세트 손실: 0.932183\t최선의 손실: 0.932183\t정확도: 55.86%\n", - "2\t검증 세트 손실: 236.534286\t최선의 손실: 0.932183\t정확도: 31.90%\n", - "3\t검증 세트 손실: 59.662811\t최선의 손실: 0.932183\t정확도: 22.05%\n", - "4\t검증 세트 손실: 28.098295\t최선의 손실: 0.932183\t정확도: 18.30%\n", - "5\t검증 세트 손실: 9.953935\t최선의 손실: 0.932183\t정확도: 31.27%\n", - "6\t검증 세트 손실: 3.768218\t최선의 손실: 0.932183\t정확도: 39.41%\n", - "7\t검증 세트 손실: 5.097012\t최선의 손실: 0.932183\t정확도: 40.70%\n", - "8\t검증 세트 손실: 3.368192\t최선의 손실: 0.932183\t정확도: 30.53%\n", - "9\t검증 세트 손실: 17.803524\t최선의 손실: 0.932183\t정확도: 29.40%\n", - "10\t검증 세트 손실: 4.982166\t최선의 손실: 0.932183\t정확도: 26.19%\n", - "11\t검증 세트 손실: 20.342417\t최선의 손실: 0.932183\t정확도: 36.67%\n", - "12\t검증 세트 손실: 178.033249\t최선의 손실: 0.932183\t정확도: 18.73%\n", - "13\t검증 세트 손실: 43.935894\t최선의 손실: 0.932183\t정확도: 25.41%\n", - "14\t검증 세트 손실: 27.695789\t최선의 손실: 0.932183\t정확도: 20.99%\n", - "15\t검증 세트 손실: 13.761216\t최선의 손실: 0.932183\t정확도: 31.31%\n", - "16\t검증 세트 손실: 50.261894\t최선의 손실: 0.932183\t정확도: 22.75%\n", - "17\t검증 세트 손실: 14.577541\t최선의 손실: 0.932183\t정확도: 34.01%\n", - "18\t검증 세트 손실: 8.299211\t최선의 손실: 0.932183\t정확도: 34.25%\n", - "19\t검증 세트 손실: 7.608750\t최선의 손실: 0.932183\t정확도: 30.84%\n", - "20\t검증 세트 손실: 41.410618\t최선의 손실: 0.932183\t정확도: 28.30%\n", - "21\t검증 세트 손실: 42.684196\t최선의 손실: 0.932183\t정확도: 23.73%\n", - "22\t검증 세트 손실: 38.724792\t최선의 손실: 0.932183\t정확도: 27.37%\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=, total= 19.7s\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 4.193374\t최선의 손실: 4.193374\t정확도: 38.35%\n", + "1\t검증 세트 손실: 9.424611\t최선의 손실: 4.193374\t정확도: 20.88%\n", + "2\t검증 세트 손실: 2.755209\t최선의 손실: 2.755209\t정확도: 50.43%\n", + "3\t검증 세트 손실: 2.768656\t최선의 손실: 2.755209\t정확도: 62.47%\n", + "4\t검증 세트 손실: 3.010465\t최선의 손실: 2.755209\t정확도: 59.93%\n", + "5\t검증 세트 손실: 26.076405\t최선의 손실: 2.755209\t정확도: 21.62%\n", + "6\t검증 세트 손실: 2.448547\t최선의 손실: 2.448547\t정확도: 56.37%\n", + "7\t검증 세트 손실: 224.077820\t최선의 손실: 2.448547\t정확도: 22.40%\n", + "8\t검증 세트 손실: 61.881947\t최선의 손실: 2.448547\t정확도: 36.36%\n", + "9\t검증 세트 손실: 134.361557\t최선의 손실: 2.448547\t정확도: 34.99%\n", + "10\t검증 세트 손실: 81.157799\t최선의 손실: 2.448547\t정확도: 39.91%\n", + "11\t검증 세트 손실: 74.949844\t최선의 손실: 2.448547\t정확도: 52.89%\n", + "12\t검증 세트 손실: 107.307358\t최선의 손실: 2.448547\t정확도: 29.28%\n", + "13\t검증 세트 손실: 37.380928\t최선의 손실: 2.448547\t정확도: 26.82%\n", + "14\t검증 세트 손실: 53.254158\t최선의 손실: 2.448547\t정확도: 28.77%\n", + "15\t검증 세트 손실: 34.364880\t최선의 손실: 2.448547\t정확도: 50.78%\n", + "16\t검증 세트 손실: 16.285872\t최선의 손실: 2.448547\t정확도: 47.89%\n", + "17\t검증 세트 손실: 8.332314\t최선의 손실: 2.448547\t정확도: 60.67%\n", + "18\t검증 세트 손실: 5.508399\t최선의 손실: 2.448547\t정확도: 64.93%\n", + "19\t검증 세트 손실: 6.236147\t최선의 손실: 2.448547\t정확도: 59.62%\n", + "20\t검증 세트 손실: 21.437679\t최선의 손실: 2.448547\t정확도: 46.01%\n", + "21\t검증 세트 손실: 6.220176\t최선의 손실: 2.448547\t정확도: 46.87%\n", + "22\t검증 세트 손실: 53.898155\t최선의 손실: 2.448547\t정확도: 50.12%\n", + "23\t검증 세트 손실: 333351.781250\t최선의 손실: 2.448547\t정확도: 27.01%\n", + "24\t검증 세트 손실: 7067691.000000\t최선의 손실: 2.448547\t정확도: 43.67%\n", + "25\t검증 세트 손실: 2476.397949\t최선의 손실: 2.448547\t정확도: 39.91%\n", + "26\t검증 세트 손실: 1540.455933\t최선의 손실: 2.448547\t정확도: 44.57%\n", + "27\t검증 세트 손실: 3974.548584\t최선의 손실: 2.448547\t정확도: 32.84%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 1.0min\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 1.236978\t최선의 손실: 1.236978\t정확도: 46.36%\n", - "1\t검증 세트 손실: 2.502375\t최선의 손실: 1.236978\t정확도: 45.58%\n", - "2\t검증 세트 손실: 1.453171\t최선의 손실: 1.236978\t정확도: 49.49%\n", - "3\t검증 세트 손실: 2.134201\t최선의 손실: 1.236978\t정확도: 33.89%\n", - "4\t검증 세트 손실: 2.673335\t최선의 손실: 1.236978\t정확도: 27.09%\n", - "5\t검증 세트 손실: 21.791735\t최선의 손실: 1.236978\t정확도: 19.19%\n", - "6\t검증 세트 손실: 43.555122\t최선의 손실: 1.236978\t정확도: 23.49%\n", - "7\t검증 세트 손실: 20.566616\t최선의 손실: 1.236978\t정확도: 36.28%\n", - "8\t검증 세트 손실: 19.957058\t최선의 손실: 1.236978\t정확도: 28.69%\n", - "9\t검증 세트 손실: 40.627052\t최선의 손실: 1.236978\t정확도: 22.01%\n", - "10\t검증 세트 손실: 18.220385\t최선의 손실: 1.236978\t정확도: 30.88%\n", - "11\t검증 세트 손실: 7.287315\t최선의 손실: 1.236978\t정확도: 38.12%\n", - "12\t검증 세트 손실: 4.552297\t최선의 손실: 1.236978\t정확도: 36.32%\n", - "13\t검증 세트 손실: 5.400605\t최선의 손실: 1.236978\t정확도: 35.18%\n", - "14\t검증 세트 손실: 5.387339\t최선의 손실: 1.236978\t정확도: 36.83%\n", - "15\t검증 세트 손실: 6.575460\t최선의 손실: 1.236978\t정확도: 34.05%\n", - "16\t검증 세트 손실: 10.514853\t최선의 손실: 1.236978\t정확도: 35.11%\n", - "17\t검증 세트 손실: 20.215736\t최선의 손실: 1.236978\t정확도: 28.81%\n", - "18\t검증 세트 손실: 77.829918\t최선의 손실: 1.236978\t정확도: 28.46%\n", - "19\t검증 세트 손실: 30.155993\t최선의 손실: 1.236978\t정확도: 37.18%\n", - "20\t검증 세트 손실: 17.781517\t최선의 손실: 1.236978\t정확도: 24.00%\n", - "21\t검증 세트 손실: 6.075872\t최선의 손실: 1.236978\t정확도: 35.26%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 59.1s\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 1.487661\t최선의 손실: 1.487661\t정확도: 34.79%\n", - "1\t검증 세트 손실: 4.091078\t최선의 손실: 1.487661\t정확도: 28.93%\n", - "2\t검증 세트 손실: 6.067765\t최선의 손실: 1.487661\t정확도: 44.88%\n", - "3\t검증 세트 손실: 172.776443\t최선의 손실: 1.487661\t정확도: 19.08%\n", - "4\t검증 세트 손실: 21.366634\t최선의 손실: 1.487661\t정확도: 19.27%\n", - "5\t검증 세트 손실: 6.511680\t최선의 손실: 1.487661\t정확도: 38.70%\n", - "6\t검증 세트 손실: 28.574207\t최선의 손실: 1.487661\t정확도: 20.48%\n", - "7\t검증 세트 손실: 92.575264\t최선의 손실: 1.487661\t정확도: 18.73%\n", - "8\t검증 세트 손실: 75.915337\t최선의 손실: 1.487661\t정확도: 19.12%\n", - "9\t검증 세트 손실: 228.751755\t최선의 손실: 1.487661\t정확도: 19.23%\n" + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.2min\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.988580\t최선의 손실: 0.988580\t정확도: 61.26%\n", + "1\t검증 세트 손실: 1.001973\t최선의 손실: 0.988580\t정확도: 58.80%\n", + "2\t검증 세트 손실: 7.505186\t최선의 손실: 0.988580\t정확도: 24.35%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 18.089661\t최선의 손실: 1.487661\t정확도: 43.82%\n", - "11\t검증 세트 손실: 131.517151\t최선의 손실: 1.487661\t정확도: 23.65%\n", - "12\t검증 세트 손실: 71.557182\t최선의 손실: 1.487661\t정확도: 23.61%\n", - "13\t검증 세트 손실: 35.226643\t최선의 손실: 1.487661\t정확도: 31.94%\n", - "14\t검증 세트 손실: 25.314777\t최선의 손실: 1.487661\t정확도: 33.31%\n", - "15\t검증 세트 손실: 16.703325\t최선의 손실: 1.487661\t정확도: 39.17%\n", - "16\t검증 세트 손실: 113.601883\t최선의 손실: 1.487661\t정확도: 25.80%\n", - "17\t검증 세트 손실: 25.405695\t최선의 손실: 1.487661\t정확도: 31.98%\n", - "18\t검증 세트 손실: 707.799927\t최선의 손실: 1.487661\t정확도: 30.81%\n", - "19\t검증 세트 손실: 106.352486\t최선의 손실: 1.487661\t정확도: 24.16%\n", - "20\t검증 세트 손실: 651.329529\t최선의 손실: 1.487661\t정확도: 18.69%\n", - "21\t검증 세트 손실: 17.256878\t최선의 손실: 1.487661\t정확도: 39.41%\n", + "3\t검증 세트 손실: 12.274692\t최선의 손실: 0.988580\t정확도: 28.81%\n", + "4\t검증 세트 손실: 15.819241\t최선의 손실: 0.988580\t정확도: 27.56%\n", + "5\t검증 세트 손실: 146.016144\t최선의 손실: 0.988580\t정확도: 19.27%\n", + "6\t검증 세트 손실: 18.597733\t최선의 손실: 0.988580\t정확도: 40.07%\n", + "7\t검증 세트 손실: 17.841707\t최선의 손실: 0.988580\t정확도: 33.97%\n", + "8\t검증 세트 손실: 13.242025\t최선의 손실: 0.988580\t정확도: 44.10%\n", + "9\t검증 세트 손실: 3.135201\t최선의 손실: 0.988580\t정확도: 49.65%\n", + "10\t검증 세트 손실: 10.087620\t최선의 손실: 0.988580\t정확도: 37.61%\n", + "11\t검증 세트 손실: 12.005456\t최선의 손실: 0.988580\t정확도: 21.07%\n", + "12\t검증 세트 손실: 202.289551\t최선의 손실: 0.988580\t정확도: 48.44%\n", + "13\t검증 세트 손실: 16.564842\t최선의 손실: 0.988580\t정확도: 33.58%\n", + "14\t검증 세트 손실: 77.112236\t최선의 손실: 0.988580\t정확도: 18.92%\n", + "15\t검증 세트 손실: 267.478119\t최선의 손실: 0.988580\t정확도: 43.24%\n", + "16\t검증 세트 손실: 30.959089\t최선의 손실: 0.988580\t정확도: 20.68%\n", + "17\t검증 세트 손실: 25.709171\t최선의 손실: 0.988580\t정확도: 21.38%\n", + "18\t검증 세트 손실: 5.975950\t최선의 손실: 0.988580\t정확도: 34.71%\n", + "19\t검증 세트 손실: 9.753822\t최선의 손실: 0.988580\t정확도: 26.58%\n", + "20\t검증 세트 손실: 2.937871\t최선의 손실: 0.988580\t정확도: 49.34%\n", + "21\t검증 세트 손실: 6.035108\t최선의 손실: 0.988580\t정확도: 34.87%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 58.8s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30 \n", - "0\t검증 세트 손실: 0.144075\t최선의 손실: 0.144075\t정확도: 95.86%\n", - "1\t검증 세트 손실: 0.119366\t최선의 손실: 0.119366\t정확도: 96.68%\n", - "2\t검증 세트 손실: 0.109820\t최선의 손실: 0.109820\t정확도: 97.03%\n", - "3\t검증 세트 손실: 0.101285\t최선의 손실: 0.101285\t정확도: 97.03%\n", - "4\t검증 세트 손실: 0.102659\t최선의 손실: 0.101285\t정확도: 97.11%\n", - "5\t검증 세트 손실: 0.104793\t최선의 손실: 0.101285\t정확도: 97.34%\n", - "6\t검증 세트 손실: 0.095102\t최선의 손실: 0.095102\t정확도: 97.62%\n", - "7\t검증 세트 손실: 0.107752\t최선의 손실: 0.095102\t정확도: 97.11%\n", - "8\t검증 세트 손실: 0.108002\t최선의 손실: 0.095102\t정확도: 97.73%\n", - "9\t검증 세트 손실: 0.104549\t최선의 손실: 0.095102\t정확도: 97.26%\n", - "10\t검증 세트 손실: 0.096523\t최선의 손실: 0.095102\t정확도: 97.65%\n", - "11\t검증 세트 손실: 0.113460\t최선의 손실: 0.095102\t정확도: 97.38%\n", - "12\t검증 세트 손실: 0.117181\t최선의 손실: 0.095102\t정확도: 96.87%\n", - "13\t검증 세트 손실: 0.115592\t최선의 손실: 0.095102\t정확도: 96.79%\n", - "14\t검증 세트 손실: 0.101360\t최선의 손실: 0.095102\t정확도: 97.73%\n", - "15\t검증 세트 손실: 0.110849\t최선의 손실: 0.095102\t정확도: 97.07%\n", - "16\t검증 세트 손실: 0.091438\t최선의 손실: 0.091438\t정확도: 97.65%\n", - "17\t검증 세트 손실: 0.099723\t최선의 손실: 0.091438\t정확도: 97.62%\n", - "18\t검증 세트 손실: 0.085660\t최선의 손실: 0.085660\t정확도: 98.01%\n", - "19\t검증 세트 손실: 0.084668\t최선의 손실: 0.084668\t정확도: 97.97%\n", - "20\t검증 세트 손실: 0.083226\t최선의 손실: 0.083226\t정확도: 97.77%\n", - "21\t검증 세트 손실: 0.084696\t최선의 손실: 0.083226\t정확도: 98.01%\n", - "22\t검증 세트 손실: 0.114255\t최선의 손실: 0.083226\t정확도: 97.11%\n", - "23\t검증 세트 손실: 0.122273\t최선의 손실: 0.083226\t정확도: 98.05%\n", - "24\t검증 세트 손실: 0.089704\t최선의 손실: 0.083226\t정확도: 97.85%\n", - "25\t검증 세트 손실: 0.089409\t최선의 손실: 0.083226\t정확도: 97.69%\n", - "26\t검증 세트 손실: 0.100716\t최선의 손실: 0.083226\t정확도: 98.01%\n", - "27\t검증 세트 손실: 0.093639\t최선의 손실: 0.083226\t정확도: 97.89%\n", - "28\t검증 세트 손실: 0.107580\t최선의 손실: 0.083226\t정확도: 97.58%\n", - "29\t검증 세트 손실: 0.103311\t최선의 손실: 0.083226\t정확도: 97.77%\n", - "30\t검증 세트 손실: 0.083483\t최선의 손실: 0.083226\t정확도: 97.93%\n", - "31\t검증 세트 손실: 0.148828\t최선의 손실: 0.083226\t정확도: 97.50%\n", - "32\t검증 세트 손실: 0.089313\t최선의 손실: 0.083226\t정확도: 97.62%\n", - "33\t검증 세트 손실: 0.100540\t최선의 손실: 0.083226\t정확도: 97.58%\n", - "34\t검증 세트 손실: 0.147756\t최선의 손실: 0.083226\t정확도: 97.15%\n", - "35\t검증 세트 손실: 0.142736\t최선의 손실: 0.083226\t정확도: 97.46%\n", - "36\t검증 세트 손실: 0.105999\t최선의 손실: 0.083226\t정확도: 97.26%\n", - "37\t검증 세트 손실: 0.098263\t최선의 손실: 0.083226\t정확도: 97.93%\n", - "38\t검증 세트 손실: 0.087927\t최선의 손실: 0.083226\t정확도: 98.12%\n", - "39\t검증 세트 손실: 0.088553\t최선의 손실: 0.083226\t정확도: 97.65%\n", - "40\t검증 세트 손실: 0.092312\t최선의 손실: 0.083226\t정확도: 97.50%\n", - "41\t검증 세트 손실: 0.091019\t최선의 손실: 0.083226\t정확도: 97.65%\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.4s\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 1.285274\t최선의 손실: 1.285274\t정확도: 41.79%\n", + "1\t검증 세트 손실: 8.014214\t최선의 손실: 1.285274\t정확도: 21.58%\n", + "2\t검증 세트 손실: 10.386436\t최선의 손실: 1.285274\t정확도: 30.84%\n", + "3\t검증 세트 손실: 31.924431\t최선의 손실: 1.285274\t정확도: 19.27%\n", + "4\t검증 세트 손실: 23.260828\t최선의 손실: 1.285274\t정확도: 22.44%\n", + "5\t검증 세트 손실: 13.930149\t최선의 손실: 1.285274\t정확도: 28.46%\n", + "6\t검증 세트 손실: 3.486866\t최선의 손실: 1.285274\t정확도: 28.62%\n", + "7\t검증 세트 손실: 4.643283\t최선의 손실: 1.285274\t정확도: 33.07%\n", + "8\t검증 세트 손실: 3.909169\t최선의 손실: 1.285274\t정확도: 32.25%\n", + "9\t검증 세트 손실: 6.147220\t최선의 손실: 1.285274\t정확도: 19.47%\n", + "10\t검증 세트 손실: 28.192743\t최선의 손실: 1.285274\t정확도: 34.83%\n", + "11\t검증 세트 손실: 34.231995\t최선의 손실: 1.285274\t정확도: 33.82%\n", + "12\t검증 세트 손실: 9.566362\t최선의 손실: 1.285274\t정확도: 43.55%\n", + "13\t검증 세트 손실: 20.686108\t최선의 손실: 1.285274\t정확도: 39.52%\n", + "14\t검증 세트 손실: 31.265154\t최선의 손실: 1.285274\t정확도: 38.70%\n", + "15\t검증 세트 손실: 5.842047\t최선의 손실: 1.285274\t정확도: 45.97%\n", + "16\t검증 세트 손실: 126583.179688\t최선의 손실: 1.285274\t정확도: 22.99%\n", + "17\t검증 세트 손실: 99.140518\t최선의 손실: 1.285274\t정확도: 19.08%\n", + "18\t검증 세트 손실: 82.928101\t최선의 손실: 1.285274\t정확도: 22.44%\n", + "19\t검증 세트 손실: 43.673153\t최선의 손실: 1.285274\t정확도: 23.06%\n", + "20\t검증 세트 손실: 71.345856\t최선의 손실: 1.285274\t정확도: 19.47%\n", + "21\t검증 세트 손실: 63.946774\t최선의 손실: 1.285274\t정확도: 35.93%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30, total= 24.3s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30 \n", - "0\t검증 세트 손실: 0.165653\t최선의 손실: 0.165653\t정확도: 95.62%\n", - "1\t검증 세트 손실: 0.119382\t최선의 손실: 0.119382\t정확도: 96.13%\n", - "2\t검증 세트 손실: 0.107995\t최선의 손실: 0.107995\t정확도: 96.76%\n", - "3\t검증 세트 손실: 0.101311\t최선의 손실: 0.101311\t정확도: 97.19%\n", - "4\t검증 세트 손실: 0.122335\t최선의 손실: 0.101311\t정확도: 96.72%\n", - "5\t검증 세트 손실: 0.105150\t최선의 손실: 0.101311\t정확도: 97.22%\n", - "6\t검증 세트 손실: 0.103656\t최선의 손실: 0.101311\t정확도: 97.38%\n", - "7\t검증 세트 손실: 0.092865\t최선의 손실: 0.092865\t정확도: 97.38%\n", - "8\t검증 세트 손실: 0.102320\t최선의 손실: 0.092865\t정확도: 97.34%\n", - "9\t검증 세트 손실: 0.079748\t최선의 손실: 0.079748\t정확도: 97.85%\n", - "10\t검증 세트 손실: 0.101558\t최선의 손실: 0.079748\t정확도: 97.69%\n", - "11\t검증 세트 손실: 0.087314\t최선의 손실: 0.079748\t정확도: 97.93%\n", - "12\t검증 세트 손실: 0.087575\t최선의 손실: 0.079748\t정확도: 97.46%\n", - "13\t검증 세트 손실: 0.096313\t최선의 손실: 0.079748\t정확도: 97.62%\n", - "14\t검증 세트 손실: 0.106641\t최선의 손실: 0.079748\t정확도: 97.77%\n", - "15\t검증 세트 손실: 0.100108\t최선의 손실: 0.079748\t정확도: 97.65%\n", - "16\t검증 세트 손실: 0.115019\t최선의 손실: 0.079748\t정확도: 97.65%\n", - "17\t검증 세트 손실: 0.097369\t최선의 손실: 0.079748\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.084793\t최선의 손실: 0.079748\t정확도: 97.65%\n", - "19\t검증 세트 손실: 0.108200\t최선의 손실: 0.079748\t정확도: 96.60%\n", - "20\t검증 세트 손실: 0.110709\t최선의 손실: 0.079748\t정확도: 97.19%\n", - "21\t검증 세트 손실: 0.092517\t최선의 손실: 0.079748\t정확도: 97.81%\n", - "22\t검증 세트 손실: 0.084952\t최선의 손실: 0.079748\t정확도: 97.62%\n", - "23\t검증 세트 손실: 0.081606\t최선의 손실: 0.079748\t정확도: 97.89%\n", - "24\t검증 세트 손실: 0.108766\t최선의 손실: 0.079748\t정확도: 97.58%\n", - "25\t검증 세트 손실: 0.102780\t최선의 손실: 0.079748\t정확도: 97.42%\n", - "26\t검증 세트 손실: 0.086912\t최선의 손실: 0.079748\t정확도: 97.65%\n", - "27\t검증 세트 손실: 0.087250\t최선의 손실: 0.079748\t정확도: 97.50%\n", - "28\t검증 세트 손실: 0.090876\t최선의 손실: 0.079748\t정확도: 97.81%\n", - "29\t검증 세트 손실: 0.092815\t최선의 손실: 0.079748\t정확도: 97.97%\n", - "30\t검증 세트 손실: 0.095165\t최선의 손실: 0.079748\t정확도: 97.62%\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.5s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.136360\t최선의 손실: 0.136360\t정확도: 96.21%\n", + "1\t검증 세트 손실: 0.110365\t최선의 손실: 0.110365\t정확도: 96.64%\n", + "2\t검증 세트 손실: 0.112859\t최선의 손실: 0.110365\t정확도: 97.11%\n", + "3\t검증 세트 손실: 0.108715\t최선의 손실: 0.108715\t정확도: 97.42%\n", + "4\t검증 세트 손실: 0.126345\t최선의 손실: 0.108715\t정확도: 96.56%\n", + "5\t검증 세트 손실: 0.109040\t최선의 손실: 0.108715\t정확도: 97.38%\n", + "6\t검증 세트 손실: 0.099437\t최선의 손실: 0.099437\t정확도: 97.42%\n", + "7\t검증 세트 손실: 0.100902\t최선의 손실: 0.099437\t정확도: 97.34%\n", + "8\t검증 세트 손실: 0.091610\t최선의 손실: 0.091610\t정확도: 97.77%\n", + "9\t검증 세트 손실: 0.111078\t최선의 손실: 0.091610\t정확도: 97.77%\n", + "10\t검증 세트 손실: 0.108051\t최선의 손실: 0.091610\t정확도: 97.22%\n", + "11\t검증 세트 손실: 0.093945\t최선의 손실: 0.091610\t정확도: 97.54%\n", + "12\t검증 세트 손실: 0.096701\t최선의 손실: 0.091610\t정확도: 97.69%\n", + "13\t검증 세트 손실: 0.089010\t최선의 손실: 0.089010\t정확도: 97.54%\n", + "14\t검증 세트 손실: 0.104761\t최선의 손실: 0.089010\t정확도: 97.85%\n", + "15\t검증 세트 손실: 0.102847\t최선의 손실: 0.089010\t정확도: 97.50%\n", + "16\t검증 세트 손실: 0.094725\t최선의 손실: 0.089010\t정확도: 97.42%\n", + "17\t검증 세트 손실: 0.091916\t최선의 손실: 0.089010\t정확도: 97.89%\n", + "18\t검증 세트 손실: 0.092536\t최선의 손실: 0.089010\t정확도: 97.73%\n", + "19\t검증 세트 손실: 0.100920\t최선의 손실: 0.089010\t정확도: 97.81%\n", + "20\t검증 세트 손실: 0.087886\t최선의 손실: 0.087886\t정확도: 97.73%\n", + "21\t검증 세트 손실: 0.106107\t최선의 손실: 0.087886\t정확도: 97.58%\n", + "22\t검증 세트 손실: 0.088794\t최선의 손실: 0.087886\t정확도: 97.77%\n", + "23\t검증 세트 손실: 0.092348\t최선의 손실: 0.087886\t정확도: 97.97%\n", + "24\t검증 세트 손실: 0.097470\t최선의 손실: 0.087886\t정확도: 97.89%\n", + "25\t검증 세트 손실: 0.100145\t최선의 손실: 0.087886\t정확도: 97.30%\n", + "26\t검증 세트 손실: 0.102541\t최선의 손실: 0.087886\t정확도: 97.58%\n", + "27\t검증 세트 손실: 0.090517\t최선의 손실: 0.087886\t정확도: 98.01%\n", + "28\t검증 세트 손실: 0.093104\t최선의 손실: 0.087886\t정확도: 97.50%\n", + "29\t검증 세트 손실: 0.090872\t최선의 손실: 0.087886\t정확도: 97.58%\n", + "30\t검증 세트 손실: 0.084863\t최선의 손실: 0.084863\t정확도: 98.01%\n", + "31\t검증 세트 손실: 0.095542\t최선의 손실: 0.084863\t정확도: 98.20%\n", + "32\t검증 세트 손실: 0.109477\t최선의 손실: 0.084863\t정확도: 97.50%\n", + "33\t검증 세트 손실: 0.086636\t최선의 손실: 0.084863\t정확도: 97.93%\n", + "34\t검증 세트 손실: 0.092268\t최선의 손실: 0.084863\t정확도: 97.89%\n", + "35\t검증 세트 손실: 0.102313\t최선의 손실: 0.084863\t정확도: 97.97%\n", + "36\t검증 세트 손실: 0.095641\t최선의 손실: 0.084863\t정확도: 97.62%\n", + "37\t검증 세트 손실: 0.108047\t최선의 손실: 0.084863\t정확도: 97.26%\n", + "38\t검증 세트 손실: 0.091413\t최선의 손실: 0.084863\t정확도: 97.54%\n", + "39\t검증 세트 손실: 0.088335\t최선의 손실: 0.084863\t정확도: 97.69%\n", + "40\t검증 세트 손실: 0.094495\t최선의 손실: 0.084863\t정확도: 97.58%\n", + "41\t검증 세트 손실: 0.116099\t최선의 손실: 0.084863\t정확도: 96.99%\n", + "42\t검증 세트 손실: 0.102283\t최선의 손실: 0.084863\t정확도: 97.81%\n", + "43\t검증 세트 손실: 0.097220\t최선의 손실: 0.084863\t정확도: 97.89%\n", + "44\t검증 세트 손실: 0.090454\t최선의 손실: 0.084863\t정확도: 97.46%\n", + "45\t검증 세트 손실: 0.093150\t최선의 손실: 0.084863\t정확도: 97.69%\n", + "46\t검증 세트 손실: 0.092055\t최선의 손실: 0.084863\t정확도: 98.12%\n", + "47\t검증 세트 손실: 0.092106\t최선의 손실: 0.084863\t정확도: 97.77%\n", + "48\t검증 세트 손실: 0.095077\t최선의 손실: 0.084863\t정확도: 97.65%\n", + "49\t검증 세트 손실: 0.092375\t최선의 손실: 0.084863\t정확도: 97.58%\n", + "50\t검증 세트 손실: 0.215968\t최선의 손실: 0.084863\t정확도: 96.44%\n", + "51\t검증 세트 손실: 0.141862\t최선의 손실: 0.084863\t정확도: 96.17%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30, total= 18.3s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30 \n", - "0\t검증 세트 손실: 0.126570\t최선의 손실: 0.126570\t정확도: 96.40%\n", - "1\t검증 세트 손실: 0.120405\t최선의 손실: 0.120405\t정확도: 97.26%\n", - "2\t검증 세트 손실: 0.103338\t최선의 손실: 0.103338\t정확도: 97.22%\n", - "3\t검증 세트 손실: 0.111369\t최선의 손실: 0.103338\t정확도: 97.34%\n", - "4\t검증 세트 손실: 0.102394\t최선의 손실: 0.102394\t정확도: 97.46%\n", - "5\t검증 세트 손실: 0.110625\t최선의 손실: 0.102394\t정확도: 97.22%\n", - "6\t검증 세트 손실: 0.091709\t최선의 손실: 0.091709\t정확도: 97.81%\n", - "7\t검증 세트 손실: 0.108797\t최선의 손실: 0.091709\t정확도: 97.38%\n", - "8\t검증 세트 손실: 0.100636\t최선의 손실: 0.091709\t정확도: 97.54%\n", - "9\t검증 세트 손실: 0.091388\t최선의 손실: 0.091388\t정확도: 97.85%\n", - "10\t검증 세트 손실: 0.095018\t최선의 손실: 0.091388\t정확도: 97.46%\n", - "11\t검증 세트 손실: 0.088800\t최선의 손실: 0.088800\t정확도: 98.08%\n", - "12\t검증 세트 손실: 0.090480\t최선의 손실: 0.088800\t정확도: 98.05%\n", - "13\t검증 세트 손실: 0.100280\t최선의 손실: 0.088800\t정확도: 97.54%\n", - "14\t검증 세트 손실: 0.105467\t최선의 손실: 0.088800\t정확도: 97.73%\n", - "15\t검증 세트 손실: 0.116027\t최선의 손실: 0.088800\t정확도: 97.38%\n", - "16\t검증 세트 손실: 0.111713\t최선의 손실: 0.088800\t정확도: 97.62%\n", - "17\t검증 세트 손실: 0.108747\t최선의 손실: 0.088800\t정확도: 97.81%\n", - "18\t검증 세트 손실: 0.099019\t최선의 손실: 0.088800\t정확도: 97.85%\n", - "19\t검증 세트 손실: 0.099676\t최선의 손실: 0.088800\t정확도: 98.12%\n", - "20\t검증 세트 손실: 0.113080\t최선의 손실: 0.088800\t정확도: 97.69%\n", - "21\t검증 세트 손실: 0.113889\t최선의 손실: 0.088800\t정확도: 97.97%\n", - "22\t검증 세트 손실: 0.091186\t최선의 손실: 0.088800\t정확도: 97.93%\n", - "23\t검증 세트 손실: 0.105489\t최선의 손실: 0.088800\t정확도: 97.77%\n", - "24\t검증 세트 손실: 0.100674\t최선의 손실: 0.088800\t정확도: 97.69%\n", - "25\t검증 세트 손실: 0.088566\t최선의 손실: 0.088566\t정확도: 97.62%\n", - "26\t검증 세트 손실: 0.087799\t최선의 손실: 0.087799\t정확도: 97.69%\n", - "27\t검증 세트 손실: 0.188874\t최선의 손실: 0.087799\t정확도: 97.15%\n", - "28\t검증 세트 손실: 0.121997\t최선의 손실: 0.087799\t정확도: 97.50%\n", - "29\t검증 세트 손실: 0.110577\t최선의 손실: 0.087799\t정확도: 97.85%\n", - "30\t검증 세트 손실: 0.102798\t최선의 손실: 0.087799\t정확도: 97.93%\n", - "31\t검증 세트 손실: 0.113757\t최선의 손실: 0.087799\t정확도: 97.50%\n", - "32\t검증 세트 손실: 0.094603\t최선의 손실: 0.087799\t정확도: 97.50%\n", - "33\t검증 세트 손실: 0.088567\t최선의 손실: 0.087799\t정확도: 98.05%\n", - "34\t검증 세트 손실: 0.105904\t최선의 손실: 0.087799\t정확도: 97.77%\n", - "35\t검증 세트 손실: 0.082987\t최선의 손실: 0.082987\t정확도: 97.97%\n", - "36\t검증 세트 손실: 0.100726\t최선의 손실: 0.082987\t정확도: 97.50%\n", - "37\t검증 세트 손실: 0.087161\t최선의 손실: 0.082987\t정확도: 97.69%\n", - "38\t검증 세트 손실: 0.090772\t최선의 손실: 0.082987\t정확도: 98.12%\n", - "39\t검증 세트 손실: 0.074589\t최선의 손실: 0.074589\t정확도: 98.28%\n", - "40\t검증 세트 손실: 0.095341\t최선의 손실: 0.074589\t정확도: 98.08%\n", - "41\t검증 세트 손실: 0.094712\t최선의 손실: 0.074589\t정확도: 98.01%\n", - "42\t검증 세트 손실: 0.105667\t최선의 손실: 0.074589\t정확도: 97.77%\n", - "43\t검증 세트 손실: 0.085853\t최선의 손실: 0.074589\t정확도: 98.05%\n", - "44\t검증 세트 손실: 0.097051\t최선의 손실: 0.074589\t정확도: 97.89%\n", - "45\t검증 세트 손실: 0.085605\t최선의 손실: 0.074589\t정확도: 98.20%\n", - "46\t검증 세트 손실: 0.166473\t최선의 손실: 0.074589\t정확도: 96.48%\n", - "47\t검증 세트 손실: 0.122646\t최선의 손실: 0.074589\t정확도: 97.26%\n", - "48\t검증 세트 손실: 0.125746\t최선의 손실: 0.074589\t정확도: 97.69%\n", - "49\t검증 세트 손실: 0.103058\t최선의 손실: 0.074589\t정확도: 97.50%\n", - "50\t검증 세트 손실: 0.106274\t최선의 손실: 0.074589\t정확도: 97.38%\n", - "51\t검증 세트 손실: 0.104610\t최선의 손실: 0.074589\t정확도: 97.50%\n", - "52\t검증 세트 손실: 0.106887\t최선의 손실: 0.074589\t정확도: 98.05%\n", - "53\t검증 세트 손실: 0.101949\t최선의 손실: 0.074589\t정확도: 98.08%\n", - "54\t검증 세트 손실: 0.105508\t최선의 손실: 0.074589\t정확도: 98.12%\n", - "55\t검증 세트 손실: 0.098834\t최선의 손실: 0.074589\t정확도: 97.65%\n", - "56\t검증 세트 손실: 0.108352\t최선의 손실: 0.074589\t정확도: 97.26%\n" + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 29.4s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.160674\t최선의 손실: 0.160674\t정확도: 95.54%\n", + "1\t검증 세트 손실: 0.118663\t최선의 손실: 0.118663\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.109888\t최선의 손실: 0.109888\t정확도: 97.42%\n", + "3\t검증 세트 손실: 0.089243\t최선의 손실: 0.089243\t정확도: 97.46%\n", + "4\t검증 세트 손실: 0.092672\t최선의 손실: 0.089243\t정확도: 97.77%\n", + "5\t검증 세트 손실: 0.095398\t최선의 손실: 0.089243\t정확도: 97.26%\n", + "6\t검증 세트 손실: 0.085631\t최선의 손실: 0.085631\t정확도: 97.62%\n", + "7\t검증 세트 손실: 0.087069\t최선의 손실: 0.085631\t정확도: 97.77%\n", + "8\t검증 세트 손실: 0.110595\t최선의 손실: 0.085631\t정확도: 97.42%\n", + "9\t검증 세트 손실: 0.103019\t최선의 손실: 0.085631\t정확도: 97.62%\n", + "10\t검증 세트 손실: 0.086233\t최선의 손실: 0.085631\t정확도: 97.73%\n", + "11\t검증 세트 손실: 0.104673\t최선의 손실: 0.085631\t정확도: 97.62%\n", + "12\t검증 세트 손실: 0.079965\t최선의 손실: 0.079965\t정확도: 97.97%\n", + "13\t검증 세트 손실: 0.103599\t최선의 손실: 0.079965\t정확도: 97.34%\n", + "14\t검증 세트 손실: 0.117514\t최선의 손실: 0.079965\t정확도: 97.50%\n", + "15\t검증 세트 손실: 0.096194\t최선의 손실: 0.079965\t정확도: 97.81%\n", + "16\t검증 세트 손실: 0.082609\t최선의 손실: 0.079965\t정확도: 97.93%\n", + "17\t검증 세트 손실: 0.092953\t최선의 손실: 0.079965\t정확도: 98.01%\n", + "18\t검증 세트 손실: 0.101643\t최선의 손실: 0.079965\t정확도: 97.81%\n", + "19\t검증 세트 손실: 0.095948\t최선의 손실: 0.079965\t정확도: 97.46%\n", + "20\t검증 세트 손실: 0.094944\t최선의 손실: 0.079965\t정확도: 97.81%\n", + "21\t검증 세트 손실: 0.108396\t최선의 손실: 0.079965\t정확도: 97.54%\n", + "22\t검증 세트 손실: 0.086534\t최선의 손실: 0.079965\t정확도: 97.77%\n", + "23\t검증 세트 손실: 0.091894\t최선의 손실: 0.079965\t정확도: 97.97%\n", + "24\t검증 세트 손실: 0.123059\t최선의 손실: 0.079965\t정확도: 97.38%\n", + "25\t검증 세트 손실: 0.106831\t최선의 손실: 0.079965\t정확도: 98.05%\n", + "26\t검증 세트 손실: 0.088245\t최선의 손실: 0.079965\t정확도: 97.46%\n", + "27\t검증 세트 손실: 0.118119\t최선의 손실: 0.079965\t정확도: 98.01%\n", + "28\t검증 세트 손실: 0.079150\t최선의 손실: 0.079150\t정확도: 98.16%\n", + "29\t검증 세트 손실: 0.083267\t최선의 손실: 0.079150\t정확도: 97.97%\n", + "30\t검증 세트 손실: 0.083387\t최선의 손실: 0.079150\t정확도: 97.77%\n", + "31\t검증 세트 손실: 0.107928\t최선의 손실: 0.079150\t정확도: 97.22%\n", + "32\t검증 세트 손실: 0.126619\t최선의 손실: 0.079150\t정확도: 96.29%\n", + "33\t검증 세트 손실: 0.128456\t최선의 손실: 0.079150\t정확도: 97.22%\n", + "34\t검증 세트 손실: 0.104925\t최선의 손실: 0.079150\t정확도: 97.50%\n", + "35\t검증 세트 손실: 0.111200\t최선의 손실: 0.079150\t정확도: 97.69%\n", + "36\t검증 세트 손실: 0.098922\t최선의 손실: 0.079150\t정확도: 97.85%\n", + "37\t검증 세트 손실: 0.089689\t최선의 손실: 0.079150\t정확도: 98.01%\n", + "38\t검증 세트 손실: 0.094805\t최선의 손실: 0.079150\t정확도: 97.73%\n", + "39\t검증 세트 손실: 0.082541\t최선의 손실: 0.079150\t정확도: 97.93%\n", + "40\t검증 세트 손실: 0.092350\t최선의 손실: 0.079150\t정확도: 98.12%\n", + "41\t검증 세트 손실: 0.092042\t최선의 손실: 0.079150\t정확도: 98.08%\n", + "42\t검증 세트 손실: 0.154431\t최선의 손실: 0.079150\t정확도: 97.42%\n", + "43\t검증 세트 손실: 0.086599\t최선의 손실: 0.079150\t정확도: 97.85%\n", + "44\t검증 세트 손실: 0.089963\t최선의 손실: 0.079150\t정확도: 98.05%\n", + "45\t검증 세트 손실: 0.083119\t최선의 손실: 0.079150\t정확도: 98.16%\n", + "46\t검증 세트 손실: 0.078944\t최선의 손실: 0.078944\t정확도: 98.12%\n", + "47\t검증 세트 손실: 0.097856\t최선의 손실: 0.078944\t정확도: 97.69%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "57\t검증 세트 손실: 0.099213\t최선의 손실: 0.074589\t정확도: 97.62%\n", - "58\t검증 세트 손실: 0.109328\t최선의 손실: 0.074589\t정확도: 97.03%\n", - "59\t검증 세트 손실: 0.089221\t최선의 손실: 0.074589\t정확도: 97.73%\n", - "60\t검증 세트 손실: 0.099848\t최선의 손실: 0.074589\t정확도: 97.85%\n", + "48\t검증 세트 손실: 0.096166\t최선의 손실: 0.078944\t정확도: 97.93%\n", + "49\t검증 세트 손실: 0.120518\t최선의 손실: 0.078944\t정확도: 97.65%\n", + "50\t검증 세트 손실: 0.086616\t최선의 손실: 0.078944\t정확도: 97.81%\n", + "51\t검증 세트 손실: 0.089651\t최선의 손실: 0.078944\t정확도: 98.08%\n", + "52\t검증 세트 손실: 0.094603\t최선의 손실: 0.078944\t정확도: 97.73%\n", + "53\t검증 세트 손실: 0.081018\t최선의 손실: 0.078944\t정확도: 98.01%\n", + "54\t검증 세트 손실: 0.088000\t최선의 손실: 0.078944\t정확도: 97.65%\n", + "55\t검증 세트 손실: 0.089164\t최선의 손실: 0.078944\t정확도: 97.89%\n", + "56\t검증 세트 손실: 0.117597\t최선의 손실: 0.078944\t정확도: 97.58%\n", + "57\t검증 세트 손실: 0.093147\t최선의 손실: 0.078944\t정확도: 98.12%\n", + "58\t검증 세트 손실: 0.090323\t최선의 손실: 0.078944\t정확도: 97.81%\n", + "59\t검증 세트 손실: 0.095963\t최선의 손실: 0.078944\t정확도: 97.46%\n", + "60\t검증 세트 손실: 0.097874\t최선의 손실: 0.078944\t정확도: 97.81%\n", + "61\t검증 세트 손실: 0.111383\t최선의 손실: 0.078944\t정확도: 97.81%\n", + "62\t검증 세트 손실: 0.117835\t최선의 손실: 0.078944\t정확도: 97.85%\n", + "63\t검증 세트 손실: 0.143287\t최선의 손실: 0.078944\t정확도: 97.97%\n", + "64\t검증 세트 손실: 0.087078\t최선의 손실: 0.078944\t정확도: 98.01%\n", + "65\t검증 세트 손실: 0.100243\t최선의 손실: 0.078944\t정확도: 97.77%\n", + "66\t검증 세트 손실: 0.089567\t최선의 손실: 0.078944\t정확도: 97.65%\n", + "67\t검증 세트 손실: 0.092186\t최선의 손실: 0.078944\t정확도: 98.16%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=30, total= 34.6s\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 44.603619\t최선의 손실: 44.603619\t정확도: 37.57%\n", - "1\t검증 세트 손실: 57.076000\t최선의 손실: 44.603619\t정확도: 19.08%\n", - "2\t검증 세트 손실: 233.921204\t최선의 손실: 44.603619\t정확도: 19.08%\n", - "3\t검증 세트 손실: 46.991661\t최선의 손실: 44.603619\t정확도: 20.02%\n", - "4\t검증 세트 손실: 373.460785\t최선의 손실: 44.603619\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1130.587769\t최선의 손실: 44.603619\t정확도: 19.27%\n", - "6\t검증 세트 손실: 271.191620\t최선의 손실: 44.603619\t정확도: 18.73%\n", - "7\t검증 세트 손실: 745.257324\t최선의 손실: 44.603619\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1009.146301\t최선의 손실: 44.603619\t정확도: 19.27%\n", - "9\t검증 세트 손실: 865.743652\t최선의 손실: 44.603619\t정확도: 18.73%\n", - "10\t검증 세트 손실: 436.311462\t최선의 손실: 44.603619\t정확도: 20.91%\n", - "11\t검증 세트 손실: 646.576355\t최선의 손실: 44.603619\t정확도: 22.01%\n", - "12\t검증 세트 손실: 2218.319580\t최선의 손실: 44.603619\t정확도: 20.91%\n", - "13\t검증 세트 손실: 2307.377930\t최선의 손실: 44.603619\t정확도: 18.73%\n", - "14\t검증 세트 손실: 737.834839\t최선의 손실: 44.603619\t정확도: 18.84%\n", - "15\t검증 세트 손실: 956.285156\t최선의 손실: 44.603619\t정확도: 25.10%\n", - "16\t검증 세트 손실: 1471.329346\t최선의 손실: 44.603619\t정확도: 19.08%\n", - "17\t검증 세트 손실: 471.887085\t최선의 손실: 44.603619\t정확도: 22.60%\n", - "18\t검증 세트 손실: 764.497681\t최선의 손실: 44.603619\t정확도: 28.03%\n", - "19\t검증 세트 손실: 33088.808594\t최선의 손실: 44.603619\t정확도: 19.27%\n", - "20\t검증 세트 손실: 2415.676270\t최선의 손실: 44.603619\t정확도: 19.08%\n", - "21\t검증 세트 손실: 1911.266602\t최선의 손실: 44.603619\t정확도: 19.27%\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 38.3s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.127395\t최선의 손실: 0.127395\t정확도: 96.64%\n", + "1\t검증 세트 손실: 0.114440\t최선의 손실: 0.114440\t정확도: 97.22%\n", + "2\t검증 세트 손실: 0.114681\t최선의 손실: 0.114440\t정확도: 97.11%\n", + "3\t검증 세트 손실: 0.109798\t최선의 손실: 0.109798\t정확도: 97.34%\n", + "4\t검증 세트 손실: 0.107840\t최선의 손실: 0.107840\t정확도: 97.30%\n", + "5\t검증 세트 손실: 0.105514\t최선의 손실: 0.105514\t정확도: 97.19%\n", + "6\t검증 세트 손실: 0.097954\t최선의 손실: 0.097954\t정확도: 97.11%\n", + "7\t검증 세트 손실: 0.110744\t최선의 손실: 0.097954\t정확도: 97.65%\n", + "8\t검증 세트 손실: 0.103697\t최선의 손실: 0.097954\t정확도: 97.69%\n", + "9\t검증 세트 손실: 0.092071\t최선의 손실: 0.092071\t정확도: 97.54%\n", + "10\t검증 세트 손실: 0.099903\t최선의 손실: 0.092071\t정확도: 97.58%\n", + "11\t검증 세트 손실: 0.091155\t최선의 손실: 0.091155\t정확도: 97.85%\n", + "12\t검증 세트 손실: 0.082143\t최선의 손실: 0.082143\t정확도: 98.01%\n", + "13\t검증 세트 손실: 0.082789\t최선의 손실: 0.082143\t정확도: 97.89%\n", + "14\t검증 세트 손실: 0.086620\t최선의 손실: 0.082143\t정확도: 98.05%\n", + "15\t검증 세트 손실: 0.122439\t최선의 손실: 0.082143\t정확도: 97.77%\n", + "16\t검증 세트 손실: 0.084897\t최선의 손실: 0.082143\t정확도: 98.01%\n", + "17\t검증 세트 손실: 0.089541\t최선의 손실: 0.082143\t정확도: 97.73%\n", + "18\t검증 세트 손실: 0.100289\t최선의 손실: 0.082143\t정확도: 97.65%\n", + "19\t검증 세트 손실: 0.111560\t최선의 손실: 0.082143\t정확도: 97.42%\n", + "20\t검증 세트 손실: 0.089659\t최선의 손실: 0.082143\t정확도: 97.81%\n", + "21\t검증 세트 손실: 0.093909\t최선의 손실: 0.082143\t정확도: 98.12%\n", + "22\t검증 세트 손실: 0.094338\t최선의 손실: 0.082143\t정확도: 97.77%\n", + "23\t검증 세트 손실: 0.089257\t최선의 손실: 0.082143\t정확도: 98.24%\n", + "24\t검증 세트 손실: 0.098516\t최선의 손실: 0.082143\t정확도: 97.73%\n", + "25\t검증 세트 손실: 0.081011\t최선의 손실: 0.081011\t정확도: 97.85%\n", + "26\t검증 세트 손실: 0.115080\t최선의 손실: 0.081011\t정확도: 97.58%\n", + "27\t검증 세트 손실: 0.085240\t최선의 손실: 0.081011\t정확도: 98.24%\n", + "28\t검증 세트 손실: 0.098147\t최선의 손실: 0.081011\t정확도: 97.03%\n", + "29\t검증 세트 손실: 0.088533\t최선의 손실: 0.081011\t정확도: 98.16%\n", + "30\t검증 세트 손실: 0.114337\t최선의 손실: 0.081011\t정확도: 96.79%\n", + "31\t검증 세트 손실: 0.091698\t최선의 손실: 0.081011\t정확도: 97.93%\n", + "32\t검증 세트 손실: 0.075873\t최선의 손실: 0.075873\t정확도: 98.36%\n", + "33\t검증 세트 손실: 0.126370\t최선의 손실: 0.075873\t정확도: 97.97%\n", + "34\t검증 세트 손실: 0.110168\t최선의 손실: 0.075873\t정확도: 97.65%\n", + "35\t검증 세트 손실: 0.099182\t최선의 손실: 0.075873\t정확도: 97.97%\n", + "36\t검증 세트 손실: 0.094165\t최선의 손실: 0.075873\t정확도: 97.73%\n", + "37\t검증 세트 손실: 0.082113\t최선의 손실: 0.075873\t정확도: 98.01%\n", + "38\t검증 세트 손실: 0.085673\t최선의 손실: 0.075873\t정확도: 97.97%\n", + "39\t검증 세트 손실: 0.096827\t최선의 손실: 0.075873\t정확도: 97.89%\n", + "40\t검증 세트 손실: 0.090658\t최선의 손실: 0.075873\t정확도: 98.08%\n", + "41\t검증 세트 손실: 0.119982\t최선의 손실: 0.075873\t정확도: 97.93%\n", + "42\t검증 세트 손실: 0.100164\t최선의 손실: 0.075873\t정확도: 97.89%\n", + "43\t검증 세트 손실: 0.106524\t최선의 손실: 0.075873\t정확도: 98.28%\n", + "44\t검증 세트 손실: 0.112044\t최선의 손실: 0.075873\t정확도: 97.65%\n", + "45\t검증 세트 손실: 0.105287\t최선의 손실: 0.075873\t정확도: 98.01%\n", + "46\t검증 세트 손실: 0.116097\t최선의 손실: 0.075873\t정확도: 97.81%\n", + "47\t검증 세트 손실: 0.085811\t최선의 손실: 0.075873\t정확도: 98.08%\n", + "48\t검증 세트 손실: 0.108564\t최선의 손실: 0.075873\t정확도: 97.62%\n", + "49\t검증 세트 손실: 0.096106\t최선의 손실: 0.075873\t정확도: 98.08%\n", + "50\t검증 세트 손실: 0.077966\t최선의 손실: 0.075873\t정확도: 98.20%\n", + "51\t검증 세트 손실: 0.086255\t최선의 손실: 0.075873\t정확도: 98.36%\n", + "52\t검증 세트 손실: 0.099638\t최선의 손실: 0.075873\t정확도: 97.93%\n", + "53\t검증 세트 손실: 0.130928\t최선의 손실: 0.075873\t정확도: 97.42%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 59.9s\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 31.417385\t최선의 손실: 31.417385\t정확도: 23.92%\n", - "1\t검증 세트 손실: 35.821529\t최선의 손실: 31.417385\t정확도: 25.65%\n", - "2\t검증 세트 손실: 305.805878\t최선의 손실: 31.417385\t정확도: 19.04%\n", - "3\t검증 세트 손실: 339.897125\t최선의 손실: 31.417385\t정확도: 19.08%\n", - "4\t검증 세트 손실: 463.556549\t최선의 손실: 31.417385\t정확도: 19.27%\n", - "5\t검증 세트 손실: 214.016220\t최선의 손실: 31.417385\t정확도: 20.91%\n", - "6\t검증 세트 손실: 268.307953\t최선의 손실: 31.417385\t정확도: 22.01%\n", - "7\t검증 세트 손실: 294.589142\t최선의 손실: 31.417385\t정확도: 22.17%\n", - "8\t검증 세트 손실: 1902.266602\t최선의 손실: 31.417385\t정확도: 20.91%\n", - "9\t검증 세트 손실: 687.182861\t최선의 손실: 31.417385\t정확도: 20.91%\n", - "10\t검증 세트 손실: 2618.090576\t최선의 손실: 31.417385\t정확도: 18.73%\n", - "11\t검증 세트 손실: 993.678833\t최선의 손실: 31.417385\t정확도: 20.91%\n", - "12\t검증 세트 손실: 2589.103516\t최선의 손실: 31.417385\t정확도: 19.08%\n", - "13\t검증 세트 손실: 488.464325\t최선의 손실: 31.417385\t정확도: 20.91%\n", - "14\t검증 세트 손실: 2610.805664\t최선의 손실: 31.417385\t정확도: 18.73%\n", - "15\t검증 세트 손실: 888.818237\t최선의 손실: 31.417385\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1280.261597\t최선의 손실: 31.417385\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1762.280640\t최선의 손실: 31.417385\t정확도: 19.08%\n", - "18\t검증 세트 손실: 3155.860352\t최선의 손실: 31.417385\t정확도: 19.08%\n", - "19\t검증 세트 손실: 3672.597412\t최선의 손실: 31.417385\t정확도: 22.01%\n", - "20\t검증 세트 손실: 4980.899414\t최선의 손실: 31.417385\t정확도: 18.73%\n", - "21\t검증 세트 손실: 44855.925781\t최선의 손실: 31.417385\t정확도: 19.08%\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.3, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 30.5s\n", + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 73.710754\t최선의 손실: 73.710754\t정확도: 20.91%\n", + "1\t검증 세트 손실: 7.637183\t최선의 손실: 7.637183\t정확도: 24.90%\n", + "2\t검증 세트 손실: 49.014378\t최선의 손실: 7.637183\t정확도: 19.19%\n", + "3\t검증 세트 손실: 729.040100\t최선의 손실: 7.637183\t정확도: 18.73%\n", + "4\t검증 세트 손실: 151.432388\t최선의 손실: 7.637183\t정확도: 19.35%\n", + "5\t검증 세트 손실: 2073.492676\t최선의 손실: 7.637183\t정확도: 20.91%\n", + "6\t검증 세트 손실: 172.555191\t최선의 손실: 7.637183\t정확도: 33.35%\n", + "7\t검증 세트 손실: 447.498871\t최선의 손실: 7.637183\t정확도: 19.08%\n", + "8\t검증 세트 손실: 8236.777344\t최선의 손실: 7.637183\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1906.966431\t최선의 손실: 7.637183\t정확도: 18.73%\n", + "10\t검증 세트 손실: 6086.329102\t최선의 손실: 7.637183\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1611.237793\t최선의 손실: 7.637183\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1846.838013\t최선의 손실: 7.637183\t정확도: 17.08%\n", + "13\t검증 세트 손실: 2431.496582\t최선의 손실: 7.637183\t정확도: 18.73%\n", + "14\t검증 세트 손실: 2151.759277\t최선의 손실: 7.637183\t정확도: 28.50%\n", + "15\t검증 세트 손실: 5389.175293\t최선의 손실: 7.637183\t정확도: 18.73%\n", + "16\t검증 세트 손실: 6218.089844\t최선의 손실: 7.637183\t정확도: 19.08%\n", + "17\t검증 세트 손실: 3090.872314\t최선의 손실: 7.637183\t정확도: 18.73%\n", + "18\t검증 세트 손실: 3318.333496\t최선의 손실: 7.637183\t정확도: 19.47%\n", + "19\t검증 세트 손실: 3495.405029\t최선의 손실: 7.637183\t정확도: 19.27%\n", + "20\t검증 세트 손실: 3702.834229\t최선의 손실: 7.637183\t정확도: 19.27%\n", + "21\t검증 세트 손실: 4868.683594\t최선의 손실: 7.637183\t정확도: 22.01%\n", + "22\t검증 세트 손실: 6801.275879\t최선의 손실: 7.637183\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 59.9s\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 8.962685\t최선의 손실: 8.962685\t정확도: 22.01%\n", - "1\t검증 세트 손실: 37.688961\t최선의 손실: 8.962685\t정확도: 24.82%\n", - "2\t검증 세트 손실: 557.700623\t최선의 손실: 8.962685\t정확도: 18.73%\n", - "3\t검증 세트 손실: 229.770920\t최선의 손실: 8.962685\t정확도: 20.91%\n", - "4\t검증 세트 손실: 901.391113\t최선의 손실: 8.962685\t정확도: 19.94%\n", - "5\t검증 세트 손실: 985.784424\t최선의 손실: 8.962685\t정확도: 22.01%\n", - "6\t검증 세트 손실: 364.175476\t최선의 손실: 8.962685\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1027.166260\t최선의 손실: 8.962685\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1052.942871\t최선의 손실: 8.962685\t정확도: 34.79%\n", - "9\t검증 세트 손실: 789.573486\t최선의 손실: 8.962685\t정확도: 19.43%\n", - "10\t검증 세트 손실: 522.053772\t최선의 손실: 8.962685\t정확도: 19.27%\n", - "11\t검증 세트 손실: 441.496002\t최선의 손실: 8.962685\t정확도: 19.08%\n", - "12\t검증 세트 손실: 943.491760\t최선의 손실: 8.962685\t정확도: 19.08%\n", - "13\t검증 세트 손실: 8188.519043\t최선의 손실: 8.962685\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1500.466064\t최선의 손실: 8.962685\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1963.799805\t최선의 손실: 8.962685\t정확도: 21.03%\n", - "16\t검증 세트 손실: 1803.571167\t최선의 손실: 8.962685\t정확도: 20.91%\n", - "17\t검증 세트 손실: 1125.780884\t최선의 손실: 8.962685\t정확도: 20.91%\n", - "18\t검증 세트 손실: 2938.617188\t최선의 손실: 8.962685\t정확도: 22.01%\n", - "19\t검증 세트 손실: 3879.210205\t최선의 손실: 8.962685\t정확도: 18.73%\n", - "20\t검증 세트 손실: 11356.883789\t최선의 손실: 8.962685\t정확도: 20.91%\n", - "21\t검증 세트 손실: 53268.101562\t최선의 손실: 8.962685\t정확도: 19.27%\n", + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.0min\n", + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 2.901756\t최선의 손실: 2.901756\t정확도: 33.19%\n", + "1\t검증 세트 손실: 3.670248\t최선의 손실: 2.901756\t정확도: 24.12%\n", + "2\t검증 세트 손실: 31.520668\t최선의 손실: 2.901756\t정확도: 19.31%\n", + "3\t검증 세트 손실: 118.722527\t최선의 손실: 2.901756\t정확도: 23.46%\n", + "4\t검증 세트 손실: 917.078186\t최선의 손실: 2.901756\t정확도: 19.27%\n", + "5\t검증 세트 손실: 256.049896\t최선의 손실: 2.901756\t정확도: 18.73%\n", + "6\t검증 세트 손실: 2656.533691\t최선의 손실: 2.901756\t정확도: 19.27%\n", + "7\t검증 세트 손실: 443.236176\t최선의 손실: 2.901756\t정확도: 18.73%\n", + "8\t검증 세트 손실: 6402.288086\t최선의 손실: 2.901756\t정확도: 19.27%\n", + "9\t검증 세트 손실: 2479.507324\t최선의 손실: 2.901756\t정확도: 20.91%\n", + "10\t검증 세트 손실: 817.175415\t최선의 손실: 2.901756\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2546.171143\t최선의 손실: 2.901756\t정확도: 20.91%\n", + "12\t검증 세트 손실: 763.697205\t최선의 손실: 2.901756\t정확도: 18.73%\n", + "13\t검증 세트 손실: 186.358994\t최선의 손실: 2.901756\t정확도: 34.44%\n", + "14\t검증 세트 손실: 876.689026\t최선의 손실: 2.901756\t정확도: 19.08%\n", + "15\t검증 세트 손실: 850.415833\t최선의 손실: 2.901756\t정확도: 19.27%\n", + "16\t검증 세트 손실: 4873.388184\t최선의 손실: 2.901756\t정확도: 18.73%\n", + "17\t검증 세트 손실: 20277.777344\t최선의 손실: 2.901756\t정확도: 22.01%\n", + "18\t검증 세트 손실: 4923.820801\t최선의 손실: 2.901756\t정확도: 22.01%\n", + "19\t검증 세트 손실: 4310.077637\t최선의 손실: 2.901756\t정확도: 20.91%\n", + "20\t검증 세트 손실: 4917.511230\t최선의 손실: 2.901756\t정확도: 20.91%\n", + "21\t검증 세트 손실: 10051.544922\t최선의 손실: 2.901756\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 1.0min\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100 \n", - "0\t검증 세트 손실: 0.118075\t최선의 손실: 0.118075\t정확도: 96.91%\n", - "1\t검증 세트 손실: 0.106562\t최선의 손실: 0.106562\t정확도: 97.42%\n", - "2\t검증 세트 손실: 0.118371\t최선의 손실: 0.106562\t정확도: 97.38%\n", - "3\t검증 세트 손실: 0.172765\t최선의 손실: 0.106562\t정확도: 95.31%\n", - "4\t검증 세트 손실: 0.275066\t최선의 손실: 0.106562\t정확도: 93.08%\n", - "5\t검증 세트 손실: 1.608755\t최선의 손실: 0.106562\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.653711\t최선의 손실: 0.106562\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.643294\t최선의 손실: 0.106562\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.672089\t최선의 손실: 0.106562\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.793621\t최선의 손실: 0.106562\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.673954\t최선의 손실: 0.106562\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.670698\t최선의 손실: 0.106562\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.615902\t최선의 손실: 0.106562\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.614122\t최선의 손실: 0.106562\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.644770\t최선의 손실: 0.106562\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.635924\t최선의 손실: 0.106562\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.656533\t최선의 손실: 0.106562\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.653952\t최선의 손실: 0.106562\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.663719\t최선의 손실: 0.106562\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.642034\t최선의 손실: 0.106562\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.678812\t최선의 손실: 0.106562\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.632905\t최선의 손실: 0.106562\t정확도: 19.08%\n", - "22\t검증 세트 손실: 1.633938\t최선의 손실: 0.106562\t정확도: 22.01%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100, total= 6.3s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100 \n", - "0\t검증 세트 손실: 0.127634\t최선의 손실: 0.127634\t정확도: 95.82%\n", - "1\t검증 세트 손실: 0.135552\t최선의 손실: 0.127634\t정확도: 97.03%\n", - "2\t검증 세트 손실: 0.243286\t최선의 손실: 0.127634\t정확도: 94.33%\n", - "3\t검증 세트 손실: 0.223460\t최선의 손실: 0.127634\t정확도: 91.83%\n", - "4\t검증 세트 손실: 0.208069\t최선의 손실: 0.127634\t정확도: 95.97%\n", - "5\t검증 세트 손실: 0.137219\t최선의 손실: 0.127634\t정확도: 96.33%\n", - "6\t검증 세트 손실: 0.747697\t최선의 손실: 0.127634\t정확도: 76.39%\n", - "7\t검증 세트 손실: 1.673099\t최선의 손실: 0.127634\t정확도: 19.55%\n", - "8\t검증 세트 손실: 1.646768\t최선의 손실: 0.127634\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.653666\t최선의 손실: 0.127634\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.653279\t최선의 손실: 0.127634\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.613747\t최선의 손실: 0.127634\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.648018\t최선의 손실: 0.127634\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.634821\t최선의 손실: 0.127634\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.674782\t최선의 손실: 0.127634\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.636206\t최선의 손실: 0.127634\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.654451\t최선의 손실: 0.127634\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.718930\t최선의 손실: 0.127634\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.685642\t최선의 손실: 0.127634\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.626621\t최선의 손실: 0.127634\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.669104\t최선의 손실: 0.127634\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.635254\t최선의 손실: 0.127634\t정확도: 18.73%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100, total= 6.1s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100 \n", - "0\t검증 세트 손실: 0.102803\t최선의 손실: 0.102803\t정확도: 97.50%\n", - "1\t검증 세트 손실: 0.250941\t최선의 손실: 0.102803\t정확도: 94.88%\n", - "2\t검증 세트 손실: 0.177041\t최선의 손실: 0.102803\t정확도: 95.74%\n", - "3\t검증 세트 손실: 0.100339\t최선의 손실: 0.100339\t정확도: 97.62%\n", - "4\t검증 세트 손실: 0.224696\t최선의 손실: 0.100339\t정확도: 97.77%\n", - "5\t검증 세트 손실: 0.157299\t최선의 손실: 0.100339\t정확도: 97.07%\n", - "6\t검증 세트 손실: 1.349410\t최선의 손실: 0.100339\t정확도: 39.05%\n" + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 59.4s\n", + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 84.219872\t최선의 손실: 84.219872\t정확도: 18.73%\n", + "1\t검증 세트 손실: 9.023458\t최선의 손실: 9.023458\t정확도: 19.04%\n", + "2\t검증 세트 손실: 1049.903076\t최선의 손실: 9.023458\t정확도: 19.08%\n", + "3\t검증 세트 손실: 224.271729\t최선의 손실: 9.023458\t정확도: 27.87%\n", + "4\t검증 세트 손실: 212.178955\t최선의 손실: 9.023458\t정확도: 20.91%\n", + "5\t검증 세트 손실: 346.872559\t최선의 손실: 9.023458\t정확도: 21.03%\n", + "6\t검증 세트 손실: 359.047729\t최선의 손실: 9.023458\t정확도: 22.01%\n", + "7\t검증 세트 손실: 826.221069\t최선의 손실: 9.023458\t정확도: 22.01%\n", + "8\t검증 세트 손실: 381.218750\t최선의 손실: 9.023458\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1305.339966\t최선의 손실: 9.023458\t정확도: 19.27%\n", + "10\t검증 세트 손실: 799.439209\t최선의 손실: 9.023458\t정확도: 18.73%\n", + "11\t검증 세트 손실: 641.617432\t최선의 손실: 9.023458\t정확도: 22.05%\n", + "12\t검증 세트 손실: 401.688599\t최선의 손실: 9.023458\t정확도: 18.80%\n", + "13\t검증 세트 손실: 1133.468994\t최선의 손실: 9.023458\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "7\t검증 세트 손실: 1.652212\t최선의 손실: 0.100339\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.651821\t최선의 손실: 0.100339\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.666307\t최선의 손실: 0.100339\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.648440\t최선의 손실: 0.100339\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.672705\t최선의 손실: 0.100339\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.630117\t최선의 손실: 0.100339\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.654115\t최선의 손실: 0.100339\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.656743\t최선의 손실: 0.100339\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.623627\t최선의 손실: 0.100339\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.691659\t최선의 손실: 0.100339\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.663535\t최선의 손실: 0.100339\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.686658\t최선의 손실: 0.100339\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.665798\t최선의 손실: 0.100339\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.646455\t최선의 손실: 0.100339\t정확도: 19.08%\n", - "21\t검증 세트 손실: 1.653749\t최선의 손실: 0.100339\t정확도: 18.73%\n", - "22\t검증 세트 손실: 1.655734\t최선의 손실: 0.100339\t정확도: 19.08%\n", - "23\t검증 세트 손실: 1.657946\t최선의 손실: 0.100339\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.766302\t최선의 손실: 0.100339\t정확도: 20.91%\n", + "14\t검증 세트 손실: 2931.054688\t최선의 손실: 9.023458\t정확도: 18.73%\n", + "15\t검증 세트 손실: 11042.450195\t최선의 손실: 9.023458\t정확도: 18.73%\n", + "16\t검증 세트 손실: 2185.965820\t최선의 손실: 9.023458\t정확도: 19.08%\n", + "17\t검증 세트 손실: 3372.013184\t최선의 손실: 9.023458\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1722.974243\t최선의 손실: 9.023458\t정확도: 20.91%\n", + "19\t검증 세트 손실: 751.152344\t최선의 손실: 9.023458\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1089.378052\t최선의 손실: 9.023458\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1224.253174\t최선의 손실: 9.023458\t정확도: 22.01%\n", + "22\t검증 세트 손실: 708.846497\t최선의 손실: 9.023458\t정확도: 25.53%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=100, total= 6.8s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90 \n", - "0\t검증 세트 손실: 2.358086\t최선의 손실: 2.358086\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.625203\t최선의 손실: 1.625203\t정확도: 20.91%\n", - "2\t검증 세트 손실: 1.618189\t최선의 손실: 1.618189\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.667678\t최선의 손실: 1.618189\t정확도: 18.73%\n", - "4\t검증 세트 손실: 2.071137\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.722932\t최선의 손실: 1.618189\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.711341\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.669814\t최선의 손실: 1.618189\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.696455\t최선의 손실: 1.618189\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.685053\t최선의 손실: 1.618189\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.665492\t최선의 손실: 1.618189\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.682343\t최선의 손실: 1.618189\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.711671\t최선의 손실: 1.618189\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.997025\t최선의 손실: 1.618189\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.833612\t최선의 손실: 1.618189\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.737887\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.830271\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.731167\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.992920\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.919410\t최선의 손실: 1.618189\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.622247\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.734315\t최선의 손실: 1.618189\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.621186\t최선의 손실: 1.618189\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.925248\t최선의 손실: 1.618189\t정확도: 22.01%\n", + "[CV] n_neurons=160, learning_rate=0.02, dropout_rate=0.6, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.0min\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.152089\t최선의 손실: 0.152089\t정확도: 96.13%\n", + "1\t검증 세트 손실: 0.138895\t최선의 손실: 0.138895\t정확도: 96.76%\n", + "2\t검증 세트 손실: 0.170527\t최선의 손실: 0.138895\t정확도: 95.74%\n", + "3\t검증 세트 손실: 0.192837\t최선의 손실: 0.138895\t정확도: 94.88%\n", + "4\t검증 세트 손실: 1.838028\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.653757\t최선의 손실: 0.138895\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.683251\t최선의 손실: 0.138895\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.628332\t최선의 손실: 0.138895\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.687679\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.760495\t최선의 손실: 0.138895\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.666500\t최선의 손실: 0.138895\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.646787\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.624140\t최선의 손실: 0.138895\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.609972\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.643432\t최선의 손실: 0.138895\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.661143\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.649044\t최선의 손실: 0.138895\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.657708\t최선의 손실: 0.138895\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.650480\t최선의 손실: 0.138895\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.633730\t최선의 손실: 0.138895\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.638818\t최선의 손실: 0.138895\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.625713\t최선의 손실: 0.138895\t정확도: 19.08%\n", + "22\t검증 세트 손실: 1.631001\t최선의 손실: 0.138895\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90, total= 6.5s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90 \n", - "0\t검증 세트 손실: 1.645130\t최선의 손실: 1.645130\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.696734\t최선의 손실: 1.645130\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.773051\t최선의 손실: 1.645130\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.616661\t최선의 손실: 1.616661\t정확도: 20.91%\n", - "4\t검증 세트 손실: 1.731495\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.746448\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.683097\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.746264\t최선의 손실: 1.616661\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.883200\t최선의 손실: 1.616661\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.649718\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.696744\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.682731\t최선의 손실: 1.616661\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.683138\t최선의 손실: 1.616661\t정확도: 19.27%\n", - "13\t검증 세트 손실: 1.670957\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.737317\t최선의 손실: 1.616661\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.630379\t최선의 손실: 1.616661\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1.709789\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.768050\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.829722\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.643881\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.847711\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "21\t검증 세트 손실: 1.833085\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.684882\t최선의 손실: 1.616661\t정확도: 19.08%\n", - "23\t검증 세트 손실: 1.832161\t최선의 손실: 1.616661\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.847516\t최선의 손실: 1.616661\t정확도: 18.73%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation=, total= 6.2s\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.182915\t최선의 손실: 0.182915\t정확도: 96.17%\n", + "1\t검증 세트 손실: 0.091774\t최선의 손실: 0.091774\t정확도: 97.73%\n", + "2\t검증 세트 손실: 0.092138\t최선의 손실: 0.091774\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.204299\t최선의 손실: 0.091774\t정확도: 96.13%\n", + "4\t검증 세트 손실: 1.384337\t최선의 손실: 0.091774\t정확도: 37.61%\n", + "5\t검증 세트 손실: 1.635427\t최선의 손실: 0.091774\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.727669\t최선의 손실: 0.091774\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.643543\t최선의 손실: 0.091774\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.661134\t최선의 손실: 0.091774\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.646889\t최선의 손실: 0.091774\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.673326\t최선의 손실: 0.091774\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.617345\t최선의 손실: 0.091774\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1.649588\t최선의 손실: 0.091774\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.624301\t최선의 손실: 0.091774\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.683998\t최선의 손실: 0.091774\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.635320\t최선의 손실: 0.091774\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.659163\t최선의 손실: 0.091774\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.725746\t최선의 손실: 0.091774\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.684558\t최선의 손실: 0.091774\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.630216\t최선의 손실: 0.091774\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.671365\t최선의 손실: 0.091774\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.633419\t최선의 손실: 0.091774\t정확도: 18.73%\n", + "22\t검증 세트 손실: 1.657800\t최선의 손실: 0.091774\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90, total= 6.8s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90 \n", - "0\t검증 세트 손실: 1.760989\t최선의 손실: 1.760989\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.762391\t최선의 손실: 1.760989\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.634605\t최선의 손실: 1.634605\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.627629\t최선의 손실: 1.627629\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.801025\t최선의 손실: 1.627629\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.795902\t최선의 손실: 1.627629\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.761317\t최선의 손실: 1.627629\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.746977\t최선의 손실: 1.627629\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.629144\t최선의 손실: 1.627629\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.679759\t최선의 손실: 1.627629\t정확도: 18.73%\n", - "10\t검증 세트 손실: 1.614322\t최선의 손실: 1.614322\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.781722\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.744356\t최선의 손실: 1.614322\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.676337\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.957881\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.700733\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.901250\t최선의 손실: 1.614322\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.617781\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.627859\t최선의 손실: 1.614322\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.747921\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.767990\t최선의 손실: 1.614322\t정확도: 19.27%\n", - "21\t검증 세트 손실: 2.035471\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.814874\t최선의 손실: 1.614322\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.685566\t최선의 손실: 1.614322\t정확도: 20.91%\n", - "24\t검증 세트 손실: 1.814025\t최선의 손실: 1.614322\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.699055\t최선의 손실: 1.614322\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.702359\t최선의 손실: 1.614322\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.746646\t최선의 손실: 1.614322\t정확도: 19.27%\n", - "28\t검증 세트 손실: 2.184501\t최선의 손실: 1.614322\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.886002\t최선의 손실: 1.614322\t정확도: 19.08%\n", - "30\t검증 세트 손실: 2.034138\t최선의 손실: 1.614322\t정확도: 20.91%\n", - "31\t검증 세트 손실: 1.854042\t최선의 손실: 1.614322\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation=, total= 6.3s\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.125842\t최선의 손실: 0.125842\t정확도: 96.79%\n", + "1\t검증 세트 손실: 0.150109\t최선의 손실: 0.125842\t정확도: 95.97%\n", + "2\t검증 세트 손실: 1.667587\t최선의 손실: 0.125842\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.615465\t최선의 손실: 0.125842\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.657325\t최선의 손실: 0.125842\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.662006\t최선의 손실: 0.125842\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.728297\t최선의 손실: 0.125842\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.623261\t최선의 손실: 0.125842\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.654785\t최선의 손실: 0.125842\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.664951\t최선의 손실: 0.125842\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.644501\t최선의 손실: 0.125842\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.660663\t최선의 손실: 0.125842\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.626441\t최선의 손실: 0.125842\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.648217\t최선의 손실: 0.125842\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.661427\t최선의 손실: 0.125842\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.624979\t최선의 손실: 0.125842\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.695636\t최선의 손실: 0.125842\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.658767\t최선의 손실: 0.125842\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.678224\t최선의 손실: 0.125842\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.678144\t최선의 손실: 0.125842\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.645810\t최선의 손실: 0.125842\t정확도: 19.08%\n", + "21\t검증 세트 손실: 1.656906\t최선의 손실: 0.125842\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=, n_neurons=90, total= 8.6s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 0.136570\t최선의 손실: 0.136570\t정확도: 96.44%\n", - "1\t검증 세트 손실: 0.113560\t최선의 손실: 0.113560\t정확도: 96.60%\n", - "2\t검증 세트 손실: 0.331945\t최선의 손실: 0.113560\t정확도: 85.50%\n", - "3\t검증 세트 손실: 0.220078\t최선의 손실: 0.113560\t정확도: 93.35%\n", - "4\t검증 세트 손실: 0.155069\t최선의 손실: 0.113560\t정확도: 95.54%\n", - "5\t검증 세트 손실: 0.147302\t최선의 손실: 0.113560\t정확도: 94.68%\n", - "6\t검증 세트 손실: 0.138980\t최선의 손실: 0.113560\t정확도: 96.33%\n", - "7\t검증 세트 손실: 0.456172\t최선의 손실: 0.113560\t정확도: 77.13%\n", - "8\t검증 세트 손실: 1.260594\t최선의 손실: 0.113560\t정확도: 43.71%\n", - "9\t검증 세트 손실: 1.801050\t최선의 손실: 0.113560\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.636597\t최선의 손실: 0.113560\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.634745\t최선의 손실: 0.113560\t정확도: 22.13%\n", - "12\t검증 세트 손실: 1.615496\t최선의 손실: 0.113560\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.608788\t최선의 손실: 0.113560\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.643380\t최선의 손실: 0.113560\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.622566\t최선의 손실: 0.113560\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.631819\t최선의 손실: 0.113560\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.630251\t최선의 손실: 0.113560\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.683307\t최선의 손실: 0.113560\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.622398\t최선의 손실: 0.113560\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.655218\t최선의 손실: 0.113560\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.655367\t최선의 손실: 0.113560\t정확도: 19.08%\n", - "22\t검증 세트 손실: 1.630242\t최선의 손실: 0.113560\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.2, batch_size=100, activation=, total= 5.9s\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.692983\t최선의 손실: 1.692983\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.634010\t최선의 손실: 1.634010\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.665626\t최선의 손실: 1.634010\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.670702\t최선의 손실: 1.634010\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.929117\t최선의 손실: 1.634010\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.797386\t최선의 손실: 1.634010\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.849019\t최선의 손실: 1.634010\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.703690\t최선의 손실: 1.634010\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.655690\t최선의 손실: 1.634010\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.766562\t최선의 손실: 1.634010\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.630905\t최선의 손실: 1.630905\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.622998\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.869820\t최선의 손실: 1.622998\t정확도: 18.73%\n", + "13\t검증 세트 손실: 1.948420\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.823965\t최선의 손실: 1.622998\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.758871\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.765280\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.704258\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "18\t검증 세트 손실: 1.750596\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "19\t검증 세트 손실: 1.947995\t최선의 손실: 1.622998\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.634065\t최선의 손실: 1.622998\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.747126\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.639406\t최선의 손실: 1.622998\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.833236\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.639349\t최선의 손실: 1.622998\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.828594\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "26\t검증 세트 손실: 1.703627\t최선의 손실: 1.622998\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.698852\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "28\t검증 세트 손실: 1.859711\t최선의 손실: 1.622998\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.762636\t최선의 손실: 1.622998\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.748906\t최선의 손실: 1.622998\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.653846\t최선의 손실: 1.622998\t정확도: 19.27%\n", + "32\t검증 세트 손실: 1.957942\t최선의 손실: 1.622998\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70, total= 6.2s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 0.141831\t최선의 손실: 0.141831\t정확도: 96.44%\n", - "1\t검증 세트 손실: 0.137536\t최선의 손실: 0.137536\t정확도: 96.36%\n", - "2\t검증 세트 손실: 0.102113\t최선의 손실: 0.102113\t정확도: 97.30%\n", - "3\t검증 세트 손실: 0.181388\t최선의 손실: 0.102113\t정확도: 96.13%\n", - "4\t검증 세트 손실: 0.137699\t최선의 손실: 0.102113\t정확도: 97.54%\n", - "5\t검증 세트 손실: 0.174479\t최선의 손실: 0.102113\t정확도: 95.97%\n", - "6\t검증 세트 손실: 1.691823\t최선의 손실: 0.102113\t정확도: 19.08%\n", - "7\t검증 세트 손실: 1.624843\t최선의 손실: 0.102113\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.645752\t최선의 손실: 0.102113\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.689136\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.615376\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.647802\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.636864\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.655694\t최선의 손실: 0.102113\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.647959\t최선의 손실: 0.102113\t정확도: 22.01%\n" + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=, total= 8.6s\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.629648\t최선의 손실: 1.629648\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.864598\t최선의 손실: 1.629648\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.638185\t최선의 손실: 1.629648\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.662040\t최선의 손실: 1.629648\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.667407\t최선의 손실: 1.629648\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.674139\t최선의 손실: 1.629648\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.713709\t최선의 손실: 1.629648\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.838077\t최선의 손실: 1.629648\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.821976\t최선의 손실: 1.629648\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.895048\t최선의 손실: 1.629648\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.697403\t최선의 손실: 1.629648\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.782688\t최선의 손실: 1.629648\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.622624\t최선의 손실: 1.622624\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.618312\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.852324\t최선의 손실: 1.618312\t정확도: 19.27%\n", + "15\t검증 세트 손실: 1.646641\t최선의 손실: 1.618312\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.672348\t최선의 손실: 1.618312\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.718238\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.788517\t최선의 손실: 1.618312\t정확도: 19.27%\n", + "19\t검증 세트 손실: 1.739995\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.782231\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "21\t검증 세트 손실: 1.891856\t최선의 손실: 1.618312\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.936357\t최선의 손실: 1.618312\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.703895\t최선의 손실: 1.618312\t정확도: 20.91%\n", + "24\t검증 세트 손실: 2.088589\t최선의 손실: 1.618312\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 1.626618\t최선의 손실: 0.102113\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.620060\t최선의 손실: 0.102113\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.648194\t최선의 손실: 0.102113\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.685862\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.626079\t최선의 손실: 0.102113\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.634284\t최선의 손실: 0.102113\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.696780\t최선의 손실: 0.102113\t정확도: 18.73%\n", - "22\t검증 세트 손실: 1.620134\t최선의 손실: 0.102113\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.706395\t최선의 손실: 0.102113\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.836300\t최선의 손실: 1.618312\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.748864\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.664184\t최선의 손실: 1.618312\t정확도: 20.91%\n", + "28\t검증 세트 손실: 2.290093\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.810008\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "30\t검증 세트 손실: 1.798263\t최선의 손실: 1.618312\t정확도: 18.73%\n", + "31\t검증 세트 손실: 2.157634\t최선의 손실: 1.618312\t정확도: 22.01%\n", + "32\t검증 세트 손실: 2.084650\t최선의 손실: 1.618312\t정확도: 19.08%\n", + "33\t검증 세트 손실: 1.741309\t최선의 손실: 1.618312\t정확도: 18.73%\n", + "34\t검증 세트 손실: 1.651093\t최선의 손실: 1.618312\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70, total= 6.7s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 0.147154\t최선의 손실: 0.147154\t정확도: 96.33%\n", - "1\t검증 세트 손실: 0.142988\t최선의 손실: 0.142988\t정확도: 97.07%\n", - "2\t검증 세트 손실: 0.168618\t최선의 손실: 0.142988\t정확도: 96.13%\n", - "3\t검증 세트 손실: 0.160115\t최선의 손실: 0.142988\t정확도: 96.29%\n", - "4\t검증 세트 손실: 1.655345\t최선의 손실: 0.142988\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.636789\t최선의 손실: 0.142988\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.625242\t최선의 손실: 0.142988\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.653733\t최선의 손실: 0.142988\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.650574\t최선의 손실: 0.142988\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.698096\t최선의 손실: 0.142988\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.636430\t최선의 손실: 0.142988\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.660036\t최선의 손실: 0.142988\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.655874\t최선의 손실: 0.142988\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.618041\t최선의 손실: 0.142988\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.652179\t최선의 손실: 0.142988\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.654369\t최선의 손실: 0.142988\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.687925\t최선의 손실: 0.142988\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.662491\t최선의 손실: 0.142988\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.664543\t최선의 손실: 0.142988\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.624927\t최선의 손실: 0.142988\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.608333\t최선의 손실: 0.142988\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.693674\t최선의 손실: 0.142988\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.619706\t최선의 손실: 0.142988\t정확도: 19.08%\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=, total= 9.2s\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.781044\t최선의 손실: 1.781044\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.623683\t최선의 손실: 1.623683\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.613852\t최선의 손실: 1.613852\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.648628\t최선의 손실: 1.613852\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.695662\t최선의 손실: 1.613852\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.798275\t최선의 손실: 1.613852\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.994705\t최선의 손실: 1.613852\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.854639\t최선의 손실: 1.613852\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.659186\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.666286\t최선의 손실: 1.613852\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.689041\t최선의 손실: 1.613852\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.843713\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.793938\t최선의 손실: 1.613852\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.628704\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "14\t검증 세트 손실: 2.074130\t최선의 손실: 1.613852\t정확도: 19.27%\n", + "15\t검증 세트 손실: 1.645311\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.799941\t최선의 손실: 1.613852\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.729458\t최선의 손실: 1.613852\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.649916\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.748867\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.821198\t최선의 손실: 1.613852\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.819177\t최선의 손실: 1.613852\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.880154\t최선의 손실: 1.613852\t정확도: 20.91%\n", + "23\t검증 세트 손실: 1.663339\t최선의 손실: 1.613852\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=70, total= 6.2s\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 374.142914\t최선의 손실: 374.142914\t정확도: 20.91%\n", - "1\t검증 세트 손실: 48.390709\t최선의 손실: 48.390709\t정확도: 20.95%\n", - "2\t검증 세트 손실: 6360.429199\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "3\t검증 세트 손실: 513.527710\t최선의 손실: 48.390709\t정확도: 22.95%\n", - "4\t검증 세트 손실: 1913.034424\t최선의 손실: 48.390709\t정확도: 22.01%\n", - "5\t검증 세트 손실: 770.760437\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "6\t검증 세트 손실: 1609.601685\t최선의 손실: 48.390709\t정확도: 19.27%\n", - "7\t검증 세트 손실: 3114.935303\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "8\t검증 세트 손실: 723.725159\t최선의 손실: 48.390709\t정확도: 19.27%\n", - "9\t검증 세트 손실: 14836.805664\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "10\t검증 세트 손실: 15184.696289\t최선의 손실: 48.390709\t정확도: 22.01%\n", - "11\t검증 세트 손실: 939.771667\t최선의 손실: 48.390709\t정확도: 20.91%\n", - "12\t검증 세트 손실: 3369.956299\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "13\t검증 세트 손실: 14263.865234\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1471.974731\t최선의 손실: 48.390709\t정확도: 19.08%\n", - "15\t검증 세트 손실: 2158.067383\t최선의 손실: 48.390709\t정확도: 36.94%\n", - "16\t검증 세트 손실: 99986.835938\t최선의 손실: 48.390709\t정확도: 22.09%\n", - "17\t검증 세트 손실: 5382.354980\t최선의 손실: 48.390709\t정확도: 18.73%\n", - "18\t검증 세트 손실: 2891.717041\t최선의 손실: 48.390709\t정확도: 19.08%\n", - "19\t검증 세트 손실: 6483.016602\t최선의 손실: 48.390709\t정확도: 22.01%\n", - "20\t검증 세트 손실: 272.895569\t최선의 손실: 48.390709\t정확도: 22.36%\n", - "21\t검증 세트 손실: 17198.021484\t최선의 손실: 48.390709\t정확도: 19.31%\n", - "22\t검증 세트 손실: 3746.890137\t최선의 손실: 48.390709\t정확도: 23.53%\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=, total= 6.4s\n", + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.119704\t최선의 손실: 0.119704\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.147660\t최선의 손실: 0.119704\t정확도: 95.97%\n", + "2\t검증 세트 손실: 0.321540\t최선의 손실: 0.119704\t정확도: 89.17%\n", + "3\t검증 세트 손실: 1.025313\t최선의 손실: 0.119704\t정확도: 52.03%\n", + "4\t검증 세트 손실: 0.857567\t최선의 손실: 0.119704\t정확도: 52.74%\n", + "5\t검증 세트 손실: 1.002790\t최선의 손실: 0.119704\t정확도: 53.40%\n", + "6\t검증 세트 손실: 0.831417\t최선의 손실: 0.119704\t정확도: 58.09%\n", + "7\t검증 세트 손실: 1.568082\t최선의 손실: 0.119704\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.709089\t최선의 손실: 0.119704\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.670374\t최선의 손실: 0.119704\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.620434\t최선의 손실: 0.119704\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.628996\t최선의 손실: 0.119704\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.630332\t최선의 손실: 0.119704\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.608712\t최선의 손실: 0.119704\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.642262\t최선의 손실: 0.119704\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.622014\t최선의 손실: 0.119704\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.628405\t최선의 손실: 0.119704\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.633337\t최선의 손실: 0.119704\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.702727\t최선의 손실: 0.119704\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.627840\t최선의 손실: 0.119704\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.660069\t최선의 손실: 0.119704\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.655098\t최선의 손실: 0.119704\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 1.0min\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 55688.925781\t최선의 손실: 55688.925781\t정확도: 18.73%\n", - "1\t검증 세트 손실: 4392.565918\t최선의 손실: 4392.565918\t정확도: 22.01%\n", - "2\t검증 세트 손실: 828.693970\t최선의 손실: 828.693970\t정확도: 18.73%\n", - "3\t검증 세트 손실: 2576.187744\t최선의 손실: 828.693970\t정확도: 19.08%\n", - "4\t검증 세트 손실: 745.360291\t최선의 손실: 745.360291\t정확도: 19.08%\n", - "5\t검증 세트 손실: 10470.461914\t최선의 손실: 745.360291\t정확도: 19.27%\n", - "6\t검증 세트 손실: 6220.396973\t최선의 손실: 745.360291\t정확도: 18.73%\n", - "7\t검증 세트 손실: 2581.976074\t최선의 손실: 745.360291\t정확도: 20.56%\n", - "8\t검증 세트 손실: 1202.184937\t최선의 손실: 745.360291\t정확도: 19.08%\n", - "9\t검증 세트 손실: 1574.841919\t최선의 손실: 745.360291\t정확도: 19.27%\n", - "10\t검증 세트 손실: 2901.752930\t최선의 손실: 745.360291\t정확도: 29.67%\n", - "11\t검증 세트 손실: 541.390198\t최선의 손실: 541.390198\t정확도: 20.91%\n", - "12\t검증 세트 손실: 300.838196\t최선의 손실: 300.838196\t정확도: 34.25%\n", - "13\t검증 세트 손실: 1486.160034\t최선의 손실: 300.838196\t정확도: 19.27%\n", - "14\t검증 세트 손실: 11520.755859\t최선의 손실: 300.838196\t정확도: 18.73%\n", - "15\t검증 세트 손실: 857.083679\t최선의 손실: 300.838196\t정확도: 18.88%\n", - "16\t검증 세트 손실: 1832.955688\t최선의 손실: 300.838196\t정확도: 19.23%\n", - "17\t검증 세트 손실: 1246.401733\t최선의 손실: 300.838196\t정확도: 19.08%\n", - "18\t검증 세트 손실: 279.770508\t최선의 손실: 279.770508\t정확도: 21.38%\n", - "19\t검증 세트 손실: 10179.719727\t최선의 손실: 279.770508\t정확도: 19.31%\n", - "20\t검증 세트 손실: 17181.216797\t최선의 손실: 279.770508\t정확도: 22.05%\n", - "21\t검증 세트 손실: 3282.569092\t최선의 손실: 279.770508\t정확도: 22.01%\n", - "22\t검증 세트 손실: 12479.372070\t최선의 손실: 279.770508\t정확도: 22.01%\n", - "23\t검증 세트 손실: 802.816162\t최선의 손실: 279.770508\t정확도: 22.01%\n", - "24\t검증 세트 손실: 2398.779541\t최선의 손실: 279.770508\t정확도: 19.08%\n", - "25\t검증 세트 손실: 4071.771973\t최선의 손실: 279.770508\t정확도: 20.91%\n", - "26\t검증 세트 손실: 4728.353516\t최선의 손실: 279.770508\t정확도: 19.08%\n", - "27\t검증 세트 손실: 588.928406\t최선의 손실: 279.770508\t정확도: 25.41%\n", - "28\t검증 세트 손실: 7413.416504\t최선의 손실: 279.770508\t정확도: 19.27%\n", - "29\t검증 세트 손실: 703.142517\t최선의 손실: 279.770508\t정확도: 20.17%\n", - "30\t검증 세트 손실: 10895.582031\t최선의 손실: 279.770508\t정확도: 22.09%\n", - "31\t검증 세트 손실: 50191.824219\t최선의 손실: 279.770508\t정확도: 18.73%\n", - "32\t검증 세트 손실: 5605.180176\t최선의 손실: 279.770508\t정확도: 18.73%\n", - "33\t검증 세트 손실: 8217.391602\t최선의 손실: 279.770508\t정확도: 22.01%\n", - "34\t검증 세트 손실: 1585.447021\t최선의 손실: 279.770508\t정확도: 39.95%\n", - "35\t검증 세트 손실: 5923.179688\t최선의 손실: 279.770508\t정확도: 21.50%\n", - "36\t검증 세트 손실: 34127.644531\t최선의 손실: 279.770508\t정확도: 20.91%\n", - "37\t검증 세트 손실: 3251.662598\t최선의 손실: 279.770508\t정확도: 20.91%\n", - "38\t검증 세트 손실: 5515.391602\t최선의 손실: 279.770508\t정확도: 18.73%\n", - "39\t검증 세트 손실: 1658.124878\t최선의 손실: 279.770508\t정확도: 19.23%\n", + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=, total= 6.0s\n", + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.167420\t최선의 손실: 0.167420\t정확도: 96.48%\n", + "1\t검증 세트 손실: 0.196238\t최선의 손실: 0.167420\t정확도: 96.52%\n", + "2\t검증 세트 손실: 0.405159\t최선의 손실: 0.167420\t정확도: 89.80%\n", + "3\t검증 세트 손실: 0.913668\t최선의 손실: 0.167420\t정확도: 54.46%\n", + "4\t검증 세트 손실: 0.939007\t최선의 손실: 0.167420\t정확도: 51.25%\n", + "5\t검증 세트 손실: 1.078936\t최선의 손실: 0.167420\t정확도: 48.55%\n", + "6\t검증 세트 손실: 0.931133\t최선의 손실: 0.167420\t정확도: 51.09%\n", + "7\t검증 세트 손실: 0.880502\t최선의 손실: 0.167420\t정확도: 56.22%\n", + "8\t검증 세트 손실: 1.632752\t최선의 손실: 0.167420\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.688406\t최선의 손실: 0.167420\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.608655\t최선의 손실: 0.167420\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.630542\t최선의 손실: 0.167420\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.625468\t최선의 손실: 0.167420\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.654829\t최선의 손실: 0.167420\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.630627\t최선의 손실: 0.167420\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.636790\t최선의 손실: 0.167420\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.617702\t최선의 손실: 0.167420\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.641143\t최선의 손실: 0.167420\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.686540\t최선의 손실: 0.167420\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.635808\t최선의 손실: 0.167420\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.647429\t최선의 손실: 0.167420\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.696456\t최선의 손실: 0.167420\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 1.8min\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 29066.746094\t최선의 손실: 29066.746094\t정확도: 21.58%\n", - "1\t검증 세트 손실: 3538.552734\t최선의 손실: 3538.552734\t정확도: 18.73%\n", - "2\t검증 세트 손실: 3318.723145\t최선의 손실: 3318.723145\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1678.035767\t최선의 손실: 1678.035767\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1048.679321\t최선의 손실: 1048.679321\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1289.888184\t최선의 손실: 1048.679321\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1431.220337\t최선의 손실: 1048.679321\t정확도: 19.27%\n", - "7\t검증 세트 손실: 3054.009766\t최선의 손실: 1048.679321\t정확도: 19.00%\n", - "8\t검증 세트 손실: 1389.281250\t최선의 손실: 1048.679321\t정확도: 35.38%\n", - "9\t검증 세트 손실: 8070.395508\t최선의 손실: 1048.679321\t정확도: 19.08%\n", - "10\t검증 세트 손실: 999.222412\t최선의 손실: 999.222412\t정확도: 22.01%\n", - "11\t검증 세트 손실: 217.057571\t최선의 손실: 217.057571\t정확도: 22.56%\n", - "12\t검증 세트 손실: 17120.628906\t최선의 손실: 217.057571\t정확도: 21.31%\n", - "13\t검증 세트 손실: 3380.516113\t최선의 손실: 217.057571\t정확도: 19.08%\n", - "14\t검증 세트 손실: 696.650818\t최선의 손실: 217.057571\t정확도: 23.53%\n", - "15\t검증 세트 손실: 2487.962646\t최선의 손실: 217.057571\t정확도: 20.91%\n", - "16\t검증 세트 손실: 254.737030\t최선의 손실: 217.057571\t정확도: 22.17%\n", - "17\t검증 세트 손실: 10804.982422\t최선의 손실: 217.057571\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1193.532837\t최선의 손실: 217.057571\t정확도: 19.51%\n", - "19\t검증 세트 손실: 30195.392578\t최선의 손실: 217.057571\t정확도: 19.27%\n", - "20\t검증 세트 손실: 981.705017\t최선의 손실: 217.057571\t정확도: 18.80%\n", - "21\t검증 세트 손실: 4985.041016\t최선의 손실: 217.057571\t정확도: 19.23%\n", - "22\t검증 세트 손실: 289.108276\t최선의 손실: 217.057571\t정확도: 40.03%\n", - "23\t검증 세트 손실: 4222.863281\t최선의 손실: 217.057571\t정확도: 20.91%\n", - "24\t검증 세트 손실: 10291.775391\t최선의 손실: 217.057571\t정확도: 19.27%\n", - "25\t검증 세트 손실: 900.752930\t최선의 손실: 217.057571\t정확도: 22.01%\n", - "26\t검증 세트 손실: 7897.083496\t최선의 손실: 217.057571\t정확도: 20.91%\n", - "27\t검증 세트 손실: 11357.541016\t최선의 손실: 217.057571\t정확도: 22.01%\n", - "28\t검증 세트 손실: 5441.356445\t최선의 손실: 217.057571\t정확도: 22.01%\n", - "29\t검증 세트 손실: 4268.490234\t최선의 손실: 217.057571\t정확도: 18.73%\n", - "30\t검증 세트 손실: 5862.382812\t최선의 손실: 217.057571\t정확도: 21.31%\n", - "31\t검증 세트 손실: 2207.669189\t최선의 손실: 217.057571\t정확도: 21.85%\n", - "32\t검증 세트 손실: 7359.359863\t최선의 손실: 217.057571\t정확도: 18.76%\n", + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=, total= 5.9s\n", + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.130811\t최선의 손실: 0.130811\t정확도: 96.99%\n", + "1\t검증 세트 손실: 0.159952\t최선의 손실: 0.130811\t정확도: 95.39%\n", + "2\t검증 세트 손실: 0.147014\t최선의 손실: 0.130811\t정확도: 97.15%\n", + "3\t검증 세트 손실: 0.449202\t최선의 손실: 0.130811\t정확도: 76.15%\n", + "4\t검증 세트 손실: 1.267627\t최선의 손실: 0.130811\t정확도: 40.30%\n", + "5\t검증 세트 손실: 1.216121\t최선의 손실: 0.130811\t정확도: 42.22%\n", + "6\t검증 세트 손실: 1.186267\t최선의 손실: 0.130811\t정확도: 38.58%\n", + "7\t검증 세트 손실: 1.195587\t최선의 손실: 0.130811\t정확도: 42.03%\n", + "8\t검증 세트 손실: 1.177003\t최선의 손실: 0.130811\t정확도: 38.58%\n", + "9\t검증 세트 손실: 1.218752\t최선의 손실: 0.130811\t정확도: 39.21%\n", + "10\t검증 세트 손실: 1.170939\t최선의 손실: 0.130811\t정확도: 41.75%\n", + "11\t검증 세트 손실: 1.185230\t최선의 손실: 0.130811\t정확도: 41.09%\n", + "12\t검증 세트 손실: 1.188707\t최선의 손실: 0.130811\t정확도: 39.13%\n", + "13\t검증 세트 손실: 1.695451\t최선의 손실: 0.130811\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.627065\t최선의 손실: 0.130811\t정확도: 21.11%\n", + "15\t검증 세트 손실: 1.692439\t최선의 손실: 0.130811\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.665276\t최선의 손실: 0.130811\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.635673\t최선의 손실: 0.130811\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.651810\t최선의 손실: 0.130811\t정확도: 19.43%\n", + "19\t검증 세트 손실: 1.603490\t최선의 손실: 0.130811\t정확도: 20.13%\n", + "20\t검증 세트 손실: 1.556691\t최선의 손실: 0.130811\t정확도: 25.33%\n", + "21\t검증 세트 손실: 1.593931\t최선의 손실: 0.130811\t정확도: 28.03%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 1.5min\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10 \n" + "[CV] n_neurons=70, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=, total= 6.0s\n", + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 2220.088623\t최선의 손실: 2220.088623\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1084.257080\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "2\t검증 세트 손실: 3229.718506\t최선의 손실: 1084.257080\t정확도: 18.73%\n", + "3\t검증 세트 손실: 139418.703125\t최선의 손실: 1084.257080\t정확도: 20.91%\n", + "4\t검증 세트 손실: 4982.440430\t최선의 손실: 1084.257080\t정확도: 22.01%\n", + "5\t검증 세트 손실: 39281.804688\t최선의 손실: 1084.257080\t정확도: 28.69%\n", + "6\t검증 세트 손실: 4884.800293\t최선의 손실: 1084.257080\t정확도: 22.01%\n", + "7\t검증 세트 손실: 47066.800781\t최선의 손실: 1084.257080\t정확도: 20.91%\n", + "8\t검증 세트 손실: 6914.382324\t최선의 손실: 1084.257080\t정확도: 22.01%\n", + "9\t검증 세트 손실: 2426.815674\t최선의 손실: 1084.257080\t정확도: 30.02%\n", + "10\t검증 세트 손실: 1498.662842\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "11\t검증 세트 손실: 6471.541504\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "12\t검증 세트 손실: 4900.728516\t최선의 손실: 1084.257080\t정확도: 18.73%\n", + "13\t검증 세트 손실: 20360.544922\t최선의 손실: 1084.257080\t정확도: 19.12%\n", + "14\t검증 세트 손실: 6599.744141\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1808.766235\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "16\t검증 세트 손실: 5824.429199\t최선의 손실: 1084.257080\t정확도: 19.08%\n", + "17\t검증 세트 손실: 3963.435547\t최선의 손실: 1084.257080\t정확도: 19.23%\n", + "18\t검증 세트 손실: 201.980606\t최선의 손실: 201.980606\t정확도: 29.05%\n", + "19\t검증 세트 손실: 4870.045410\t최선의 손실: 201.980606\t정확도: 20.88%\n", + "20\t검증 세트 손실: 9919.099609\t최선의 손실: 201.980606\t정확도: 18.73%\n", + "21\t검증 세트 손실: 7927.728516\t최선의 손실: 201.980606\t정확도: 19.27%\n", + "22\t검증 세트 손실: 4901.930176\t최선의 손실: 201.980606\t정확도: 22.01%\n", + "23\t검증 세트 손실: 4622.771484\t최선의 손실: 201.980606\t정확도: 19.08%\n", + "24\t검증 세트 손실: 716.387451\t최선의 손실: 201.980606\t정확도: 33.89%\n", + "25\t검증 세트 손실: 14403.823242\t최선의 손실: 201.980606\t정확도: 20.91%\n", + "26\t검증 세트 손실: 875.325745\t최선의 손실: 201.980606\t정확도: 21.11%\n", + "27\t검증 세트 손실: 13114.158203\t최선의 손실: 201.980606\t정확도: 18.73%\n", + "28\t검증 세트 손실: 698.253784\t최선의 손실: 201.980606\t정확도: 17.79%\n", + "29\t검증 세트 손실: 377.133881\t최선의 손실: 201.980606\t정확도: 33.50%\n", + "30\t검증 세트 손실: 108104.304688\t최선의 손실: 201.980606\t정확도: 19.08%\n", + "31\t검증 세트 손실: 27514.080078\t최선의 손실: 201.980606\t정확도: 20.84%\n", + "32\t검증 세트 손실: 4031.797607\t최선의 손실: 201.980606\t정확도: 31.55%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.674005\t최선의 손실: 0.674005\t정확도: 59.11%\n", - "1\t검증 세트 손실: 0.557908\t최선의 손실: 0.557908\t정확도: 74.35%\n", - "2\t검증 세트 손실: 0.534037\t최선의 손실: 0.534037\t정확도: 74.71%\n", - "3\t검증 세트 손실: 0.466092\t최선의 손실: 0.466092\t정확도: 76.66%\n", - "4\t검증 세트 손실: 0.443895\t최선의 손실: 0.443895\t정확도: 75.37%\n", - "5\t검증 세트 손실: 0.443703\t최선의 손실: 0.443703\t정확도: 75.29%\n", - "6\t검증 세트 손실: 0.491877\t최선의 손실: 0.443703\t정확도: 75.02%\n", - "7\t검증 세트 손실: 0.456598\t최선의 손실: 0.443703\t정확도: 75.61%\n", - "8\t검증 세트 손실: 0.460923\t최선의 손실: 0.443703\t정확도: 76.11%\n", - "9\t검증 세트 손실: 0.447095\t최선의 손실: 0.443703\t정확도: 76.43%\n", - "10\t검증 세트 손실: 0.451221\t최선의 손실: 0.443703\t정확도: 76.97%\n", - "11\t검증 세트 손실: 0.445150\t최선의 손실: 0.443703\t정확도: 83.70%\n", - "12\t검증 세트 손실: 0.298430\t최선의 손실: 0.298430\t정확도: 95.50%\n", - "13\t검증 세트 손실: 0.335397\t최선의 손실: 0.298430\t정확도: 95.47%\n", - "14\t검증 세트 손실: 0.326261\t최선의 손실: 0.298430\t정확도: 95.86%\n", - "15\t검증 세트 손실: 0.325859\t최선의 손실: 0.298430\t정확도: 94.02%\n", - "16\t검증 세트 손실: 0.268863\t최선의 손실: 0.268863\t정확도: 95.82%\n", - "17\t검증 세트 손실: 0.311431\t최선의 손실: 0.268863\t정확도: 95.19%\n", - "18\t검증 세트 손실: 0.296185\t최선의 손실: 0.268863\t정확도: 95.58%\n", - "19\t검증 세트 손실: 0.269534\t최선의 손실: 0.268863\t정확도: 95.39%\n", - "20\t검증 세트 손실: 0.294525\t최선의 손실: 0.268863\t정확도: 92.96%\n", - "21\t검증 세트 손실: 0.278058\t최선의 손실: 0.268863\t정확도: 95.47%\n", - "22\t검증 세트 손실: 0.334635\t최선의 손실: 0.268863\t정확도: 94.76%\n", - "23\t검증 세트 손실: 0.364918\t최선의 손실: 0.268863\t정확도: 92.61%\n", - "24\t검증 세트 손실: 0.335652\t최선의 손실: 0.268863\t정확도: 95.19%\n", - "25\t검증 세트 손실: 0.287977\t최선의 손실: 0.268863\t정확도: 95.27%\n", - "26\t검증 세트 손실: 0.343063\t최선의 손실: 0.268863\t정확도: 94.10%\n", - "27\t검증 세트 손실: 0.314214\t최선의 손실: 0.268863\t정확도: 95.54%\n", - "28\t검증 세트 손실: 0.280781\t최선의 손실: 0.268863\t정확도: 95.07%\n", - "29\t검증 세트 손실: 0.280982\t최선의 손실: 0.268863\t정확도: 95.04%\n", - "30\t검증 세트 손실: 0.272444\t최선의 손실: 0.268863\t정확도: 95.23%\n", - "31\t검증 세트 손실: 0.311316\t최선의 손실: 0.268863\t정확도: 95.54%\n", - "32\t검증 세트 손실: 0.350006\t최선의 손실: 0.268863\t정확도: 89.84%\n", - "33\t검증 세트 손실: 0.321582\t최선의 손실: 0.268863\t정확도: 94.64%\n", - "34\t검증 세트 손실: 0.335901\t최선의 손실: 0.268863\t정확도: 93.24%\n", - "35\t검증 세트 손실: 0.298195\t최선의 손실: 0.268863\t정확도: 94.80%\n", - "36\t검증 세트 손실: 0.323375\t최선의 손실: 0.268863\t정확도: 92.89%\n", - "37\t검증 세트 손실: 0.303235\t최선의 손실: 0.268863\t정확도: 94.61%\n", + "33\t검증 세트 손실: 2510.960449\t최선의 손실: 201.980606\t정확도: 19.16%\n", + "34\t검증 세트 손실: 264.047150\t최선의 손실: 201.980606\t정확도: 26.82%\n", + "35\t검증 세트 손실: 11843.022461\t최선의 손실: 201.980606\t정확도: 19.27%\n", + "36\t검증 세트 손실: 1149.776978\t최선의 손실: 201.980606\t정확도: 22.01%\n", + "37\t검증 세트 손실: 11789.718750\t최선의 손실: 201.980606\t정확도: 22.01%\n", + "38\t검증 세트 손실: 2919.350342\t최선의 손실: 201.980606\t정확도: 22.01%\n", + "39\t검증 세트 손실: 2381.836914\t최선의 손실: 201.980606\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10, total= 18.3s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10 \n", - "0\t검증 세트 손실: 0.405709\t최선의 손실: 0.405709\t정확도: 78.69%\n", - "1\t검증 세트 손실: 0.395435\t최선의 손실: 0.395435\t정확도: 79.05%\n", - "2\t검증 세트 손실: 0.365068\t최선의 손실: 0.365068\t정확도: 79.95%\n", - "3\t검증 세트 손실: 0.386100\t최선의 손실: 0.365068\t정확도: 78.46%\n", - "4\t검증 세트 손실: 0.373236\t최선의 손실: 0.365068\t정확도: 78.38%\n", - "5\t검증 세트 손실: 0.371245\t최선의 손실: 0.365068\t정확도: 78.62%\n", - "6\t검증 세트 손실: 0.371238\t최선의 손실: 0.365068\t정확도: 78.30%\n", - "7\t검증 세트 손실: 0.386803\t최선의 손실: 0.365068\t정확도: 78.62%\n", - "8\t검증 세트 손실: 0.388551\t최선의 손실: 0.365068\t정확도: 79.20%\n", - "9\t검증 세트 손실: 0.360023\t최선의 손실: 0.360023\t정확도: 79.48%\n", - "10\t검증 세트 손실: 0.380214\t최선의 손실: 0.360023\t정확도: 79.01%\n", - "11\t검증 세트 손실: 0.380110\t최선의 손실: 0.360023\t정확도: 78.54%\n", - "12\t검증 세트 손실: 0.381870\t최선의 손실: 0.360023\t정확도: 79.48%\n", - "13\t검증 세트 손실: 0.360127\t최선의 손실: 0.360023\t정확도: 78.54%\n", - "14\t검증 세트 손실: 0.369027\t최선의 손실: 0.360023\t정확도: 79.71%\n", - "15\t검증 세트 손실: 0.378898\t최선의 손실: 0.360023\t정확도: 79.67%\n", - "16\t검증 세트 손실: 0.406336\t최선의 손실: 0.360023\t정확도: 79.48%\n", - "17\t검증 세트 손실: 0.392075\t최선의 손실: 0.360023\t정확도: 78.26%\n", - "18\t검증 세트 손실: 0.383996\t최선의 손실: 0.360023\t정확도: 79.20%\n", - "19\t검증 세트 손실: 0.363484\t최선의 손실: 0.360023\t정확도: 80.10%\n", - "20\t검증 세트 손실: 0.367012\t최선의 손실: 0.360023\t정확도: 79.79%\n", - "21\t검증 세트 손실: 0.372182\t최선의 손실: 0.360023\t정확도: 79.44%\n", - "22\t검증 세트 손실: 0.369918\t최선의 손실: 0.360023\t정확도: 79.20%\n", - "23\t검증 세트 손실: 0.359489\t최선의 손실: 0.359489\t정확도: 79.48%\n", - "24\t검증 세트 손실: 0.371215\t최선의 손실: 0.359489\t정확도: 78.58%\n", - "25\t검증 세트 손실: 0.370321\t최선의 손실: 0.359489\t정확도: 79.55%\n", - "26\t검증 세트 손실: 0.390599\t최선의 손실: 0.359489\t정확도: 78.34%\n", - "27\t검증 세트 손실: 0.377223\t최선의 손실: 0.359489\t정확도: 78.50%\n", - "28\t검증 세트 손실: 0.371534\t최선의 손실: 0.359489\t정확도: 78.81%\n", - "29\t검증 세트 손실: 0.399552\t최선의 손실: 0.359489\t정확도: 79.01%\n", - "30\t검증 세트 손실: 0.375903\t최선의 손실: 0.359489\t정확도: 79.28%\n", - "31\t검증 세트 손실: 0.376446\t최선의 손실: 0.359489\t정확도: 82.60%\n", - "32\t검증 세트 손실: 0.378590\t최선의 손실: 0.359489\t정확도: 78.81%\n", - "33\t검증 세트 손실: 0.393494\t최선의 손실: 0.359489\t정확도: 78.50%\n", - "34\t검증 세트 손실: 0.650816\t최선의 손실: 0.359489\t정확도: 58.21%\n", - "35\t검증 세트 손실: 0.399453\t최선의 손실: 0.359489\t정확도: 78.50%\n", - "36\t검증 세트 손실: 0.396557\t최선의 손실: 0.359489\t정확도: 79.44%\n", - "37\t검증 세트 손실: 0.397939\t최선의 손실: 0.359489\t정확도: 79.16%\n", - "38\t검증 세트 손실: 0.382273\t최선의 손실: 0.359489\t정확도: 81.16%\n", - "39\t검증 세트 손실: 0.366426\t최선의 손실: 0.359489\t정확도: 79.16%\n", - "40\t검증 세트 손실: 0.384919\t최선의 손실: 0.359489\t정확도: 79.28%\n", - "41\t검증 세트 손실: 0.366524\t최선의 손실: 0.359489\t정확도: 83.23%\n", - "42\t검증 세트 손실: 0.383192\t최선의 손실: 0.359489\t정확도: 79.16%\n", - "43\t검증 세트 손실: 0.399680\t최선의 손실: 0.359489\t정확도: 78.30%\n", - "44\t검증 세트 손실: 0.372708\t최선의 손실: 0.359489\t정확도: 79.83%\n", + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.8min\n", + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 158.858902\t최선의 손실: 158.858902\t정확도: 20.80%\n", + "1\t검증 세트 손실: 4247.608398\t최선의 손실: 158.858902\t정확도: 22.05%\n", + "2\t검증 세트 손실: 4472.159668\t최선의 손실: 158.858902\t정확도: 20.88%\n", + "3\t검증 세트 손실: 755.809448\t최선의 손실: 158.858902\t정확도: 19.31%\n", + "4\t검증 세트 손실: 5925.249512\t최선의 손실: 158.858902\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1258.870605\t최선의 손실: 158.858902\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1749.294312\t최선의 손실: 158.858902\t정확도: 20.91%\n", + "7\t검증 세트 손실: 817.255554\t최선의 손실: 158.858902\t정확도: 19.59%\n", + "8\t검증 세트 손실: 1682.486694\t최선의 손실: 158.858902\t정확도: 20.99%\n", + "9\t검증 세트 손실: 30003.505859\t최선의 손실: 158.858902\t정확도: 19.27%\n", + "10\t검증 세트 손실: 466.487183\t최선의 손실: 158.858902\t정확도: 22.01%\n", + "11\t검증 세트 손실: 420.658264\t최선의 손실: 158.858902\t정확도: 24.47%\n", + "12\t검증 세트 손실: 3488.315918\t최선의 손실: 158.858902\t정확도: 22.01%\n", + "13\t검증 세트 손실: 53912.074219\t최선의 손실: 158.858902\t정확도: 19.27%\n", + "14\t검증 세트 손실: 609.928833\t최선의 손실: 158.858902\t정확도: 32.29%\n", + "15\t검증 세트 손실: 3469.899170\t최선의 손실: 158.858902\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1778.832520\t최선의 손실: 158.858902\t정확도: 19.27%\n", + "17\t검증 세트 손실: 97648.882812\t최선의 손실: 158.858902\t정확도: 20.88%\n", + "18\t검증 세트 손실: 4281.182129\t최선의 손실: 158.858902\t정확도: 20.91%\n", + "19\t검증 세트 손실: 2842.063965\t최선의 손실: 158.858902\t정확도: 20.91%\n", + "20\t검증 세트 손실: 653.977844\t최선의 손실: 158.858902\t정확도: 20.25%\n", + "21\t검증 세트 손실: 20812.613281\t최선의 손실: 158.858902\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10, total= 21.6s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10 \n", - "0\t검증 세트 손실: 0.411077\t최선의 손실: 0.411077\t정확도: 78.69%\n", - "1\t검증 세트 손실: 0.396426\t최선의 손실: 0.396426\t정확도: 78.93%\n", - "2\t검증 세트 손실: 0.383113\t최선의 손실: 0.383113\t정확도: 79.44%\n", - "3\t검증 세트 손실: 0.417203\t최선의 손실: 0.383113\t정확도: 78.34%\n", - "4\t검증 세트 손실: 0.384018\t최선의 손실: 0.383113\t정확도: 78.34%\n", - "5\t검증 세트 손실: 0.380794\t최선의 손실: 0.380794\t정확도: 80.81%\n", - "6\t검증 세트 손실: 0.371570\t최선의 손실: 0.371570\t정확도: 79.44%\n", - "7\t검증 세트 손실: 0.395878\t최선의 손실: 0.371570\t정확도: 77.52%\n", - "8\t검증 세트 손실: 0.397290\t최선의 손실: 0.371570\t정확도: 79.05%\n", - "9\t검증 세트 손실: 0.389890\t최선의 손실: 0.371570\t정확도: 78.42%\n", - "10\t검증 세트 손실: 0.370901\t최선의 손실: 0.370901\t정확도: 79.16%\n", - "11\t검증 세트 손실: 0.391938\t최선의 손실: 0.370901\t정확도: 78.85%\n", - "12\t검증 세트 손실: 0.371352\t최선의 손실: 0.370901\t정확도: 78.15%\n", - "13\t검증 세트 손실: 0.390422\t최선의 손실: 0.370901\t정확도: 77.91%\n", - "14\t검증 세트 손실: 0.392411\t최선의 손실: 0.370901\t정확도: 78.26%\n", - "15\t검증 세트 손실: 0.386335\t최선의 손실: 0.370901\t정확도: 77.99%\n", - "16\t검증 세트 손실: 0.412546\t최선의 손실: 0.370901\t정확도: 78.97%\n", - "17\t검증 세트 손실: 0.405955\t최선의 손실: 0.370901\t정확도: 78.26%\n", - "18\t검증 세트 손실: 0.382148\t최선의 손실: 0.370901\t정확도: 78.26%\n", - "19\t검증 세트 손실: 0.376561\t최선의 손실: 0.370901\t정확도: 79.40%\n", - "20\t검증 세트 손실: 0.372523\t최선의 손실: 0.370901\t정확도: 79.63%\n", - "21\t검증 세트 손실: 0.418009\t최선의 손실: 0.370901\t정확도: 79.28%\n", - "22\t검증 세트 손실: 0.388013\t최선의 손실: 0.370901\t정확도: 77.68%\n", - "23\t검증 세트 손실: 0.382658\t최선의 손실: 0.370901\t정확도: 78.23%\n", - "24\t검증 세트 손실: 0.382040\t최선의 손실: 0.370901\t정확도: 79.67%\n", - "25\t검증 세트 손실: 0.391961\t최선의 손실: 0.370901\t정확도: 79.28%\n", - "26\t검증 세트 손실: 0.382281\t최선의 손실: 0.370901\t정확도: 79.52%\n", - "27\t검증 세트 손실: 0.378916\t최선의 손실: 0.370901\t정확도: 79.44%\n", - "28\t검증 세트 손실: 0.375807\t최선의 손실: 0.370901\t정확도: 78.30%\n", - "29\t검증 세트 손실: 0.403290\t최선의 손실: 0.370901\t정확도: 79.36%\n", - "30\t검증 세트 손실: 0.379629\t최선의 손실: 0.370901\t정확도: 78.30%\n", - "31\t검증 세트 손실: 0.371774\t최선의 손실: 0.370901\t정확도: 78.46%\n", + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 58.5s\n", + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 729.470581\t최선의 손실: 729.470581\t정확도: 18.96%\n", + "1\t검증 세트 손실: 307.811707\t최선의 손실: 307.811707\t정확도: 19.08%\n", + "2\t검증 세트 손실: 5366.486328\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "3\t검증 세트 손실: 6191.896973\t최선의 손실: 307.811707\t정확도: 19.86%\n", + "4\t검증 세트 손실: 618.586060\t최선의 손실: 307.811707\t정확도: 19.08%\n", + "5\t검증 세트 손실: 3461.447998\t최선의 손실: 307.811707\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1866.077393\t최선의 손실: 307.811707\t정확도: 19.08%\n", + "7\t검증 세트 손실: 2026.437012\t최선의 손실: 307.811707\t정확도: 21.97%\n", + "8\t검증 세트 손실: 1208.886841\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "9\t검증 세트 손실: 1303.061401\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "10\t검증 세트 손실: 48238.171875\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "11\t검증 세트 손실: 4255.718750\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1643.895630\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "13\t검증 세트 손실: 740.661133\t최선의 손실: 307.811707\t정확도: 20.99%\n", + "14\t검증 세트 손실: 3407.601562\t최선의 손실: 307.811707\t정확도: 21.19%\n", + "15\t검증 세트 손실: 3099.128418\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1928.973999\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "17\t검증 세트 손실: 1760.880981\t최선의 손실: 307.811707\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2472.278564\t최선의 손실: 307.811707\t정확도: 19.19%\n", + "19\t검증 세트 손실: 21561.683594\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "20\t검증 세트 손실: 2528.783447\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "21\t검증 세트 손실: 25638.101562\t최선의 손실: 307.811707\t정확도: 18.73%\n", + "22\t검증 세트 손실: 735.086792\t최선의 손실: 307.811707\t정확도: 32.76%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=10, total= 15.7s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.466338\t최선의 손실: 0.466338\t정확도: 86.28%\n", - "1\t검증 세트 손실: 0.270657\t최선의 손실: 0.270657\t정확도: 93.43%\n", - "2\t검증 세트 손실: 0.215395\t최선의 손실: 0.215395\t정확도: 95.07%\n", - "3\t검증 세트 손실: 0.228071\t최선의 손실: 0.215395\t정확도: 94.64%\n", - "4\t검증 세트 손실: 0.190408\t최선의 손실: 0.190408\t정확도: 94.57%\n", - "5\t검증 세트 손실: 0.188796\t최선의 손실: 0.188796\t정확도: 95.04%\n", - "6\t검증 세트 손실: 0.160743\t최선의 손실: 0.160743\t정확도: 95.66%\n", - "7\t검증 세트 손실: 0.164495\t최선의 손실: 0.160743\t정확도: 95.27%\n", - "8\t검증 세트 손실: 0.162983\t최선의 손실: 0.160743\t정확도: 95.78%\n", - "9\t검증 세트 손실: 0.144067\t최선의 손실: 0.144067\t정확도: 96.56%\n", - "10\t검증 세트 손실: 0.138442\t최선의 손실: 0.138442\t정확도: 96.48%\n", - "11\t검증 세트 손실: 0.136300\t최선의 손실: 0.136300\t정확도: 96.40%\n", - "12\t검증 세트 손실: 0.155399\t최선의 손실: 0.136300\t정확도: 95.39%\n", - "13\t검증 세트 손실: 0.136001\t최선의 손실: 0.136001\t정확도: 96.52%\n", - "14\t검증 세트 손실: 0.135616\t최선의 손실: 0.135616\t정확도: 96.29%\n", - "15\t검증 세트 손실: 0.149618\t최선의 손실: 0.135616\t정확도: 96.44%\n", - "16\t검증 세트 손실: 0.140708\t최선의 손실: 0.135616\t정확도: 96.21%\n", - "17\t검증 세트 손실: 0.133795\t최선의 손실: 0.133795\t정확도: 96.52%\n", - "18\t검증 세트 손실: 0.130990\t최선의 손실: 0.130990\t정확도: 97.07%\n", - "19\t검증 세트 손실: 0.139325\t최선의 손실: 0.130990\t정확도: 96.76%\n", - "20\t검증 세트 손실: 0.127210\t최선의 손실: 0.127210\t정확도: 96.91%\n", - "21\t검증 세트 손실: 0.143381\t최선의 손실: 0.127210\t정확도: 96.48%\n", - "22\t검증 세트 손실: 0.149938\t최선의 손실: 0.127210\t정확도: 96.40%\n", - "23\t검증 세트 손실: 0.137837\t최선의 손실: 0.127210\t정확도: 96.56%\n", - "24\t검증 세트 손실: 0.148016\t최선의 손실: 0.127210\t정확도: 95.97%\n", - "25\t검증 세트 손실: 0.145332\t최선의 손실: 0.127210\t정확도: 96.21%\n", - "26\t검증 세트 손실: 0.139641\t최선의 손실: 0.127210\t정확도: 96.25%\n", - "27\t검증 세트 손실: 0.133113\t최선의 손실: 0.127210\t정확도: 96.64%\n", - "28\t검증 세트 손실: 0.148711\t최선의 손실: 0.127210\t정확도: 95.90%\n", - "29\t검증 세트 손실: 0.126920\t최선의 손실: 0.126920\t정확도: 96.68%\n", - "30\t검증 세트 손실: 0.143212\t최선의 손실: 0.126920\t정확도: 96.01%\n" + "[CV] n_neurons=50, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.0min\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.418172\t최선의 손실: 0.418172\t정확도: 78.38%\n", + "1\t검증 세트 손실: 0.381157\t최선의 손실: 0.381157\t정확도: 82.41%\n", + "2\t검증 세트 손실: 0.357615\t최선의 손실: 0.357615\t정확도: 85.89%\n", + "3\t검증 세트 손실: 0.227634\t최선의 손실: 0.227634\t정확도: 94.84%\n", + "4\t검증 세트 손실: 0.235918\t최선의 손실: 0.227634\t정확도: 91.87%\n", + "5\t검증 세트 손실: 0.209308\t최선의 손실: 0.209308\t정확도: 94.76%\n", + "6\t검증 세트 손실: 0.221762\t최선의 손실: 0.209308\t정확도: 95.07%\n", + "7\t검증 세트 손실: 0.201304\t최선의 손실: 0.201304\t정확도: 94.64%\n", + "8\t검증 세트 손실: 0.196480\t최선의 손실: 0.196480\t정확도: 95.35%\n", + "9\t검증 세트 손실: 0.193938\t최선의 손실: 0.193938\t정확도: 95.23%\n", + "10\t검증 세트 손실: 0.197754\t최선의 손실: 0.193938\t정확도: 95.50%\n", + "11\t검증 세트 손실: 0.200905\t최선의 손실: 0.193938\t정확도: 95.04%\n", + "12\t검증 세트 손실: 0.179048\t최선의 손실: 0.179048\t정확도: 95.19%\n", + "13\t검증 세트 손실: 0.183277\t최선의 손실: 0.179048\t정확도: 95.23%\n", + "14\t검증 세트 손실: 0.191677\t최선의 손실: 0.179048\t정확도: 95.43%\n", + "15\t검증 세트 손실: 0.191619\t최선의 손실: 0.179048\t정확도: 95.00%\n", + "16\t검증 세트 손실: 0.181998\t최선의 손실: 0.179048\t정확도: 96.01%\n", + "17\t검증 세트 손실: 0.187709\t최선의 손실: 0.179048\t정확도: 95.86%\n", + "18\t검증 세트 손실: 0.181861\t최선의 손실: 0.179048\t정확도: 95.62%\n", + "19\t검증 세트 손실: 0.167681\t최선의 손실: 0.167681\t정확도: 95.90%\n", + "20\t검증 세트 손실: 0.178279\t최선의 손실: 0.167681\t정확도: 96.29%\n", + "21\t검증 세트 손실: 0.185668\t최선의 손실: 0.167681\t정확도: 95.66%\n", + "22\t검증 세트 손실: 0.188514\t최선의 손실: 0.167681\t정확도: 95.97%\n", + "23\t검증 세트 손실: 0.166710\t최선의 손실: 0.166710\t정확도: 95.66%\n", + "24\t검증 세트 손실: 0.175491\t최선의 손실: 0.166710\t정확도: 95.93%\n", + "25\t검증 세트 손실: 0.170240\t최선의 손실: 0.166710\t정확도: 95.90%\n", + "26\t검증 세트 손실: 0.175997\t최선의 손실: 0.166710\t정확도: 95.74%\n", + "27\t검증 세트 손실: 0.190882\t최선의 손실: 0.166710\t정확도: 95.11%\n", + "28\t검증 세트 손실: 0.183369\t최선의 손실: 0.166710\t정확도: 95.70%\n", + "29\t검증 세트 손실: 0.184228\t최선의 손실: 0.166710\t정확도: 95.82%\n", + "30\t검증 세트 손실: 0.182690\t최선의 손실: 0.166710\t정확도: 95.74%\n", + "31\t검증 세트 손실: 0.170539\t최선의 손실: 0.166710\t정확도: 96.05%\n", + "32\t검증 세트 손실: 0.205907\t최선의 손실: 0.166710\t정확도: 95.04%\n", + "33\t검증 세트 손실: 0.183158\t최선의 손실: 0.166710\t정확도: 95.35%\n", + "34\t검증 세트 손실: 0.174968\t최선의 손실: 0.166710\t정확도: 95.93%\n", + "35\t검증 세트 손실: 0.183190\t최선의 손실: 0.166710\t정확도: 95.43%\n", + "36\t검증 세트 손실: 0.197107\t최선의 손실: 0.166710\t정확도: 95.90%\n", + "37\t검증 세트 손실: 0.174690\t최선의 손실: 0.166710\t정확도: 95.86%\n", + "38\t검증 세트 손실: 0.207206\t최선의 손실: 0.166710\t정확도: 95.86%\n", + "39\t검증 세트 손실: 0.173460\t최선의 손실: 0.166710\t정확도: 95.70%\n", + "40\t검증 세트 손실: 0.171293\t최선의 손실: 0.166710\t정확도: 95.70%\n", + "41\t검증 세트 손실: 0.182251\t최선의 손실: 0.166710\t정확도: 96.13%\n", + "42\t검증 세트 손실: 0.168406\t최선의 손실: 0.166710\t정확도: 96.17%\n", + "43\t검증 세트 손실: 0.171644\t최선의 손실: 0.166710\t정확도: 96.13%\n", + "44\t검증 세트 손실: 0.191558\t최선의 손실: 0.166710\t정확도: 96.21%\n", + "조기 종료!\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 21.4s\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.284817\t최선의 손실: 0.284817\t정확도: 92.73%\n", + "1\t검증 세트 손실: 0.246257\t최선의 손실: 0.246257\t정확도: 94.25%\n", + "2\t검증 세트 손실: 0.251254\t최선의 손실: 0.246257\t정확도: 93.75%\n", + "3\t검증 세트 손실: 0.241857\t최선의 손실: 0.241857\t정확도: 94.53%\n", + "4\t검증 세트 손실: 0.245518\t최선의 손실: 0.241857\t정확도: 95.15%\n", + "5\t검증 세트 손실: 0.236687\t최선의 손실: 0.236687\t정확도: 95.31%\n", + "6\t검증 세트 손실: 0.238829\t최선의 손실: 0.236687\t정확도: 93.59%\n", + "7\t검증 세트 손실: 0.207316\t최선의 손실: 0.207316\t정확도: 95.07%\n", + "8\t검증 세트 손실: 0.218192\t최선의 손실: 0.207316\t정확도: 94.49%\n", + "9\t검증 세트 손실: 0.236244\t최선의 손실: 0.207316\t정확도: 93.24%\n", + "10\t검증 세트 손실: 0.241237\t최선의 손실: 0.207316\t정확도: 94.41%\n", + "11\t검증 세트 손실: 0.217427\t최선의 손실: 0.207316\t정확도: 94.21%\n", + "12\t검증 세트 손실: 0.221241\t최선의 손실: 0.207316\t정확도: 93.94%\n", + "13\t검증 세트 손실: 0.234573\t최선의 손실: 0.207316\t정확도: 93.39%\n", + "14\t검증 세트 손실: 0.231632\t최선의 손실: 0.207316\t정확도: 94.57%\n", + "15\t검증 세트 손실: 0.227946\t최선의 손실: 0.207316\t정확도: 95.31%\n", + "16\t검증 세트 손실: 0.237325\t최선의 손실: 0.207316\t정확도: 93.98%\n", + "17\t검증 세트 손실: 0.273286\t최선의 손실: 0.207316\t정확도: 95.23%\n", + "18\t검증 세트 손실: 0.218605\t최선의 손실: 0.207316\t정확도: 94.37%\n", + "19\t검증 세트 손실: 0.214784\t최선의 손실: 0.207316\t정확도: 94.80%\n", + "20\t검증 세트 손실: 0.274683\t최선의 손실: 0.207316\t정확도: 93.59%\n", + "21\t검증 세트 손실: 0.187577\t최선의 손실: 0.187577\t정확도: 95.23%\n", + "22\t검증 세트 손실: 0.205095\t최선의 손실: 0.187577\t정확도: 94.68%\n", + "23\t검증 세트 손실: 0.266049\t최선의 손실: 0.187577\t정확도: 91.52%\n", + "24\t검증 세트 손실: 0.274108\t최선의 손실: 0.187577\t정확도: 92.77%\n", + "25\t검증 세트 손실: 0.224888\t최선의 손실: 0.187577\t정확도: 93.98%\n", + "26\t검증 세트 손실: 0.244051\t최선의 손실: 0.187577\t정확도: 95.27%\n", + "27\t검증 세트 손실: 0.234422\t최선의 손실: 0.187577\t정확도: 94.88%\n", + "28\t검증 세트 손실: 0.207242\t최선의 손실: 0.187577\t정확도: 95.07%\n", + "29\t검증 세트 손실: 0.348974\t최선의 손실: 0.187577\t정확도: 94.45%\n", + "30\t검증 세트 손실: 0.216660\t최선의 손실: 0.187577\t정확도: 94.21%\n", + "31\t검증 세트 손실: 0.235293\t최선의 손실: 0.187577\t정확도: 94.88%\n", + "32\t검증 세트 손실: 0.281108\t최선의 손실: 0.187577\t정확도: 94.57%\n", + "33\t검증 세트 손실: 0.293700\t최선의 손실: 0.187577\t정확도: 91.01%\n", + "34\t검증 세트 손실: 0.237879\t최선의 손실: 0.187577\t정확도: 93.82%\n", + "35\t검증 세트 손실: 0.234568\t최선의 손실: 0.187577\t정확도: 94.18%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "31\t검증 세트 손실: 0.129518\t최선의 손실: 0.126920\t정확도: 96.56%\n", - "32\t검증 세트 손실: 0.128961\t최선의 손실: 0.126920\t정확도: 96.33%\n", - "33\t검증 세트 손실: 0.127866\t최선의 손실: 0.126920\t정확도: 96.44%\n", - "34\t검증 세트 손실: 0.126225\t최선의 손실: 0.126225\t정확도: 96.29%\n", - "35\t검증 세트 손실: 0.125937\t최선의 손실: 0.125937\t정확도: 96.79%\n", - "36\t검증 세트 손실: 0.129023\t최선의 손실: 0.125937\t정확도: 96.99%\n", - "37\t검증 세트 손실: 0.130004\t최선의 손실: 0.125937\t정확도: 96.52%\n", - "38\t검증 세트 손실: 0.125417\t최선의 손실: 0.125417\t정확도: 96.99%\n", - "39\t검증 세트 손실: 0.122350\t최선의 손실: 0.122350\t정확도: 96.56%\n", - "40\t검증 세트 손실: 0.120243\t최선의 손실: 0.120243\t정확도: 96.95%\n", - "41\t검증 세트 손실: 0.127696\t최선의 손실: 0.120243\t정확도: 96.60%\n", - "42\t검증 세트 손실: 0.140390\t최선의 손실: 0.120243\t정확도: 96.48%\n", - "43\t검증 세트 손실: 0.138939\t최선의 손실: 0.120243\t정확도: 96.72%\n", - "44\t검증 세트 손실: 0.136159\t최선의 손실: 0.120243\t정확도: 96.68%\n", - "45\t검증 세트 손실: 0.133427\t최선의 손실: 0.120243\t정확도: 96.48%\n", - "46\t검증 세트 손실: 0.122520\t최선의 손실: 0.120243\t정확도: 96.76%\n", - "47\t검증 세트 손실: 0.139667\t최선의 손실: 0.120243\t정확도: 96.68%\n", - "48\t검증 세트 손실: 0.133790\t최선의 손실: 0.120243\t정확도: 96.40%\n", - "49\t검증 세트 손실: 0.129479\t최선의 손실: 0.120243\t정확도: 96.68%\n", - "50\t검증 세트 손실: 0.134099\t최선의 손실: 0.120243\t정확도: 96.44%\n", - "51\t검증 세트 손실: 0.133670\t최선의 손실: 0.120243\t정확도: 96.60%\n", - "52\t검증 세트 손실: 0.134149\t최선의 손실: 0.120243\t정확도: 96.52%\n", - "53\t검증 세트 손실: 0.135098\t최선의 손실: 0.120243\t정확도: 96.83%\n", - "54\t검증 세트 손실: 0.122660\t최선의 손실: 0.120243\t정확도: 96.64%\n", - "55\t검증 세트 손실: 0.141732\t최선의 손실: 0.120243\t정확도: 96.68%\n", - "56\t검증 세트 손실: 0.139687\t최선의 손실: 0.120243\t정확도: 96.87%\n", - "57\t검증 세트 손실: 0.136196\t최선의 손실: 0.120243\t정확도: 96.83%\n", - "58\t검증 세트 손실: 0.124211\t최선의 손실: 0.120243\t정확도: 96.83%\n", - "59\t검증 세트 손실: 0.130168\t최선의 손실: 0.120243\t정확도: 97.07%\n", - "60\t검증 세트 손실: 0.141927\t최선의 손실: 0.120243\t정확도: 96.21%\n", - "61\t검증 세트 손실: 0.127420\t최선의 손실: 0.120243\t정확도: 96.95%\n", + "36\t검증 세트 손실: 0.231227\t최선의 손실: 0.187577\t정확도: 93.28%\n", + "37\t검증 세트 손실: 0.257358\t최선의 손실: 0.187577\t정확도: 93.78%\n", + "38\t검증 세트 손실: 0.244171\t최선의 손실: 0.187577\t정확도: 93.39%\n", + "39\t검증 세트 손실: 0.244927\t최선의 손실: 0.187577\t정확도: 93.75%\n", + "40\t검증 세트 손실: 0.260991\t최선의 손실: 0.187577\t정확도: 94.68%\n", + "41\t검증 세트 손실: 0.241179\t최선의 손실: 0.187577\t정확도: 94.68%\n", + "42\t검증 세트 손실: 0.254147\t최선의 손실: 0.187577\t정확도: 94.33%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10, total= 18.9s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.282089\t최선의 손실: 0.282089\t정확도: 92.73%\n", - "1\t검증 세트 손실: 0.195310\t최선의 손실: 0.195310\t정확도: 95.31%\n", - "2\t검증 세트 손실: 0.161105\t최선의 손실: 0.161105\t정확도: 95.97%\n", - "3\t검증 세트 손실: 0.158417\t최선의 손실: 0.158417\t정확도: 95.66%\n", - "4\t검증 세트 손실: 0.145863\t최선의 손실: 0.145863\t정확도: 95.97%\n", - "5\t검증 세트 손실: 0.151379\t최선의 손실: 0.145863\t정확도: 96.13%\n", - "6\t검증 세트 손실: 0.133247\t최선의 손실: 0.133247\t정확도: 96.25%\n", - "7\t검증 세트 손실: 0.131486\t최선의 손실: 0.131486\t정확도: 96.40%\n", - "8\t검증 세트 손실: 0.123289\t최선의 손실: 0.123289\t정확도: 96.13%\n", - "9\t검증 세트 손실: 0.125267\t최선의 손실: 0.123289\t정확도: 96.48%\n", - "10\t검증 세트 손실: 0.139049\t최선의 손실: 0.123289\t정확도: 96.40%\n", - "11\t검증 세트 손실: 0.126973\t최선의 손실: 0.123289\t정확도: 95.86%\n", - "12\t검증 세트 손실: 0.119099\t최선의 손실: 0.119099\t정확도: 96.52%\n", - "13\t검증 세트 손실: 0.126471\t최선의 손실: 0.119099\t정확도: 96.40%\n", - "14\t검증 세트 손실: 0.129475\t최선의 손실: 0.119099\t정확도: 96.25%\n", - "15\t검증 세트 손실: 0.154800\t최선의 손실: 0.119099\t정확도: 96.13%\n", - "16\t검증 세트 손실: 0.118546\t최선의 손실: 0.118546\t정확도: 96.56%\n", - "17\t검증 세트 손실: 0.137687\t최선의 손실: 0.118546\t정확도: 96.01%\n", - "18\t검증 세트 손실: 0.118255\t최선의 손실: 0.118255\t정확도: 96.44%\n", - "19\t검증 세트 손실: 0.122315\t최선의 손실: 0.118255\t정확도: 96.60%\n", - "20\t검증 세트 손실: 0.122466\t최선의 손실: 0.118255\t정확도: 96.29%\n", - "21\t검증 세트 손실: 0.112883\t최선의 손실: 0.112883\t정확도: 96.48%\n", - "22\t검증 세트 손실: 0.116544\t최선의 손실: 0.112883\t정확도: 96.48%\n", - "23\t검증 세트 손실: 0.120913\t최선의 손실: 0.112883\t정확도: 96.68%\n", - "24\t검증 세트 손실: 0.123924\t최선의 손실: 0.112883\t정확도: 96.29%\n", - "25\t검증 세트 손실: 0.131000\t최선의 손실: 0.112883\t정확도: 96.09%\n", - "26\t검증 세트 손실: 0.132918\t최선의 손실: 0.112883\t정확도: 96.44%\n", - "27\t검증 세트 손실: 0.122686\t최선의 손실: 0.112883\t정확도: 96.52%\n", - "28\t검증 세트 손실: 0.123274\t최선의 손실: 0.112883\t정확도: 96.52%\n", - "29\t검증 세트 손실: 0.117238\t최선의 손실: 0.112883\t정확도: 96.48%\n", - "30\t검증 세트 손실: 0.120557\t최선의 손실: 0.112883\t정확도: 96.56%\n", - "31\t검증 세트 손실: 0.125022\t최선의 손실: 0.112883\t정확도: 96.44%\n", - "32\t검증 세트 손실: 0.117336\t최선의 손실: 0.112883\t정확도: 96.72%\n", - "33\t검증 세트 손실: 0.121554\t최선의 손실: 0.112883\t정확도: 96.44%\n", - "34\t검증 세트 손실: 0.127943\t최선의 손실: 0.112883\t정확도: 96.52%\n", - "35\t검증 세트 손실: 0.124236\t최선의 손실: 0.112883\t정확도: 96.36%\n", - "36\t검증 세트 손실: 0.116109\t최선의 손실: 0.112883\t정확도: 96.83%\n", - "37\t검증 세트 손실: 0.118434\t최선의 손실: 0.112883\t정확도: 96.33%\n", - "38\t검증 세트 손실: 0.121597\t최선의 손실: 0.112883\t정확도: 96.72%\n", - "39\t검증 세트 손실: 0.121922\t최선의 손실: 0.112883\t정확도: 96.21%\n", - "40\t검증 세트 손실: 0.128061\t최선의 손실: 0.112883\t정확도: 96.68%\n", - "41\t검증 세트 손실: 0.106023\t최선의 손실: 0.106023\t정확도: 96.76%\n", - "42\t검증 세트 손실: 0.111704\t최선의 손실: 0.106023\t정확도: 97.03%\n", - "43\t검증 세트 손실: 0.122189\t최선의 손실: 0.106023\t정확도: 96.87%\n", - "44\t검증 세트 손실: 0.107220\t최선의 손실: 0.106023\t정확도: 96.76%\n", - "45\t검증 세트 손실: 0.117345\t최선의 손실: 0.106023\t정확도: 96.56%\n", - "46\t검증 세트 손실: 0.121089\t최선의 손실: 0.106023\t정확도: 96.76%\n", - "47\t검증 세트 손실: 0.117144\t최선의 손실: 0.106023\t정확도: 96.76%\n", - "48\t검증 세트 손실: 0.109391\t최선의 손실: 0.106023\t정확도: 96.95%\n", - "49\t검증 세트 손실: 0.115517\t최선의 손실: 0.106023\t정확도: 97.19%\n", - "50\t검증 세트 손실: 0.111000\t최선의 손실: 0.106023\t정확도: 96.76%\n", - "51\t검증 세트 손실: 0.110359\t최선의 손실: 0.106023\t정확도: 97.07%\n", - "52\t검증 세트 손실: 0.104058\t최선의 손실: 0.104058\t정확도: 97.03%\n", - "53\t검증 세트 손실: 0.116965\t최선의 손실: 0.104058\t정확도: 97.42%\n", - "54\t검증 세트 손실: 0.121748\t최선의 손실: 0.104058\t정확도: 97.03%\n", - "55\t검증 세트 손실: 0.124104\t최선의 손실: 0.104058\t정확도: 96.91%\n", - "56\t검증 세트 손실: 0.112786\t최선의 손실: 0.104058\t정확도: 96.76%\n", - "57\t검증 세트 손실: 0.120756\t최선의 손실: 0.104058\t정확도: 96.83%\n", - "58\t검증 세트 손실: 0.118169\t최선의 손실: 0.104058\t정확도: 96.83%\n", - "59\t검증 세트 손실: 0.109470\t최선의 손실: 0.104058\t정확도: 96.72%\n", - "60\t검증 세트 손실: 0.105094\t최선의 손실: 0.104058\t정확도: 96.83%\n", - "61\t검증 세트 손실: 0.114695\t최선의 손실: 0.104058\t정확도: 96.72%\n", - "62\t검증 세트 손실: 0.114006\t최선의 손실: 0.104058\t정확도: 97.22%\n", - "63\t검증 세트 손실: 0.109203\t최선의 손실: 0.104058\t정확도: 97.07%\n", - "64\t검증 세트 손실: 0.117893\t최선의 손실: 0.104058\t정확도: 96.99%\n", - "65\t검증 세트 손실: 0.116034\t최선의 손실: 0.104058\t정확도: 96.95%\n", - "66\t검증 세트 손실: 0.112691\t최선의 손실: 0.104058\t정확도: 96.60%\n", - "67\t검증 세트 손실: 0.110516\t최선의 손실: 0.104058\t정확도: 96.99%\n", - "68\t검증 세트 손실: 0.114152\t최선의 손실: 0.104058\t정확도: 96.76%\n", - "69\t검증 세트 손실: 0.114642\t최선의 손실: 0.104058\t정확도: 96.60%\n", - "70\t검증 세트 손실: 0.114978\t최선의 손실: 0.104058\t정확도: 97.19%\n", - "71\t검증 세트 손실: 0.121338\t최선의 손실: 0.104058\t정확도: 97.26%\n", - "72\t검증 세트 손실: 0.114383\t최선의 손실: 0.104058\t정확도: 97.11%\n", - "73\t검증 세트 손실: 0.117415\t최선의 손실: 0.104058\t정확도: 96.99%\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 20.2s\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.393275\t최선의 손실: 0.393275\t정확도: 78.85%\n", + "1\t검증 세트 손실: 0.385177\t최선의 손실: 0.385177\t정확도: 79.48%\n", + "2\t검증 세트 손실: 0.375635\t최선의 손실: 0.375635\t정확도: 79.44%\n", + "3\t검증 세트 손실: 0.388325\t최선의 손실: 0.375635\t정확도: 78.42%\n", + "4\t검증 세트 손실: 0.387116\t최선의 손실: 0.375635\t정확도: 78.46%\n", + "5\t검증 세트 손실: 0.375784\t최선의 손실: 0.375635\t정확도: 79.24%\n", + "6\t검증 세트 손실: 0.376079\t최선의 손실: 0.375635\t정확도: 78.50%\n", + "7\t검증 세트 손실: 0.367596\t최선의 손실: 0.367596\t정확도: 79.32%\n", + "8\t검증 세트 손실: 0.367460\t최선의 손실: 0.367460\t정확도: 79.55%\n", + "9\t검증 세트 손실: 0.384918\t최선의 손실: 0.367460\t정확도: 78.58%\n", + "10\t검증 세트 손실: 0.394191\t최선의 손실: 0.367460\t정확도: 78.73%\n", + "11\t검증 세트 손실: 0.403966\t최선의 손실: 0.367460\t정확도: 79.01%\n", + "12\t검증 세트 손실: 0.378281\t최선의 손실: 0.367460\t정확도: 78.23%\n", + "13\t검증 세트 손실: 0.369771\t최선의 손실: 0.367460\t정확도: 78.46%\n", + "14\t검증 세트 손실: 0.377029\t최선의 손실: 0.367460\t정확도: 78.38%\n", + "15\t검증 세트 손실: 0.381589\t최선의 손실: 0.367460\t정확도: 78.42%\n", + "16\t검증 세트 손실: 0.384284\t최선의 손실: 0.367460\t정확도: 79.36%\n", + "17\t검증 세트 손실: 0.393201\t최선의 손실: 0.367460\t정확도: 78.58%\n", + "18\t검증 세트 손실: 0.379644\t최선의 손실: 0.367460\t정확도: 78.07%\n", + "19\t검증 세트 손실: 0.379392\t최선의 손실: 0.367460\t정확도: 78.38%\n", + "20\t검증 세트 손실: 0.372401\t최선의 손실: 0.367460\t정확도: 79.48%\n", + "21\t검증 세트 손실: 0.405933\t최선의 손실: 0.367460\t정확도: 79.16%\n", + "22\t검증 세트 손실: 0.363465\t최선의 손실: 0.363465\t정확도: 81.27%\n", + "23\t검증 세트 손실: 0.386726\t최선의 손실: 0.363465\t정확도: 78.26%\n", + "24\t검증 세트 손실: 0.367630\t최선의 손실: 0.363465\t정확도: 79.12%\n", + "25\t검증 세트 손실: 0.367415\t최선의 손실: 0.363465\t정확도: 79.44%\n", + "26\t검증 세트 손실: 0.369230\t최선의 손실: 0.363465\t정확도: 79.20%\n", + "27\t검증 세트 손실: 0.356584\t최선의 손실: 0.356584\t정확도: 79.48%\n", + "28\t검증 세트 손실: 0.373656\t최선의 손실: 0.356584\t정확도: 78.66%\n", + "29\t검증 세트 손실: 0.359299\t최선의 손실: 0.356584\t정확도: 79.59%\n", + "30\t검증 세트 손실: 0.361537\t최선의 손실: 0.356584\t정확도: 79.36%\n", + "31\t검증 세트 손실: 0.369923\t최선의 손실: 0.356584\t정확도: 78.62%\n", + "32\t검증 세트 손실: 0.380378\t최선의 손실: 0.356584\t정확도: 79.63%\n", + "33\t검증 세트 손실: 0.377085\t최선의 손실: 0.356584\t정확도: 78.69%\n", + "34\t검증 세트 손실: 0.367153\t최선의 손실: 0.356584\t정확도: 82.68%\n", + "35\t검증 세트 손실: 0.367962\t최선의 손실: 0.356584\t정확도: 80.02%\n", + "36\t검증 세트 손실: 0.378163\t최선의 손실: 0.356584\t정확도: 79.71%\n", + "37\t검증 세트 손실: 0.380173\t최선의 손실: 0.356584\t정확도: 79.32%\n", + "38\t검증 세트 손실: 0.369689\t최선의 손실: 0.356584\t정확도: 79.63%\n", + "39\t검증 세트 손실: 0.370863\t최선의 손실: 0.356584\t정확도: 80.14%\n", + "40\t검증 세트 손실: 0.376312\t최선의 손실: 0.356584\t정확도: 79.28%\n", + "41\t검증 세트 손실: 0.363490\t최선의 손실: 0.356584\t정확도: 83.31%\n", + "42\t검증 세트 손실: 0.375750\t최선의 손실: 0.356584\t정확도: 82.45%\n", + "43\t검증 세트 손실: 0.364735\t최선의 손실: 0.356584\t정확도: 79.48%\n", + "44\t검증 세트 손실: 0.383782\t최선의 손실: 0.356584\t정확도: 79.48%\n", + "45\t검증 세트 손실: 0.373379\t최선의 손실: 0.356584\t정확도: 78.34%\n", + "46\t검증 세트 손실: 0.374301\t최선의 손실: 0.356584\t정확도: 78.50%\n", + "47\t검증 세트 손실: 0.352813\t최선의 손실: 0.352813\t정확도: 84.87%\n", + "48\t검증 세트 손실: 0.371291\t최선의 손실: 0.352813\t정확도: 84.99%\n", + "49\t검증 세트 손실: 0.349790\t최선의 손실: 0.349790\t정확도: 85.50%\n", + "50\t검증 세트 손실: 0.336947\t최선의 손실: 0.336947\t정확도: 87.88%\n", + "51\t검증 세트 손실: 0.341100\t최선의 손실: 0.336947\t정확도: 85.65%\n", + "52\t검증 세트 손실: 0.327524\t최선의 손실: 0.327524\t정확도: 88.58%\n", + "53\t검증 세트 손실: 0.283212\t최선의 손실: 0.283212\t정확도: 91.56%\n", + "54\t검증 세트 손실: 0.294737\t최선의 손실: 0.283212\t정확도: 88.47%\n", + "55\t검증 세트 손실: 0.305918\t최선의 손실: 0.283212\t정확도: 92.96%\n", + "56\t검증 세트 손실: 0.271384\t최선의 손실: 0.271384\t정확도: 93.55%\n", + "57\t검증 세트 손실: 0.274860\t최선의 손실: 0.271384\t정확도: 93.28%\n", + "58\t검증 세트 손실: 0.265009\t최선의 손실: 0.265009\t정확도: 93.55%\n", + "59\t검증 세트 손실: 0.232899\t최선의 손실: 0.232899\t정확도: 94.10%\n", + "60\t검증 세트 손실: 0.248646\t최선의 손실: 0.232899\t정확도: 94.06%\n", + "61\t검증 세트 손실: 0.251566\t최선의 손실: 0.232899\t정확도: 93.98%\n", + "62\t검증 세트 손실: 0.257659\t최선의 손실: 0.232899\t정확도: 94.49%\n", + "63\t검증 세트 손실: 0.245558\t최선의 손실: 0.232899\t정확도: 94.64%\n", + "64\t검증 세트 손실: 0.248122\t최선의 손실: 0.232899\t정확도: 93.20%\n", + "65\t검증 세트 손실: 0.258806\t최선의 손실: 0.232899\t정확도: 94.57%\n", + "66\t검증 세트 손실: 0.274441\t최선의 손실: 0.232899\t정확도: 86.63%\n", + "67\t검증 세트 손실: 0.262800\t최선의 손실: 0.232899\t정확도: 94.37%\n", + "68\t검증 세트 손실: 0.258304\t최선의 손실: 0.232899\t정확도: 94.33%\n", + "69\t검증 세트 손실: 0.252769\t최선의 손실: 0.232899\t정확도: 95.00%\n", + "70\t검증 세트 손실: 0.270923\t최선의 손실: 0.232899\t정확도: 94.49%\n", + "71\t검증 세트 손실: 0.289168\t최선의 손실: 0.232899\t정확도: 91.52%\n", + "72\t검증 세트 손실: 0.250542\t최선의 손실: 0.232899\t정확도: 94.80%\n", + "73\t검증 세트 손실: 0.246770\t최선의 손실: 0.232899\t정확도: 94.72%\n", + "74\t검증 세트 손실: 0.263243\t최선의 손실: 0.232899\t정확도: 94.80%\n", + "75\t검증 세트 손실: 0.246332\t최선의 손실: 0.232899\t정확도: 94.61%\n", + "76\t검증 세트 손실: 0.221341\t최선의 손실: 0.221341\t정확도: 94.64%\n", + "77\t검증 세트 손실: 0.278124\t최선의 손실: 0.221341\t정확도: 94.25%\n", + "78\t검증 세트 손실: 0.270712\t최선의 손실: 0.221341\t정확도: 94.41%\n", + "79\t검증 세트 손실: 0.283251\t최선의 손실: 0.221341\t정확도: 94.37%\n", + "80\t검증 세트 손실: 0.239865\t최선의 손실: 0.221341\t정확도: 94.49%\n", + "81\t검증 세트 손실: 0.256527\t최선의 손실: 0.221341\t정확도: 94.57%\n", + "82\t검증 세트 손실: 0.256740\t최선의 손실: 0.221341\t정확도: 94.92%\n", + "83\t검증 세트 손실: 0.251285\t최선의 손실: 0.221341\t정확도: 94.96%\n", + "84\t검증 세트 손실: 0.283883\t최선의 손실: 0.221341\t정확도: 94.92%\n", + "85\t검증 세트 손실: 0.287673\t최선의 손실: 0.221341\t정확도: 94.80%\n", + "86\t검증 세트 손실: 0.251226\t최선의 손실: 0.221341\t정확도: 94.84%\n", + "87\t검증 세트 손실: 0.252657\t최선의 손실: 0.221341\t정확도: 93.78%\n", + "88\t검증 세트 손실: 0.258326\t최선의 손실: 0.221341\t정확도: 94.80%\n", + "89\t검증 세트 손실: 0.244807\t최선의 손실: 0.221341\t정확도: 93.47%\n", + "90\t검증 세트 손실: 0.232415\t최선의 손실: 0.221341\t정확도: 95.00%\n", + "91\t검증 세트 손실: 0.284505\t최선의 손실: 0.221341\t정확도: 94.64%\n", + "92\t검증 세트 손실: 0.262756\t최선의 손실: 0.221341\t정확도: 94.45%\n", + "93\t검증 세트 손실: 0.240073\t최선의 손실: 0.221341\t정확도: 94.72%\n", + "94\t검증 세트 손실: 0.247338\t최선의 손실: 0.221341\t정확도: 94.72%\n", + "95\t검증 세트 손실: 0.270853\t최선의 손실: 0.221341\t정확도: 94.76%\n", + "96\t검증 세트 손실: 0.270157\t최선의 손실: 0.221341\t정확도: 94.49%\n", + "97\t검증 세트 손실: 0.260752\t최선의 손실: 0.221341\t정확도: 94.72%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10, total= 22.4s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.307121\t최선의 손실: 0.307121\t정확도: 92.57%\n", - "1\t검증 세트 손실: 0.256140\t최선의 손실: 0.256140\t정확도: 92.96%\n", - "2\t검증 세트 손실: 0.180044\t최선의 손실: 0.180044\t정확도: 95.27%\n", - "3\t검증 세트 손실: 0.169798\t최선의 손실: 0.169798\t정확도: 95.11%\n", - "4\t검증 세트 손실: 0.165698\t최선의 손실: 0.165698\t정확도: 94.68%\n", - "5\t검증 세트 손실: 0.158453\t최선의 손실: 0.158453\t정확도: 95.43%\n", - "6\t검증 세트 손실: 0.164896\t최선의 손실: 0.158453\t정확도: 94.80%\n", - "7\t검증 세트 손실: 0.159754\t최선의 손실: 0.158453\t정확도: 95.04%\n", - "8\t검증 세트 손실: 0.164672\t최선의 손실: 0.158453\t정확도: 95.11%\n", - "9\t검증 세트 손실: 0.157744\t최선의 손실: 0.157744\t정확도: 95.11%\n", - "10\t검증 세트 손실: 0.150684\t최선의 손실: 0.150684\t정확도: 95.27%\n", - "11\t검증 세트 손실: 0.145617\t최선의 손실: 0.145617\t정확도: 95.74%\n", - "12\t검증 세트 손실: 0.162225\t최선의 손실: 0.145617\t정확도: 95.39%\n", - "13\t검증 세트 손실: 0.142985\t최선의 손실: 0.142985\t정확도: 95.54%\n", - "14\t검증 세트 손실: 0.167273\t최선의 손실: 0.142985\t정확도: 94.84%\n", - "15\t검증 세트 손실: 0.150520\t최선의 손실: 0.142985\t정확도: 96.13%\n", - "16\t검증 세트 손실: 0.150800\t최선의 손실: 0.142985\t정확도: 95.78%\n", - "17\t검증 세트 손실: 0.133367\t최선의 손실: 0.133367\t정확도: 96.17%\n", - "18\t검증 세트 손실: 0.138234\t최선의 손실: 0.133367\t정확도: 96.36%\n", - "19\t검증 세트 손실: 0.146268\t최선의 손실: 0.133367\t정확도: 95.93%\n", - "20\t검증 세트 손실: 0.137602\t최선의 손실: 0.133367\t정확도: 96.13%\n", - "21\t검증 세트 손실: 0.148513\t최선의 손실: 0.133367\t정확도: 95.82%\n", - "22\t검증 세트 손실: 0.140234\t최선의 손실: 0.133367\t정확도: 95.90%\n", - "23\t검증 세트 손실: 0.144860\t최선의 손실: 0.133367\t정확도: 95.78%\n", - "24\t검증 세트 손실: 0.157412\t최선의 손실: 0.133367\t정확도: 95.74%\n", - "25\t검증 세트 손실: 0.148520\t최선의 손실: 0.133367\t정확도: 96.05%\n", - "26\t검증 세트 손실: 0.151970\t최선의 손실: 0.133367\t정확도: 95.86%\n", - "27\t검증 세트 손실: 0.141174\t최선의 손실: 0.133367\t정확도: 96.21%\n", - "28\t검증 세트 손실: 0.139865\t최선의 손실: 0.133367\t정확도: 96.09%\n", - "29\t검증 세트 손실: 0.137488\t최선의 손실: 0.133367\t정확도: 96.09%\n", - "30\t검증 세트 손실: 0.136462\t최선의 손실: 0.133367\t정확도: 96.40%\n", - "31\t검증 세트 손실: 0.128136\t최선의 손실: 0.128136\t정확도: 96.44%\n", - "32\t검증 세트 손실: 0.143801\t최선의 손실: 0.128136\t정확도: 95.90%\n", - "33\t검증 세트 손실: 0.134158\t최선의 손실: 0.128136\t정확도: 96.56%\n", - "34\t검증 세트 손실: 0.141175\t최선의 손실: 0.128136\t정확도: 95.90%\n", - "35\t검증 세트 손실: 0.143575\t최선의 손실: 0.128136\t정확도: 95.86%\n", - "36\t검증 세트 손실: 0.127115\t최선의 손실: 0.127115\t정확도: 96.36%\n", - "37\t검증 세트 손실: 0.143306\t최선의 손실: 0.127115\t정확도: 96.09%\n", - "38\t검증 세트 손실: 0.126951\t최선의 손실: 0.126951\t정확도: 96.13%\n", - "39\t검증 세트 손실: 0.130697\t최선의 손실: 0.126951\t정확도: 96.44%\n", - "40\t검증 세트 손실: 0.142860\t최선의 손실: 0.126951\t정확도: 96.05%\n", - "41\t검증 세트 손실: 0.136522\t최선의 손실: 0.126951\t정확도: 96.25%\n", - "42\t검증 세트 손실: 0.133501\t최선의 손실: 0.126951\t정확도: 96.44%\n" + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 45.3s\n", + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.281214\t최선의 손실: 0.281214\t정확도: 94.06%\n", + "1\t검증 세트 손실: 0.210085\t최선의 손실: 0.210085\t정확도: 94.45%\n", + "2\t검증 세트 손실: 0.166875\t최선의 손실: 0.166875\t정확도: 95.27%\n", + "3\t검증 세트 손실: 0.141124\t최선의 손실: 0.141124\t정확도: 96.33%\n", + "4\t검증 세트 손실: 0.142223\t최선의 손실: 0.141124\t정확도: 96.40%\n", + "5\t검증 세트 손실: 0.148497\t최선의 손실: 0.141124\t정확도: 95.70%\n", + "6\t검증 세트 손실: 0.139705\t최선의 손실: 0.139705\t정확도: 96.29%\n", + "7\t검증 세트 손실: 0.154274\t최선의 손실: 0.139705\t정확도: 95.70%\n", + "8\t검증 세트 손실: 0.149616\t최선의 손실: 0.139705\t정확도: 95.47%\n", + "9\t검증 세트 손실: 0.128080\t최선의 손실: 0.128080\t정확도: 96.48%\n", + "10\t검증 세트 손실: 0.144803\t최선의 손실: 0.128080\t정확도: 96.29%\n", + "11\t검증 세트 손실: 0.134900\t최선의 손실: 0.128080\t정확도: 96.29%\n", + "12\t검증 세트 손실: 0.139466\t최선의 손실: 0.128080\t정확도: 96.40%\n", + "13\t검증 세트 손실: 0.141642\t최선의 손실: 0.128080\t정확도: 96.52%\n", + "14\t검증 세트 손실: 0.141445\t최선의 손실: 0.128080\t정확도: 96.21%\n", + "15\t검증 세트 손실: 0.134165\t최선의 손실: 0.128080\t정확도: 96.44%\n", + "16\t검증 세트 손실: 0.137967\t최선의 손실: 0.128080\t정확도: 95.97%\n", + "17\t검증 세트 손실: 0.135576\t최선의 손실: 0.128080\t정확도: 96.56%\n", + "18\t검증 세트 손실: 0.127614\t최선의 손실: 0.127614\t정확도: 96.52%\n", + "19\t검증 세트 손실: 0.128430\t최선의 손실: 0.127614\t정확도: 96.52%\n", + "20\t검증 세트 손실: 0.140975\t최선의 손실: 0.127614\t정확도: 96.21%\n", + "21\t검증 세트 손실: 0.132394\t최선의 손실: 0.127614\t정확도: 96.33%\n", + "22\t검증 세트 손실: 0.123132\t최선의 손실: 0.123132\t정확도: 96.52%\n", + "23\t검증 세트 손실: 0.124188\t최선의 손실: 0.123132\t정확도: 96.87%\n", + "24\t검증 세트 손실: 0.118187\t최선의 손실: 0.118187\t정확도: 96.68%\n", + "25\t검증 세트 손실: 0.124791\t최선의 손실: 0.118187\t정확도: 96.36%\n", + "26\t검증 세트 손실: 0.134499\t최선의 손실: 0.118187\t정확도: 96.17%\n", + "27\t검증 세트 손실: 0.126882\t최선의 손실: 0.118187\t정확도: 96.44%\n", + "28\t검증 세트 손실: 0.115830\t최선의 손실: 0.115830\t정확도: 96.72%\n", + "29\t검증 세트 손실: 0.133308\t최선의 손실: 0.115830\t정확도: 96.13%\n", + "30\t검증 세트 손실: 0.145321\t최선의 손실: 0.115830\t정확도: 96.01%\n", + "31\t검증 세트 손실: 0.147526\t최선의 손실: 0.115830\t정확도: 96.33%\n", + "32\t검증 세트 손실: 0.121857\t최선의 손실: 0.115830\t정확도: 96.87%\n", + "33\t검증 세트 손실: 0.131553\t최선의 손실: 0.115830\t정확도: 96.29%\n", + "34\t검증 세트 손실: 0.130778\t최선의 손실: 0.115830\t정확도: 96.68%\n", + "35\t검증 세트 손실: 0.115092\t최선의 손실: 0.115092\t정확도: 97.11%\n", + "36\t검증 세트 손실: 0.118663\t최선의 손실: 0.115092\t정확도: 96.91%\n", + "37\t검증 세트 손실: 0.127500\t최선의 손실: 0.115092\t정확도: 96.64%\n", + "38\t검증 세트 손실: 0.140734\t최선의 손실: 0.115092\t정확도: 96.87%\n", + "39\t검증 세트 손실: 0.134238\t최선의 손실: 0.115092\t정확도: 96.29%\n", + "40\t검증 세트 손실: 0.131696\t최선의 손실: 0.115092\t정확도: 96.87%\n", + "41\t검증 세트 손실: 0.125930\t최선의 손실: 0.115092\t정확도: 96.52%\n", + "42\t검증 세트 손실: 0.117637\t최선의 손실: 0.115092\t정확도: 96.79%\n", + "43\t검증 세트 손실: 0.115242\t최선의 손실: 0.115092\t정확도: 96.99%\n", + "44\t검증 세트 손실: 0.108678\t최선의 손실: 0.108678\t정확도: 97.03%\n", + "45\t검증 세트 손실: 0.115946\t최선의 손실: 0.108678\t정확도: 96.87%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "43\t검증 세트 손실: 0.130090\t최선의 손실: 0.126951\t정확도: 96.09%\n", - "44\t검증 세트 손실: 0.143643\t최선의 손실: 0.126951\t정확도: 96.09%\n", - "45\t검증 세트 손실: 0.147790\t최선의 손실: 0.126951\t정확도: 95.43%\n", - "46\t검증 세트 손실: 0.134437\t최선의 손실: 0.126951\t정확도: 95.78%\n", - "47\t검증 세트 손실: 0.134925\t최선의 손실: 0.126951\t정확도: 96.36%\n", - "48\t검증 세트 손실: 0.126675\t최선의 손실: 0.126675\t정확도: 96.72%\n", - "49\t검증 세트 손실: 0.136615\t최선의 손실: 0.126675\t정확도: 96.44%\n", - "50\t검증 세트 손실: 0.123956\t최선의 손실: 0.123956\t정확도: 96.64%\n", - "51\t검증 세트 손실: 0.132093\t최선의 손실: 0.123956\t정확도: 96.05%\n", - "52\t검증 세트 손실: 0.131750\t최선의 손실: 0.123956\t정확도: 96.25%\n", - "53\t검증 세트 손실: 0.129719\t최선의 손실: 0.123956\t정확도: 95.54%\n", - "54\t검증 세트 손실: 0.128512\t최선의 손실: 0.123956\t정확도: 96.21%\n", - "55\t검증 세트 손실: 0.131989\t최선의 손실: 0.123956\t정확도: 96.52%\n", - "56\t검증 세트 손실: 0.147084\t최선의 손실: 0.123956\t정확도: 95.31%\n", - "57\t검증 세트 손실: 0.133625\t최선의 손실: 0.123956\t정확도: 96.17%\n", - "58\t검증 세트 손실: 0.156154\t최선의 손실: 0.123956\t정확도: 95.70%\n", - "59\t검증 세트 손실: 0.137674\t최선의 손실: 0.123956\t정확도: 96.13%\n", - "60\t검증 세트 손실: 0.138594\t최선의 손실: 0.123956\t정확도: 96.44%\n", - "61\t검증 세트 손실: 0.144520\t최선의 손실: 0.123956\t정확도: 95.90%\n", - "62\t검증 세트 손실: 0.132273\t최선의 손실: 0.123956\t정확도: 96.52%\n", - "63\t검증 세트 손실: 0.127300\t최선의 손실: 0.123956\t정확도: 96.29%\n", - "64\t검증 세트 손실: 0.130862\t최선의 손실: 0.123956\t정확도: 96.64%\n", - "65\t검증 세트 손실: 0.131325\t최선의 손실: 0.123956\t정확도: 96.87%\n", - "66\t검증 세트 손실: 0.123277\t최선의 손실: 0.123277\t정확도: 96.76%\n", - "67\t검증 세트 손실: 0.148008\t최선의 손실: 0.123277\t정확도: 96.60%\n", - "68\t검증 세트 손실: 0.122247\t최선의 손실: 0.122247\t정확도: 96.91%\n", - "69\t검증 세트 손실: 0.141666\t최선의 손실: 0.122247\t정확도: 96.21%\n", - "70\t검증 세트 손실: 0.141379\t최선의 손실: 0.122247\t정확도: 96.29%\n", - "71\t검증 세트 손실: 0.134302\t최선의 손실: 0.122247\t정확도: 96.21%\n", - "72\t검증 세트 손실: 0.151680\t최선의 손실: 0.122247\t정확도: 96.56%\n", - "73\t검증 세트 손실: 0.127665\t최선의 손실: 0.122247\t정확도: 96.48%\n", - "74\t검증 세트 손실: 0.124222\t최선의 손실: 0.122247\t정확도: 96.72%\n", - "75\t검증 세트 손실: 0.149626\t최선의 손실: 0.122247\t정확도: 96.29%\n", - "76\t검증 세트 손실: 0.140207\t최선의 손실: 0.122247\t정확도: 96.52%\n", - "77\t검증 세트 손실: 0.139907\t최선의 손실: 0.122247\t정확도: 96.05%\n", - "78\t검증 세트 손실: 0.130125\t최선의 손실: 0.122247\t정확도: 96.40%\n", - "79\t검증 세트 손실: 0.131447\t최선의 손실: 0.122247\t정확도: 96.52%\n", - "80\t검증 세트 손실: 0.145773\t최선의 손실: 0.122247\t정확도: 95.62%\n", - "81\t검증 세트 손실: 0.131525\t최선의 손실: 0.122247\t정확도: 96.17%\n", - "82\t검증 세트 손실: 0.127507\t최선의 손실: 0.122247\t정확도: 95.93%\n", - "83\t검증 세트 손실: 0.133957\t최선의 손실: 0.122247\t정확도: 96.29%\n", - "84\t검증 세트 손실: 0.123614\t최선의 손실: 0.122247\t정확도: 96.79%\n", - "85\t검증 세트 손실: 0.140912\t최선의 손실: 0.122247\t정확도: 96.36%\n", - "86\t검증 세트 손실: 0.124959\t최선의 손실: 0.122247\t정확도: 96.72%\n", - "87\t검증 세트 손실: 0.120447\t최선의 손실: 0.120447\t정확도: 96.56%\n", - "88\t검증 세트 손실: 0.121706\t최선의 손실: 0.120447\t정확도: 96.56%\n", - "89\t검증 세트 손실: 0.130101\t최선의 손실: 0.120447\t정확도: 96.76%\n", - "90\t검증 세트 손실: 0.131276\t최선의 손실: 0.120447\t정확도: 96.25%\n", - "91\t검증 세트 손실: 0.127770\t최선의 손실: 0.120447\t정확도: 96.33%\n", - "92\t검증 세트 손실: 0.129307\t최선의 손실: 0.120447\t정확도: 96.64%\n", - "93\t검증 세트 손실: 0.137425\t최선의 손실: 0.120447\t정확도: 96.29%\n", - "94\t검증 세트 손실: 0.145790\t최선의 손실: 0.120447\t정확도: 96.21%\n", - "95\t검증 세트 손실: 0.128904\t최선의 손실: 0.120447\t정확도: 96.33%\n", - "96\t검증 세트 손실: 0.128496\t최선의 손실: 0.120447\t정확도: 95.97%\n", - "97\t검증 세트 손실: 0.131516\t최선의 손실: 0.120447\t정확도: 96.40%\n", - "98\t검증 세트 손실: 0.127034\t최선의 손실: 0.120447\t정확도: 96.48%\n", - "99\t검증 세트 손실: 0.130344\t최선의 손실: 0.120447\t정확도: 96.79%\n", - "100\t검증 세트 손실: 0.127251\t최선의 손실: 0.120447\t정확도: 96.44%\n", - "101\t검증 세트 손실: 0.134547\t최선의 손실: 0.120447\t정확도: 96.64%\n", - "102\t검증 세트 손실: 0.134236\t최선의 손실: 0.120447\t정확도: 96.72%\n", - "103\t검증 세트 손실: 0.130010\t최선의 손실: 0.120447\t정확도: 96.64%\n", - "104\t검증 세트 손실: 0.123375\t최선의 손실: 0.120447\t정확도: 96.99%\n", - "105\t검증 세트 손실: 0.133529\t최선의 손실: 0.120447\t정확도: 96.91%\n", - "106\t검증 세트 손실: 0.131350\t최선의 손실: 0.120447\t정확도: 96.79%\n", - "107\t검증 세트 손실: 0.136164\t최선의 손실: 0.120447\t정확도: 96.56%\n", - "108\t검증 세트 손실: 0.122908\t최선의 손실: 0.120447\t정확도: 96.05%\n", + "46\t검증 세트 손실: 0.122742\t최선의 손실: 0.108678\t정확도: 96.64%\n", + "47\t검증 세트 손실: 0.133908\t최선의 손실: 0.108678\t정확도: 96.29%\n", + "48\t검증 세트 손실: 0.129424\t최선의 손실: 0.108678\t정확도: 96.68%\n", + "49\t검증 세트 손실: 0.121711\t최선의 손실: 0.108678\t정확도: 96.52%\n", + "50\t검증 세트 손실: 0.123214\t최선의 손실: 0.108678\t정확도: 96.83%\n", + "51\t검증 세트 손실: 0.113622\t최선의 손실: 0.108678\t정확도: 96.76%\n", + "52\t검증 세트 손실: 0.130712\t최선의 손실: 0.108678\t정확도: 96.64%\n", + "53\t검증 세트 손실: 0.121080\t최선의 손실: 0.108678\t정확도: 96.76%\n", + "54\t검증 세트 손실: 0.112958\t최선의 손실: 0.108678\t정확도: 97.11%\n", + "55\t검증 세트 손실: 0.115577\t최선의 손실: 0.108678\t정확도: 96.79%\n", + "56\t검증 세트 손실: 0.119494\t최선의 손실: 0.108678\t정확도: 96.79%\n", + "57\t검증 세트 손실: 0.127072\t최선의 손실: 0.108678\t정확도: 96.72%\n", + "58\t검증 세트 손실: 0.112017\t최선의 손실: 0.108678\t정확도: 97.07%\n", + "59\t검증 세트 손실: 0.112253\t최선의 손실: 0.108678\t정확도: 97.03%\n", + "60\t검증 세트 손실: 0.116023\t최선의 손실: 0.108678\t정확도: 97.07%\n", + "61\t검증 세트 손실: 0.110724\t최선의 손실: 0.108678\t정확도: 97.11%\n", + "62\t검증 세트 손실: 0.107853\t최선의 손실: 0.107853\t정확도: 97.46%\n", + "63\t검증 세트 손실: 0.113026\t최선의 손실: 0.107853\t정확도: 97.30%\n", + "64\t검증 세트 손실: 0.107449\t최선의 손실: 0.107449\t정확도: 97.15%\n", + "65\t검증 세트 손실: 0.119944\t최선의 손실: 0.107449\t정확도: 96.91%\n", + "66\t검증 세트 손실: 0.110308\t최선의 손실: 0.107449\t정확도: 97.22%\n", + "67\t검증 세트 손실: 0.104106\t최선의 손실: 0.104106\t정확도: 97.54%\n", + "68\t검증 세트 손실: 0.106864\t최선의 손실: 0.104106\t정확도: 97.03%\n", + "69\t검증 세트 손실: 0.110274\t최선의 손실: 0.104106\t정확도: 96.76%\n", + "70\t검증 세트 손실: 0.104430\t최선의 손실: 0.104106\t정확도: 97.22%\n", + "71\t검증 세트 손실: 0.127190\t최선의 손실: 0.104106\t정확도: 96.99%\n", + "72\t검증 세트 손실: 0.103969\t최선의 손실: 0.103969\t정확도: 97.15%\n", + "73\t검증 세트 손실: 0.102478\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "74\t검증 세트 손실: 0.106436\t최선의 손실: 0.102478\t정확도: 97.07%\n", + "75\t검증 세트 손실: 0.107784\t최선의 손실: 0.102478\t정확도: 97.11%\n", + "76\t검증 세트 손실: 0.112214\t최선의 손실: 0.102478\t정확도: 96.99%\n", + "77\t검증 세트 손실: 0.114186\t최선의 손실: 0.102478\t정확도: 96.83%\n", + "78\t검증 세트 손실: 0.103372\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "79\t검증 세트 손실: 0.113142\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "80\t검증 세트 손실: 0.112734\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "81\t검증 세트 손실: 0.114269\t최선의 손실: 0.102478\t정확도: 97.19%\n", + "82\t검증 세트 손실: 0.102883\t최선의 손실: 0.102478\t정확도: 97.30%\n", + "83\t검증 세트 손실: 0.111902\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "84\t검증 세트 손실: 0.109859\t최선의 손실: 0.102478\t정확도: 96.91%\n", + "85\t검증 세트 손실: 0.108208\t최선의 손실: 0.102478\t정확도: 97.15%\n", + "86\t검증 세트 손실: 0.126970\t최선의 손실: 0.102478\t정확도: 96.95%\n", + "87\t검증 세트 손실: 0.111050\t최선의 손실: 0.102478\t정확도: 96.95%\n", + "88\t검증 세트 손실: 0.110967\t최선의 손실: 0.102478\t정확도: 97.22%\n", + "89\t검증 세트 손실: 0.107376\t최선의 손실: 0.102478\t정확도: 97.22%\n", + "90\t검증 세트 손실: 0.111877\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "91\t검증 세트 손실: 0.103911\t최선의 손실: 0.102478\t정확도: 97.30%\n", + "92\t검증 세트 손실: 0.108851\t최선의 손실: 0.102478\t정확도: 97.03%\n", + "93\t검증 세트 손실: 0.102471\t최선의 손실: 0.102471\t정확도: 97.11%\n", + "94\t검증 세트 손실: 0.115033\t최선의 손실: 0.102471\t정확도: 97.03%\n", + "95\t검증 세트 손실: 0.120388\t최선의 손실: 0.102471\t정확도: 96.79%\n", + "96\t검증 세트 손실: 0.109287\t최선의 손실: 0.102471\t정확도: 97.03%\n", + "97\t검증 세트 손실: 0.111242\t최선의 손실: 0.102471\t정확도: 96.83%\n", + "98\t검증 세트 손실: 0.107475\t최선의 손실: 0.102471\t정확도: 97.50%\n", + "99\t검증 세트 손실: 0.112302\t최선의 손실: 0.102471\t정확도: 97.07%\n", + "100\t검증 세트 손실: 0.110793\t최선의 손실: 0.102471\t정확도: 96.91%\n", + "101\t검증 세트 손실: 0.112573\t최선의 손실: 0.102471\t정확도: 96.83%\n", + "102\t검증 세트 손실: 0.117336\t최선의 손실: 0.102471\t정확도: 96.79%\n", + "103\t검증 세트 손실: 0.098819\t최선의 손실: 0.098819\t정확도: 97.19%\n", + "104\t검증 세트 손실: 0.117082\t최선의 손실: 0.098819\t정확도: 97.07%\n", + "105\t검증 세트 손실: 0.132023\t최선의 손실: 0.098819\t정확도: 96.68%\n", + "106\t검증 세트 손실: 0.115484\t최선의 손실: 0.098819\t정확도: 97.07%\n", + "107\t검증 세트 손실: 0.116760\t최선의 손실: 0.098819\t정확도: 96.72%\n", + "108\t검증 세트 손실: 0.122981\t최선의 손실: 0.098819\t정확도: 96.99%\n", + "109\t검증 세트 손실: 0.124442\t최선의 손실: 0.098819\t정확도: 96.72%\n", + "110\t검증 세트 손실: 0.125981\t최선의 손실: 0.098819\t정확도: 96.87%\n", + "111\t검증 세트 손실: 0.116892\t최선의 손실: 0.098819\t정확도: 96.91%\n", + "112\t검증 세트 손실: 0.122003\t최선의 손실: 0.098819\t정확도: 97.11%\n", + "113\t검증 세트 손실: 0.113851\t최선의 손실: 0.098819\t정확도: 97.38%\n", + "114\t검증 세트 손실: 0.117691\t최선의 손실: 0.098819\t정확도: 97.15%\n", + "115\t검증 세트 손실: 0.115687\t최선의 손실: 0.098819\t정확도: 96.87%\n", + "116\t검증 세트 손실: 0.108480\t최선의 손실: 0.098819\t정확도: 97.11%\n", + "117\t검증 세트 손실: 0.125957\t최선의 손실: 0.098819\t정확도: 96.99%\n", + "118\t검증 세트 손실: 0.122921\t최선의 손실: 0.098819\t정확도: 97.03%\n", + "119\t검증 세트 손실: 0.115859\t최선의 손실: 0.098819\t정확도: 97.15%\n", + "120\t검증 세트 손실: 0.109878\t최선의 손실: 0.098819\t정확도: 96.91%\n", + "121\t검증 세트 손실: 0.106915\t최선의 손실: 0.098819\t정확도: 97.50%\n", + "122\t검증 세트 손실: 0.114212\t최선의 손실: 0.098819\t정확도: 97.19%\n", + "123\t검증 세트 손실: 0.103979\t최선의 손실: 0.098819\t정확도: 97.22%\n", + "124\t검증 세트 손실: 0.117331\t최선의 손실: 0.098819\t정확도: 96.72%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=10, total= 32.4s\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 0.208418\t최선의 손실: 0.208418\t정확도: 93.00%\n", - "1\t검증 세트 손실: 0.131514\t최선의 손실: 0.131514\t정확도: 96.09%\n", - "2\t검증 세트 손실: 0.116612\t최선의 손실: 0.116612\t정확도: 96.83%\n", - "3\t검증 세트 손실: 0.109485\t최선의 손실: 0.109485\t정확도: 97.15%\n", - "4\t검증 세트 손실: 0.107998\t최선의 손실: 0.107998\t정확도: 97.22%\n", - "5\t검증 세트 손실: 0.093085\t최선의 손실: 0.093085\t정확도: 97.50%\n", - "6\t검증 세트 손실: 0.091669\t최선의 손실: 0.091669\t정확도: 97.54%\n", - "7\t검증 세트 손실: 0.092344\t최선의 손실: 0.091669\t정확도: 97.42%\n", - "8\t검증 세트 손실: 0.086254\t최선의 손실: 0.086254\t정확도: 97.73%\n", - "9\t검증 세트 손실: 0.077014\t최선의 손실: 0.077014\t정확도: 97.81%\n", - "10\t검증 세트 손실: 0.080773\t최선의 손실: 0.077014\t정확도: 97.85%\n", - "11\t검증 세트 손실: 0.078482\t최선의 손실: 0.077014\t정확도: 97.97%\n", - "12\t검증 세트 손실: 0.075378\t최선의 손실: 0.075378\t정확도: 98.05%\n", - "13\t검증 세트 손실: 0.073184\t최선의 손실: 0.073184\t정확도: 97.93%\n", - "14\t검증 세트 손실: 0.075138\t최선의 손실: 0.073184\t정확도: 97.69%\n", - "15\t검증 세트 손실: 0.072208\t최선의 손실: 0.072208\t정확도: 97.97%\n", - "16\t검증 세트 손실: 0.067223\t최선의 손실: 0.067223\t정확도: 98.16%\n", - "17\t검증 세트 손실: 0.070692\t최선의 손실: 0.067223\t정확도: 97.93%\n", - "18\t검증 세트 손실: 0.066938\t최선의 손실: 0.066938\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.063189\t최선의 손실: 0.063189\t정확도: 98.24%\n", - "20\t검증 세트 손실: 0.062912\t최선의 손실: 0.062912\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.067825\t최선의 손실: 0.062912\t정확도: 98.12%\n", - "22\t검증 세트 손실: 0.070182\t최선의 손실: 0.062912\t정확도: 98.05%\n", - "23\t검증 세트 손실: 0.062232\t최선의 손실: 0.062232\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.067423\t최선의 손실: 0.062232\t정확도: 98.36%\n", - "25\t검증 세트 손실: 0.070078\t최선의 손실: 0.062232\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.073484\t최선의 손실: 0.062232\t정확도: 98.24%\n", - "27\t검증 세트 손실: 0.070767\t최선의 손실: 0.062232\t정확도: 98.28%\n", - "28\t검증 세트 손실: 0.077364\t최선의 손실: 0.062232\t정확도: 98.20%\n", - "29\t검증 세트 손실: 0.067912\t최선의 손실: 0.062232\t정확도: 98.40%\n", - "30\t검증 세트 손실: 0.067111\t최선의 손실: 0.062232\t정확도: 98.20%\n", - "31\t검증 세트 손실: 0.064761\t최선의 손실: 0.062232\t정확도: 98.32%\n", - "32\t검증 세트 손실: 0.062255\t최선의 손실: 0.062232\t정확도: 98.28%\n", - "33\t검증 세트 손실: 0.065829\t최선의 손실: 0.062232\t정확도: 98.20%\n", - "34\t검증 세트 손실: 0.063921\t최선의 손실: 0.062232\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.066188\t최선의 손실: 0.062232\t정확도: 98.32%\n", - "36\t검증 세트 손실: 0.062165\t최선의 손실: 0.062165\t정확도: 98.44%\n", - "37\t검증 세트 손실: 0.063246\t최선의 손실: 0.062165\t정확도: 98.63%\n", - "38\t검증 세트 손실: 0.061272\t최선의 손실: 0.061272\t정확도: 98.40%\n", - "39\t검증 세트 손실: 0.064451\t최선의 손실: 0.061272\t정확도: 98.44%\n", - "40\t검증 세트 손실: 0.066005\t최선의 손실: 0.061272\t정확도: 98.32%\n", - "41\t검증 세트 손실: 0.059444\t최선의 손실: 0.059444\t정확도: 98.36%\n", - "42\t검증 세트 손실: 0.060318\t최선의 손실: 0.059444\t정확도: 98.51%\n", - "43\t검증 세트 손실: 0.061838\t최선의 손실: 0.059444\t정확도: 98.40%\n", - "44\t검증 세트 손실: 0.061743\t최선의 손실: 0.059444\t정확도: 98.59%\n", - "45\t검증 세트 손실: 0.067709\t최선의 손실: 0.059444\t정확도: 98.24%\n", - "46\t검증 세트 손실: 0.064580\t최선의 손실: 0.059444\t정확도: 98.28%\n", - "47\t검증 세트 손실: 0.068257\t최선의 손실: 0.059444\t정확도: 98.36%\n", - "48\t검증 세트 손실: 0.067751\t최선의 손실: 0.059444\t정확도: 98.20%\n", - "49\t검증 세트 손실: 0.066927\t최선의 손실: 0.059444\t정확도: 98.48%\n", - "50\t검증 세트 손실: 0.064087\t최선의 손실: 0.059444\t정확도: 98.44%\n", - "51\t검증 세트 손실: 0.063537\t최선의 손실: 0.059444\t정확도: 98.40%\n", - "52\t검증 세트 손실: 0.063149\t최선의 손실: 0.059444\t정확도: 98.36%\n", - "53\t검증 세트 손실: 0.066542\t최선의 손실: 0.059444\t정확도: 98.20%\n", - "54\t검증 세트 손실: 0.061939\t최선의 손실: 0.059444\t정확도: 98.55%\n", - "55\t검증 세트 손실: 0.062873\t최선의 손실: 0.059444\t정확도: 98.36%\n", - "56\t검증 세트 손실: 0.065283\t최선의 손실: 0.059444\t정확도: 98.48%\n", - "57\t검증 세트 손실: 0.063883\t최선의 손실: 0.059444\t정확도: 98.36%\n", - "58\t검증 세트 손실: 0.065655\t최선의 손실: 0.059444\t정확도: 98.48%\n", - "59\t검증 세트 손실: 0.066004\t최선의 손실: 0.059444\t정확도: 98.55%\n", - "60\t검증 세트 손실: 0.068678\t최선의 손실: 0.059444\t정확도: 98.12%\n", - "61\t검증 세트 손실: 0.072457\t최선의 손실: 0.059444\t정확도: 98.20%\n", - "62\t검증 세트 손실: 0.067227\t최선의 손실: 0.059444\t정확도: 98.44%\n", - "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 6.2s\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 0.231476\t최선의 손실: 0.231476\t정확도: 92.34%\n", - "1\t검증 세트 손실: 0.138865\t최선의 손실: 0.138865\t정확도: 95.90%\n", - "2\t검증 세트 손실: 0.121507\t최선의 손실: 0.121507\t정확도: 96.72%\n", - "3\t검증 세트 손실: 0.095945\t최선의 손실: 0.095945\t정확도: 97.15%\n", - "4\t검증 세트 손실: 0.089188\t최선의 손실: 0.089188\t정확도: 97.38%\n", - "5\t검증 세트 손실: 0.086400\t최선의 손실: 0.086400\t정확도: 97.54%\n", - "6\t검증 세트 손실: 0.086006\t최선의 손실: 0.086006\t정확도: 97.69%\n", - "7\t검증 세트 손실: 0.090573\t최선의 손실: 0.086006\t정확도: 97.54%\n", - "8\t검증 세트 손실: 0.088316\t최선의 손실: 0.086006\t정확도: 97.77%\n", - "9\t검증 세트 손실: 0.076702\t최선의 손실: 0.076702\t정확도: 97.93%\n", - "10\t검증 세트 손실: 0.084417\t최선의 손실: 0.076702\t정확도: 97.81%\n", - "11\t검증 세트 손실: 0.077797\t최선의 손실: 0.076702\t정확도: 97.85%\n", - "12\t검증 세트 손실: 0.078754\t최선의 손실: 0.076702\t정확도: 97.81%\n", - "13\t검증 세트 손실: 0.077666\t최선의 손실: 0.076702\t정확도: 97.73%\n", - "14\t검증 세트 손실: 0.087722\t최선의 손실: 0.076702\t정확도: 97.85%\n", - "15\t검증 세트 손실: 0.072268\t최선의 손실: 0.072268\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.066666\t최선의 손실: 0.066666\t정확도: 98.28%\n", - "17\t검증 세트 손실: 0.067972\t최선의 손실: 0.066666\t정확도: 98.16%\n", - "18\t검증 세트 손실: 0.071899\t최선의 손실: 0.066666\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.064921\t최선의 손실: 0.064921\t정확도: 98.36%\n", - "20\t검증 세트 손실: 0.065867\t최선의 손실: 0.064921\t정확도: 98.20%\n" + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 36.4s\n", + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.192630\t최선의 손실: 0.192630\t정확도: 94.41%\n", + "1\t검증 세트 손실: 0.183711\t최선의 손실: 0.183711\t정확도: 95.31%\n", + "2\t검증 세트 손실: 0.146087\t최선의 손실: 0.146087\t정확도: 96.17%\n", + "3\t검증 세트 손실: 0.135635\t최선의 손실: 0.135635\t정확도: 96.64%\n", + "4\t검증 세트 손실: 0.148629\t최선의 손실: 0.135635\t정확도: 95.66%\n", + "5\t검증 세트 손실: 0.143620\t최선의 손실: 0.135635\t정확도: 96.09%\n", + "6\t검증 세트 손실: 0.126087\t최선의 손실: 0.126087\t정확도: 96.60%\n", + "7\t검증 세트 손실: 0.130267\t최선의 손실: 0.126087\t정확도: 96.36%\n", + "8\t검증 세트 손실: 0.137040\t최선의 손실: 0.126087\t정확도: 95.90%\n", + "9\t검증 세트 손실: 0.149583\t최선의 손실: 0.126087\t정확도: 96.21%\n", + "10\t검증 세트 손실: 0.129312\t최선의 손실: 0.126087\t정확도: 96.72%\n", + "11\t검증 세트 손실: 0.119126\t최선의 손실: 0.119126\t정확도: 96.48%\n", + "12\t검증 세트 손실: 0.121605\t최선의 손실: 0.119126\t정확도: 96.52%\n", + "13\t검증 세트 손실: 0.111420\t최선의 손실: 0.111420\t정확도: 97.30%\n", + "14\t검증 세트 손실: 0.117898\t최선의 손실: 0.111420\t정확도: 96.76%\n", + "15\t검증 세트 손실: 0.129288\t최선의 손실: 0.111420\t정확도: 96.68%\n", + "16\t검증 세트 손실: 0.115353\t최선의 손실: 0.111420\t정확도: 96.91%\n", + "17\t검증 세트 손실: 0.123954\t최선의 손실: 0.111420\t정확도: 96.48%\n", + "18\t검증 세트 손실: 0.114593\t최선의 손실: 0.111420\t정확도: 96.52%\n", + "19\t검증 세트 손실: 0.119990\t최선의 손실: 0.111420\t정확도: 96.99%\n", + "20\t검증 세트 손실: 0.119063\t최선의 손실: 0.111420\t정확도: 96.91%\n", + "21\t검증 세트 손실: 0.119095\t최선의 손실: 0.111420\t정확도: 96.79%\n", + "22\t검증 세트 손실: 0.126744\t최선의 손실: 0.111420\t정확도: 96.68%\n", + "23\t검증 세트 손실: 0.114512\t최선의 손실: 0.111420\t정확도: 96.95%\n", + "24\t검증 세트 손실: 0.116436\t최선의 손실: 0.111420\t정확도: 96.76%\n", + "25\t검증 세트 손실: 0.107833\t최선의 손실: 0.107833\t정확도: 96.72%\n", + "26\t검증 세트 손실: 0.113249\t최선의 손실: 0.107833\t정확도: 97.03%\n", + "27\t검증 세트 손실: 0.109779\t최선의 손실: 0.107833\t정확도: 96.83%\n", + "28\t검증 세트 손실: 0.113958\t최선의 손실: 0.107833\t정확도: 97.07%\n", + "29\t검증 세트 손실: 0.128418\t최선의 손실: 0.107833\t정확도: 96.95%\n", + "30\t검증 세트 손실: 0.108592\t최선의 손실: 0.107833\t정확도: 97.54%\n", + "31\t검증 세트 손실: 0.109730\t최선의 손실: 0.107833\t정확도: 96.79%\n", + "32\t검증 세트 손실: 0.116017\t최선의 손실: 0.107833\t정확도: 97.03%\n", + "33\t검증 세트 손실: 0.116625\t최선의 손실: 0.107833\t정확도: 96.56%\n", + "34\t검증 세트 손실: 0.113820\t최선의 손실: 0.107833\t정확도: 96.87%\n", + "35\t검증 세트 손실: 0.111711\t최선의 손실: 0.107833\t정확도: 96.99%\n", + "36\t검증 세트 손실: 0.113204\t최선의 손실: 0.107833\t정확도: 96.99%\n", + "37\t검증 세트 손실: 0.112772\t최선의 손실: 0.107833\t정확도: 96.99%\n", + "38\t검증 세트 손실: 0.108283\t최선의 손실: 0.107833\t정확도: 96.99%\n", + "39\t검증 세트 손실: 0.111958\t최선의 손실: 0.107833\t정확도: 96.99%\n", + "40\t검증 세트 손실: 0.110229\t최선의 손실: 0.107833\t정확도: 96.95%\n", + "41\t검증 세트 손실: 0.105781\t최선의 손실: 0.105781\t정확도: 96.95%\n", + "42\t검증 세트 손실: 0.108419\t최선의 손실: 0.105781\t정확도: 97.07%\n", + "43\t검증 세트 손실: 0.108251\t최선의 손실: 0.105781\t정확도: 97.15%\n", + "44\t검증 세트 손실: 0.106276\t최선의 손실: 0.105781\t정확도: 97.03%\n", + "45\t검증 세트 손실: 0.108444\t최선의 손실: 0.105781\t정확도: 97.15%\n", + "46\t검증 세트 손실: 0.118081\t최선의 손실: 0.105781\t정확도: 97.03%\n", + "47\t검증 세트 손실: 0.110813\t최선의 손실: 0.105781\t정확도: 96.83%\n", + "48\t검증 세트 손실: 0.109913\t최선의 손실: 0.105781\t정확도: 96.95%\n", + "49\t검증 세트 손실: 0.108057\t최선의 손실: 0.105781\t정확도: 97.46%\n", + "50\t검증 세트 손실: 0.101063\t최선의 손실: 0.101063\t정확도: 97.54%\n", + "51\t검증 세트 손실: 0.114731\t최선의 손실: 0.101063\t정확도: 97.30%\n", + "52\t검증 세트 손실: 0.104354\t최선의 손실: 0.101063\t정확도: 97.34%\n", + "53\t검증 세트 손실: 0.115727\t최선의 손실: 0.101063\t정확도: 97.30%\n", + "54\t검증 세트 손실: 0.114884\t최선의 손실: 0.101063\t정확도: 97.46%\n", + "55\t검증 세트 손실: 0.117642\t최선의 손실: 0.101063\t정확도: 97.15%\n", + "56\t검증 세트 손실: 0.113878\t최선의 손실: 0.101063\t정확도: 97.15%\n", + "57\t검증 세트 손실: 0.109931\t최선의 손실: 0.101063\t정확도: 96.99%\n", + "58\t검증 세트 손실: 0.112224\t최선의 손실: 0.101063\t정확도: 97.19%\n", + "59\t검증 세트 손실: 0.109442\t최선의 손실: 0.101063\t정확도: 97.30%\n", + "60\t검증 세트 손실: 0.115776\t최선의 손실: 0.101063\t정확도: 96.91%\n", + "61\t검증 세트 손실: 0.109168\t최선의 손실: 0.101063\t정확도: 97.38%\n", + "62\t검증 세트 손실: 0.100816\t최선의 손실: 0.100816\t정확도: 97.26%\n", + "63\t검증 세트 손실: 0.111207\t최선의 손실: 0.100816\t정확도: 97.34%\n", + "64\t검증 세트 손실: 0.118699\t최선의 손실: 0.100816\t정확도: 96.91%\n", + "65\t검증 세트 손실: 0.107641\t최선의 손실: 0.100816\t정확도: 97.22%\n", + "66\t검증 세트 손실: 0.114928\t최선의 손실: 0.100816\t정확도: 96.76%\n", + "67\t검증 세트 손실: 0.113095\t최선의 손실: 0.100816\t정확도: 96.79%\n", + "68\t검증 세트 손실: 0.113680\t최선의 손실: 0.100816\t정확도: 97.11%\n", + "69\t검증 세트 손실: 0.110065\t최선의 손실: 0.100816\t정확도: 97.22%\n", + "70\t검증 세트 손실: 0.102372\t최선의 손실: 0.100816\t정확도: 96.91%\n", + "71\t검증 세트 손실: 0.102341\t최선의 손실: 0.100816\t정확도: 97.19%\n", + "72\t검증 세트 손실: 0.098727\t최선의 손실: 0.098727\t정확도: 97.34%\n", + "73\t검증 세트 손실: 0.101386\t최선의 손실: 0.098727\t정확도: 97.15%\n", + "74\t검증 세트 손실: 0.099392\t최선의 손실: 0.098727\t정확도: 97.15%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "21\t검증 세트 손실: 0.061339\t최선의 손실: 0.061339\t정확도: 98.28%\n", - "22\t검증 세트 손실: 0.057686\t최선의 손실: 0.057686\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.063490\t최선의 손실: 0.057686\t정확도: 98.36%\n", - "24\t검증 세트 손실: 0.063781\t최선의 손실: 0.057686\t정확도: 98.28%\n", - "25\t검증 세트 손실: 0.068521\t최선의 손실: 0.057686\t정확도: 98.20%\n", - "26\t검증 세트 손실: 0.061976\t최선의 손실: 0.057686\t정확도: 98.28%\n", - "27\t검증 세트 손실: 0.061133\t최선의 손실: 0.057686\t정확도: 98.51%\n", - "28\t검증 세트 손실: 0.063577\t최선의 손실: 0.057686\t정확도: 98.36%\n", - "29\t검증 세트 손실: 0.061456\t최선의 손실: 0.057686\t정확도: 98.32%\n", - "30\t검증 세트 손실: 0.057813\t최선의 손실: 0.057686\t정확도: 98.36%\n", - "31\t검증 세트 손실: 0.054821\t최선의 손실: 0.054821\t정확도: 98.55%\n", - "32\t검증 세트 손실: 0.054690\t최선의 손실: 0.054690\t정확도: 98.44%\n", - "33\t검증 세트 손실: 0.058148\t최선의 손실: 0.054690\t정확도: 98.55%\n", - "34\t검증 세트 손실: 0.057676\t최선의 손실: 0.054690\t정확도: 98.55%\n", - "35\t검증 세트 손실: 0.052020\t최선의 손실: 0.052020\t정확도: 98.94%\n", - "36\t검증 세트 손실: 0.052712\t최선의 손실: 0.052020\t정확도: 98.67%\n", - "37\t검증 세트 손실: 0.059990\t최선의 손실: 0.052020\t정확도: 98.59%\n", - "38\t검증 세트 손실: 0.062259\t최선의 손실: 0.052020\t정확도: 98.48%\n", - "39\t검증 세트 손실: 0.060577\t최선의 손실: 0.052020\t정확도: 98.24%\n", - "40\t검증 세트 손실: 0.060859\t최선의 손실: 0.052020\t정확도: 98.59%\n", - "41\t검증 세트 손실: 0.065045\t최선의 손실: 0.052020\t정확도: 98.24%\n", - "42\t검증 세트 손실: 0.066540\t최선의 손실: 0.052020\t정확도: 98.40%\n", - "43\t검증 세트 손실: 0.057385\t최선의 손실: 0.052020\t정확도: 98.44%\n", - "44\t검증 세트 손실: 0.055743\t최선의 손실: 0.052020\t정확도: 98.59%\n", - "45\t검증 세트 손실: 0.059799\t최선의 손실: 0.052020\t정확도: 98.44%\n", - "46\t검증 세트 손실: 0.060326\t최선의 손실: 0.052020\t정확도: 98.48%\n", - "47\t검증 세트 손실: 0.058531\t최선의 손실: 0.052020\t정확도: 98.48%\n", - "48\t검증 세트 손실: 0.055919\t최선의 손실: 0.052020\t정확도: 98.44%\n", - "49\t검증 세트 손실: 0.059682\t최선의 손실: 0.052020\t정확도: 98.48%\n", - "50\t검증 세트 손실: 0.055605\t최선의 손실: 0.052020\t정확도: 98.59%\n", - "51\t검증 세트 손실: 0.052884\t최선의 손실: 0.052020\t정확도: 98.67%\n", - "52\t검증 세트 손실: 0.057476\t최선의 손실: 0.052020\t정확도: 98.44%\n", - "53\t검증 세트 손실: 0.055273\t최선의 손실: 0.052020\t정확도: 98.51%\n", - "54\t검증 세트 손실: 0.060743\t최선의 손실: 0.052020\t정확도: 98.44%\n", - "55\t검증 세트 손실: 0.053315\t최선의 손실: 0.052020\t정확도: 98.40%\n", - "56\t검증 세트 손실: 0.053814\t최선의 손실: 0.052020\t정확도: 98.67%\n", + "75\t검증 세트 손실: 0.099877\t최선의 손실: 0.098727\t정확도: 97.19%\n", + "76\t검증 세트 손실: 0.102628\t최선의 손실: 0.098727\t정확도: 97.15%\n", + "77\t검증 세트 손실: 0.106360\t최선의 손실: 0.098727\t정확도: 97.30%\n", + "78\t검증 세트 손실: 0.109372\t최선의 손실: 0.098727\t정확도: 97.19%\n", + "79\t검증 세트 손실: 0.107179\t최선의 손실: 0.098727\t정확도: 97.42%\n", + "80\t검증 세트 손실: 0.100797\t최선의 손실: 0.098727\t정확도: 97.26%\n", + "81\t검증 세트 손실: 0.102392\t최선의 손실: 0.098727\t정확도: 97.26%\n", + "82\t검증 세트 손실: 0.108872\t최선의 손실: 0.098727\t정확도: 97.34%\n", + "83\t검증 세트 손실: 0.110362\t최선의 손실: 0.098727\t정확도: 96.99%\n", + "84\t검증 세트 손실: 0.111909\t최선의 손실: 0.098727\t정확도: 96.99%\n", + "85\t검증 세트 손실: 0.113106\t최선의 손실: 0.098727\t정확도: 96.87%\n", + "86\t검증 세트 손실: 0.122558\t최선의 손실: 0.098727\t정확도: 96.72%\n", + "87\t검증 세트 손실: 0.128300\t최선의 손실: 0.098727\t정확도: 96.83%\n", + "88\t검증 세트 손실: 0.115405\t최선의 손실: 0.098727\t정확도: 96.99%\n", + "89\t검증 세트 손실: 0.103543\t최선의 손실: 0.098727\t정확도: 97.11%\n", + "90\t검증 세트 손실: 0.117756\t최선의 손실: 0.098727\t정확도: 96.99%\n", + "91\t검증 세트 손실: 0.107960\t최선의 손실: 0.098727\t정확도: 97.26%\n", + "92\t검증 세트 손실: 0.101524\t최선의 손실: 0.098727\t정확도: 97.77%\n", + "93\t검증 세트 손실: 0.109212\t최선의 손실: 0.098727\t정확도: 97.07%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 5.6s\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 0.353325\t최선의 손실: 0.353325\t정확도: 87.02%\n", - "1\t검증 세트 손실: 0.152990\t최선의 손실: 0.152990\t정확도: 95.11%\n", - "2\t검증 세트 손실: 0.119134\t최선의 손실: 0.119134\t정확도: 96.36%\n", - "3\t검증 세트 손실: 0.114856\t최선의 손실: 0.114856\t정확도: 96.68%\n", - "4\t검증 세트 손실: 0.110793\t최선의 손실: 0.110793\t정확도: 96.91%\n", - "5\t검증 세트 손실: 0.099682\t최선의 손실: 0.099682\t정확도: 97.30%\n", - "6\t검증 세트 손실: 0.087781\t최선의 손실: 0.087781\t정확도: 97.62%\n", - "7\t검증 세트 손실: 0.086127\t최선의 손실: 0.086127\t정확도: 97.89%\n", - "8\t검증 세트 손실: 0.090781\t최선의 손실: 0.086127\t정확도: 97.46%\n", - "9\t검증 세트 손실: 0.081340\t최선의 손실: 0.081340\t정확도: 97.65%\n", - "10\t검증 세트 손실: 0.083002\t최선의 손실: 0.081340\t정확도: 97.77%\n", - "11\t검증 세트 손실: 0.093984\t최선의 손실: 0.081340\t정확도: 97.26%\n", - "12\t검증 세트 손실: 0.076746\t최선의 손실: 0.076746\t정확도: 97.85%\n", - "13\t검증 세트 손실: 0.073379\t최선의 손실: 0.073379\t정확도: 98.16%\n", - "14\t검증 세트 손실: 0.077340\t최선의 손실: 0.073379\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.069987\t최선의 손실: 0.069987\t정확도: 98.08%\n", - "16\t검증 세트 손실: 0.067198\t최선의 손실: 0.067198\t정확도: 98.32%\n", - "17\t검증 세트 손실: 0.069973\t최선의 손실: 0.067198\t정확도: 98.05%\n", - "18\t검증 세트 손실: 0.069119\t최선의 손실: 0.067198\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.067091\t최선의 손실: 0.067091\t정확도: 98.28%\n", - "20\t검증 세트 손실: 0.071033\t최선의 손실: 0.067091\t정확도: 98.01%\n", - "21\t검증 세트 손실: 0.077187\t최선의 손실: 0.067091\t정확도: 97.89%\n", - "22\t검증 세트 손실: 0.070269\t최선의 손실: 0.067091\t정확도: 98.12%\n", - "23\t검증 세트 손실: 0.061673\t최선의 손실: 0.061673\t정확도: 98.32%\n", - "24\t검증 세트 손실: 0.070292\t최선의 손실: 0.061673\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.067662\t최선의 손실: 0.061673\t정확도: 98.08%\n", - "26\t검증 세트 손실: 0.062105\t최선의 손실: 0.061673\t정확도: 98.36%\n", - "27\t검증 세트 손실: 0.063499\t최선의 손실: 0.061673\t정확도: 98.28%\n", - "28\t검증 세트 손실: 0.065363\t최선의 손실: 0.061673\t정확도: 98.12%\n", - "29\t검증 세트 손실: 0.063166\t최선의 손실: 0.061673\t정확도: 98.48%\n", - "30\t검증 세트 손실: 0.066246\t최선의 손실: 0.061673\t정확도: 98.16%\n", - "31\t검증 세트 손실: 0.061956\t최선의 손실: 0.061673\t정확도: 98.32%\n", - "32\t검증 세트 손실: 0.065886\t최선의 손실: 0.061673\t정확도: 98.40%\n", - "33\t검증 세트 손실: 0.065987\t최선의 손실: 0.061673\t정확도: 98.24%\n", - "34\t검증 세트 손실: 0.059794\t최선의 손실: 0.059794\t정확도: 98.51%\n", - "35\t검증 세트 손실: 0.057049\t최선의 손실: 0.057049\t정확도: 98.51%\n", - "36\t검증 세트 손실: 0.064780\t최선의 손실: 0.057049\t정확도: 98.08%\n", - "37\t검증 세트 손실: 0.060050\t최선의 손실: 0.057049\t정확도: 98.55%\n", - "38\t검증 세트 손실: 0.056687\t최선의 손실: 0.056687\t정확도: 98.63%\n", - "39\t검증 세트 손실: 0.061788\t최선의 손실: 0.056687\t정확도: 98.55%\n", - "40\t검증 세트 손실: 0.058091\t최선의 손실: 0.056687\t정확도: 98.40%\n", - "41\t검증 세트 손실: 0.063428\t최선의 손실: 0.056687\t정확도: 98.44%\n", - "42\t검증 세트 손실: 0.064661\t최선의 손실: 0.056687\t정확도: 98.24%\n", - "43\t검증 세트 손실: 0.061885\t최선의 손실: 0.056687\t정확도: 98.36%\n", - "44\t검증 세트 손실: 0.063682\t최선의 손실: 0.056687\t정확도: 98.44%\n", - "45\t검증 세트 손실: 0.062367\t최선의 손실: 0.056687\t정확도: 98.51%\n", - "46\t검증 세트 손실: 0.059620\t최선의 손실: 0.056687\t정확도: 98.44%\n", - "47\t검증 세트 손실: 0.060376\t최선의 손실: 0.056687\t정확도: 98.63%\n", - "48\t검증 세트 손실: 0.059548\t최선의 손실: 0.056687\t정확도: 98.48%\n", - "49\t검증 세트 손실: 0.057044\t최선의 손실: 0.056687\t정확도: 98.44%\n", - "50\t검증 세트 손실: 0.060560\t최선의 손실: 0.056687\t정확도: 98.40%\n", - "51\t검증 세트 손실: 0.061017\t최선의 손실: 0.056687\t정확도: 98.44%\n", - "52\t검증 세트 손실: 0.059421\t최선의 손실: 0.056687\t정확도: 98.48%\n", - "53\t검증 세트 손실: 0.055321\t최선의 손실: 0.055321\t정확도: 98.67%\n", - "54\t검증 세트 손실: 0.057908\t최선의 손실: 0.055321\t정확도: 98.40%\n", - "55\t검증 세트 손실: 0.058594\t최선의 손실: 0.055321\t정확도: 98.67%\n", - "56\t검증 세트 손실: 0.059056\t최선의 손실: 0.055321\t정확도: 98.51%\n", - "57\t검증 세트 손실: 0.057601\t최선의 손실: 0.055321\t정확도: 98.67%\n", - "58\t검증 세트 손실: 0.058733\t최선의 손실: 0.055321\t정확도: 98.75%\n", - "59\t검증 세트 손실: 0.054183\t최선의 손실: 0.054183\t정확도: 98.55%\n", - "60\t검증 세트 손실: 0.057487\t최선의 손실: 0.054183\t정확도: 98.48%\n", - "61\t검증 세트 손실: 0.057595\t최선의 손실: 0.054183\t정확도: 98.59%\n", - "62\t검증 세트 손실: 0.061595\t최선의 손실: 0.054183\t정확도: 98.55%\n", - "63\t검증 세트 손실: 0.055349\t최선의 손실: 0.054183\t정확도: 98.55%\n", - "64\t검증 세트 손실: 0.062202\t최선의 손실: 0.054183\t정확도: 98.51%\n", - "65\t검증 세트 손실: 0.058272\t최선의 손실: 0.054183\t정확도: 98.51%\n", - "66\t검증 세트 손실: 0.053451\t최선의 손실: 0.053451\t정확도: 98.55%\n", - "67\t검증 세트 손실: 0.056273\t최선의 손실: 0.053451\t정확도: 98.48%\n", - "68\t검증 세트 손실: 0.056162\t최선의 손실: 0.053451\t정확도: 98.40%\n", - "69\t검증 세트 손실: 0.056161\t최선의 손실: 0.053451\t정확도: 98.63%\n", - "70\t검증 세트 손실: 0.057441\t최선의 손실: 0.053451\t정확도: 98.63%\n", - "71\t검증 세트 손실: 0.057356\t최선의 손실: 0.053451\t정확도: 98.75%\n", - "72\t검증 세트 손실: 0.060878\t최선의 손실: 0.053451\t정확도: 98.59%\n", - "73\t검증 세트 손실: 0.059916\t최선의 손실: 0.053451\t정확도: 98.44%\n", - "74\t검증 세트 손실: 0.055751\t최선의 손실: 0.053451\t정확도: 98.67%\n", - "75\t검증 세트 손실: 0.063158\t최선의 손실: 0.053451\t정확도: 98.55%\n", - "76\t검증 세트 손실: 0.061444\t최선의 손실: 0.053451\t정확도: 98.51%\n", - "77\t검증 세트 손실: 0.055258\t최선의 손실: 0.053451\t정확도: 98.75%\n", - "78\t검증 세트 손실: 0.060920\t최선의 손실: 0.053451\t정확도: 98.32%\n", - "79\t검증 세트 손실: 0.068852\t최선의 손실: 0.053451\t정확도: 98.36%\n", - "80\t검증 세트 손실: 0.057749\t최선의 손실: 0.053451\t정확도: 98.44%\n", - "81\t검증 세트 손실: 0.061186\t최선의 손실: 0.053451\t정확도: 98.48%\n", - "82\t검증 세트 손실: 0.057202\t최선의 손실: 0.053451\t정확도: 98.55%\n", - "83\t검증 세트 손실: 0.055033\t최선의 손실: 0.053451\t정확도: 98.48%\n", - "84\t검증 세트 손실: 0.055852\t최선의 손실: 0.053451\t정확도: 98.51%\n", - "85\t검증 세트 손실: 0.052282\t최선의 손실: 0.052282\t정확도: 98.63%\n", - "86\t검증 세트 손실: 0.059017\t최선의 손실: 0.052282\t정확도: 98.48%\n", - "87\t검증 세트 손실: 0.059203\t최선의 손실: 0.052282\t정확도: 98.71%\n", - "88\t검증 세트 손실: 0.056657\t최선의 손실: 0.052282\t정확도: 98.71%\n", - "89\t검증 세트 손실: 0.058050\t최선의 손실: 0.052282\t정확도: 98.48%\n", - "90\t검증 세트 손실: 0.057536\t최선의 손실: 0.052282\t정확도: 98.67%\n", - "91\t검증 세트 손실: 0.055260\t최선의 손실: 0.052282\t정확도: 98.67%\n", - "92\t검증 세트 손실: 0.056099\t최선의 손실: 0.052282\t정확도: 98.59%\n", - "93\t검증 세트 손실: 0.058747\t최선의 손실: 0.052282\t정확도: 98.48%\n", - "94\t검증 세트 손실: 0.053741\t최선의 손실: 0.052282\t정확도: 98.67%\n", - "95\t검증 세트 손실: 0.049477\t최선의 손실: 0.049477\t정확도: 98.51%\n", - "96\t검증 세트 손실: 0.052689\t최선의 손실: 0.049477\t정확도: 98.67%\n", - "97\t검증 세트 손실: 0.051816\t최선의 손실: 0.049477\t정확도: 98.71%\n", - "98\t검증 세트 손실: 0.049020\t최선의 손실: 0.049020\t정확도: 98.59%\n", - "99\t검증 세트 손실: 0.055800\t최선의 손실: 0.049020\t정확도: 98.75%\n", - "100\t검증 세트 손실: 0.057681\t최선의 손실: 0.049020\t정확도: 98.71%\n", - "101\t검증 세트 손실: 0.060016\t최선의 손실: 0.049020\t정확도: 98.71%\n", - "102\t검증 세트 손실: 0.052474\t최선의 손실: 0.049020\t정확도: 98.63%\n", - "103\t검증 세트 손실: 0.052929\t최선의 손실: 0.049020\t정확도: 98.71%\n", - "104\t검증 세트 손실: 0.048876\t최선의 손실: 0.048876\t정확도: 98.63%\n", - "105\t검증 세트 손실: 0.055728\t최선의 손실: 0.048876\t정확도: 98.55%\n", - "106\t검증 세트 손실: 0.055885\t최선의 손실: 0.048876\t정확도: 98.67%\n", - "107\t검증 세트 손실: 0.053050\t최선의 손실: 0.048876\t정확도: 98.79%\n", - "108\t검증 세트 손실: 0.057938\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "109\t검증 세트 손실: 0.057340\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "110\t검증 세트 손실: 0.053190\t최선의 손실: 0.048876\t정확도: 98.71%\n", - "111\t검증 세트 손실: 0.052010\t최선의 손실: 0.048876\t정확도: 98.79%\n", - "112\t검증 세트 손실: 0.053243\t최선의 손실: 0.048876\t정확도: 98.79%\n", - "113\t검증 세트 손실: 0.054266\t최선의 손실: 0.048876\t정확도: 98.71%\n", - "114\t검증 세트 손실: 0.053766\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "115\t검증 세트 손실: 0.053983\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "116\t검증 세트 손실: 0.052483\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "117\t검증 세트 손실: 0.057985\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "118\t검증 세트 손실: 0.061497\t최선의 손실: 0.048876\t정확도: 98.51%\n", - "119\t검증 세트 손실: 0.050972\t최선의 손실: 0.048876\t정확도: 98.59%\n" + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 27.6s\n", + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.221246\t최선의 손실: 0.221246\t정확도: 93.82%\n", + "1\t검증 세트 손실: 0.187573\t최선의 손실: 0.187573\t정확도: 94.84%\n", + "2\t검증 세트 손실: 0.224989\t최선의 손실: 0.187573\t정확도: 94.14%\n", + "3\t검증 세트 손실: 0.166034\t최선의 손실: 0.166034\t정확도: 96.21%\n", + "4\t검증 세트 손실: 0.156200\t최선의 손실: 0.156200\t정확도: 96.33%\n", + "5\t검증 세트 손실: 0.160448\t최선의 손실: 0.156200\t정확도: 96.01%\n", + "6\t검증 세트 손실: 0.138477\t최선의 손실: 0.138477\t정확도: 96.25%\n", + "7\t검증 세트 손실: 0.137766\t최선의 손실: 0.137766\t정확도: 95.54%\n", + "8\t검증 세트 손실: 0.143248\t최선의 손실: 0.137766\t정확도: 96.64%\n", + "9\t검증 세트 손실: 0.141264\t최선의 손실: 0.137766\t정확도: 96.25%\n", + "10\t검증 세트 손실: 0.143956\t최선의 손실: 0.137766\t정확도: 96.44%\n", + "11\t검증 세트 손실: 0.138159\t최선의 손실: 0.137766\t정확도: 96.76%\n", + "12\t검증 세트 손실: 0.134507\t최선의 손실: 0.134507\t정확도: 96.56%\n", + "13\t검증 세트 손실: 0.133315\t최선의 손실: 0.133315\t정확도: 96.79%\n", + "14\t검증 세트 손실: 0.139351\t최선의 손실: 0.133315\t정확도: 96.25%\n", + "15\t검증 세트 손실: 0.135148\t최선의 손실: 0.133315\t정확도: 96.95%\n", + "16\t검증 세트 손실: 0.128058\t최선의 손실: 0.128058\t정확도: 96.64%\n", + "17\t검증 세트 손실: 0.121784\t최선의 손실: 0.121784\t정확도: 96.79%\n", + "18\t검증 세트 손실: 0.120955\t최선의 손실: 0.120955\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.127350\t최선의 손실: 0.120955\t정확도: 97.03%\n", + "20\t검증 세트 손실: 0.123947\t최선의 손실: 0.120955\t정확도: 96.95%\n", + "21\t검증 세트 손실: 0.121047\t최선의 손실: 0.120955\t정확도: 96.68%\n", + "22\t검증 세트 손실: 0.138167\t최선의 손실: 0.120955\t정확도: 96.52%\n", + "23\t검증 세트 손실: 0.140885\t최선의 손실: 0.120955\t정확도: 96.17%\n", + "24\t검증 세트 손실: 0.140780\t최선의 손실: 0.120955\t정확도: 96.48%\n", + "25\t검증 세트 손실: 0.126191\t최선의 손실: 0.120955\t정확도: 96.72%\n", + "26\t검증 세트 손실: 0.123303\t최선의 손실: 0.120955\t정확도: 96.68%\n", + "27\t검증 세트 손실: 0.124462\t최선의 손실: 0.120955\t정확도: 96.79%\n", + "28\t검증 세트 손실: 0.122966\t최선의 손실: 0.120955\t정확도: 96.72%\n", + "29\t검증 세트 손실: 0.120117\t최선의 손실: 0.120117\t정확도: 96.60%\n", + "30\t검증 세트 손실: 0.114608\t최선의 손실: 0.114608\t정확도: 96.95%\n", + "31\t검증 세트 손실: 0.125604\t최선의 손실: 0.114608\t정확도: 96.76%\n", + "32\t검증 세트 손실: 0.116204\t최선의 손실: 0.114608\t정확도: 96.91%\n", + "33\t검증 세트 손실: 0.131701\t최선의 손실: 0.114608\t정확도: 96.83%\n", + "34\t검증 세트 손실: 0.130499\t최선의 손실: 0.114608\t정확도: 96.05%\n", + "35\t검증 세트 손실: 0.110918\t최선의 손실: 0.110918\t정확도: 97.07%\n", + "36\t검증 세트 손실: 0.154465\t최선의 손실: 0.110918\t정확도: 96.56%\n", + "37\t검증 세트 손실: 0.119143\t최선의 손실: 0.110918\t정확도: 96.83%\n", + "38\t검증 세트 손실: 0.132752\t최선의 손실: 0.110918\t정확도: 96.56%\n", + "39\t검증 세트 손실: 0.117046\t최선의 손실: 0.110918\t정확도: 96.68%\n", + "40\t검증 세트 손실: 0.126493\t최선의 손실: 0.110918\t정확도: 96.91%\n", + "41\t검증 세트 손실: 0.120120\t최선의 손실: 0.110918\t정확도: 96.83%\n", + "42\t검증 세트 손실: 0.122926\t최선의 손실: 0.110918\t정확도: 96.83%\n", + "43\t검증 세트 손실: 0.117551\t최선의 손실: 0.110918\t정확도: 96.83%\n", + "44\t검증 세트 손실: 0.121836\t최선의 손실: 0.110918\t정확도: 96.60%\n", + "45\t검증 세트 손실: 0.128539\t최선의 손실: 0.110918\t정확도: 96.17%\n", + "46\t검증 세트 손실: 0.114802\t최선의 손실: 0.110918\t정확도: 96.99%\n", + "47\t검증 세트 손실: 0.123138\t최선의 손실: 0.110918\t정확도: 97.19%\n", + "48\t검증 세트 손실: 0.124672\t최선의 손실: 0.110918\t정확도: 97.11%\n", + "49\t검증 세트 손실: 0.120247\t최선의 손실: 0.110918\t정확도: 96.99%\n", + "50\t검증 세트 손실: 0.123627\t최선의 손실: 0.110918\t정확도: 97.03%\n", + "51\t검증 세트 손실: 0.125013\t최선의 손실: 0.110918\t정확도: 97.07%\n", + "52\t검증 세트 손실: 0.113875\t최선의 손실: 0.110918\t정확도: 96.95%\n", + "53\t검증 세트 손실: 0.112533\t최선의 손실: 0.110918\t정확도: 97.03%\n", + "54\t검증 세트 손실: 0.111153\t최선의 손실: 0.110918\t정확도: 97.34%\n", + "55\t검증 세트 손실: 0.113503\t최선의 손실: 0.110918\t정확도: 96.95%\n", + "56\t검증 세트 손실: 0.127882\t최선의 손실: 0.110918\t정확도: 96.91%\n", + "조기 종료!\n", + "[CV] n_neurons=10, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 17.0s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.149830\t최선의 손실: 0.149830\t정확도: 95.82%\n", + "1\t검증 세트 손실: 0.110005\t최선의 손실: 0.110005\t정확도: 96.83%\n", + "2\t검증 세트 손실: 0.100092\t최선의 손실: 0.100092\t정확도: 97.46%\n", + "3\t검증 세트 손실: 0.094228\t최선의 손실: 0.094228\t정확도: 97.38%\n", + "4\t검증 세트 손실: 0.081005\t최선의 손실: 0.081005\t정확도: 97.46%\n", + "5\t검증 세트 손실: 0.081500\t최선의 손실: 0.081005\t정확도: 97.54%\n", + "6\t검증 세트 손실: 0.079739\t최선의 손실: 0.079739\t정확도: 98.08%\n", + "7\t검증 세트 손실: 0.080333\t최선의 손실: 0.079739\t정확도: 97.89%\n", + "8\t검증 세트 손실: 0.076358\t최선의 손실: 0.076358\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.069723\t최선의 손실: 0.069723\t정확도: 98.08%\n", + "10\t검증 세트 손실: 0.071994\t최선의 손실: 0.069723\t정확도: 98.08%\n", + "11\t검증 세트 손실: 0.081617\t최선의 손실: 0.069723\t정확도: 97.89%\n", + "12\t검증 세트 손실: 0.079816\t최선의 손실: 0.069723\t정확도: 97.85%\n", + "13\t검증 세트 손실: 0.070609\t최선의 손실: 0.069723\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.069253\t최선의 손실: 0.069253\t정확도: 98.36%\n", + "15\t검증 세트 손실: 0.072695\t최선의 손실: 0.069253\t정확도: 97.93%\n", + "16\t검증 세트 손실: 0.067013\t최선의 손실: 0.067013\t정확도: 98.28%\n", + "17\t검증 세트 손실: 0.071839\t최선의 손실: 0.067013\t정확도: 98.08%\n", + "18\t검증 세트 손실: 0.062855\t최선의 손실: 0.062855\t정확도: 98.01%\n", + "19\t검증 세트 손실: 0.072443\t최선의 손실: 0.062855\t정확도: 98.05%\n", + "20\t검증 세트 손실: 0.061405\t최선의 손실: 0.061405\t정확도: 98.48%\n", + "21\t검증 세트 손실: 0.065283\t최선의 손실: 0.061405\t정확도: 98.16%\n", + "22\t검증 세트 손실: 0.068691\t최선의 손실: 0.061405\t정확도: 97.97%\n", + "23\t검증 세트 손실: 0.071854\t최선의 손실: 0.061405\t정확도: 98.05%\n", + "24\t검증 세트 손실: 0.064236\t최선의 손실: 0.061405\t정확도: 98.48%\n", + "25\t검증 세트 손실: 0.065263\t최선의 손실: 0.061405\t정확도: 98.36%\n", + "26\t검증 세트 손실: 0.063850\t최선의 손실: 0.061405\t정확도: 98.40%\n", + "27\t검증 세트 손실: 0.058985\t최선의 손실: 0.058985\t정확도: 98.79%\n", + "28\t검증 세트 손실: 0.069064\t최선의 손실: 0.058985\t정확도: 98.32%\n", + "29\t검증 세트 손실: 0.063304\t최선의 손실: 0.058985\t정확도: 98.51%\n", + "30\t검증 세트 손실: 0.063825\t최선의 손실: 0.058985\t정확도: 98.44%\n", + "31\t검증 세트 손실: 0.062341\t최선의 손실: 0.058985\t정확도: 98.36%\n", + "32\t검증 세트 손실: 0.062683\t최선의 손실: 0.058985\t정확도: 98.59%\n", + "33\t검증 세트 손실: 0.060937\t최선의 손실: 0.058985\t정확도: 98.24%\n", + "34\t검증 세트 손실: 0.062286\t최선의 손실: 0.058985\t정확도: 98.36%\n", + "35\t검증 세트 손실: 0.060229\t최선의 손실: 0.058985\t정확도: 98.40%\n", + "36\t검증 세트 손실: 0.057033\t최선의 손실: 0.057033\t정확도: 98.51%\n", + "37\t검증 세트 손실: 0.067477\t최선의 손실: 0.057033\t정확도: 98.01%\n", + "38\t검증 세트 손실: 0.060247\t최선의 손실: 0.057033\t정확도: 98.20%\n", + "39\t검증 세트 손실: 0.059737\t최선의 손실: 0.057033\t정확도: 98.24%\n", + "40\t검증 세트 손실: 0.058482\t최선의 손실: 0.057033\t정확도: 98.55%\n", + "41\t검증 세트 손실: 0.059829\t최선의 손실: 0.057033\t정확도: 98.28%\n", + "42\t검증 세트 손실: 0.062636\t최선의 손실: 0.057033\t정확도: 98.48%\n", + "43\t검증 세트 손실: 0.065191\t최선의 손실: 0.057033\t정확도: 98.36%\n", + "44\t검증 세트 손실: 0.064369\t최선의 손실: 0.057033\t정확도: 98.40%\n", + "45\t검증 세트 손실: 0.065325\t최선의 손실: 0.057033\t정확도: 98.20%\n", + "46\t검증 세트 손실: 0.065881\t최선의 손실: 0.057033\t정확도: 98.36%\n", + "47\t검증 세트 손실: 0.062476\t최선의 손실: 0.057033\t정확도: 98.44%\n", + "48\t검증 세트 손실: 0.066260\t최선의 손실: 0.057033\t정확도: 98.40%\n", + "49\t검증 세트 손실: 0.062436\t최선의 손실: 0.057033\t정확도: 98.28%\n", + "50\t검증 세트 손실: 0.064798\t최선의 손실: 0.057033\t정확도: 98.36%\n", + "51\t검증 세트 손실: 0.066580\t최선의 손실: 0.057033\t정확도: 98.28%\n", + "52\t검증 세트 손실: 0.063610\t최선의 손실: 0.057033\t정확도: 98.40%\n", + "53\t검증 세트 손실: 0.066604\t최선의 손실: 0.057033\t정확도: 98.40%\n", + "54\t검증 세트 손실: 0.065201\t최선의 손실: 0.057033\t정확도: 98.44%\n", + "55\t검증 세트 손실: 0.057782\t최선의 손실: 0.057033\t정확도: 98.55%\n", + "56\t검증 세트 손실: 0.062193\t최선의 손실: 0.057033\t정확도: 98.44%\n", + "57\t검증 세트 손실: 0.057641\t최선의 손실: 0.057033\t정확도: 98.51%\n", + "조기 종료!\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 5.2s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.134640\t최선의 손실: 0.134640\t정확도: 96.25%\n", + "1\t검증 세트 손실: 0.107877\t최선의 손실: 0.107877\t정확도: 97.07%\n", + "2\t검증 세트 손실: 0.087253\t최선의 손실: 0.087253\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.083129\t최선의 손실: 0.083129\t정확도: 97.77%\n", + "4\t검증 세트 손실: 0.080871\t최선의 손실: 0.080871\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.072516\t최선의 손실: 0.072516\t정확도: 98.01%\n", + "6\t검증 세트 손실: 0.073894\t최선의 손실: 0.072516\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.075437\t최선의 손실: 0.072516\t정확도: 97.73%\n", + "8\t검증 세트 손실: 0.072595\t최선의 손실: 0.072516\t정확도: 97.89%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "120\t검증 세트 손실: 0.055582\t최선의 손실: 0.048876\t정확도: 98.75%\n", - "121\t검증 세트 손실: 0.057221\t최선의 손실: 0.048876\t정확도: 98.87%\n", - "122\t검증 세트 손실: 0.051209\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "123\t검증 세트 손실: 0.055801\t최선의 손실: 0.048876\t정확도: 98.63%\n", - "124\t검증 세트 손실: 0.059603\t최선의 손실: 0.048876\t정확도: 98.59%\n", - "125\t검증 세트 손실: 0.058904\t최선의 손실: 0.048876\t정확도: 98.71%\n", + "9\t검증 세트 손실: 0.066687\t최선의 손실: 0.066687\t정확도: 98.28%\n", + "10\t검증 세트 손실: 0.076227\t최선의 손실: 0.066687\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.063278\t최선의 손실: 0.063278\t정확도: 98.44%\n", + "12\t검증 세트 손실: 0.065506\t최선의 손실: 0.063278\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.064278\t최선의 손실: 0.063278\t정확도: 98.24%\n", + "14\t검증 세트 손실: 0.057716\t최선의 손실: 0.057716\t정확도: 98.48%\n", + "15\t검증 세트 손실: 0.060881\t최선의 손실: 0.057716\t정확도: 98.44%\n", + "16\t검증 세트 손실: 0.062948\t최선의 손실: 0.057716\t정확도: 98.40%\n", + "17\t검증 세트 손실: 0.062022\t최선의 손실: 0.057716\t정확도: 98.16%\n", + "18\t검증 세트 손실: 0.060688\t최선의 손실: 0.057716\t정확도: 98.28%\n", + "19\t검증 세트 손실: 0.058851\t최선의 손실: 0.057716\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.059871\t최선의 손실: 0.057716\t정확도: 98.36%\n", + "21\t검증 세트 손실: 0.055669\t최선의 손실: 0.055669\t정확도: 98.48%\n", + "22\t검증 세트 손실: 0.055128\t최선의 손실: 0.055128\t정확도: 98.40%\n", + "23\t검증 세트 손실: 0.058273\t최선의 손실: 0.055128\t정확도: 98.44%\n", + "24\t검증 세트 손실: 0.057713\t최선의 손실: 0.055128\t정확도: 98.44%\n", + "25\t검증 세트 손실: 0.063816\t최선의 손실: 0.055128\t정확도: 98.24%\n", + "26\t검증 세트 손실: 0.050022\t최선의 손실: 0.050022\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.053085\t최선의 손실: 0.050022\t정확도: 98.55%\n", + "28\t검증 세트 손실: 0.055933\t최선의 손실: 0.050022\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.065077\t최선의 손실: 0.050022\t정확도: 98.44%\n", + "30\t검증 세트 손실: 0.065414\t최선의 손실: 0.050022\t정확도: 98.20%\n", + "31\t검증 세트 손실: 0.057803\t최선의 손실: 0.050022\t정확도: 98.48%\n", + "32\t검증 세트 손실: 0.059073\t최선의 손실: 0.050022\t정확도: 98.51%\n", + "33\t검증 세트 손실: 0.058779\t최선의 손실: 0.050022\t정확도: 98.40%\n", + "34\t검증 세트 손실: 0.056092\t최선의 손실: 0.050022\t정확도: 98.71%\n", + "35\t검증 세트 손실: 0.057879\t최선의 손실: 0.050022\t정확도: 98.51%\n", + "36\t검증 세트 손실: 0.056924\t최선의 손실: 0.050022\t정확도: 98.59%\n", + "37\t검증 세트 손실: 0.065498\t최선의 손실: 0.050022\t정확도: 98.40%\n", + "38\t검증 세트 손실: 0.060276\t최선의 손실: 0.050022\t정확도: 98.44%\n", + "39\t검증 세트 손실: 0.065860\t최선의 손실: 0.050022\t정확도: 98.36%\n", + "40\t검증 세트 손실: 0.068398\t최선의 손실: 0.050022\t정확도: 98.32%\n", + "41\t검증 세트 손실: 0.059258\t최선의 손실: 0.050022\t정확도: 98.59%\n", + "42\t검증 세트 손실: 0.058413\t최선의 손실: 0.050022\t정확도: 98.55%\n", + "43\t검증 세트 손실: 0.059603\t최선의 손실: 0.050022\t정확도: 98.24%\n", + "44\t검증 세트 손실: 0.058448\t최선의 손실: 0.050022\t정확도: 98.55%\n", + "45\t검증 세트 손실: 0.058741\t최선의 손실: 0.050022\t정확도: 98.44%\n", + "46\t검증 세트 손실: 0.059150\t최선의 손실: 0.050022\t정확도: 98.51%\n", + "47\t검증 세트 손실: 0.058444\t최선의 손실: 0.050022\t정확도: 98.40%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 11.6s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.512895\t최선의 손실: 0.512895\t정확도: 78.19%\n", - "1\t검증 세트 손실: 0.324697\t최선의 손실: 0.324697\t정확도: 88.31%\n", - "2\t검증 세트 손실: 0.242306\t최선의 손실: 0.242306\t정확도: 93.16%\n", - "3\t검증 세트 손실: 0.400412\t최선의 손실: 0.242306\t정확도: 90.89%\n", - "4\t검증 세트 손실: 0.175527\t최선의 손실: 0.175527\t정확도: 95.47%\n", - "5\t검증 세트 손실: 0.159877\t최선의 손실: 0.159877\t정확도: 95.50%\n", - "6\t검증 세트 손실: 0.144359\t최선의 손실: 0.144359\t정확도: 95.90%\n", - "7\t검증 세트 손실: 0.127455\t최선의 손실: 0.127455\t정확도: 96.17%\n", - "8\t검증 세트 손실: 0.163201\t최선의 손실: 0.127455\t정확도: 95.90%\n", - "9\t검증 세트 손실: 0.183390\t최선의 손실: 0.127455\t정확도: 95.82%\n", - "10\t검증 세트 손실: 0.186553\t최선의 손실: 0.127455\t정확도: 95.50%\n", - "11\t검증 세트 손실: 0.159863\t최선의 손실: 0.127455\t정확도: 96.21%\n", - "12\t검증 세트 손실: 0.137605\t최선의 손실: 0.127455\t정확도: 96.13%\n", - "13\t검증 세트 손실: 0.189803\t최선의 손실: 0.127455\t정확도: 96.44%\n", - "14\t검증 세트 손실: 0.220794\t최선의 손실: 0.127455\t정확도: 95.74%\n", - "15\t검증 세트 손실: 0.659550\t최선의 손실: 0.127455\t정확도: 78.38%\n", - "16\t검증 세트 손실: 0.708489\t최선의 손실: 0.127455\t정확도: 68.88%\n", - "17\t검증 세트 손실: 0.519953\t최선의 손실: 0.127455\t정확도: 78.58%\n", - "18\t검증 세트 손실: 0.442033\t최선의 손실: 0.127455\t정확도: 89.09%\n", - "19\t검증 세트 손실: 0.311525\t최선의 손실: 0.127455\t정확도: 92.42%\n", - "20\t검증 세트 손실: 0.249738\t최선의 손실: 0.127455\t정확도: 92.65%\n", - "21\t검증 세트 손실: 0.240654\t최선의 손실: 0.127455\t정확도: 94.21%\n", - "22\t검증 세트 손실: 0.233694\t최선의 손실: 0.127455\t정확도: 93.67%\n", - "23\t검증 세트 손실: 0.297756\t최선의 손실: 0.127455\t정확도: 94.10%\n", - "24\t검증 세트 손실: 0.250933\t최선의 손실: 0.127455\t정확도: 94.37%\n", - "25\t검증 세트 손실: 0.240308\t최선의 손실: 0.127455\t정확도: 94.45%\n", - "26\t검증 세트 손실: 0.220690\t최선의 손실: 0.127455\t정확도: 94.92%\n", - "27\t검증 세트 손실: 0.208702\t최선의 손실: 0.127455\t정확도: 95.04%\n", - "28\t검증 세트 손실: 0.186401\t최선의 손실: 0.127455\t정확도: 95.58%\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 4.4s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.135493\t최선의 손실: 0.135493\t정확도: 96.21%\n", + "1\t검증 세트 손실: 0.111170\t최선의 손실: 0.111170\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.100103\t최선의 손실: 0.100103\t정확도: 97.07%\n", + "3\t검증 세트 손실: 0.091620\t최선의 손실: 0.091620\t정확도: 97.93%\n", + "4\t검증 세트 손실: 0.081450\t최선의 손실: 0.081450\t정확도: 97.81%\n", + "5\t검증 세트 손실: 0.078870\t최선의 손실: 0.078870\t정확도: 97.85%\n", + "6\t검증 세트 손실: 0.073845\t최선의 손실: 0.073845\t정확도: 97.89%\n", + "7\t검증 세트 손실: 0.074542\t최선의 손실: 0.073845\t정확도: 98.05%\n", + "8\t검증 세트 손실: 0.077235\t최선의 손실: 0.073845\t정확도: 97.77%\n", + "9\t검증 세트 손실: 0.074576\t최선의 손실: 0.073845\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.075186\t최선의 손실: 0.073845\t정확도: 98.01%\n", + "11\t검증 세트 손실: 0.072603\t최선의 손실: 0.072603\t정확도: 97.81%\n", + "12\t검증 세트 손실: 0.067471\t최선의 손실: 0.067471\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.070624\t최선의 손실: 0.067471\t정확도: 98.32%\n", + "14\t검증 세트 손실: 0.068359\t최선의 손실: 0.067471\t정확도: 98.44%\n", + "15\t검증 세트 손실: 0.063372\t최선의 손실: 0.063372\t정확도: 98.36%\n", + "16\t검증 세트 손실: 0.067621\t최선의 손실: 0.063372\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.067557\t최선의 손실: 0.063372\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.063186\t최선의 손실: 0.063186\t정확도: 98.44%\n", + "19\t검증 세트 손실: 0.066427\t최선의 손실: 0.063186\t정확도: 98.24%\n", + "20\t검증 세트 손실: 0.067573\t최선의 손실: 0.063186\t정확도: 98.32%\n", + "21\t검증 세트 손실: 0.069942\t최선의 손실: 0.063186\t정확도: 98.16%\n", + "22\t검증 세트 손실: 0.061873\t최선의 손실: 0.061873\t정확도: 98.24%\n", + "23\t검증 세트 손실: 0.059514\t최선의 손실: 0.059514\t정확도: 98.40%\n", + "24\t검증 세트 손실: 0.064582\t최선의 손실: 0.059514\t정확도: 98.20%\n", + "25\t검증 세트 손실: 0.062084\t최선의 손실: 0.059514\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.060544\t최선의 손실: 0.059514\t정확도: 98.32%\n", + "27\t검증 세트 손실: 0.066822\t최선의 손실: 0.059514\t정확도: 98.32%\n", + "28\t검증 세트 손실: 0.064144\t최선의 손실: 0.059514\t정확도: 98.40%\n", + "29\t검증 세트 손실: 0.066670\t최선의 손실: 0.059514\t정확도: 98.32%\n", + "30\t검증 세트 손실: 0.064149\t최선의 손실: 0.059514\t정확도: 98.24%\n", + "31\t검증 세트 손실: 0.062186\t최선의 손실: 0.059514\t정확도: 98.28%\n", + "32\t검증 세트 손실: 0.060254\t최선의 손실: 0.059514\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.059665\t최선의 손실: 0.059514\t정확도: 98.32%\n", + "34\t검증 세트 손실: 0.056306\t최선의 손실: 0.056306\t정확도: 98.36%\n", + "35\t검증 세트 손실: 0.056377\t최선의 손실: 0.056306\t정확도: 98.55%\n", + "36\t검증 세트 손실: 0.061731\t최선의 손실: 0.056306\t정확도: 98.24%\n", + "37\t검증 세트 손실: 0.057130\t최선의 손실: 0.056306\t정확도: 98.44%\n", + "38\t검증 세트 손실: 0.061343\t최선의 손실: 0.056306\t정확도: 98.28%\n", + "39\t검증 세트 손실: 0.059378\t최선의 손실: 0.056306\t정확도: 98.28%\n", + "40\t검증 세트 손실: 0.064224\t최선의 손실: 0.056306\t정확도: 98.40%\n", + "41\t검증 세트 손실: 0.055950\t최선의 손실: 0.055950\t정확도: 98.48%\n", + "42\t검증 세트 손실: 0.065576\t최선의 손실: 0.055950\t정확도: 98.59%\n", + "43\t검증 세트 손실: 0.060883\t최선의 손실: 0.055950\t정확도: 98.44%\n", + "44\t검증 세트 손실: 0.062589\t최선의 손실: 0.055950\t정확도: 98.48%\n", + "45\t검증 세트 손실: 0.059201\t최선의 손실: 0.055950\t정확도: 98.51%\n", + "46\t검증 세트 손실: 0.060081\t최선의 손실: 0.055950\t정확도: 98.63%\n", + "47\t검증 세트 손실: 0.061318\t최선의 손실: 0.055950\t정확도: 98.28%\n", + "48\t검증 세트 손실: 0.059380\t최선의 손실: 0.055950\t정확도: 98.36%\n", + "49\t검증 세트 손실: 0.063301\t최선의 손실: 0.055950\t정확도: 98.48%\n", + "50\t검증 세트 손실: 0.058780\t최선의 손실: 0.055950\t정확도: 98.48%\n", + "51\t검증 세트 손실: 0.065298\t최선의 손실: 0.055950\t정확도: 98.32%\n", + "52\t검증 세트 손실: 0.061086\t최선의 손실: 0.055950\t정확도: 98.48%\n", + "53\t검증 세트 손실: 0.061661\t최선의 손실: 0.055950\t정확도: 98.55%\n", + "54\t검증 세트 손실: 0.062530\t최선의 손실: 0.055950\t정확도: 98.59%\n", + "55\t검증 세트 손실: 0.064920\t최선의 손실: 0.055950\t정확도: 98.40%\n", + "56\t검증 세트 손실: 0.059388\t최선의 손실: 0.055950\t정확도: 98.36%\n", + "57\t검증 세트 손실: 0.059793\t최선의 손실: 0.055950\t정확도: 98.44%\n", + "58\t검증 세트 손실: 0.057838\t최선의 손실: 0.055950\t정확도: 98.59%\n", + "59\t검증 세트 손실: 0.056357\t최선의 손실: 0.055950\t정확도: 98.59%\n", + "60\t검증 세트 손실: 0.060696\t최선의 손실: 0.055950\t정확도: 98.63%\n", + "61\t검증 세트 손실: 0.061832\t최선의 손실: 0.055950\t정확도: 98.44%\n", + "62\t검증 세트 손실: 0.057562\t최선의 손실: 0.055950\t정확도: 98.55%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10, total= 3.1s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.760454\t최선의 손실: 0.760454\t정확도: 69.23%\n", - "1\t검증 세트 손실: 0.355315\t최선의 손실: 0.355315\t정확도: 89.17%\n", - "2\t검증 세트 손실: 0.266805\t최선의 손실: 0.266805\t정확도: 93.35%\n", - "3\t검증 세트 손실: 0.211765\t최선의 손실: 0.211765\t정확도: 94.88%\n", - "4\t검증 세트 손실: 0.205087\t최선의 손실: 0.205087\t정확도: 94.96%\n", - "5\t검증 세트 손실: 0.197814\t최선의 손실: 0.197814\t정확도: 94.84%\n", - "6\t검증 세트 손실: 0.165538\t최선의 손실: 0.165538\t정확도: 95.31%\n", - "7\t검증 세트 손실: 0.172155\t최선의 손실: 0.165538\t정확도: 95.58%\n", - "8\t검증 세트 손실: 0.219746\t최선의 손실: 0.165538\t정확도: 95.54%\n", - "9\t검증 세트 손실: 0.187405\t최선의 손실: 0.165538\t정확도: 95.23%\n", - "10\t검증 세트 손실: 0.188732\t최선의 손실: 0.165538\t정확도: 95.58%\n", - "11\t검증 세트 손실: 0.175024\t최선의 손실: 0.165538\t정확도: 95.93%\n", - "12\t검증 세트 손실: 0.259967\t최선의 손실: 0.165538\t정확도: 93.32%\n", - "13\t검증 세트 손실: 0.246603\t최선의 손실: 0.165538\t정확도: 94.68%\n", - "14\t검증 세트 손실: 0.198849\t최선의 손실: 0.165538\t정확도: 94.96%\n", - "15\t검증 세트 손실: 0.195960\t최선의 손실: 0.165538\t정확도: 95.74%\n", - "16\t검증 세트 손실: 0.198972\t최선의 손실: 0.165538\t정확도: 95.15%\n", - "17\t검증 세트 손실: 0.260954\t최선의 손실: 0.165538\t정확도: 93.67%\n", - "18\t검증 세트 손실: 0.225204\t최선의 손실: 0.165538\t정확도: 95.50%\n", - "19\t검증 세트 손실: 0.207143\t최선의 손실: 0.165538\t정확도: 95.23%\n", - "20\t검증 세트 손실: 0.181553\t최선의 손실: 0.165538\t정확도: 95.23%\n", - "21\t검증 세트 손실: 0.180151\t최선의 손실: 0.165538\t정확도: 95.62%\n", - "22\t검증 세트 손실: 0.169451\t최선의 손실: 0.165538\t정확도: 95.86%\n", - "23\t검증 세트 손실: 0.163785\t최선의 손실: 0.163785\t정확도: 95.93%\n", - "24\t검증 세트 손실: 0.158938\t최선의 손실: 0.158938\t정확도: 96.21%\n", - "25\t검증 세트 손실: 0.176190\t최선의 손실: 0.158938\t정확도: 96.25%\n", - "26\t검증 세트 손실: 0.166127\t최선의 손실: 0.158938\t정확도: 96.29%\n", - "27\t검증 세트 손실: 0.166227\t최선의 손실: 0.158938\t정확도: 95.93%\n", - "28\t검증 세트 손실: 0.199607\t최선의 손실: 0.158938\t정확도: 95.93%\n", - "29\t검증 세트 손실: 0.233973\t최선의 손실: 0.158938\t정확도: 93.90%\n", - "30\t검증 세트 손실: 0.875996\t최선의 손실: 0.158938\t정확도: 58.80%\n", - "31\t검증 세트 손실: 0.490631\t최선의 손실: 0.158938\t정확도: 82.88%\n", - "32\t검증 세트 손실: 0.552396\t최선의 손실: 0.158938\t정확도: 75.02%\n", - "33\t검증 세트 손실: 0.413278\t최선의 손실: 0.158938\t정확도: 89.09%\n", - "34\t검증 세트 손실: 0.339275\t최선의 손실: 0.158938\t정확도: 90.93%\n", - "35\t검증 세트 손실: 0.272249\t최선의 손실: 0.158938\t정확도: 93.90%\n", - "36\t검증 세트 손실: 0.287680\t최선의 손실: 0.158938\t정확도: 94.53%\n", - "37\t검증 세트 손실: 0.281981\t최선의 손실: 0.158938\t정확도: 92.89%\n", - "38\t검증 세트 손실: 0.288426\t최선의 손실: 0.158938\t정확도: 92.03%\n", - "39\t검증 세트 손실: 0.231711\t최선의 손실: 0.158938\t정확도: 93.59%\n", - "40\t검증 세트 손실: 0.271110\t최선의 손실: 0.158938\t정확도: 95.35%\n", - "41\t검증 세트 손실: 0.212946\t최선의 손실: 0.158938\t정확도: 95.23%\n", - "42\t검증 세트 손실: 0.212500\t최선의 손실: 0.158938\t정확도: 95.62%\n", - "43\t검증 세트 손실: 0.207028\t최선의 손실: 0.158938\t정확도: 95.31%\n", - "44\t검증 세트 손실: 0.191211\t최선의 손실: 0.158938\t정확도: 94.25%\n", - "45\t검증 세트 손실: 0.193397\t최선의 손실: 0.158938\t정확도: 95.90%\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.4, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 5.6s\n", + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.492770\t최선의 손실: 0.492770\t정확도: 87.49%\n", + "1\t검증 세트 손실: 0.233880\t최선의 손실: 0.233880\t정확도: 94.25%\n", + "2\t검증 세트 손실: 0.293190\t최선의 손실: 0.233880\t정확도: 93.82%\n", + "3\t검증 세트 손실: 0.329213\t최선의 손실: 0.233880\t정확도: 94.18%\n", + "4\t검증 세트 손실: 0.211766\t최선의 손실: 0.211766\t정확도: 94.29%\n", + "5\t검증 세트 손실: 0.194157\t최선의 손실: 0.194157\t정확도: 95.50%\n", + "6\t검증 세트 손실: 0.226332\t최선의 손실: 0.194157\t정확도: 95.31%\n", + "7\t검증 세트 손실: 0.201368\t최선의 손실: 0.194157\t정확도: 94.14%\n", + "8\t검증 세트 손실: 0.238614\t최선의 손실: 0.194157\t정확도: 93.51%\n", + "9\t검증 세트 손실: 0.215486\t최선의 손실: 0.194157\t정확도: 95.35%\n", + "10\t검증 세트 손실: 0.222321\t최선의 손실: 0.194157\t정확도: 95.66%\n", + "11\t검증 세트 손실: 0.182380\t최선의 손실: 0.182380\t정확도: 95.15%\n", + "12\t검증 세트 손실: 0.197223\t최선의 손실: 0.182380\t정확도: 94.53%\n", + "13\t검증 세트 손실: 0.228320\t최선의 손실: 0.182380\t정확도: 94.57%\n", + "14\t검증 세트 손실: 0.220056\t최선의 손실: 0.182380\t정확도: 95.04%\n", + "15\t검증 세트 손실: 0.273613\t최선의 손실: 0.182380\t정확도: 95.11%\n", + "16\t검증 세트 손실: 0.311735\t최선의 손실: 0.182380\t정확도: 94.45%\n", + "17\t검증 세트 손실: 1.033645\t최선의 손실: 0.182380\t정확도: 49.45%\n", + "18\t검증 세트 손실: 1.697702\t최선의 손실: 0.182380\t정확도: 32.53%\n", + "19\t검증 세트 손실: 1.594812\t최선의 손실: 0.182380\t정확도: 22.83%\n", + "20\t검증 세트 손실: 1.554659\t최선의 손실: 0.182380\t정확도: 30.65%\n", + "21\t검증 세트 손실: 1.523134\t최선의 손실: 0.182380\t정확도: 27.05%\n", + "22\t검증 세트 손실: 1.338109\t최선의 손실: 0.182380\t정확도: 48.98%\n", + "23\t검증 세트 손실: 1.202108\t최선의 손실: 0.182380\t정확도: 48.71%\n", + "24\t검증 세트 손실: 1.139321\t최선의 손실: 0.182380\t정확도: 52.42%\n", + "25\t검증 세트 손실: 0.840562\t최선의 손실: 0.182380\t정확도: 69.59%\n", + "26\t검증 세트 손실: 0.738645\t최선의 손실: 0.182380\t정확도: 68.22%\n", + "27\t검증 세트 손실: 0.954203\t최선의 손실: 0.182380\t정확도: 59.77%\n", + "28\t검증 세트 손실: 1.647111\t최선의 손실: 0.182380\t정확도: 23.22%\n", + "29\t검증 세트 손실: 1.392439\t최선의 손실: 0.182380\t정확도: 46.17%\n", + "30\t검증 세트 손실: 1.382528\t최선의 손실: 0.182380\t정확도: 36.86%\n", + "31\t검증 세트 손실: 1.277382\t최선의 손실: 0.182380\t정확도: 43.78%\n", + "32\t검증 세트 손실: 1.171785\t최선의 손실: 0.182380\t정확도: 48.44%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10, total= 4.8s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10 \n", - "0\t검증 세트 손실: 0.385003\t최선의 손실: 0.385003\t정확도: 91.32%\n", - "1\t검증 세트 손실: 0.269206\t최선의 손실: 0.269206\t정확도: 93.32%\n", - "2\t검증 세트 손실: 0.181884\t최선의 손실: 0.181884\t정확도: 95.39%\n", - "3\t검증 세트 손실: 0.183424\t최선의 손실: 0.181884\t정확도: 95.27%\n", - "4\t검증 세트 손실: 0.178908\t최선의 손실: 0.178908\t정확도: 95.47%\n", - "5\t검증 세트 손실: 0.185586\t최선의 손실: 0.178908\t정확도: 95.70%\n", - "6\t검증 세트 손실: 0.169135\t최선의 손실: 0.169135\t정확도: 95.39%\n", - "7\t검증 세트 손실: 0.160427\t최선의 손실: 0.160427\t정확도: 96.13%\n", - "8\t검증 세트 손실: 0.140617\t최선의 손실: 0.140617\t정확도: 96.21%\n", - "9\t검증 세트 손실: 0.145997\t최선의 손실: 0.140617\t정확도: 95.78%\n", - "10\t검증 세트 손실: 0.140892\t최선의 손실: 0.140617\t정확도: 96.25%\n", - "11\t검증 세트 손실: 0.152716\t최선의 손실: 0.140617\t정확도: 96.68%\n", - "12\t검증 세트 손실: 0.157583\t최선의 손실: 0.140617\t정확도: 96.25%\n", - "13\t검증 세트 손실: 0.142713\t최선의 손실: 0.140617\t정확도: 96.52%\n", - "14\t검증 세트 손실: 0.133937\t최선의 손실: 0.133937\t정확도: 96.48%\n", - "15\t검증 세트 손실: 0.159018\t최선의 손실: 0.133937\t정확도: 96.33%\n", - "16\t검증 세트 손실: 0.148157\t최선의 손실: 0.133937\t정확도: 96.40%\n", - "17\t검증 세트 손실: 0.138812\t최선의 손실: 0.133937\t정확도: 96.79%\n", - "18\t검증 세트 손실: 0.152783\t최선의 손실: 0.133937\t정확도: 96.44%\n", - "19\t검증 세트 손실: 0.182483\t최선의 손실: 0.133937\t정확도: 95.62%\n", - "20\t검증 세트 손실: 0.162936\t최선의 손실: 0.133937\t정확도: 95.47%\n", - "21\t검증 세트 손실: 0.207875\t최선의 손실: 0.133937\t정확도: 95.86%\n", - "22\t검증 세트 손실: 0.151439\t최선의 손실: 0.133937\t정확도: 95.58%\n", - "23\t검증 세트 손실: 0.173215\t최선의 손실: 0.133937\t정확도: 96.01%\n", - "24\t검증 세트 손실: 0.172206\t최선의 손실: 0.133937\t정확도: 95.82%\n", - "25\t검증 세트 손실: 0.156306\t최선의 손실: 0.133937\t정확도: 96.36%\n", - "26\t검증 세트 손실: 0.136449\t최선의 손실: 0.133937\t정확도: 96.64%\n", - "27\t검증 세트 손실: 0.148315\t최선의 손실: 0.133937\t정확도: 96.44%\n", - "28\t검증 세트 손실: 0.153443\t최선의 손실: 0.133937\t정확도: 96.13%\n", - "29\t검증 세트 손실: 0.145014\t최선의 손실: 0.133937\t정확도: 96.09%\n", - "30\t검증 세트 손실: 0.134595\t최선의 손실: 0.133937\t정확도: 96.17%\n", - "31\t검증 세트 손실: 0.160978\t최선의 손실: 0.133937\t정확도: 96.44%\n", - "32\t검증 세트 손실: 0.143302\t최선의 손실: 0.133937\t정확도: 95.58%\n", - "33\t검증 세트 손실: 0.158284\t최선의 손실: 0.133937\t정확도: 96.21%\n", - "34\t검증 세트 손실: 0.140848\t최선의 손실: 0.133937\t정확도: 96.44%\n", - "35\t검증 세트 손실: 0.146795\t최선의 손실: 0.133937\t정확도: 96.83%\n", - "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=10, total= 3.8s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.093108\t최선의 손실: 0.093108\t정확도: 97.42%\n", - "1\t검증 세트 손실: 0.113548\t최선의 손실: 0.093108\t정확도: 97.46%\n", - "2\t검증 세트 손실: 0.075953\t최선의 손실: 0.075953\t정확도: 98.16%\n", - "3\t검증 세트 손실: 0.092154\t최선의 손실: 0.075953\t정확도: 97.54%\n", - "4\t검증 세트 손실: 0.076297\t최선의 손실: 0.075953\t정확도: 98.24%\n", - "5\t검증 세트 손실: 0.076057\t최선의 손실: 0.075953\t정확도: 97.93%\n", - "6\t검증 세트 손실: 0.087860\t최선의 손실: 0.075953\t정확도: 97.73%\n", - "7\t검증 세트 손실: 0.086784\t최선의 손실: 0.075953\t정확도: 97.93%\n", - "8\t검증 세트 손실: 0.096522\t최선의 손실: 0.075953\t정확도: 98.01%\n", - "9\t검증 세트 손실: 0.084123\t최선의 손실: 0.075953\t정확도: 97.97%\n", - "10\t검증 세트 손실: 0.081611\t최선의 손실: 0.075953\t정확도: 97.77%\n", - "11\t검증 세트 손실: 0.069748\t최선의 손실: 0.069748\t정확도: 98.16%\n", - "12\t검증 세트 손실: 0.073723\t최선의 손실: 0.069748\t정확도: 98.24%\n", - "13\t검증 세트 손실: 0.074032\t최선의 손실: 0.069748\t정확도: 97.97%\n", - "14\t검증 세트 손실: 0.102054\t최선의 손실: 0.069748\t정확도: 97.93%\n", - "15\t검증 세트 손실: 0.072969\t최선의 손실: 0.069748\t정확도: 98.32%\n", - "16\t검증 세트 손실: 0.087902\t최선의 손실: 0.069748\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.091786\t최선의 손실: 0.069748\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.074677\t최선의 손실: 0.069748\t정확도: 98.08%\n" + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 3.2s\n", + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.722929\t최선의 손실: 0.722929\t정확도: 69.66%\n", + "1\t검증 세트 손실: 0.342529\t최선의 손실: 0.342529\t정확도: 90.07%\n", + "2\t검증 세트 손실: 0.245612\t최선의 손실: 0.245612\t정확도: 93.08%\n", + "3\t검증 세트 손실: 0.230452\t최선의 손실: 0.230452\t정확도: 93.98%\n", + "4\t검증 세트 손실: 0.205478\t최선의 손실: 0.205478\t정확도: 94.53%\n", + "5\t검증 세트 손실: 0.223463\t최선의 손실: 0.205478\t정확도: 94.29%\n", + "6\t검증 세트 손실: 0.201666\t최선의 손실: 0.201666\t정확도: 94.80%\n", + "7\t검증 세트 손실: 0.525426\t최선의 손실: 0.201666\t정확도: 81.55%\n", + "8\t검증 세트 손실: 0.309918\t최선의 손실: 0.201666\t정확도: 92.96%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "19\t검증 세트 손실: 0.081496\t최선의 손실: 0.069748\t정확도: 98.48%\n", - "20\t검증 세트 손실: 0.074081\t최선의 손실: 0.069748\t정확도: 98.12%\n", - "21\t검증 세트 손실: 0.087148\t최선의 손실: 0.069748\t정확도: 98.16%\n", - "22\t검증 세트 손실: 0.070474\t최선의 손실: 0.069748\t정확도: 98.08%\n", - "23\t검증 세트 손실: 0.091942\t최선의 손실: 0.069748\t정확도: 98.55%\n", - "24\t검증 세트 손실: 0.085575\t최선의 손실: 0.069748\t정확도: 98.32%\n", - "25\t검증 세트 손실: 0.070483\t최선의 손실: 0.069748\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.059415\t최선의 손실: 0.059415\t정확도: 98.51%\n", - "27\t검증 세트 손실: 0.067901\t최선의 손실: 0.059415\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.091211\t최선의 손실: 0.059415\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.080229\t최선의 손실: 0.059415\t정확도: 98.08%\n", - "30\t검증 세트 손실: 0.120813\t최선의 손실: 0.059415\t정확도: 97.85%\n", - "31\t검증 세트 손실: 0.072878\t최선의 손실: 0.059415\t정확도: 98.08%\n", - "32\t검증 세트 손실: 0.120774\t최선의 손실: 0.059415\t정확도: 98.24%\n", - "33\t검증 세트 손실: 0.171966\t최선의 손실: 0.059415\t정확도: 94.68%\n", - "34\t검증 세트 손실: 0.145891\t최선의 손실: 0.059415\t정확도: 98.28%\n", - "35\t검증 세트 손실: 0.119707\t최선의 손실: 0.059415\t정확도: 98.28%\n", - "36\t검증 세트 손실: 0.074878\t최선의 손실: 0.059415\t정확도: 98.05%\n", - "37\t검증 세트 손실: 0.089281\t최선의 손실: 0.059415\t정확도: 98.24%\n", - "38\t검증 세트 손실: 0.100903\t최선의 손실: 0.059415\t정확도: 98.28%\n", - "39\t검증 세트 손실: 0.088704\t최선의 손실: 0.059415\t정확도: 98.32%\n", - "40\t검증 세트 손실: 0.089331\t최선의 손실: 0.059415\t정확도: 98.71%\n", - "41\t검증 세트 손실: 0.107774\t최선의 손실: 0.059415\t정확도: 98.55%\n", - "42\t검증 세트 손실: 0.102709\t최선의 손실: 0.059415\t정확도: 98.12%\n", - "43\t검증 세트 손실: 0.168017\t최선의 손실: 0.059415\t정확도: 98.16%\n", - "44\t검증 세트 손실: 0.095553\t최선의 손실: 0.059415\t정확도: 98.12%\n", - "45\t검증 세트 손실: 0.098561\t최선의 손실: 0.059415\t정확도: 97.69%\n", - "46\t검증 세트 손실: 0.168600\t최선의 손실: 0.059415\t정확도: 97.73%\n", - "47\t검증 세트 손실: 0.126357\t최선의 손실: 0.059415\t정확도: 98.28%\n", + "9\t검증 세트 손실: 0.258008\t최선의 손실: 0.201666\t정확도: 93.78%\n", + "10\t검증 세트 손실: 0.355769\t최선의 손실: 0.201666\t정확도: 91.01%\n", + "11\t검증 세트 손실: 0.292734\t최선의 손실: 0.201666\t정확도: 92.89%\n", + "12\t검증 세트 손실: 0.283493\t최선의 손실: 0.201666\t정확도: 94.10%\n", + "13\t검증 세트 손실: 0.222924\t최선의 손실: 0.201666\t정확도: 93.63%\n", + "14\t검증 세트 손실: 0.215650\t최선의 손실: 0.201666\t정확도: 95.00%\n", + "15\t검증 세트 손실: 0.200807\t최선의 손실: 0.200807\t정확도: 95.07%\n", + "16\t검증 세트 손실: 0.203731\t최선의 손실: 0.200807\t정확도: 95.47%\n", + "17\t검증 세트 손실: 0.201178\t최선의 손실: 0.200807\t정확도: 94.76%\n", + "18\t검증 세트 손실: 0.188790\t최선의 손실: 0.188790\t정확도: 94.80%\n", + "19\t검증 세트 손실: 0.171071\t최선의 손실: 0.171071\t정확도: 94.96%\n", + "20\t검증 세트 손실: 0.170738\t최선의 손실: 0.170738\t정확도: 96.25%\n", + "21\t검증 세트 손실: 0.186279\t최선의 손실: 0.170738\t정확도: 94.68%\n", + "22\t검증 세트 손실: 0.167683\t최선의 손실: 0.167683\t정확도: 94.84%\n", + "23\t검증 세트 손실: 0.161993\t최선의 손실: 0.161993\t정확도: 95.11%\n", + "24\t검증 세트 손실: 0.156840\t최선의 손실: 0.156840\t정확도: 95.78%\n", + "25\t검증 세트 손실: 0.160694\t최선의 손실: 0.156840\t정확도: 95.27%\n", + "26\t검증 세트 손실: 0.184850\t최선의 손실: 0.156840\t정확도: 95.35%\n", + "27\t검증 세트 손실: 0.183323\t최선의 손실: 0.156840\t정확도: 95.39%\n", + "28\t검증 세트 손실: 0.154078\t최선의 손실: 0.154078\t정확도: 95.82%\n", + "29\t검증 세트 손실: 0.147366\t최선의 손실: 0.147366\t정확도: 95.82%\n", + "30\t검증 세트 손실: 0.153352\t최선의 손실: 0.147366\t정확도: 95.70%\n", + "31\t검증 세트 손실: 0.197623\t최선의 손실: 0.147366\t정확도: 95.23%\n", + "32\t검증 세트 손실: 0.192770\t최선의 손실: 0.147366\t정확도: 95.82%\n", + "33\t검증 세트 손실: 0.152354\t최선의 손실: 0.147366\t정확도: 96.29%\n", + "34\t검증 세트 손실: 0.196240\t최선의 손실: 0.147366\t정확도: 95.04%\n", + "35\t검증 세트 손실: 0.183711\t최선의 손실: 0.147366\t정확도: 95.07%\n", + "36\t검증 세트 손실: 0.189202\t최선의 손실: 0.147366\t정확도: 95.07%\n", + "37\t검증 세트 손실: 0.192243\t최선의 손실: 0.147366\t정확도: 95.58%\n", + "38\t검증 세트 손실: 0.184826\t최선의 손실: 0.147366\t정확도: 95.86%\n", + "39\t검증 세트 손실: 0.153435\t최선의 손실: 0.147366\t정확도: 95.62%\n", + "40\t검증 세트 손실: 0.150346\t최선의 손실: 0.147366\t정확도: 96.21%\n", + "41\t검증 세트 손실: 0.152924\t최선의 손실: 0.147366\t정확도: 95.86%\n", + "42\t검증 세트 손실: 0.155964\t최선의 손실: 0.147366\t정확도: 95.74%\n", + "43\t검증 세트 손실: 0.155994\t최선의 손실: 0.147366\t정확도: 95.74%\n", + "44\t검증 세트 손실: 0.176341\t최선의 손실: 0.147366\t정확도: 95.82%\n", + "45\t검증 세트 손실: 0.166883\t최선의 손실: 0.147366\t정확도: 95.50%\n", + "46\t검증 세트 손실: 0.185246\t최선의 손실: 0.147366\t정확도: 95.78%\n", + "47\t검증 세트 손실: 0.154860\t최선의 손실: 0.147366\t정확도: 96.29%\n", + "48\t검증 세트 손실: 0.169665\t최선의 손실: 0.147366\t정확도: 95.70%\n", + "49\t검증 세트 손실: 0.285032\t최선의 손실: 0.147366\t정확도: 93.67%\n", + "50\t검증 세트 손실: 0.262455\t최선의 손실: 0.147366\t정확도: 94.76%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160, total= 12.6s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.107637\t최선의 손실: 0.107637\t정확도: 97.38%\n", - "1\t검증 세트 손실: 0.099182\t최선의 손실: 0.099182\t정확도: 97.62%\n", - "2\t검증 세트 손실: 0.071819\t최선의 손실: 0.071819\t정확도: 98.28%\n", - "3\t검증 세트 손실: 0.085597\t최선의 손실: 0.071819\t정확도: 98.20%\n", - "4\t검증 세트 손실: 0.092732\t최선의 손실: 0.071819\t정확도: 98.05%\n", - "5\t검증 세트 손실: 0.117763\t최선의 손실: 0.071819\t정확도: 97.46%\n", - "6\t검증 세트 손실: 0.103164\t최선의 손실: 0.071819\t정확도: 97.65%\n", - "7\t검증 세트 손실: 0.066824\t최선의 손실: 0.066824\t정확도: 98.16%\n", - "8\t검증 세트 손실: 0.100920\t최선의 손실: 0.066824\t정확도: 97.73%\n", - "9\t검증 세트 손실: 0.084618\t최선의 손실: 0.066824\t정확도: 97.93%\n", - "10\t검증 세트 손실: 0.068220\t최선의 손실: 0.066824\t정확도: 98.59%\n", - "11\t검증 세트 손실: 0.070286\t최선의 손실: 0.066824\t정확도: 98.55%\n", - "12\t검증 세트 손실: 0.074611\t최선의 손실: 0.066824\t정확도: 98.32%\n", - "13\t검증 세트 손실: 0.093810\t최선의 손실: 0.066824\t정확도: 98.24%\n", - "14\t검증 세트 손실: 0.087801\t최선의 손실: 0.066824\t정확도: 98.28%\n", - "15\t검증 세트 손실: 0.104306\t최선의 손실: 0.066824\t정확도: 98.20%\n", - "16\t검증 세트 손실: 0.058634\t최선의 손실: 0.058634\t정확도: 98.55%\n", - "17\t검증 세트 손실: 0.068186\t최선의 손실: 0.058634\t정확도: 98.16%\n", - "18\t검증 세트 손실: 0.070084\t최선의 손실: 0.058634\t정확도: 98.40%\n", - "19\t검증 세트 손실: 0.070946\t최선의 손실: 0.058634\t정확도: 98.08%\n", - "20\t검증 세트 손실: 0.080420\t최선의 손실: 0.058634\t정확도: 98.44%\n", - "21\t검증 세트 손실: 0.125773\t최선의 손실: 0.058634\t정확도: 98.05%\n", - "22\t검증 세트 손실: 0.106441\t최선의 손실: 0.058634\t정확도: 98.01%\n", - "23\t검증 세트 손실: 0.108412\t최선의 손실: 0.058634\t정확도: 97.81%\n", - "24\t검증 세트 손실: 0.096699\t최선의 손실: 0.058634\t정확도: 98.16%\n", - "25\t검증 세트 손실: 0.079768\t최선의 손실: 0.058634\t정확도: 98.16%\n", - "26\t검증 세트 손실: 0.070376\t최선의 손실: 0.058634\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.084527\t최선의 손실: 0.058634\t정확도: 98.16%\n", - "28\t검증 세트 손실: 0.066667\t최선의 손실: 0.058634\t정확도: 98.67%\n", - "29\t검증 세트 손실: 0.135974\t최선의 손실: 0.058634\t정확도: 98.20%\n", - "30\t검증 세트 손실: 0.068965\t최선의 손실: 0.058634\t정확도: 98.67%\n", - "31\t검증 세트 손실: 0.058134\t최선의 손실: 0.058134\t정확도: 98.87%\n", - "32\t검증 세트 손실: 0.055563\t최선의 손실: 0.055563\t정확도: 98.75%\n", - "33\t검증 세트 손실: 0.076457\t최선의 손실: 0.055563\t정확도: 98.40%\n", - "34\t검증 세트 손실: 0.102981\t최선의 손실: 0.055563\t정확도: 97.65%\n", - "35\t검증 세트 손실: 0.090950\t최선의 손실: 0.055563\t정확도: 97.73%\n", - "36\t검증 세트 손실: 0.068787\t최선의 손실: 0.055563\t정확도: 98.55%\n", - "37\t검증 세트 손실: 0.121973\t최선의 손실: 0.055563\t정확도: 98.48%\n", - "38\t검증 세트 손실: 0.089979\t최선의 손실: 0.055563\t정확도: 98.51%\n", - "39\t검증 세트 손실: 0.075808\t최선의 손실: 0.055563\t정확도: 98.48%\n", - "40\t검증 세트 손실: 0.078028\t최선의 손실: 0.055563\t정확도: 98.79%\n", - "41\t검증 세트 손실: 0.107824\t최선의 손실: 0.055563\t정확도: 98.40%\n", - "42\t검증 세트 손실: 0.133584\t최선의 손실: 0.055563\t정확도: 98.01%\n", - "43\t검증 세트 손실: 0.116490\t최선의 손실: 0.055563\t정확도: 98.12%\n", - "44\t검증 세트 손실: 0.080683\t최선의 손실: 0.055563\t정확도: 98.20%\n", - "45\t검증 세트 손실: 0.074222\t최선의 손실: 0.055563\t정확도: 98.16%\n", - "46\t검증 세트 손실: 0.146153\t최선의 손실: 0.055563\t정확도: 98.36%\n", - "47\t검증 세트 손실: 0.070070\t최선의 손실: 0.055563\t정확도: 98.16%\n", - "48\t검증 세트 손실: 0.069659\t최선의 손실: 0.055563\t정확도: 98.24%\n", - "49\t검증 세트 손실: 0.062451\t최선의 손실: 0.055563\t정확도: 98.51%\n", - "50\t검증 세트 손실: 0.065752\t최선의 손실: 0.055563\t정확도: 98.12%\n", - "51\t검증 세트 손실: 0.105613\t최선의 손실: 0.055563\t정확도: 98.20%\n", - "52\t검증 세트 손실: 0.093338\t최선의 손실: 0.055563\t정확도: 98.08%\n", - "53\t검증 세트 손실: 0.140303\t최선의 손실: 0.055563\t정확도: 98.24%\n", + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 4.6s\n", + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.367135\t최선의 손실: 0.367135\t정확도: 90.23%\n", + "1\t검증 세트 손실: 0.249738\t최선의 손실: 0.249738\t정확도: 93.67%\n", + "2\t검증 세트 손실: 0.223354\t최선의 손실: 0.223354\t정확도: 94.64%\n", + "3\t검증 세트 손실: 0.210623\t최선의 손실: 0.210623\t정확도: 94.49%\n", + "4\t검증 세트 손실: 0.205986\t최선의 손실: 0.205986\t정확도: 95.27%\n", + "5\t검증 세트 손실: 0.165116\t최선의 손실: 0.165116\t정확도: 94.92%\n", + "6\t검증 세트 손실: 0.185694\t최선의 손실: 0.165116\t정확도: 95.86%\n", + "7\t검증 세트 손실: 0.158174\t최선의 손실: 0.158174\t정확도: 96.09%\n", + "8\t검증 세트 손실: 0.160971\t최선의 손실: 0.158174\t정확도: 96.05%\n", + "9\t검증 세트 손실: 0.130255\t최선의 손실: 0.130255\t정확도: 96.72%\n", + "10\t검증 세트 손실: 0.140723\t최선의 손실: 0.130255\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.182291\t최선의 손실: 0.130255\t정확도: 96.09%\n", + "12\t검증 세트 손실: 0.158115\t최선의 손실: 0.130255\t정확도: 96.05%\n", + "13\t검증 세트 손실: 0.177720\t최선의 손실: 0.130255\t정확도: 95.82%\n", + "14\t검증 세트 손실: 1.964914\t최선의 손실: 0.130255\t정확도: 74.12%\n", + "15\t검증 세트 손실: 1.715515\t최선의 손실: 0.130255\t정확도: 38.66%\n", + "16\t검증 세트 손실: 1.449152\t최선의 손실: 0.130255\t정확도: 36.40%\n", + "17\t검증 세트 손실: 1.293108\t최선의 손실: 0.130255\t정확도: 40.30%\n", + "18\t검증 세트 손실: 1.210079\t최선의 손실: 0.130255\t정확도: 39.95%\n", + "19\t검증 세트 손실: 1.077754\t최선의 손실: 0.130255\t정확도: 49.73%\n", + "20\t검증 세트 손실: 1.011909\t최선의 손실: 0.130255\t정확도: 51.60%\n", + "21\t검증 세트 손실: 0.888102\t최선의 손실: 0.130255\t정확도: 56.29%\n", + "22\t검증 세트 손실: 0.902638\t최선의 손실: 0.130255\t정확도: 56.72%\n", + "23\t검증 세트 손실: 0.867381\t최선의 손실: 0.130255\t정확도: 58.64%\n", + "24\t검증 세트 손실: 0.819412\t최선의 손실: 0.130255\t정확도: 55.67%\n", + "25\t검증 세트 손실: 0.973657\t최선의 손실: 0.130255\t정확도: 59.07%\n", + "26\t검증 세트 손실: 0.830915\t최선의 손실: 0.130255\t정확도: 59.07%\n", + "27\t검증 세트 손실: 0.785143\t최선의 손실: 0.130255\t정확도: 59.89%\n", + "28\t검증 세트 손실: 0.816147\t최선의 손실: 0.130255\t정확도: 59.58%\n", + "29\t검증 세트 손실: 0.754680\t최선의 손실: 0.130255\t정확도: 61.85%\n", + "30\t검증 세트 손실: 0.769489\t최선의 손실: 0.130255\t정확도: 62.20%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160, total= 14.1s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.092775\t최선의 손실: 0.092775\t정확도: 97.81%\n", - "1\t검증 세트 손실: 0.090164\t최선의 손실: 0.090164\t정확도: 97.89%\n", - "2\t검증 세트 손실: 0.082413\t최선의 손실: 0.082413\t정확도: 98.20%\n", - "3\t검증 세트 손실: 0.076565\t최선의 손실: 0.076565\t정확도: 98.36%\n", - "4\t검증 세트 손실: 0.071170\t최선의 손실: 0.071170\t정확도: 98.44%\n", - "5\t검증 세트 손실: 0.066614\t최선의 손실: 0.066614\t정확도: 98.12%\n", - "6\t검증 세트 손실: 0.070057\t최선의 손실: 0.066614\t정확도: 98.16%\n", - "7\t검증 세트 손실: 0.088508\t최선의 손실: 0.066614\t정확도: 97.97%\n", - "8\t검증 세트 손실: 0.077610\t최선의 손실: 0.066614\t정확도: 98.32%\n", - "9\t검증 세트 손실: 0.084708\t최선의 손실: 0.066614\t정확도: 97.46%\n", - "10\t검증 세트 손실: 0.082429\t최선의 손실: 0.066614\t정확도: 97.97%\n", - "11\t검증 세트 손실: 0.080050\t최선의 손실: 0.066614\t정확도: 98.32%\n", - "12\t검증 세트 손실: 0.067165\t최선의 손실: 0.066614\t정확도: 98.28%\n", - "13\t검증 세트 손실: 0.067363\t최선의 손실: 0.066614\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.065571\t최선의 손실: 0.065571\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.079920\t최선의 손실: 0.065571\t정확도: 98.24%\n", - "16\t검증 세트 손실: 0.083870\t최선의 손실: 0.065571\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.119729\t최선의 손실: 0.065571\t정확도: 97.58%\n", - "18\t검증 세트 손실: 0.112237\t최선의 손실: 0.065571\t정확도: 97.81%\n", - "19\t검증 세트 손실: 0.083094\t최선의 손실: 0.065571\t정확도: 98.12%\n", - "20\t검증 세트 손실: 0.105316\t최선의 손실: 0.065571\t정확도: 98.40%\n", - "21\t검증 세트 손실: 0.096691\t최선의 손실: 0.065571\t정확도: 97.97%\n", - "22\t검증 세트 손실: 0.091569\t최선의 손실: 0.065571\t정확도: 98.28%\n", - "23\t검증 세트 손실: 0.075106\t최선의 손실: 0.065571\t정확도: 98.28%\n", - "24\t검증 세트 손실: 0.072993\t최선의 손실: 0.065571\t정확도: 98.12%\n", - "25\t검증 세트 손실: 0.086236\t최선의 손실: 0.065571\t정확도: 98.48%\n", - "26\t검증 세트 손실: 0.096582\t최선의 손실: 0.065571\t정확도: 98.16%\n", - "27\t검증 세트 손실: 0.069588\t최선의 손실: 0.065571\t정확도: 98.48%\n", - "28\t검증 세트 손실: 0.094651\t최선의 손실: 0.065571\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.078284\t최선의 손실: 0.065571\t정확도: 98.28%\n", - "30\t검증 세트 손실: 0.140838\t최선의 손실: 0.065571\t정확도: 98.59%\n", - "31\t검증 세트 손실: 0.104368\t최선의 손실: 0.065571\t정확도: 97.89%\n", - "32\t검증 세트 손실: 0.126649\t최선의 손실: 0.065571\t정확도: 98.20%\n", - "33\t검증 세트 손실: 0.114887\t최선의 손실: 0.065571\t정확도: 98.44%\n", - "34\t검증 세트 손실: 0.079874\t최선의 손실: 0.065571\t정확도: 98.24%\n", - "35\t검증 세트 손실: 0.086093\t최선의 손실: 0.065571\t정확도: 98.24%\n", + "[CV] n_neurons=10, learning_rate=0.1, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 3.0s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.105250\t최선의 손실: 0.105250\t정확도: 97.62%\n", + "1\t검증 세트 손실: 0.081217\t최선의 손실: 0.081217\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.129791\t최선의 손실: 0.081217\t정확도: 97.42%\n", + "3\t검증 세트 손실: 0.072929\t최선의 손실: 0.072929\t정확도: 98.48%\n", + "4\t검증 세트 손실: 0.088789\t최선의 손실: 0.072929\t정확도: 97.85%\n", + "5\t검증 세트 손실: 0.088947\t최선의 손실: 0.072929\t정확도: 97.93%\n", + "6\t검증 세트 손실: 0.099916\t최선의 손실: 0.072929\t정확도: 97.58%\n", + "7\t검증 세트 손실: 0.194121\t최선의 손실: 0.072929\t정확도: 97.93%\n", + "8\t검증 세트 손실: 0.071403\t최선의 손실: 0.071403\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.076352\t최선의 손실: 0.071403\t정확도: 97.54%\n", + "10\t검증 세트 손실: 0.065561\t최선의 손실: 0.065561\t정확도: 98.51%\n", + "11\t검증 세트 손실: 0.069416\t최선의 손실: 0.065561\t정확도: 98.36%\n", + "12\t검증 세트 손실: 0.077911\t최선의 손실: 0.065561\t정확도: 98.44%\n", + "13\t검증 세트 손실: 0.084896\t최선의 손실: 0.065561\t정확도: 98.16%\n", + "14\t검증 세트 손실: 0.123753\t최선의 손실: 0.065561\t정확도: 98.32%\n", + "15\t검증 세트 손실: 0.083213\t최선의 손실: 0.065561\t정확도: 98.71%\n", + "16\t검증 세트 손실: 0.072859\t최선의 손실: 0.065561\t정확도: 98.36%\n", + "17\t검증 세트 손실: 0.060753\t최선의 손실: 0.060753\t정확도: 98.59%\n", + "18\t검증 세트 손실: 0.060445\t최선의 손실: 0.060445\t정확도: 98.20%\n", + "19\t검증 세트 손실: 0.123219\t최선의 손실: 0.060445\t정확도: 98.36%\n", + "20\t검증 세트 손실: 0.085618\t최선의 손실: 0.060445\t정확도: 98.20%\n", + "21\t검증 세트 손실: 0.109818\t최선의 손실: 0.060445\t정확도: 98.05%\n", + "22\t검증 세트 손실: 0.085271\t최선의 손실: 0.060445\t정확도: 98.16%\n", + "23\t검증 세트 손실: 0.073456\t최선의 손실: 0.060445\t정확도: 98.01%\n", + "24\t검증 세트 손실: 0.092840\t최선의 손실: 0.060445\t정확도: 98.05%\n", + "25\t검증 세트 손실: 0.105794\t최선의 손실: 0.060445\t정확도: 97.85%\n", + "26\t검증 세트 손실: 0.095195\t최선의 손실: 0.060445\t정확도: 97.81%\n", + "27\t검증 세트 손실: 0.133628\t최선의 손실: 0.060445\t정확도: 96.95%\n", + "28\t검증 세트 손실: 0.160871\t최선의 손실: 0.060445\t정확도: 98.12%\n", + "29\t검증 세트 손실: 0.205126\t최선의 손실: 0.060445\t정확도: 97.42%\n", + "30\t검증 세트 손실: 0.133920\t최선의 손실: 0.060445\t정확도: 98.20%\n", + "31\t검증 세트 손실: 0.166220\t최선의 손실: 0.060445\t정확도: 98.16%\n", + "32\t검증 세트 손실: 0.134032\t최선의 손실: 0.060445\t정확도: 98.05%\n", + "33\t검증 세트 손실: 0.185604\t최선의 손실: 0.060445\t정확도: 98.16%\n", + "34\t검증 세트 손실: 0.352031\t최선의 손실: 0.060445\t정확도: 98.28%\n", + "35\t검증 세트 손실: 0.150810\t최선의 손실: 0.060445\t정확도: 98.08%\n", + "36\t검증 세트 손실: 0.112724\t최선의 손실: 0.060445\t정확도: 98.12%\n", + "37\t검증 세트 손실: 0.124821\t최선의 손실: 0.060445\t정확도: 97.69%\n", + "38\t검증 세트 손실: 0.077725\t최선의 손실: 0.060445\t정확도: 98.48%\n", + "39\t검증 세트 손실: 0.151422\t최선의 손실: 0.060445\t정확도: 98.05%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=, n_neurons=160, total= 9.8s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 5043.290527\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "1\t검증 세트 손실: 8360.097656\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "2\t검증 세트 손실: 11465.927734\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "3\t검증 세트 손실: 79917.242188\t최선의 손실: 5043.290527\t정확도: 20.91%\n", - "4\t검증 세트 손실: 106606.335938\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "5\t검증 세트 손실: 149272.609375\t최선의 손실: 5043.290527\t정확도: 22.01%\n", - "6\t검증 세트 손실: 67540.773438\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "7\t검증 세트 손실: 40570.312500\t최선의 손실: 5043.290527\t정확도: 18.69%\n", - "8\t검증 세트 손실: 20557.707031\t최선의 손실: 5043.290527\t정확도: 20.91%\n", - "9\t검증 세트 손실: 346337.406250\t최선의 손실: 5043.290527\t정확도: 22.01%\n", - "10\t검증 세트 손실: 88110.875000\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "11\t검증 세트 손실: 72824.023438\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "12\t검증 세트 손실: 19310.361328\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "13\t검증 세트 손실: 29740.146484\t최선의 손실: 5043.290527\t정확도: 19.47%\n", - "14\t검증 세트 손실: 1058169.250000\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "15\t검증 세트 손실: 186798.828125\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "16\t검증 세트 손실: 51251.527344\t최선의 손실: 5043.290527\t정확도: 18.76%\n", - "17\t검증 세트 손실: 349513.218750\t최선의 손실: 5043.290527\t정확도: 19.27%\n", - "18\t검증 세트 손실: 301096.562500\t최선의 손실: 5043.290527\t정확도: 20.88%\n", - "19\t검증 세트 손실: 211249.531250\t최선의 손실: 5043.290527\t정확도: 19.08%\n", - "20\t검증 세트 손실: 194893.468750\t최선의 손실: 5043.290527\t정확도: 18.73%\n", - "21\t검증 세트 손실: 169908.359375\t최선의 손실: 5043.290527\t정확도: 19.39%\n", - "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 13.0s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n" + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=, total= 10.4s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.116890\t최선의 손실: 0.116890\t정확도: 97.46%\n", + "1\t검증 세트 손실: 0.087283\t최선의 손실: 0.087283\t정확도: 97.62%\n", + "2\t검증 세트 손실: 0.087513\t최선의 손실: 0.087283\t정확도: 98.16%\n", + "3\t검증 세트 손실: 0.089478\t최선의 손실: 0.087283\t정확도: 97.65%\n", + "4\t검증 세트 손실: 0.076551\t최선의 손실: 0.076551\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.091246\t최선의 손실: 0.076551\t정확도: 98.12%\n", + "6\t검증 세트 손실: 0.106770\t최선의 손실: 0.076551\t정확도: 98.16%\n", + "7\t검증 세트 손실: 0.130500\t최선의 손실: 0.076551\t정확도: 97.11%\n", + "8\t검증 세트 손실: 0.152919\t최선의 손실: 0.076551\t정확도: 96.29%\n", + "9\t검증 세트 손실: 0.145117\t최선의 손실: 0.076551\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.072252\t최선의 손실: 0.072252\t정확도: 98.28%\n", + "11\t검증 세트 손실: 0.118377\t최선의 손실: 0.072252\t정확도: 98.48%\n", + "12\t검증 세트 손실: 0.077560\t최선의 손실: 0.072252\t정확도: 98.36%\n", + "13\t검증 세트 손실: 0.061251\t최선의 손실: 0.061251\t정확도: 98.75%\n", + "14\t검증 세트 손실: 0.073788\t최선의 손실: 0.061251\t정확도: 98.28%\n", + "15\t검증 세트 손실: 0.084479\t최선의 손실: 0.061251\t정확도: 98.36%\n", + "16\t검증 세트 손실: 0.142136\t최선의 손실: 0.061251\t정확도: 97.85%\n", + "17\t검증 세트 손실: 0.121808\t최선의 손실: 0.061251\t정확도: 97.11%\n", + "18\t검증 세트 손실: 0.065390\t최선의 손실: 0.061251\t정확도: 98.59%\n", + "19\t검증 세트 손실: 0.075826\t최선의 손실: 0.061251\t정확도: 98.83%\n", + "20\t검증 세트 손실: 0.066562\t최선의 손실: 0.061251\t정확도: 98.87%\n", + "21\t검증 세트 손실: 0.099231\t최선의 손실: 0.061251\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.155216\t최선의 손실: 0.061251\t정확도: 96.25%\n", + "23\t검증 세트 손실: 0.136696\t최선의 손실: 0.061251\t정확도: 98.20%\n", + "24\t검증 세트 손실: 0.116894\t최선의 손실: 0.061251\t정확도: 97.69%\n", + "25\t검증 세트 손실: 0.100666\t최선의 손실: 0.061251\t정확도: 98.40%\n", + "26\t검증 세트 손실: 0.090155\t최선의 손실: 0.061251\t정확도: 97.77%\n", + "27\t검증 세트 손실: 0.054752\t최선의 손실: 0.054752\t정확도: 98.59%\n", + "28\t검증 세트 손실: 0.093979\t최선의 손실: 0.054752\t정확도: 98.55%\n", + "29\t검증 세트 손실: 0.071883\t최선의 손실: 0.054752\t정확도: 98.28%\n", + "30\t검증 세트 손실: 0.071260\t최선의 손실: 0.054752\t정확도: 98.32%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 34925.375000\t최선의 손실: 34925.375000\t정확도: 20.91%\n", - "1\t검증 세트 손실: 6177.822754\t최선의 손실: 6177.822754\t정확도: 18.73%\n", - "2\t검증 세트 손실: 34105.937500\t최선의 손실: 6177.822754\t정확도: 18.88%\n", - "3\t검증 세트 손실: 14816.296875\t최선의 손실: 6177.822754\t정확도: 19.08%\n", - "4\t검증 세트 손실: 5904.153809\t최선의 손실: 5904.153809\t정확도: 21.19%\n", - "5\t검증 세트 손실: 4017.696533\t최선의 손실: 4017.696533\t정확도: 22.01%\n", - "6\t검증 세트 손실: 94050.992188\t최선의 손실: 4017.696533\t정확도: 19.27%\n", - "7\t검증 세트 손실: 15395.276367\t최선의 손실: 4017.696533\t정확도: 22.20%\n", - "8\t검증 세트 손실: 130622.070312\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "9\t검증 세트 손실: 320905.218750\t최선의 손실: 4017.696533\t정확도: 20.91%\n", - "10\t검증 세트 손실: 32908.945312\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "11\t검증 세트 손실: 158806.046875\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "12\t검증 세트 손실: 778062.812500\t최선의 손실: 4017.696533\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1412091.000000\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "14\t검증 세트 손실: 565844.875000\t최선의 손실: 4017.696533\t정확도: 19.08%\n", - "15\t검증 세트 손실: 534323.625000\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "16\t검증 세트 손실: 294496.687500\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "17\t검증 세트 손실: 406404.468750\t최선의 손실: 4017.696533\t정확도: 20.91%\n", - "18\t검증 세트 손실: 307900.406250\t최선의 손실: 4017.696533\t정확도: 19.27%\n", - "19\t검증 세트 손실: 734542.687500\t최선의 손실: 4017.696533\t정확도: 19.27%\n", - "20\t검증 세트 손실: 415058.062500\t최선의 손실: 4017.696533\t정확도: 19.27%\n", - "21\t검증 세트 손실: 129053.773438\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "22\t검증 세트 손실: 2695454.250000\t최선의 손실: 4017.696533\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1108193.625000\t최선의 손실: 4017.696533\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1315146.000000\t최선의 손실: 4017.696533\t정확도: 18.73%\n", - "25\t검증 세트 손실: 846490.625000\t최선의 손실: 4017.696533\t정확도: 16.42%\n", - "26\t검증 세트 손실: 1715596.250000\t최선의 손실: 4017.696533\t정확도: 22.01%\n", + "31\t검증 세트 손실: 0.081009\t최선의 손실: 0.054752\t정확도: 98.40%\n", + "32\t검증 세트 손실: 0.066778\t최선의 손실: 0.054752\t정확도: 98.20%\n", + "33\t검증 세트 손실: 0.062121\t최선의 손실: 0.054752\t정확도: 98.44%\n", + "34\t검증 세트 손실: 0.064884\t최선의 손실: 0.054752\t정확도: 98.24%\n", + "35\t검증 세트 손실: 0.116081\t최선의 손실: 0.054752\t정확도: 98.01%\n", + "36\t검증 세트 손실: 0.115750\t최선의 손실: 0.054752\t정확도: 97.73%\n", + "37\t검증 세트 손실: 0.106320\t최선의 손실: 0.054752\t정확도: 97.34%\n", + "38\t검증 세트 손실: 0.114587\t최선의 손실: 0.054752\t정확도: 97.77%\n", + "39\t검증 세트 손실: 0.077478\t최선의 손실: 0.054752\t정확도: 97.93%\n", + "40\t검증 세트 손실: 0.116004\t최선의 손실: 0.054752\t정확도: 97.65%\n", + "41\t검증 세트 손실: 0.080607\t최선의 손실: 0.054752\t정확도: 98.01%\n", + "42\t검증 세트 손실: 0.131782\t최선의 손실: 0.054752\t정확도: 98.05%\n", + "43\t검증 세트 손실: 0.154540\t최선의 손실: 0.054752\t정확도: 97.81%\n", + "44\t검증 세트 손실: 0.126743\t최선의 손실: 0.054752\t정확도: 98.24%\n", + "45\t검증 세트 손실: 0.118180\t최선의 손실: 0.054752\t정확도: 97.97%\n", + "46\t검증 세트 손실: 0.117004\t최선의 손실: 0.054752\t정확도: 97.97%\n", + "47\t검증 세트 손실: 0.117811\t최선의 손실: 0.054752\t정확도: 98.01%\n", + "48\t검증 세트 손실: 0.118119\t최선의 손실: 0.054752\t정확도: 98.08%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 16.5s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 17232.982422\t최선의 손실: 17232.982422\t정확도: 20.91%\n", - "1\t검증 세트 손실: 29236.134766\t최선의 손실: 17232.982422\t정확도: 19.27%\n", - "2\t검증 세트 손실: 22981.980469\t최선의 손실: 17232.982422\t정확도: 20.91%\n", - "3\t검증 세트 손실: 13564.606445\t최선의 손실: 13564.606445\t정확도: 21.97%\n", - "4\t검증 세트 손실: 18326.937500\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "5\t검증 세트 손실: 61662.148438\t최선의 손실: 13564.606445\t정확도: 18.73%\n", - "6\t검증 세트 손실: 111795.640625\t최선의 손실: 13564.606445\t정확도: 20.91%\n", - "7\t검증 세트 손실: 514071.625000\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "8\t검증 세트 손실: 133971.609375\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "9\t검증 세트 손실: 323626.718750\t최선의 손실: 13564.606445\t정확도: 19.08%\n", - "10\t검증 세트 손실: 213183.453125\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "11\t검증 세트 손실: 97625.867188\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "12\t검증 세트 손실: 45016.164062\t최선의 손실: 13564.606445\t정확도: 18.73%\n", - "13\t검증 세트 손실: 394898.500000\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "14\t검증 세트 손실: 65370.027344\t최선의 손실: 13564.606445\t정확도: 19.04%\n", - "15\t검증 세트 손실: 87056.554688\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "16\t검증 세트 손실: 125326.273438\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "17\t검증 세트 손실: 69701.015625\t최선의 손실: 13564.606445\t정확도: 20.91%\n", - "18\t검증 세트 손실: 241578.328125\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "19\t검증 세트 손실: 334753.812500\t최선의 손실: 13564.606445\t정확도: 18.73%\n", - "20\t검증 세트 손실: 289600.093750\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "21\t검증 세트 손실: 95515.031250\t최선의 손실: 13564.606445\t정확도: 19.12%\n", - "22\t검증 세트 손실: 198714.640625\t최선의 손실: 13564.606445\t정확도: 22.01%\n", - "23\t검증 세트 손실: 210516.437500\t최선의 손실: 13564.606445\t정확도: 19.27%\n", - "24\t검증 세트 손실: 476049.156250\t최선의 손실: 13564.606445\t정확도: 20.91%\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=, total= 12.6s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation= \n", + "0\t검증 세트 손실: 0.106486\t최선의 손실: 0.106486\t정확도: 97.42%\n", + "1\t검증 세트 손실: 0.096293\t최선의 손실: 0.096293\t정확도: 97.97%\n", + "2\t검증 세트 손실: 0.104861\t최선의 손실: 0.096293\t정확도: 98.08%\n", + "3\t검증 세트 손실: 0.085566\t최선의 손실: 0.085566\t정확도: 97.89%\n", + "4\t검증 세트 손실: 0.091126\t최선의 손실: 0.085566\t정확도: 98.05%\n", + "5\t검증 세트 손실: 0.078886\t최선의 손실: 0.078886\t정확도: 97.73%\n", + "6\t검증 세트 손실: 0.077541\t최선의 손실: 0.077541\t정확도: 98.59%\n", + "7\t검증 세트 손실: 0.066039\t최선의 손실: 0.066039\t정확도: 98.63%\n", + "8\t검증 세트 손실: 0.062191\t최선의 손실: 0.062191\t정확도: 98.51%\n", + "9\t검증 세트 손실: 0.067388\t최선의 손실: 0.062191\t정확도: 98.40%\n", + "10\t검증 세트 손실: 0.094843\t최선의 손실: 0.062191\t정확도: 97.77%\n", + "11\t검증 세트 손실: 0.160077\t최선의 손실: 0.062191\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.109289\t최선의 손실: 0.062191\t정확도: 98.20%\n", + "13\t검증 세트 손실: 0.094711\t최선의 손실: 0.062191\t정확도: 98.55%\n", + "14\t검증 세트 손실: 0.085322\t최선의 손실: 0.062191\t정확도: 98.59%\n", + "15\t검증 세트 손실: 0.097896\t최선의 손실: 0.062191\t정확도: 98.67%\n", + "16\t검증 세트 손실: 0.085799\t최선의 손실: 0.062191\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.086415\t최선의 손실: 0.062191\t정확도: 98.20%\n", + "18\t검증 세트 손실: 0.077606\t최선의 손실: 0.062191\t정확도: 98.48%\n", + "19\t검증 세트 손실: 0.069650\t최선의 손실: 0.062191\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.082188\t최선의 손실: 0.062191\t정확도: 98.36%\n", + "21\t검증 세트 손실: 0.149422\t최선의 손실: 0.062191\t정확도: 97.42%\n", + "22\t검증 세트 손실: 0.084903\t최선의 손실: 0.062191\t정확도: 98.48%\n", + "23\t검증 세트 손실: 0.066887\t최선의 손실: 0.062191\t정확도: 98.59%\n", + "24\t검증 세트 손실: 0.101542\t최선의 손실: 0.062191\t정확도: 98.28%\n", + "25\t검증 세트 손실: 0.059948\t최선의 손실: 0.059948\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.201091\t최선의 손실: 0.059948\t정확도: 98.40%\n", + "27\t검증 세트 손실: 0.074231\t최선의 손실: 0.059948\t정확도: 98.28%\n", + "28\t검증 세트 손실: 0.089878\t최선의 손실: 0.059948\t정확도: 98.44%\n", + "29\t검증 세트 손실: 0.073277\t최선의 손실: 0.059948\t정확도: 98.05%\n", + "30\t검증 세트 손실: 0.070921\t최선의 손실: 0.059948\t정확도: 98.16%\n", + "31\t검증 세트 손실: 0.079389\t최선의 손실: 0.059948\t정확도: 98.28%\n", + "32\t검증 세트 손실: 0.184053\t최선의 손실: 0.059948\t정확도: 98.08%\n", + "33\t검증 세트 손실: 0.072767\t최선의 손실: 0.059948\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.063001\t최선의 손실: 0.059948\t정확도: 98.48%\n", + "35\t검증 세트 손실: 0.079590\t최선의 손실: 0.059948\t정확도: 98.83%\n", + "36\t검증 세트 손실: 0.062294\t최선의 손실: 0.059948\t정확도: 98.32%\n", + "37\t검증 세트 손실: 0.050705\t최선의 손실: 0.050705\t정확도: 98.75%\n", + "38\t검증 세트 손실: 0.098561\t최선의 손실: 0.050705\t정확도: 98.87%\n", + "39\t검증 세트 손실: 0.093548\t최선의 손실: 0.050705\t정확도: 98.40%\n", + "40\t검증 세트 손실: 0.099972\t최선의 손실: 0.050705\t정확도: 98.32%\n", + "41\t검증 세트 손실: 0.105187\t최선의 손실: 0.050705\t정확도: 98.44%\n", + "42\t검증 세트 손실: 0.087369\t최선의 손실: 0.050705\t정확도: 98.16%\n", + "43\t검증 세트 손실: 0.095542\t최선의 손실: 0.050705\t정확도: 98.40%\n", + "44\t검증 세트 손실: 0.194221\t최선의 손실: 0.050705\t정확도: 98.16%\n", + "45\t검증 세트 손실: 0.090688\t최선의 손실: 0.050705\t정확도: 98.40%\n", + "46\t검증 세트 손실: 0.087179\t최선의 손실: 0.050705\t정확도: 98.32%\n", + "47\t검증 세트 손실: 0.131857\t최선의 손실: 0.050705\t정확도: 97.77%\n", + "48\t검증 세트 손실: 0.097763\t최선의 손실: 0.050705\t정확도: 98.28%\n", + "49\t검증 세트 손실: 0.161986\t최선의 손실: 0.050705\t정확도: 98.28%\n", + "50\t검증 세트 손실: 0.096711\t최선의 손실: 0.050705\t정확도: 98.44%\n", + "51\t검증 세트 손실: 0.147787\t최선의 손실: 0.050705\t정확도: 98.67%\n", + "52\t검증 세트 손실: 0.159593\t최선의 손실: 0.050705\t정확도: 98.40%\n", + "53\t검증 세트 손실: 0.185787\t최선의 손실: 0.050705\t정확도: 98.28%\n", + "54\t검증 세트 손실: 0.163760\t최선의 손실: 0.050705\t정확도: 98.20%\n", + "55\t검증 세트 손실: 0.155103\t최선의 손실: 0.050705\t정확도: 98.59%\n", + "56\t검증 세트 손실: 0.161370\t최선의 손실: 0.050705\t정확도: 98.08%\n", + "57\t검증 세트 손실: 0.141719\t최선의 손실: 0.050705\t정확도: 97.46%\n", + "58\t검증 세트 손실: 0.225616\t최선의 손실: 0.050705\t정확도: 97.50%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 15.0s\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 2.237760\t최선의 손실: 2.237760\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.859293\t최선의 손실: 1.859293\t정확도: 19.08%\n", - "2\t검증 세트 손실: 2.374150\t최선의 손실: 1.859293\t정확도: 19.27%\n", - "3\t검증 세트 손실: 3.220951\t최선의 손실: 1.859293\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.997613\t최선의 손실: 1.859293\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.705160\t최선의 손실: 1.705160\t정확도: 22.01%\n", - "6\t검증 세트 손실: 2.348696\t최선의 손실: 1.705160\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.711352\t최선의 손실: 1.705160\t정확도: 20.91%\n", - "8\t검증 세트 손실: 3.185021\t최선의 손실: 1.705160\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2.531055\t최선의 손실: 1.705160\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.699842\t최선의 손실: 1.699842\t정확도: 19.27%\n", - "11\t검증 세트 손실: 2.247969\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.204040\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "13\t검증 세트 손실: 2.138690\t최선의 손실: 1.699842\t정확도: 22.01%\n", - "14\t검증 세트 손실: 2.946183\t최선의 손실: 1.699842\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.975804\t최선의 손실: 1.699842\t정확도: 19.27%\n", - "16\t검증 세트 손실: 2.287097\t최선의 손실: 1.699842\t정확도: 20.91%\n", - "17\t검증 세트 손실: 2.556262\t최선의 손실: 1.699842\t정확도: 20.91%\n", - "18\t검증 세트 손실: 3.859180\t최선의 손실: 1.699842\t정확도: 22.01%\n", - "19\t검증 세트 손실: 3.267152\t최선의 손실: 1.699842\t정확도: 22.01%\n", - "20\t검증 세트 손실: 3.242235\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "21\t검증 세트 손실: 2.454847\t최선의 손실: 1.699842\t정확도: 20.91%\n", - "22\t검증 세트 손실: 2.135019\t최선의 손실: 1.699842\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.878484\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "24\t검증 세트 손실: 2.478139\t최선의 손실: 1.699842\t정확도: 20.91%\n", - "25\t검증 세트 손실: 2.917542\t최선의 손실: 1.699842\t정확도: 20.91%\n", - "26\t검증 세트 손실: 2.305035\t최선의 손실: 1.699842\t정확도: 19.27%\n", - "27\t검증 세트 손실: 1.861966\t최선의 손실: 1.699842\t정확도: 22.01%\n", - "28\t검증 세트 손실: 2.357648\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "29\t검증 세트 손실: 2.071940\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "30\t검증 세트 손실: 1.761052\t최선의 손실: 1.699842\t정확도: 19.08%\n", - "31\t검증 세트 손실: 2.451755\t최선의 손실: 1.699842\t정확도: 19.08%\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=, total= 15.0s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 22406.912109\t최선의 손실: 22406.912109\t정확도: 19.51%\n", + "1\t검증 세트 손실: 17523.337891\t최선의 손실: 17523.337891\t정확도: 19.27%\n", + "2\t검증 세트 손실: 39661.988281\t최선의 손실: 17523.337891\t정확도: 19.27%\n", + "3\t검증 세트 손실: 12389.688477\t최선의 손실: 12389.688477\t정확도: 22.01%\n", + "4\t검증 세트 손실: 115638.429688\t최선의 손실: 12389.688477\t정확도: 19.08%\n", + "5\t검증 세트 손실: 32285.878906\t최선의 손실: 12389.688477\t정확도: 19.08%\n", + "6\t검증 세트 손실: 30420.089844\t최선의 손실: 12389.688477\t정확도: 18.73%\n", + "7\t검증 세트 손실: 188317.703125\t최선의 손실: 12389.688477\t정확도: 20.91%\n", + "8\t검증 세트 손실: 75211.070312\t최선의 손실: 12389.688477\t정확도: 19.08%\n", + "9\t검증 세트 손실: 26561.582031\t최선의 손실: 12389.688477\t정확도: 19.27%\n", + "10\t검증 세트 손실: 25213.982422\t최선의 손실: 12389.688477\t정확도: 20.91%\n", + "11\t검증 세트 손실: 29603.996094\t최선의 손실: 12389.688477\t정확도: 20.91%\n", + "12\t검증 세트 손실: 31665.029297\t최선의 손실: 12389.688477\t정확도: 19.08%\n", + "13\t검증 세트 손실: 41260.480469\t최선의 손실: 12389.688477\t정확도: 19.27%\n", + "14\t검증 세트 손실: 10274.055664\t최선의 손실: 10274.055664\t정확도: 19.08%\n", + "15\t검증 세트 손실: 20069.648438\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "16\t검증 세트 손실: 389007.500000\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "17\t검증 세트 손실: 63864.367188\t최선의 손실: 10274.055664\t정확도: 20.91%\n", + "18\t검증 세트 손실: 171480.421875\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "19\t검증 세트 손실: 79279.718750\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1173587.250000\t최선의 손실: 10274.055664\t정확도: 22.01%\n", + "21\t검증 세트 손실: 119107.679688\t최선의 손실: 10274.055664\t정확도: 19.08%\n", + "22\t검증 세트 손실: 890661.125000\t최선의 손실: 10274.055664\t정확도: 19.27%\n", + "23\t검증 세트 손실: 440448.843750\t최선의 손실: 10274.055664\t정확도: 20.91%\n", + "24\t검증 세트 손실: 160859.328125\t최선의 손실: 10274.055664\t정확도: 13.25%\n", + "25\t검증 세트 손실: 104453.492188\t최선의 손실: 10274.055664\t정확도: 22.05%\n", + "26\t검증 세트 손실: 54307.160156\t최선의 손실: 10274.055664\t정확도: 19.08%\n", + "27\t검증 세트 손실: 2880141.500000\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "28\t검증 세트 손실: 219429.625000\t최선의 손실: 10274.055664\t정확도: 19.27%\n", + "29\t검증 세트 손실: 214195.046875\t최선의 손실: 10274.055664\t정확도: 21.23%\n", + "30\t검증 세트 손실: 2498033.500000\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "31\t검증 세트 손실: 463850.468750\t최선의 손실: 10274.055664\t정확도: 19.08%\n", + "32\t검증 세트 손실: 641315.875000\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "33\t검증 세트 손실: 480304.250000\t최선의 손실: 10274.055664\t정확도: 18.73%\n", + "34\t검증 세트 손실: 336178.375000\t최선의 손실: 10274.055664\t정확도: 29.05%\n", + "35\t검증 세트 손실: 133681.421875\t최선의 손실: 10274.055664\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140, total= 1.2min\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.814340\t최선의 손실: 1.814340\t정확도: 18.73%\n", - "1\t검증 세트 손실: 2.261935\t최선의 손실: 1.814340\t정확도: 19.27%\n", - "2\t검증 세트 손실: 2.854175\t최선의 손실: 1.814340\t정확도: 22.01%\n", - "3\t검증 세트 손실: 2.152662\t최선의 손실: 1.814340\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.986668\t최선의 손실: 1.814340\t정확도: 19.08%\n", - "5\t검증 세트 손실: 2.046327\t최선의 손실: 1.814340\t정확도: 19.27%\n", - "6\t검증 세트 손실: 2.045065\t최선의 손실: 1.814340\t정확도: 18.73%\n", - "7\t검증 세트 손실: 2.479764\t최선의 손실: 1.814340\t정확도: 18.73%\n", - "8\t검증 세트 손실: 2.568431\t최선의 손실: 1.814340\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.940594\t최선의 손실: 1.814340\t정확도: 22.01%\n", - "10\t검증 세트 손실: 2.119608\t최선의 손실: 1.814340\t정확도: 18.73%\n", - "11\t검증 세트 손실: 2.872692\t최선의 손실: 1.814340\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.472661\t최선의 손실: 1.814340\t정확도: 20.91%\n", - "13\t검증 세트 손실: 3.368681\t최선의 손실: 1.814340\t정확도: 19.27%\n", - "14\t검증 세트 손실: 2.878073\t최선의 손실: 1.814340\t정확도: 19.27%\n", - "15\t검증 세트 손실: 2.294891\t최선의 손실: 1.814340\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.866396\t최선의 손실: 1.814340\t정확도: 22.01%\n", - "17\t검증 세트 손실: 3.254826\t최선의 손실: 1.814340\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.866752\t최선의 손실: 1.814340\t정확도: 20.91%\n", - "19\t검증 세트 손실: 2.937172\t최선의 손실: 1.814340\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.728158\t최선의 손실: 1.728158\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.731786\t최선의 손실: 1.728158\t정확도: 20.91%\n", - "22\t검증 세트 손실: 1.675062\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "23\t검증 세트 손실: 2.132677\t최선의 손실: 1.675062\t정확도: 19.27%\n", - "24\t검증 세트 손실: 2.059569\t최선의 손실: 1.675062\t정확도: 19.27%\n", - "25\t검증 세트 손실: 2.065344\t최선의 손실: 1.675062\t정확도: 22.01%\n", - "26\t검증 세트 손실: 3.684382\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "27\t검증 세트 손실: 2.307222\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "28\t검증 세트 손실: 2.223740\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "29\t검증 세트 손실: 1.954040\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "30\t검증 세트 손실: 2.425427\t최선의 손실: 1.675062\t정확도: 22.01%\n", - "31\t검증 세트 손실: 2.712282\t최선의 손실: 1.675062\t정확도: 22.01%\n", - "32\t검증 세트 손실: 2.117549\t최선의 손실: 1.675062\t정확도: 19.27%\n", - "33\t검증 세트 손실: 2.735460\t최선의 손실: 1.675062\t정확도: 19.08%\n", - "34\t검증 세트 손실: 2.376840\t최선의 손실: 1.675062\t정확도: 20.91%\n", - "35\t검증 세트 손실: 3.073526\t최선의 손실: 1.675062\t정확도: 22.01%\n", - "36\t검증 세트 손실: 2.708860\t최선의 손실: 1.675062\t정확도: 20.91%\n", - "37\t검증 세트 손실: 3.303518\t최선의 손실: 1.675062\t정확도: 20.91%\n", - "38\t검증 세트 손실: 1.699607\t최선의 손실: 1.675062\t정확도: 19.27%\n", - "39\t검증 세트 손실: 3.812864\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "40\t검증 세트 손실: 2.731928\t최선의 손실: 1.675062\t정확도: 18.73%\n", - "41\t검증 세트 손실: 4.363173\t최선의 손실: 1.675062\t정확도: 19.08%\n", - "42\t검증 세트 손실: 2.350188\t최선의 손실: 1.675062\t정확도: 20.91%\n", - "43\t검증 세트 손실: 2.580198\t최선의 손실: 1.675062\t정확도: 18.73%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 20.7s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 4042.087646\t최선의 손실: 4042.087646\t정확도: 19.27%\n", + "1\t검증 세트 손실: 16287.599609\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "2\t검증 세트 손실: 20063.128906\t최선의 손실: 4042.087646\t정확도: 19.27%\n", + "3\t검증 세트 손실: 380431.125000\t최선의 손실: 4042.087646\t정확도: 18.73%\n", + "4\t검증 세트 손실: 38391.609375\t최선의 손실: 4042.087646\t정확도: 20.91%\n", + "5\t검증 세트 손실: 88720.929688\t최선의 손실: 4042.087646\t정확도: 22.01%\n", + "6\t검증 세트 손실: 50309.460938\t최선의 손실: 4042.087646\t정확도: 19.27%\n", + "7\t검증 세트 손실: 127317.703125\t최선의 손실: 4042.087646\t정확도: 19.27%\n", + "8\t검증 세트 손실: 331597.875000\t최선의 손실: 4042.087646\t정확도: 18.73%\n", + "9\t검증 세트 손실: 46180.410156\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "10\t검증 세트 손실: 196991.546875\t최선의 손실: 4042.087646\t정확도: 18.73%\n", + "11\t검증 세트 손실: 131334.000000\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "12\t검증 세트 손실: 66302.085938\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "13\t검증 세트 손실: 97571.937500\t최선의 손실: 4042.087646\t정확도: 22.01%\n", + "14\t검증 세트 손실: 180417.437500\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "15\t검증 세트 손실: 147049.546875\t최선의 손실: 4042.087646\t정확도: 18.73%\n", + "16\t검증 세트 손실: 160788.031250\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "17\t검증 세트 손실: 55504.406250\t최선의 손실: 4042.087646\t정확도: 19.08%\n", + "18\t검증 세트 손실: 106088.093750\t최선의 손실: 4042.087646\t정확도: 20.91%\n", + "19\t검증 세트 손실: 125271.031250\t최선의 손실: 4042.087646\t정확도: 22.01%\n", + "20\t검증 세트 손실: 718600.125000\t최선의 손실: 4042.087646\t정확도: 19.27%\n", + "21\t검증 세트 손실: 94166.875000\t최선의 손실: 4042.087646\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140, total= 1.6min\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.766498\t최선의 손실: 1.766498\t정확도: 22.01%\n", - "1\t검증 세트 손실: 2.131442\t최선의 손실: 1.766498\t정확도: 22.01%\n", - "2\t검증 세트 손실: 2.484733\t최선의 손실: 1.766498\t정확도: 19.08%\n" + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.0s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "3\t검증 세트 손실: 2.354620\t최선의 손실: 1.766498\t정확도: 19.27%\n", - "4\t검증 세트 손실: 3.989748\t최선의 손실: 1.766498\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.734422\t최선의 손실: 1.734422\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.875788\t최선의 손실: 1.734422\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.690576\t최선의 손실: 1.690576\t정확도: 20.91%\n", - "8\t검증 세트 손실: 1.654367\t최선의 손실: 1.654367\t정확도: 22.01%\n", - "9\t검증 세트 손실: 2.162101\t최선의 손실: 1.654367\t정확도: 18.73%\n", - "10\t검증 세트 손실: 2.242494\t최선의 손실: 1.654367\t정확도: 18.73%\n", - "11\t검증 세트 손실: 2.273765\t최선의 손실: 1.654367\t정확도: 18.73%\n", - "12\t검증 세트 손실: 2.919270\t최선의 손실: 1.654367\t정확도: 18.73%\n", - "13\t검증 세트 손실: 4.261509\t최선의 손실: 1.654367\t정확도: 19.08%\n", - "14\t검증 세트 손실: 2.142127\t최선의 손실: 1.654367\t정확도: 22.01%\n", - "15\t검증 세트 손실: 2.117087\t최선의 손실: 1.654367\t정확도: 19.27%\n", - "16\t검증 세트 손실: 1.922424\t최선의 손실: 1.654367\t정확도: 20.91%\n", - "17\t검증 세트 손실: 2.185005\t최선의 손실: 1.654367\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.894808\t최선의 손실: 1.654367\t정확도: 19.27%\n", - "19\t검증 세트 손실: 3.395297\t최선의 손실: 1.654367\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.859136\t최선의 손실: 1.654367\t정확도: 20.91%\n", - "21\t검증 세트 손실: 2.997280\t최선의 손실: 1.654367\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.827122\t최선의 손실: 1.654367\t정확도: 19.27%\n", - "23\t검증 세트 손실: 3.343231\t최선의 손실: 1.654367\t정확도: 19.08%\n", - "24\t검증 세트 손실: 2.284718\t최선의 손실: 1.654367\t정확도: 19.27%\n", - "25\t검증 세트 손실: 2.332708\t최선의 손실: 1.654367\t정확도: 22.01%\n", - "26\t검증 세트 손실: 2.233398\t최선의 손실: 1.654367\t정확도: 18.73%\n", - "27\t검증 세트 손실: 2.307961\t최선의 손실: 1.654367\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.704519\t최선의 손실: 1.654367\t정확도: 20.91%\n", - "29\t검증 세트 손실: 3.979462\t최선의 손실: 1.654367\t정확도: 19.08%\n", + "0\t검증 세트 손실: 12329.833008\t최선의 손실: 12329.833008\t정확도: 22.05%\n", + "1\t검증 세트 손실: 23352.458984\t최선의 손실: 12329.833008\t정확도: 19.27%\n", + "2\t검증 세트 손실: 34042.308594\t최선의 손실: 12329.833008\t정확도: 18.73%\n", + "3\t검증 세트 손실: 7238.608887\t최선의 손실: 7238.608887\t정확도: 19.27%\n", + "4\t검증 세트 손실: 785070.062500\t최선의 손실: 7238.608887\t정확도: 19.27%\n", + "5\t검증 세트 손실: 279002.812500\t최선의 손실: 7238.608887\t정확도: 19.08%\n", + "6\t검증 세트 손실: 148157.796875\t최선의 손실: 7238.608887\t정확도: 19.27%\n", + "7\t검증 세트 손실: 284187.812500\t최선의 손실: 7238.608887\t정확도: 18.73%\n", + "8\t검증 세트 손실: 87597.054688\t최선의 손실: 7238.608887\t정확도: 19.27%\n", + "9\t검증 세트 손실: 51479.511719\t최선의 손실: 7238.608887\t정확도: 20.91%\n", + "10\t검증 세트 손실: 287391.437500\t최선의 손실: 7238.608887\t정확도: 19.55%\n", + "11\t검증 세트 손실: 1153609.250000\t최선의 손실: 7238.608887\t정확도: 18.73%\n", + "12\t검증 세트 손실: 704746.000000\t최선의 손실: 7238.608887\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1632785.750000\t최선의 손실: 7238.608887\t정확도: 18.73%\n", + "14\t검증 세트 손실: 168403.953125\t최선의 손실: 7238.608887\t정확도: 21.03%\n", + "15\t검증 세트 손실: 183723.734375\t최선의 손실: 7238.608887\t정확도: 18.73%\n", + "16\t검증 세트 손실: 331832.250000\t최선의 손실: 7238.608887\t정확도: 18.73%\n", + "17\t검증 세트 손실: 132041.578125\t최선의 손실: 7238.608887\t정확도: 19.27%\n", + "18\t검증 세트 손실: 145767.531250\t최선의 손실: 7238.608887\t정확도: 22.01%\n", + "19\t검증 세트 손실: 153495.093750\t최선의 손실: 7238.608887\t정확도: 22.01%\n", + "20\t검증 세트 손실: 163196.109375\t최선의 손실: 7238.608887\t정확도: 20.91%\n", + "21\t검증 세트 손실: 685458.687500\t최선의 손실: 7238.608887\t정확도: 21.93%\n", + "22\t검증 세트 손실: 383048.968750\t최선의 손실: 7238.608887\t정확도: 22.01%\n", + "23\t검증 세트 손실: 134447.531250\t최선의 손실: 7238.608887\t정확도: 20.91%\n", + "24\t검증 세트 손실: 193949.328125\t최선의 손실: 7238.608887\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.05, activation=, n_neurons=140, total= 1.1min\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.835342\t최선의 손실: 1.835342\t정확도: 22.01%\n", - "1\t검증 세트 손실: 2.328015\t최선의 손실: 1.835342\t정확도: 18.73%\n", - "2\t검증 세트 손실: 2.537128\t최선의 손실: 1.835342\t정확도: 19.27%\n", - "3\t검증 세트 손실: 3.188519\t최선의 손실: 1.835342\t정확도: 19.08%\n", - "4\t검증 세트 손실: 2.451356\t최선의 손실: 1.835342\t정확도: 18.73%\n", - "5\t검증 세트 손실: 1.754502\t최선의 손실: 1.754502\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.070538\t최선의 손실: 1.754502\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.748136\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "8\t검증 세트 손실: 2.620905\t최선의 손실: 1.748136\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2.645242\t최선의 손실: 1.748136\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.781578\t최선의 손실: 1.748136\t정확도: 19.27%\n", - "11\t검증 세트 손실: 2.300453\t최선의 손실: 1.748136\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.122102\t최선의 손실: 1.748136\t정확도: 19.08%\n", - "13\t검증 세트 손실: 2.098135\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "14\t검증 세트 손실: 3.250401\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "15\t검증 세트 손실: 2.423855\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "16\t검증 세트 손실: 2.456737\t최선의 손실: 1.748136\t정확도: 18.73%\n", - "17\t검증 세트 손실: 2.555985\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "18\t검증 세트 손실: 3.406431\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "19\t검증 세트 손실: 3.492964\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.708956\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "21\t검증 세트 손실: 2.422107\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "22\t검증 세트 손실: 2.165944\t최선의 손실: 1.748136\t정확도: 18.73%\n", - "23\t검증 세트 손실: 2.098628\t최선의 손실: 1.748136\t정확도: 19.08%\n", - "24\t검증 세트 손실: 2.474760\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "25\t검증 세트 손실: 2.090918\t최선의 손실: 1.748136\t정확도: 19.27%\n", - "26\t검증 세트 손실: 2.462191\t최선의 손실: 1.748136\t정확도: 20.91%\n", - "27\t검증 세트 손실: 1.769079\t최선의 손실: 1.748136\t정확도: 22.01%\n", - "28\t검증 세트 손실: 2.318099\t최선의 손실: 1.748136\t정확도: 19.08%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 14.5s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.895012\t최선의 손실: 1.895012\t정확도: 22.01%\n", + "1\t검증 세트 손실: 2.302977\t최선의 손실: 1.895012\t정확도: 19.08%\n", + "2\t검증 세트 손실: 2.228047\t최선의 손실: 1.895012\t정확도: 19.27%\n", + "3\t검증 세트 손실: 2.081894\t최선의 손실: 1.895012\t정확도: 20.91%\n", + "4\t검증 세트 손실: 2.121863\t최선의 손실: 1.895012\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.737719\t최선의 손실: 1.737719\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.984072\t최선의 손실: 1.737719\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.903262\t최선의 손실: 1.737719\t정확도: 18.73%\n", + "8\t검증 세트 손실: 2.731017\t최선의 손실: 1.737719\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2.748780\t최선의 손실: 1.737719\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.851702\t최선의 손실: 1.737719\t정확도: 19.27%\n", + "11\t검증 세트 손실: 2.387412\t최선의 손실: 1.737719\t정확도: 19.08%\n", + "12\t검증 세트 손실: 2.133464\t최선의 손실: 1.737719\t정확도: 19.08%\n", + "13\t검증 세트 손실: 2.192045\t최선의 손실: 1.737719\t정확도: 22.01%\n", + "14\t검증 세트 손실: 3.244758\t최선의 손실: 1.737719\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.870201\t최선의 손실: 1.737719\t정확도: 19.08%\n", + "16\t검증 세트 손실: 3.612675\t최선의 손실: 1.737719\t정확도: 20.91%\n", + "17\t검증 세트 손실: 2.659829\t최선의 손실: 1.737719\t정확도: 20.91%\n", + "18\t검증 세트 손실: 3.452477\t최선의 손실: 1.737719\t정확도: 22.01%\n", + "19\t검증 세트 손실: 2.930958\t최선의 손실: 1.737719\t정확도: 22.01%\n", + "20\t검증 세트 손실: 3.515849\t최선의 손실: 1.737719\t정확도: 22.01%\n", + "21\t검증 세트 손실: 2.021984\t최선의 손실: 1.737719\t정확도: 20.91%\n", + "22\t검증 세트 손실: 2.064623\t최선의 손실: 1.737719\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.882143\t최선의 손실: 1.737719\t정확도: 19.08%\n", + "24\t검증 세트 손실: 2.484426\t최선의 손실: 1.737719\t정확도: 20.91%\n", + "25\t검증 세트 손실: 2.405358\t최선의 손실: 1.737719\t정확도: 20.91%\n", + "26\t검증 세트 손실: 2.544944\t최선의 손실: 1.737719\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 1.1min\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 2.010987\t최선의 손실: 2.010987\t정확도: 22.01%\n", - "1\t검증 세트 손실: 2.250907\t최선의 손실: 2.010987\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.711940\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "3\t검증 세트 손실: 2.464531\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.955620\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "5\t검증 세트 손실: 2.036624\t최선의 손실: 1.711940\t정확도: 18.73%\n", - "6\t검증 세트 손실: 2.646753\t최선의 손실: 1.711940\t정확도: 18.73%\n", - "7\t검증 세트 손실: 2.219077\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "8\t검증 세트 손실: 3.172143\t최선의 손실: 1.711940\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.971255\t최선의 손실: 1.711940\t정확도: 22.01%\n", - "10\t검증 세트 손실: 2.093254\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "11\t검증 세트 손실: 3.037933\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.059215\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "13\t검증 세트 손실: 3.246908\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "14\t검증 세트 손실: 3.004365\t최선의 손실: 1.711940\t정확도: 19.27%\n", - "15\t검증 세트 손실: 2.133568\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.739130\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "17\t검증 세트 손실: 2.827487\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "18\t검증 세트 손실: 2.356352\t최선의 손실: 1.711940\t정확도: 19.08%\n", - "19\t검증 세트 손실: 2.593230\t최선의 손실: 1.711940\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.726289\t최선의 손실: 1.711940\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.741268\t최선의 손실: 1.711940\t정확도: 20.91%\n", - "22\t검증 세트 손실: 1.684611\t최선의 손실: 1.684611\t정확도: 22.01%\n", - "23\t검증 세트 손실: 2.366592\t최선의 손실: 1.684611\t정확도: 22.01%\n", - "24\t검증 세트 손실: 2.155076\t최선의 손실: 1.684611\t정확도: 19.27%\n", - "25\t검증 세트 손실: 1.883853\t최선의 손실: 1.684611\t정확도: 22.01%\n", - "26\t검증 세트 손실: 3.726477\t최선의 손실: 1.684611\t정확도: 19.08%\n", - "27\t검증 세트 손실: 2.628488\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "28\t검증 세트 손실: 2.442934\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "29\t검증 세트 손실: 2.111892\t최선의 손실: 1.684611\t정확도: 18.73%\n", - "30\t검증 세트 손실: 2.479018\t최선의 손실: 1.684611\t정확도: 22.01%\n", - "31\t검증 세트 손실: 2.348620\t최선의 손실: 1.684611\t정확도: 19.08%\n", - "32\t검증 세트 손실: 1.933364\t최선의 손실: 1.684611\t정확도: 19.27%\n", - "33\t검증 세트 손실: 3.568138\t최선의 손실: 1.684611\t정확도: 19.08%\n", - "34\t검증 세트 손실: 2.262289\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "35\t검증 세트 손실: 3.247323\t최선의 손실: 1.684611\t정확도: 22.01%\n", - "36\t검증 세트 손실: 3.500853\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "37\t검증 세트 손실: 3.720392\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "38\t검증 세트 손실: 1.764349\t최선의 손실: 1.684611\t정확도: 18.73%\n", - "39\t검증 세트 손실: 4.277288\t최선의 손실: 1.684611\t정확도: 18.73%\n", - "40\t검증 세트 손실: 3.151234\t최선의 손실: 1.684611\t정확도: 18.73%\n", - "41\t검증 세트 손실: 4.095318\t최선의 손실: 1.684611\t정확도: 19.27%\n", - "42\t검증 세트 손실: 3.240806\t최선의 손실: 1.684611\t정확도: 20.91%\n", - "43\t검증 세트 손실: 2.468709\t최선의 손실: 1.684611\t정확도: 18.73%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=, total= 59.6s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.850411\t최선의 손실: 1.850411\t정확도: 18.73%\n", + "1\t검증 세트 손실: 2.304622\t최선의 손실: 1.850411\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.855799\t최선의 손실: 1.850411\t정확도: 19.08%\n", + "3\t검증 세트 손실: 2.168491\t최선의 손실: 1.850411\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.971350\t최선의 손실: 1.850411\t정확도: 19.08%\n", + "5\t검증 세트 손실: 2.243579\t최선의 손실: 1.850411\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.955383\t최선의 손실: 1.850411\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.567458\t최선의 손실: 1.850411\t정확도: 18.73%\n", + "8\t검증 세트 손실: 3.216009\t최선의 손실: 1.850411\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.996964\t최선의 손실: 1.850411\t정확도: 22.01%\n", + "10\t검증 세트 손실: 2.243177\t최선의 손실: 1.850411\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.768329\t최선의 손실: 1.850411\t정확도: 19.08%\n", + "12\t검증 세트 손실: 2.074554\t최선의 손실: 1.850411\t정확도: 19.27%\n", + "13\t검증 세트 손실: 2.978215\t최선의 손실: 1.850411\t정확도: 20.91%\n", + "14\t검증 세트 손실: 2.995233\t최선의 손실: 1.850411\t정확도: 19.27%\n", + "15\t검증 세트 손실: 2.157972\t최선의 손실: 1.850411\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.637874\t최선의 손실: 1.637874\t정확도: 22.01%\n", + "17\t검증 세트 손실: 2.475465\t최선의 손실: 1.637874\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2.213179\t최선의 손실: 1.637874\t정확도: 19.08%\n", + "19\t검증 세트 손실: 2.895982\t최선의 손실: 1.637874\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.793804\t최선의 손실: 1.637874\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.884641\t최선의 손실: 1.637874\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.678931\t최선의 손실: 1.637874\t정확도: 18.73%\n", + "23\t검증 세트 손실: 2.023129\t최선의 손실: 1.637874\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.921765\t최선의 손실: 1.637874\t정확도: 18.73%\n", + "25\t검증 세트 손실: 1.857149\t최선의 손실: 1.637874\t정확도: 22.01%\n", + "26\t검증 세트 손실: 4.000683\t최선의 손실: 1.637874\t정확도: 19.08%\n", + "27\t검증 세트 손실: 2.411934\t최선의 손실: 1.637874\t정확도: 20.91%\n", + "28\t검증 세트 손실: 2.229538\t최선의 손실: 1.637874\t정확도: 20.91%\n", + "29\t검증 세트 손실: 2.123820\t최선의 손실: 1.637874\t정확도: 19.27%\n", + "30\t검증 세트 손실: 2.096409\t최선의 손실: 1.637874\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.887174\t최선의 손실: 1.637874\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.960396\t최선의 손실: 1.637874\t정확도: 18.73%\n", + "33\t검증 세트 손실: 3.142821\t최선의 손실: 1.637874\t정확도: 19.08%\n", + "34\t검증 세트 손실: 1.931176\t최선의 손실: 1.637874\t정확도: 20.91%\n", + "35\t검증 세트 손실: 2.881460\t최선의 손실: 1.637874\t정확도: 22.01%\n", + "36\t검증 세트 손실: 3.033044\t최선의 손실: 1.637874\t정확도: 19.27%\n", + "37\t검증 세트 손실: 2.020598\t최선의 손실: 1.637874\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 1.6min\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 2.015094\t최선의 손실: 2.015094\t정확도: 18.73%\n", - "1\t검증 세트 손실: 2.200569\t최선의 손실: 2.015094\t정확도: 18.73%\n", - "2\t검증 세트 손실: 2.529754\t최선의 손실: 2.015094\t정확도: 19.08%\n", - "3\t검증 세트 손실: 2.592198\t최선의 손실: 2.015094\t정확도: 22.01%\n", - "4\t검증 세트 손실: 3.885439\t최선의 손실: 2.015094\t정확도: 20.91%\n", - "5\t검증 세트 손실: 3.117450\t최선의 손실: 2.015094\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.810380\t최선의 손실: 2.015094\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.888613\t최선의 손실: 1.888613\t정확도: 20.91%\n", - "8\t검증 세트 손실: 1.755347\t최선의 손실: 1.755347\t정확도: 22.01%\n", - "9\t검증 세트 손실: 3.195272\t최선의 손실: 1.755347\t정확도: 18.73%\n", - "10\t검증 세트 손실: 2.316414\t최선의 손실: 1.755347\t정확도: 18.73%\n", - "11\t검증 세트 손실: 2.363100\t최선의 손실: 1.755347\t정확도: 18.73%\n", - "12\t검증 세트 손실: 2.344953\t최선의 손실: 1.755347\t정확도: 20.91%\n", - "13\t검증 세트 손실: 4.575258\t최선의 손실: 1.755347\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.951815\t최선의 손실: 1.755347\t정확도: 22.01%\n", - "15\t검증 세트 손실: 2.089362\t최선의 손실: 1.755347\t정확도: 19.27%\n", - "16\t검증 세트 손실: 2.247236\t최선의 손실: 1.755347\t정확도: 18.73%\n", - "17\t검증 세트 손실: 2.229265\t최선의 손실: 1.755347\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.916000\t최선의 손실: 1.755347\t정확도: 19.27%\n", - "19\t검증 세트 손실: 2.465827\t최선의 손실: 1.755347\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.709022\t최선의 손실: 1.709022\t정확도: 20.91%\n", - "21\t검증 세트 손실: 2.210298\t최선의 손실: 1.709022\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.969363\t최선의 손실: 1.709022\t정확도: 22.01%\n", - "23\t검증 세트 손실: 3.443788\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "24\t검증 세트 손실: 2.280291\t최선의 손실: 1.709022\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.714924\t최선의 손실: 1.709022\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.897234\t최선의 손실: 1.709022\t정확도: 18.73%\n", - "27\t검증 세트 손실: 2.323094\t최선의 손실: 1.709022\t정확도: 18.73%\n", - "28\t검증 세트 손실: 2.317081\t최선의 손실: 1.709022\t정확도: 20.91%\n", - "29\t검증 세트 손실: 4.201362\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "30\t검증 세트 손실: 1.938442\t최선의 손실: 1.709022\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.785207\t최선의 손실: 1.709022\t정확도: 18.73%\n", - "32\t검증 세트 손실: 2.295576\t최선의 손실: 1.709022\t정확도: 19.27%\n", - "33\t검증 세트 손실: 1.721447\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "34\t검증 세트 손실: 3.300692\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "35\t검증 세트 손실: 1.729299\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "36\t검증 세트 손실: 2.358642\t최선의 손실: 1.709022\t정확도: 19.27%\n", - "37\t검증 세트 손실: 2.395441\t최선의 손실: 1.709022\t정확도: 19.08%\n", - "38\t검증 세트 손실: 2.611983\t최선의 손실: 1.709022\t정확도: 20.91%\n", - "39\t검증 세트 손실: 3.024051\t최선의 손실: 1.709022\t정확도: 19.27%\n", - "40\t검증 세트 손실: 2.125805\t최선의 손실: 1.709022\t정확도: 19.27%\n", - "41\t검증 세트 손실: 2.462298\t최선의 손실: 1.709022\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=, total= 1.4min\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation= \n", + "0\t검증 세트 손실: 2.132387\t최선의 손실: 2.132387\t정확도: 22.01%\n", + "1\t검증 세트 손실: 2.244434\t최선의 손실: 2.132387\t정확도: 22.01%\n", + "2\t검증 세트 손실: 2.472854\t최선의 손실: 2.132387\t정확도: 19.08%\n", + "3\t검증 세트 손실: 2.071190\t최선의 손실: 2.071190\t정확도: 19.27%\n", + "4\t검증 세트 손실: 3.800208\t최선의 손실: 2.071190\t정확도: 20.91%\n", + "5\t검증 세트 손실: 3.460485\t최선의 손실: 2.071190\t정확도: 20.91%\n", + "6\t검증 세트 손실: 2.086900\t최선의 손실: 2.071190\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.972649\t최선의 손실: 1.972649\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.736876\t최선의 손실: 1.736876\t정확도: 22.01%\n", + "9\t검증 세트 손실: 2.563969\t최선의 손실: 1.736876\t정확도: 18.73%\n", + "10\t검증 세트 손실: 2.336502\t최선의 손실: 1.736876\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.382062\t최선의 손실: 1.736876\t정확도: 19.27%\n", + "12\t검증 세트 손실: 2.261615\t최선의 손실: 1.736876\t정확도: 22.01%\n", + "13\t검증 세트 손실: 4.465069\t최선의 손실: 1.736876\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.805749\t최선의 손실: 1.736876\t정확도: 22.01%\n", + "15\t검증 세트 손실: 2.030867\t최선의 손실: 1.736876\t정확도: 19.27%\n", + "16\t검증 세트 손실: 2.473099\t최선의 손실: 1.736876\t정확도: 20.91%\n", + "17\t검증 세트 손실: 2.372862\t최선의 손실: 1.736876\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.782411\t최선의 손실: 1.736876\t정확도: 19.27%\n", + "19\t검증 세트 손실: 2.306792\t최선의 손실: 1.736876\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.991849\t최선의 손실: 1.736876\t정확도: 20.91%\n", + "21\t검증 세트 손실: 3.553547\t최선의 손실: 1.736876\t정확도: 22.01%\n", + "22\t검증 세트 손실: 2.129293\t최선의 손실: 1.736876\t정확도: 19.27%\n", + "23\t검증 세트 손실: 4.011275\t최선의 손실: 1.736876\t정확도: 19.08%\n", + "24\t검증 세트 손실: 2.270925\t최선의 손실: 1.736876\t정확도: 18.73%\n", + "25\t검증 세트 손실: 1.694309\t최선의 손실: 1.694309\t정확도: 20.91%\n", + "26\t검증 세트 손실: 2.301381\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "27\t검증 세트 손실: 2.322837\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "28\t검증 세트 손실: 2.861538\t최선의 손실: 1.694309\t정확도: 20.91%\n", + "29\t검증 세트 손실: 4.324051\t최선의 손실: 1.694309\t정확도: 19.08%\n", + "30\t검증 세트 손실: 2.626956\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "31\t검증 세트 손실: 2.037148\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "32\t검증 세트 손실: 1.777856\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "33\t검증 세트 손실: 2.098193\t최선의 손실: 1.694309\t정확도: 19.08%\n", + "34\t검증 세트 손실: 2.719923\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "35\t검증 세트 손실: 1.695807\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "36\t검증 세트 손실: 2.509483\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "37\t검증 세트 손실: 2.336577\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "38\t검증 세트 손실: 2.156354\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "39\t검증 세트 손실: 3.743734\t최선의 손실: 1.694309\t정확도: 19.08%\n", + "40\t검증 세트 손실: 2.093585\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "41\t검증 세트 손실: 2.235519\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "42\t검증 세트 손실: 3.411312\t최선의 손실: 1.694309\t정확도: 22.01%\n", + "43\t검증 세트 손실: 3.105861\t최선의 손실: 1.694309\t정확도: 20.91%\n", + "44\t검증 세트 손실: 2.090949\t최선의 손실: 1.694309\t정확도: 18.73%\n", + "45\t검증 세트 손실: 2.668208\t최선의 손실: 1.694309\t정확도: 19.27%\n", + "46\t검증 세트 손실: 3.312225\t최선의 손실: 1.694309\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 1.6min\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70 \n" + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.4, batch_size=10, activation=, total= 1.7min\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 1.611484\t최선의 손실: 1.611484\t정확도: 19.08%\n", - "1\t검증 세트 손실: 1.613299\t최선의 손실: 1.611484\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.609193\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.609864\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.618616\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.612607\t최선의 손실: 1.609193\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.609827\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.615095\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.621949\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.610800\t최선의 손실: 1.609193\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.608212\t최선의 손실: 1.608212\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.619424\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.608470\t최선의 손실: 1.608212\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.618596\t최선의 손실: 1.608212\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.613479\t최선의 손실: 1.608212\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.611293\t최선의 손실: 1.608212\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.611450\t최선의 손실: 1.608212\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.610988\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.614757\t최선의 손실: 1.608212\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.610596\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.611319\t최선의 손실: 1.608212\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.614840\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.616512\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.618043\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "24\t검증 세트 손실: 1.614490\t최선의 손실: 1.608212\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.609587\t최선의 손실: 1.608212\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.610508\t최선의 손실: 1.608212\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.612529\t최선의 손실: 1.608212\t정확도: 19.08%\n", - "28\t검증 세트 손실: 1.610707\t최선의 손실: 1.608212\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.614641\t최선의 손실: 1.608212\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.622687\t최선의 손실: 1.608212\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.608783\t최선의 손실: 1.608212\t정확도: 22.01%\n", + "0\t검증 세트 손실: 2.165420\t최선의 손실: 2.165420\t정확도: 22.01%\n", + "1\t검증 세트 손실: 2.262464\t최선의 손실: 2.165420\t정확도: 18.73%\n", + "2\t검증 세트 손실: 2.147748\t최선의 손실: 2.147748\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.944515\t최선의 손실: 1.944515\t정확도: 20.91%\n", + "4\t검증 세트 손실: 2.486884\t최선의 손실: 1.944515\t정확도: 18.73%\n", + "5\t검증 세트 손실: 2.217474\t최선의 손실: 1.944515\t정확도: 20.91%\n", + "6\t검증 세트 손실: 2.000931\t최선의 손실: 1.944515\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.686761\t최선의 손실: 1.686761\t정확도: 20.91%\n", + "8\t검증 세트 손실: 2.621397\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2.610783\t최선의 손실: 1.686761\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.964406\t최선의 손실: 1.686761\t정확도: 19.27%\n", + "11\t검증 세트 손실: 2.710626\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "12\t검증 세트 손실: 2.153256\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "13\t검증 세트 손실: 2.017788\t최선의 손실: 1.686761\t정확도: 22.01%\n", + "14\t검증 세트 손실: 3.250654\t최선의 손실: 1.686761\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.940070\t최선의 손실: 1.686761\t정확도: 22.01%\n", + "16\t검증 세트 손실: 2.481317\t최선의 손실: 1.686761\t정확도: 18.73%\n", + "17\t검증 세트 손실: 2.667804\t최선의 손실: 1.686761\t정확도: 20.91%\n", + "18\t검증 세트 손실: 3.859370\t최선의 손실: 1.686761\t정확도: 22.01%\n", + "19\t검증 세트 손실: 2.556525\t최선의 손실: 1.686761\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.954108\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "21\t검증 세트 손실: 2.407802\t최선의 손실: 1.686761\t정확도: 20.91%\n", + "22\t검증 세트 손실: 2.134559\t최선의 손실: 1.686761\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.851812\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "24\t검증 세트 손실: 2.310824\t최선의 손실: 1.686761\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.950638\t최선의 손실: 1.686761\t정확도: 19.27%\n", + "26\t검증 세트 손실: 1.687957\t최선의 손실: 1.686761\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.668356\t최선의 손실: 1.668356\t정확도: 18.73%\n", + "28\t검증 세트 손실: 2.498595\t최선의 손실: 1.668356\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.862985\t최선의 손실: 1.668356\t정확도: 19.08%\n", + "30\t검증 세트 손실: 2.161610\t최선의 손실: 1.668356\t정확도: 19.08%\n", + "31\t검증 세트 손실: 2.490816\t최선의 손실: 1.668356\t정확도: 19.08%\n", + "32\t검증 세트 손실: 1.825087\t최선의 손실: 1.668356\t정확도: 20.91%\n", + "33\t검증 세트 손실: 2.179080\t최선의 손실: 1.668356\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.626529\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "35\t검증 세트 손실: 2.739575\t최선의 손실: 1.626529\t정확도: 19.08%\n", + "36\t검증 세트 손실: 2.655391\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "37\t검증 세트 손실: 2.581530\t최선의 손실: 1.626529\t정확도: 20.91%\n", + "38\t검증 세트 손실: 2.095084\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "39\t검증 세트 손실: 2.966063\t최선의 손실: 1.626529\t정확도: 18.73%\n", + "40\t검증 세트 손실: 2.904881\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "41\t검증 세트 손실: 2.362287\t최선의 손실: 1.626529\t정확도: 19.27%\n", + "42\t검증 세트 손실: 3.047160\t최선의 손실: 1.626529\t정확도: 19.27%\n", + "43\t검증 세트 손실: 2.487020\t최선의 손실: 1.626529\t정확도: 19.27%\n", + "44\t검증 세트 손실: 4.019165\t최선의 손실: 1.626529\t정확도: 18.73%\n", + "45\t검증 세트 손실: 2.194931\t최선의 손실: 1.626529\t정확도: 18.73%\n", + "46\t검증 세트 손실: 2.420487\t최선의 손실: 1.626529\t정확도: 18.73%\n", + "47\t검증 세트 손실: 2.535485\t최선의 손실: 1.626529\t정확도: 19.27%\n", + "48\t검증 세트 손실: 2.119378\t최선의 손실: 1.626529\t정확도: 19.08%\n", + "49\t검증 세트 손실: 1.847803\t최선의 손실: 1.626529\t정확도: 19.08%\n", + "50\t검증 세트 손실: 1.782447\t최선의 손실: 1.626529\t정확도: 19.08%\n", + "51\t검증 세트 손실: 2.159870\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "52\t검증 세트 손실: 2.629659\t최선의 손실: 1.626529\t정확도: 19.08%\n", + "53\t검증 세트 손실: 3.254871\t최선의 손실: 1.626529\t정확도: 19.27%\n", + "54\t검증 세트 손실: 2.625071\t최선의 손실: 1.626529\t정확도: 22.01%\n", + "55\t검증 세트 손실: 2.032667\t최선의 손실: 1.626529\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70, total= 8.6s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 1.610780\t최선의 손실: 1.610780\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.610259\t최선의 손실: 1.610259\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.615143\t최선의 손실: 1.610259\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.624554\t최선의 손실: 1.610259\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.614303\t최선의 손실: 1.610259\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.614205\t최선의 손실: 1.610259\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.614520\t최선의 손실: 1.610259\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.612075\t최선의 손실: 1.610259\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.610390\t최선의 손실: 1.610259\t정확도: 20.91%\n", - "9\t검증 세트 손실: 1.609672\t최선의 손실: 1.609672\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.618959\t최선의 손실: 1.609672\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.612237\t최선의 손실: 1.609672\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.609190\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.613473\t최선의 손실: 1.609190\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.613057\t최선의 손실: 1.609190\t정확도: 19.27%\n", - "15\t검증 세트 손실: 1.612377\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.612115\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.618452\t최선의 손실: 1.609190\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.610909\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.610620\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.612257\t최선의 손실: 1.609190\t정확도: 19.08%\n", - "21\t검증 세트 손실: 1.610892\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.617964\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.616939\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.612181\t최선의 손실: 1.609190\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.615083\t최선의 손실: 1.609190\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation=, total= 2.1min\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.793632\t최선의 손실: 1.793632\t정확도: 18.73%\n", + "1\t검증 세트 손실: 2.399241\t최선의 손실: 1.793632\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.679719\t최선의 손실: 1.679719\t정확도: 22.01%\n", + "3\t검증 세트 손실: 2.114928\t최선의 손실: 1.679719\t정확도: 22.01%\n", + "4\t검증 세트 손실: 2.060664\t최선의 손실: 1.679719\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.713467\t최선의 손실: 1.679719\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.892119\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "7\t검증 세트 손실: 2.864345\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "8\t검증 세트 손실: 3.089058\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.950539\t최선의 손실: 1.679719\t정확도: 22.01%\n", + "10\t검증 세트 손실: 2.218000\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.811478\t최선의 손실: 1.679719\t정확도: 19.08%\n", + "12\t검증 세트 손실: 2.061105\t최선의 손실: 1.679719\t정확도: 20.91%\n", + "13\t검증 세트 손실: 3.041187\t최선의 손실: 1.679719\t정확도: 19.27%\n", + "14\t검증 세트 손실: 2.862127\t최선의 손실: 1.679719\t정확도: 19.27%\n", + "15\t검증 세트 손실: 2.269417\t최선의 손실: 1.679719\t정확도: 20.91%\n", + "16\t검증 세트 손실: 1.823174\t최선의 손실: 1.679719\t정확도: 22.01%\n", + "17\t검증 세트 손실: 2.697482\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.711285\t최선의 손실: 1.679719\t정확도: 20.91%\n", + "19\t검증 세트 손실: 2.086146\t최선의 손실: 1.679719\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.220659\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.944649\t최선의 손실: 1.679719\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.689476\t최선의 손실: 1.679719\t정확도: 18.73%\n", + "23\t검증 세트 손실: 2.756160\t최선의 손실: 1.679719\t정확도: 19.27%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation=, total= 53.0s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.982899\t최선의 손실: 1.982899\t정확도: 18.73%\n", + "1\t검증 세트 손실: 2.182103\t최선의 손실: 1.982899\t정확도: 18.73%\n", + "2\t검증 세트 손실: 2.503839\t최선의 손실: 1.982899\t정확도: 19.08%\n", + "3\t검증 세트 손실: 2.489222\t최선의 손실: 1.982899\t정확도: 22.01%\n", + "4\t검증 세트 손실: 4.016567\t최선의 손실: 1.982899\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.803535\t최선의 손실: 1.803535\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.744101\t최선의 손실: 1.744101\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.108752\t최선의 손실: 1.744101\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.677799\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "9\t검증 세트 손실: 2.609368\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "10\t검증 세트 손실: 2.688209\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.378688\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "12\t검증 세트 손실: 2.599878\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "13\t검증 세트 손실: 4.063941\t최선의 손실: 1.677799\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.968212\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "15\t검증 세트 손실: 2.252918\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "16\t검증 세트 손실: 1.814994\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "17\t검증 세트 손실: 2.178193\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "18\t검증 세트 손실: 2.003210\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "19\t검증 세트 손실: 3.223183\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.256188\t최선의 손실: 1.677799\t정확도: 20.91%\n", + "21\t검증 세트 손실: 2.854749\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.866082\t최선의 손실: 1.677799\t정확도: 20.91%\n", + "23\t검증 세트 손실: 3.769898\t최선의 손실: 1.677799\t정확도: 19.08%\n", + "24\t검증 세트 손실: 2.233614\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "25\t검증 세트 손실: 2.460222\t최선의 손실: 1.677799\t정확도: 22.01%\n", + "26\t검증 세트 손실: 2.168829\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "27\t검증 세트 손실: 2.419576\t최선의 손실: 1.677799\t정확도: 18.73%\n", + "28\t검증 세트 손실: 2.561987\t최선의 손실: 1.677799\t정확도: 20.91%\n", + "29\t검증 세트 손실: 4.287169\t최선의 손실: 1.677799\t정확도: 19.08%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=10, activation=, total= 1.1min\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.611206\t최선의 손실: 1.611206\t정확도: 19.08%\n", + "1\t검증 세트 손실: 1.613373\t최선의 손실: 1.611206\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.609815\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.609894\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.619565\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.612679\t최선의 손실: 1.609815\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.609897\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.615125\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.621840\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.610754\t최선의 손실: 1.609815\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.608215\t최선의 손실: 1.608215\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.619425\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.608459\t최선의 손실: 1.608215\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.618978\t최선의 손실: 1.608215\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.613499\t최선의 손실: 1.608215\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.611254\t최선의 손실: 1.608215\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.611345\t최선의 손실: 1.608215\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.610984\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.614770\t최선의 손실: 1.608215\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.610594\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.611318\t최선의 손실: 1.608215\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.614840\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.616839\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.618050\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.614474\t최선의 손실: 1.608215\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.609587\t최선의 손실: 1.608215\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.610509\t최선의 손실: 1.608215\t정확도: 22.01%\n", + "27\t검증 세트 손실: 1.612529\t최선의 손실: 1.608215\t정확도: 19.08%\n", + "28\t검증 세트 손실: 1.610708\t최선의 손실: 1.608215\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.614637\t최선의 손실: 1.608215\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.622688\t최선의 손실: 1.608215\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.608783\t최선의 손실: 1.608215\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 8.4s\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "0\t검증 세트 손실: 1.610045\t최선의 손실: 1.610045\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.610589\t최선의 손실: 1.610045\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.615246\t최선의 손실: 1.610045\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.624054\t최선의 손실: 1.610045\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.614274\t최선의 손실: 1.610045\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.614034\t최선의 손실: 1.610045\t정확도: 19.27%\n", + "6\t검증 세트 손실: 1.614701\t최선의 손실: 1.610045\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.611903\t최선의 손실: 1.610045\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.609725\t최선의 손실: 1.609725\t정확도: 20.91%\n", + "9\t검증 세트 손실: 1.609555\t최선의 손실: 1.609555\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.618989\t최선의 손실: 1.609555\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.612239\t최선의 손실: 1.609555\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.609189\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.613473\t최선의 손실: 1.609189\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.613039\t최선의 손실: 1.609189\t정확도: 19.27%\n", + "15\t검증 세트 손실: 1.612364\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.612117\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.618465\t최선의 손실: 1.609189\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.610903\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.610653\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.612231\t최선의 손실: 1.609189\t정확도: 19.08%\n", + "21\t검증 세트 손실: 1.610909\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.617963\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.616953\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.612182\t최선의 손실: 1.609189\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.615084\t최선의 손실: 1.609189\t정확도: 22.01%\n", "26\t검증 세트 손실: 1.607682\t최선의 손실: 1.607682\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.611634\t최선의 손실: 1.607682\t정확도: 22.01%\n", - "28\t검증 세트 손실: 1.626024\t최선의 손실: 1.607682\t정확도: 18.73%\n", - "29\t검증 세트 손실: 1.609978\t최선의 손실: 1.607682\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.611089\t최선의 손실: 1.607682\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.611650\t최선의 손실: 1.607682\t정확도: 19.27%\n", + "27\t검증 세트 손실: 1.611636\t최선의 손실: 1.607682\t정확도: 22.01%\n", + "28\t검증 세트 손실: 1.626022\t최선의 손실: 1.607682\t정확도: 18.73%\n", + "29\t검증 세트 손실: 1.609977\t최선의 손실: 1.607682\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.611090\t최선의 손실: 1.607682\t정확도: 19.08%\n", + "31\t검증 세트 손실: 1.611651\t최선의 손실: 1.607682\t정확도: 19.27%\n", "32\t검증 세트 손실: 1.612803\t최선의 손실: 1.607682\t정확도: 18.73%\n", "33\t검증 세트 손실: 1.608830\t최선의 손실: 1.607682\t정확도: 20.91%\n", "34\t검증 세트 손실: 1.613910\t최선의 손실: 1.607682\t정확도: 22.01%\n", @@ -16607,2049 +16496,2017 @@ "36\t검증 세트 손실: 1.613157\t최선의 손실: 1.607682\t정확도: 20.91%\n", "37\t검증 세트 손실: 1.609832\t최선의 손실: 1.607682\t정확도: 22.01%\n", "38\t검증 세트 손실: 1.620759\t최선의 손실: 1.607682\t정확도: 22.01%\n", - "39\t검증 세트 손실: 1.623758\t최선의 손실: 1.607682\t정확도: 19.27%\n", + "39\t검증 세트 손실: 1.623759\t최선의 손실: 1.607682\t정확도: 19.27%\n", "40\t검증 세트 손실: 1.609532\t최선의 손실: 1.607682\t정확도: 22.01%\n", "41\t검증 세트 손실: 1.609141\t최선의 손실: 1.607682\t정확도: 22.01%\n", "42\t검증 세트 손실: 1.622815\t최선의 손실: 1.607682\t정확도: 19.27%\n", - "43\t검증 세트 손실: 1.617255\t최선의 손실: 1.607682\t정확도: 22.01%\n", + "43\t검증 세트 손실: 1.617256\t최선의 손실: 1.607682\t정확도: 22.01%\n", "44\t검증 세트 손실: 1.616077\t최선의 손실: 1.607682\t정확도: 19.08%\n", "45\t검증 세트 손실: 1.611638\t최선의 손실: 1.607682\t정확도: 19.08%\n", "46\t검증 세트 손실: 1.623886\t최선의 손실: 1.607682\t정확도: 18.73%\n", "47\t검증 세트 손실: 1.611055\t최선의 손실: 1.607682\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70, total= 12.3s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70 \n", - "0\t검증 세트 손실: 1.614589\t최선의 손실: 1.614589\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.610019\t최선의 손실: 1.610019\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.620105\t최선의 손실: 1.610019\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.620693\t최선의 손실: 1.610019\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.609200\t최선의 손실: 1.609200\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.610796\t최선의 손실: 1.609200\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.615220\t최선의 손실: 1.609200\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.616866\t최선의 손실: 1.609200\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.611613\t최선의 손실: 1.609200\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.613918\t최선의 손실: 1.609200\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.612549\t최선의 손실: 1.609200\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.623473\t최선의 손실: 1.609200\t정확도: 22.01%\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 12.1s\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.614208\t최선의 손실: 1.614208\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.610209\t최선의 손실: 1.610209\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.618828\t최선의 손실: 1.610209\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.620165\t최선의 손실: 1.610209\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.609024\t최선의 손실: 1.609024\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.609993\t최선의 손실: 1.609024\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.615252\t최선의 손실: 1.609024\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.616396\t최선의 손실: 1.609024\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.612016\t최선의 손실: 1.609024\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.614064\t최선의 손실: 1.609024\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.612403\t최선의 손실: 1.609024\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.623521\t최선의 손실: 1.609024\t정확도: 22.01%\n", "12\t검증 세트 손실: 1.608303\t최선의 손실: 1.608303\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.611824\t최선의 손실: 1.608303\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.608464\t최선의 손실: 1.608303\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.617294\t최선의 손실: 1.608303\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.618880\t최선의 손실: 1.608303\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.615118\t최선의 손실: 1.608303\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.608076\t최선의 손실: 1.608076\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.608634\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.620248\t최선의 손실: 1.608076\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.611786\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.613175\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.613923\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.613855\t최선의 손실: 1.608076\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.617788\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.613065\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.614675\t최선의 손실: 1.608076\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.630540\t최선의 손실: 1.608076\t정확도: 18.73%\n", - "29\t검증 세트 손실: 1.611470\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "30\t검증 세트 손실: 1.611871\t최선의 손실: 1.608076\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.611842\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.615410\t최선의 손실: 1.608076\t정확도: 18.73%\n", - "33\t검증 세트 손실: 1.608509\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "34\t검증 세트 손실: 1.613685\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.609653\t최선의 손실: 1.608076\t정확도: 19.27%\n", - "36\t검증 세트 손실: 1.609762\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "37\t검증 세트 손실: 1.608676\t최선의 손실: 1.608076\t정확도: 22.01%\n", - "38\t검증 세트 손실: 1.617389\t최선의 손실: 1.608076\t정확도: 19.27%\n", - "39\t검증 세트 손실: 1.625803\t최선의 손실: 1.608076\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1.611860\t최선의 손실: 1.608303\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.608461\t최선의 손실: 1.608303\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.617310\t최선의 손실: 1.608303\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.618862\t최선의 손실: 1.608303\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.614714\t최선의 손실: 1.608303\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.608078\t최선의 손실: 1.608078\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.608638\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.620145\t최선의 손실: 1.608078\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.611822\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.613167\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.613920\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.613873\t최선의 손실: 1.608078\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.617803\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.613066\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "27\t검증 세트 손실: 1.614678\t최선의 손실: 1.608078\t정확도: 19.27%\n", + "28\t검증 세트 손실: 1.630546\t최선의 손실: 1.608078\t정확도: 18.73%\n", + "29\t검증 세트 손실: 1.611473\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "30\t검증 세트 손실: 1.611858\t최선의 손실: 1.608078\t정확도: 19.08%\n", + "31\t검증 세트 손실: 1.611853\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.615391\t최선의 손실: 1.608078\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.608505\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "34\t검증 세트 손실: 1.613685\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "35\t검증 세트 손실: 1.609654\t최선의 손실: 1.608078\t정확도: 19.27%\n", + "36\t검증 세트 손실: 1.609903\t최선의 손실: 1.608078\t정확도: 18.73%\n", + "37\t검증 세트 손실: 1.608671\t최선의 손실: 1.608078\t정확도: 22.01%\n", + "38\t검증 세트 손실: 1.617389\t최선의 손실: 1.608078\t정확도: 19.27%\n", + "39\t검증 세트 손실: 1.625786\t최선의 손실: 1.608078\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=70, total= 10.5s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100 \n", - "0\t검증 세트 손실: 1.440318\t최선의 손실: 1.440318\t정확도: 29.79%\n", - "1\t검증 세트 손실: 1.612716\t최선의 손실: 1.440318\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.609394\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.608335\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.616192\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.614087\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.609110\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.613848\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.617025\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.608657\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.608034\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.613575\t최선의 손실: 1.440318\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.609030\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.615785\t최선의 손실: 1.440318\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.613140\t최선의 손실: 1.440318\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.611248\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.609467\t최선의 손실: 1.440318\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.610098\t최선의 손실: 1.440318\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.615320\t최선의 손실: 1.440318\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.608987\t최선의 손실: 1.440318\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.609125\t최선의 손실: 1.440318\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.615656\t최선의 손실: 1.440318\t정확도: 22.01%\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 10.3s\n", + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.553154\t최선의 손실: 1.553154\t정확도: 22.99%\n", + "1\t검증 세트 손실: 1.613136\t최선의 손실: 1.553154\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.609057\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.608695\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.616285\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.614090\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.609106\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.614264\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.617036\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.608653\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.608023\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.613575\t최선의 손실: 1.553154\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.609033\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.615936\t최선의 손실: 1.553154\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.613143\t최선의 손실: 1.553154\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.611248\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.609467\t최선의 손실: 1.553154\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.610098\t최선의 손실: 1.553154\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.615320\t최선의 손실: 1.553154\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.608987\t최선의 손실: 1.553154\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.609124\t최선의 손실: 1.553154\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.615656\t최선의 손실: 1.553154\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100, total= 11.0s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100 \n" + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation=, total= 10.8s\n", + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.401374\t최선의 손실: 1.401374\t정확도: 32.02%\n", + "1\t검증 세트 손실: 1.612437\t최선의 손실: 1.401374\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.611555\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.619788\t최선의 손실: 1.401374\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.612872\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.610883\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.616832\t최선의 손실: 1.401374\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.613237\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.609147\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.608315\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.614520\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.610575\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.609134\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.612341\t최선의 손실: 1.401374\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.609191\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.610180\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.613043\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.615458\t최선의 손실: 1.401374\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.610242\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.609071\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.610654\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.612864\t최선의 손실: 1.401374\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation=, total= 10.9s\n", + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.213710\t최선의 손실: 1.213710\t정확도: 40.34%\n", + "1\t검증 세트 손실: 1.040467\t최선의 손실: 1.040467\t정확도: 53.13%\n", + "2\t검증 세트 손실: 1.051279\t최선의 손실: 1.040467\t정확도: 56.84%\n", + "3\t검증 세트 손실: 1.018569\t최선의 손실: 1.018569\t정확도: 58.72%\n", + "4\t검증 세트 손실: 1.102116\t최선의 손실: 1.018569\t정확도: 57.86%\n", + "5\t검증 세트 손실: 1.084611\t최선의 손실: 1.018569\t정확도: 57.94%\n", + "6\t검증 세트 손실: 1.040853\t최선의 손실: 1.018569\t정확도: 57.35%\n", + "7\t검증 세트 손실: 1.109267\t최선의 손실: 1.018569\t정확도: 59.46%\n", + "8\t검증 세트 손실: 1.079271\t최선의 손실: 1.018569\t정확도: 55.55%\n", + "9\t검증 세트 손실: 1.078966\t최선의 손실: 1.018569\t정확도: 59.03%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 2.470155\t최선의 손실: 2.470155\t정확도: 53.17%\n", - "1\t검증 세트 손실: 1.038027\t최선의 손실: 1.038027\t정확도: 39.52%\n", - "2\t검증 세트 손실: 1.223830\t최선의 손실: 1.038027\t정확도: 40.30%\n", - "3\t검증 세트 손실: 1.265478\t최선의 손실: 1.038027\t정확도: 40.46%\n", - "4\t검증 세트 손실: 1.612655\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.610910\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.616894\t최선의 손실: 1.038027\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.323521\t최선의 손실: 1.038027\t정확도: 36.12%\n", - "8\t검증 세트 손실: 1.287127\t최선의 손실: 1.038027\t정확도: 41.16%\n", - "9\t검증 세트 손실: 1.299512\t최선의 손실: 1.038027\t정확도: 38.78%\n", - "10\t검증 세트 손실: 1.366036\t최선의 손실: 1.038027\t정확도: 33.82%\n", - "11\t검증 세트 손실: 1.361776\t최선의 손실: 1.038027\t정확도: 34.01%\n", - "12\t검증 세트 손실: 1.373525\t최선의 손실: 1.038027\t정확도: 34.44%\n", - "13\t검증 세트 손실: 1.612909\t최선의 손실: 1.038027\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.609103\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.610241\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.613098\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.615482\t최선의 손실: 1.038027\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.610282\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.609069\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.610653\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.612892\t최선의 손실: 1.038027\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.618638\t최선의 손실: 1.038027\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.340135\t최선의 손실: 1.018569\t정확도: 40.15%\n", + "11\t검증 세트 손실: 1.465686\t최선의 손실: 1.018569\t정확도: 39.37%\n", + "12\t검증 세트 손실: 1.327346\t최선의 손실: 1.018569\t정확도: 41.63%\n", + "13\t검증 세트 손실: 1.330006\t최선의 손실: 1.018569\t정확도: 38.70%\n", + "14\t검증 세트 손실: 1.292963\t최선의 손실: 1.018569\t정확도: 41.83%\n", + "15\t검증 세트 손실: 1.279809\t최선의 손실: 1.018569\t정확도: 38.90%\n", + "16\t검증 세트 손실: 1.264514\t최선의 손실: 1.018569\t정확도: 40.03%\n", + "17\t검증 세트 손실: 1.230843\t최선의 손실: 1.018569\t정확도: 39.05%\n", + "18\t검증 세트 손실: 1.252450\t최선의 손실: 1.018569\t정확도: 41.28%\n", + "19\t검증 세트 손실: 1.222263\t최선의 손실: 1.018569\t정확도: 39.05%\n", + "20\t검증 세트 손실: 1.223824\t최선의 손실: 1.018569\t정확도: 39.60%\n", + "21\t검증 세트 손실: 1.304584\t최선의 손실: 1.018569\t정확도: 37.18%\n", + "22\t검증 세트 손실: 1.277130\t최선의 손실: 1.018569\t정확도: 37.65%\n", + "23\t검증 세트 손실: 1.275005\t최선의 손실: 1.018569\t정확도: 39.72%\n", + "24\t검증 세트 손실: 1.279264\t최선의 손실: 1.018569\t정확도: 39.68%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100, total= 11.4s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100 \n", - "0\t검증 세트 손실: 1.611868\t최선의 손실: 1.611868\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.533358\t최선의 손실: 1.533358\t정확도: 24.12%\n", - "2\t검증 세트 손실: 1.615887\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.622258\t최선의 손실: 1.533358\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.608032\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.610745\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.612949\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.615565\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.609178\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.611432\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.612139\t최선의 손실: 1.533358\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.617146\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.608020\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.614052\t최선의 손실: 1.533358\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.609036\t최선의 손실: 1.533358\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.613213\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.620483\t최선의 손실: 1.533358\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.614961\t최선의 손실: 1.533358\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.608522\t최선의 손실: 1.533358\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.609453\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.617041\t최선의 손실: 1.533358\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.612379\t최선의 손실: 1.533358\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.613450\t최선의 손실: 1.533358\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.05, dropout_rate=0.3, batch_size=50, activation=, total= 12.1s\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.332890\t최선의 손실: 0.332890\t정확도: 92.92%\n", + "1\t검증 세트 손실: 0.320576\t최선의 손실: 0.320576\t정확도: 91.09%\n", + "2\t검증 세트 손실: 0.297622\t최선의 손실: 0.297622\t정확도: 92.57%\n", + "3\t검증 세트 손실: 0.329809\t최선의 손실: 0.297622\t정확도: 91.87%\n", + "4\t검증 세트 손실: 0.395551\t최선의 손실: 0.297622\t정확도: 90.62%\n", + "5\t검증 세트 손실: 0.526458\t최선의 손실: 0.297622\t정확도: 84.64%\n", + "6\t검증 세트 손실: 0.503574\t최선의 손실: 0.297622\t정확도: 84.52%\n", + "7\t검증 세트 손실: 0.495488\t최선의 손실: 0.297622\t정확도: 85.46%\n", + "8\t검증 세트 손실: 0.565263\t최선의 손실: 0.297622\t정확도: 82.02%\n", + "9\t검증 세트 손실: 0.499414\t최선의 손실: 0.297622\t정확도: 88.74%\n", + "10\t검증 세트 손실: 0.469554\t최선의 손실: 0.297622\t정확도: 87.02%\n", + "11\t검증 세트 손실: 0.411537\t최선의 손실: 0.297622\t정확도: 89.87%\n", + "12\t검증 세트 손실: 0.372973\t최선의 손실: 0.297622\t정확도: 92.38%\n", + "13\t검증 세트 손실: 0.425884\t최선의 손실: 0.297622\t정확도: 92.96%\n", + "14\t검증 세트 손실: 1.041344\t최선의 손실: 0.297622\t정확도: 63.72%\n", + "15\t검증 세트 손실: 0.640018\t최선의 손실: 0.297622\t정확도: 78.66%\n", + "16\t검증 세트 손실: 0.760615\t최선의 손실: 0.297622\t정확도: 71.27%\n", + "17\t검증 세트 손실: 0.572473\t최선의 손실: 0.297622\t정확도: 80.69%\n", + "18\t검증 세트 손실: 0.556348\t최선의 손실: 0.297622\t정확도: 80.22%\n", + "19\t검증 세트 손실: 0.514987\t최선의 손실: 0.297622\t정확도: 81.55%\n", + "20\t검증 세트 손실: 0.616148\t최선의 손실: 0.297622\t정확도: 79.40%\n", + "21\t검증 세트 손실: 0.533706\t최선의 손실: 0.297622\t정확도: 83.27%\n", + "22\t검증 세트 손실: 0.582250\t최선의 손실: 0.297622\t정확도: 79.48%\n", + "23\t검증 세트 손실: 0.607171\t최선의 손실: 0.297622\t정확도: 77.87%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=100, total= 11.5s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 0.673108\t최선의 손실: 0.673108\t정확도: 76.66%\n", - "1\t검증 세트 손실: 0.538801\t최선의 손실: 0.538801\t정확도: 85.50%\n", - "2\t검증 세트 손실: 0.636005\t최선의 손실: 0.538801\t정확도: 81.55%\n", - "3\t검증 세트 손실: 0.510097\t최선의 손실: 0.510097\t정확도: 89.52%\n", - "4\t검증 세트 손실: 1.122313\t최선의 손실: 0.510097\t정확도: 50.20%\n", - "5\t검증 세트 손실: 0.956857\t최선의 손실: 0.510097\t정확도: 56.45%\n", - "6\t검증 세트 손실: 1.065535\t최선의 손실: 0.510097\t정확도: 50.51%\n", - "7\t검증 세트 손실: 1.004726\t최선의 손실: 0.510097\t정확도: 53.44%\n", - "8\t검증 세트 손실: 1.143914\t최선의 손실: 0.510097\t정확도: 47.26%\n", - "9\t검증 세트 손실: 1.037079\t최선의 손실: 0.510097\t정확도: 51.49%\n", - "10\t검증 세트 손실: 1.264636\t최선의 손실: 0.510097\t정확도: 37.26%\n", - "11\t검증 세트 손실: 1.212556\t최선의 손실: 0.510097\t정확도: 39.91%\n", - "12\t검증 세트 손실: 1.180032\t최선의 손실: 0.510097\t정확도: 39.87%\n", - "13\t검증 세트 손실: 1.198402\t최선의 손실: 0.510097\t정확도: 39.80%\n", - "14\t검증 세트 손실: 1.273570\t최선의 손실: 0.510097\t정확도: 37.14%\n", - "15\t검증 세트 손실: 1.283038\t최선의 손실: 0.510097\t정확도: 36.43%\n", - "16\t검증 세트 손실: 1.231716\t최선의 손실: 0.510097\t정확도: 38.86%\n", - "17\t검증 세트 손실: 1.224527\t최선의 손실: 0.510097\t정확도: 38.23%\n", - "18\t검증 세트 손실: 1.255184\t최선의 손실: 0.510097\t정확도: 37.22%\n", - "19\t검증 세트 손실: 1.210156\t최선의 손실: 0.510097\t정확도: 39.41%\n", - "20\t검증 세트 손실: 1.196908\t최선의 손실: 0.510097\t정확도: 41.56%\n", - "21\t검증 세트 손실: 1.184372\t최선의 손실: 0.510097\t정확도: 39.87%\n", - "22\t검증 세트 손실: 1.208355\t최선의 손실: 0.510097\t정확도: 39.84%\n", - "23\t검증 세트 손실: 1.280525\t최선의 손실: 0.510097\t정확도: 36.79%\n", - "24\t검증 세트 손실: 1.194320\t최선의 손실: 0.510097\t정확도: 39.64%\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation=, total= 11.9s\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.528719\t최선의 손실: 0.528719\t정확도: 82.21%\n", + "1\t검증 세트 손실: 0.552183\t최선의 손실: 0.528719\t정확도: 81.51%\n", + "2\t검증 세트 손실: 0.408760\t최선의 손실: 0.408760\t정확도: 89.84%\n", + "3\t검증 세트 손실: 0.411317\t최선의 손실: 0.408760\t정확도: 89.68%\n", + "4\t검증 세트 손실: 0.615067\t최선의 손실: 0.408760\t정확도: 87.29%\n", + "5\t검증 세트 손실: 0.528208\t최선의 손실: 0.408760\t정확도: 87.61%\n", + "6\t검증 세트 손실: 0.810429\t최선의 손실: 0.408760\t정확도: 71.50%\n", + "7\t검증 세트 손실: 1.072478\t최선의 손실: 0.408760\t정확도: 54.85%\n", + "8\t검증 세트 손실: 1.033486\t최선의 손실: 0.408760\t정확도: 54.81%\n", + "9\t검증 세트 손실: 0.960410\t최선의 손실: 0.408760\t정확도: 57.08%\n", + "10\t검증 세트 손실: 1.039642\t최선의 손실: 0.408760\t정확도: 50.82%\n", + "11\t검증 세트 손실: 1.005060\t최선의 손실: 0.408760\t정확도: 51.68%\n", + "12\t검증 세트 손실: 1.217744\t최선의 손실: 0.408760\t정확도: 42.18%\n", + "13\t검증 세트 손실: 1.055991\t최선의 손실: 0.408760\t정확도: 47.58%\n", + "14\t검증 세트 손실: 0.918688\t최선의 손실: 0.408760\t정확도: 55.75%\n", + "15\t검증 세트 손실: 0.924492\t최선의 손실: 0.408760\t정확도: 53.99%\n", + "16\t검증 세트 손실: 0.984114\t최선의 손실: 0.408760\t정확도: 53.83%\n", + "17\t검증 세트 손실: 0.959551\t최선의 손실: 0.408760\t정확도: 48.79%\n", + "18\t검증 세트 손실: 1.265056\t최선의 손실: 0.408760\t정확도: 41.83%\n", + "19\t검증 세트 손실: 0.952815\t최선의 손실: 0.408760\t정확도: 55.47%\n", + "20\t검증 세트 손실: 1.204801\t최선의 손실: 0.408760\t정확도: 42.18%\n", + "21\t검증 세트 손실: 1.213900\t최선의 손실: 0.408760\t정확도: 42.42%\n", + "22\t검증 세트 손실: 1.217603\t최선의 손실: 0.408760\t정확도: 42.14%\n", + "23\t검증 세트 손실: 1.208784\t최선의 손실: 0.408760\t정확도: 42.10%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140, total= 12.5s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 0.772444\t최선의 손실: 0.772444\t정확도: 73.65%\n", - "1\t검증 세트 손실: 0.555194\t최선의 손실: 0.555194\t정확도: 84.40%\n", - "2\t검증 세트 손실: 0.529470\t최선의 손실: 0.529470\t정확도: 88.47%\n", - "3\t검증 세트 손실: 0.581944\t최선의 손실: 0.529470\t정확도: 84.44%\n", - "4\t검증 세트 손실: 0.542961\t최선의 손실: 0.529470\t정확도: 85.26%\n", - "5\t검증 세트 손실: 0.615791\t최선의 손실: 0.529470\t정확도: 72.75%\n", - "6\t검증 세트 손실: 0.728394\t최선의 손실: 0.529470\t정확도: 74.51%\n", - "7\t검증 세트 손실: 0.736235\t최선의 손실: 0.529470\t정확도: 73.06%\n", - "8\t검증 세트 손실: 0.805739\t최선의 손실: 0.529470\t정확도: 70.80%\n", - "9\t검증 세트 손실: 0.701817\t최선의 손실: 0.529470\t정확도: 74.08%\n", - "10\t검증 세트 손실: 1.084178\t최선의 손실: 0.529470\t정확도: 51.33%\n", - "11\t검증 세트 손실: 0.988946\t최선의 손실: 0.529470\t정확도: 55.67%\n", - "12\t검증 세트 손실: 1.134560\t최선의 손실: 0.529470\t정확도: 49.88%\n", - "13\t검증 세트 손실: 1.079072\t최선의 손실: 0.529470\t정확도: 54.10%\n", - "14\t검증 세트 손실: 1.284150\t최선의 손실: 0.529470\t정확도: 39.72%\n", - "15\t검증 세트 손실: 1.260742\t최선의 손실: 0.529470\t정확도: 40.11%\n", - "16\t검증 세트 손실: 1.292715\t최선의 손실: 0.529470\t정확도: 39.52%\n", - "17\t검증 세트 손실: 1.411833\t최선의 손실: 0.529470\t정확도: 33.89%\n", - "18\t검증 세트 손실: 1.287164\t최선의 손실: 0.529470\t정확도: 38.86%\n", - "19\t검증 세트 손실: 1.287186\t최선의 손실: 0.529470\t정확도: 38.04%\n", - "20\t검증 세트 손실: 1.238894\t최선의 손실: 0.529470\t정확도: 39.84%\n", - "21\t검증 세트 손실: 1.237102\t최선의 손실: 0.529470\t정확도: 39.80%\n", - "22\t검증 세트 손실: 1.249358\t최선의 손실: 0.529470\t정확도: 39.99%\n", - "23\t검증 세트 손실: 1.239751\t최선의 손실: 0.529470\t정확도: 39.87%\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation=, total= 11.8s\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.582652\t최선의 손실: 0.582652\t정확도: 86.98%\n", + "1\t검증 세트 손실: 0.548635\t최선의 손실: 0.548635\t정확도: 90.50%\n", + "2\t검증 세트 손실: 0.539504\t최선의 손실: 0.539504\t정확도: 88.00%\n", + "3\t검증 세트 손실: 0.480030\t최선의 손실: 0.480030\t정확도: 88.15%\n", + "4\t검증 세트 손실: 0.514389\t최선의 손실: 0.480030\t정확도: 84.64%\n", + "5\t검증 세트 손실: 0.482083\t최선의 손실: 0.480030\t정확도: 89.80%\n", + "6\t검증 세트 손실: 1.016817\t최선의 손실: 0.480030\t정확도: 52.50%\n", + "7\t검증 세트 손실: 1.553610\t최선의 손실: 0.480030\t정확도: 27.33%\n", + "8\t검증 세트 손실: 1.229247\t최선의 손실: 0.480030\t정확도: 39.72%\n", + "9\t검증 세트 손실: 1.252562\t최선의 손실: 0.480030\t정확도: 38.19%\n", + "10\t검증 세트 손실: 1.236376\t최선의 손실: 0.480030\t정확도: 39.01%\n", + "11\t검증 세트 손실: 1.210225\t최선의 손실: 0.480030\t정확도: 39.48%\n", + "12\t검증 세트 손실: 1.233053\t최선의 손실: 0.480030\t정확도: 38.27%\n", + "13\t검증 세트 손실: 1.230569\t최선의 손실: 0.480030\t정확도: 39.25%\n", + "14\t검증 세트 손실: 1.199551\t최선의 손실: 0.480030\t정확도: 41.36%\n", + "15\t검증 세트 손실: 1.185045\t최선의 손실: 0.480030\t정확도: 40.03%\n", + "16\t검증 세트 손실: 1.175221\t최선의 손실: 0.480030\t정확도: 39.87%\n", + "17\t검증 세트 손실: 1.181665\t최선의 손실: 0.480030\t정확도: 39.91%\n", + "18\t검증 세트 손실: 1.178385\t최선의 손실: 0.480030\t정확도: 40.15%\n", + "19\t검증 세트 손실: 1.186929\t최선의 손실: 0.480030\t정확도: 39.87%\n", + "20\t검증 세트 손실: 1.204030\t최선의 손실: 0.480030\t정확도: 39.64%\n", + "21\t검증 세트 손실: 1.202269\t최선의 손실: 0.480030\t정확도: 39.05%\n", + "22\t검증 세트 손실: 1.200998\t최선의 손실: 0.480030\t정확도: 39.48%\n", + "23\t검증 세트 손실: 1.221004\t최선의 손실: 0.480030\t정확도: 38.66%\n", + "24\t검증 세트 손실: 1.189771\t최선의 손실: 0.480030\t정확도: 39.72%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140, total= 12.1s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 0.952892\t최선의 손실: 0.952892\t정확도: 58.37%\n", - "1\t검증 세트 손실: 0.650496\t최선의 손실: 0.650496\t정확도: 72.01%\n", - "2\t검증 세트 손실: 0.572504\t최선의 손실: 0.572504\t정확도: 74.28%\n", - "3\t검증 세트 손실: 0.571712\t최선의 손실: 0.571712\t정확도: 75.57%\n", - "4\t검증 세트 손실: 0.974680\t최선의 손실: 0.571712\t정확도: 54.10%\n", - "5\t검증 세트 손실: 1.192194\t최선의 손실: 0.571712\t정확도: 43.16%\n", - "6\t검증 세트 손실: 1.222247\t최선의 손실: 0.571712\t정확도: 39.13%\n", - "7\t검증 세트 손실: 1.514921\t최선의 손실: 0.571712\t정확도: 27.40%\n", - "8\t검증 세트 손실: 1.231929\t최선의 손실: 0.571712\t정확도: 39.41%\n", - "9\t검증 세트 손실: 1.195793\t최선의 손실: 0.571712\t정확도: 39.33%\n", - "10\t검증 세트 손실: 1.194821\t최선의 손실: 0.571712\t정확도: 40.11%\n", - "11\t검증 세트 손실: 1.637787\t최선의 손실: 0.571712\t정확도: 23.14%\n", - "12\t검증 세트 손실: 1.253844\t최선의 손실: 0.571712\t정확도: 37.69%\n", - "13\t검증 세트 손실: 1.189251\t최선의 손실: 0.571712\t정확도: 40.03%\n", - "14\t검증 세트 손실: 1.174033\t최선의 손실: 0.571712\t정확도: 41.83%\n", - "15\t검증 세트 손실: 1.162280\t최선의 손실: 0.571712\t정확도: 40.38%\n", - "16\t검증 세트 손실: 1.185028\t최선의 손실: 0.571712\t정확도: 39.56%\n", - "17\t검증 세트 손실: 1.226666\t최선의 손실: 0.571712\t정확도: 38.15%\n", - "18\t검증 세트 손실: 1.327712\t최선의 손실: 0.571712\t정확도: 35.11%\n", - "19\t검증 세트 손실: 1.191002\t최선의 손실: 0.571712\t정확도: 40.23%\n", - "20\t검증 세트 손실: 1.354764\t최선의 손실: 0.571712\t정확도: 34.09%\n", - "21\t검증 세트 손실: 1.225404\t최선의 손실: 0.571712\t정확도: 38.43%\n", - "22\t검증 세트 손실: 1.232350\t최선의 손실: 0.571712\t정확도: 38.70%\n", - "23\t검증 세트 손실: 1.249472\t최선의 손실: 0.571712\t정확도: 37.53%\n", - "24\t검증 세트 손실: 1.249523\t최선의 손실: 0.571712\t정확도: 38.00%\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.6, batch_size=50, activation=, total= 12.2s\n", + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.634197\t최선의 손실: 1.634197\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.725944\t최선의 손실: 1.634197\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.639765\t최선의 손실: 1.634197\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.769322\t최선의 손실: 1.634197\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.665244\t최선의 손실: 1.634197\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.648890\t최선의 손실: 1.634197\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.647600\t최선의 손실: 1.634197\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.694275\t최선의 손실: 1.634197\t정확도: 20.91%\n", + "8\t검증 세트 손실: 1.765620\t최선의 손실: 1.634197\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.647181\t최선의 손실: 1.634197\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.651725\t최선의 손실: 1.634197\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.674298\t최선의 손실: 1.634197\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.678976\t최선의 손실: 1.634197\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.624259\t최선의 손실: 1.624259\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.683285\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.626068\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.644308\t최선의 손실: 1.624259\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.634043\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "18\t검증 세트 손실: 1.703699\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.736001\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.631937\t최선의 손실: 1.624259\t정확도: 18.73%\n", + "21\t검증 세트 손실: 1.630723\t최선의 손실: 1.624259\t정확도: 20.91%\n", + "22\t검증 세트 손실: 1.682133\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.628554\t최선의 손실: 1.624259\t정확도: 20.91%\n", + "24\t검증 세트 손실: 1.677354\t최선의 손실: 1.624259\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.751573\t최선의 손실: 1.624259\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.667309\t최선의 손실: 1.624259\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.666600\t최선의 손실: 1.624259\t정확도: 18.73%\n", + "28\t검증 세트 손실: 1.642522\t최선의 손실: 1.624259\t정확도: 20.91%\n", + "29\t검증 세트 손실: 1.614266\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "30\t검증 세트 손실: 1.643377\t최선의 손실: 1.614266\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.634239\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.649668\t최선의 손실: 1.614266\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.737372\t최선의 손실: 1.614266\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.639283\t최선의 손실: 1.614266\t정확도: 19.08%\n", + "35\t검증 세트 손실: 1.721840\t최선의 손실: 1.614266\t정확도: 19.08%\n", + "36\t검증 세트 손실: 1.801957\t최선의 손실: 1.614266\t정확도: 19.08%\n", + "37\t검증 세트 손실: 1.634466\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "38\t검증 세트 손실: 1.644387\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "39\t검증 세트 손실: 1.678742\t최선의 손실: 1.614266\t정확도: 18.73%\n", + "40\t검증 세트 손실: 1.754068\t최선의 손실: 1.614266\t정확도: 19.08%\n", + "41\t검증 세트 손실: 1.705858\t최선의 손실: 1.614266\t정확도: 20.91%\n", + "42\t검증 세트 손실: 1.661835\t최선의 손실: 1.614266\t정확도: 19.08%\n", + "43\t검증 세트 손실: 1.626194\t최선의 손실: 1.614266\t정확도: 19.27%\n", + "44\t검증 세트 손실: 1.724455\t최선의 손실: 1.614266\t정확도: 18.73%\n", + "45\t검증 세트 손실: 1.619237\t최선의 손실: 1.614266\t정확도: 20.91%\n", + "46\t검증 세트 손실: 1.728544\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "47\t검증 세트 손실: 1.661591\t최선의 손실: 1.614266\t정확도: 19.27%\n", + "48\t검증 세트 손실: 1.709214\t최선의 손실: 1.614266\t정확도: 19.27%\n", + "49\t검증 세트 손실: 1.702567\t최선의 손실: 1.614266\t정확도: 22.01%\n", + "50\t검증 세트 손실: 1.723988\t최선의 손실: 1.614266\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=140, total= 12.5s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.611268\t최선의 손실: 1.611268\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.693916\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.641053\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.679520\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.650549\t최선의 손실: 1.611268\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.645451\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.637692\t최선의 손실: 1.611268\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.620979\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.644779\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.651834\t최선의 손실: 1.611268\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.618847\t최선의 손실: 1.611268\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.662808\t최선의 손실: 1.611268\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.660038\t최선의 손실: 1.611268\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.621496\t최선의 손실: 1.611268\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.783087\t최선의 손실: 1.611268\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.656372\t최선의 손실: 1.611268\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.625889\t최선의 손실: 1.611268\t정확도: 18.73%\n" + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 1.8min\n", + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "17\t검증 세트 손실: 1.635978\t최선의 손실: 1.611268\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.660423\t최선의 손실: 1.611268\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.646394\t최선의 손실: 1.611268\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.642969\t최선의 손실: 1.611268\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.649452\t최선의 손실: 1.611268\t정확도: 22.01%\n", + "0\t검증 세트 손실: 1.672658\t최선의 손실: 1.672658\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.615727\t최선의 손실: 1.615727\t정확도: 18.73%\n", + "2\t검증 세트 손실: 1.687205\t최선의 손실: 1.615727\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.668382\t최선의 손실: 1.615727\t정확도: 19.08%\n", + "4\t검증 세트 손실: 1.669663\t최선의 손실: 1.615727\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.644774\t최선의 손실: 1.615727\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.640463\t최선의 손실: 1.615727\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.692755\t최선의 손실: 1.615727\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.710606\t최선의 손실: 1.615727\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.666644\t최선의 손실: 1.615727\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.681296\t최선의 손실: 1.615727\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.688518\t최선의 손실: 1.615727\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1.651925\t최선의 손실: 1.615727\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.628827\t최선의 손실: 1.615727\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.851425\t최선의 손실: 1.615727\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.731291\t최선의 손실: 1.615727\t정확도: 18.73%\n", + "16\t검증 세트 손실: 1.663132\t최선의 손실: 1.615727\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.703214\t최선의 손실: 1.615727\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.701524\t최선의 손실: 1.615727\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.776709\t최선의 손실: 1.615727\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.628259\t최선의 손실: 1.615727\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.653524\t최선의 손실: 1.615727\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.615240\t최선의 손실: 1.615240\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.664309\t최선의 손실: 1.615240\t정확도: 18.73%\n", + "24\t검증 세트 손실: 1.659671\t최선의 손실: 1.615240\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.707408\t최선의 손실: 1.615240\t정확도: 18.73%\n", + "26\t검증 세트 손실: 1.686306\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.653929\t최선의 손실: 1.615240\t정확도: 22.01%\n", + "28\t검증 세트 손실: 1.718722\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.695848\t최선의 손실: 1.615240\t정확도: 20.91%\n", + "30\t검증 세트 손실: 1.661249\t최선의 손실: 1.615240\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.668174\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "32\t검증 세트 손실: 1.808068\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "33\t검증 세트 손실: 1.616403\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "34\t검증 세트 손실: 1.668005\t최선의 손실: 1.615240\t정확도: 22.01%\n", + "35\t검증 세트 손실: 1.707754\t최선의 손실: 1.615240\t정확도: 20.91%\n", + "36\t검증 세트 손실: 1.640930\t최선의 손실: 1.615240\t정확도: 22.01%\n", + "37\t검증 세트 손실: 1.713951\t최선의 손실: 1.615240\t정확도: 19.08%\n", + "38\t검증 세트 손실: 1.670916\t최선의 손실: 1.615240\t정확도: 20.91%\n", + "39\t검증 세트 손실: 1.638455\t최선의 손실: 1.615240\t정확도: 19.27%\n", + "40\t검증 세트 손실: 1.727888\t최선의 손실: 1.615240\t정확도: 18.73%\n", + "41\t검증 세트 손실: 1.841387\t최선의 손실: 1.615240\t정확도: 19.27%\n", + "42\t검증 세트 손실: 1.651694\t최선의 손실: 1.615240\t정확도: 20.91%\n", + "43\t검증 세트 손실: 1.676466\t최선의 손실: 1.615240\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30, total= 48.4s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.668068\t최선의 손실: 1.668068\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.618436\t최선의 손실: 1.618436\t정확도: 20.91%\n", - "2\t검증 세트 손실: 1.681890\t최선의 손실: 1.618436\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.690600\t최선의 손실: 1.618436\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.687662\t최선의 손실: 1.618436\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.676370\t최선의 손실: 1.618436\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.677379\t최선의 손실: 1.618436\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.650600\t최선의 손실: 1.618436\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.719023\t최선의 손실: 1.618436\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.648692\t최선의 손실: 1.618436\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.671177\t최선의 손실: 1.618436\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.695474\t최선의 손실: 1.618436\t정확도: 20.91%\n", - "12\t검증 세트 손실: 1.671332\t최선의 손실: 1.618436\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.651847\t최선의 손실: 1.618436\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.881861\t최선의 손실: 1.618436\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.769463\t최선의 손실: 1.618436\t정확도: 19.27%\n", - "16\t검증 세트 손실: 1.612641\t최선의 손실: 1.612641\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.649053\t최선의 손실: 1.612641\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.626177\t최선의 손실: 1.612641\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.614903\t최선의 손실: 1.612641\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.617448\t최선의 손실: 1.612641\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.660501\t최선의 손실: 1.612641\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.640868\t최선의 손실: 1.612641\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.696057\t최선의 손실: 1.612641\t정확도: 22.01%\n", - "24\t검증 세트 손실: 2.890901\t최선의 손실: 1.612641\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.705407\t최선의 손실: 1.612641\t정확도: 18.73%\n", - "26\t검증 세트 손실: 1.676645\t최선의 손실: 1.612641\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.612305\t최선의 손실: 1.612305\t정확도: 22.01%\n", - "28\t검증 세트 손실: 1.661815\t최선의 손실: 1.612305\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.698772\t최선의 손실: 1.612305\t정확도: 22.01%\n", - "30\t검증 세트 손실: 1.619362\t최선의 손실: 1.612305\t정확도: 18.73%\n", - "31\t검증 세트 손실: 1.663035\t최선의 손실: 1.612305\t정확도: 19.08%\n", - "32\t검증 세트 손실: 1.788459\t최선의 손실: 1.612305\t정확도: 19.08%\n", - "33\t검증 세트 손실: 1.615520\t최선의 손실: 1.612305\t정확도: 19.08%\n", - "34\t검증 세트 손실: 1.675166\t최선의 손실: 1.612305\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.669426\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "36\t검증 세트 손실: 1.711804\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "37\t검증 세트 손실: 1.661949\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "38\t검증 세트 손실: 1.668036\t최선의 손실: 1.612305\t정확도: 18.73%\n", - "39\t검증 세트 손실: 1.654900\t최선의 손실: 1.612305\t정확도: 19.27%\n", - "40\t검증 세트 손실: 1.715632\t최선의 손실: 1.612305\t정확도: 18.73%\n", - "41\t검증 세트 손실: 1.791241\t최선의 손실: 1.612305\t정확도: 22.01%\n", - "42\t검증 세트 손실: 1.648479\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "43\t검증 세트 손실: 1.672577\t최선의 손실: 1.612305\t정확도: 18.73%\n", - "44\t검증 세트 손실: 1.670219\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "45\t검증 세트 손실: 1.638567\t최선의 손실: 1.612305\t정확도: 20.91%\n", - "46\t검증 세트 손실: 1.680690\t최선의 손실: 1.612305\t정확도: 19.27%\n", - "47\t검증 세트 손실: 1.643035\t최선의 손실: 1.612305\t정확도: 18.73%\n", - "48\t검증 세트 손실: 1.680250\t최선의 손실: 1.612305\t정확도: 18.73%\n", + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 1.6min\n", + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.620865\t최선의 손실: 1.620865\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.654712\t최선의 손실: 1.620865\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.622560\t최선의 손실: 1.620865\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.654546\t최선의 손실: 1.620865\t정확도: 19.08%\n", + "4\t검증 세트 손실: 1.743799\t최선의 손실: 1.620865\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.675930\t최선의 손실: 1.620865\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.670153\t최선의 손실: 1.620865\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.629961\t최선의 손실: 1.620865\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.684818\t최선의 손실: 1.620865\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.661702\t최선의 손실: 1.620865\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.635878\t최선의 손실: 1.620865\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.675910\t최선의 손실: 1.620865\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.772238\t최선의 손실: 1.620865\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.678675\t최선의 손실: 1.620865\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.854654\t최선의 손실: 1.620865\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.627294\t최선의 손실: 1.620865\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.773376\t최선의 손실: 1.620865\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.623731\t최선의 손실: 1.620865\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.637682\t최선의 손실: 1.620865\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.623880\t최선의 손실: 1.620865\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.637931\t최선의 손실: 1.620865\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.657586\t최선의 손실: 1.620865\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30, total= 1.8min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.625598\t최선의 손실: 1.625598\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.644973\t최선의 손실: 1.625598\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.618949\t최선의 손실: 1.618949\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.614267\t최선의 손실: 1.614267\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.626944\t최선의 손실: 1.614267\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.677145\t최선의 손실: 1.614267\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.668343\t최선의 손실: 1.614267\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.145596\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.617523\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.623721\t최선의 손실: 1.614267\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.630333\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.639285\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.666674\t최선의 손실: 1.614267\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.671474\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.806768\t최선의 손실: 1.614267\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.632006\t최선의 손실: 1.614267\t정확도: 22.01%\n", - "16\t검증 세트 손실: 2.012752\t최선의 손실: 1.614267\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.611605\t최선의 손실: 1.611605\t정확도: 20.91%\n", - "18\t검증 세트 손실: 4.140465\t최선의 손실: 1.611605\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.616321\t최선의 손실: 1.611605\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.610011\t최선의 손실: 1.610011\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.678869\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.631338\t최선의 손실: 1.610011\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.630972\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.744445\t최선의 손실: 1.610011\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.612460\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.614693\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.722808\t최선의 손실: 1.610011\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.631027\t최선의 손실: 1.610011\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.681753\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "30\t검증 세트 손실: 1.630410\t최선의 손실: 1.610011\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.685849\t최선의 손실: 1.610011\t정확도: 18.73%\n", - "32\t검증 세트 손실: 1.672644\t최선의 손실: 1.610011\t정확도: 19.27%\n", - "33\t검증 세트 손실: 1.653108\t최선의 손실: 1.610011\t정확도: 19.27%\n", - "34\t검증 세트 손실: 1.647830\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.679805\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "36\t검증 세트 손실: 1.665610\t최선의 손실: 1.610011\t정확도: 18.73%\n", - "37\t검증 세트 손실: 1.708641\t최선의 손실: 1.610011\t정확도: 19.08%\n", - "38\t검증 세트 손실: 1.630365\t최선의 손실: 1.610011\t정확도: 22.01%\n", - "39\t검증 세트 손실: 1.648704\t최선의 손실: 1.610011\t정확도: 19.27%\n", - "40\t검증 세트 손실: 1.691851\t최선의 손실: 1.610011\t정확도: 19.08%\n", - "41\t검증 세트 손실: 1.721025\t최선의 손실: 1.610011\t정확도: 18.73%\n", + "[CV] n_neurons=30, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 48.4s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.199300\t최선의 손실: 0.199300\t정확도: 95.23%\n", + "1\t검증 세트 손실: 1.628554\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.823127\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.777412\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.967841\t최선의 손실: 0.199300\t정확도: 18.73%\n", + "5\t검증 세트 손실: 1.653750\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.704228\t최선의 손실: 0.199300\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.747140\t최선의 손실: 0.199300\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.788202\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.887592\t최선의 손실: 0.199300\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.721020\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.891404\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.645515\t최선의 손실: 0.199300\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.886594\t최선의 손실: 0.199300\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.781974\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.674227\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.782492\t최선의 손실: 0.199300\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.643068\t최선의 손실: 0.199300\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.683768\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "19\t검증 세트 손실: 1.691296\t최선의 손실: 0.199300\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.676321\t최선의 손실: 0.199300\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.827284\t최선의 손실: 0.199300\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=30, total= 1.5min\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 0.184701\t최선의 손실: 0.184701\t정확도: 94.14%\n", - "1\t검증 세트 손실: 1.662242\t최선의 손실: 0.184701\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.866325\t최선의 손실: 0.184701\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.774166\t최선의 손실: 0.184701\t정확도: 19.39%\n", - "4\t검증 세트 손실: 1.956289\t최선의 손실: 0.184701\t정확도: 18.73%\n", - "5\t검증 세트 손실: 1.639598\t최선의 손실: 0.184701\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.705936\t최선의 손실: 0.184701\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.752148\t최선의 손실: 0.184701\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.783030\t최선의 손실: 0.184701\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.890967\t최선의 손실: 0.184701\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.723646\t최선의 손실: 0.184701\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.885967\t최선의 손실: 0.184701\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.646619\t최선의 손실: 0.184701\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.883753\t최선의 손실: 0.184701\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.776162\t최선의 손실: 0.184701\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.676282\t최선의 손실: 0.184701\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.791427\t최선의 손실: 0.184701\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.642619\t최선의 손실: 0.184701\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.684228\t최선의 손실: 0.184701\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.689974\t최선의 손실: 0.184701\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.675498\t최선의 손실: 0.184701\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.825737\t최선의 손실: 0.184701\t정확도: 19.27%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 11.2s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.467424\t최선의 손실: 1.467424\t정확도: 47.93%\n", + "1\t검증 세트 손실: 1.638570\t최선의 손실: 1.467424\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.652279\t최선의 손실: 1.467424\t정확도: 20.91%\n", + "3\t검증 세트 손실: 1.680642\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.675668\t최선의 손실: 1.467424\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.753603\t최선의 손실: 1.467424\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.644784\t최선의 손실: 1.467424\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.792928\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.834090\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.686267\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "10\t검증 세트 손실: 1.723433\t최선의 손실: 1.467424\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.685785\t최선의 손실: 1.467424\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.900223\t최선의 손실: 1.467424\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.665578\t최선의 손실: 1.467424\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.629275\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.820479\t최선의 손실: 1.467424\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.660734\t최선의 손실: 1.467424\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.644537\t최선의 손실: 1.467424\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.633888\t최선의 손실: 1.467424\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.703066\t최선의 손실: 1.467424\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.684481\t최선의 손실: 1.467424\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.729433\t최선의 손실: 1.467424\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140, total= 11.2s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 0.533132\t최선의 손실: 0.533132\t정확도: 76.00%\n", - "1\t검증 세트 손실: 1.639761\t최선의 손실: 0.533132\t정확도: 20.91%\n", - "2\t검증 세트 손실: 1.683448\t최선의 손실: 0.533132\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.666609\t최선의 손실: 0.533132\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.677254\t최선의 손실: 0.533132\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.752475\t최선의 손실: 0.533132\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.663035\t최선의 손실: 0.533132\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.795001\t최선의 손실: 0.533132\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.839021\t최선의 손실: 0.533132\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.694574\t최선의 손실: 0.533132\t정확도: 18.73%\n", - "10\t검증 세트 손실: 1.664454\t최선의 손실: 0.533132\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.686914\t최선의 손실: 0.533132\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.879839\t최선의 손실: 0.533132\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.671734\t최선의 손실: 0.533132\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.637147\t최선의 손실: 0.533132\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.852155\t최선의 손실: 0.533132\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.666892\t최선의 손실: 0.533132\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.675425\t최선의 손실: 0.533132\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.659477\t최선의 손실: 0.533132\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.695333\t최선의 손실: 0.533132\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.699587\t최선의 손실: 0.533132\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.753036\t최선의 손실: 0.533132\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 11.0s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation= \n", + "0\t검증 세트 손실: 1.964591\t최선의 손실: 1.964591\t정확도: 20.60%\n", + "1\t검증 세트 손실: 1.694454\t최선의 손실: 1.694454\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.798659\t최선의 손실: 1.694454\t정확도: 20.91%\n", + "3\t검증 세트 손실: 1.674509\t최선의 손실: 1.674509\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.774212\t최선의 손실: 1.674509\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.796046\t최선의 손실: 1.674509\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.632561\t최선의 손실: 1.632561\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.636135\t최선의 손실: 1.632561\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.707529\t최선의 손실: 1.632561\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.914689\t최선의 손실: 1.632561\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.616635\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.753504\t최선의 손실: 1.616635\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.983337\t최선의 손실: 1.616635\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.630262\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.740427\t최선의 손실: 1.616635\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.653223\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.623564\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.674729\t최선의 손실: 1.616635\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.642097\t최선의 손실: 1.616635\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.723037\t최선의 손실: 1.616635\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1.720467\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.819376\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.641212\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.674517\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.722173\t최선의 손실: 1.616635\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.668164\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "26\t검증 세트 손실: 1.677070\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "27\t검증 세트 손실: 1.873932\t최선의 손실: 1.616635\t정확도: 22.01%\n", + "28\t검증 세트 손실: 1.685769\t최선의 손실: 1.616635\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.682792\t최선의 손실: 1.616635\t정확도: 20.91%\n", + "30\t검증 세트 손실: 1.841849\t최선의 손실: 1.616635\t정확도: 20.91%\n", + "31\t검증 세트 손실: 1.889153\t최선의 손실: 1.616635\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140, total= 11.1s\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140 \n" + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.3, batch_size=50, activation=, total= 15.7s\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.365887\t최선의 손실: 0.365887\t정확도: 90.15%\n", - "1\t검증 세트 손실: 1.710880\t최선의 손실: 0.365887\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.814394\t최선의 손실: 0.365887\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.671085\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.776044\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.803235\t최선의 손실: 0.365887\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.631146\t최선의 손실: 0.365887\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.645681\t최선의 손실: 0.365887\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.716405\t최선의 손실: 0.365887\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.922274\t최선의 손실: 0.365887\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.630333\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.788273\t최선의 손실: 0.365887\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.977602\t최선의 손실: 0.365887\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.637210\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.732367\t최선의 손실: 0.365887\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.659367\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.622509\t최선의 손실: 0.365887\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.663513\t최선의 손실: 0.365887\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.646249\t최선의 손실: 0.365887\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.728003\t최선의 손실: 0.365887\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.723647\t최선의 손실: 0.365887\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.828580\t최선의 손실: 0.365887\t정확도: 22.01%\n", + "0\t검증 세트 손실: 1.763081\t최선의 손실: 1.763081\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.630375\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.705101\t최선의 손실: 1.630375\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.640766\t최선의 손실: 1.630375\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.666837\t최선의 손실: 1.630375\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.774408\t최선의 손실: 1.630375\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.860067\t최선의 손실: 1.630375\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.811001\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.871415\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.918948\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.800119\t최선의 손실: 1.630375\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.894043\t최선의 손실: 1.630375\t정확도: 20.91%\n", + "12\t검증 세트 손실: 2.333079\t최선의 손실: 1.630375\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.733183\t최선의 손실: 1.630375\t정확도: 20.91%\n", + "14\t검증 세트 손실: 1.731837\t최선의 손실: 1.630375\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.955648\t최선의 손실: 1.630375\t정확도: 18.73%\n", + "16\t검증 세트 손실: 1.684465\t최선의 손실: 1.630375\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.681691\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.757799\t최선의 손실: 1.630375\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.655475\t최선의 손실: 1.630375\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.941300\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.788639\t최선의 손실: 1.630375\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.846454\t최선의 손실: 1.630375\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.3, learning_rate=0.02, activation=, n_neurons=140, total= 11.2s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120 \n", - "0\t검증 세트 손실: 1.769146\t최선의 손실: 1.769146\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.646795\t최선의 손실: 1.646795\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.634111\t최선의 손실: 1.634111\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.647388\t최선의 손실: 1.634111\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.763482\t최선의 손실: 1.634111\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.702955\t최선의 손실: 1.634111\t정확도: 19.08%\n", - "6\t검증 세트 손실: 1.756540\t최선의 손실: 1.634111\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.722197\t최선의 손실: 1.634111\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.882248\t최선의 손실: 1.634111\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.698307\t최선의 손실: 1.634111\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.719433\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.808306\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "12\t검증 세트 손실: 2.161842\t최선의 손실: 1.634111\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.706246\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "14\t검증 세트 손실: 1.716986\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.872774\t최선의 손실: 1.634111\t정확도: 18.73%\n", - "16\t검증 세트 손실: 1.830296\t최선의 손실: 1.634111\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.781064\t최선의 손실: 1.634111\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.867060\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.662108\t최선의 손실: 1.634111\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.828079\t최선의 손실: 1.634111\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.777346\t최선의 손실: 1.634111\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.827889\t최선의 손실: 1.634111\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.911451\t최선의 손실: 1.634111\t정확도: 22.01%\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 6.3s\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.630746\t최선의 손실: 1.630746\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.652790\t최선의 손실: 1.630746\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.663854\t최선의 손실: 1.630746\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.622764\t최선의 손실: 1.622764\t정확도: 20.91%\n", + "4\t검증 세트 손실: 1.642166\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.666597\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.664359\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.799396\t최선의 손실: 1.622764\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.891991\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.837562\t최선의 손실: 1.622764\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.735901\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.693735\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.643591\t최선의 손실: 1.622764\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.662365\t최선의 손실: 1.622764\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.816635\t최선의 손실: 1.622764\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.754098\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.731830\t최선의 손실: 1.622764\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.718569\t최선의 손실: 1.622764\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.739552\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.838990\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.733799\t최선의 손실: 1.622764\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.871503\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.829618\t최선의 손실: 1.622764\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.675251\t최선의 손실: 1.622764\t정확도: 22.01%\n", + "24\t검증 세트 손실: 2.481349\t최선의 손실: 1.622764\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120, total= 6.5s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120 \n", - "0\t검증 세트 손실: 1.891222\t최선의 손실: 1.891222\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.846709\t최선의 손실: 1.846709\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.777825\t최선의 손실: 1.777825\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.839988\t최선의 손실: 1.777825\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.658626\t최선의 손실: 1.658626\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.680114\t최선의 손실: 1.658626\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.688877\t최선의 손실: 1.658626\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.017681\t최선의 손실: 1.658626\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.711785\t최선의 손실: 1.658626\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.956217\t최선의 손실: 1.658626\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.764643\t최선의 손실: 1.658626\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.953496\t최선의 손실: 1.658626\t정확도: 19.08%\n", - "12\t검증 세트 손실: 2.190019\t최선의 손실: 1.658626\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.741336\t최선의 손실: 1.658626\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.754822\t최선의 손실: 1.658626\t정확도: 19.27%\n", - "15\t검증 세트 손실: 1.772567\t최선의 손실: 1.658626\t정확도: 19.27%\n", - "16\t검증 세트 손실: 2.013352\t최선의 손실: 1.658626\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.652127\t최선의 손실: 1.652127\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.971378\t최선의 손실: 1.652127\t정확도: 18.73%\n", - "19\t검증 세트 손실: 2.023587\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.273651\t최선의 손실: 1.652127\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.793894\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "22\t검증 세트 손실: 2.016310\t최선의 손실: 1.652127\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.770661\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "24\t검증 세트 손실: 2.176994\t최선의 손실: 1.652127\t정확도: 18.73%\n", - "25\t검증 세트 손실: 2.408891\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.931970\t최선의 손실: 1.652127\t정확도: 20.91%\n", - "27\t검증 세트 손실: 2.241311\t최선의 손실: 1.652127\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.867962\t최선의 손실: 1.652127\t정확도: 20.91%\n", - "29\t검증 세트 손실: 1.717847\t최선의 손실: 1.652127\t정확도: 20.91%\n", - "30\t검증 세트 손실: 1.837496\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "31\t검증 세트 손실: 2.561028\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "32\t검증 세트 손실: 2.228803\t최선의 손실: 1.652127\t정확도: 19.08%\n", - "33\t검증 세트 손실: 1.717016\t최선의 손실: 1.652127\t정확도: 18.73%\n", - "34\t검증 세트 손실: 1.663389\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "35\t검증 세트 손실: 2.010629\t최선의 손실: 1.652127\t정확도: 22.01%\n", - "36\t검증 세트 손실: 1.992832\t최선의 손실: 1.652127\t정확도: 20.91%\n", - "37\t검증 세트 손실: 1.824501\t최선의 손실: 1.652127\t정확도: 19.27%\n", - "38\t검증 세트 손실: 1.917272\t최선의 손실: 1.652127\t정확도: 19.27%\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 6.7s\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.820199\t최선의 손실: 1.820199\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.733942\t최선의 손실: 1.733942\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.667352\t최선의 손실: 1.667352\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.907477\t최선의 손실: 1.667352\t정확도: 19.27%\n", + "4\t검증 세트 손실: 2.067261\t최선의 손실: 1.667352\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.796609\t최선의 손실: 1.667352\t정확도: 20.91%\n", + "6\t검증 세트 손실: 2.552943\t최선의 손실: 1.667352\t정확도: 19.27%\n", + "7\t검증 세트 손실: 2.156947\t최선의 손실: 1.667352\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.895709\t최선의 손실: 1.667352\t정확도: 22.01%\n", + "9\t검증 세트 손실: 2.157845\t최선의 손실: 1.667352\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.739211\t최선의 손실: 1.667352\t정확도: 19.08%\n", + "11\t검증 세트 손실: 2.152256\t최선의 손실: 1.667352\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.683909\t최선의 손실: 1.667352\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.686583\t최선의 손실: 1.667352\t정확도: 20.91%\n", + "14\t검증 세트 손실: 2.074511\t최선의 손실: 1.667352\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.617411\t최선의 손실: 1.617411\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.885373\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.889667\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.790243\t최선의 손실: 1.617411\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.922894\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.686475\t최선의 손실: 1.617411\t정확도: 22.01%\n", + "21\t검증 세트 손실: 2.102170\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "22\t검증 세트 손실: 1.871592\t최선의 손실: 1.617411\t정확도: 20.91%\n", + "23\t검증 세트 손실: 1.800526\t최선의 손실: 1.617411\t정확도: 20.91%\n", + "24\t검증 세트 손실: 1.814989\t최선의 손실: 1.617411\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.818545\t최선의 손실: 1.617411\t정확도: 19.27%\n", + "26\t검증 세트 손실: 1.805886\t최선의 손실: 1.617411\t정확도: 22.01%\n", + "27\t검증 세트 손실: 1.840393\t최선의 손실: 1.617411\t정확도: 22.01%\n", + "28\t검증 세트 손실: 1.751167\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "29\t검증 세트 손실: 1.991046\t최선의 손실: 1.617411\t정확도: 19.08%\n", + "30\t검증 세트 손실: 2.327038\t최선의 손실: 1.617411\t정확도: 20.91%\n", + "31\t검증 세트 손실: 3.260128\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "32\t검증 세트 손실: 2.074196\t최선의 손실: 1.617411\t정확도: 19.08%\n", + "33\t검증 세트 손실: 1.774648\t최선의 손실: 1.617411\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.813763\t최선의 손실: 1.617411\t정확도: 19.27%\n", + "35\t검증 세트 손실: 1.742097\t최선의 손실: 1.617411\t정확도: 18.73%\n", + "36\t검증 세트 손실: 2.108136\t최선의 손실: 1.617411\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120, total= 10.3s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120 \n", - "0\t검증 세트 손실: 1.788741\t최선의 손실: 1.788741\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.668635\t최선의 손실: 1.668635\t정확도: 22.01%\n", - "2\t검증 세트 손실: 1.657613\t최선의 손실: 1.657613\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.750493\t최선의 손실: 1.657613\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.886503\t최선의 손실: 1.657613\t정확도: 18.73%\n", - "5\t검증 세트 손실: 1.922329\t최선의 손실: 1.657613\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.081256\t최선의 손실: 1.657613\t정확도: 19.27%\n", - "7\t검증 세트 손실: 2.096522\t최선의 손실: 1.657613\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.818816\t최선의 손실: 1.657613\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.867076\t최선의 손실: 1.657613\t정확도: 20.91%\n", - "10\t검증 세트 손실: 2.069985\t최선의 손실: 1.657613\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.966934\t최선의 손실: 1.657613\t정확도: 19.27%\n", - "12\t검증 세트 손실: 1.975346\t최선의 손실: 1.657613\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.733311\t최선의 손실: 1.657613\t정확도: 22.01%\n", - "14\t검증 세트 손실: 2.282833\t최선의 손실: 1.657613\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.642215\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.942255\t최선의 손실: 1.642215\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.738264\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1.786659\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "19\t검증 세트 손실: 2.161594\t최선의 손실: 1.642215\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1.714582\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "21\t검증 세트 손실: 2.440338\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "22\t검증 세트 손실: 2.482248\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.740083\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "24\t검증 세트 손실: 1.726208\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.855952\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.771278\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.882311\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "28\t검증 세트 손실: 1.673043\t최선의 손실: 1.642215\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.738810\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "30\t검증 세트 손실: 1.881803\t최선의 손실: 1.642215\t정확도: 20.91%\n", - "31\t검증 세트 손실: 2.991334\t최선의 손실: 1.642215\t정확도: 18.73%\n", - "32\t검증 세트 손실: 1.779339\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "33\t검증 세트 손실: 1.815410\t최선의 손실: 1.642215\t정확도: 18.73%\n", - "34\t검증 세트 손실: 2.058384\t최선의 손실: 1.642215\t정확도: 18.73%\n", - "35\t검증 세트 손실: 1.710097\t최선의 손실: 1.642215\t정확도: 22.01%\n", - "36\t검증 세트 손실: 2.216438\t최선의 손실: 1.642215\t정확도: 19.08%\n", + "[CV] n_neurons=120, learning_rate=0.1, dropout_rate=0.5, batch_size=100, activation=, total= 9.6s\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.369925\t최선의 손실: 0.369925\t정확도: 78.62%\n", + "1\t검증 세트 손실: 0.292804\t최선의 손실: 0.292804\t정확도: 92.92%\n", + "2\t검증 세트 손실: 0.140652\t최선의 손실: 0.140652\t정확도: 96.29%\n", + "3\t검증 세트 손실: 0.130521\t최선의 손실: 0.130521\t정확도: 96.33%\n", + "4\t검증 세트 손실: 0.107356\t최선의 손실: 0.107356\t정확도: 96.68%\n", + "5\t검증 세트 손실: 0.116833\t최선의 손실: 0.107356\t정확도: 96.91%\n", + "6\t검증 세트 손실: 0.099819\t최선의 손실: 0.099819\t정확도: 97.11%\n", + "7\t검증 세트 손실: 0.101741\t최선의 손실: 0.099819\t정확도: 96.95%\n", + "8\t검증 세트 손실: 0.106046\t최선의 손실: 0.099819\t정확도: 97.30%\n", + "9\t검증 세트 손실: 0.102320\t최선의 손실: 0.099819\t정확도: 97.26%\n", + "10\t검증 세트 손실: 0.111981\t최선의 손실: 0.099819\t정확도: 96.79%\n", + "11\t검증 세트 손실: 0.107764\t최선의 손실: 0.099819\t정확도: 97.11%\n", + "12\t검증 세트 손실: 0.104999\t최선의 손실: 0.099819\t정확도: 96.91%\n", + "13\t검증 세트 손실: 0.107494\t최선의 손실: 0.099819\t정확도: 96.99%\n", + "14\t검증 세트 손실: 0.105938\t최선의 손실: 0.099819\t정확도: 96.95%\n", + "15\t검증 세트 손실: 0.110327\t최선의 손실: 0.099819\t정확도: 96.91%\n", + "16\t검증 세트 손실: 0.111329\t최선의 손실: 0.099819\t정확도: 96.99%\n", + "17\t검증 세트 손실: 0.104121\t최선의 손실: 0.099819\t정확도: 97.34%\n", + "18\t검증 세트 손실: 0.111146\t최선의 손실: 0.099819\t정확도: 96.91%\n", + "19\t검증 세트 손실: 0.112881\t최선의 손실: 0.099819\t정확도: 96.95%\n", + "20\t검증 세트 손실: 0.103518\t최선의 손실: 0.099819\t정확도: 97.11%\n", + "21\t검증 세트 손실: 0.101561\t최선의 손실: 0.099819\t정확도: 96.83%\n", + "22\t검증 세트 손실: 0.116914\t최선의 손실: 0.099819\t정확도: 96.76%\n", + "23\t검증 세트 손실: 0.120796\t최선의 손실: 0.099819\t정확도: 96.72%\n", + "24\t검증 세트 손실: 0.108741\t최선의 손실: 0.099819\t정확도: 96.87%\n", + "25\t검증 세트 손실: 0.111059\t최선의 손실: 0.099819\t정확도: 96.95%\n", + "26\t검증 세트 손실: 0.105764\t최선의 손실: 0.099819\t정확도: 97.03%\n", + "27\t검증 세트 손실: 0.110474\t최선의 손실: 0.099819\t정확도: 97.19%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=120, total= 9.7s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10 \n", - "0\t검증 세트 손실: 0.551056\t최선의 손실: 0.551056\t정확도: 79.87%\n", - "1\t검증 세트 손실: 0.327082\t최선의 손실: 0.327082\t정확도: 90.15%\n", - "2\t검증 세트 손실: 0.213086\t최선의 손실: 0.213086\t정확도: 93.86%\n", - "3\t검증 세트 손실: 0.159970\t최선의 손실: 0.159970\t정확도: 95.35%\n", - "4\t검증 세트 손실: 0.129179\t최선의 손실: 0.129179\t정확도: 96.40%\n", - "5\t검증 세트 손실: 0.134528\t최선의 손실: 0.129179\t정확도: 96.17%\n", - "6\t검증 세트 손실: 0.123792\t최선의 손실: 0.123792\t정확도: 96.21%\n", - "7\t검증 세트 손실: 0.134896\t최선의 손실: 0.123792\t정확도: 96.44%\n", - "8\t검증 세트 손실: 0.124244\t최선의 손실: 0.123792\t정확도: 96.52%\n", - "9\t검증 세트 손실: 0.113848\t최선의 손실: 0.113848\t정확도: 96.87%\n", - "10\t검증 세트 손실: 0.115933\t최선의 손실: 0.113848\t정확도: 96.99%\n", - "11\t검증 세트 손실: 0.125451\t최선의 손실: 0.113848\t정확도: 96.29%\n", - "12\t검증 세트 손실: 0.106716\t최선의 손실: 0.106716\t정확도: 96.99%\n", - "13\t검증 세트 손실: 0.119229\t최선의 손실: 0.106716\t정확도: 96.83%\n", - "14\t검증 세트 손실: 0.116319\t최선의 손실: 0.106716\t정확도: 97.07%\n", - "15\t검증 세트 손실: 0.114098\t최선의 손실: 0.106716\t정확도: 96.91%\n", - "16\t검증 세트 손실: 0.103023\t최선의 손실: 0.103023\t정확도: 97.19%\n", - "17\t검증 세트 손실: 0.114954\t최선의 손실: 0.103023\t정확도: 96.83%\n", - "18\t검증 세트 손실: 0.136868\t최선의 손실: 0.103023\t정확도: 96.76%\n", - "19\t검증 세트 손실: 0.106723\t최선의 손실: 0.103023\t정확도: 97.15%\n", - "20\t검증 세트 손실: 0.108508\t최선의 손실: 0.103023\t정확도: 97.19%\n" + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation=, total= 2.6s\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.379862\t최선의 손실: 0.379862\t정확도: 79.36%\n", + "1\t검증 세트 손실: 0.348938\t최선의 손실: 0.348938\t정확도: 80.06%\n", + "2\t검증 세트 손실: 0.343148\t최선의 손실: 0.343148\t정확도: 80.10%\n", + "3\t검증 세트 손실: 0.283154\t최선의 손실: 0.283154\t정확도: 92.26%\n", + "4\t검증 세트 손실: 0.165427\t최선의 손실: 0.165427\t정확도: 95.90%\n", + "5\t검증 세트 손실: 0.138445\t최선의 손실: 0.138445\t정확도: 96.29%\n", + "6\t검증 세트 손실: 0.108904\t최선의 손실: 0.108904\t정확도: 97.11%\n", + "7\t검증 세트 손실: 0.110454\t최선의 손실: 0.108904\t정확도: 96.76%\n", + "8\t검증 세트 손실: 0.105914\t최선의 손실: 0.105914\t정확도: 97.07%\n", + "9\t검증 세트 손실: 0.120027\t최선의 손실: 0.105914\t정확도: 96.83%\n", + "10\t검증 세트 손실: 0.109677\t최선의 손실: 0.105914\t정확도: 96.83%\n", + "11\t검증 세트 손실: 0.110070\t최선의 손실: 0.105914\t정확도: 96.91%\n", + "12\t검증 세트 손실: 0.114483\t최선의 손실: 0.105914\t정확도: 96.79%\n", + "13\t검증 세트 손실: 0.110472\t최선의 손실: 0.105914\t정확도: 96.72%\n", + "14\t검증 세트 손실: 0.099714\t최선의 손실: 0.099714\t정확도: 97.07%\n", + "15\t검증 세트 손실: 0.096510\t최선의 손실: 0.096510\t정확도: 97.03%\n", + "16\t검증 세트 손실: 0.107043\t최선의 손실: 0.096510\t정확도: 97.15%\n", + "17\t검증 세트 손실: 0.104433\t최선의 손실: 0.096510\t정확도: 96.83%\n", + "18\t검증 세트 손실: 0.101785\t최선의 손실: 0.096510\t정확도: 97.22%\n", + "19\t검증 세트 손실: 0.099717\t최선의 손실: 0.096510\t정확도: 97.19%\n", + "20\t검증 세트 손실: 0.098823\t최선의 손실: 0.096510\t정확도: 97.19%\n", + "21\t검증 세트 손실: 0.100249\t최선의 손실: 0.096510\t정확도: 97.03%\n", + "22\t검증 세트 손실: 0.107430\t최선의 손실: 0.096510\t정확도: 96.99%\n", + "23\t검증 세트 손실: 0.101847\t최선의 손실: 0.096510\t정확도: 97.15%\n", + "24\t검증 세트 손실: 0.107301\t최선의 손실: 0.096510\t정확도: 97.03%\n", + "25\t검증 세트 손실: 0.100873\t최선의 손실: 0.096510\t정확도: 97.26%\n", + "26\t검증 세트 손실: 0.103016\t최선의 손실: 0.096510\t정확도: 97.34%\n", + "27\t검증 세트 손실: 0.114357\t최선의 손실: 0.096510\t정확도: 96.83%\n", + "28\t검증 세트 손실: 0.096778\t최선의 손실: 0.096510\t정확도: 97.15%\n", + "29\t검증 세트 손실: 0.102604\t최선의 손실: 0.096510\t정확도: 97.19%\n", + "30\t검증 세트 손실: 0.111600\t최선의 손실: 0.096510\t정확도: 96.95%\n", + "31\t검증 세트 손실: 0.103500\t최선의 손실: 0.096510\t정확도: 96.99%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "21\t검증 세트 손실: 0.108247\t최선의 손실: 0.103023\t정확도: 96.87%\n", - "22\t검증 세트 손실: 0.116014\t최선의 손실: 0.103023\t정확도: 96.76%\n", - "23\t검증 세트 손실: 0.120019\t최선의 손실: 0.103023\t정확도: 96.95%\n", - "24\t검증 세트 손실: 0.103046\t최선의 손실: 0.103023\t정확도: 97.11%\n", - "25\t검증 세트 손실: 0.107387\t최선의 손실: 0.103023\t정확도: 96.99%\n", - "26\t검증 세트 손실: 0.108353\t최선의 손실: 0.103023\t정확도: 97.26%\n", - "27\t검증 세트 손실: 0.113618\t최선의 손실: 0.103023\t정확도: 97.19%\n", - "28\t검증 세트 손실: 0.107115\t최선의 손실: 0.103023\t정확도: 97.07%\n", - "29\t검증 세트 손실: 0.118462\t최선의 손실: 0.103023\t정확도: 96.79%\n", - "30\t검증 세트 손실: 0.103894\t최선의 손실: 0.103023\t정확도: 96.87%\n", - "31\t검증 세트 손실: 0.120285\t최선의 손실: 0.103023\t정확도: 96.56%\n", - "32\t검증 세트 손실: 0.123786\t최선의 손실: 0.103023\t정확도: 96.68%\n", - "33\t검증 세트 손실: 0.112763\t최선의 손실: 0.103023\t정확도: 96.91%\n", - "34\t검증 세트 손실: 0.106139\t최선의 손실: 0.103023\t정확도: 97.11%\n", - "35\t검증 세트 손실: 0.112444\t최선의 손실: 0.103023\t정확도: 96.91%\n", - "36\t검증 세트 손실: 0.117079\t최선의 손실: 0.103023\t정확도: 96.68%\n", - "37\t검증 세트 손실: 0.112151\t최선의 손실: 0.103023\t정확도: 96.99%\n", + "32\t검증 세트 손실: 0.112192\t최선의 손실: 0.096510\t정확도: 96.79%\n", + "33\t검증 세트 손실: 0.123594\t최선의 손실: 0.096510\t정확도: 96.76%\n", + "34\t검증 세트 손실: 0.114405\t최선의 손실: 0.096510\t정확도: 96.83%\n", + "35\t검증 세트 손실: 0.099776\t최선의 손실: 0.096510\t정확도: 97.30%\n", + "36\t검증 세트 손실: 0.110876\t최선의 손실: 0.096510\t정확도: 96.79%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10, total= 3.4s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10 \n", - "0\t검증 세트 손실: 0.579217\t최선의 손실: 0.579217\t정확도: 88.90%\n", - "1\t검증 세트 손실: 0.174530\t최선의 손실: 0.174530\t정확도: 95.74%\n", - "2\t검증 세트 손실: 0.138306\t최선의 손실: 0.138306\t정확도: 96.25%\n", - "3\t검증 세트 손실: 0.128196\t최선의 손실: 0.128196\t정확도: 96.60%\n", - "4\t검증 세트 손실: 0.129190\t최선의 손실: 0.128196\t정확도: 96.25%\n", - "5\t검증 세트 손실: 0.123000\t최선의 손실: 0.123000\t정확도: 96.21%\n", - "6\t검증 세트 손실: 0.118804\t최선의 손실: 0.118804\t정확도: 96.72%\n", - "7\t검증 세트 손실: 0.121653\t최선의 손실: 0.118804\t정확도: 96.79%\n", - "8\t검증 세트 손실: 0.113871\t최선의 손실: 0.113871\t정확도: 96.72%\n", - "9\t검증 세트 손실: 0.114695\t최선의 손실: 0.113871\t정확도: 96.95%\n", - "10\t검증 세트 손실: 0.123700\t최선의 손실: 0.113871\t정확도: 96.72%\n", - "11\t검증 세트 손실: 0.123084\t최선의 손실: 0.113871\t정확도: 96.72%\n", - "12\t검증 세트 손실: 0.130354\t최선의 손실: 0.113871\t정확도: 96.36%\n", - "13\t검증 세트 손실: 0.116287\t최선의 손실: 0.113871\t정확도: 96.79%\n", - "14\t검증 세트 손실: 0.110998\t최선의 손실: 0.110998\t정확도: 97.07%\n", - "15\t검증 세트 손실: 0.126793\t최선의 손실: 0.110998\t정확도: 96.60%\n", - "16\t검증 세트 손실: 0.105460\t최선의 손실: 0.105460\t정확도: 97.15%\n", - "17\t검증 세트 손실: 0.106005\t최선의 손실: 0.105460\t정확도: 96.91%\n", - "18\t검증 세트 손실: 0.110898\t최선의 손실: 0.105460\t정확도: 97.11%\n", - "19\t검증 세트 손실: 0.114546\t최선의 손실: 0.105460\t정확도: 96.99%\n", - "20\t검증 세트 손실: 0.106591\t최선의 손실: 0.105460\t정확도: 97.19%\n", - "21\t검증 세트 손실: 0.107836\t최선의 손실: 0.105460\t정확도: 96.91%\n", - "22\t검증 세트 손실: 0.125895\t최선의 손실: 0.105460\t정확도: 96.36%\n", - "23\t검증 세트 손실: 0.110552\t최선의 손실: 0.105460\t정확도: 96.95%\n", - "24\t검증 세트 손실: 0.120389\t최선의 손실: 0.105460\t정확도: 96.76%\n", - "25\t검증 세트 손실: 0.119281\t최선의 손실: 0.105460\t정확도: 97.03%\n", - "26\t검증 세트 손실: 0.109635\t최선의 손실: 0.105460\t정확도: 96.87%\n", - "27\t검증 세트 손실: 0.123115\t최선의 손실: 0.105460\t정확도: 96.79%\n", - "28\t검증 세트 손실: 0.113873\t최선의 손실: 0.105460\t정확도: 96.68%\n", - "29\t검증 세트 손실: 0.113347\t최선의 손실: 0.105460\t정확도: 96.79%\n", - "30\t검증 세트 손실: 0.120183\t최선의 손실: 0.105460\t정확도: 96.52%\n", - "31\t검증 세트 손실: 0.114008\t최선의 손실: 0.105460\t정확도: 96.76%\n", - "32\t검증 세트 손실: 0.122729\t최선의 손실: 0.105460\t정확도: 96.60%\n", - "33\t검증 세트 손실: 0.118405\t최선의 손실: 0.105460\t정확도: 96.64%\n", - "34\t검증 세트 손실: 0.125842\t최선의 손실: 0.105460\t정확도: 96.68%\n", - "35\t검증 세트 손실: 0.111003\t최선의 손실: 0.105460\t정확도: 96.79%\n", - "36\t검증 세트 손실: 0.122313\t최선의 손실: 0.105460\t정확도: 96.76%\n", - "37\t검증 세트 손실: 0.111034\t최선의 손실: 0.105460\t정확도: 96.83%\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation=, total= 3.1s\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.356962\t최선의 손실: 0.356962\t정확도: 85.34%\n", + "1\t검증 세트 손실: 0.173555\t최선의 손실: 0.173555\t정확도: 95.70%\n", + "2\t검증 세트 손실: 0.148989\t최선의 손실: 0.148989\t정확도: 96.68%\n", + "3\t검증 세트 손실: 0.135001\t최선의 손실: 0.135001\t정확도: 96.48%\n", + "4\t검증 세트 손실: 0.131474\t최선의 손실: 0.131474\t정확도: 96.48%\n", + "5\t검증 세트 손실: 0.119265\t최선의 손실: 0.119265\t정확도: 96.64%\n", + "6\t검증 세트 손실: 0.116998\t최선의 손실: 0.116998\t정확도: 96.87%\n", + "7\t검증 세트 손실: 0.115169\t최선의 손실: 0.115169\t정확도: 96.99%\n", + "8\t검증 세트 손실: 0.126278\t최선의 손실: 0.115169\t정확도: 96.79%\n", + "9\t검증 세트 손실: 0.110189\t최선의 손실: 0.110189\t정확도: 96.79%\n", + "10\t검증 세트 손실: 0.121436\t최선의 손실: 0.110189\t정확도: 96.76%\n", + "11\t검증 세트 손실: 0.106416\t최선의 손실: 0.106416\t정확도: 97.22%\n", + "12\t검증 세트 손실: 0.113362\t최선의 손실: 0.106416\t정확도: 96.87%\n", + "13\t검증 세트 손실: 0.109170\t최선의 손실: 0.106416\t정확도: 96.99%\n", + "14\t검증 세트 손실: 0.106271\t최선의 손실: 0.106271\t정확도: 97.38%\n", + "15\t검증 세트 손실: 0.101253\t최선의 손실: 0.101253\t정확도: 97.22%\n", + "16\t검증 세트 손실: 0.113055\t최선의 손실: 0.101253\t정확도: 96.76%\n", + "17\t검증 세트 손실: 0.107862\t최선의 손실: 0.101253\t정확도: 97.26%\n", + "18\t검증 세트 손실: 0.110521\t최선의 손실: 0.101253\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.117753\t최선의 손실: 0.101253\t정확도: 96.91%\n", + "20\t검증 세트 손실: 0.097001\t최선의 손실: 0.097001\t정확도: 97.11%\n", + "21\t검증 세트 손실: 0.116084\t최선의 손실: 0.097001\t정확도: 96.79%\n", + "22\t검증 세트 손실: 0.120668\t최선의 손실: 0.097001\t정확도: 96.60%\n", + "23\t검증 세트 손실: 0.111326\t최선의 손실: 0.097001\t정확도: 97.15%\n", + "24\t검증 세트 손실: 0.114793\t최선의 손실: 0.097001\t정확도: 96.87%\n", + "25\t검증 세트 손실: 0.105511\t최선의 손실: 0.097001\t정확도: 97.15%\n", + "26\t검증 세트 손실: 0.105238\t최선의 손실: 0.097001\t정확도: 97.19%\n", + "27\t검증 세트 손실: 0.112719\t최선의 손실: 0.097001\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.100247\t최선의 손실: 0.097001\t정확도: 97.30%\n", + "29\t검증 세트 손실: 0.101142\t최선의 손실: 0.097001\t정확도: 97.46%\n", + "30\t검증 세트 손실: 0.101428\t최선의 손실: 0.097001\t정확도: 97.42%\n", + "31\t검증 세트 손실: 0.117574\t최선의 손실: 0.097001\t정확도: 96.99%\n", + "32\t검증 세트 손실: 0.111321\t최선의 손실: 0.097001\t정확도: 96.91%\n", + "33\t검증 세트 손실: 0.102263\t최선의 손실: 0.097001\t정확도: 97.11%\n", + "34\t검증 세트 손실: 0.120523\t최선의 손실: 0.097001\t정확도: 96.99%\n", + "35\t검증 세트 손실: 0.112604\t최선의 손실: 0.097001\t정확도: 96.87%\n", + "36\t검증 세트 손실: 0.114224\t최선의 손실: 0.097001\t정확도: 97.30%\n", + "37\t검증 세트 손실: 0.110596\t최선의 손실: 0.097001\t정확도: 97.07%\n", + "38\t검증 세트 손실: 0.115920\t최선의 손실: 0.097001\t정확도: 97.03%\n", + "39\t검증 세트 손실: 0.100591\t최선의 손실: 0.097001\t정확도: 96.99%\n", + "40\t검증 세트 손실: 0.101974\t최선의 손실: 0.097001\t정확도: 97.03%\n", + "41\t검증 세트 손실: 0.100291\t최선의 손실: 0.097001\t정확도: 97.15%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10, total= 3.4s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10 \n", - "0\t검증 세트 손실: 0.700632\t최선의 손실: 0.700632\t정확도: 66.42%\n", - "1\t검증 세트 손실: 0.436549\t최선의 손실: 0.436549\t정확도: 82.29%\n", - "2\t검증 세트 손실: 0.219477\t최선의 손실: 0.219477\t정확도: 94.10%\n", - "3\t검증 세트 손실: 0.163011\t최선의 손실: 0.163011\t정확도: 95.78%\n", - "4\t검증 세트 손실: 0.144337\t최선의 손실: 0.144337\t정확도: 96.05%\n", - "5\t검증 세트 손실: 0.141510\t최선의 손실: 0.141510\t정확도: 96.40%\n", - "6\t검증 세트 손실: 0.129480\t최선의 손실: 0.129480\t정확도: 96.48%\n", - "7\t검증 세트 손실: 0.132851\t최선의 손실: 0.129480\t정확도: 96.68%\n", - "8\t검증 세트 손실: 0.129688\t최선의 손실: 0.129480\t정확도: 96.72%\n", - "9\t검증 세트 손실: 0.128311\t최선의 손실: 0.128311\t정확도: 96.64%\n", - "10\t검증 세트 손실: 0.116985\t최선의 손실: 0.116985\t정확도: 96.99%\n", - "11\t검증 세트 손실: 0.118963\t최선의 손실: 0.116985\t정확도: 96.83%\n", - "12\t검증 세트 손실: 0.124050\t최선의 손실: 0.116985\t정확도: 96.79%\n", - "13\t검증 세트 손실: 0.114596\t최선의 손실: 0.114596\t정확도: 96.76%\n", - "14\t검증 세트 손실: 0.118657\t최선의 손실: 0.114596\t정확도: 96.87%\n", - "15\t검증 세트 손실: 0.118011\t최선의 손실: 0.114596\t정확도: 96.83%\n", - "16\t검증 세트 손실: 0.120938\t최선의 손실: 0.114596\t정확도: 96.64%\n", - "17\t검증 세트 손실: 0.111373\t최선의 손실: 0.111373\t정확도: 96.83%\n", - "18\t검증 세트 손실: 0.112229\t최선의 손실: 0.111373\t정확도: 97.07%\n", - "19\t검증 세트 손실: 0.116359\t최선의 손실: 0.111373\t정확도: 96.83%\n", - "20\t검증 세트 손실: 0.116279\t최선의 손실: 0.111373\t정확도: 97.11%\n", - "21\t검증 세트 손실: 0.116585\t최선의 손실: 0.111373\t정확도: 97.11%\n", - "22\t검증 세트 손실: 0.101668\t최선의 손실: 0.101668\t정확도: 97.19%\n", - "23\t검증 세트 손실: 0.111051\t최선의 손실: 0.101668\t정확도: 97.03%\n", - "24\t검증 세트 손실: 0.116660\t최선의 손실: 0.101668\t정확도: 96.95%\n", - "25\t검증 세트 손실: 0.121874\t최선의 손실: 0.101668\t정확도: 96.87%\n", - "26\t검증 세트 손실: 0.105303\t최선의 손실: 0.101668\t정확도: 97.19%\n", - "27\t검증 세트 손실: 0.111238\t최선의 손실: 0.101668\t정확도: 96.87%\n", - "28\t검증 세트 손실: 0.109195\t최선의 손실: 0.101668\t정확도: 97.15%\n", - "29\t검증 세트 손실: 0.103903\t최선의 손실: 0.101668\t정확도: 97.15%\n", - "30\t검증 세트 손실: 0.109680\t최선의 손실: 0.101668\t정확도: 97.07%\n", - "31\t검증 세트 손실: 0.100301\t최선의 손실: 0.100301\t정확도: 97.19%\n", - "32\t검증 세트 손실: 0.105629\t최선의 손실: 0.100301\t정확도: 97.07%\n", - "33\t검증 세트 손실: 0.111245\t최선의 손실: 0.100301\t정확도: 97.11%\n", - "34\t검증 세트 손실: 0.122733\t최선의 손실: 0.100301\t정확도: 96.76%\n", - "35\t검증 세트 손실: 0.108336\t최선의 손실: 0.100301\t정확도: 97.03%\n", - "36\t검증 세트 손실: 0.103276\t최선의 손실: 0.100301\t정확도: 97.22%\n", - "37\t검증 세트 손실: 0.104695\t최선의 손실: 0.100301\t정확도: 96.91%\n", - "38\t검증 세트 손실: 0.106578\t최선의 손실: 0.100301\t정확도: 97.34%\n", - "39\t검증 세트 손실: 0.105636\t최선의 손실: 0.100301\t정확도: 97.03%\n", - "40\t검증 세트 손실: 0.110068\t최선의 손실: 0.100301\t정확도: 96.87%\n", - "41\t검증 세트 손실: 0.108185\t최선의 손실: 0.100301\t정확도: 96.99%\n", - "42\t검증 세트 손실: 0.103709\t최선의 손실: 0.100301\t정확도: 97.42%\n", - "43\t검증 세트 손실: 0.124882\t최선의 손실: 0.100301\t정확도: 96.83%\n", - "44\t검증 세트 손실: 0.110405\t최선의 손실: 0.100301\t정확도: 97.11%\n", - "45\t검증 세트 손실: 0.116224\t최선의 손실: 0.100301\t정확도: 96.91%\n", - "46\t검증 세트 손실: 0.106366\t최선의 손실: 0.100301\t정확도: 97.15%\n", - "47\t검증 세트 손실: 0.119872\t최선의 손실: 0.100301\t정확도: 97.03%\n", - "48\t검증 세트 손실: 0.119696\t최선의 손실: 0.100301\t정확도: 96.83%\n", - "49\t검증 세트 손실: 0.112275\t최선의 손실: 0.100301\t정확도: 96.87%\n", - "50\t검증 세트 손실: 0.117290\t최선의 손실: 0.100301\t정확도: 96.83%\n", - "51\t검증 세트 손실: 0.105903\t최선의 손실: 0.100301\t정확도: 97.22%\n", - "52\t검증 세트 손실: 0.111222\t최선의 손실: 0.100301\t정확도: 97.26%\n", + "[CV] n_neurons=10, learning_rate=0.02, dropout_rate=0.2, batch_size=500, activation=, total= 3.4s\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 118.499741\t최선의 손실: 118.499741\t정확도: 69.00%\n", + "1\t검증 세트 손실: 47.443573\t최선의 손실: 47.443573\t정확도: 59.07%\n", + "2\t검증 세트 손실: 6.928862\t최선의 손실: 6.928862\t정확도: 83.93%\n", + "3\t검증 세트 손실: 3.459349\t최선의 손실: 3.459349\t정확도: 80.77%\n", + "4\t검증 세트 손실: 731406.937500\t최선의 손실: 3.459349\t정확도: 85.18%\n", + "5\t검증 세트 손실: 171950.484375\t최선의 손실: 3.459349\t정확도: 92.14%\n", + "6\t검증 세트 손실: 137003.453125\t최선의 손실: 3.459349\t정확도: 90.70%\n", + "7\t검증 세트 손실: 56013.765625\t최선의 손실: 3.459349\t정확도: 94.92%\n", + "8\t검증 세트 손실: 123845.078125\t최선의 손실: 3.459349\t정확도: 92.65%\n", + "9\t검증 세트 손실: 66067.359375\t최선의 손실: 3.459349\t정확도: 95.62%\n", + "10\t검증 세트 손실: 83588.687500\t최선의 손실: 3.459349\t정확도: 95.04%\n", + "11\t검증 세트 손실: 46461.562500\t최선의 손실: 3.459349\t정확도: 95.47%\n", + "12\t검증 세트 손실: 25766.611328\t최선의 손실: 3.459349\t정확도: 95.43%\n", + "13\t검증 세트 손실: 73580.609375\t최선의 손실: 3.459349\t정확도: 87.22%\n", + "14\t검증 세트 손실: 29712.019531\t최선의 손실: 3.459349\t정확도: 95.43%\n", + "15\t검증 세트 손실: 92424.320312\t최선의 손실: 3.459349\t정확도: 93.94%\n", + "16\t검증 세트 손실: 26174.513672\t최선의 손실: 3.459349\t정확도: 94.10%\n", + "17\t검증 세트 손실: 21454.546875\t최선의 손실: 3.459349\t정확도: 95.66%\n", + "18\t검증 세트 손실: 15254.413086\t최선의 손실: 3.459349\t정확도: 95.74%\n", + "19\t검증 세트 손실: 8580.525391\t최선의 손실: 3.459349\t정확도: 96.87%\n", + "20\t검증 세트 손실: 325150688.000000\t최선의 손실: 3.459349\t정확도: 79.48%\n", + "21\t검증 세트 손실: 8249658.500000\t최선의 손실: 3.459349\t정확도: 95.19%\n", + "22\t검증 세트 손실: 5555128.500000\t최선의 손실: 3.459349\t정확도: 94.84%\n", + "23\t검증 세트 손실: 5296667.500000\t최선의 손실: 3.459349\t정확도: 92.85%\n", + "24\t검증 세트 손실: 2446696.250000\t최선의 손실: 3.459349\t정확도: 96.25%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.02, activation=, n_neurons=10, total= 4.6s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n", - "0\t검증 세트 손실: 6.788807\t최선의 손실: 6.788807\t정확도: 93.51%\n", - "1\t검증 세트 손실: 1.837317\t최선의 손실: 1.837317\t정확도: 95.31%\n", - "2\t검증 세트 손실: 1.676131\t최선의 손실: 1.676131\t정확도: 96.01%\n", - "3\t검증 세트 손실: 7798271.000000\t최선의 손실: 1.676131\t정확도: 62.94%\n", - "4\t검증 세트 손실: 1850610.000000\t최선의 손실: 1.676131\t정확도: 72.05%\n", - "5\t검증 세트 손실: 970665.562500\t최선의 손실: 1.676131\t정확도: 73.81%\n", - "6\t검증 세트 손실: 1128778.000000\t최선의 손실: 1.676131\t정확도: 68.88%\n", - "7\t검증 세트 손실: 271715.187500\t최선의 손실: 1.676131\t정확도: 91.87%\n", - "8\t검증 세트 손실: 187177.859375\t최선의 손실: 1.676131\t정확도: 87.80%\n", - "9\t검증 세트 손실: 416332.187500\t최선의 손실: 1.676131\t정확도: 88.04%\n", - "10\t검증 세트 손실: 497990.468750\t최선의 손실: 1.676131\t정확도: 93.63%\n", - "11\t검증 세트 손실: 140884.921875\t최선의 손실: 1.676131\t정확도: 94.88%\n", - "12\t검증 세트 손실: 147681.531250\t최선의 손실: 1.676131\t정확도: 93.82%\n", - "13\t검증 세트 손실: 192947.906250\t최선의 손실: 1.676131\t정확도: 92.92%\n", - "14\t검증 세트 손실: 194513.609375\t최선의 손실: 1.676131\t정확도: 91.63%\n", - "15\t검증 세트 손실: 1624771.000000\t최선의 손실: 1.676131\t정확도: 90.50%\n", - "16\t검증 세트 손실: 448674.125000\t최선의 손실: 1.676131\t정확도: 89.80%\n", - "17\t검증 세트 손실: 76034.273438\t최선의 손실: 1.676131\t정확도: 95.70%\n", - "18\t검증 세트 손실: 139171.796875\t최선의 손실: 1.676131\t정확도: 96.48%\n", - "19\t검증 세트 손실: 95697.281250\t최선의 손실: 1.676131\t정확도: 96.25%\n", - "20\t검증 세트 손실: 46436.183594\t최선의 손실: 1.676131\t정확도: 96.17%\n", - "21\t검증 세트 손실: 100937.382812\t최선의 손실: 1.676131\t정확도: 94.57%\n", - "22\t검증 세트 손실: 902852416.000000\t최선의 손실: 1.676131\t정확도: 91.56%\n", - "23\t검증 세트 손실: 10690446.000000\t최선의 손실: 1.676131\t정확도: 96.44%\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 14.7s\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 8.125622\t최선의 손실: 8.125622\t정확도: 73.85%\n", + "1\t검증 세트 손실: 5.487012\t최선의 손실: 5.487012\t정확도: 90.70%\n", + "2\t검증 세트 손실: 9.465280\t최선의 손실: 5.487012\t정확도: 87.88%\n", + "3\t검증 세트 손실: 4.181078\t최선의 손실: 4.181078\t정확도: 91.95%\n", + "4\t검증 세트 손실: 2.745966\t최선의 손실: 2.745966\t정확도: 93.59%\n", + "5\t검증 세트 손실: 3492985.750000\t최선의 손실: 2.745966\t정확도: 73.73%\n", + "6\t검증 세트 손실: 243084.703125\t최선의 손실: 2.745966\t정확도: 87.06%\n", + "7\t검증 세트 손실: 150202.328125\t최선의 손실: 2.745966\t정확도: 92.73%\n", + "8\t검증 세트 손실: 114704.335938\t최선의 손실: 2.745966\t정확도: 93.71%\n", + "9\t검증 세트 손실: 305609.062500\t최선의 손실: 2.745966\t정확도: 78.89%\n", + "10\t검증 세트 손실: 64990.562500\t최선의 손실: 2.745966\t정확도: 95.39%\n", + "11\t검증 세트 손실: 80074.757812\t최선의 손실: 2.745966\t정확도: 91.44%\n", + "12\t검증 세트 손실: 67567.398438\t최선의 손실: 2.745966\t정확도: 94.61%\n", + "13\t검증 세트 손실: 63637.054688\t최선의 손실: 2.745966\t정확도: 92.42%\n", + "14\t검증 세트 손실: 60074.109375\t최선의 손실: 2.745966\t정확도: 95.86%\n", + "15\t검증 세트 손실: 33971.121094\t최선의 손실: 2.745966\t정확도: 96.25%\n", + "16\t검증 세트 손실: 24797.560547\t최선의 손실: 2.745966\t정확도: 96.52%\n", + "17\t검증 세트 손실: 898911.562500\t최선의 손실: 2.745966\t정확도: 95.15%\n", + "18\t검증 세트 손실: 2214684.250000\t최선의 손실: 2.745966\t정확도: 94.49%\n", + "19\t검증 세트 손실: 1310277.000000\t최선의 손실: 2.745966\t정확도: 95.27%\n", + "20\t검증 세트 손실: 931262.437500\t최선의 손실: 2.745966\t정확도: 95.31%\n", + "21\t검증 세트 손실: 3495591.000000\t최선의 손실: 2.745966\t정확도: 96.09%\n", + "22\t검증 세트 손실: 554208.625000\t최선의 손실: 2.745966\t정확도: 96.36%\n", + "23\t검증 세트 손실: 418510.781250\t최선의 손실: 2.745966\t정확도: 94.45%\n", + "24\t검증 세트 손실: 328313.031250\t최선의 손실: 2.745966\t정확도: 95.78%\n", + "25\t검증 세트 손실: 276470.500000\t최선의 손실: 2.745966\t정확도: 96.79%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 14.4s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n", - "0\t검증 세트 손실: 4.809076\t최선의 손실: 4.809076\t정확도: 92.81%\n", - "1\t검증 세트 손실: 294262.281250\t최선의 손실: 4.809076\t정확도: 67.83%\n", - "2\t검증 세트 손실: 76103.734375\t최선의 손실: 4.809076\t정확도: 70.84%\n", - "3\t검증 세트 손실: 39116.460938\t최선의 손실: 4.809076\t정확도: 76.66%\n", - "4\t검증 세트 손실: 29329.009766\t최선의 손실: 4.809076\t정확도: 77.91%\n" + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 15.4s\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 7.688208\t최선의 손실: 7.688208\t정확도: 95.04%\n", + "1\t검증 세트 손실: 2.852555\t최선의 손실: 2.852555\t정확도: 95.50%\n", + "2\t검증 세트 손실: 2.944651\t최선의 손실: 2.852555\t정확도: 94.68%\n", + "3\t검증 세트 손실: 1.971205\t최선의 손실: 1.971205\t정확도: 95.19%\n", + "4\t검증 세트 손실: 1.589923\t최선의 손실: 1.589923\t정확도: 95.07%\n", + "5\t검증 세트 손실: 402835.718750\t최선의 손실: 1.589923\t정확도: 68.88%\n", + "6\t검증 세트 손실: 148643.234375\t최선의 손실: 1.589923\t정확도: 70.91%\n", + "7\t검증 세트 손실: 66739.390625\t최선의 손실: 1.589923\t정확도: 88.00%\n", + "8\t검증 세트 손실: 54102.125000\t최선의 손실: 1.589923\t정확도: 91.87%\n", + "9\t검증 세트 손실: 48543.710938\t최선의 손실: 1.589923\t정확도: 92.89%\n", + "10\t검증 세트 손실: 45453.167969\t최선의 손실: 1.589923\t정확도: 90.66%\n", + "11\t검증 세트 손실: 25319.972656\t최선의 손실: 1.589923\t정확도: 93.59%\n", + "12\t검증 세트 손실: 12298.196289\t최선의 손실: 1.589923\t정확도: 96.13%\n", + "13\t검증 세트 손실: 21907.972656\t최선의 손실: 1.589923\t정확도: 95.11%\n", + "14\t검증 세트 손실: 43848.175781\t최선의 손실: 1.589923\t정확도: 90.70%\n", + "15\t검증 세트 손실: 18387.980469\t최선의 손실: 1.589923\t정확도: 92.92%\n", + "16\t검증 세트 손실: 11244.856445\t최선의 손실: 1.589923\t정확도: 96.33%\n", + "17\t검증 세트 손실: 14102.758789\t최선의 손실: 1.589923\t정확도: 95.50%\n", + "18\t검증 세트 손실: 24512.144531\t최선의 손실: 1.589923\t정확도: 94.21%\n", + "19\t검증 세트 손실: 25707.753906\t최선의 손실: 1.589923\t정확도: 96.13%\n", + "20\t검증 세트 손실: 3218251.750000\t최선의 손실: 1.589923\t정확도: 94.06%\n", + "21\t검증 세트 손실: 946147.687500\t최선의 손실: 1.589923\t정확도: 96.09%\n", + "22\t검증 세트 손실: 727818.000000\t최선의 손실: 1.589923\t정확도: 95.93%\n", + "23\t검증 세트 손실: 1957158.625000\t최선의 손실: 1.589923\t정확도: 93.55%\n", + "24\t검증 세트 손실: 406315.593750\t최선의 손실: 1.589923\t정확도: 95.00%\n", + "25\t검증 세트 손실: 210532.421875\t최선의 손실: 1.589923\t정확도: 96.60%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 15.3s\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 1.413544\t최선의 손실: 1.413544\t정확도: 31.43%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "5\t검증 세트 손실: 50808.320312\t최선의 손실: 4.809076\t정확도: 77.68%\n", - "6\t검증 세트 손실: 117043.687500\t최선의 손실: 4.809076\t정확도: 75.18%\n", - "7\t검증 세트 손실: 9752.245117\t최선의 손실: 4.809076\t정확도: 87.26%\n", - "8\t검증 세트 손실: 8739.731445\t최선의 손실: 4.809076\t정확도: 86.40%\n", - "9\t검증 세트 손실: 8099.626953\t최선의 손실: 4.809076\t정확도: 78.07%\n", - "10\t검증 세트 손실: 31326.693359\t최선의 손실: 4.809076\t정확도: 76.82%\n", - "11\t검증 세트 손실: 4223.566895\t최선의 손실: 4.809076\t정확도: 94.29%\n", - "12\t검증 세트 손실: 3320.403809\t최선의 손실: 4.809076\t정확도: 92.22%\n", - "13\t검증 세트 손실: 16068.195312\t최선의 손실: 4.809076\t정확도: 78.50%\n", - "14\t검증 세트 손실: 6137.160645\t최선의 손실: 4.809076\t정확도: 92.18%\n", - "15\t검증 세트 손실: 2195.675293\t최선의 손실: 4.809076\t정확도: 95.19%\n", - "16\t검증 세트 손실: 2963.812500\t최선의 손실: 4.809076\t정확도: 93.63%\n", - "17\t검증 세트 손실: 130073488.000000\t최선의 손실: 4.809076\t정확도: 36.16%\n", - "18\t검증 세트 손실: 2311880.250000\t최선의 손실: 4.809076\t정확도: 93.00%\n", - "19\t검증 세트 손실: 999952.000000\t최선의 손실: 4.809076\t정확도: 94.84%\n", - "20\t검증 세트 손실: 1011524.875000\t최선의 손실: 4.809076\t정확도: 94.41%\n", - "21\t검증 세트 손실: 444428.562500\t최선의 손실: 4.809076\t정확도: 95.58%\n", + "1\t검증 세트 손실: 1.026415\t최선의 손실: 1.026415\t정확도: 52.70%\n", + "2\t검증 세트 손실: 1.065418\t최선의 손실: 1.026415\t정확도: 52.74%\n", + "3\t검증 세트 손실: 1.375513\t최선의 손실: 1.026415\t정확도: 50.70%\n", + "4\t검증 세트 손실: 1.906497\t최선의 손실: 1.026415\t정확도: 23.69%\n", + "5\t검증 세트 손실: 1.720303\t최선의 손실: 1.026415\t정확도: 34.60%\n", + "6\t검증 세트 손실: 1.698483\t최선의 손실: 1.026415\t정확도: 32.60%\n", + "7\t검증 세트 손실: 1.494347\t최선의 손실: 1.026415\t정확도: 24.86%\n", + "8\t검증 세트 손실: 1.558781\t최선의 손실: 1.026415\t정확도: 22.48%\n", + "9\t검증 세트 손실: 1.462319\t최선의 손실: 1.026415\t정확도: 35.81%\n", + "10\t검증 세트 손실: 2.401258\t최선의 손실: 1.026415\t정확도: 19.31%\n", + "11\t검증 세트 손실: 19.610334\t최선의 손실: 1.026415\t정확도: 22.40%\n", + "12\t검증 세트 손실: 13.673221\t최선의 손실: 1.026415\t정확도: 18.73%\n", + "13\t검증 세트 손실: 7.496962\t최선의 손실: 1.026415\t정확도: 18.69%\n", + "14\t검증 세트 손실: 52.720211\t최선의 손실: 1.026415\t정확도: 24.08%\n", + "15\t검증 세트 손실: 12.131811\t최선의 손실: 1.026415\t정확도: 19.98%\n", + "16\t검증 세트 손실: 43.506809\t최선의 손실: 1.026415\t정확도: 19.08%\n", + "17\t검증 세트 손실: 25.391029\t최선의 손실: 1.026415\t정확도: 20.52%\n", + "18\t검증 세트 손실: 23.624935\t최선의 손실: 1.026415\t정확도: 20.88%\n", + "19\t검증 세트 손실: 15.778535\t최선의 손실: 1.026415\t정확도: 20.64%\n", + "20\t검증 세트 손실: 111.902390\t최선의 손실: 1.026415\t정확도: 19.27%\n", + "21\t검증 세트 손실: 16.438395\t최선의 손실: 1.026415\t정확도: 22.13%\n", + "22\t검증 세트 손실: 7.111759\t최선의 손실: 1.026415\t정확도: 20.41%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 13.5s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n", - "0\t검증 세트 손실: 187.042633\t최선의 손실: 187.042633\t정확도: 72.05%\n", - "1\t검증 세트 손실: 43.710331\t최선의 손실: 43.710331\t정확도: 89.17%\n", - "2\t검증 세트 손실: 27.601871\t최선의 손실: 27.601871\t정확도: 91.56%\n", - "3\t검증 세트 손실: 14.605426\t최선의 손실: 14.605426\t정확도: 94.41%\n", - "4\t검증 세트 손실: 8.431691\t최선의 손실: 8.431691\t정확도: 94.84%\n", - "5\t검증 세트 손실: 43.751019\t최선의 손실: 8.431691\t정확도: 88.43%\n", - "6\t검증 세트 손실: 16.902348\t최선의 손실: 8.431691\t정확도: 94.80%\n", - "7\t검증 세트 손실: 11.636637\t최선의 손실: 8.431691\t정확도: 94.64%\n", - "8\t검증 세트 손실: 12.522332\t최선의 손실: 8.431691\t정확도: 89.37%\n", - "9\t검증 세트 손실: 6.499488\t최선의 손실: 6.499488\t정확도: 93.78%\n", - "10\t검증 세트 손실: 691544.937500\t최선의 손실: 6.499488\t정확도: 80.69%\n", - "11\t검증 세트 손실: 273113.406250\t최선의 손실: 6.499488\t정확도: 90.23%\n", - "12\t검증 세트 손실: 681276.187500\t최선의 손실: 6.499488\t정확도: 76.31%\n", - "13\t검증 세트 손실: 128063.937500\t최선의 손실: 6.499488\t정확도: 93.12%\n", - "14\t검증 세트 손실: 136832.843750\t최선의 손실: 6.499488\t정확도: 89.44%\n", - "15\t검증 세트 손실: 6293546.000000\t최선의 손실: 6.499488\t정확도: 62.28%\n", - "16\t검증 세트 손실: 418647.156250\t최선의 손실: 6.499488\t정확도: 90.77%\n", - "17\t검증 세트 손실: 159149.000000\t최선의 손실: 6.499488\t정확도: 94.53%\n", - "18\t검증 세트 손실: 228270.531250\t최선의 손실: 6.499488\t정확도: 93.04%\n", - "19\t검증 세트 손실: 242883.421875\t최선의 손실: 6.499488\t정확도: 94.41%\n", - "20\t검증 세트 손실: 459259.906250\t최선의 손실: 6.499488\t정확도: 95.04%\n", - "21\t검증 세트 손실: 213868.140625\t최선의 손실: 6.499488\t정확도: 94.96%\n", - "22\t검증 세트 손실: 358031.375000\t최선의 손실: 6.499488\t정확도: 82.17%\n", - "23\t검증 세트 손실: 129490.179688\t최선의 손실: 6.499488\t정확도: 94.14%\n", - "24\t검증 세트 손실: 111819.648438\t최선의 손실: 6.499488\t정확도: 95.11%\n", - "25\t검증 세트 손실: 62483.445312\t최선의 손실: 6.499488\t정확도: 94.68%\n", - "26\t검증 세트 손실: 135698.062500\t최선의 손실: 6.499488\t정확도: 94.57%\n", - "27\t검증 세트 손실: 141749.312500\t최선의 손실: 6.499488\t정확도: 94.49%\n", - "28\t검증 세트 손실: 275729.000000\t최선의 손실: 6.499488\t정확도: 76.51%\n", - "29\t검증 세트 손실: 82099920.000000\t최선의 손실: 6.499488\t정확도: 92.30%\n", - "30\t검증 세트 손실: 7146740.000000\t최선의 손실: 6.499488\t정확도: 95.82%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.4s\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 1.329223\t최선의 손실: 1.329223\t정확도: 32.17%\n", + "1\t검증 세트 손실: 1.124494\t최선의 손실: 1.124494\t정확도: 50.39%\n", + "2\t검증 세트 손실: 1.151137\t최선의 손실: 1.124494\t정확도: 49.84%\n", + "3\t검증 세트 손실: 1.294814\t최선의 손실: 1.124494\t정확도: 37.80%\n", + "4\t검증 세트 손실: 1.242948\t최선의 손실: 1.124494\t정확도: 38.31%\n", + "5\t검증 세트 손실: 1.245126\t최선의 손실: 1.124494\t정확도: 37.69%\n", + "6\t검증 세트 손실: 3.101928\t최선의 손실: 1.124494\t정확도: 31.82%\n", + "7\t검증 세트 손실: 22.998749\t최선의 손실: 1.124494\t정확도: 18.73%\n", + "8\t검증 세트 손실: 12.610106\t최선의 손실: 1.124494\t정확도: 37.14%\n", + "9\t검증 세트 손실: 9.055843\t최선의 손실: 1.124494\t정확도: 20.91%\n", + "10\t검증 세트 손실: 10.686062\t최선의 손실: 1.124494\t정확도: 22.01%\n", + "11\t검증 세트 손실: 3.117454\t최선의 손실: 1.124494\t정확도: 36.79%\n", + "12\t검증 세트 손실: 94.135941\t최선의 손실: 1.124494\t정확도: 22.01%\n", + "13\t검증 세트 손실: 4.343985\t최선의 손실: 1.124494\t정확도: 29.79%\n", + "14\t검증 세트 손실: 4.883453\t최선의 손실: 1.124494\t정확도: 22.75%\n", + "15\t검증 세트 손실: 14.368178\t최선의 손실: 1.124494\t정확도: 20.91%\n", + "16\t검증 세트 손실: 68.538231\t최선의 손실: 1.124494\t정확도: 18.73%\n", + "17\t검증 세트 손실: 61.133816\t최선의 손실: 1.124494\t정확도: 21.50%\n", + "18\t검증 세트 손실: 25.796656\t최선의 손실: 1.124494\t정확도: 19.12%\n", + "19\t검증 세트 손실: 17.524025\t최선의 손실: 1.124494\t정확도: 21.58%\n", + "20\t검증 세트 손실: 9.232862\t최선의 손실: 1.124494\t정확도: 22.52%\n", + "21\t검증 세트 손실: 24.643133\t최선의 손실: 1.124494\t정확도: 18.96%\n", + "22\t검증 세트 손실: 8.177163\t최선의 손실: 1.124494\t정확도: 28.26%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 18.6s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 1.209535\t최선의 손실: 1.209535\t정확도: 38.31%\n", - "1\t검증 세트 손실: 1.089813\t최선의 손실: 1.089813\t정확도: 51.02%\n", - "2\t검증 세트 손실: 1.142773\t최선의 손실: 1.089813\t정확도: 46.56%\n", - "3\t검증 세트 손실: 1.354485\t최선의 손실: 1.089813\t정확도: 31.12%\n", - "4\t검증 세트 손실: 1.594454\t최선의 손실: 1.089813\t정확도: 24.86%\n", - "5\t검증 세트 손실: 1.568830\t최선의 손실: 1.089813\t정확도: 25.29%\n", - "6\t검증 세트 손실: 1.599061\t최선의 손실: 1.089813\t정확도: 22.71%\n", - "7\t검증 세트 손실: 1.615541\t최선의 손실: 1.089813\t정확도: 22.13%\n", - "8\t검증 세트 손실: 1.529886\t최선의 손실: 1.089813\t정확도: 28.62%\n", - "9\t검증 세트 손실: 1.551762\t최선의 손실: 1.089813\t정확도: 24.63%\n", - "10\t검증 세트 손실: 1.486638\t최선의 손실: 1.089813\t정확도: 35.54%\n", - "11\t검증 세트 손실: 1.480512\t최선의 손실: 1.089813\t정확도: 31.27%\n", - "12\t검증 세트 손실: 1.764749\t최선의 손실: 1.089813\t정확도: 26.00%\n", - "13\t검증 세트 손실: 4.180819\t최선의 손실: 1.089813\t정확도: 25.92%\n", - "14\t검증 세트 손실: 1.677966\t최선의 손실: 1.089813\t정확도: 32.53%\n", - "15\t검증 세트 손실: 2.198900\t최선의 손실: 1.089813\t정확도: 22.01%\n", - "16\t검증 세트 손실: 2.062979\t최선의 손실: 1.089813\t정확도: 35.77%\n", - "17\t검증 세트 손실: 2.983961\t최선의 손실: 1.089813\t정확도: 22.17%\n", - "18\t검증 세트 손실: 2.974869\t최선의 손실: 1.089813\t정확도: 30.65%\n", - "19\t검증 세트 손실: 1.663492\t최선의 손실: 1.089813\t정확도: 26.74%\n", - "20\t검증 세트 손실: 6.202923\t최선의 손실: 1.089813\t정확도: 30.34%\n", - "21\t검증 세트 손실: 3.923892\t최선의 손실: 1.089813\t정확도: 21.74%\n", - "22\t검증 세트 손실: 2.128598\t최선의 손실: 1.089813\t정확도: 22.99%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.4s\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 1.185093\t최선의 손실: 1.185093\t정확도: 48.44%\n", + "1\t검증 세트 손실: 1.155169\t최선의 손실: 1.155169\t정확도: 43.71%\n", + "2\t검증 세트 손실: 1.643811\t최선의 손실: 1.155169\t정확도: 22.87%\n", + "3\t검증 세트 손실: 1.539786\t최선의 손실: 1.155169\t정확도: 29.44%\n", + "4\t검증 세트 손실: 1.484536\t최선의 손실: 1.155169\t정확도: 32.29%\n", + "5\t검증 세트 손실: 1.490531\t최선의 손실: 1.155169\t정확도: 35.73%\n", + "6\t검증 세트 손실: 1.485364\t최선의 손실: 1.155169\t정확도: 31.94%\n", + "7\t검증 세트 손실: 1.505507\t최선의 손실: 1.155169\t정확도: 33.42%\n", + "8\t검증 세트 손실: 1.844182\t최선의 손실: 1.155169\t정확도: 31.04%\n", + "9\t검증 세트 손실: 5.980415\t최선의 손실: 1.155169\t정확도: 29.44%\n", + "10\t검증 세트 손실: 4.293168\t최선의 손실: 1.155169\t정확도: 27.37%\n", + "11\t검증 세트 손실: 8.084300\t최선의 손실: 1.155169\t정확도: 19.27%\n", + "12\t검증 세트 손실: 8.305520\t최선의 손실: 1.155169\t정확도: 14.43%\n", + "13\t검증 세트 손실: 6.895261\t최선의 손실: 1.155169\t정확도: 30.61%\n", + "14\t검증 세트 손실: 14.161807\t최선의 손실: 1.155169\t정확도: 19.08%\n", + "15\t검증 세트 손실: 5.159733\t최선의 손실: 1.155169\t정확도: 23.73%\n", + "16\t검증 세트 손실: 4.246921\t최선의 손실: 1.155169\t정확도: 24.94%\n", + "17\t검증 세트 손실: 3.662572\t최선의 손실: 1.155169\t정확도: 24.86%\n", + "18\t검증 세트 손실: 4.807563\t최선의 손실: 1.155169\t정확도: 23.65%\n", + "19\t검증 세트 손실: 4.704042\t최선의 손실: 1.155169\t정확도: 30.88%\n", + "20\t검증 세트 손실: 2.213684\t최선의 손실: 1.155169\t정확도: 18.84%\n", + "21\t검증 세트 손실: 3.302686\t최선의 손실: 1.155169\t정확도: 32.17%\n", + "22\t검증 세트 손실: 10.833278\t최선의 손실: 1.155169\t정확도: 18.80%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 13.6s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 1.357058\t최선의 손실: 1.357058\t정확도: 38.51%\n", - "1\t검증 세트 손실: 1.232482\t최선의 손실: 1.232482\t정확도: 48.12%\n", - "2\t검증 세트 손실: 1.322143\t최선의 손실: 1.232482\t정확도: 36.98%\n", - "3\t검증 세트 손실: 1.616197\t최선의 손실: 1.232482\t정확도: 24.94%\n", - "4\t검증 세트 손실: 1.461936\t최선의 손실: 1.232482\t정확도: 33.03%\n", - "5\t검증 세트 손실: 1.536854\t최선의 손실: 1.232482\t정확도: 31.90%\n", - "6\t검증 세트 손실: 1.472599\t최선의 손실: 1.232482\t정확도: 33.85%\n", - "7\t검증 세트 손실: 1.547379\t최선의 손실: 1.232482\t정확도: 37.33%\n", - "8\t검증 세트 손실: 1.729134\t최선의 손실: 1.232482\t정확도: 24.28%\n", - "9\t검증 세트 손실: 2.610099\t최선의 손실: 1.232482\t정확도: 38.58%\n", - "10\t검증 세트 손실: 1.991397\t최선의 손실: 1.232482\t정확도: 27.48%\n", - "11\t검증 세트 손실: 4.220920\t최선의 손실: 1.232482\t정확도: 29.91%\n", - "12\t검증 세트 손실: 4.835096\t최선의 손실: 1.232482\t정확도: 21.81%\n", - "13\t검증 세트 손실: 9.269316\t최선의 손실: 1.232482\t정확도: 19.04%\n", - "14\t검증 세트 손실: 5.863304\t최선의 손실: 1.232482\t정확도: 26.23%\n", - "15\t검증 세트 손실: 3.191941\t최선의 손실: 1.232482\t정확도: 29.87%\n", - "16\t검증 세트 손실: 3.221937\t최선의 손실: 1.232482\t정확도: 23.81%\n", - "17\t검증 세트 손실: 5.110563\t최선의 손실: 1.232482\t정확도: 35.18%\n", - "18\t검증 세트 손실: 10.009648\t최선의 손실: 1.232482\t정확도: 20.91%\n", - "19\t검증 세트 손실: 11.104661\t최선의 손실: 1.232482\t정확도: 21.19%\n", - "20\t검증 세트 손실: 7.998678\t최선의 손실: 1.232482\t정확도: 22.01%\n", - "21\t검증 세트 손실: 6.328785\t최선의 손실: 1.232482\t정확도: 35.22%\n", - "22\t검증 세트 손실: 21.491182\t최선의 손실: 1.232482\t정확도: 20.21%\n", + "[CV] n_neurons=100, learning_rate=0.02, dropout_rate=0.6, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.4s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.224915\t최선의 손실: 0.224915\t정확도: 92.57%\n", + "1\t검증 세트 손실: 0.709757\t최선의 손실: 0.224915\t정확도: 75.33%\n", + "2\t검증 세트 손실: 0.525042\t최선의 손실: 0.224915\t정확도: 84.48%\n", + "3\t검증 세트 손실: 0.443341\t최선의 손실: 0.224915\t정확도: 85.26%\n", + "4\t검증 세트 손실: 0.547985\t최선의 손실: 0.224915\t정확도: 79.20%\n", + "5\t검증 세트 손실: 0.674823\t최선의 손실: 0.224915\t정확도: 81.98%\n", + "6\t검증 세트 손실: 0.680576\t최선의 손실: 0.224915\t정확도: 72.28%\n", + "7\t검증 세트 손실: 0.725112\t최선의 손실: 0.224915\t정확도: 71.23%\n", + "8\t검증 세트 손실: 1.003516\t최선의 손실: 0.224915\t정확도: 56.41%\n", + "9\t검증 세트 손실: 0.852555\t최선의 손실: 0.224915\t정확도: 66.81%\n", + "10\t검증 세트 손실: 1.064501\t최선의 손실: 0.224915\t정확도: 52.15%\n", + "11\t검증 세트 손실: 1.042638\t최선의 손실: 0.224915\t정확도: 52.89%\n", + "12\t검증 세트 손실: 0.931199\t최선의 손실: 0.224915\t정확도: 53.67%\n", + "13\t검증 세트 손실: 1.205281\t최선의 손실: 0.224915\t정확도: 50.04%\n", + "14\t검증 세트 손실: 1.164142\t최선의 손실: 0.224915\t정확도: 53.09%\n", + "15\t검증 세트 손실: 1.978084\t최선의 손실: 0.224915\t정확도: 47.54%\n", + "16\t검증 세트 손실: 1.204544\t최선의 손실: 0.224915\t정확도: 52.78%\n", + "17\t검증 세트 손실: 1.047948\t최선의 손실: 0.224915\t정확도: 55.79%\n", + "18\t검증 세트 손실: 1.614010\t최선의 손실: 0.224915\t정확도: 51.95%\n", + "19\t검증 세트 손실: 1.117556\t최선의 손실: 0.224915\t정확도: 60.32%\n", + "20\t검증 세트 손실: 1.046169\t최선의 손실: 0.224915\t정확도: 55.12%\n", + "21\t검증 세트 손실: 1.224187\t최선의 손실: 0.224915\t정확도: 52.31%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 13.7s\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 1.209679\t최선의 손실: 1.209679\t정확도: 48.55%\n", - "1\t검증 세트 손실: 1.147614\t최선의 손실: 1.147614\t정확도: 44.29%\n", - "2\t검증 세트 손실: 1.466882\t최선의 손실: 1.147614\t정확도: 34.48%\n", - "3\t검증 세트 손실: 1.568259\t최선의 손실: 1.147614\t정확도: 26.90%\n", - "4\t검증 세트 손실: 1.651907\t최선의 손실: 1.147614\t정확도: 23.92%\n", - "5\t검증 세트 손실: 1.609950\t최선의 손실: 1.147614\t정확도: 34.56%\n", - "6\t검증 세트 손실: 1.536374\t최선의 손실: 1.147614\t정확도: 32.45%\n", - "7\t검증 세트 손실: 1.492543\t최선의 손실: 1.147614\t정확도: 30.73%\n", - "8\t검증 세트 손실: 1.925661\t최선의 손실: 1.147614\t정확도: 36.04%\n", - "9\t검증 세트 손실: 1.530353\t최선의 손실: 1.147614\t정확도: 34.79%\n", - "10\t검증 세트 손실: 1.729318\t최선의 손실: 1.147614\t정확도: 35.57%\n", - "11\t검증 세트 손실: 2.307492\t최선의 손실: 1.147614\t정확도: 34.68%\n", - "12\t검증 세트 손실: 3.608251\t최선의 손실: 1.147614\t정확도: 14.97%\n", - "13\t검증 세트 손실: 10.293470\t최선의 손실: 1.147614\t정확도: 19.08%\n", - "14\t검증 세트 손실: 5.912032\t최선의 손실: 1.147614\t정확도: 25.57%\n", - "15\t검증 세트 손실: 89.763275\t최선의 손실: 1.147614\t정확도: 29.71%\n", - "16\t검증 세트 손실: 8.580408\t최선의 손실: 1.147614\t정확도: 20.05%\n", - "17\t검증 세트 손실: 13.986801\t최선의 손실: 1.147614\t정확도: 20.91%\n", - "18\t검증 세트 손실: 20.706451\t최선의 손실: 1.147614\t정확도: 21.66%\n", - "19\t검증 세트 손실: 7.429577\t최선의 손실: 1.147614\t정확도: 33.85%\n", - "20\t검증 세트 손실: 4.176493\t최선의 손실: 1.147614\t정확도: 35.65%\n", - "21\t검증 세트 손실: 9.342262\t최선의 손실: 1.147614\t정확도: 36.40%\n", - "22\t검증 세트 손실: 7.226376\t최선의 손실: 1.147614\t정확도: 29.79%\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.9s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.422191\t최선의 손실: 0.422191\t정확도: 88.23%\n", + "1\t검증 세트 손실: 0.499525\t최선의 손실: 0.422191\t정확도: 82.17%\n", + "2\t검증 세트 손실: 0.567331\t최선의 손실: 0.422191\t정확도: 78.69%\n", + "3\t검증 세트 손실: 1.051445\t최선의 손실: 0.422191\t정확도: 49.14%\n", + "4\t검증 세트 손실: 0.605480\t최선의 손실: 0.422191\t정확도: 74.82%\n", + "5\t검증 세트 손실: 1.019400\t최선의 손실: 0.422191\t정확도: 53.99%\n", + "6\t검증 세트 손실: 1.055902\t최선의 손실: 0.422191\t정확도: 52.27%\n", + "7\t검증 세트 손실: 0.953560\t최선의 손실: 0.422191\t정확도: 56.61%\n", + "8\t검증 세트 손실: 1.149188\t최선의 손실: 0.422191\t정확도: 48.08%\n", + "9\t검증 세트 손실: 1.099691\t최선의 손실: 0.422191\t정확도: 52.42%\n", + "10\t검증 세트 손실: 1.184705\t최선의 손실: 0.422191\t정확도: 48.48%\n", + "11\t검증 세트 손실: 1.163435\t최선의 손실: 0.422191\t정확도: 46.79%\n", + "12\t검증 세트 손실: 1.301031\t최선의 손실: 0.422191\t정확도: 36.55%\n", + "13\t검증 세트 손실: 1.134333\t최선의 손실: 0.422191\t정확도: 42.69%\n", + "14\t검증 세트 손실: 0.991146\t최선의 손실: 0.422191\t정확도: 58.37%\n", + "15\t검증 세트 손실: 1.470239\t최선의 손실: 0.422191\t정확도: 41.01%\n", + "16\t검증 세트 손실: 1.113353\t최선의 손실: 0.422191\t정확도: 50.51%\n", + "17\t검증 세트 손실: 1.058444\t최선의 손실: 0.422191\t정확도: 54.96%\n", + "18\t검증 세트 손실: 1.026807\t최선의 손실: 0.422191\t정확도: 52.66%\n", + "19\t검증 세트 손실: 1.200340\t최선의 손실: 0.422191\t정확도: 45.19%\n", + "20\t검증 세트 손실: 0.997469\t최선의 손실: 0.422191\t정확도: 56.49%\n", + "21\t검증 세트 손실: 1.157789\t최선의 손실: 0.422191\t정확도: 45.50%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.6, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 13.7s\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.349935\t최선의 손실: 0.349935\t정확도: 91.20%\n", - "1\t검증 세트 손실: 0.834724\t최선의 손실: 0.349935\t정확도: 56.49%\n", - "2\t검증 세트 손실: 0.906617\t최선의 손실: 0.349935\t정확도: 76.58%\n", - "3\t검증 세트 손실: 0.799141\t최선의 손실: 0.349935\t정확도: 81.51%\n", - "4\t검증 세트 손실: 0.910615\t최선의 손실: 0.349935\t정확도: 61.92%\n", - "5\t검증 세트 손실: 0.770598\t최선의 손실: 0.349935\t정확도: 70.91%\n", - "6\t검증 세트 손실: 0.747538\t최선의 손실: 0.349935\t정확도: 68.80%\n", - "7\t검증 세트 손실: 0.916746\t최선의 손실: 0.349935\t정확도: 61.26%\n" + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.8s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.367013\t최선의 손실: 0.367013\t정확도: 90.38%\n", + "1\t검증 세트 손실: 0.581543\t최선의 손실: 0.367013\t정확도: 80.81%\n", + "2\t검증 세트 손실: 0.498830\t최선의 손실: 0.367013\t정확도: 84.28%\n", + "3\t검증 세트 손실: 0.457979\t최선의 손실: 0.367013\t정확도: 83.58%\n", + "4\t검증 세트 손실: 0.726412\t최선의 손실: 0.367013\t정확도: 75.61%\n", + "5\t검증 세트 손실: 0.778242\t최선의 손실: 0.367013\t정확도: 70.68%\n", + "6\t검증 세트 손실: 0.641286\t최선의 손실: 0.367013\t정확도: 71.42%\n", + "7\t검증 세트 손실: 0.909347\t최선의 손실: 0.367013\t정확도: 56.02%\n", + "8\t검증 세트 손실: 1.407637\t최선의 손실: 0.367013\t정확도: 52.07%\n", + "9\t검증 세트 손실: 0.861122\t최선의 손실: 0.367013\t정확도: 65.56%\n", + "10\t검증 세트 손실: 0.993457\t최선의 손실: 0.367013\t정확도: 53.21%\n", + "11\t검증 세트 손실: 1.032664\t최선의 손실: 0.367013\t정확도: 54.03%\n", + "12\t검증 세트 손실: 1.200390\t최선의 손실: 0.367013\t정확도: 51.06%\n", + "13\t검증 세트 손실: 1.599402\t최선의 손실: 0.367013\t정확도: 36.94%\n", + "14\t검증 세트 손실: 1.264948\t최선의 손실: 0.367013\t정확도: 43.39%\n", + "15\t검증 세트 손실: 1.257890\t최선의 손실: 0.367013\t정확도: 40.03%\n", + "16\t검증 세트 손실: 1.219534\t최선의 손실: 0.367013\t정확도: 41.63%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "8\t검증 세트 손실: 0.664030\t최선의 손실: 0.349935\t정확도: 70.99%\n", - "9\t검증 세트 손실: 1.229623\t최선의 손실: 0.349935\t정확도: 48.91%\n", - "10\t검증 세트 손실: 0.787489\t최선의 손실: 0.349935\t정확도: 67.63%\n", - "11\t검증 세트 손실: 0.959435\t최선의 손실: 0.349935\t정확도: 61.53%\n", - "12\t검증 세트 손실: 1.168812\t최선의 손실: 0.349935\t정확도: 51.80%\n", - "13\t검증 세트 손실: 0.981016\t최선의 손실: 0.349935\t정확도: 53.95%\n", - "14\t검증 세트 손실: 1.112092\t최선의 손실: 0.349935\t정확도: 50.70%\n", - "15\t검증 세트 손실: 0.995639\t최선의 손실: 0.349935\t정확도: 57.82%\n", - "16\t검증 세트 손실: 0.967494\t최선의 손실: 0.349935\t정확도: 54.34%\n", - "17\t검증 세트 손실: 1.039945\t최선의 손실: 0.349935\t정확도: 59.27%\n", - "18\t검증 세트 손실: 2.196686\t최선의 손실: 0.349935\t정확도: 28.66%\n", - "19\t검증 세트 손실: 1.741438\t최선의 손실: 0.349935\t정확도: 35.38%\n", - "20\t검증 세트 손실: 1.735731\t최선의 손실: 0.349935\t정확도: 40.81%\n", - "21\t검증 세트 손실: 1.326596\t최선의 손실: 0.349935\t정확도: 41.95%\n", + "17\t검증 세트 손실: 1.642448\t최선의 손실: 0.367013\t정확도: 35.22%\n", + "18\t검증 세트 손실: 1.677554\t최선의 손실: 0.367013\t정확도: 26.08%\n", + "19\t검증 세트 손실: 1.141945\t최선의 손실: 0.367013\t정확도: 52.46%\n", + "20\t검증 세트 손실: 1.172850\t최선의 손실: 0.367013\t정확도: 45.00%\n", + "21\t검증 세트 손실: 1.170444\t최선의 손실: 0.367013\t정확도: 47.97%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 59.1s\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.431303\t최선의 손실: 0.431303\t정확도: 85.81%\n", - "1\t검증 세트 손실: 0.705201\t최선의 손실: 0.431303\t정확도: 77.13%\n", - "2\t검증 세트 손실: 0.575120\t최선의 손실: 0.431303\t정확도: 75.92%\n", - "3\t검증 세트 손실: 0.673671\t최선의 손실: 0.431303\t정확도: 72.17%\n", - "4\t검증 세트 손실: 1.085364\t최선의 손실: 0.431303\t정확도: 62.59%\n", - "5\t검증 세트 손실: 1.119733\t최선의 손실: 0.431303\t정확도: 47.62%\n", - "6\t검증 세트 손실: 0.999127\t최선의 손실: 0.431303\t정확도: 63.92%\n", - "7\t검증 세트 손실: 1.058674\t최선의 손실: 0.431303\t정확도: 54.81%\n", - "8\t검증 세트 손실: 1.792455\t최선의 손실: 0.431303\t정확도: 37.22%\n", - "9\t검증 세트 손실: 1.125553\t최선의 손실: 0.431303\t정확도: 51.29%\n", - "10\t검증 세트 손실: 1.019437\t최선의 손실: 0.431303\t정확도: 55.28%\n", - "11\t검증 세트 손실: 1.105839\t최선의 손실: 0.431303\t정확도: 54.46%\n", - "12\t검증 세트 손실: 1.316742\t최선의 손실: 0.431303\t정확도: 34.87%\n", - "13\t검증 세트 손실: 1.283758\t최선의 손실: 0.431303\t정확도: 44.14%\n", - "14\t검증 세트 손실: 1.589319\t최선의 손실: 0.431303\t정확도: 52.50%\n", - "15\t검증 세트 손실: 1.993692\t최선의 손실: 0.431303\t정확도: 38.74%\n", - "16\t검증 세트 손실: 1.442496\t최선의 손실: 0.431303\t정확도: 40.27%\n", - "17\t검증 세트 손실: 1.312326\t최선의 손실: 0.431303\t정확도: 41.40%\n", - "18\t검증 세트 손실: 1.585425\t최선의 손실: 0.431303\t정확도: 31.63%\n", - "19\t검증 세트 손실: 1.350260\t최선의 손실: 0.431303\t정확도: 38.00%\n", - "20\t검증 세트 손실: 1.481212\t최선의 손실: 0.431303\t정확도: 39.09%\n", - "21\t검증 세트 손실: 2.441567\t최선의 손실: 0.431303\t정확도: 35.93%\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.4, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.8s\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.232219\t최선의 손실: 0.232219\t정확도: 93.55%\n", + "1\t검증 세트 손실: 0.181717\t최선의 손실: 0.181717\t정확도: 95.47%\n", + "2\t검증 세트 손실: 0.132637\t최선의 손실: 0.132637\t정확도: 96.36%\n", + "3\t검증 세트 손실: 0.123457\t최선의 손실: 0.123457\t정확도: 96.29%\n", + "4\t검증 세트 손실: 0.117591\t최선의 손실: 0.117591\t정확도: 96.95%\n", + "5\t검증 세트 손실: 0.126999\t최선의 손실: 0.117591\t정확도: 96.48%\n", + "6\t검증 세트 손실: 0.133959\t최선의 손실: 0.117591\t정확도: 96.87%\n", + "7\t검증 세트 손실: 0.456678\t최선의 손실: 0.117591\t정확도: 90.07%\n", + "8\t검증 세트 손실: 2.654778\t최선의 손실: 0.117591\t정확도: 27.83%\n", + "9\t검증 세트 손실: 2.516806\t최선의 손실: 0.117591\t정확도: 27.87%\n", + "10\t검증 세트 손실: 1.350619\t최선의 손실: 0.117591\t정확도: 46.60%\n", + "11\t검증 세트 손실: 1.026515\t최선의 손실: 0.117591\t정확도: 50.98%\n", + "12\t검증 세트 손실: 1.019318\t최선의 손실: 0.117591\t정확도: 50.94%\n", + "13\t검증 세트 손실: 1.064733\t최선의 손실: 0.117591\t정확도: 52.31%\n", + "14\t검증 세트 손실: 0.956710\t최선의 손실: 0.117591\t정확도: 60.20%\n", + "15\t검증 세트 손실: 0.890382\t최선의 손실: 0.117591\t정확도: 62.98%\n", + "16\t검증 세트 손실: 0.859915\t최선의 손실: 0.117591\t정확도: 61.26%\n", + "17\t검증 세트 손실: 0.773847\t최선의 손실: 0.117591\t정확도: 72.20%\n", + "18\t검증 세트 손실: 0.761107\t최선의 손실: 0.117591\t정확도: 71.19%\n", + "19\t검증 세트 손실: 8.997030\t최선의 손실: 0.117591\t정확도: 34.32%\n", + "20\t검증 세트 손실: 20.584011\t최선의 손실: 0.117591\t정확도: 40.07%\n", + "21\t검증 세트 손실: 3.775753\t최선의 손실: 0.117591\t정확도: 37.80%\n", + "22\t검증 세트 손실: 4.194923\t최선의 손실: 0.117591\t정확도: 21.93%\n", + "23\t검증 세트 손실: 113.238190\t최선의 손실: 0.117591\t정확도: 20.91%\n", + "24\t검증 세트 손실: 159.644211\t최선의 손실: 0.117591\t정확도: 20.91%\n", + "25\t검증 세트 손실: 15174.387695\t최선의 손실: 0.117591\t정확도: 24.67%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 59.3s\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.509151\t최선의 손실: 0.509151\t정확도: 88.12%\n", - "1\t검증 세트 손실: 0.545436\t최선의 손실: 0.509151\t정확도: 79.59%\n", - "2\t검증 세트 손실: 0.712667\t최선의 손실: 0.509151\t정확도: 69.74%\n", - "3\t검증 세트 손실: 1.010594\t최선의 손실: 0.509151\t정확도: 61.49%\n", - "4\t검증 세트 손실: 1.263853\t최선의 손실: 0.509151\t정확도: 48.16%\n", - "5\t검증 세트 손실: 1.408302\t최선의 손실: 0.509151\t정확도: 31.98%\n", - "6\t검증 세트 손실: 1.191644\t최선의 손실: 0.509151\t정확도: 45.74%\n", - "7\t검증 세트 손실: 0.986051\t최선의 손실: 0.509151\t정확도: 52.07%\n", - "8\t검증 세트 손실: 0.938623\t최선의 손실: 0.509151\t정확도: 55.86%\n", - "9\t검증 세트 손실: 1.101210\t최선의 손실: 0.509151\t정확도: 48.79%\n", - "10\t검증 세트 손실: 0.991213\t최선의 손실: 0.509151\t정확도: 57.00%\n", - "11\t검증 세트 손실: 1.217354\t최선의 손실: 0.509151\t정확도: 48.75%\n", - "12\t검증 세트 손실: 1.164959\t최선의 손실: 0.509151\t정확도: 47.03%\n", - "13\t검증 세트 손실: 0.988234\t최선의 손실: 0.509151\t정확도: 56.06%\n", - "14\t검증 세트 손실: 1.437760\t최선의 손실: 0.509151\t정확도: 36.47%\n", - "15\t검증 세트 손실: 1.355858\t최선의 손실: 0.509151\t정확도: 50.82%\n", - "16\t검증 세트 손실: 1.080392\t최선의 손실: 0.509151\t정확도: 51.64%\n", - "17\t검증 세트 손실: 1.087990\t최선의 손실: 0.509151\t정확도: 55.28%\n", - "18\t검증 세트 손실: 1.555433\t최선의 손실: 0.509151\t정확도: 43.16%\n", - "19\t검증 세트 손실: 1.473558\t최선의 손실: 0.509151\t정확도: 41.59%\n", - "20\t검증 세트 손실: 1.099342\t최선의 손실: 0.509151\t정확도: 52.03%\n", - "21\t검증 세트 손실: 1.146670\t최선의 손실: 0.509151\t정확도: 49.73%\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 2.7s\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.515004\t최선의 손실: 0.515004\t정확도: 82.80%\n", + "1\t검증 세트 손실: 0.231247\t최선의 손실: 0.231247\t정확도: 94.61%\n", + "2\t검증 세트 손실: 0.284127\t최선의 손실: 0.231247\t정확도: 92.14%\n", + "3\t검증 세트 손실: 0.255227\t최선의 손실: 0.231247\t정확도: 92.53%\n", + "4\t검증 세트 손실: 4.049653\t최선의 손실: 0.231247\t정확도: 93.55%\n", + "5\t검증 세트 손실: 0.343756\t최선의 손실: 0.231247\t정확도: 92.06%\n", + "6\t검증 세트 손실: 0.210398\t최선의 손실: 0.210398\t정확도: 94.53%\n", + "7\t검증 세트 손실: 0.231720\t최선의 손실: 0.210398\t정확도: 92.96%\n", + "8\t검증 세트 손실: 0.178424\t최선의 손실: 0.178424\t정확도: 95.43%\n", + "9\t검증 세트 손실: 0.169311\t최선의 손실: 0.169311\t정확도: 95.23%\n", + "10\t검증 세트 손실: 0.166243\t최선의 손실: 0.166243\t정확도: 95.90%\n", + "11\t검증 세트 손실: 0.156225\t최선의 손실: 0.156225\t정확도: 95.78%\n", + "12\t검증 세트 손실: 0.155488\t최선의 손실: 0.155488\t정확도: 95.62%\n", + "13\t검증 세트 손실: 0.145043\t최선의 손실: 0.145043\t정확도: 95.74%\n", + "14\t검증 세트 손실: 0.123188\t최선의 손실: 0.123188\t정확도: 96.60%\n", + "15\t검증 세트 손실: 0.128738\t최선의 손실: 0.123188\t정확도: 96.44%\n", + "16\t검증 세트 손실: 0.141987\t최선의 손실: 0.123188\t정확도: 95.62%\n", + "17\t검증 세트 손실: 0.306353\t최선의 손실: 0.123188\t정확도: 93.24%\n", + "18\t검증 세트 손실: 0.372355\t최선의 손실: 0.123188\t정확도: 93.24%\n", + "19\t검증 세트 손실: 0.267830\t최선의 손실: 0.123188\t정확도: 92.10%\n", + "20\t검증 세트 손실: 5.778469\t최선의 손실: 0.123188\t정확도: 56.57%\n", + "21\t검증 세트 손실: 6.545535\t최선의 손실: 0.123188\t정확도: 24.75%\n", + "22\t검증 세트 손실: 1.423346\t최선의 손실: 0.123188\t정확도: 34.05%\n", + "23\t검증 세트 손실: 1.499593\t최선의 손실: 0.123188\t정확도: 41.48%\n", + "24\t검증 세트 손실: 1.227676\t최선의 손실: 0.123188\t정확도: 47.50%\n", + "25\t검증 세트 손실: 2.183030\t최선의 손실: 0.123188\t정확도: 33.39%\n", + "26\t검증 세트 손실: 1.300010\t최선의 손실: 0.123188\t정확도: 43.08%\n", + "27\t검증 세트 손실: 1.273636\t최선의 손실: 0.123188\t정확도: 42.92%\n", + "28\t검증 세트 손실: 1.306284\t최선의 손실: 0.123188\t정확도: 38.55%\n", + "29\t검증 세트 손실: 1.283154\t최선의 손실: 0.123188\t정확도: 41.40%\n", + "30\t검증 세트 손실: 1.284900\t최선의 손실: 0.123188\t정확도: 44.37%\n", + "31\t검증 세트 손실: 1.254627\t최선의 손실: 0.123188\t정확도: 43.16%\n", + "32\t검증 세트 손실: 1.259262\t최선의 손실: 0.123188\t정확도: 44.49%\n", + "33\t검증 세트 손실: 1.251911\t최선의 손실: 0.123188\t정확도: 41.79%\n", + "34\t검증 세트 손실: 1.265803\t최선의 손실: 0.123188\t정확도: 40.38%\n", + "35\t검증 세트 손실: 1.245214\t최선의 손실: 0.123188\t정확도: 44.57%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.4, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 59.3s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.484699\t최선의 손실: 0.484699\t정확도: 88.19%\n", - "1\t검증 세트 손실: 0.230160\t최선의 손실: 0.230160\t정확도: 93.51%\n", - "2\t검증 세트 손실: 0.204482\t최선의 손실: 0.204482\t정확도: 94.84%\n", - "3\t검증 세트 손실: 0.273462\t최선의 손실: 0.204482\t정확도: 92.06%\n", - "4\t검증 세트 손실: 0.247351\t최선의 손실: 0.204482\t정확도: 94.29%\n", - "5\t검증 세트 손실: 0.288252\t최선의 손실: 0.204482\t정확도: 91.91%\n", - "6\t검증 세트 손실: 0.170305\t최선의 손실: 0.170305\t정확도: 95.35%\n", - "7\t검증 세트 손실: 0.219966\t최선의 손실: 0.170305\t정확도: 92.92%\n", - "8\t검증 세트 손실: 0.197702\t최선의 손실: 0.170305\t정확도: 94.76%\n", - "9\t검증 세트 손실: 0.186956\t최선의 손실: 0.170305\t정확도: 95.31%\n", - "10\t검증 세트 손실: 0.231695\t최선의 손실: 0.170305\t정확도: 94.84%\n", - "11\t검증 세트 손실: 0.276851\t최선의 손실: 0.170305\t정확도: 94.72%\n", - "12\t검증 세트 손실: 0.236466\t최선의 손실: 0.170305\t정확도: 94.29%\n", - "13\t검증 세트 손실: 0.200789\t최선의 손실: 0.170305\t정확도: 94.41%\n", - "14\t검증 세트 손실: 0.201943\t최선의 손실: 0.170305\t정확도: 95.07%\n", - "15\t검증 세트 손실: 8.309652\t최선의 손실: 0.170305\t정확도: 22.95%\n", - "16\t검증 세트 손실: 2.382958\t최선의 손실: 0.170305\t정확도: 37.10%\n", - "17\t검증 세트 손실: 1.311382\t최선의 손실: 0.170305\t정확도: 47.77%\n", - "18\t검증 세트 손실: 1.260901\t최선의 손실: 0.170305\t정확도: 42.96%\n", - "19\t검증 세트 손실: 1.185121\t최선의 손실: 0.170305\t정확도: 48.79%\n", - "20\t검증 세트 손실: 1.146757\t최선의 손실: 0.170305\t정확도: 52.66%\n", - "21\t검증 세트 손실: 1.139347\t최선의 손실: 0.170305\t정확도: 48.71%\n", - "22\t검증 세트 손실: 1.072477\t최선의 손실: 0.170305\t정확도: 51.37%\n", - "23\t검증 세트 손실: 1.656010\t최선의 손실: 0.170305\t정확도: 38.00%\n", - "24\t검증 세트 손실: 0.996243\t최선의 손실: 0.170305\t정확도: 58.84%\n", - "25\t검증 세트 손실: 1.057581\t최선의 손실: 0.170305\t정확도: 51.13%\n", - "26\t검증 세트 손실: 0.847189\t최선의 손실: 0.170305\t정확도: 65.44%\n", - "27\t검증 세트 손실: 0.777239\t최선의 손실: 0.170305\t정확도: 63.88%\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 3.6s\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.532543\t최선의 손실: 0.532543\t정확도: 83.82%\n", + "1\t검증 세트 손실: 0.318670\t최선의 손실: 0.318670\t정확도: 89.76%\n", + "2\t검증 세트 손실: 0.207583\t최선의 손실: 0.207583\t정확도: 94.84%\n", + "3\t검증 세트 손실: 0.185961\t최선의 손실: 0.185961\t정확도: 95.00%\n", + "4\t검증 세트 손실: 0.178834\t최선의 손실: 0.178834\t정확도: 95.11%\n", + "5\t검증 세트 손실: 0.176537\t최선의 손실: 0.176537\t정확도: 95.35%\n", + "6\t검증 세트 손실: 0.175677\t최선의 손실: 0.175677\t정확도: 95.11%\n", + "7\t검증 세트 손실: 0.171600\t최선의 손실: 0.171600\t정확도: 95.04%\n", + "8\t검증 세트 손실: 0.169804\t최선의 손실: 0.169804\t정확도: 95.11%\n", + "9\t검증 세트 손실: 0.151420\t최선의 손실: 0.151420\t정확도: 95.58%\n", + "10\t검증 세트 손실: 0.364419\t최선의 손실: 0.151420\t정확도: 90.03%\n", + "11\t검증 세트 손실: 0.233422\t최선의 손실: 0.151420\t정확도: 94.61%\n", + "12\t검증 세트 손실: 0.391451\t최선의 손실: 0.151420\t정확도: 88.27%\n", + "13\t검증 세트 손실: 0.847668\t최선의 손실: 0.151420\t정확도: 67.51%\n", + "14\t검증 세트 손실: 0.759570\t최선의 손실: 0.151420\t정확도: 69.74%\n", + "15\t검증 세트 손실: 4.424996\t최선의 손실: 0.151420\t정확도: 38.00%\n", + "16\t검증 세트 손실: 0.992436\t최선의 손실: 0.151420\t정확도: 53.91%\n", + "17\t검증 세트 손실: 1.338578\t최선의 손실: 0.151420\t정확도: 55.08%\n", + "18\t검증 세트 손실: 0.966124\t최선의 손실: 0.151420\t정확도: 54.03%\n", + "19\t검증 세트 손실: 0.971099\t최선의 손실: 0.151420\t정확도: 54.34%\n", + "20\t검증 세트 손실: 0.943620\t최선의 손실: 0.151420\t정확도: 56.10%\n", + "21\t검증 세트 손실: 0.919340\t최선의 손실: 0.151420\t정확도: 57.94%\n", + "22\t검증 세트 손실: 0.888640\t최선의 손실: 0.151420\t정확도: 59.38%\n", + "23\t검증 세트 손실: 11.357525\t최선의 손실: 0.151420\t정확도: 37.80%\n", + "24\t검증 세트 손실: 49.614700\t최선의 손실: 0.151420\t정확도: 27.21%\n", + "25\t검증 세트 손실: 24.519627\t최선의 손실: 0.151420\t정확도: 23.85%\n", + "26\t검증 세트 손실: 12.718121\t최선의 손실: 0.151420\t정확도: 32.84%\n", + "27\t검증 세트 손실: 30.782272\t최선의 손실: 0.151420\t정확도: 19.35%\n", + "28\t검증 세트 손실: 2.587704\t최선의 손실: 0.151420\t정확도: 29.20%\n", + "29\t검증 세트 손실: 5.785580\t최선의 손실: 0.151420\t정확도: 40.73%\n", + "30\t검증 세트 손실: 7.562401\t최선의 손실: 0.151420\t정확도: 20.52%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 3.1s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.292873\t최선의 손실: 0.292873\t정확도: 92.96%\n", - "1\t검증 세트 손실: 0.227223\t최선의 손실: 0.227223\t정확도: 94.64%\n", - "2\t검증 세트 손실: 0.225251\t최선의 손실: 0.225251\t정확도: 94.53%\n", - "3\t검증 세트 손실: 0.169476\t최선의 손실: 0.169476\t정확도: 95.27%\n", - "4\t검증 세트 손실: 0.183045\t최선의 손실: 0.169476\t정확도: 95.31%\n", - "5\t검증 세트 손실: 0.162503\t최선의 손실: 0.162503\t정확도: 95.19%\n", - "6\t검증 세트 손실: 0.174221\t최선의 손실: 0.162503\t정확도: 95.31%\n", - "7\t검증 세트 손실: 0.169058\t최선의 손실: 0.162503\t정확도: 94.53%\n", - "8\t검증 세트 손실: 0.156675\t최선의 손실: 0.156675\t정확도: 95.78%\n", - "9\t검증 세트 손실: 1.133917\t최선의 손실: 0.156675\t정확도: 94.06%\n", - "10\t검증 세트 손실: 3.280568\t최선의 손실: 0.156675\t정확도: 35.65%\n", - "11\t검증 세트 손실: 2.580117\t최선의 손실: 0.156675\t정확도: 35.89%\n", - "12\t검증 세트 손실: 1.259834\t최선의 손실: 0.156675\t정확도: 45.00%\n", - "13\t검증 세트 손실: 1.183373\t최선의 손실: 0.156675\t정확도: 47.62%\n", - "14\t검증 세트 손실: 0.904887\t최선의 손실: 0.156675\t정확도: 59.50%\n", - "15\t검증 세트 손실: 1.086861\t최선의 손실: 0.156675\t정확도: 51.80%\n", - "16\t검증 세트 손실: 1.129993\t최선의 손실: 0.156675\t정확도: 45.86%\n", - "17\t검증 세트 손실: 1.081267\t최선의 손실: 0.156675\t정확도: 51.76%\n", - "18\t검증 세트 손실: 1.104960\t최선의 손실: 0.156675\t정확도: 52.42%\n", - "19\t검증 세트 손실: 1.018421\t최선의 손실: 0.156675\t정확도: 52.38%\n", - "20\t검증 세트 손실: 1.008448\t최선의 손실: 0.156675\t정확도: 53.17%\n", - "21\t검증 세트 손실: 1.024783\t최선의 손실: 0.156675\t정확도: 55.51%\n", - "22\t검증 세트 손실: 0.965816\t최선의 손실: 0.156675\t정확도: 54.81%\n", - "23\t검증 세트 손실: 0.920508\t최선의 손실: 0.156675\t정확도: 62.35%\n", - "24\t검증 세트 손실: 0.942411\t최선의 손실: 0.156675\t정확도: 60.24%\n", - "25\t검증 세트 손실: 0.936668\t최선의 손실: 0.156675\t정확도: 54.81%\n", - "26\t검증 세트 손실: 1.064109\t최선의 손실: 0.156675\t정확도: 56.84%\n", - "27\t검증 세트 손실: 0.994956\t최선의 손실: 0.156675\t정확도: 58.17%\n", - "28\t검증 세트 손실: 0.959821\t최선의 손실: 0.156675\t정확도: 56.96%\n", - "29\t검증 세트 손실: 0.933764\t최선의 손실: 0.156675\t정확도: 60.13%\n", + "[CV] n_neurons=90, learning_rate=0.05, dropout_rate=0.2, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 3.1s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.173343\t최선의 손실: 0.173343\t정확도: 95.50%\n", + "1\t검증 세트 손실: 0.143810\t최선의 손실: 0.143810\t정확도: 96.21%\n", + "2\t검증 세트 손실: 0.129061\t최선의 손실: 0.129061\t정확도: 96.60%\n", + "3\t검증 세트 손실: 0.168446\t최선의 손실: 0.129061\t정확도: 95.50%\n", + "4\t검증 세트 손실: 0.141834\t최선의 손실: 0.129061\t정확도: 96.64%\n", + "5\t검증 세트 손실: 0.123826\t최선의 손실: 0.123826\t정확도: 97.03%\n", + "6\t검증 세트 손실: 0.137902\t최선의 손실: 0.123826\t정확도: 96.56%\n", + "7\t검증 세트 손실: 0.160227\t최선의 손실: 0.123826\t정확도: 95.70%\n", + "8\t검증 세트 손실: 0.158776\t최선의 손실: 0.123826\t정확도: 96.17%\n", + "9\t검증 세트 손실: 0.196306\t최선의 손실: 0.123826\t정확도: 96.40%\n", + "10\t검증 세트 손실: 0.145933\t최선의 손실: 0.123826\t정확도: 95.78%\n", + "11\t검증 세트 손실: 0.151588\t최선의 손실: 0.123826\t정확도: 96.05%\n", + "12\t검증 세트 손실: 0.156180\t최선의 손실: 0.123826\t정확도: 96.87%\n", + "13\t검증 세트 손실: 0.255530\t최선의 손실: 0.123826\t정확도: 96.44%\n", + "14\t검증 세트 손실: 0.158852\t최선의 손실: 0.123826\t정확도: 96.05%\n", + "15\t검증 세트 손실: 0.150364\t최선의 손실: 0.123826\t정확도: 95.58%\n", + "16\t검증 세트 손실: 0.122676\t최선의 손실: 0.122676\t정확도: 96.64%\n", + "17\t검증 세트 손실: 0.137298\t최선의 손실: 0.122676\t정확도: 96.33%\n", + "18\t검증 세트 손실: 0.186113\t최선의 손실: 0.122676\t정확도: 95.31%\n", + "19\t검증 세트 손실: 0.139272\t최선의 손실: 0.122676\t정확도: 95.50%\n", + "20\t검증 세트 손실: 0.160423\t최선의 손실: 0.122676\t정확도: 95.86%\n", + "21\t검증 세트 손실: 0.179571\t최선의 손실: 0.122676\t정확도: 96.36%\n", + "22\t검증 세트 손실: 0.154350\t최선의 손실: 0.122676\t정확도: 95.50%\n", + "23\t검증 세트 손실: 0.238877\t최선의 손실: 0.122676\t정확도: 95.07%\n", + "24\t검증 세트 손실: 0.251875\t최선의 손실: 0.122676\t정확도: 95.00%\n", + "25\t검증 세트 손실: 0.274197\t최선의 손실: 0.122676\t정확도: 95.82%\n", + "26\t검증 세트 손실: 0.224117\t최선의 손실: 0.122676\t정확도: 95.47%\n", + "27\t검증 세트 손실: 0.225449\t최선의 손실: 0.122676\t정확도: 95.50%\n", + "28\t검증 세트 손실: 0.189323\t최선의 손실: 0.122676\t정확도: 96.83%\n", + "29\t검증 세트 손실: 0.158767\t최선의 손실: 0.122676\t정확도: 96.33%\n", + "30\t검증 세트 손실: 0.187110\t최선의 손실: 0.122676\t정확도: 96.68%\n", + "31\t검증 세트 손실: 0.141067\t최선의 손실: 0.122676\t정확도: 96.44%\n", + "32\t검증 세트 손실: 0.165385\t최선의 손실: 0.122676\t정확도: 96.76%\n", + "33\t검증 세트 손실: 0.171027\t최선의 손실: 0.122676\t정확도: 95.31%\n", + "34\t검증 세트 손실: 0.162580\t최선의 손실: 0.122676\t정확도: 95.39%\n", + "35\t검증 세트 손실: 0.222416\t최선의 손실: 0.122676\t정확도: 94.06%\n", + "36\t검증 세트 손실: 0.167016\t최선의 손실: 0.122676\t정확도: 95.93%\n", + "37\t검증 세트 손실: 0.251916\t최선의 손실: 0.122676\t정확도: 94.45%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 3.2s\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.319014\t최선의 손실: 0.319014\t정확도: 91.67%\n", - "1\t검증 세트 손실: 0.224763\t최선의 손실: 0.224763\t정확도: 94.49%\n", - "2\t검증 세트 손실: 0.184623\t최선의 손실: 0.184623\t정확도: 95.70%\n", - "3\t검증 세트 손실: 0.156419\t최선의 손실: 0.156419\t정확도: 95.50%\n", - "4\t검증 세트 손실: 0.148546\t최선의 손실: 0.148546\t정확도: 95.90%\n", - "5\t검증 세트 손실: 0.140332\t최선의 손실: 0.140332\t정확도: 96.52%\n", - "6\t검증 세트 손실: 0.135099\t최선의 손실: 0.135099\t정확도: 96.25%\n", - "7\t검증 세트 손실: 0.198008\t최선의 손실: 0.135099\t정확도: 94.92%\n", - "8\t검증 세트 손실: 0.216186\t최선의 손실: 0.135099\t정확도: 93.43%\n", - "9\t검증 세트 손실: 0.362736\t최선의 손실: 0.135099\t정확도: 87.57%\n", - "10\t검증 세트 손실: 0.281175\t최선의 손실: 0.135099\t정확도: 92.34%\n", - "11\t검증 세트 손실: 0.200450\t최선의 손실: 0.135099\t정확도: 95.27%\n", - "12\t검증 세트 손실: 0.168708\t최선의 손실: 0.135099\t정확도: 95.19%\n", - "13\t검증 세트 손실: 0.219186\t최선의 손실: 0.135099\t정확도: 95.62%\n", - "14\t검증 세트 손실: 1.280355\t최선의 손실: 0.135099\t정확도: 42.96%\n" + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 18.2s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "15\t검증 세트 손실: 1.486041\t최선의 손실: 0.135099\t정확도: 34.36%\n", - "16\t검증 세트 손실: 1.164109\t최선의 손실: 0.135099\t정확도: 51.52%\n", - "17\t검증 세트 손실: 1.134771\t최선의 손실: 0.135099\t정확도: 52.35%\n", - "18\t검증 세트 손실: 0.872367\t최선의 손실: 0.135099\t정확도: 64.23%\n", - "19\t검증 세트 손실: 0.917716\t최선의 손실: 0.135099\t정확도: 62.90%\n", - "20\t검증 세트 손실: 0.774213\t최선의 손실: 0.135099\t정확도: 66.30%\n", - "21\t검증 세트 손실: 0.931378\t최선의 손실: 0.135099\t정확도: 74.28%\n", - "22\t검증 세트 손실: 0.951106\t최선의 손실: 0.135099\t정확도: 58.25%\n", - "23\t검증 세트 손실: 0.783629\t최선의 손실: 0.135099\t정확도: 67.40%\n", - "24\t검증 세트 손실: 2.489950\t최선의 손실: 0.135099\t정확도: 32.13%\n", - "25\t검증 세트 손실: 61.044945\t최선의 손실: 0.135099\t정확도: 18.61%\n", - "26\t검증 세트 손실: 165.494308\t최선의 손실: 0.135099\t정확도: 18.73%\n", - "27\t검증 세트 손실: 185.986954\t최선의 손실: 0.135099\t정확도: 19.23%\n", + "0\t검증 세트 손실: 0.176310\t최선의 손실: 0.176310\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.138999\t최선의 손실: 0.138999\t정확도: 96.56%\n", + "2\t검증 세트 손실: 0.134399\t최선의 손실: 0.134399\t정확도: 96.40%\n", + "3\t검증 세트 손실: 0.161870\t최선의 손실: 0.134399\t정확도: 96.21%\n", + "4\t검증 세트 손실: 0.132654\t최선의 손실: 0.132654\t정확도: 96.87%\n", + "5\t검증 세트 손실: 0.165161\t최선의 손실: 0.132654\t정확도: 96.60%\n", + "6\t검증 세트 손실: 0.126196\t최선의 손실: 0.126196\t정확도: 96.56%\n", + "7\t검증 세트 손실: 0.140794\t최선의 손실: 0.126196\t정확도: 96.72%\n", + "8\t검증 세트 손실: 0.130925\t최선의 손실: 0.126196\t정확도: 96.33%\n", + "9\t검증 세트 손실: 0.135104\t최선의 손실: 0.126196\t정확도: 96.13%\n", + "10\t검증 세트 손실: 0.144949\t최선의 손실: 0.126196\t정확도: 96.87%\n", + "11\t검증 세트 손실: 0.142427\t최선의 손실: 0.126196\t정확도: 96.01%\n", + "12\t검증 세트 손실: 0.116557\t최선의 손실: 0.116557\t정확도: 97.30%\n", + "13\t검증 세트 손실: 0.116393\t최선의 손실: 0.116393\t정확도: 96.56%\n", + "14\t검증 세트 손실: 0.165656\t최선의 손실: 0.116393\t정확도: 96.64%\n", + "15\t검증 세트 손실: 0.287011\t최선의 손실: 0.116393\t정확도: 95.15%\n", + "16\t검증 세트 손실: 0.194992\t최선의 손실: 0.116393\t정확도: 96.05%\n", + "17\t검증 세트 손실: 0.162987\t최선의 손실: 0.116393\t정확도: 96.25%\n", + "18\t검증 세트 손실: 0.149149\t최선의 손실: 0.116393\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.168275\t최선의 손실: 0.116393\t정확도: 96.64%\n", + "20\t검증 세트 손실: 0.162107\t최선의 손실: 0.116393\t정확도: 96.87%\n", + "21\t검증 세트 손실: 0.168223\t최선의 손실: 0.116393\t정확도: 96.60%\n", + "22\t검증 세트 손실: 0.144195\t최선의 손실: 0.116393\t정확도: 96.95%\n", + "23\t검증 세트 손실: 0.159416\t최선의 손실: 0.116393\t정확도: 97.22%\n", + "24\t검증 세트 손실: 0.144801\t최선의 손실: 0.116393\t정확도: 96.99%\n", + "25\t검증 세트 손실: 0.163476\t최선의 손실: 0.116393\t정확도: 96.79%\n", + "26\t검증 세트 손실: 0.185312\t최선의 손실: 0.116393\t정확도: 96.48%\n", + "27\t검증 세트 손실: 0.191868\t최선의 손실: 0.116393\t정확도: 96.44%\n", + "28\t검증 세트 손실: 0.162042\t최선의 손실: 0.116393\t정확도: 96.44%\n", + "29\t검증 세트 손실: 0.127120\t최선의 손실: 0.116393\t정확도: 96.64%\n", + "30\t검증 세트 손실: 0.141858\t최선의 손실: 0.116393\t정확도: 96.56%\n", + "31\t검증 세트 손실: 0.179835\t최선의 손실: 0.116393\t정확도: 95.82%\n", + "32\t검증 세트 손실: 0.136948\t최선의 손실: 0.116393\t정확도: 97.07%\n", + "33\t검증 세트 손실: 0.203498\t최선의 손실: 0.116393\t정확도: 97.03%\n", + "34\t검증 세트 손실: 0.126414\t최선의 손실: 0.116393\t정확도: 97.07%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.2, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 3.2s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 0.168278\t최선의 손실: 0.168278\t정확도: 95.74%\n", - "1\t검증 세트 손실: 0.141930\t최선의 손실: 0.141930\t정확도: 96.36%\n", - "2\t검증 세트 손실: 0.177505\t최선의 손실: 0.141930\t정확도: 95.90%\n", - "3\t검증 세트 손실: 0.126351\t최선의 손실: 0.126351\t정확도: 96.48%\n", - "4\t검증 세트 손실: 0.172704\t최선의 손실: 0.126351\t정확도: 95.54%\n", - "5\t검증 세트 손실: 0.138664\t최선의 손실: 0.126351\t정확도: 96.52%\n", - "6\t검증 세트 손실: 0.149303\t최선의 손실: 0.126351\t정확도: 96.29%\n", - "7\t검증 세트 손실: 0.133798\t최선의 손실: 0.126351\t정확도: 96.60%\n", - "8\t검증 세트 손실: 0.141214\t최선의 손실: 0.126351\t정확도: 96.68%\n", - "9\t검증 세트 손실: 0.124726\t최선의 손실: 0.124726\t정확도: 97.07%\n", - "10\t검증 세트 손실: 0.167132\t최선의 손실: 0.124726\t정확도: 96.72%\n", - "11\t검증 세트 손실: 0.150123\t최선의 손실: 0.124726\t정확도: 96.72%\n", - "12\t검증 세트 손실: 0.152715\t최선의 손실: 0.124726\t정확도: 95.58%\n", - "13\t검증 세트 손실: 0.143245\t최선의 손실: 0.124726\t정확도: 96.25%\n", - "14\t검증 세트 손실: 0.144990\t최선의 손실: 0.124726\t정확도: 96.76%\n", - "15\t검증 세트 손실: 0.133805\t최선의 손실: 0.124726\t정확도: 96.36%\n", - "16\t검증 세트 손실: 0.188992\t최선의 손실: 0.124726\t정확도: 94.76%\n", - "17\t검증 세트 손실: 0.180727\t최선의 손실: 0.124726\t정확도: 93.63%\n", - "18\t검증 세트 손실: 0.134569\t최선의 손실: 0.124726\t정확도: 96.13%\n", - "19\t검증 세트 손실: 0.174166\t최선의 손실: 0.124726\t정확도: 95.23%\n", - "20\t검증 세트 손실: 0.151174\t최선의 손실: 0.124726\t정확도: 96.60%\n", - "21\t검증 세트 손실: 0.143085\t최선의 손실: 0.124726\t정확도: 96.21%\n", - "22\t검증 세트 손실: 0.226548\t최선의 손실: 0.124726\t정확도: 96.83%\n", - "23\t검증 세트 손실: 0.175530\t최선의 손실: 0.124726\t정확도: 95.62%\n", - "24\t검증 세트 손실: 0.151109\t최선의 손실: 0.124726\t정확도: 96.52%\n", - "25\t검증 세트 손실: 0.175640\t최선의 손실: 0.124726\t정확도: 96.17%\n", - "26\t검증 세트 손실: 0.168065\t최선의 손실: 0.124726\t정확도: 96.79%\n", - "27\t검증 세트 손실: 0.206272\t최선의 손실: 0.124726\t정확도: 96.33%\n", - "28\t검증 세트 손실: 0.184488\t최선의 손실: 0.124726\t정확도: 96.21%\n", - "29\t검증 세트 손실: 0.146942\t최선의 손실: 0.124726\t정확도: 96.79%\n", - "30\t검증 세트 손실: 0.134227\t최선의 손실: 0.124726\t정확도: 96.91%\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 16.7s\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.160425\t최선의 손실: 0.160425\t정확도: 96.05%\n", + "1\t검증 세트 손실: 0.136199\t최선의 손실: 0.136199\t정확도: 96.87%\n", + "2\t검증 세트 손실: 0.136525\t최선의 손실: 0.136199\t정확도: 96.83%\n", + "3\t검증 세트 손실: 0.141026\t최선의 손실: 0.136199\t정확도: 96.36%\n", + "4\t검증 세트 손실: 0.134203\t최선의 손실: 0.134203\t정확도: 96.72%\n", + "5\t검증 세트 손실: 0.134853\t최선의 손실: 0.134203\t정확도: 96.91%\n", + "6\t검증 세트 손실: 0.147731\t최선의 손실: 0.134203\t정확도: 96.87%\n", + "7\t검증 세트 손실: 0.120045\t최선의 손실: 0.120045\t정확도: 97.11%\n", + "8\t검증 세트 손실: 0.144476\t최선의 손실: 0.120045\t정확도: 96.99%\n", + "9\t검증 세트 손실: 0.131552\t최선의 손실: 0.120045\t정확도: 97.38%\n", + "10\t검증 세트 손실: 0.131652\t최선의 손실: 0.120045\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.151650\t최선의 손실: 0.120045\t정확도: 96.21%\n", + "12\t검증 세트 손실: 0.110769\t최선의 손실: 0.110769\t정확도: 97.07%\n", + "13\t검증 세트 손실: 0.143179\t최선의 손실: 0.110769\t정확도: 96.09%\n", + "14\t검증 세트 손실: 0.132753\t최선의 손실: 0.110769\t정확도: 97.11%\n", + "15\t검증 세트 손실: 0.147436\t최선의 손실: 0.110769\t정확도: 96.60%\n", + "16\t검증 세트 손실: 0.165844\t최선의 손실: 0.110769\t정확도: 96.33%\n", + "17\t검증 세트 손실: 0.142305\t최선의 손실: 0.110769\t정확도: 95.86%\n", + "18\t검증 세트 손실: 0.159887\t최선의 손실: 0.110769\t정확도: 96.56%\n", + "19\t검증 세트 손실: 0.145132\t최선의 손실: 0.110769\t정확도: 96.33%\n", + "20\t검증 세트 손실: 0.128645\t최선의 손실: 0.110769\t정확도: 96.76%\n", + "21\t검증 세트 손실: 0.207380\t최선의 손실: 0.110769\t정확도: 96.48%\n", + "22\t검증 세트 손실: 0.141313\t최선의 손실: 0.110769\t정확도: 97.42%\n", + "23\t검증 세트 손실: 0.146280\t최선의 손실: 0.110769\t정확도: 96.87%\n", + "24\t검증 세트 손실: 0.172721\t최선의 손실: 0.110769\t정확도: 95.58%\n", + "25\t검증 세트 손실: 0.145767\t최선의 손실: 0.110769\t정확도: 96.01%\n", + "26\t검증 세트 손실: 0.154689\t최선의 손실: 0.110769\t정확도: 95.62%\n", + "27\t검증 세트 손실: 0.151984\t최선의 손실: 0.110769\t정확도: 96.33%\n", + "28\t검증 세트 손실: 0.152364\t최선의 손실: 0.110769\t정확도: 96.79%\n", + "29\t검증 세트 손실: 0.145589\t최선의 손실: 0.110769\t정확도: 96.83%\n", + "30\t검증 세트 손실: 0.160320\t최선의 손실: 0.110769\t정확도: 96.83%\n", + "31\t검증 세트 손실: 0.153116\t최선의 손실: 0.110769\t정확도: 96.91%\n", + "32\t검증 세트 손실: 0.141150\t최선의 손실: 0.110769\t정확도: 97.15%\n", + "33\t검증 세트 손실: 0.209806\t최선의 손실: 0.110769\t정확도: 95.66%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50, total= 15.0s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 0.193544\t최선의 손실: 0.193544\t정확도: 95.47%\n", - "1\t검증 세트 손실: 0.163228\t최선의 손실: 0.163228\t정확도: 95.93%\n", - "2\t검증 세트 손실: 0.161448\t최선의 손실: 0.161448\t정확도: 96.09%\n", - "3\t검증 세트 손실: 0.158470\t최선의 손실: 0.158470\t정확도: 96.68%\n", - "4\t검증 세트 손실: 0.151045\t최선의 손실: 0.151045\t정확도: 96.25%\n", - "5\t검증 세트 손실: 0.211585\t최선의 손실: 0.151045\t정확도: 96.60%\n", - "6\t검증 세트 손실: 0.118909\t최선의 손실: 0.118909\t정확도: 97.22%\n", - "7\t검증 세트 손실: 0.152597\t최선의 손실: 0.118909\t정확도: 96.25%\n", - "8\t검증 세트 손실: 0.147519\t최선의 손실: 0.118909\t정확도: 97.15%\n", - "9\t검증 세트 손실: 0.108436\t최선의 손실: 0.108436\t정확도: 97.50%\n", - "10\t검증 세트 손실: 0.161720\t최선의 손실: 0.108436\t정확도: 97.34%\n", - "11\t검증 세트 손실: 0.147460\t최선의 손실: 0.108436\t정확도: 96.83%\n", - "12\t검증 세트 손실: 0.129492\t최선의 손실: 0.108436\t정확도: 96.83%\n", - "13\t검증 세트 손실: 0.118874\t최선의 손실: 0.108436\t정확도: 96.79%\n", - "14\t검증 세트 손실: 0.120794\t최선의 손실: 0.108436\t정확도: 96.99%\n", - "15\t검증 세트 손실: 0.145897\t최선의 손실: 0.108436\t정확도: 96.83%\n", - "16\t검증 세트 손실: 0.176342\t최선의 손실: 0.108436\t정확도: 96.72%\n", - "17\t검증 세트 손실: 0.142715\t최선의 손실: 0.108436\t정확도: 96.40%\n", - "18\t검증 세트 손실: 0.153086\t최선의 손실: 0.108436\t정확도: 96.68%\n", - "19\t검증 세트 손실: 0.153652\t최선의 손실: 0.108436\t정확도: 96.64%\n", - "20\t검증 세트 손실: 0.169133\t최선의 손실: 0.108436\t정확도: 96.17%\n", - "21\t검증 세트 손실: 0.170816\t최선의 손실: 0.108436\t정확도: 96.91%\n", - "22\t검증 세트 손실: 0.194123\t최선의 손실: 0.108436\t정확도: 96.56%\n", - "23\t검증 세트 손실: 0.165200\t최선의 손실: 0.108436\t정확도: 97.03%\n", - "24\t검증 세트 손실: 0.202766\t최선의 손실: 0.108436\t정확도: 96.56%\n", - "25\t검증 세트 손실: 0.189068\t최선의 손실: 0.108436\t정확도: 95.93%\n", - "26\t검증 세트 손실: 0.161119\t최선의 손실: 0.108436\t정확도: 97.11%\n", - "27\t검증 세트 손실: 0.192462\t최선의 손실: 0.108436\t정확도: 96.09%\n", - "28\t검증 세트 손실: 0.182729\t최선의 손실: 0.108436\t정확도: 96.21%\n", - "29\t검증 세트 손실: 0.150162\t최선의 손실: 0.108436\t정확도: 96.99%\n", - "30\t검증 세트 손실: 0.167328\t최선의 손실: 0.108436\t정확도: 96.76%\n", + "[CV] n_neurons=50, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 16.2s\n", + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 86.820389\t최선의 손실: 86.820389\t정확도: 18.73%\n", + "1\t검증 세트 손실: 82.373146\t최선의 손실: 82.373146\t정확도: 18.73%\n", + "2\t검증 세트 손실: 206.629639\t최선의 손실: 82.373146\t정확도: 19.27%\n", + "3\t검증 세트 손실: 232.108490\t최선의 손실: 82.373146\t정확도: 18.73%\n", + "4\t검증 세트 손실: 234.947083\t최선의 손실: 82.373146\t정확도: 19.27%\n", + "5\t검증 세트 손실: 363.581848\t최선의 손실: 82.373146\t정확도: 20.91%\n", + "6\t검증 세트 손실: 572.494446\t최선의 손실: 82.373146\t정확도: 19.08%\n", + "7\t검증 세트 손실: 2083.337891\t최선의 손실: 82.373146\t정확도: 20.91%\n", + "8\t검증 세트 손실: 1546.955078\t최선의 손실: 82.373146\t정확도: 19.08%\n", + "9\t검증 세트 손실: 3171.243408\t최선의 손실: 82.373146\t정확도: 19.35%\n", + "10\t검증 세트 손실: 1231.475586\t최선의 손실: 82.373146\t정확도: 19.19%\n", + "11\t검증 세트 손실: 965.191650\t최선의 손실: 82.373146\t정확도: 22.01%\n", + "12\t검증 세트 손실: 600.684509\t최선의 손실: 82.373146\t정확도: 19.08%\n", + "13\t검증 세트 손실: 3414.346436\t최선의 손실: 82.373146\t정확도: 19.43%\n", + "14\t검증 세트 손실: 5916.897949\t최선의 손실: 82.373146\t정확도: 26.54%\n", + "15\t검증 세트 손실: 32632.906250\t최선의 손실: 82.373146\t정확도: 19.27%\n", + "16\t검증 세트 손실: 18508.308594\t최선의 손실: 82.373146\t정확도: 19.08%\n", + "17\t검증 세트 손실: 17304.156250\t최선의 손실: 82.373146\t정확도: 18.88%\n", + "18\t검증 세트 손실: 14963.441406\t최선의 손실: 82.373146\t정확도: 20.91%\n", + "19\t검증 세트 손실: 9404.783203\t최선의 손실: 82.373146\t정확도: 19.08%\n", + "20\t검증 세트 손실: 10522.594727\t최선의 손실: 82.373146\t정확도: 19.27%\n", + "21\t검증 세트 손실: 15647.737305\t최선의 손실: 82.373146\t정확도: 20.91%\n", + "22\t검증 세트 손실: 15864.131836\t최선의 손실: 82.373146\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50, total= 15.2s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 0.183815\t최선의 손실: 0.183815\t정확도: 95.35%\n", - "1\t검증 세트 손실: 0.159383\t최선의 손실: 0.159383\t정확도: 96.52%\n", - "2\t검증 세트 손실: 0.131879\t최선의 손실: 0.131879\t정확도: 96.36%\n", - "3\t검증 세트 손실: 0.143183\t최선의 손실: 0.131879\t정확도: 96.79%\n", - "4\t검증 세트 손실: 0.121886\t최선의 손실: 0.121886\t정확도: 96.99%\n", - "5\t검증 세트 손실: 0.131564\t최선의 손실: 0.121886\t정확도: 96.68%\n", - "6\t검증 세트 손실: 0.157119\t최선의 손실: 0.121886\t정확도: 96.64%\n", - "7\t검증 세트 손실: 0.128800\t최선의 손실: 0.121886\t정확도: 96.91%\n", - "8\t검증 세트 손실: 0.117811\t최선의 손실: 0.117811\t정확도: 96.91%\n", - "9\t검증 세트 손실: 0.134096\t최선의 손실: 0.117811\t정확도: 96.91%\n", - "10\t검증 세트 손실: 0.135361\t최선의 손실: 0.117811\t정확도: 97.03%\n", - "11\t검증 세트 손실: 0.150821\t최선의 손실: 0.117811\t정확도: 96.79%\n", - "12\t검증 세트 손실: 0.145061\t최선의 손실: 0.117811\t정확도: 96.40%\n", - "13\t검증 세트 손실: 0.123751\t최선의 손실: 0.117811\t정확도: 96.33%\n", - "14\t검증 세트 손실: 0.123539\t최선의 손실: 0.117811\t정확도: 96.79%\n", - "15\t검증 세트 손실: 0.137988\t최선의 손실: 0.117811\t정확도: 96.60%\n", - "16\t검증 세트 손실: 0.151725\t최선의 손실: 0.117811\t정확도: 96.05%\n", - "17\t검증 세트 손실: 0.245156\t최선의 손실: 0.117811\t정확도: 94.02%\n", - "18\t검증 세트 손실: 0.164687\t최선의 손실: 0.117811\t정확도: 96.60%\n", - "19\t검증 세트 손실: 0.149489\t최선의 손실: 0.117811\t정확도: 96.76%\n", - "20\t검증 세트 손실: 0.182208\t최선의 손실: 0.117811\t정확도: 96.21%\n", - "21\t검증 세트 손실: 0.217708\t최선의 손실: 0.117811\t정확도: 96.05%\n", - "22\t검증 세트 손실: 0.166471\t최선의 손실: 0.117811\t정확도: 96.09%\n", - "23\t검증 세트 손실: 0.182633\t최선의 손실: 0.117811\t정확도: 96.01%\n", - "24\t검증 세트 손실: 0.223510\t최선의 손실: 0.117811\t정확도: 95.70%\n", - "25\t검증 세트 손실: 0.146555\t최선의 손실: 0.117811\t정확도: 96.64%\n", - "26\t검증 세트 손실: 0.142681\t최선의 손실: 0.117811\t정확도: 96.76%\n", - "27\t검증 세트 손실: 0.150704\t최선의 손실: 0.117811\t정확도: 96.13%\n", - "28\t검증 세트 손실: 0.184985\t최선의 손실: 0.117811\t정확도: 96.79%\n", - "29\t검증 세트 손실: 0.146062\t최선의 손실: 0.117811\t정확도: 96.91%\n", + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.7s\n", + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 12.984745\t최선의 손실: 12.984745\t정확도: 18.73%\n", + "1\t검증 세트 손실: 2.058013\t최선의 손실: 2.058013\t정확도: 32.13%\n", + "2\t검증 세트 손실: 610.408752\t최선의 손실: 2.058013\t정확도: 22.17%\n", + "3\t검증 세트 손실: 320.390717\t최선의 손실: 2.058013\t정확도: 17.94%\n", + "4\t검증 세트 손실: 6310.827148\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1467.129150\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "6\t검증 세트 손실: 2702.516113\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "7\t검증 세트 손실: 3521.233887\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1185.683716\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2924.800537\t최선의 손실: 2.058013\t정확도: 28.38%\n", + "10\t검증 세트 손실: 1107.305542\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1748.741943\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "12\t검증 세트 손실: 2529.600586\t최선의 손실: 2.058013\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1354.243286\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "14\t검증 세트 손실: 704.992004\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1143.967041\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "16\t검증 세트 손실: 783.195984\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "17\t검증 세트 손실: 881.186890\t최선의 손실: 2.058013\t정확도: 19.08%\n", + "18\t검증 세트 손실: 500.735626\t최선의 손실: 2.058013\t정확도: 18.76%\n", + "19\t검증 세트 손실: 43634.968750\t최선의 손실: 2.058013\t정확도: 22.01%\n", + "20\t검증 세트 손실: 4579.651855\t최선의 손실: 2.058013\t정확도: 18.73%\n", + "21\t검증 세트 손실: 7746.834961\t최선의 손실: 2.058013\t정확도: 18.73%\n", + "22\t검증 세트 손실: 3975.078613\t최선의 손실: 2.058013\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=50, total= 14.7s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n", - "0\t검증 세트 손실: 480.899139\t최선의 손실: 480.899139\t정확도: 19.08%\n", - "1\t검증 세트 손실: 191.116882\t최선의 손실: 191.116882\t정확도: 19.08%\n", - "2\t검증 세트 손실: 3837.997559\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "3\t검증 세트 손실: 761.747681\t최선의 손실: 191.116882\t정확도: 19.08%\n", - "4\t검증 세트 손실: 3042.807129\t최선의 손실: 191.116882\t정확도: 17.87%\n", - "5\t검증 세트 손실: 2745.245605\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "6\t검증 세트 손실: 1904.212036\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "7\t검증 세트 손실: 554.267212\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1898.369629\t최선의 손실: 191.116882\t정확도: 26.31%\n", - "9\t검증 세트 손실: 8683.819336\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "10\t검증 세트 손실: 6195.576172\t최선의 손실: 191.116882\t정확도: 19.27%\n", - "11\t검증 세트 손실: 1314.811401\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "12\t검증 세트 손실: 4440.335449\t최선의 손실: 191.116882\t정확도: 19.27%\n", - "13\t검증 세트 손실: 39503.914062\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "14\t검증 세트 손실: 30892.531250\t최선의 손실: 191.116882\t정확도: 18.88%\n", - "15\t검증 세트 손실: 10467.781250\t최선의 손실: 191.116882\t정확도: 20.80%\n", - "16\t검증 세트 손실: 22365.697266\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "17\t검증 세트 손실: 9395.952148\t최선의 손실: 191.116882\t정확도: 19.08%\n", - "18\t검증 세트 손실: 12288.156250\t최선의 손실: 191.116882\t정확도: 18.76%\n", - "19\t검증 세트 손실: 14969.916016\t최선의 손실: 191.116882\t정확도: 20.91%\n", - "20\t검증 세트 손실: 7057.377441\t최선의 손실: 191.116882\t정확도: 18.73%\n", - "21\t검증 세트 손실: 7359.060059\t최선의 손실: 191.116882\t정확도: 19.27%\n", - "22\t검증 세트 손실: 10104.849609\t최선의 손실: 191.116882\t정확도: 19.08%\n", - "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 13.9s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n", - "0\t검증 세트 손실: 96.439453\t최선의 손실: 96.439453\t정확도: 18.73%\n", - "1\t검증 세트 손실: 76.724884\t최선의 손실: 76.724884\t정확도: 19.27%\n", - "2\t검증 세트 손실: 135.622879\t최선의 손실: 76.724884\t정확도: 19.08%\n" + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.5s\n", + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 21.635620\t최선의 손실: 21.635620\t정확도: 22.17%\n", + "1\t검증 세트 손실: 9.623199\t최선의 손실: 9.623199\t정확도: 19.08%\n", + "2\t검증 세트 손실: 4.638954\t최선의 손실: 4.638954\t정확도: 28.54%\n", + "3\t검증 세트 손실: 1944.045166\t최선의 손실: 4.638954\t정확도: 20.91%\n", + "4\t검증 세트 손실: 909.083252\t최선의 손실: 4.638954\t정확도: 22.01%\n", + "5\t검증 세트 손실: 6998.721680\t최선의 손실: 4.638954\t정확도: 20.91%\n", + "6\t검증 세트 손실: 3386.027344\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "7\t검증 세트 손실: 8036.179199\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "8\t검증 세트 손실: 7924.387207\t최선의 손실: 4.638954\t정확도: 22.01%\n", + "9\t검증 세트 손실: 11759.351562\t최선의 손실: 4.638954\t정확도: 20.91%\n", + "10\t검증 세트 손실: 6181.261719\t최선의 손실: 4.638954\t정확도: 18.73%\n", + "11\t검증 세트 손실: 6519.798828\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "12\t검증 세트 손실: 7490.634766\t최선의 손실: 4.638954\t정확도: 20.91%\n", + "13\t검증 세트 손실: 5587.181641\t최선의 손실: 4.638954\t정확도: 18.92%\n", + "14\t검증 세트 손실: 10902.699219\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "15\t검증 세트 손실: 6199.004883\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "16\t검증 세트 손실: 2973.243164\t최선의 손실: 4.638954\t정확도: 22.01%\n", + "17\t검증 세트 손실: 13188.254883\t최선의 손실: 4.638954\t정확도: 20.91%\n", + "18\t검증 세트 손실: 4410.326660\t최선의 손실: 4.638954\t정확도: 19.12%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "3\t검증 세트 손실: 22274.107422\t최선의 손실: 76.724884\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1417.975708\t최선의 손실: 76.724884\t정확도: 19.08%\n", - "5\t검증 세트 손실: 259.689758\t최선의 손실: 76.724884\t정확도: 19.43%\n", - "6\t검증 세트 손실: 2604.279053\t최선의 손실: 76.724884\t정확도: 18.73%\n", - "7\t검증 세트 손실: 237.676132\t최선의 손실: 76.724884\t정확도: 28.89%\n", - "8\t검증 세트 손실: 298.076141\t최선의 손실: 76.724884\t정확도: 21.19%\n", - "9\t검증 세트 손실: 479.706299\t최선의 손실: 76.724884\t정확도: 19.08%\n", - "10\t검증 세트 손실: 161.299408\t최선의 손실: 76.724884\t정확도: 19.66%\n", - "11\t검증 세트 손실: 857.283630\t최선의 손실: 76.724884\t정확도: 20.91%\n", - "12\t검증 세트 손실: 208.134872\t최선의 손실: 76.724884\t정확도: 28.73%\n", - "13\t검증 세트 손실: 381.715363\t최선의 손실: 76.724884\t정확도: 18.84%\n", - "14\t검증 세트 손실: 902.597534\t최선의 손실: 76.724884\t정확도: 19.47%\n", - "15\t검증 세트 손실: 415.410583\t최선의 손실: 76.724884\t정확도: 38.74%\n", - "16\t검증 세트 손실: 836.833435\t최선의 손실: 76.724884\t정확도: 22.01%\n", - "17\t검증 세트 손실: 972.676086\t최선의 손실: 76.724884\t정확도: 19.27%\n", - "18\t검증 세트 손실: 2688.166016\t최선의 손실: 76.724884\t정확도: 20.88%\n", - "19\t검증 세트 손실: 2408.628662\t최선의 손실: 76.724884\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1048.713989\t최선의 손실: 76.724884\t정확도: 19.27%\n", - "21\t검증 세트 손실: 546.276733\t최선의 손실: 76.724884\t정확도: 19.27%\n", - "22\t검증 세트 손실: 488.202362\t최선의 손실: 76.724884\t정확도: 19.04%\n", + "19\t검증 세트 손실: 5326.121582\t최선의 손실: 4.638954\t정확도: 19.08%\n", + "20\t검증 세트 손실: 11067.087891\t최선의 손실: 4.638954\t정확도: 21.89%\n", + "21\t검증 세트 손실: 22999.306641\t최선의 손실: 4.638954\t정확도: 18.73%\n", + "22\t검증 세트 손실: 8573.307617\t최선의 손실: 4.638954\t정확도: 18.76%\n", + "23\t검증 세트 손실: 7023.543457\t최선의 손실: 4.638954\t정확도: 20.95%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 13.9s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n", - "0\t검증 세트 손실: 236.495773\t최선의 손실: 236.495773\t정확도: 18.96%\n", - "1\t검증 세트 손실: 452.827148\t최선의 손실: 236.495773\t정확도: 19.08%\n", - "2\t검증 세트 손실: 221.333755\t최선의 손실: 221.333755\t정확도: 22.63%\n", - "3\t검증 세트 손실: 104.592972\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "4\t검증 세트 손실: 366.527222\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "5\t검증 세트 손실: 289.558624\t최선의 손실: 104.592972\t정확도: 22.01%\n", - "6\t검증 세트 손실: 634.822632\t최선의 손실: 104.592972\t정확도: 20.91%\n", - "7\t검증 세트 손실: 778.196533\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "8\t검증 세트 손실: 690.293579\t최선의 손실: 104.592972\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2125.658936\t최선의 손실: 104.592972\t정확도: 20.91%\n", - "10\t검증 세트 손실: 396.446259\t최선의 손실: 104.592972\t정확도: 22.67%\n", - "11\t검증 세트 손실: 1110.420044\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "12\t검증 세트 손실: 3973.747559\t최선의 손실: 104.592972\t정확도: 19.78%\n", - "13\t검증 세트 손실: 3272.913330\t최선의 손실: 104.592972\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1735.809814\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "15\t검증 세트 손실: 7911.509766\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "16\t검증 세트 손실: 4074.907715\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1289.593506\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "18\t검증 세트 손실: 3048.917969\t최선의 손실: 104.592972\t정확도: 20.91%\n", - "19\t검증 세트 손실: 3356.640381\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "20\t검증 세트 손실: 2593.096680\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "21\t검증 세트 손실: 68250.445312\t최선의 손실: 104.592972\t정확도: 22.01%\n", - "22\t검증 세트 손실: 14247.900391\t최선의 손실: 104.592972\t정확도: 19.27%\n", - "23\t검증 세트 손실: 36868.738281\t최선의 손실: 104.592972\t정확도: 18.73%\n", - "24\t검증 세트 손실: 4808.282715\t최선의 손실: 104.592972\t정확도: 18.76%\n", + "[CV] n_neurons=120, learning_rate=0.05, dropout_rate=0.5, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 14.2s\n", + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.165905\t최선의 손실: 0.165905\t정확도: 96.25%\n", + "1\t검증 세트 손실: 0.148635\t최선의 손실: 0.148635\t정확도: 96.36%\n", + "2\t검증 세트 손실: 0.146738\t최선의 손실: 0.146738\t정확도: 96.76%\n", + "3\t검증 세트 손실: 0.133239\t최선의 손실: 0.133239\t정확도: 96.29%\n", + "4\t검증 세트 손실: 0.128580\t최선의 손실: 0.128580\t정확도: 97.11%\n", + "5\t검증 세트 손실: 0.128932\t최선의 손실: 0.128580\t정확도: 96.29%\n", + "6\t검증 세트 손실: 0.151205\t최선의 손실: 0.128580\t정확도: 96.05%\n", + "7\t검증 세트 손실: 0.115896\t최선의 손실: 0.115896\t정확도: 97.03%\n", + "8\t검증 세트 손실: 0.135125\t최선의 손실: 0.115896\t정확도: 97.07%\n", + "9\t검증 세트 손실: 0.135833\t최선의 손실: 0.115896\t정확도: 97.26%\n", + "10\t검증 세트 손실: 0.132217\t최선의 손실: 0.115896\t정확도: 96.52%\n", + "11\t검증 세트 손실: 0.153150\t최선의 손실: 0.115896\t정확도: 95.70%\n", + "12\t검증 세트 손실: 0.151336\t최선의 손실: 0.115896\t정확도: 96.52%\n", + "13\t검증 세트 손실: 0.144381\t최선의 손실: 0.115896\t정확도: 95.78%\n", + "14\t검증 세트 손실: 0.153023\t최선의 손실: 0.115896\t정확도: 95.97%\n", + "15\t검증 세트 손실: 0.133062\t최선의 손실: 0.115896\t정확도: 96.29%\n", + "16\t검증 세트 손실: 0.132478\t최선의 손실: 0.115896\t정확도: 96.44%\n", + "17\t검증 세트 손실: 0.136255\t최선의 손실: 0.115896\t정확도: 96.91%\n", + "18\t검증 세트 손실: 0.117191\t최선의 손실: 0.115896\t정확도: 96.25%\n", + "19\t검증 세트 손실: 0.124553\t최선의 손실: 0.115896\t정확도: 96.29%\n", + "20\t검증 세트 손실: 0.131795\t최선의 손실: 0.115896\t정확도: 96.44%\n", + "21\t검증 세트 손실: 0.156834\t최선의 손실: 0.115896\t정확도: 96.09%\n", + "22\t검증 세트 손실: 0.128501\t최선의 손실: 0.115896\t정확도: 96.72%\n", + "23\t검증 세트 손실: 0.118279\t최선의 손실: 0.115896\t정확도: 97.07%\n", + "24\t검증 세트 손실: 0.156146\t최선의 손실: 0.115896\t정확도: 96.21%\n", + "25\t검증 세트 손실: 0.167713\t최선의 손실: 0.115896\t정확도: 95.93%\n", + "26\t검증 세트 손실: 0.133349\t최선의 손실: 0.115896\t정확도: 96.05%\n", + "27\t검증 세트 손실: 0.159143\t최선의 손실: 0.115896\t정확도: 96.44%\n", + "28\t검증 세트 손실: 0.157008\t최선의 손실: 0.115896\t정확도: 96.13%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.05, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 14.9s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n", - "0\t검증 세트 손실: 0.219602\t최선의 손실: 0.219602\t정확도: 93.59%\n", - "1\t검증 세트 손실: 0.163874\t최선의 손실: 0.163874\t정확도: 95.86%\n", - "2\t검증 세트 손실: 0.156178\t최선의 손실: 0.156178\t정확도: 95.82%\n", - "3\t검증 세트 손실: 0.145441\t최선의 손실: 0.145441\t정확도: 95.66%\n", - "4\t검증 세트 손실: 0.154373\t최선의 손실: 0.145441\t정확도: 96.01%\n", - "5\t검증 세트 손실: 0.131792\t최선의 손실: 0.131792\t정확도: 95.66%\n", - "6\t검증 세트 손실: 0.133930\t최선의 손실: 0.131792\t정확도: 96.87%\n", - "7\t검증 세트 손실: 0.135412\t최선의 손실: 0.131792\t정확도: 96.29%\n", - "8\t검증 세트 손실: 0.155462\t최선의 손실: 0.131792\t정확도: 95.04%\n", - "9\t검증 세트 손실: 0.157770\t최선의 손실: 0.131792\t정확도: 97.22%\n", - "10\t검증 세트 손실: 0.147512\t최선의 손실: 0.131792\t정확도: 96.17%\n", - "11\t검증 세트 손실: 0.134663\t최선의 손실: 0.131792\t정확도: 96.21%\n", - "12\t검증 세트 손실: 0.161034\t최선의 손실: 0.131792\t정확도: 95.39%\n", - "13\t검증 세트 손실: 0.150870\t최선의 손실: 0.131792\t정확도: 95.50%\n", - "14\t검증 세트 손실: 0.183596\t최선의 손실: 0.131792\t정확도: 94.37%\n", - "15\t검증 세트 손실: 0.135103\t최선의 손실: 0.131792\t정확도: 95.70%\n", - "16\t검증 세트 손실: 0.169271\t최선의 손실: 0.131792\t정확도: 96.25%\n", - "17\t검증 세트 손실: 0.187095\t최선의 손실: 0.131792\t정확도: 94.88%\n", - "18\t검증 세트 손실: 0.153598\t최선의 손실: 0.131792\t정확도: 94.80%\n", - "19\t검증 세트 손실: 0.152879\t최선의 손실: 0.131792\t정확도: 95.78%\n", - "20\t검증 세트 손실: 0.156756\t최선의 손실: 0.131792\t정확도: 95.35%\n", - "21\t검증 세트 손실: 0.167825\t최선의 손실: 0.131792\t정확도: 95.19%\n", - "22\t검증 세트 손실: 0.160696\t최선의 손실: 0.131792\t정확도: 95.97%\n", - "23\t검증 세트 손실: 0.138762\t최선의 손실: 0.131792\t정확도: 95.82%\n", - "24\t검증 세트 손실: 0.129928\t최선의 손실: 0.129928\t정확도: 96.64%\n", - "25\t검증 세트 손실: 0.144513\t최선의 손실: 0.129928\t정확도: 96.52%\n", - "26\t검증 세트 손실: 0.129400\t최선의 손실: 0.129400\t정확도: 96.83%\n", - "27\t검증 세트 손실: 0.163027\t최선의 손실: 0.129400\t정확도: 95.74%\n", - "28\t검증 세트 손실: 0.120040\t최선의 손실: 0.120040\t정확도: 96.52%\n", - "29\t검증 세트 손실: 0.146389\t최선의 손실: 0.120040\t정확도: 95.82%\n", - "30\t검증 세트 손실: 0.133784\t최선의 손실: 0.120040\t정확도: 96.33%\n", - "31\t검증 세트 손실: 0.121297\t최선의 손실: 0.120040\t정확도: 96.79%\n", - "32\t검증 세트 손실: 0.162533\t최선의 손실: 0.120040\t정확도: 96.25%\n", - "33\t검증 세트 손실: 0.247806\t최선의 손실: 0.120040\t정확도: 90.38%\n", - "34\t검증 세트 손실: 0.207839\t최선의 손실: 0.120040\t정확도: 93.28%\n", - "35\t검증 세트 손실: 0.185927\t최선의 손실: 0.120040\t정확도: 93.51%\n", - "36\t검증 세트 손실: 0.211933\t최선의 손실: 0.120040\t정확도: 92.06%\n", - "37\t검증 세트 손실: 0.222071\t최선의 손실: 0.120040\t정확도: 92.73%\n", - "38\t검증 세트 손실: 0.207732\t최선의 손실: 0.120040\t정확도: 93.35%\n", - "39\t검증 세트 손실: 0.229559\t최선의 손실: 0.120040\t정확도: 93.78%\n", - "40\t검증 세트 손실: 0.307017\t최선의 손실: 0.120040\t정확도: 88.35%\n", - "41\t검증 세트 손실: 0.337248\t최선의 손실: 0.120040\t정확도: 91.83%\n", - "42\t검증 세트 손실: 0.280765\t최선의 손실: 0.120040\t정확도: 93.43%\n", - "43\t검증 세트 손실: 0.223917\t최선의 손실: 0.120040\t정확도: 92.22%\n", - "44\t검증 세트 손실: 0.196411\t최선의 손실: 0.120040\t정확도: 94.41%\n", - "45\t검증 세트 손실: 0.206316\t최선의 손실: 0.120040\t정확도: 94.14%\n", - "46\t검증 세트 손실: 0.174980\t최선의 손실: 0.120040\t정확도: 95.74%\n", - "47\t검증 세트 손실: 0.167657\t최선의 손실: 0.120040\t정확도: 95.90%\n", - "48\t검증 세트 손실: 0.167782\t최선의 손실: 0.120040\t정확도: 95.74%\n", - "49\t검증 세트 손실: 0.148669\t최선의 손실: 0.120040\t정확도: 96.29%\n", + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 9.2s\n", + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.209829\t최선의 손실: 0.209829\t정확도: 94.84%\n", + "1\t검증 세트 손실: 0.144554\t최선의 손실: 0.144554\t정확도: 96.21%\n", + "2\t검증 세트 손실: 0.142881\t최선의 손실: 0.142881\t정확도: 96.56%\n", + "3\t검증 세트 손실: 0.148136\t최선의 손실: 0.142881\t정확도: 96.09%\n", + "4\t검증 세트 손실: 0.118500\t최선의 손실: 0.118500\t정확도: 96.83%\n", + "5\t검증 세트 손실: 0.155088\t최선의 손실: 0.118500\t정확도: 96.05%\n", + "6\t검증 세트 손실: 0.139136\t최선의 손실: 0.118500\t정확도: 96.17%\n", + "7\t검증 세트 손실: 0.121766\t최선의 손실: 0.118500\t정확도: 96.40%\n", + "8\t검증 세트 손실: 0.138765\t최선의 손실: 0.118500\t정확도: 96.17%\n", + "9\t검증 세트 손실: 0.120431\t최선의 손실: 0.118500\t정확도: 95.97%\n", + "10\t검증 세트 손실: 0.122700\t최선의 손실: 0.118500\t정확도: 96.52%\n", + "11\t검증 세트 손실: 0.109655\t최선의 손실: 0.109655\t정확도: 97.03%\n", + "12\t검증 세트 손실: 0.119841\t최선의 손실: 0.109655\t정확도: 96.76%\n", + "13\t검증 세트 손실: 0.123267\t최선의 손실: 0.109655\t정확도: 95.97%\n", + "14\t검증 세트 손실: 0.112034\t최선의 손실: 0.109655\t정확도: 96.36%\n", + "15\t검증 세트 손실: 0.123700\t최선의 손실: 0.109655\t정확도: 96.60%\n", + "16\t검증 세트 손실: 0.128974\t최선의 손실: 0.109655\t정확도: 96.13%\n", + "17\t검증 세트 손실: 0.159901\t최선의 손실: 0.109655\t정확도: 95.39%\n", + "18\t검증 세트 손실: 0.135603\t최선의 손실: 0.109655\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.142522\t최선의 손실: 0.109655\t정확도: 95.19%\n", + "20\t검증 세트 손실: 0.127742\t최선의 손실: 0.109655\t정확도: 96.68%\n", + "21\t검증 세트 손실: 0.148763\t최선의 손실: 0.109655\t정확도: 96.01%\n", + "22\t검증 세트 손실: 0.121321\t최선의 손실: 0.109655\t정확도: 96.40%\n", + "23\t검증 세트 손실: 0.117918\t최선의 손실: 0.109655\t정확도: 96.21%\n", + "24\t검증 세트 손실: 0.115725\t최선의 손실: 0.109655\t정확도: 95.74%\n", + "25\t검증 세트 손실: 0.153773\t최선의 손실: 0.109655\t정확도: 94.96%\n", + "26\t검증 세트 손실: 0.125529\t최선의 손실: 0.109655\t정확도: 96.13%\n", + "27\t검증 세트 손실: 0.130231\t최선의 손실: 0.109655\t정확도: 96.05%\n", + "28\t검증 세트 손실: 0.155060\t최선의 손실: 0.109655\t정확도: 95.00%\n", + "29\t검증 세트 손실: 0.121636\t최선의 손실: 0.109655\t정확도: 96.48%\n", + "30\t검증 세트 손실: 0.144569\t최선의 손실: 0.109655\t정확도: 95.70%\n", + "31\t검증 세트 손실: 0.141036\t최선의 손실: 0.109655\t정확도: 96.72%\n", + "32\t검증 세트 손실: 0.164224\t최선의 손실: 0.109655\t정확도: 95.74%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 15.4s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n", - "0\t검증 세트 손실: 0.212121\t최선의 손실: 0.212121\t정확도: 93.55%\n", - "1\t검증 세트 손실: 0.167847\t최선의 손실: 0.167847\t정확도: 95.39%\n", - "2\t검증 세트 손실: 0.132540\t최선의 손실: 0.132540\t정확도: 96.29%\n", - "3\t검증 세트 손실: 0.143879\t최선의 손실: 0.132540\t정확도: 96.33%\n", - "4\t검증 세트 손실: 0.136005\t최선의 손실: 0.132540\t정확도: 96.25%\n", - "5\t검증 세트 손실: 0.130671\t최선의 손실: 0.130671\t정확도: 96.44%\n", - "6\t검증 세트 손실: 0.156973\t최선의 손실: 0.130671\t정확도: 96.05%\n", - "7\t검증 세트 손실: 0.130925\t최선의 손실: 0.130671\t정확도: 96.64%\n", - "8\t검증 세트 손실: 0.135910\t최선의 손실: 0.130671\t정확도: 96.48%\n", - "9\t검증 세트 손실: 0.127844\t최선의 손실: 0.127844\t정확도: 96.87%\n", - "10\t검증 세트 손실: 0.128402\t최선의 손실: 0.127844\t정확도: 96.52%\n", - "11\t검증 세트 손실: 0.130597\t최선의 손실: 0.127844\t정확도: 96.56%\n", - "12\t검증 세트 손실: 0.144882\t최선의 손실: 0.127844\t정확도: 96.25%\n", - "13\t검증 세트 손실: 0.157982\t최선의 손실: 0.127844\t정확도: 95.93%\n", - "14\t검증 세트 손실: 0.144713\t최선의 손실: 0.127844\t정확도: 96.83%\n", - "15\t검증 세트 손실: 0.127050\t최선의 손실: 0.127050\t정확도: 96.01%\n", - "16\t검증 세트 손실: 0.114857\t최선의 손실: 0.114857\t정확도: 96.40%\n", - "17\t검증 세트 손실: 0.128707\t최선의 손실: 0.114857\t정확도: 96.21%\n", - "18\t검증 세트 손실: 0.144426\t최선의 손실: 0.114857\t정확도: 96.48%\n", - "19\t검증 세트 손실: 0.116324\t최선의 손실: 0.114857\t정확도: 96.25%\n", - "20\t검증 세트 손실: 0.142865\t최선의 손실: 0.114857\t정확도: 96.29%\n", - "21\t검증 세트 손실: 0.147699\t최선의 손실: 0.114857\t정확도: 94.64%\n", - "22\t검증 세트 손실: 0.187150\t최선의 손실: 0.114857\t정확도: 94.10%\n", - "23\t검증 세트 손실: 0.118989\t최선의 손실: 0.114857\t정확도: 96.64%\n", - "24\t검증 세트 손실: 0.154897\t최선의 손실: 0.114857\t정확도: 95.93%\n", - "25\t검증 세트 손실: 0.139647\t최선의 손실: 0.114857\t정확도: 95.70%\n", - "26\t검증 세트 손실: 0.132637\t최선의 손실: 0.114857\t정확도: 95.58%\n", - "27\t검증 세트 손실: 0.146618\t최선의 손실: 0.114857\t정확도: 96.52%\n", - "28\t검증 세트 손실: 0.140587\t최선의 손실: 0.114857\t정확도: 96.01%\n", - "29\t검증 세트 손실: 0.137280\t최선의 손실: 0.114857\t정확도: 95.86%\n", - "30\t검증 세트 손실: 0.276961\t최선의 손실: 0.114857\t정확도: 93.00%\n", - "31\t검증 세트 손실: 0.312309\t최선의 손실: 0.114857\t정확도: 92.46%\n", - "32\t검증 세트 손실: 0.319184\t최선의 손실: 0.114857\t정확도: 92.22%\n", - "33\t검증 세트 손실: 0.239355\t최선의 손실: 0.114857\t정확도: 93.24%\n", - "34\t검증 세트 손실: 0.226688\t최선의 손실: 0.114857\t정확도: 94.64%\n", - "35\t검증 세트 손실: 0.226590\t최선의 손실: 0.114857\t정확도: 91.40%\n", - "36\t검증 세트 손실: 0.188663\t최선의 손실: 0.114857\t정확도: 94.57%\n", - "37\t검증 세트 손실: 0.233461\t최선의 손실: 0.114857\t정확도: 92.92%\n", + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 10.3s\n", + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.164849\t최선의 손실: 0.164849\t정확도: 95.74%\n", + "1\t검증 세트 손실: 0.150496\t최선의 손실: 0.150496\t정확도: 96.25%\n", + "2\t검증 세트 손실: 0.141293\t최선의 손실: 0.141293\t정확도: 96.33%\n", + "3\t검증 세트 손실: 0.120384\t최선의 손실: 0.120384\t정확도: 97.11%\n", + "4\t검증 세트 손실: 0.148794\t최선의 손실: 0.120384\t정확도: 96.52%\n", + "5\t검증 세트 손실: 0.146616\t최선의 손실: 0.120384\t정확도: 96.60%\n", + "6\t검증 세트 손실: 0.139952\t최선의 손실: 0.120384\t정확도: 96.76%\n", + "7\t검증 세트 손실: 0.114258\t최선의 손실: 0.114258\t정확도: 97.30%\n", + "8\t검증 세트 손실: 0.132533\t최선의 손실: 0.114258\t정확도: 96.25%\n", + "9\t검증 세트 손실: 0.134597\t최선의 손실: 0.114258\t정확도: 96.13%\n", + "10\t검증 세트 손실: 0.121991\t최선의 손실: 0.114258\t정확도: 96.60%\n", + "11\t검증 세트 손실: 0.121209\t최선의 손실: 0.114258\t정확도: 96.52%\n", + "12\t검증 세트 손실: 0.125537\t최선의 손실: 0.114258\t정확도: 96.52%\n", + "13\t검증 세트 손실: 0.117834\t최선의 손실: 0.114258\t정확도: 96.83%\n", + "14\t검증 세트 손실: 0.136639\t최선의 손실: 0.114258\t정확도: 96.33%\n", + "15\t검증 세트 손실: 0.121661\t최선의 손실: 0.114258\t정확도: 96.79%\n", + "16\t검증 세트 손실: 0.108506\t최선의 손실: 0.108506\t정확도: 97.11%\n", + "17\t검증 세트 손실: 0.134151\t최선의 손실: 0.108506\t정확도: 96.83%\n", + "18\t검증 세트 손실: 0.119431\t최선의 손실: 0.108506\t정확도: 96.64%\n", + "19\t검증 세트 손실: 0.129834\t최선의 손실: 0.108506\t정확도: 96.33%\n", + "20\t검증 세트 손실: 0.131943\t최선의 손실: 0.108506\t정확도: 96.09%\n", + "21\t검증 세트 손실: 0.136647\t최선의 손실: 0.108506\t정확도: 96.40%\n", + "22\t검증 세트 손실: 0.126961\t최선의 손실: 0.108506\t정확도: 96.01%\n", + "23\t검증 세트 손실: 0.107968\t최선의 손실: 0.107968\t정확도: 96.64%\n", + "24\t검증 세트 손실: 0.161553\t최선의 손실: 0.107968\t정확도: 95.11%\n", + "25\t검증 세트 손실: 0.155148\t최선의 손실: 0.107968\t정확도: 95.58%\n", + "26\t검증 세트 손실: 0.136861\t최선의 손실: 0.107968\t정확도: 95.74%\n", + "27\t검증 세트 손실: 0.124112\t최선의 손실: 0.107968\t정확도: 96.17%\n", + "28\t검증 세트 손실: 0.154824\t최선의 손실: 0.107968\t정확도: 94.61%\n", + "29\t검증 세트 손실: 0.157290\t최선의 손실: 0.107968\t정확도: 95.74%\n", + "30\t검증 세트 손실: 0.121010\t최선의 손실: 0.107968\t정확도: 95.86%\n", + "31\t검증 세트 손실: 0.141081\t최선의 손실: 0.107968\t정확도: 96.09%\n", + "32\t검증 세트 손실: 0.110381\t최선의 손실: 0.107968\t정확도: 96.83%\n", + "33\t검증 세트 손실: 0.142161\t최선의 손실: 0.107968\t정확도: 96.36%\n", + "34\t검증 세트 손실: 0.146768\t최선의 손실: 0.107968\t정확도: 94.25%\n", + "35\t검증 세트 손실: 0.165427\t최선의 손실: 0.107968\t정확도: 94.06%\n", + "36\t검증 세트 손실: 0.159914\t최선의 손실: 0.107968\t정확도: 94.92%\n", + "37\t검증 세트 손실: 0.151306\t최선의 손실: 0.107968\t정확도: 95.15%\n", + "38\t검증 세트 손실: 0.153209\t최선의 손실: 0.107968\t정확도: 95.35%\n", + "39\t검증 세트 손실: 0.182555\t최선의 손실: 0.107968\t정확도: 93.94%\n", + "40\t검증 세트 손실: 0.161321\t최선의 손실: 0.107968\t정확도: 95.39%\n", + "41\t검증 세트 손실: 0.152692\t최선의 손실: 0.107968\t정확도: 95.62%\n", + "42\t검증 세트 손실: 0.152154\t최선의 손실: 0.107968\t정확도: 95.23%\n", + "43\t검증 세트 손실: 0.166564\t최선의 손실: 0.107968\t정확도: 94.18%\n", + "44\t검증 세트 손실: 0.147796\t최선의 손실: 0.107968\t정확도: 95.47%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 12.0s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120 \n" + "[CV] n_neurons=120, learning_rate=0.01, dropout_rate=0.5, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 13.8s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation= \n", + "0\t검증 세트 손실: 1.610842\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.644703\t최선의 손실: 1.610842\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.625981\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.651765\t최선의 손실: 1.610842\t정확도: 20.91%\n", + "4\t검증 세트 손실: 1.710196\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.616504\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.657364\t최선의 손실: 1.610842\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.652758\t최선의 손실: 1.610842\t정확도: 20.91%\n", + "8\t검증 세트 손실: 1.645934\t최선의 손실: 1.610842\t정확도: 18.73%\n", + "9\t검증 세트 손실: 1.715436\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.636274\t최선의 손실: 1.610842\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.669228\t최선의 손실: 1.610842\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.780965\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.615920\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "14\t검증 세트 손실: 1.658617\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.611815\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.620248\t최선의 손실: 1.610842\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.664812\t최선의 손실: 1.610842\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.852595\t최선의 손실: 1.610842\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.699248\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.685466\t최선의 손실: 1.610842\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.620343\t최선의 손실: 1.610842\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation=, total= 2.2s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation= \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.286276\t최선의 손실: 0.286276\t정확도: 93.04%\n", - "1\t검증 세트 손실: 0.223933\t최선의 손실: 0.223933\t정확도: 93.78%\n", - "2\t검증 세트 손실: 0.157159\t최선의 손실: 0.157159\t정확도: 95.39%\n", - "3\t검증 세트 손실: 0.195964\t최선의 손실: 0.157159\t정확도: 95.82%\n", - "4\t검증 세트 손실: 0.145649\t최선의 손실: 0.145649\t정확도: 96.36%\n", - "5\t검증 세트 손실: 0.133912\t최선의 손실: 0.133912\t정확도: 96.33%\n", - "6\t검증 세트 손실: 0.142517\t최선의 손실: 0.133912\t정확도: 96.76%\n", - "7\t검증 세트 손실: 0.143957\t최선의 손실: 0.133912\t정확도: 96.56%\n", - "8\t검증 세트 손실: 0.131732\t최선의 손실: 0.131732\t정확도: 96.99%\n", - "9\t검증 세트 손실: 0.120569\t최선의 손실: 0.120569\t정확도: 96.56%\n", - "10\t검증 세트 손실: 0.136236\t최선의 손실: 0.120569\t정확도: 96.52%\n", - "11\t검증 세트 손실: 0.161449\t최선의 손실: 0.120569\t정확도: 95.54%\n", - "12\t검증 세트 손실: 0.156425\t최선의 손실: 0.120569\t정확도: 95.43%\n", - "13\t검증 세트 손실: 0.121661\t최선의 손실: 0.120569\t정확도: 96.68%\n", - "14\t검증 세트 손실: 0.155285\t최선의 손실: 0.120569\t정확도: 96.09%\n", - "15\t검증 세트 손실: 0.133294\t최선의 손실: 0.120569\t정확도: 96.13%\n", - "16\t검증 세트 손실: 0.140850\t최선의 손실: 0.120569\t정확도: 95.39%\n", - "17\t검증 세트 손실: 0.137561\t최선의 손실: 0.120569\t정확도: 95.90%\n", - "18\t검증 세트 손실: 0.153786\t최선의 손실: 0.120569\t정확도: 95.93%\n", - "19\t검증 세트 손실: 0.159079\t최선의 손실: 0.120569\t정확도: 95.04%\n", - "20\t검증 세트 손실: 0.142187\t최선의 손실: 0.120569\t정확도: 95.62%\n", - "21\t검증 세트 손실: 0.150501\t최선의 손실: 0.120569\t정확도: 96.36%\n", - "22\t검증 세트 손실: 0.150134\t최선의 손실: 0.120569\t정확도: 95.62%\n", - "23\t검증 세트 손실: 0.155657\t최선의 손실: 0.120569\t정확도: 96.29%\n", - "24\t검증 세트 손실: 0.129590\t최선의 손실: 0.120569\t정확도: 96.25%\n", - "25\t검증 세트 손실: 0.152604\t최선의 손실: 0.120569\t정확도: 96.09%\n", - "26\t검증 세트 손실: 0.152396\t최선의 손실: 0.120569\t정확도: 96.09%\n", - "27\t검증 세트 손실: 0.128291\t최선의 손실: 0.120569\t정확도: 96.29%\n", - "28\t검증 세트 손실: 0.176841\t최선의 손실: 0.120569\t정확도: 94.18%\n", - "29\t검증 세트 손실: 0.129195\t최선의 손실: 0.120569\t정확도: 96.05%\n", - "30\t검증 세트 손실: 0.158244\t최선의 손실: 0.120569\t정확도: 95.70%\n", + "0\t검증 세트 손실: 1.622358\t최선의 손실: 1.622358\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.626004\t최선의 손실: 1.622358\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.643588\t최선의 손실: 1.622358\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.631446\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.652704\t최선의 손실: 1.622358\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.635702\t최선의 손실: 1.622358\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.808449\t최선의 손실: 1.622358\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.700384\t최선의 손실: 1.622358\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.724512\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.683895\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.652487\t최선의 손실: 1.622358\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.682725\t최선의 손실: 1.622358\t정확도: 20.91%\n", + "12\t검증 세트 손실: 1.665658\t최선의 손실: 1.622358\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.738204\t최선의 손실: 1.622358\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.801551\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.776460\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.646616\t최선의 손실: 1.622358\t정확도: 19.27%\n", + "17\t검증 세트 손실: 1.641263\t최선의 손실: 1.622358\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.634529\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.667122\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.639727\t최선의 손실: 1.622358\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.846254\t최선의 손실: 1.622358\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=120, total= 9.9s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.638058\t최선의 손실: 1.638058\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.616069\t최선의 손실: 1.616069\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.610213\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.611997\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.644407\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.712320\t최선의 손실: 1.610213\t정확도: 18.73%\n", - "6\t검증 세트 손실: 1.710432\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.618621\t최선의 손실: 1.610213\t정확도: 20.91%\n", - "8\t검증 세트 손실: 1.653783\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.742126\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.622705\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "11\t검증 세트 손실: 1.637253\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.650787\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.648275\t최선의 손실: 1.610213\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.653459\t최선의 손실: 1.610213\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.684515\t최선의 손실: 1.610213\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.655625\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1.646176\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.692654\t최선의 손실: 1.610213\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.673512\t최선의 손실: 1.610213\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.667650\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.617086\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.743621\t최선의 손실: 1.610213\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.686756\t최선의 손실: 1.610213\t정확도: 19.08%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation=, total= 2.3s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation= \n", + "0\t검증 세트 손실: 1.460806\t최선의 손실: 1.460806\t정확도: 29.75%\n", + "1\t검증 세트 손실: 1.579715\t최선의 손실: 1.460806\t정확도: 22.09%\n", + "2\t검증 세트 손실: 1.757465\t최선의 손실: 1.460806\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.611108\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.616971\t최선의 손실: 1.460806\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.716467\t최선의 손실: 1.460806\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.694465\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.711751\t최선의 손실: 1.460806\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.709580\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.671249\t최선의 손실: 1.460806\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.633140\t최선의 손실: 1.460806\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.635180\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.649403\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.862905\t최선의 손실: 1.460806\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.674255\t최선의 손실: 1.460806\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.731193\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.641317\t최선의 손실: 1.460806\t정확도: 19.08%\n", + "17\t검증 세트 손실: 1.639986\t최선의 손실: 1.460806\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.613616\t최선의 손실: 1.460806\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1.678431\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.668903\t최선의 손실: 1.460806\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.802874\t최선의 손실: 1.460806\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140, total= 2.6s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.709730\t최선의 손실: 1.709730\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.637004\t최선의 손실: 1.637004\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.613780\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.627408\t최선의 손실: 1.613780\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.614217\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.627277\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.738308\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.661599\t최선의 손실: 1.613780\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.696167\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.703317\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.615875\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.630069\t최선의 손실: 1.613780\t정확도: 20.91%\n", - "12\t검증 세트 손실: 1.647282\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.736236\t최선의 손실: 1.613780\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.670209\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.623162\t최선의 손실: 1.613780\t정확도: 20.91%\n", - "16\t검증 세트 손실: 1.641104\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.629057\t최선의 손실: 1.613780\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.684787\t최선의 손실: 1.613780\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.708001\t최선의 손실: 1.613780\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.638457\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.758587\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.713553\t최선의 손실: 1.613780\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.656348\t최선의 손실: 1.613780\t정확도: 19.27%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.6, batch_size=500, activation=, total= 2.3s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 33.665264\t최선의 손실: 33.665264\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1087.264282\t최선의 손실: 33.665264\t정확도: 19.27%\n", + "2\t검증 세트 손실: 243.152786\t최선의 손실: 33.665264\t정확도: 19.04%\n", + "3\t검증 세트 손실: 201.922302\t최선의 손실: 33.665264\t정확도: 18.84%\n", + "4\t검증 세트 손실: 244.983246\t최선의 손실: 33.665264\t정확도: 16.58%\n", + "5\t검증 세트 손실: 96.727234\t최선의 손실: 33.665264\t정확도: 21.54%\n", + "6\t검증 세트 손실: 47.139839\t최선의 손실: 33.665264\t정확도: 33.70%\n", + "7\t검증 세트 손실: 355.374817\t최선의 손실: 33.665264\t정확도: 20.91%\n", + "8\t검증 세트 손실: 143.711792\t최선의 손실: 33.665264\t정확도: 24.98%\n", + "9\t검증 세트 손실: 215.847687\t최선의 손실: 33.665264\t정확도: 22.01%\n", + "10\t검증 세트 손실: 10943.752930\t최선의 손실: 33.665264\t정확도: 19.27%\n", + "11\t검증 세트 손실: 148.448685\t최선의 손실: 33.665264\t정확도: 34.09%\n", + "12\t검증 세트 손실: 140.983215\t최선의 손실: 33.665264\t정확도: 24.28%\n", + "13\t검증 세트 손실: 1650.247437\t최선의 손실: 33.665264\t정확도: 19.27%\n", + "14\t검증 세트 손실: 570.804260\t최선의 손실: 33.665264\t정확도: 28.11%\n", + "15\t검증 세트 손실: 941.410645\t최선의 손실: 33.665264\t정확도: 22.01%\n", + "16\t검증 세트 손실: 6865.397949\t최선의 손실: 33.665264\t정확도: 18.73%\n", + "17\t검증 세트 손실: 144.565903\t최선의 손실: 33.665264\t정확도: 27.25%\n", + "18\t검증 세트 손실: 162.116455\t최선의 손실: 33.665264\t정확도: 35.85%\n", + "19\t검증 세트 손실: 4618.190430\t최선의 손실: 33.665264\t정확도: 20.91%\n", + "20\t검증 세트 손실: 272.986115\t최선의 손실: 33.665264\t정확도: 24.90%\n", + "21\t검증 세트 손실: 142.316483\t최선의 손실: 33.665264\t정확도: 30.49%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140, total= 2.6s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.760716\t최선의 손실: 1.760716\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.638659\t최선의 손실: 1.638659\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.675497\t최선의 손실: 1.638659\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.647808\t최선의 손실: 1.638659\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.618451\t최선의 손실: 1.618451\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.614304\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.626277\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "7\t검증 세트 손실: 1.668249\t최선의 손실: 1.614304\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.636315\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.644322\t최선의 손실: 1.614304\t정확도: 19.27%\n", - "10\t검증 세트 손실: 1.643083\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.643694\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.624024\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.761823\t최선의 손실: 1.614304\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.680997\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.732960\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.675447\t최선의 손실: 1.614304\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.667928\t최선의 손실: 1.614304\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.679304\t최선의 손실: 1.614304\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.667958\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.661430\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.784949\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.670463\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.666315\t최선의 손실: 1.614304\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.679783\t최선의 손실: 1.614304\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.737622\t최선의 손실: 1.614304\t정확도: 18.73%\n", - "26\t검증 세트 손실: 1.722384\t최선의 손실: 1.614304\t정확도: 19.08%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.9s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 3.475674\t최선의 손실: 3.475674\t정확도: 25.76%\n", + "1\t검증 세트 손실: 1.376207\t최선의 손실: 1.376207\t정확도: 38.94%\n", + "2\t검증 세트 손실: 1.676592\t최선의 손실: 1.376207\t정확도: 35.85%\n", + "3\t검증 세트 손실: 8.585592\t최선의 손실: 1.376207\t정확도: 20.99%\n", + "4\t검증 세트 손실: 6.428319\t최선의 손실: 1.376207\t정확도: 23.69%\n", + "5\t검증 세트 손실: 167.414124\t최선의 손실: 1.376207\t정확도: 19.47%\n", + "6\t검증 세트 손실: 63.302006\t최선의 손실: 1.376207\t정확도: 23.18%\n", + "7\t검증 세트 손실: 135.013168\t최선의 손실: 1.376207\t정확도: 19.35%\n", + "8\t검증 세트 손실: 1031.104126\t최선의 손실: 1.376207\t정확도: 18.76%\n", + "9\t검증 세트 손실: 509.911346\t최선의 손실: 1.376207\t정확도: 20.91%\n", + "10\t검증 세트 손실: 280.088593\t최선의 손실: 1.376207\t정확도: 27.01%\n", + "11\t검증 세트 손실: 242.046692\t최선의 손실: 1.376207\t정확도: 18.73%\n", + "12\t검증 세트 손실: 518.685669\t최선의 손실: 1.376207\t정확도: 20.91%\n", + "13\t검증 세트 손실: 625.107361\t최선의 손실: 1.376207\t정확도: 22.01%\n", + "14\t검증 세트 손실: 795.930542\t최선의 손실: 1.376207\t정확도: 19.27%\n", + "15\t검증 세트 손실: 923.846436\t최선의 손실: 1.376207\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1091.659912\t최선의 손실: 1.376207\t정확도: 19.08%\n", + "17\t검증 세트 손실: 4846.981934\t최선의 손실: 1.376207\t정확도: 19.08%\n", + "18\t검증 세트 손실: 503.767059\t최선의 손실: 1.376207\t정확도: 22.01%\n", + "19\t검증 세트 손실: 571.560669\t최선의 손실: 1.376207\t정확도: 22.01%\n", + "20\t검증 세트 손실: 850.913086\t최선의 손실: 1.376207\t정확도: 18.73%\n", + "21\t검증 세트 손실: 166.575882\t최선의 손실: 1.376207\t정확도: 36.55%\n", + "22\t검증 세트 손실: 844.644653\t최선의 손실: 1.376207\t정확도: 18.84%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.05, activation=, n_neurons=140, total= 2.8s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140 \n", - "0\t검증 세트 손실: 5.790218\t최선의 손실: 5.790218\t정확도: 24.43%\n", - "1\t검증 세트 손실: 1.726711\t최선의 손실: 1.726711\t정확도: 28.77%\n", - "2\t검증 세트 손실: 1.467448\t최선의 손실: 1.467448\t정확도: 34.99%\n", - "3\t검증 세트 손실: 7.536595\t최선의 손실: 1.467448\t정확도: 19.27%\n", - "4\t검증 세트 손실: 3.011818\t최선의 손실: 1.467448\t정확도: 24.00%\n", - "5\t검증 세트 손실: 92.539970\t최선의 손실: 1.467448\t정확도: 19.27%\n", - "6\t검증 세트 손실: 131.181580\t최선의 손실: 1.467448\t정확도: 19.16%\n", - "7\t검증 세트 손실: 92.468811\t최선의 손실: 1.467448\t정확도: 22.01%\n", - "8\t검증 세트 손실: 74.182724\t최선의 손실: 1.467448\t정확도: 22.20%\n", - "9\t검증 세트 손실: 105.742645\t최선의 손실: 1.467448\t정확도: 20.91%\n", - "10\t검증 세트 손실: 342.877625\t최선의 손실: 1.467448\t정확도: 19.08%\n", - "11\t검증 세트 손실: 441.912445\t최선의 손실: 1.467448\t정확도: 18.73%\n", - "12\t검증 세트 손실: 931.293579\t최선의 손실: 1.467448\t정확도: 20.91%\n", - "13\t검증 세트 손실: 466.465118\t최선의 손실: 1.467448\t정확도: 20.33%\n", - "14\t검증 세트 손실: 1136.344849\t최선의 손실: 1.467448\t정확도: 22.01%\n", - "15\t검증 세트 손실: 403.074524\t최선의 손실: 1.467448\t정확도: 22.05%\n", - "16\t검증 세트 손실: 740.999634\t최선의 손실: 1.467448\t정확도: 19.08%\n", - "17\t검증 세트 손실: 315.896271\t최선의 손실: 1.467448\t정확도: 35.65%\n", - "18\t검증 세트 손실: 304.169769\t최선의 손실: 1.467448\t정확도: 24.43%\n", - "19\t검증 세트 손실: 768.090576\t최선의 손실: 1.467448\t정확도: 20.68%\n", - "20\t검증 세트 손실: 752.299133\t최선의 손실: 1.467448\t정확도: 22.01%\n", - "21\t검증 세트 손실: 337.620239\t최선의 손실: 1.467448\t정확도: 22.01%\n", - "22\t검증 세트 손실: 305.653015\t최선의 손실: 1.467448\t정확도: 20.09%\n", - "23\t검증 세트 손실: 476.849976\t최선의 손실: 1.467448\t정확도: 19.08%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.0min\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 21.224966\t최선의 손실: 21.224966\t정확도: 20.52%\n", + "1\t검증 세트 손실: 287.650757\t최선의 손실: 21.224966\t정확도: 19.51%\n", + "2\t검증 세트 손실: 38.988392\t최선의 손실: 21.224966\t정확도: 20.91%\n", + "3\t검증 세트 손실: 132.692337\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "4\t검증 세트 손실: 28.171885\t최선의 손실: 21.224966\t정확도: 21.81%\n", + "5\t검증 세트 손실: 722.929810\t최선의 손실: 21.224966\t정확도: 22.71%\n", + "6\t검증 세트 손실: 114.779915\t최선의 손실: 21.224966\t정확도: 22.01%\n", + "7\t검증 세트 손실: 165.099564\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "8\t검증 세트 손실: 95.447456\t최선의 손실: 21.224966\t정확도: 32.96%\n", + "9\t검증 세트 손실: 417.851501\t최선의 손실: 21.224966\t정확도: 33.31%\n", + "10\t검증 세트 손실: 187.349411\t최선의 손실: 21.224966\t정확도: 19.08%\n", + "11\t검증 세트 손실: 4475.651855\t최선의 손실: 21.224966\t정확도: 30.30%\n", + "12\t검증 세트 손실: 494.503998\t최선의 손실: 21.224966\t정확도: 18.73%\n", + "13\t검증 세트 손실: 766.202026\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "14\t검증 세트 손실: 594.468201\t최선의 손실: 21.224966\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1176.694336\t최선의 손실: 21.224966\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1048.329468\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "17\t검증 세트 손실: 5090.792969\t최선의 손실: 21.224966\t정확도: 18.73%\n", + "18\t검증 세트 손실: 2675.572021\t최선의 손실: 21.224966\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1763.885254\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "20\t검증 세트 손실: 1033.357056\t최선의 손실: 21.224966\t정확도: 19.27%\n", + "21\t검증 세트 손실: 4830.330566\t최선의 손실: 21.224966\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140, total= 1.1min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140 \n", - "0\t검증 세트 손실: 22.208923\t최선의 손실: 22.208923\t정확도: 20.91%\n", - "1\t검증 세트 손실: 596.164368\t최선의 손실: 22.208923\t정확도: 18.73%\n", - "2\t검증 세트 손실: 170.018143\t최선의 손실: 22.208923\t정확도: 19.08%\n" + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 58.9s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 73957.914062\t최선의 손실: 73957.914062\t정확도: 38.94%\n", + "1\t검증 세트 손실: 217669.156250\t최선의 손실: 73957.914062\t정확도: 72.87%\n", + "2\t검증 세트 손실: 6005.494141\t최선의 손실: 6005.494141\t정확도: 94.06%\n", + "3\t검증 세트 손실: 3268.971191\t최선의 손실: 3268.971191\t정확도: 94.06%\n", + "4\t검증 세트 손실: 3209.849854\t최선의 손실: 3209.849854\t정확도: 92.96%\n", + "5\t검증 세트 손실: 12623.204102\t최선의 손실: 3209.849854\t정확도: 95.23%\n", + "6\t검증 세트 손실: 4486.781250\t최선의 손실: 3209.849854\t정확도: 92.53%\n", + "7\t검증 세트 손실: 4172.595215\t최선의 손실: 3209.849854\t정확도: 93.67%\n", + "8\t검증 세트 손실: 1592.157593\t최선의 손실: 1592.157593\t정확도: 93.75%\n", + "9\t검증 세트 손실: 1113.312256\t최선의 손실: 1113.312256\t정확도: 95.07%\n", + "10\t검증 세트 손실: 1320.671753\t최선의 손실: 1113.312256\t정확도: 95.23%\n", + "11\t검증 세트 손실: 594.703308\t최선의 손실: 594.703308\t정확도: 94.72%\n", + "12\t검증 세트 손실: 1992.501343\t최선의 손실: 594.703308\t정확도: 95.47%\n", + "13\t검증 세트 손실: 30789.353516\t최선의 손실: 594.703308\t정확도: 69.43%\n", + "14\t검증 세트 손실: 27463574.000000\t최선의 손실: 594.703308\t정확도: 58.09%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "3\t검증 세트 손실: 221.703629\t최선의 손실: 22.208923\t정확도: 36.59%\n", - "4\t검증 세트 손실: 303.633759\t최선의 손실: 22.208923\t정확도: 19.27%\n", - "5\t검증 세트 손실: 169.892075\t최선의 손실: 22.208923\t정확도: 18.73%\n", - "6\t검증 세트 손실: 158.402420\t최선의 손실: 22.208923\t정확도: 19.27%\n", - "7\t검증 세트 손실: 95.319305\t최선의 손실: 22.208923\t정확도: 19.62%\n", - "8\t검증 세트 손실: 3190.629639\t최선의 손실: 22.208923\t정확도: 22.01%\n", - "9\t검증 세트 손실: 527.821472\t최선의 손실: 22.208923\t정확도: 22.01%\n", - "10\t검증 세트 손실: 2729.309326\t최선의 손실: 22.208923\t정확도: 18.73%\n", - "11\t검증 세트 손실: 179.657486\t최선의 손실: 22.208923\t정확도: 22.20%\n", - "12\t검증 세트 손실: 713.773132\t최선의 손실: 22.208923\t정확도: 19.08%\n", - "13\t검증 세트 손실: 297.679688\t최선의 손실: 22.208923\t정확도: 35.18%\n", - "14\t검증 세트 손실: 1340.170288\t최선의 손실: 22.208923\t정확도: 18.73%\n", - "15\t검증 세트 손실: 336.884613\t최선의 손실: 22.208923\t정확도: 19.51%\n", - "16\t검증 세트 손실: 431.821777\t최선의 손실: 22.208923\t정확도: 19.31%\n", - "17\t검증 세트 손실: 2744.095215\t최선의 손실: 22.208923\t정확도: 19.08%\n", - "18\t검증 세트 손실: 890.044250\t최선의 손실: 22.208923\t정확도: 22.01%\n", - "19\t검증 세트 손실: 2070.123535\t최선의 손실: 22.208923\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1980.412842\t최선의 손실: 22.208923\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1088.650757\t최선의 손실: 22.208923\t정확도: 22.01%\n", + "15\t검증 세트 손실: 302154.843750\t최선의 손실: 594.703308\t정확도: 94.84%\n", + "16\t검증 세트 손실: 134610.359375\t최선의 손실: 594.703308\t정확도: 94.37%\n", + "17\t검증 세트 손실: 89640.851562\t최선의 손실: 594.703308\t정확도: 95.04%\n", + "18\t검증 세트 손실: 69331.234375\t최선의 손실: 594.703308\t정확도: 95.93%\n", + "19\t검증 세트 손실: 101266.601562\t최선의 손실: 594.703308\t정확도: 93.16%\n", + "20\t검증 세트 손실: 46672.242188\t최선의 손실: 594.703308\t정확도: 95.66%\n", + "21\t검증 세트 손실: 47295.710938\t최선의 손실: 594.703308\t정확도: 95.78%\n", + "22\t검증 세트 손실: 68250.234375\t최선의 손실: 594.703308\t정확도: 94.76%\n", + "23\t검증 세트 손실: 26100.111328\t최선의 손실: 594.703308\t정확도: 96.13%\n", + "24\t검증 세트 손실: 70282.382812\t최선의 손실: 594.703308\t정확도: 90.46%\n", + "25\t검증 세트 손실: 23031.232422\t최선의 손실: 594.703308\t정확도: 95.82%\n", + "26\t검증 세트 손실: 4738196.000000\t최선의 손실: 594.703308\t정확도: 94.53%\n", + "27\t검증 세트 손실: 2881893.000000\t최선의 손실: 594.703308\t정확도: 97.03%\n", + "28\t검증 세트 손실: 510790.218750\t최선의 손실: 594.703308\t정확도: 96.33%\n", + "29\t검증 세트 손실: 417068.187500\t최선의 손실: 594.703308\t정확도: 94.84%\n", + "30\t검증 세트 손실: 333373.625000\t최선의 손실: 594.703308\t정확도: 94.64%\n", + "31\t검증 세트 손실: 248448.796875\t최선의 손실: 594.703308\t정확도: 94.68%\n", + "32\t검증 세트 손실: 182565.734375\t최선의 손실: 594.703308\t정확도: 96.44%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140, total= 59.4s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140 \n", - "0\t검증 세트 손실: 4.738139\t최선의 손실: 4.738139\t정확도: 20.91%\n", - "1\t검증 세트 손실: 148.714508\t최선의 손실: 4.738139\t정확도: 19.62%\n", - "2\t검증 세트 손실: 39.958725\t최선의 손실: 4.738139\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1141.344360\t최선의 손실: 4.738139\t정확도: 19.27%\n", - "4\t검증 세트 손실: 108.746101\t최선의 손실: 4.738139\t정확도: 19.08%\n", - "5\t검증 세트 손실: 122.370384\t최선의 손실: 4.738139\t정확도: 37.92%\n", - "6\t검증 세트 손실: 50.877415\t최선의 손실: 4.738139\t정확도: 19.55%\n", - "7\t검증 세트 손실: 245.592926\t최선의 손실: 4.738139\t정확도: 18.88%\n", - "8\t검증 세트 손실: 823.131165\t최선의 손실: 4.738139\t정확도: 19.27%\n", - "9\t검증 세트 손실: 161.582718\t최선의 손실: 4.738139\t정확도: 28.50%\n", - "10\t검증 세트 손실: 2410.691406\t최선의 손실: 4.738139\t정확도: 19.08%\n", - "11\t검증 세트 손실: 230.574860\t최선의 손실: 4.738139\t정확도: 19.27%\n", - "12\t검증 세트 손실: 97.127754\t최선의 손실: 4.738139\t정확도: 19.74%\n", - "13\t검증 세트 손실: 250.503860\t최선의 손실: 4.738139\t정확도: 34.83%\n", - "14\t검증 세트 손실: 322.916656\t최선의 손실: 4.738139\t정확도: 24.63%\n", - "15\t검증 세트 손실: 158.949890\t최선의 손실: 4.738139\t정확도: 29.71%\n", - "16\t검증 세트 손실: 413.943115\t최선의 손실: 4.738139\t정확도: 19.27%\n", - "17\t검증 세트 손실: 1044.913452\t최선의 손실: 4.738139\t정확도: 19.55%\n", - "18\t검증 세트 손실: 286.121826\t최선의 손실: 4.738139\t정확도: 19.70%\n", - "19\t검증 세트 손실: 416.408997\t최선의 손실: 4.738139\t정확도: 19.31%\n", - "20\t검증 세트 손실: 459.376404\t최선의 손실: 4.738139\t정확도: 19.08%\n", - "21\t검증 세트 손실: 251.696518\t최선의 손실: 4.738139\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 19.1s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 37002.718750\t최선의 손실: 37002.718750\t정확도: 52.81%\n", + "1\t검증 세트 손실: 7519.947754\t최선의 손실: 7519.947754\t정확도: 62.55%\n", + "2\t검증 세트 손실: 2599.164062\t최선의 손실: 2599.164062\t정확도: 57.97%\n", + "3\t검증 세트 손실: 1493.838379\t최선의 손실: 1493.838379\t정확도: 58.52%\n", + "4\t검증 세트 손실: 4155.626465\t최선의 손실: 1493.838379\t정확도: 52.89%\n", + "5\t검증 세트 손실: 10528004.000000\t최선의 손실: 1493.838379\t정확도: 25.92%\n", + "6\t검증 세트 손실: 64631.832031\t최선의 손실: 1493.838379\t정확도: 83.97%\n", + "7\t검증 세트 손실: 3803436.750000\t최선의 손실: 1493.838379\t정확도: 57.35%\n", + "8\t검증 세트 손실: 206786.500000\t최선의 손실: 1493.838379\t정확도: 76.66%\n", + "9\t검증 세트 손실: 324757.000000\t최선의 손실: 1493.838379\t정확도: 76.00%\n", + "10\t검증 세트 손실: 125982.445312\t최선의 손실: 1493.838379\t정확도: 74.55%\n", + "11\t검증 세트 손실: 239515.421875\t최선의 손실: 1493.838379\t정확도: 68.73%\n", + "12\t검증 세트 손실: 246090.812500\t최선의 손실: 1493.838379\t정확도: 73.89%\n", + "13\t검증 세트 손실: 88688.093750\t최선의 손실: 1493.838379\t정확도: 87.29%\n", + "14\t검증 세트 손실: 39079.789062\t최선의 손실: 1493.838379\t정확도: 90.66%\n", + "15\t검증 세트 손실: 445887.656250\t최선의 손실: 1493.838379\t정확도: 94.25%\n", + "16\t검증 세트 손실: 194268.796875\t최선의 손실: 1493.838379\t정확도: 93.75%\n", + "17\t검증 세트 손실: 109461.007812\t최선의 손실: 1493.838379\t정확도: 94.80%\n", + "18\t검증 세트 손실: 135939.765625\t최선의 손실: 1493.838379\t정확도: 82.96%\n", + "19\t검증 세트 손실: 76039.250000\t최선의 손실: 1493.838379\t정확도: 93.59%\n", + "20\t검증 세트 손실: 69155.562500\t최선의 손실: 1493.838379\t정확도: 94.45%\n", + "21\t검증 세트 손실: 73321.523438\t최선의 손실: 1493.838379\t정확도: 93.12%\n", + "22\t검증 세트 손실: 56171.222656\t최선의 손실: 1493.838379\t정확도: 93.59%\n", + "23\t검증 세트 손실: 67251.492188\t최선의 손실: 1493.838379\t정확도: 89.84%\n", + "24\t검증 세트 손실: 43891.769531\t최선의 손실: 1493.838379\t정확도: 95.07%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=140, total= 60.0s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 1.306417\t최선의 손실: 1.306417\t정확도: 73.81%\n", - "1\t검증 세트 손실: 1.023207\t최선의 손실: 1.023207\t정확도: 88.51%\n", - "2\t검증 세트 손실: 114653.625000\t최선의 손실: 1.023207\t정확도: 60.91%\n", - "3\t검증 세트 손실: 10631.974609\t최선의 손실: 1.023207\t정확도: 75.41%\n", - "4\t검증 세트 손실: 5486.460449\t최선의 손실: 1.023207\t정확도: 77.52%\n", - "5\t검증 세트 손실: 10966.592773\t최선의 손실: 1.023207\t정확도: 72.09%\n", - "6\t검증 세트 손실: 4804.203125\t최선의 손실: 1.023207\t정확도: 76.74%\n", - "7\t검증 세트 손실: 4701.883301\t최선의 손실: 1.023207\t정확도: 77.60%\n", - "8\t검증 세트 손실: 3196.662842\t최선의 손실: 1.023207\t정확도: 77.40%\n", - "9\t검증 세트 손실: 1773.644653\t최선의 손실: 1.023207\t정확도: 79.24%\n", - "10\t검증 세트 손실: 178065648.000000\t최선의 손실: 1.023207\t정확도: 44.45%\n", - "11\t검증 세트 손실: 4770582.500000\t최선의 손실: 1.023207\t정확도: 60.79%\n", - "12\t검증 세트 손실: 3518497.750000\t최선의 손실: 1.023207\t정확도: 56.22%\n", - "13\t검증 세트 손실: 2507541.500000\t최선의 손실: 1.023207\t정확도: 55.04%\n", - "14\t검증 세트 손실: 408813.375000\t최선의 손실: 1.023207\t정확도: 72.36%\n", - "15\t검증 세트 손실: 649862.312500\t최선의 손실: 1.023207\t정확도: 76.31%\n", - "16\t검증 세트 손실: 406566.437500\t최선의 손실: 1.023207\t정확도: 75.29%\n", - "17\t검증 세트 손실: 163242.265625\t최선의 손실: 1.023207\t정확도: 78.69%\n", - "18\t검증 세트 손실: 247173.406250\t최선의 손실: 1.023207\t정확도: 85.30%\n", - "19\t검증 세트 손실: 442521.218750\t최선의 손실: 1.023207\t정확도: 77.21%\n", - "20\t검증 세트 손실: 377406.406250\t최선의 손실: 1.023207\t정확도: 86.94%\n", - "21\t검증 세트 손실: 339246.218750\t최선의 손실: 1.023207\t정확도: 77.01%\n", - "22\t검증 세트 손실: 158428.703125\t최선의 손실: 1.023207\t정확도: 91.40%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 14.8s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 45175.113281\t최선의 손실: 45175.113281\t정확도: 36.51%\n", + "1\t검증 세트 손실: 15615.557617\t최선의 손실: 15615.557617\t정확도: 59.62%\n", + "2\t검증 세트 손실: 6930.178223\t최선의 손실: 6930.178223\t정확도: 66.69%\n", + "3\t검증 세트 손실: 1408.868164\t최선의 손실: 1408.868164\t정확도: 75.25%\n", + "4\t검증 세트 손실: 2773.878418\t최선의 손실: 1408.868164\t정확도: 71.85%\n", + "5\t검증 세트 손실: 5147.584473\t최선의 손실: 1408.868164\t정확도: 58.64%\n", + "6\t검증 세트 손실: 5363.818848\t최선의 손실: 1408.868164\t정확도: 72.01%\n", + "7\t검증 세트 손실: 2191.915283\t최선의 손실: 1408.868164\t정확도: 68.61%\n", + "8\t검증 세트 손실: 5287.989258\t최선의 손실: 1408.868164\t정확도: 73.85%\n", + "9\t검증 세트 손실: 1230.344238\t최선의 손실: 1230.344238\t정확도: 94.41%\n", + "10\t검증 세트 손실: 14699.672852\t최선의 손실: 1230.344238\t정확도: 82.41%\n", + "11\t검증 세트 손실: 9150590.000000\t최선의 손실: 1230.344238\t정확도: 57.94%\n", + "12\t검증 세트 손실: 136410.609375\t최선의 손실: 1230.344238\t정확도: 77.64%\n", + "13\t검증 세트 손실: 84165.789062\t최선의 손실: 1230.344238\t정확도: 77.52%\n", + "14\t검증 세트 손실: 80201.867188\t최선의 손실: 1230.344238\t정확도: 74.71%\n", + "15\t검증 세트 손실: 68299.914062\t최선의 손실: 1230.344238\t정확도: 73.49%\n", + "16\t검증 세트 손실: 81043.820312\t최선의 손실: 1230.344238\t정확도: 64.46%\n", + "17\t검증 세트 손실: 42089.441406\t최선의 손실: 1230.344238\t정확도: 83.89%\n", + "18\t검증 세트 손실: 83836.468750\t최선의 손실: 1230.344238\t정확도: 75.76%\n", + "19\t검증 세트 손실: 83807.710938\t최선의 손실: 1230.344238\t정확도: 61.38%\n", + "20\t검증 세트 손실: 53617.527344\t최선의 손실: 1230.344238\t정확도: 77.68%\n", + "21\t검증 세트 손실: 67734.078125\t최선의 손실: 1230.344238\t정확도: 76.19%\n", + "22\t검증 세트 손실: 36295.234375\t최선의 손실: 1230.344238\t정확도: 76.90%\n", + "23\t검증 세트 손실: 41030.628906\t최선의 손실: 1230.344238\t정확도: 76.00%\n", + "24\t검증 세트 손실: 23242.019531\t최선의 손실: 1230.344238\t정확도: 75.06%\n", + "25\t검증 세트 손실: 37110.500000\t최선의 손실: 1230.344238\t정확도: 77.91%\n", + "26\t검증 세트 손실: 25998.101562\t최선의 손실: 1230.344238\t정확도: 76.51%\n", + "27\t검증 세트 손실: 27508.404297\t최선의 손실: 1230.344238\t정확도: 77.09%\n", + "28\t검증 세트 손실: 362545.843750\t최선의 손실: 1230.344238\t정확도: 85.54%\n", + "29\t검증 세트 손실: 837721.187500\t최선의 손실: 1230.344238\t정확도: 82.25%\n", + "30\t검증 세트 손실: 198797.843750\t최선의 손실: 1230.344238\t정확도: 91.75%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 13.6s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 4644.509277\t최선의 손실: 4644.509277\t정확도: 76.08%\n", - "1\t검증 세트 손실: 929.429932\t최선의 손실: 929.429932\t정확도: 70.05%\n", - "2\t검증 세트 손실: 995.344421\t최선의 손실: 929.429932\t정확도: 75.06%\n", - "3\t검증 세트 손실: 982.972412\t최선의 손실: 929.429932\t정확도: 74.71%\n", - "4\t검증 세트 손실: 1500.484009\t최선의 손실: 929.429932\t정확도: 56.53%\n", - "5\t검증 세트 손실: 769.882080\t최선의 손실: 769.882080\t정확도: 65.36%\n", - "6\t검증 세트 손실: 314.564972\t최선의 손실: 314.564972\t정확도: 77.83%\n", - "7\t검증 세트 손실: 401.760040\t최선의 손실: 314.564972\t정확도: 78.03%\n", - "8\t검증 세트 손실: 307.981049\t최선의 손실: 307.981049\t정확도: 74.67%\n", - "9\t검증 세트 손실: 169.467941\t최선의 손실: 169.467941\t정확도: 89.25%\n", - "10\t검증 세트 손실: 221.338867\t최선의 손실: 169.467941\t정확도: 77.13%\n", - "11\t검증 세트 손실: 223.256409\t최선의 손실: 169.467941\t정확도: 76.00%\n", - "12\t검증 세트 손실: 318.131897\t최선의 손실: 169.467941\t정확도: 72.24%\n", - "13\t검증 세트 손실: 11227327.000000\t최선의 손실: 169.467941\t정확도: 41.83%\n", - "14\t검증 세트 손실: 138772.109375\t최선의 손실: 169.467941\t정확도: 75.49%\n", - "15\t검증 세트 손실: 210947.125000\t최선의 손실: 169.467941\t정확도: 70.88%\n", - "16\t검증 세트 손실: 51479.527344\t최선의 손실: 169.467941\t정확도: 77.33%\n", - "17\t검증 세트 손실: 89317.789062\t최선의 손실: 169.467941\t정확도: 75.49%\n", - "18\t검증 세트 손실: 57589.671875\t최선의 손실: 169.467941\t정확도: 76.31%\n", - "19\t검증 세트 손실: 31422.216797\t최선의 손실: 169.467941\t정확도: 77.33%\n", - "20\t검증 세트 손실: 34571.058594\t최선의 손실: 169.467941\t정확도: 89.52%\n", - "21\t검증 세트 손실: 33154.218750\t최선의 손실: 169.467941\t정확도: 77.64%\n", - "22\t검증 세트 손실: 31447.085938\t최선의 손실: 169.467941\t정확도: 77.25%\n", - "23\t검증 세트 손실: 37106.273438\t최선의 손실: 169.467941\t정확도: 81.12%\n", - "24\t검증 세트 손실: 45620.195312\t최선의 손실: 169.467941\t정확도: 78.85%\n", - "25\t검증 세트 손실: 28120.625000\t최선의 손실: 169.467941\t정확도: 76.00%\n", - "26\t검증 세트 손실: 10158.872070\t최선의 손실: 169.467941\t정확도: 88.78%\n", - "27\t검증 세트 손실: 9493.131836\t최선의 손실: 169.467941\t정확도: 93.82%\n", - "28\t검증 세트 손실: 58457.320312\t최선의 손실: 169.467941\t정확도: 83.42%\n", - "29\t검증 세트 손실: 26683.527344\t최선의 손실: 169.467941\t정확도: 88.39%\n", - "30\t검증 세트 손실: 67615432.000000\t최선의 손실: 169.467941\t정확도: 83.50%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 17.9s\n", + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.153938\t최선의 손실: 0.153938\t정확도: 95.86%\n", + "1\t검증 세트 손실: 0.164419\t최선의 손실: 0.153938\t정확도: 95.66%\n", + "2\t검증 세트 손실: 0.183560\t최선의 손실: 0.153938\t정확도: 94.76%\n", + "3\t검증 세트 손실: 0.669092\t최선의 손실: 0.153938\t정확도: 82.06%\n", + "4\t검증 세트 손실: 0.313742\t최선의 손실: 0.153938\t정확도: 88.51%\n", + "5\t검증 세트 손실: 0.537170\t최선의 손실: 0.153938\t정확도: 83.89%\n", + "6\t검증 세트 손실: 0.690072\t최선의 손실: 0.153938\t정확도: 75.45%\n", + "7\t검증 세트 손실: 0.770176\t최선의 손실: 0.153938\t정확도: 73.65%\n", + "8\t검증 세트 손실: 0.273908\t최선의 손실: 0.153938\t정확도: 91.56%\n", + "9\t검증 세트 손실: 0.254982\t최선의 손실: 0.153938\t정확도: 92.57%\n", + "10\t검증 세트 손실: 0.315312\t최선의 손실: 0.153938\t정확도: 92.65%\n", + "11\t검증 세트 손실: 0.754585\t최선의 손실: 0.153938\t정확도: 74.47%\n", + "12\t검증 세트 손실: 1.040030\t최선의 손실: 0.153938\t정확도: 69.27%\n", + "13\t검증 세트 손실: 8.239121\t최선의 손실: 0.153938\t정확도: 52.35%\n", + "14\t검증 세트 손실: 1.373962\t최선의 손실: 0.153938\t정확도: 48.51%\n", + "15\t검증 세트 손실: 0.970229\t최선의 손실: 0.153938\t정확도: 62.47%\n", + "16\t검증 세트 손실: 0.867014\t최선의 손실: 0.153938\t정확도: 59.93%\n", + "17\t검증 세트 손실: 0.762222\t최선의 손실: 0.153938\t정확도: 67.67%\n", + "18\t검증 세트 손실: 0.865335\t최선의 손실: 0.153938\t정확도: 68.10%\n", + "19\t검증 세트 손실: 0.782979\t최선의 손실: 0.153938\t정확도: 69.70%\n", + "20\t검증 세트 손실: 0.953667\t최선의 손실: 0.153938\t정확도: 62.28%\n", + "21\t검증 세트 손실: 0.666095\t최선의 손실: 0.153938\t정확도: 74.08%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 18.3s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 1017.429138\t최선의 손실: 1017.429138\t정확도: 70.95%\n", - "1\t검증 세트 손실: 247.376221\t최선의 손실: 247.376221\t정확도: 72.13%\n", - "2\t검증 세트 손실: 148.402771\t최선의 손실: 148.402771\t정확도: 74.78%\n", - "3\t검증 세트 손실: 365.882477\t최선의 손실: 148.402771\t정확도: 70.37%\n", - "4\t검증 세트 손실: 78.237846\t최선의 손실: 78.237846\t정확도: 77.52%\n", - "5\t검증 세트 손실: 104.634857\t최선의 손실: 78.237846\t정확도: 75.57%\n", - "6\t검증 세트 손실: 870604.187500\t최선의 손실: 78.237846\t정확도: 55.55%\n", - "7\t검증 세트 손실: 51430.660156\t최선의 손실: 78.237846\t정확도: 64.89%\n", - "8\t검증 세트 손실: 20118.234375\t최선의 손실: 78.237846\t정확도: 82.64%\n", - "9\t검증 세트 손실: 36177.714844\t최선의 손실: 78.237846\t정확도: 69.43%\n", - "10\t검증 세트 손실: 12205.696289\t최선의 손실: 78.237846\t정확도: 71.07%\n", - "11\t검증 세트 손실: 30340.214844\t최선의 손실: 78.237846\t정확도: 72.95%\n", - "12\t검증 세트 손실: 34918.398438\t최선의 손실: 78.237846\t정확도: 64.19%\n", - "13\t검증 세트 손실: 7181.303223\t최선의 손실: 78.237846\t정확도: 81.47%\n", - "14\t검증 세트 손실: 11756.094727\t최선의 손실: 78.237846\t정확도: 71.31%\n", - "15\t검증 세트 손실: 5886.253906\t최선의 손실: 78.237846\t정확도: 90.30%\n", - "16\t검증 세트 손실: 4551564.500000\t최선의 손실: 78.237846\t정확도: 66.93%\n", - "17\t검증 세트 손실: 500786.187500\t최선의 손실: 78.237846\t정확도: 85.69%\n", - "18\t검증 세트 손실: 51679488.000000\t최선의 손실: 78.237846\t정확도: 90.97%\n", - "19\t검증 세트 손실: 3238294.000000\t최선의 손실: 78.237846\t정확도: 95.39%\n", - "20\t검증 세트 손실: 1682699.375000\t최선의 손실: 78.237846\t정확도: 96.01%\n", - "21\t검증 세트 손실: 732193.000000\t최선의 손실: 78.237846\t정확도: 95.15%\n", - "22\t검증 세트 손실: 859688.125000\t최선의 손실: 78.237846\t정확도: 92.38%\n", - "23\t검증 세트 손실: 781092.562500\t최선의 손실: 78.237846\t정확도: 92.85%\n", - "24\t검증 세트 손실: 2086726.625000\t최선의 손실: 78.237846\t정확도: 90.42%\n", - "25\t검증 세트 손실: 513874.312500\t최선의 손실: 78.237846\t정확도: 95.04%\n", + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.2s\n", + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.143505\t최선의 손실: 0.143505\t정확도: 96.36%\n", + "1\t검증 세트 손실: 0.152260\t최선의 손실: 0.143505\t정확도: 96.60%\n", + "2\t검증 세트 손실: 0.245593\t최선의 손실: 0.143505\t정확도: 92.10%\n", + "3\t검증 세트 손실: 0.183398\t최선의 손실: 0.143505\t정확도: 95.86%\n", + "4\t검증 세트 손실: 0.202777\t최선의 손실: 0.143505\t정확도: 93.75%\n", + "5\t검증 세트 손실: 0.741621\t최선의 손실: 0.143505\t정확도: 81.55%\n", + "6\t검증 세트 손실: 0.541229\t최선의 손실: 0.143505\t정확도: 87.80%\n", + "7\t검증 세트 손실: 0.589540\t최선의 손실: 0.143505\t정확도: 78.85%\n", + "8\t검증 세트 손실: 0.511491\t최선의 손실: 0.143505\t정확도: 83.97%\n", + "9\t검증 세트 손실: 0.287047\t최선의 손실: 0.143505\t정확도: 92.42%\n", + "10\t검증 세트 손실: 0.211072\t최선의 손실: 0.143505\t정확도: 93.08%\n", + "11\t검증 세트 손실: 0.213341\t최선의 손실: 0.143505\t정확도: 92.30%\n", + "12\t검증 세트 손실: 1.016272\t최선의 손실: 0.143505\t정확도: 91.56%\n", + "13\t검증 세트 손실: 0.898589\t최선의 손실: 0.143505\t정확도: 81.00%\n", + "14\t검증 세트 손실: 0.455939\t최선의 손실: 0.143505\t정확도: 85.61%\n", + "15\t검증 세트 손실: 0.297101\t최선의 손실: 0.143505\t정확도: 91.13%\n", + "16\t검증 세트 손실: 0.341479\t최선의 손실: 0.143505\t정확도: 89.87%\n", + "17\t검증 세트 손실: 0.831546\t최선의 손실: 0.143505\t정확도: 89.05%\n", + "18\t검증 세트 손실: 0.280041\t최선의 손실: 0.143505\t정확도: 91.75%\n", + "19\t검증 세트 손실: 0.293018\t최선의 손실: 0.143505\t정확도: 89.91%\n", + "20\t검증 세트 손실: 0.215127\t최선의 손실: 0.143505\t정확도: 92.14%\n", + "21\t검증 세트 손실: 0.221712\t최선의 손실: 0.143505\t정확도: 92.65%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 15.3s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n" + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.1s\n", + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.131859\t최선의 손실: 0.131859\t정확도: 96.33%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.155950\t최선의 손실: 0.155950\t정확도: 95.70%\n", - "1\t검증 세트 손실: 0.179647\t최선의 손실: 0.155950\t정확도: 96.29%\n", - "2\t검증 세트 손실: 0.277467\t최선의 손실: 0.155950\t정확도: 93.59%\n", - "3\t검증 세트 손실: 0.289330\t최선의 손실: 0.155950\t정확도: 90.07%\n", - "4\t검증 세트 손실: 0.391699\t최선의 손실: 0.155950\t정확도: 87.65%\n", - "5\t검증 세트 손실: 0.452586\t최선의 손실: 0.155950\t정확도: 83.50%\n", - "6\t검증 세트 손실: 0.263413\t최선의 손실: 0.155950\t정확도: 91.05%\n", - "7\t검증 세트 손실: 0.243387\t최선의 손실: 0.155950\t정확도: 91.32%\n", - "8\t검증 세트 손실: 0.174622\t최선의 손실: 0.155950\t정확도: 94.96%\n", - "9\t검증 세트 손실: 0.158461\t최선의 손실: 0.155950\t정확도: 95.70%\n", - "10\t검증 세트 손실: 0.682105\t최선의 손실: 0.155950\t정확도: 85.22%\n", - "11\t검증 세트 손실: 0.374191\t최선의 손실: 0.155950\t정확도: 90.97%\n", - "12\t검증 세트 손실: 0.250340\t최선의 손실: 0.155950\t정확도: 93.08%\n", - "13\t검증 세트 손실: 0.253701\t최선의 손실: 0.155950\t정확도: 93.94%\n", - "14\t검증 세트 손실: 0.224702\t최선의 손실: 0.155950\t정확도: 94.53%\n", - "15\t검증 세트 손실: 0.288143\t최선의 손실: 0.155950\t정확도: 94.45%\n", - "16\t검증 세트 손실: 0.492257\t최선의 손실: 0.155950\t정확도: 85.11%\n", - "17\t검증 세트 손실: 7.346236\t최선의 손실: 0.155950\t정확도: 56.06%\n", - "18\t검증 세트 손실: 2.019565\t최선의 손실: 0.155950\t정확도: 70.05%\n", - "19\t검증 세트 손실: 1.439878\t최선의 손실: 0.155950\t정확도: 72.36%\n", - "20\t검증 세트 손실: 3.901166\t최선의 손실: 0.155950\t정확도: 72.67%\n", - "21\t검증 세트 손실: 2.795127\t최선의 손실: 0.155950\t정확도: 62.71%\n", + "1\t검증 세트 손실: 0.168161\t최선의 손실: 0.131859\t정확도: 94.68%\n", + "2\t검증 세트 손실: 0.142784\t최선의 손실: 0.131859\t정확도: 96.79%\n", + "3\t검증 세트 손실: 0.138610\t최선의 손실: 0.131859\t정확도: 95.66%\n", + "4\t검증 세트 손실: 1.072349\t최선의 손실: 0.131859\t정확도: 54.57%\n", + "5\t검증 세트 손실: 0.531517\t최선의 손실: 0.131859\t정확도: 83.50%\n", + "6\t검증 세트 손실: 0.317871\t최선의 손실: 0.131859\t정확도: 89.76%\n", + "7\t검증 세트 손실: 0.255842\t최선의 손실: 0.131859\t정확도: 92.96%\n", + "8\t검증 세트 손실: 0.226728\t최선의 손실: 0.131859\t정확도: 92.46%\n", + "9\t검증 세트 손실: 0.222182\t최선의 손실: 0.131859\t정확도: 93.71%\n", + "10\t검증 세트 손실: 0.252163\t최선의 손실: 0.131859\t정확도: 92.06%\n", + "11\t검증 세트 손실: 0.205141\t최선의 손실: 0.131859\t정확도: 93.98%\n", + "12\t검증 세트 손실: 3.145439\t최선의 손실: 0.131859\t정확도: 54.77%\n", + "13\t검증 세트 손실: 1.683352\t최선의 손실: 0.131859\t정확도: 54.65%\n", + "14\t검증 세트 손실: 0.716972\t최선의 손실: 0.131859\t정확도: 73.06%\n", + "15\t검증 세트 손실: 0.661404\t최선의 손실: 0.131859\t정확도: 76.62%\n", + "16\t검증 세트 손실: 1.012456\t최선의 손실: 0.131859\t정확도: 66.97%\n", + "17\t검증 세트 손실: 0.505229\t최선의 손실: 0.131859\t정확도: 83.70%\n", + "18\t검증 세트 손실: 0.437024\t최선의 손실: 0.131859\t정확도: 86.20%\n", + "19\t검증 세트 손실: 0.420861\t최선의 손실: 0.131859\t정확도: 87.69%\n", + "20\t검증 세트 손실: 0.451401\t최선의 손실: 0.131859\t정확도: 84.79%\n", + "21\t검증 세트 손실: 0.386712\t최선의 손실: 0.131859\t정확도: 87.80%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 7.1s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 0.165145\t최선의 손실: 0.165145\t정확도: 95.23%\n", - "1\t검증 세트 손실: 0.150471\t최선의 손실: 0.150471\t정확도: 96.13%\n", - "2\t검증 세트 손실: 0.984010\t최선의 손실: 0.150471\t정확도: 76.35%\n", - "3\t검증 세트 손실: 0.677235\t최선의 손실: 0.150471\t정확도: 75.10%\n", - "4\t검증 세트 손실: 0.539966\t최선의 손실: 0.150471\t정확도: 80.10%\n", - "5\t검증 세트 손실: 0.354333\t최선의 손실: 0.150471\t정확도: 89.05%\n", - "6\t검증 세트 손실: 0.356762\t최선의 손실: 0.150471\t정확도: 90.70%\n", - "7\t검증 세트 손실: 0.590422\t최선의 손실: 0.150471\t정확도: 80.18%\n", - "8\t검증 세트 손실: 2.835197\t최선의 손실: 0.150471\t정확도: 59.38%\n", - "9\t검증 세트 손실: 0.546000\t최선의 손실: 0.150471\t정확도: 79.63%\n", - "10\t검증 세트 손실: 0.524966\t최선의 손실: 0.150471\t정확도: 79.28%\n", - "11\t검증 세트 손실: 0.452351\t최선의 손실: 0.150471\t정확도: 86.75%\n", - "12\t검증 세트 손실: 2.810682\t최선의 손실: 0.150471\t정확도: 62.00%\n", - "13\t검증 세트 손실: 1.484754\t최선의 손실: 0.150471\t정확도: 67.67%\n", - "14\t검증 세트 손실: 0.533682\t최선의 손실: 0.150471\t정확도: 82.88%\n", - "15\t검증 세트 손실: 0.396502\t최선의 손실: 0.150471\t정확도: 89.72%\n", - "16\t검증 세트 손실: 0.390571\t최선의 손실: 0.150471\t정확도: 87.80%\n", - "17\t검증 세트 손실: 0.420651\t최선의 손실: 0.150471\t정확도: 87.29%\n", - "18\t검증 세트 손실: 4.188336\t최선의 손실: 0.150471\t정확도: 54.07%\n", - "19\t검증 세트 손실: 0.594147\t최선의 손실: 0.150471\t정확도: 76.51%\n", - "20\t검증 세트 손실: 0.567035\t최선의 손실: 0.150471\t정확도: 76.47%\n", - "21\t검증 세트 손실: 0.440268\t최선의 손실: 0.150471\t정확도: 84.60%\n", - "22\t검증 세트 손실: 0.399165\t최선의 손실: 0.150471\t정확도: 86.83%\n", + "[CV] n_neurons=50, learning_rate=0.02, dropout_rate=0.3, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.0s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.195685\t최선의 손실: 0.195685\t정확도: 95.15%\n", + "1\t검증 세트 손실: 0.195342\t최선의 손실: 0.195342\t정확도: 95.04%\n", + "2\t검증 세트 손실: 0.186269\t최선의 손실: 0.186269\t정확도: 95.70%\n", + "3\t검증 세트 손실: 0.204874\t최선의 손실: 0.186269\t정확도: 93.94%\n", + "4\t검증 세트 손실: 0.317247\t최선의 손실: 0.186269\t정확도: 92.53%\n", + "5\t검증 세트 손실: 0.208057\t최선의 손실: 0.186269\t정확도: 93.12%\n", + "6\t검증 세트 손실: 0.227226\t최선의 손실: 0.186269\t정확도: 91.83%\n", + "7\t검증 세트 손실: 0.228227\t최선의 손실: 0.186269\t정확도: 93.28%\n", + "8\t검증 세트 손실: 0.225045\t최선의 손실: 0.186269\t정확도: 93.51%\n", + "9\t검증 세트 손실: 0.218551\t최선의 손실: 0.186269\t정확도: 93.59%\n", + "10\t검증 세트 손실: 0.219894\t최선의 손실: 0.186269\t정확도: 93.59%\n", + "11\t검증 세트 손실: 0.172610\t최선의 손실: 0.172610\t정확도: 94.49%\n", + "12\t검증 세트 손실: 0.254895\t최선의 손실: 0.172610\t정확도: 90.46%\n", + "13\t검증 세트 손실: 0.245622\t최선의 손실: 0.172610\t정확도: 92.69%\n", + "14\t검증 세트 손실: 0.250710\t최선의 손실: 0.172610\t정확도: 93.20%\n", + "15\t검증 세트 손실: 0.251315\t최선의 손실: 0.172610\t정확도: 93.71%\n", + "16\t검증 세트 손실: 0.226340\t최선의 손실: 0.172610\t정확도: 94.53%\n", + "17\t검증 세트 손실: 0.247654\t최선의 손실: 0.172610\t정확도: 92.65%\n", + "18\t검증 세트 손실: 0.314135\t최선의 손실: 0.172610\t정확도: 93.32%\n", + "19\t검증 세트 손실: 0.305136\t최선의 손실: 0.172610\t정확도: 93.08%\n", + "20\t검증 세트 손실: 0.452903\t최선의 손실: 0.172610\t정확도: 92.57%\n", + "21\t검증 세트 손실: 0.298787\t최선의 손실: 0.172610\t정확도: 90.07%\n", + "22\t검증 세트 손실: 0.321756\t최선의 손실: 0.172610\t정확도: 89.44%\n", + "23\t검증 세트 손실: 0.416179\t최선의 손실: 0.172610\t정확도: 85.61%\n", + "24\t검증 세트 손실: 0.474463\t최선의 손실: 0.172610\t정확도: 86.94%\n", + "25\t검증 세트 손실: 0.594662\t최선의 손실: 0.172610\t정확도: 80.73%\n", + "26\t검증 세트 손실: 0.433698\t최선의 손실: 0.172610\t정확도: 91.95%\n", + "27\t검증 세트 손실: 0.443510\t최선의 손실: 0.172610\t정확도: 87.49%\n", + "28\t검증 세트 손실: 0.468352\t최선의 손실: 0.172610\t정확도: 86.71%\n", + "29\t검증 세트 손실: 0.396023\t최선의 손실: 0.172610\t정확도: 91.99%\n", + "30\t검증 세트 손실: 0.391466\t최선의 손실: 0.172610\t정확도: 92.18%\n", + "31\t검증 세트 손실: 0.497704\t최선의 손실: 0.172610\t정확도: 79.48%\n", + "32\t검증 세트 손실: 0.785205\t최선의 손실: 0.172610\t정확도: 67.32%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 7.4s\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50 \n", - "0\t검증 세트 손실: 0.135781\t최선의 손실: 0.135781\t정확도: 96.91%\n", - "1\t검증 세트 손실: 0.142652\t최선의 손실: 0.135781\t정확도: 96.44%\n", - "2\t검증 세트 손실: 0.196436\t최선의 손실: 0.135781\t정확도: 92.53%\n", - "3\t검증 세트 손실: 0.251614\t최선의 손실: 0.135781\t정확도: 91.36%\n", - "4\t검증 세트 손실: 1.730556\t최선의 손실: 0.135781\t정확도: 34.09%\n", - "5\t검증 세트 손실: 1.141178\t최선의 손실: 0.135781\t정확도: 54.73%\n", - "6\t검증 세트 손실: 2.013357\t최선의 손실: 0.135781\t정확도: 57.39%\n", - "7\t검증 세트 손실: 0.576895\t최선의 손실: 0.135781\t정확도: 77.91%\n", - "8\t검증 세트 손실: 0.363333\t최선의 손실: 0.135781\t정확도: 88.51%\n", - "9\t검증 세트 손실: 0.363505\t최선의 손실: 0.135781\t정확도: 89.91%\n", - "10\t검증 세트 손실: 0.294834\t최선의 손실: 0.135781\t정확도: 90.73%\n", - "11\t검증 세트 손실: 0.261432\t최선의 손실: 0.135781\t정확도: 93.86%\n", - "12\t검증 세트 손실: 0.248895\t최선의 손실: 0.135781\t정확도: 92.77%\n", - "13\t검증 세트 손실: 0.207500\t최선의 손실: 0.135781\t정확도: 94.18%\n", - "14\t검증 세트 손실: 0.221315\t최선의 손실: 0.135781\t정확도: 94.02%\n", - "15\t검증 세트 손실: 0.212709\t최선의 손실: 0.135781\t정확도: 93.82%\n", - "16\t검증 세트 손실: 0.185814\t최선의 손실: 0.135781\t정확도: 95.74%\n", - "17\t검증 세트 손실: 0.330752\t최선의 손실: 0.135781\t정확도: 94.25%\n", - "18\t검증 세트 손실: 3.131548\t최선의 손실: 0.135781\t정확도: 60.52%\n", - "19\t검증 세트 손실: 0.923826\t최선의 손실: 0.135781\t정확도: 73.57%\n", - "20\t검증 세트 손실: 1.946067\t최선의 손실: 0.135781\t정확도: 69.12%\n", - "21\t검증 세트 손실: 1.742298\t최선의 손실: 0.135781\t정확도: 69.78%\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 10.4s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.342269\t최선의 손실: 0.342269\t정확도: 89.33%\n", + "1\t검증 세트 손실: 0.289906\t최선의 손실: 0.289906\t정확도: 93.16%\n", + "2\t검증 세트 손실: 0.197434\t최선의 손실: 0.197434\t정확도: 93.82%\n", + "3\t검증 세트 손실: 0.177738\t최선의 손실: 0.177738\t정확도: 94.14%\n", + "4\t검증 세트 손실: 0.190164\t최선의 손실: 0.177738\t정확도: 94.49%\n", + "5\t검증 세트 손실: 0.196889\t최선의 손실: 0.177738\t정확도: 94.33%\n", + "6\t검증 세트 손실: 0.238169\t최선의 손실: 0.177738\t정확도: 92.26%\n", + "7\t검증 세트 손실: 0.184803\t최선의 손실: 0.177738\t정확도: 93.39%\n", + "8\t검증 세트 손실: 0.237566\t최선의 손실: 0.177738\t정확도: 92.96%\n", + "9\t검증 세트 손실: 0.225369\t최선의 손실: 0.177738\t정확도: 92.77%\n", + "10\t검증 세트 손실: 0.356144\t최선의 손실: 0.177738\t정확도: 84.95%\n", + "11\t검증 세트 손실: 0.281015\t최선의 손실: 0.177738\t정확도: 91.99%\n", + "12\t검증 세트 손실: 0.248895\t최선의 손실: 0.177738\t정확도: 91.52%\n", + "13\t검증 세트 손실: 0.257434\t최선의 손실: 0.177738\t정확도: 91.24%\n", + "14\t검증 세트 손실: 0.263218\t최선의 손실: 0.177738\t정확도: 92.61%\n", + "15\t검증 세트 손실: 0.240666\t최선의 손실: 0.177738\t정확도: 90.50%\n", + "16\t검증 세트 손실: 0.271933\t최선의 손실: 0.177738\t정확도: 90.19%\n", + "17\t검증 세트 손실: 0.320716\t최선의 손실: 0.177738\t정확도: 87.61%\n", + "18\t검증 세트 손실: 0.322491\t최선의 손실: 0.177738\t정확도: 89.17%\n", + "19\t검증 세트 손실: 0.314976\t최선의 손실: 0.177738\t정확도: 91.59%\n", + "20\t검증 세트 손실: 0.296353\t최선의 손실: 0.177738\t정확도: 93.71%\n", + "21\t검증 세트 손실: 0.258133\t최선의 손실: 0.177738\t정확도: 92.85%\n", + "22\t검증 세트 손실: 0.311045\t최선의 손실: 0.177738\t정확도: 89.84%\n", + "23\t검증 세트 손실: 0.466540\t최선의 손실: 0.177738\t정확도: 91.32%\n", + "24\t검증 세트 손실: 0.385861\t최선의 손실: 0.177738\t정확도: 92.10%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=50, total= 7.4s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 0.405026\t최선의 손실: 0.405026\t정확도: 88.15%\n", - "1\t검증 세트 손실: 0.284918\t최선의 손실: 0.284918\t정확도: 93.75%\n", - "2\t검증 세트 손실: 0.257730\t최선의 손실: 0.257730\t정확도: 93.16%\n", - "3\t검증 세트 손실: 0.202777\t최선의 손실: 0.202777\t정확도: 93.90%\n", - "4\t검증 세트 손실: 0.188762\t최선의 손실: 0.188762\t정확도: 94.14%\n", - "5\t검증 세트 손실: 0.203228\t최선의 손실: 0.188762\t정확도: 93.63%\n", - "6\t검증 세트 손실: 0.220723\t최선의 손실: 0.188762\t정확도: 93.63%\n", - "7\t검증 세트 손실: 0.225919\t최선의 손실: 0.188762\t정확도: 93.20%\n", - "8\t검증 세트 손실: 0.332981\t최선의 손실: 0.188762\t정확도: 91.24%\n", - "9\t검증 세트 손실: 0.245300\t최선의 손실: 0.188762\t정확도: 93.20%\n", - "10\t검증 세트 손실: 0.267262\t최선의 손실: 0.188762\t정확도: 89.72%\n", - "11\t검증 세트 손실: 0.268393\t최선의 손실: 0.188762\t정확도: 91.01%\n", - "12\t검증 세트 손실: 0.229128\t최선의 손실: 0.188762\t정확도: 92.73%\n", - "13\t검증 세트 손실: 0.260318\t최선의 손실: 0.188762\t정확도: 89.84%\n", - "14\t검증 세트 손실: 0.265664\t최선의 손실: 0.188762\t정확도: 91.59%\n", - "15\t검증 세트 손실: 0.259314\t최선의 손실: 0.188762\t정확도: 91.28%\n", - "16\t검증 세트 손실: 0.267329\t최선의 손실: 0.188762\t정확도: 89.76%\n", - "17\t검증 세트 손실: 0.262471\t최선의 손실: 0.188762\t정확도: 91.32%\n", - "18\t검증 세트 손실: 0.258627\t최선의 손실: 0.188762\t정확도: 92.89%\n", - "19\t검증 세트 손실: 0.273655\t최선의 손실: 0.188762\t정확도: 92.38%\n", - "20\t검증 세트 손실: 0.285399\t최선의 손실: 0.188762\t정확도: 92.89%\n", - "21\t검증 세트 손실: 0.312102\t최선의 손실: 0.188762\t정확도: 91.13%\n", - "22\t검증 세트 손실: 0.254362\t최선의 손실: 0.188762\t정확도: 92.65%\n", - "23\t검증 세트 손실: 0.268191\t최선의 손실: 0.188762\t정확도: 92.77%\n", - "24\t검증 세트 손실: 0.461226\t최선의 손실: 0.188762\t정확도: 79.28%\n", - "25\t검증 세트 손실: 0.350336\t최선의 손실: 0.188762\t정확도: 91.83%\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 8.0s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.220814\t최선의 손실: 0.220814\t정확도: 94.53%\n", + "1\t검증 세트 손실: 0.234775\t최선의 손실: 0.220814\t정확도: 94.76%\n", + "2\t검증 세트 손실: 0.235388\t최선의 손실: 0.220814\t정확도: 93.63%\n", + "3\t검증 세트 손실: 0.184850\t최선의 손실: 0.184850\t정확도: 94.61%\n", + "4\t검증 세트 손실: 0.190824\t최선의 손실: 0.184850\t정확도: 95.11%\n", + "5\t검증 세트 손실: 0.188027\t최선의 손실: 0.184850\t정확도: 94.49%\n", + "6\t검증 세트 손실: 0.181113\t최선의 손실: 0.181113\t정확도: 95.62%\n", + "7\t검증 세트 손실: 0.231130\t최선의 손실: 0.181113\t정확도: 95.66%\n", + "8\t검증 세트 손실: 0.225896\t최선의 손실: 0.181113\t정확도: 96.01%\n", + "9\t검증 세트 손실: 0.267528\t최선의 손실: 0.181113\t정확도: 91.24%\n", + "10\t검증 세트 손실: 0.276436\t최선의 손실: 0.181113\t정확도: 91.24%\n", + "11\t검증 세트 손실: 0.229361\t최선의 손실: 0.181113\t정확도: 92.42%\n", + "12\t검증 세트 손실: 0.264554\t최선의 손실: 0.181113\t정확도: 90.73%\n", + "13\t검증 세트 손실: 0.235755\t최선의 손실: 0.181113\t정확도: 91.13%\n", + "14\t검증 세트 손실: 0.354675\t최선의 손실: 0.181113\t정확도: 90.15%\n", + "15\t검증 세트 손실: 0.388339\t최선의 손실: 0.181113\t정확도: 83.31%\n", + "16\t검증 세트 손실: 0.314781\t최선의 손실: 0.181113\t정확도: 90.81%\n", + "17\t검증 세트 손실: 0.293095\t최선의 손실: 0.181113\t정확도: 93.16%\n", + "18\t검증 세트 손실: 0.259120\t최선의 손실: 0.181113\t정확도: 93.71%\n", + "19\t검증 세트 손실: 0.378650\t최선의 손실: 0.181113\t정확도: 87.14%\n", + "20\t검증 세트 손실: 0.420339\t최선의 손실: 0.181113\t정확도: 86.24%\n", + "21\t검증 세트 손실: 0.446889\t최선의 손실: 0.181113\t정확도: 79.95%\n", + "22\t검증 세트 손실: 0.697722\t최선의 손실: 0.181113\t정확도: 77.83%\n", + "23\t검증 세트 손실: 0.628548\t최선의 손실: 0.181113\t정확도: 90.30%\n", + "24\t검증 세트 손실: 0.510559\t최선의 손실: 0.181113\t정확도: 77.09%\n", + "25\t검증 세트 손실: 0.740252\t최선의 손실: 0.181113\t정확도: 81.55%\n", + "26\t검증 세트 손실: 0.774611\t최선의 손실: 0.181113\t정확도: 65.99%\n", + "27\t검증 세트 손실: 0.746588\t최선의 손실: 0.181113\t정확도: 77.01%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 8.5s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 0.446197\t최선의 손실: 0.446197\t정확도: 77.37%\n", - "1\t검증 세트 손실: 0.437708\t최선의 손실: 0.437708\t정확도: 77.83%\n", - "2\t검증 세트 손실: 0.425767\t최선의 손실: 0.425767\t정확도: 77.95%\n", - "3\t검증 세트 손실: 0.438634\t최선의 손실: 0.425767\t정확도: 77.37%\n", - "4\t검증 세트 손실: 0.416666\t최선의 손실: 0.416666\t정확도: 77.64%\n", - "5\t검증 세트 손실: 0.526796\t최선의 손실: 0.416666\t정확도: 73.34%\n", - "6\t검증 세트 손실: 0.446064\t최선의 손실: 0.416666\t정확도: 76.51%\n", - "7\t검증 세트 손실: 0.471915\t최선의 손실: 0.416666\t정확도: 74.82%\n", - "8\t검증 세트 손실: 0.483497\t최선의 손실: 0.416666\t정확도: 74.24%\n", - "9\t검증 세트 손실: 0.508732\t최선의 손실: 0.416666\t정확도: 71.07%\n", - "10\t검증 세트 손실: 0.514621\t최선의 손실: 0.416666\t정확도: 77.64%\n", - "11\t검증 세트 손실: 0.475588\t최선의 손실: 0.416666\t정확도: 78.97%\n", - "12\t검증 세트 손실: 0.492435\t최선의 손실: 0.416666\t정확도: 74.78%\n", - "13\t검증 세트 손실: 0.453399\t최선의 손실: 0.416666\t정확도: 75.14%\n", - "14\t검증 세트 손실: 0.471350\t최선의 손실: 0.416666\t정확도: 79.28%\n", - "15\t검증 세트 손실: 0.475738\t최선의 손실: 0.416666\t정확도: 78.58%\n", - "16\t검증 세트 손실: 0.529945\t최선의 손실: 0.416666\t정확도: 76.82%\n", - "17\t검증 세트 손실: 0.566036\t최선의 손실: 0.416666\t정확도: 70.48%\n", - "18\t검증 세트 손실: 0.569052\t최선의 손실: 0.416666\t정확도: 71.50%\n", - "19\t검증 세트 손실: 0.582634\t최선의 손실: 0.416666\t정확도: 75.96%\n", - "20\t검증 세트 손실: 0.588827\t최선의 손실: 0.416666\t정확도: 77.44%\n", - "21\t검증 세트 손실: 0.651317\t최선의 손실: 0.416666\t정확도: 73.77%\n", - "22\t검증 세트 손실: 0.559376\t최선의 손실: 0.416666\t정확도: 74.59%\n", - "23\t검증 세트 손실: 0.606415\t최선의 손실: 0.416666\t정확도: 70.68%\n", - "24\t검증 세트 손실: 0.512846\t최선의 손실: 0.416666\t정확도: 76.11%\n", - "25\t검증 세트 손실: 0.523064\t최선의 손실: 0.416666\t정확도: 72.79%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 8.5s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160 \n", - "0\t검증 세트 손실: 0.705513\t최선의 손실: 0.705513\t정확도: 74.39%\n", - "1\t검증 세트 손실: 0.485401\t최선의 손실: 0.485401\t정확도: 84.68%\n", - "2\t검증 세트 손실: 0.392114\t최선의 손실: 0.392114\t정확도: 88.86%\n", - "3\t검증 세트 손실: 0.275320\t최선의 손실: 0.275320\t정확도: 91.48%\n", - "4\t검증 세트 손실: 0.229472\t최선의 손실: 0.229472\t정확도: 92.81%\n", - "5\t검증 세트 손실: 0.210056\t최선의 손실: 0.210056\t정확도: 94.57%\n", - "6\t검증 세트 손실: 0.242039\t최선의 손실: 0.210056\t정확도: 93.16%\n", - "7\t검증 세트 손실: 0.238860\t최선의 손실: 0.210056\t정확도: 92.61%\n", - "8\t검증 세트 손실: 0.269130\t최선의 손실: 0.210056\t정확도: 93.12%\n", - "9\t검증 세트 손실: 0.251462\t최선의 손실: 0.210056\t정확도: 91.13%\n" + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 9.0s\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.833969\t최선의 손실: 1.833969\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.690030\t최선의 손실: 1.690030\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.829203\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "3\t검증 세트 손실: 1.770455\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.892636\t최선의 손실: 1.690030\t정확도: 19.27%\n", + "5\t검증 세트 손실: 1.713176\t최선의 손실: 1.690030\t정확도: 19.08%\n", + "6\t검증 세트 손실: 2.157548\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "7\t검증 세트 손실: 1.871754\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "8\t검증 세트 손실: 2.047913\t최선의 손실: 1.690030\t정확도: 19.08%\n", + "9\t검증 세트 손실: 2.142088\t최선의 손실: 1.690030\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.825970\t최선의 손실: 1.690030\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.785198\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "12\t검증 세트 손실: 1.839128\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "13\t검증 세트 손실: 2.107301\t최선의 손실: 1.690030\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2.507327\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.794375\t최선의 손실: 1.690030\t정확도: 22.01%\n", + "16\t검증 세트 손실: 2.234679\t최선의 손실: 1.690030\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.677063\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "18\t검증 세트 손실: 2.227809\t최선의 손실: 1.677063\t정확도: 19.27%\n", + "19\t검증 세트 손실: 2.718374\t최선의 손실: 1.677063\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.964553\t최선의 손실: 1.677063\t정확도: 19.08%\n", + "21\t검증 세트 손실: 2.244986\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "22\t검증 세트 손실: 2.219040\t최선의 손실: 1.677063\t정확도: 22.01%\n", + "23\t검증 세트 손실: 2.043984\t최선의 손실: 1.677063\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.914589\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "25\t검증 세트 손실: 2.020772\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "26\t검증 세트 손실: 1.758487\t최선의 손실: 1.677063\t정확도: 19.08%\n", + "27\t검증 세트 손실: 2.011408\t최선의 손실: 1.677063\t정확도: 22.01%\n", + "28\t검증 세트 손실: 2.447083\t최선의 손실: 1.677063\t정확도: 19.08%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 0.234608\t최선의 손실: 0.210056\t정확도: 93.67%\n", - "11\t검증 세트 손실: 0.260320\t최선의 손실: 0.210056\t정확도: 91.01%\n", - "12\t검증 세트 손실: 0.277057\t최선의 손실: 0.210056\t정확도: 91.40%\n", - "13\t검증 세트 손실: 0.226658\t최선의 손실: 0.210056\t정확도: 93.00%\n", - "14\t검증 세트 손실: 0.241660\t최선의 손실: 0.210056\t정확도: 91.71%\n", - "15\t검증 세트 손실: 0.223258\t최선의 손실: 0.210056\t정확도: 93.20%\n", - "16\t검증 세트 손실: 0.240950\t최선의 손실: 0.210056\t정확도: 92.30%\n", - "17\t검증 세트 손실: 0.218112\t최선의 손실: 0.210056\t정확도: 93.35%\n", - "18\t검증 세트 손실: 0.266658\t최선의 손실: 0.210056\t정확도: 92.77%\n", - "19\t검증 세트 손실: 0.234930\t최선의 손실: 0.210056\t정확도: 91.79%\n", - "20\t검증 세트 손실: 0.259718\t최선의 손실: 0.210056\t정확도: 92.22%\n", - "21\t검증 세트 손실: 0.331007\t최선의 손실: 0.210056\t정확도: 88.04%\n", - "22\t검증 세트 손실: 0.356495\t최선의 손실: 0.210056\t정확도: 89.37%\n", - "23\t검증 세트 손실: 0.359408\t최선의 손실: 0.210056\t정확도: 89.80%\n", - "24\t검증 세트 손실: 0.332600\t최선의 손실: 0.210056\t정확도: 86.55%\n", - "25\t검증 세트 손실: 0.331460\t최선의 손실: 0.210056\t정확도: 88.90%\n", - "26\t검증 세트 손실: 0.344021\t최선의 손실: 0.210056\t정확도: 89.76%\n", + "29\t검증 세트 손실: 1.947993\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "30\t검증 세트 손실: 1.762999\t최선의 손실: 1.677063\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.793707\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "32\t검증 세트 손실: 1.967168\t최선의 손실: 1.677063\t정확도: 19.27%\n", + "33\t검증 세트 손실: 1.853814\t최선의 손실: 1.677063\t정확도: 19.08%\n", + "34\t검증 세트 손실: 2.248587\t최선의 손실: 1.677063\t정확도: 19.08%\n", + "35\t검증 세트 손실: 2.323758\t최선의 손실: 1.677063\t정확도: 19.27%\n", + "36\t검증 세트 손실: 1.998498\t최선의 손실: 1.677063\t정확도: 22.01%\n", + "37\t검증 세트 손실: 1.967675\t최선의 손실: 1.677063\t정확도: 20.91%\n", + "38\t검증 세트 손실: 1.900821\t최선의 손실: 1.677063\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=160, total= 8.7s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 1.857400\t최선의 손실: 1.857400\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1.727373\t최선의 손실: 1.727373\t정확도: 22.01%\n", - "2\t검증 세트 손실: 1.824529\t최선의 손실: 1.727373\t정확도: 18.73%\n", - "3\t검증 세트 손실: 1.836183\t최선의 손실: 1.727373\t정확도: 19.08%\n", - "4\t검증 세트 손실: 1.713821\t최선의 손실: 1.713821\t정확도: 19.27%\n", - "5\t검증 세트 손실: 1.640345\t최선의 손실: 1.640345\t정확도: 22.01%\n", - "6\t검증 세트 손실: 2.200105\t최선의 손실: 1.640345\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.870601\t최선의 손실: 1.640345\t정확도: 18.73%\n", - "8\t검증 세트 손실: 2.017379\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "9\t검증 세트 손실: 1.962065\t최선의 손실: 1.640345\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.747221\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.768023\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.739300\t최선의 손실: 1.640345\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.989933\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "14\t검증 세트 손실: 2.714126\t최선의 손실: 1.640345\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.644428\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "16\t검증 세트 손실: 2.567334\t최선의 손실: 1.640345\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.931920\t최선의 손실: 1.640345\t정확도: 20.91%\n", - "18\t검증 세트 손실: 2.504223\t최선의 손실: 1.640345\t정확도: 19.08%\n", - "19\t검증 세트 손실: 2.863551\t최선의 손실: 1.640345\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.512117\t최선의 손실: 1.640345\t정확도: 22.01%\n", - "21\t검증 세트 손실: 2.112478\t최선의 손실: 1.640345\t정확도: 20.91%\n", - "22\t검증 세트 손실: 2.065133\t최선의 손실: 1.640345\t정확도: 18.73%\n", - "23\t검증 세트 손실: 2.272592\t최선의 손실: 1.640345\t정확도: 19.27%\n", - "24\t검증 세트 손실: 2.165634\t최선의 손실: 1.640345\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.999865\t최선의 손실: 1.640345\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.751678\t최선의 손실: 1.640345\t정확도: 19.08%\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=, total= 1.4min\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.973995\t최선의 손실: 1.973995\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.644394\t최선의 손실: 1.644394\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.739784\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.843752\t최선의 손실: 1.644394\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.764328\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.704530\t최선의 손실: 1.644394\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.833800\t최선의 손실: 1.644394\t정확도: 20.91%\n", + "7\t검증 세트 손실: 1.684505\t최선의 손실: 1.644394\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.889252\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "9\t검증 세트 손실: 1.723866\t최선의 손실: 1.644394\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.812904\t최선의 손실: 1.644394\t정확도: 18.73%\n", + "11\t검증 세트 손실: 1.762821\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.845340\t최선의 손실: 1.644394\t정확도: 20.91%\n", + "13\t검증 세트 손실: 2.021307\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.864274\t최선의 손실: 1.644394\t정확도: 19.27%\n", + "15\t검증 세트 손실: 2.119097\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.780767\t최선의 손실: 1.644394\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.849077\t최선의 손실: 1.644394\t정확도: 22.01%\n", + "18\t검증 세트 손실: 1.935338\t최선의 손실: 1.644394\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.739152\t최선의 손실: 1.644394\t정확도: 22.01%\n", + "20\t검증 세트 손실: 2.223310\t최선의 손실: 1.644394\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.845363\t최선의 손실: 1.644394\t정확도: 22.01%\n", + "22\t검증 세트 손실: 2.258191\t최선의 손실: 1.644394\t정확도: 18.73%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50, total= 59.3s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 1.653266\t최선의 손실: 1.653266\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.660325\t최선의 손실: 1.653266\t정확도: 20.91%\n", - "2\t검증 세트 손실: 1.985496\t최선의 손실: 1.653266\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.694613\t최선의 손실: 1.653266\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.925805\t최선의 손실: 1.653266\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1.657725\t최선의 손실: 1.653266\t정확도: 19.08%\n", - "6\t검증 세트 손실: 1.903679\t최선의 손실: 1.653266\t정확도: 20.91%\n", - "7\t검증 세트 손실: 2.116689\t최선의 손실: 1.653266\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.811122\t최선의 손실: 1.653266\t정확도: 19.08%\n", - "9\t검증 세트 손실: 1.754584\t최선의 손실: 1.653266\t정확도: 20.91%\n", - "10\t검증 세트 손실: 2.003980\t최선의 손실: 1.653266\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1.644818\t최선의 손실: 1.644818\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.985195\t최선의 손실: 1.644818\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.757740\t최선의 손실: 1.644818\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.719246\t최선의 손실: 1.644818\t정확도: 19.27%\n", - "15\t검증 세트 손실: 2.188099\t최선의 손실: 1.644818\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.751401\t최선의 손실: 1.644818\t정확도: 20.91%\n", - "17\t검증 세트 손실: 1.935971\t최선의 손실: 1.644818\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.852175\t최선의 손실: 1.644818\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.752338\t최선의 손실: 1.644818\t정확도: 22.01%\n", - "20\t검증 세트 손실: 2.139223\t최선의 손실: 1.644818\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.840810\t최선의 손실: 1.644818\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.956114\t최선의 손실: 1.644818\t정확도: 19.08%\n", - "23\t검증 세트 손실: 1.705414\t최선의 손실: 1.644818\t정확도: 18.73%\n", - "24\t검증 세트 손실: 1.895046\t최선의 손실: 1.644818\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.982664\t최선의 손실: 1.644818\t정확도: 20.91%\n", - "26\t검증 세트 손실: 2.337163\t최선의 손실: 1.644818\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.886560\t최선의 손실: 1.644818\t정확도: 19.27%\n", - "28\t검증 세트 손실: 2.024340\t최선의 손실: 1.644818\t정확도: 18.73%\n", - "29\t검증 세트 손실: 2.047047\t최선의 손실: 1.644818\t정확도: 20.91%\n", - "30\t검증 세트 손실: 1.643744\t최선의 손실: 1.643744\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.753883\t최선의 손실: 1.643744\t정확도: 18.73%\n", - "32\t검증 세트 손실: 1.808307\t최선의 손실: 1.643744\t정확도: 19.08%\n", - "33\t검증 세트 손실: 2.094042\t최선의 손실: 1.643744\t정확도: 19.08%\n", - "34\t검증 세트 손실: 2.147145\t최선의 손실: 1.643744\t정확도: 19.27%\n", - "35\t검증 세트 손실: 2.074813\t최선의 손실: 1.643744\t정확도: 22.01%\n", - "36\t검증 세트 손실: 2.406622\t최선의 손실: 1.643744\t정확도: 19.27%\n", - "37\t검증 세트 손실: 2.934965\t최선의 손실: 1.643744\t정확도: 20.91%\n", - "38\t검증 세트 손실: 1.989229\t최선의 손실: 1.643744\t정확도: 19.27%\n", - "39\t검증 세트 손실: 2.684046\t최선의 손실: 1.643744\t정확도: 18.73%\n", - "40\t검증 세트 손실: 1.750712\t최선의 손실: 1.643744\t정확도: 18.73%\n", - "41\t검증 세트 손실: 3.332995\t최선의 손실: 1.643744\t정확도: 22.01%\n", - "42\t검증 세트 손실: 2.041932\t최선의 손실: 1.643744\t정확도: 20.91%\n", - "43\t검증 세트 손실: 2.319535\t최선의 손실: 1.643744\t정확도: 18.73%\n", - "44\t검증 세트 손실: 2.060653\t최선의 손실: 1.643744\t정확도: 19.08%\n", - "45\t검증 세트 손실: 2.249430\t최선의 손실: 1.643744\t정확도: 19.08%\n", - "46\t검증 세트 손실: 1.896014\t최선의 손실: 1.643744\t정확도: 20.91%\n", - "47\t검증 세트 손실: 2.481059\t최선의 손실: 1.643744\t정확도: 20.91%\n", - "48\t검증 세트 손실: 2.207526\t최선의 손실: 1.643744\t정확도: 22.01%\n", - "49\t검증 세트 손실: 1.904261\t최선의 손실: 1.643744\t정확도: 22.01%\n", - "50\t검증 세트 손실: 1.931312\t최선의 손실: 1.643744\t정확도: 19.27%\n", - "51\t검증 세트 손실: 2.396808\t최선의 손실: 1.643744\t정확도: 22.01%\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=, total= 50.9s\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.640181\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "1\t검증 세트 손실: 1.826677\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.803381\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "3\t검증 세트 손실: 2.100341\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "4\t검증 세트 손실: 2.814386\t최선의 손실: 1.640181\t정확도: 19.08%\n", + "5\t검증 세트 손실: 1.831003\t최선의 손실: 1.640181\t정확도: 20.91%\n", + "6\t검증 세트 손실: 1.817909\t최선의 손실: 1.640181\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.974533\t최선의 손실: 1.640181\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.854748\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "9\t검증 세트 손실: 2.126596\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "10\t검증 세트 손실: 1.803307\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "11\t검증 세트 손실: 2.118791\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "12\t검증 세트 손실: 2.081772\t최선의 손실: 1.640181\t정확도: 20.91%\n", + "13\t검증 세트 손실: 3.246178\t최선의 손실: 1.640181\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.891945\t최선의 손실: 1.640181\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.783915\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1.873013\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1.961712\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.867168\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "19\t검증 세트 손실: 2.234106\t최선의 손실: 1.640181\t정확도: 18.73%\n", + "20\t검증 세트 손실: 1.925772\t최선의 손실: 1.640181\t정확도: 19.27%\n", + "21\t검증 세트 손실: 2.037727\t최선의 손실: 1.640181\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50, total= 1.9min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50 \n", - "0\t검증 세트 손실: 1.754268\t최선의 손실: 1.754268\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.776973\t최선의 손실: 1.754268\t정확도: 20.91%\n", - "2\t검증 세트 손실: 1.642456\t최선의 손실: 1.642456\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.927241\t최선의 손실: 1.642456\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.959350\t최선의 손실: 1.642456\t정확도: 19.08%\n", - "5\t검증 세트 손실: 67.319656\t최선의 손실: 1.642456\t정확도: 19.27%\n", - "6\t검증 세트 손실: 1.655945\t최선의 손실: 1.642456\t정확도: 19.27%\n", - "7\t검증 세트 손실: 4.231987\t최선의 손실: 1.642456\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.644245\t최선의 손실: 1.642456\t정확도: 18.73%\n", - "9\t검증 세트 손실: 1.661494\t최선의 손실: 1.642456\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.615382\t최선의 손실: 1.615382\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.640694\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.680492\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.670714\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.690284\t최선의 손실: 1.615382\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.624795\t최선의 손실: 1.615382\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.803744\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "17\t검증 세트 손실: 1.841313\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "18\t검증 세트 손실: 2.085678\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "19\t검증 세트 손실: 1.733125\t최선의 손실: 1.615382\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.664866\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "21\t검증 세트 손실: 1.696486\t최선의 손실: 1.615382\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.687026\t최선의 손실: 1.615382\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.641297\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "24\t검증 세트 손실: 1.806355\t최선의 손실: 1.615382\t정확도: 22.01%\n", - "25\t검증 세트 손실: 1.659745\t최선의 손실: 1.615382\t정확도: 19.27%\n", - "26\t검증 세트 손실: 2.071129\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.678698\t최선의 손실: 1.615382\t정확도: 18.73%\n", - "28\t검증 세트 손실: 1.637295\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "29\t검증 세트 손실: 10.719910\t최선의 손실: 1.615382\t정확도: 22.01%\n", - "30\t검증 세트 손실: 32.482723\t최선의 손실: 1.615382\t정확도: 19.08%\n", - "31\t검증 세트 손실: 1.675968\t최선의 손실: 1.615382\t정확도: 22.01%\n", + "[CV] n_neurons=50, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=, total= 48.6s\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 875431.937500\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "1\t검증 세트 손실: 2734014.500000\t최선의 손실: 875431.937500\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1290965.125000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "3\t검증 세트 손실: 20172062.000000\t최선의 손실: 875431.937500\t정확도: 20.91%\n", + "4\t검증 세트 손실: 34598396.000000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", + "5\t검증 세트 손실: 5487912.000000\t최선의 손실: 875431.937500\t정확도: 23.96%\n", + "6\t검증 세트 손실: 9690934.000000\t최선의 손실: 875431.937500\t정확도: 21.62%\n", + "7\t검증 세트 손실: 3393479.250000\t최선의 손실: 875431.937500\t정확도: 20.91%\n", + "8\t검증 세트 손실: 3651233.000000\t최선의 손실: 875431.937500\t정확도: 22.01%\n", + "9\t검증 세트 손실: 28795800.000000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "10\t검증 세트 손실: 10496135.000000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", + "11\t검증 세트 손실: 10466445.000000\t최선의 손실: 875431.937500\t정확도: 20.91%\n", + "12\t검증 세트 손실: 8588358.000000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1174280.375000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", + "14\t검증 세트 손실: 23660354.000000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "15\t검증 세트 손실: 8102116.000000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "16\t검증 세트 손실: 11705215.000000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "17\t검증 세트 손실: 3095963.250000\t최선의 손실: 875431.937500\t정확도: 20.91%\n", + "18\t검증 세트 손실: 37475184.000000\t최선의 손실: 875431.937500\t정확도: 19.23%\n", + "19\t검증 세트 손실: 55754560.000000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", + "20\t검증 세트 손실: 11739777.000000\t최선의 손실: 875431.937500\t정확도: 18.73%\n", + "21\t검증 세트 손실: 42360028.000000\t최선의 손실: 875431.937500\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=, n_neurons=50, total= 1.2min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90 \n", - "0\t검증 세트 손실: 965218.562500\t최선의 손실: 965218.562500\t정확도: 22.60%\n", - "1\t검증 세트 손실: 56599.425781\t최선의 손실: 56599.425781\t정확도: 19.16%\n", - "2\t검증 세트 손실: 4269866.500000\t최선의 손실: 56599.425781\t정확도: 19.27%\n", - "3\t검증 세트 손실: 456707.656250\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "4\t검증 세트 손실: 11373196.000000\t최선의 손실: 56599.425781\t정확도: 20.91%\n", - "5\t검증 세트 손실: 8885152.000000\t최선의 손실: 56599.425781\t정확도: 20.91%\n", - "6\t검증 세트 손실: 6622211.000000\t최선의 손실: 56599.425781\t정확도: 22.01%\n", - "7\t검증 세트 손실: 5774050.000000\t최선의 손실: 56599.425781\t정확도: 22.01%\n", - "8\t검증 세트 손실: 948902.437500\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "9\t검증 세트 손실: 2741866.500000\t최선의 손실: 56599.425781\t정확도: 19.27%\n" + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 58.8s\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 1843521.250000\t최선의 손실: 1843521.250000\t정확도: 19.27%\n", + "1\t검증 세트 손실: 356174.968750\t최선의 손실: 356174.968750\t정확도: 19.27%\n", + "2\t검증 세트 손실: 3725997.250000\t최선의 손실: 356174.968750\t정확도: 19.27%\n", + "3\t검증 세트 손실: 359725.281250\t최선의 손실: 356174.968750\t정확도: 20.91%\n", + "4\t검증 세트 손실: 48691868.000000\t최선의 손실: 356174.968750\t정확도: 19.27%\n", + "5\t검증 세트 손실: 3648758.500000\t최선의 손실: 356174.968750\t정확도: 18.53%\n", + "6\t검증 세트 손실: 3232491.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "7\t검증 세트 손실: 5813865.000000\t최선의 손실: 356174.968750\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1891914.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "9\t검증 세트 손실: 4821238.000000\t최선의 손실: 356174.968750\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1558437.750000\t최선의 손실: 356174.968750\t정확도: 22.01%\n", + "11\t검증 세트 손실: 13867075.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "12\t검증 세트 손실: 18026104.000000\t최선의 손실: 356174.968750\t정확도: 20.91%\n", + "13\t검증 세트 손실: 8793332.000000\t최선의 손실: 356174.968750\t정확도: 19.08%\n", + "14\t검증 세트 손실: 18523400.000000\t최선의 손실: 356174.968750\t정확도: 19.23%\n", + "15\t검증 세트 손실: 82366704.000000\t최선의 손실: 356174.968750\t정확도: 19.08%\n", + "16\t검증 세트 손실: 6120938.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "17\t검증 세트 손실: 4188623.500000\t최선의 손실: 356174.968750\t정확도: 19.08%\n", + "18\t검증 세트 손실: 194766144.000000\t최선의 손실: 356174.968750\t정확도: 20.91%\n", + "19\t검증 세트 손실: 119175944.000000\t최선의 손실: 356174.968750\t정확도: 20.91%\n", + "20\t검증 세트 손실: 2417158.750000\t최선의 손실: 356174.968750\t정확도: 16.85%\n", + "21\t검증 세트 손실: 58572512.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "22\t검증 세트 손실: 19938826.000000\t최선의 손실: 356174.968750\t정확도: 18.73%\n", + "조기 종료!\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.0min\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 2518080.250000\t최선의 손실: 2518080.250000\t정확도: 18.73%\n", + "1\t검증 세트 손실: 19163966.000000\t최선의 손실: 2518080.250000\t정확도: 18.73%\n", + "2\t검증 세트 손실: 4885575.000000\t최선의 손실: 2518080.250000\t정확도: 18.73%\n", + "3\t검증 세트 손실: 3091956.750000\t최선의 손실: 2518080.250000\t정확도: 19.19%\n", + "4\t검증 세트 손실: 2514686.250000\t최선의 손실: 2514686.250000\t정확도: 19.08%\n", + "5\t검증 세트 손실: 4953113.000000\t최선의 손실: 2514686.250000\t정확도: 20.91%\n", + "6\t검증 세트 손실: 35274200.000000\t최선의 손실: 2514686.250000\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1112305.125000\t최선의 손실: 1112305.125000\t정확도: 18.73%\n", + "8\t검증 세트 손실: 2913174.750000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n", + "9\t검증 세트 손실: 25472448.000000\t최선의 손실: 1112305.125000\t정확도: 22.01%\n", + "10\t검증 세트 손실: 3975699.250000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "11\t검증 세트 손실: 3009019.500000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n", + "12\t검증 세트 손실: 169083296.000000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n", + "13\t검증 세트 손실: 2546153.750000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "14\t검증 세트 손실: 2136620.000000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "15\t검증 세트 손실: 25447554.000000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "16\t검증 세트 손실: 8139037.000000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "17\t검증 세트 손실: 4957762.000000\t최선의 손실: 1112305.125000\t정확도: 19.08%\n", + "18\t검증 세트 손실: 22346914.000000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "10\t검증 세트 손실: 5504925.000000\t최선의 손실: 56599.425781\t정확도: 19.27%\n", - "11\t검증 세트 손실: 1148592.375000\t최선의 손실: 56599.425781\t정확도: 20.91%\n", - "12\t검증 세트 손실: 20047214.000000\t최선의 손실: 56599.425781\t정확도: 18.73%\n", - "13\t검증 세트 손실: 8653484.000000\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "14\t검증 세트 손실: 10249975.000000\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "15\t검증 세트 손실: 8789765.000000\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "16\t검증 세트 손실: 6339575.500000\t최선의 손실: 56599.425781\t정확도: 20.91%\n", - "17\t검증 세트 손실: 8611611.000000\t최선의 손실: 56599.425781\t정확도: 19.27%\n", - "18\t검증 세트 손실: 13698656.000000\t최선의 손실: 56599.425781\t정확도: 19.08%\n", - "19\t검증 세트 손실: 7502174.500000\t최선의 손실: 56599.425781\t정확도: 22.01%\n", - "20\t검증 세트 손실: 34609560.000000\t최선의 손실: 56599.425781\t정확도: 18.73%\n", - "21\t검증 세트 손실: 41107376.000000\t최선의 손실: 56599.425781\t정확도: 22.01%\n", - "22\t검증 세트 손실: 6450131.500000\t최선의 손실: 56599.425781\t정확도: 22.01%\n", + "19\t검증 세트 손실: 4892571.500000\t최선의 손실: 1112305.125000\t정확도: 20.91%\n", + "20\t검증 세트 손실: 15782660.000000\t최선의 손실: 1112305.125000\t정확도: 20.91%\n", + "21\t검증 세트 손실: 4341567.000000\t최선의 손실: 1112305.125000\t정확도: 18.73%\n", + "22\t검증 세트 손실: 81867712.000000\t최선의 손실: 1112305.125000\t정확도: 18.76%\n", + "23\t검증 세트 손실: 1825153.125000\t최선의 손실: 1112305.125000\t정확도: 22.01%\n", + "24\t검증 세트 손실: 54834680.000000\t최선의 손실: 1112305.125000\t정확도: 22.01%\n", + "25\t검증 세트 손실: 21003142.000000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n", + "26\t검증 세트 손실: 5101902.500000\t최선의 손실: 1112305.125000\t정확도: 18.73%\n", + "27\t검증 세트 손실: 6301372.500000\t최선의 손실: 1112305.125000\t정확도: 22.01%\n", + "28\t검증 세트 손실: 8025692.500000\t최선의 손실: 1112305.125000\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90, total= 1.0min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90 \n", - "0\t검증 세트 손실: 263329.375000\t최선의 손실: 263329.375000\t정확도: 21.50%\n", - "1\t검증 세트 손실: 17502862.000000\t최선의 손실: 263329.375000\t정확도: 20.99%\n", - "2\t검증 세트 손실: 3453869.500000\t최선의 손실: 263329.375000\t정확도: 20.91%\n", - "3\t검증 세트 손실: 2533816.500000\t최선의 손실: 263329.375000\t정확도: 19.27%\n", - "4\t검증 세트 손실: 6009188.000000\t최선의 손실: 263329.375000\t정확도: 19.08%\n", - "5\t검증 세트 손실: 1077042.000000\t최선의 손실: 263329.375000\t정확도: 18.73%\n", - "6\t검증 세트 손실: 16450317.000000\t최선의 손실: 263329.375000\t정확도: 19.27%\n", - "7\t검증 세트 손실: 4846658.500000\t최선의 손실: 263329.375000\t정확도: 19.08%\n", - "8\t검증 세트 손실: 5077098.500000\t최선의 손실: 263329.375000\t정확도: 19.27%\n", - "9\t검증 세트 손실: 25232284.000000\t최선의 손실: 263329.375000\t정확도: 20.91%\n", - "10\t검증 세트 손실: 3365243.500000\t최선의 손실: 263329.375000\t정확도: 18.73%\n", - "11\t검증 세트 손실: 5734773.000000\t최선의 손실: 263329.375000\t정확도: 18.73%\n", - "12\t검증 세트 손실: 3018594.500000\t최선의 손실: 263329.375000\t정확도: 21.19%\n", - "13\t검증 세트 손실: 2205834.500000\t최선의 손실: 263329.375000\t정확도: 20.91%\n", - "14\t검증 세트 손실: 11152755.000000\t최선의 손실: 263329.375000\t정확도: 22.01%\n", - "15\t검증 세트 손실: 32519874.000000\t최선의 손실: 263329.375000\t정확도: 19.08%\n", - "16\t검증 세트 손실: 2243266.000000\t최선의 손실: 263329.375000\t정확도: 19.27%\n", - "17\t검증 세트 손실: 9495048.000000\t최선의 손실: 263329.375000\t정확도: 18.73%\n", - "18\t검증 세트 손실: 35441848.000000\t최선의 손실: 263329.375000\t정확도: 20.91%\n", - "19\t검증 세트 손실: 3455419.250000\t최선의 손실: 263329.375000\t정확도: 20.91%\n", - "20\t검증 세트 손실: 23669290.000000\t최선의 손실: 263329.375000\t정확도: 18.73%\n", - "21\t검증 세트 손실: 40140208.000000\t최선의 손실: 263329.375000\t정확도: 22.01%\n", + "[CV] n_neurons=90, learning_rate=0.1, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.3min\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.533638\t최선의 손실: 1.533638\t정확도: 23.42%\n", + "1\t검증 세트 손실: 1.614020\t최선의 손실: 1.533638\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.609823\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.607978\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.619221\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.616314\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.613034\t최선의 손실: 1.533638\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.615299\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.621617\t최선의 손실: 1.533638\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.611578\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.608235\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.609512\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.608589\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "13\t검증 세트 손실: 1.612131\t최선의 손실: 1.533638\t정확도: 18.73%\n", + "14\t검증 세트 손실: 1.610290\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.609290\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.608219\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.611068\t최선의 손실: 1.533638\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1.614788\t최선의 손실: 1.533638\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.610246\t최선의 손실: 1.533638\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.610639\t최선의 손실: 1.533638\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.617286\t최선의 손실: 1.533638\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90, total= 59.8s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90 \n", - "0\t검증 세트 손실: 892083.812500\t최선의 손실: 892083.812500\t정확도: 18.73%\n", - "1\t검증 세트 손실: 2170442.750000\t최선의 손실: 892083.812500\t정확도: 19.08%\n", - "2\t검증 세트 손실: 7379286.000000\t최선의 손실: 892083.812500\t정확도: 18.73%\n", - "3\t검증 세트 손실: 14234481.000000\t최선의 손실: 892083.812500\t정확도: 20.95%\n", - "4\t검증 세트 손실: 26182100.000000\t최선의 손실: 892083.812500\t정확도: 19.27%\n", - "5\t검증 세트 손실: 5189057.500000\t최선의 손실: 892083.812500\t정확도: 19.27%\n", - "6\t검증 세트 손실: 6334126.500000\t최선의 손실: 892083.812500\t정확도: 22.01%\n", - "7\t검증 세트 손실: 14936661.000000\t최선의 손실: 892083.812500\t정확도: 19.08%\n", - "8\t검증 세트 손실: 40908840.000000\t최선의 손실: 892083.812500\t정확도: 20.13%\n", - "9\t검증 세트 손실: 8078609.000000\t최선의 손실: 892083.812500\t정확도: 22.01%\n", - "10\t검증 세트 손실: 22683504.000000\t최선의 손실: 892083.812500\t정확도: 18.10%\n", - "11\t검증 세트 손실: 191694688.000000\t최선의 손실: 892083.812500\t정확도: 19.27%\n", - "12\t검증 세트 손실: 2659511.000000\t최선의 손실: 892083.812500\t정확도: 18.73%\n", - "13\t검증 세트 손실: 2680929.500000\t최선의 손실: 892083.812500\t정확도: 20.91%\n", - "14\t검증 세트 손실: 14335837.000000\t최선의 손실: 892083.812500\t정확도: 22.01%\n", - "15\t검증 세트 손실: 4791041.500000\t최선의 손실: 892083.812500\t정확도: 19.08%\n", - "16\t검증 세트 손실: 24955424.000000\t최선의 손실: 892083.812500\t정확도: 19.08%\n", - "17\t검증 세트 손실: 2327009.500000\t최선의 손실: 892083.812500\t정확도: 20.91%\n", - "18\t검증 세트 손실: 162883072.000000\t최선의 손실: 892083.812500\t정확도: 19.08%\n", - "19\t검증 세트 손실: 34261676.000000\t최선의 손실: 892083.812500\t정확도: 18.73%\n", - "20\t검증 세트 손실: 5712796.000000\t최선의 손실: 892083.812500\t정확도: 22.01%\n", - "21\t검증 세트 손실: 13864906.000000\t최선의 손실: 892083.812500\t정확도: 19.27%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=90, total= 59.2s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.610378\t최선의 손실: 1.610378\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.613590\t최선의 손실: 1.610378\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.610069\t최선의 손실: 1.610069\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.607944\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.619746\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.616312\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.613034\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.615299\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.621617\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.611579\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.608235\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.609513\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.608588\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.612131\t최선의 손실: 1.607944\t정확도: 18.73%\n", - "14\t검증 세트 손실: 1.610387\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.609271\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.608219\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.611067\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "18\t검증 세트 손실: 1.614792\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.610238\t최선의 손실: 1.607944\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.610641\t최선의 손실: 1.607944\t정확도: 20.91%\n", - "21\t검증 세트 손실: 1.617286\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.612227\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "23\t검증 세트 손실: 1.611052\t최선의 손실: 1.607944\t정확도: 19.27%\n", - "24\t검증 세트 손실: 1.614574\t최선의 손실: 1.607944\t정확도: 22.01%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140, total= 55.9s\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.613139\t최선의 손실: 1.613139\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.615409\t최선의 손실: 1.613139\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.609278\t최선의 손실: 1.609278\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.613840\t최선의 손실: 1.609278\t정확도: 18.73%\n", - "4\t검증 세트 손실: 1.612036\t최선의 손실: 1.609278\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.610146\t최선의 손실: 1.609278\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.621748\t최선의 손실: 1.609278\t정확도: 19.08%\n", - "7\t검증 세트 손실: 1.612059\t최선의 손실: 1.609278\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.611334\t최선의 손실: 1.609278\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.608811\t최선의 손실: 1.608811\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.610081\t최선의 손실: 1.608811\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.610639\t최선의 손실: 1.608811\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.610745\t최선의 손실: 1.608811\t정확도: 19.27%\n", - "13\t검증 세트 손실: 1.611638\t최선의 손실: 1.608811\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.608832\t최선의 손실: 1.608811\t정확도: 22.01%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 49.3s\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.613337\t최선의 손실: 1.613337\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.615309\t최선의 손실: 1.613337\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.609172\t최선의 손실: 1.609172\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.613909\t최선의 손실: 1.609172\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.612055\t최선의 손실: 1.609172\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.610150\t최선의 손실: 1.609172\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.621746\t최선의 손실: 1.609172\t정확도: 19.08%\n", + "7\t검증 세트 손실: 1.612061\t최선의 손실: 1.609172\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.611337\t최선의 손실: 1.609172\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.608816\t최선의 손실: 1.608816\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.610081\t최선의 손실: 1.608816\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.610640\t최선의 손실: 1.608816\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.610745\t최선의 손실: 1.608816\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1.611241\t최선의 손실: 1.608816\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.608832\t최선의 손실: 1.608816\t정확도: 22.01%\n", "15\t검증 세트 손실: 1.608106\t최선의 손실: 1.608106\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.613541\t최선의 손실: 1.608106\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.613543\t최선의 손실: 1.608106\t정확도: 22.01%\n", "17\t검증 세트 손실: 1.611918\t최선의 손실: 1.608106\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.614608\t최선의 손실: 1.608106\t정확도: 22.01%\n", + "18\t검증 세트 손실: 1.614609\t최선의 손실: 1.608106\t정확도: 22.01%\n", "19\t검증 세트 손실: 1.608659\t최선의 손실: 1.608106\t정확도: 22.01%\n", "20\t검증 세트 손실: 1.609367\t최선의 손실: 1.608106\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.619998\t최선의 손실: 1.608106\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.619997\t최선의 손실: 1.608106\t정확도: 22.01%\n", "22\t검증 세트 손실: 1.620808\t최선의 손실: 1.608106\t정확도: 19.27%\n", "23\t검증 세트 손실: 1.618630\t최선의 손실: 1.608106\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.613193\t최선의 손실: 1.608106\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.613191\t최선의 손실: 1.608106\t정확도: 22.01%\n", "25\t검증 세트 손실: 1.608846\t최선의 손실: 1.608106\t정확도: 22.01%\n", "26\t검증 세트 손실: 1.608852\t최선의 손실: 1.608106\t정확도: 22.01%\n", "27\t검증 세트 손실: 1.612873\t최선의 손실: 1.608106\t정확도: 22.01%\n", @@ -18661,60 +18518,54 @@ "33\t검증 세트 손실: 1.609563\t최선의 손실: 1.607765\t정확도: 22.01%\n", "34\t검증 세트 손실: 1.610189\t최선의 손실: 1.607765\t정확도: 22.01%\n", "35\t검증 세트 손실: 1.609365\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "36\t검증 세트 손실: 1.610132\t최선의 손실: 1.607765\t정확도: 19.27%\n", - "37\t검증 세트 손실: 1.612202\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "36\t검증 세트 손실: 1.610010\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "37\t검증 세트 손실: 1.612200\t최선의 손실: 1.607765\t정확도: 22.01%\n", "38\t검증 세트 손실: 1.612038\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "39\t검증 세트 손실: 1.614102\t최선의 손실: 1.607765\t정확도: 19.27%\n", - "40\t검증 세트 손실: 1.608471\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "39\t검증 세트 손실: 1.614101\t최선의 손실: 1.607765\t정확도: 19.27%\n", + "40\t검증 세트 손실: 1.608473\t최선의 손실: 1.607765\t정확도: 22.01%\n", "41\t검증 세트 손실: 1.609536\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "42\t검증 세트 손실: 1.610706\t최선의 손실: 1.607765\t정확도: 19.27%\n" - ] - }, - { - "name": "stdout", - "output_type": "stream", - "text": [ - "43\t검증 세트 손실: 1.614245\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "44\t검증 세트 손실: 1.616751\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "45\t검증 세트 손실: 1.610695\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "42\t검증 세트 손실: 1.610706\t최선의 손실: 1.607765\t정확도: 19.27%\n", + "43\t검증 세트 손실: 1.614007\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "44\t검증 세트 손실: 1.616754\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "45\t검증 세트 손실: 1.610697\t최선의 손실: 1.607765\t정확도: 22.01%\n", "46\t검증 세트 손실: 1.612055\t최선의 손실: 1.607765\t정확도: 18.73%\n", - "47\t검증 세트 손실: 1.608927\t최선의 손실: 1.607765\t정확도: 22.01%\n", - "48\t검증 세트 손실: 1.608293\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "47\t검증 세트 손실: 1.608928\t최선의 손실: 1.607765\t정확도: 22.01%\n", + "48\t검증 세트 손실: 1.608292\t최선의 손실: 1.607765\t정확도: 22.01%\n", "49\t검증 세트 손실: 1.617473\t최선의 손실: 1.607765\t정확도: 19.27%\n", - "50\t검증 세트 손실: 1.612355\t최선의 손실: 1.607765\t정확도: 19.27%\n", + "50\t검증 세트 손실: 1.612356\t최선의 손실: 1.607765\t정확도: 19.27%\n", "51\t검증 세트 손실: 1.610517\t최선의 손실: 1.607765\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140, total= 1.9min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.615186\t최선의 손실: 1.615186\t정확도: 22.01%\n", - "1\t검증 세트 손실: 1.613460\t최선의 손실: 1.613460\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.613229\t최선의 손실: 1.613229\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1.618722\t최선의 손실: 1.613229\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.608723\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.612530\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "6\t검증 세트 손실: 1.613943\t최선의 손실: 1.608723\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.612977\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.611470\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.610273\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "10\t검증 세트 손실: 1.610119\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.615093\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.609222\t최선의 손실: 1.608723\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.612667\t최선의 손실: 1.608723\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.610130\t최선의 손실: 1.608723\t정확도: 20.91%\n", - "15\t검증 세트 손실: 1.611326\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.620624\t최선의 손실: 1.608723\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.614153\t최선의 손실: 1.608723\t정확도: 19.08%\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 1.9min\n", + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation= \n", + "0\t검증 세트 손실: 1.616393\t최선의 손실: 1.616393\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.613461\t최선의 손실: 1.613461\t정확도: 19.27%\n", + "2\t검증 세트 손실: 1.613228\t최선의 손실: 1.613228\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.618715\t최선의 손실: 1.613228\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.608364\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.612529\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "6\t검증 세트 손실: 1.614209\t최선의 손실: 1.608364\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.612977\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "8\t검증 세트 손실: 1.611469\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.610273\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "10\t검증 세트 손실: 1.610099\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.614918\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.609137\t최선의 손실: 1.608364\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.612667\t최선의 손실: 1.608364\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.610130\t최선의 손실: 1.608364\t정확도: 20.91%\n", + "15\t검증 세트 손실: 1.611326\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.620625\t최선의 손실: 1.608364\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.614154\t최선의 손실: 1.608364\t정확도: 19.08%\n", "18\t검증 세트 손실: 1.607982\t최선의 손실: 1.607982\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.610182\t최선의 손실: 1.607982\t정확도: 19.08%\n", + "19\t검증 세트 손실: 1.610204\t최선의 손실: 1.607982\t정확도: 19.08%\n", "20\t검증 세트 손실: 1.612591\t최선의 손실: 1.607982\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.620052\t최선의 손실: 1.607982\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.611688\t최선의 손실: 1.607982\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.614217\t최선의 손실: 1.607982\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.612511\t최선의 손실: 1.607982\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.620057\t최선의 손실: 1.607982\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.611555\t최선의 손실: 1.607982\t정확도: 22.01%\n", + "23\t검증 세트 손실: 1.614263\t최선의 손실: 1.607982\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.612510\t최선의 손실: 1.607982\t정확도: 20.91%\n", "25\t검증 세트 손실: 1.609959\t최선의 손실: 1.607982\t정확도: 22.01%\n", "26\t검증 세트 손실: 1.607882\t최선의 손실: 1.607882\t정확도: 22.01%\n", "27\t검증 세트 손실: 1.610300\t최선의 손실: 1.607882\t정확도: 22.01%\n", - "28\t검증 세트 손실: 1.617167\t최선의 손실: 1.607882\t정확도: 19.08%\n", + "28\t검증 세트 손실: 1.617165\t최선의 손실: 1.607882\t정확도: 19.08%\n", "29\t검증 세트 손실: 1.610925\t최선의 손실: 1.607882\t정확도: 22.01%\n", "30\t검증 세트 손실: 1.609472\t최선의 손실: 1.607882\t정확도: 19.08%\n", "31\t검증 세트 손실: 1.609234\t최선의 손실: 1.607882\t정확도: 22.01%\n", @@ -18727,1555 +18578,1745 @@ "38\t검증 세트 손실: 1.612431\t최선의 손실: 1.607882\t정확도: 22.01%\n", "39\t검증 세트 손실: 1.616542\t최선의 손실: 1.607882\t정확도: 19.27%\n", "40\t검증 세트 손실: 1.610357\t최선의 손실: 1.607882\t정확도: 19.08%\n", - "41\t검증 세트 손실: 1.613421\t최선의 손실: 1.607882\t정확도: 19.08%\n", + "41\t검증 세트 손실: 1.613422\t최선의 손실: 1.607882\t정확도: 19.08%\n", "42\t검증 세트 손실: 1.610970\t최선의 손실: 1.607882\t정확도: 22.01%\n", "43\t검증 세트 손실: 1.609565\t최선의 손실: 1.607882\t정확도: 20.91%\n", - "44\t검증 세트 손실: 1.612212\t최선의 손실: 1.607882\t정확도: 22.01%\n", + "44\t검증 세트 손실: 1.612211\t최선의 손실: 1.607882\t정확도: 22.01%\n", "45\t검증 세트 손실: 1.609153\t최선의 손실: 1.607882\t정확도: 22.01%\n", "46\t검증 세트 손실: 1.608850\t최선의 손실: 1.607882\t정확도: 22.01%\n", "47\t검증 세트 손실: 1.625009\t최선의 손실: 1.607882\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.02, activation=, n_neurons=140, total= 1.8min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140 \n", - "0\t검증 세트 손실: 33.017578\t최선의 손실: 33.017578\t정확도: 18.80%\n", - "1\t검증 세트 손실: 25.312876\t최선의 손실: 25.312876\t정확도: 30.02%\n", - "2\t검증 세트 손실: 977.680603\t최선의 손실: 25.312876\t정확도: 19.23%\n", - "3\t검증 세트 손실: 115.906845\t최선의 손실: 25.312876\t정확도: 20.64%\n", - "4\t검증 세트 손실: 43.372986\t최선의 손실: 25.312876\t정확도: 35.46%\n", - "5\t검증 세트 손실: 9.768612\t최선의 손실: 9.768612\t정확도: 51.09%\n", - "6\t검증 세트 손실: 129.459000\t최선의 손실: 9.768612\t정확도: 38.00%\n", - "7\t검증 세트 손실: 364.953064\t최선의 손실: 9.768612\t정확도: 34.32%\n", - "8\t검증 세트 손실: 37.338482\t최선의 손실: 9.768612\t정확도: 30.81%\n", - "9\t검증 세트 손실: 134.444717\t최선의 손실: 9.768612\t정확도: 18.73%\n", - "10\t검증 세트 손실: 14.949549\t최선의 손실: 9.768612\t정확도: 30.81%\n", - "11\t검증 세트 손실: 234.325150\t최선의 손실: 9.768612\t정확도: 26.00%\n", - "12\t검증 세트 손실: 23.873732\t최선의 손실: 9.768612\t정확도: 33.27%\n", - "13\t검증 세트 손실: 14.461299\t최선의 손실: 9.768612\t정확도: 32.33%\n", - "14\t검증 세트 손실: 46.124794\t최선의 손실: 9.768612\t정확도: 37.65%\n", - "15\t검증 세트 손실: 442.806976\t최선의 손실: 9.768612\t정확도: 30.53%\n", - "16\t검증 세트 손실: 289.401001\t최선의 손실: 9.768612\t정확도: 32.33%\n", - "17\t검증 세트 손실: 444.409210\t최선의 손실: 9.768612\t정확도: 21.03%\n", - "18\t검증 세트 손실: 56.471684\t최선의 손실: 9.768612\t정확도: 51.56%\n", - "19\t검증 세트 손실: 1958.138184\t최선의 손실: 9.768612\t정확도: 20.91%\n", - "20\t검증 세트 손실: 47.746460\t최선의 손실: 9.768612\t정확도: 45.54%\n", - "21\t검증 세트 손실: 153.412704\t최선의 손실: 9.768612\t정확도: 29.67%\n", - "22\t검증 세트 손실: 90.472778\t최선의 손실: 9.768612\t정확도: 32.84%\n", - "23\t검증 세트 손실: 136.474243\t최선의 손실: 9.768612\t정확도: 32.92%\n", - "24\t검증 세트 손실: 113.965210\t최선의 손실: 9.768612\t정확도: 42.49%\n", - "25\t검증 세트 손실: 104.146317\t최선의 손실: 9.768612\t정확도: 35.14%\n", - "26\t검증 세트 손실: 64.506912\t최선의 손실: 9.768612\t정확도: 36.59%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140, total= 1.2min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140 \n", - "0\t검증 세트 손실: 13.799908\t최선의 손실: 13.799908\t정확도: 35.07%\n", - "1\t검증 세트 손실: 4.266835\t최선의 손실: 4.266835\t정확도: 52.62%\n", - "2\t검증 세트 손실: 37.418324\t최선의 손실: 4.266835\t정확도: 48.32%\n", - "3\t검증 세트 손실: 150.776382\t최선의 손실: 4.266835\t정확도: 52.66%\n", - "4\t검증 세트 손실: 41.786007\t최선의 손실: 4.266835\t정확도: 48.94%\n", - "5\t검증 세트 손실: 40.470741\t최선의 손실: 4.266835\t정확도: 50.51%\n", - "6\t검증 세트 손실: 158.662628\t최선의 손실: 4.266835\t정확도: 52.38%\n", - "7\t검증 세트 손실: 77.308456\t최선의 손실: 4.266835\t정확도: 52.42%\n", - "8\t검증 세트 손실: 152.990494\t최선의 손실: 4.266835\t정확도: 49.41%\n", - "9\t검증 세트 손실: 100.214790\t최선의 손실: 4.266835\t정확도: 45.54%\n", - "10\t검증 세트 손실: 175.914551\t최선의 손실: 4.266835\t정확도: 38.86%\n", - "11\t검증 세트 손실: 613.899658\t최선의 손실: 4.266835\t정확도: 48.44%\n", - "12\t검증 세트 손실: 1095.309082\t최선의 손실: 4.266835\t정확도: 55.82%\n", - "13\t검증 세트 손실: 226.042053\t최선의 손실: 4.266835\t정확도: 51.76%\n", - "14\t검증 세트 손실: 98.258713\t최선의 손실: 4.266835\t정확도: 53.99%\n", - "15\t검증 세트 손실: 185.943512\t최선의 손실: 4.266835\t정확도: 53.32%\n", - "16\t검증 세트 손실: 436.844940\t최선의 손실: 4.266835\t정확도: 53.75%\n", - "17\t검증 세트 손실: 108.171951\t최선의 손실: 4.266835\t정확도: 56.65%\n", - "18\t검증 세트 손실: 186.550049\t최선의 손실: 4.266835\t정확도: 53.83%\n", - "19\t검증 세트 손실: 1381.226929\t최선의 손실: 4.266835\t정확도: 53.01%\n", - "20\t검증 세트 손실: 2006.647583\t최선의 손실: 4.266835\t정확도: 45.43%\n", - "21\t검증 세트 손실: 316.517517\t최선의 손실: 4.266835\t정확도: 54.69%\n", - "22\t검증 세트 손실: 425.640991\t최선의 손실: 4.266835\t정확도: 51.60%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140, total= 1.0min\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140 \n", - "0\t검증 세트 손실: 86.337845\t최선의 손실: 86.337845\t정확도: 22.05%\n", - "1\t검증 세트 손실: 340.069611\t최선의 손실: 86.337845\t정확도: 20.91%\n", - "2\t검증 세트 손실: 6.016418\t최선의 손실: 6.016418\t정확도: 20.72%\n", - "3\t검증 세트 손실: 27.874828\t최선의 손실: 6.016418\t정확도: 19.27%\n", - "4\t검증 세트 손실: 64.147842\t최선의 손실: 6.016418\t정확도: 19.27%\n", - "5\t검증 세트 손실: 17.785933\t최선의 손실: 6.016418\t정확도: 36.20%\n", - "6\t검증 세트 손실: 44.337994\t최선의 손실: 6.016418\t정확도: 25.65%\n", - "7\t검증 세트 손실: 25.842176\t최선의 손실: 6.016418\t정확도: 37.72%\n", - "8\t검증 세트 손실: 629.289673\t최선의 손실: 6.016418\t정확도: 19.39%\n", - "9\t검증 세트 손실: 27.333958\t최선의 손실: 6.016418\t정확도: 24.86%\n", - "10\t검증 세트 손실: 19.060112\t최선의 손실: 6.016418\t정확도: 36.16%\n", - "11\t검증 세트 손실: 28.211420\t최선의 손실: 6.016418\t정확도: 47.30%\n", - "12\t검증 세트 손실: 32.167881\t최선의 손실: 6.016418\t정확도: 36.51%\n", - "13\t검증 세트 손실: 48.880829\t최선의 손실: 6.016418\t정확도: 20.91%\n", - "14\t검증 세트 손실: 24.576387\t최선의 손실: 6.016418\t정확도: 46.21%\n", - "15\t검증 세트 손실: 320.427246\t최선의 손실: 6.016418\t정확도: 20.91%\n", - "16\t검증 세트 손실: 47.566147\t최선의 손실: 6.016418\t정확도: 21.03%\n", - "17\t검증 세트 손실: 61.903629\t최선의 손실: 6.016418\t정확도: 38.12%\n", - "18\t검증 세트 손실: 138.987411\t최선의 손실: 6.016418\t정확도: 20.91%\n", - "19\t검증 세트 손실: 574.825256\t최선의 손실: 6.016418\t정확도: 18.73%\n", - "20\t검증 세트 손실: 377.905487\t최선의 손실: 6.016418\t정확도: 22.01%\n", - "21\t검증 세트 손실: 58.845943\t최선의 손실: 6.016418\t정확도: 37.53%\n", - "22\t검증 세트 손실: 152.765198\t최선의 손실: 6.016418\t정확도: 19.12%\n", - "23\t검증 세트 손실: 53.393864\t최선의 손실: 6.016418\t정확도: 21.50%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.5, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=140, total= 1.1min\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n" + "[CV] n_neurons=140, learning_rate=0.02, dropout_rate=0.5, batch_size=10, activation=, total= 1.8min\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 8.344464\t최선의 손실: 8.344464\t정확도: 38.43%\n", + "1\t검증 세트 손실: 3.336504\t최선의 손실: 3.336504\t정확도: 39.80%\n", + "2\t검증 세트 손실: 41.472431\t최선의 손실: 3.336504\t정확도: 50.59%\n", + "3\t검증 세트 손실: 22.739000\t최선의 손실: 3.336504\t정확도: 40.97%\n", + "4\t검증 세트 손실: 13.077739\t최선의 손실: 3.336504\t정확도: 34.64%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 176.327576\t최선의 손실: 176.327576\t정확도: 65.32%\n", - "1\t검증 세트 손실: 71.843132\t최선의 손실: 71.843132\t정확도: 74.78%\n", - "2\t검증 세트 손실: 21.649515\t최선의 손실: 21.649515\t정확도: 83.66%\n", - "3\t검증 세트 손실: 3.153890\t최선의 손실: 3.153890\t정확도: 91.28%\n", - "4\t검증 세트 손실: 3.321537\t최선의 손실: 3.153890\t정확도: 93.94%\n", - "5\t검증 세트 손실: 2.597079\t최선의 손실: 2.597079\t정확도: 85.18%\n", - "6\t검증 세트 손실: 3.561383\t최선의 손실: 2.597079\t정확도: 90.66%\n", - "7\t검증 세트 손실: 3.152815\t최선의 손실: 2.597079\t정확도: 78.62%\n", - "8\t검증 세트 손실: 1.887894\t최선의 손실: 1.887894\t정확도: 91.87%\n", - "9\t검증 세트 손실: 3.460547\t최선의 손실: 1.887894\t정확도: 77.76%\n", - "10\t검증 세트 손실: 8.308510\t최선의 손실: 1.887894\t정확도: 90.70%\n", - "11\t검증 세트 손실: 3.224822\t최선의 손실: 1.887894\t정확도: 80.57%\n", - "12\t검증 세트 손실: 1.897383\t최선의 손실: 1.887894\t정확도: 94.29%\n", - "13\t검증 세트 손실: 2.421635\t최선의 손실: 1.887894\t정확도: 93.00%\n", - "14\t검증 세트 손실: 14.420766\t최선의 손실: 1.887894\t정확도: 93.16%\n", - "15\t검증 세트 손실: 14.353847\t최선의 손실: 1.887894\t정확도: 91.01%\n", - "16\t검증 세트 손실: 7.986080\t최선의 손실: 1.887894\t정확도: 92.03%\n", - "17\t검증 세트 손실: 3.427059\t최선의 손실: 1.887894\t정확도: 95.74%\n", - "18\t검증 세트 손실: 1.549557\t최선의 손실: 1.549557\t정확도: 94.18%\n", - "19\t검증 세트 손실: 2.511651\t최선의 손실: 1.549557\t정확도: 95.86%\n", - "20\t검증 세트 손실: 1.812657\t최선의 손실: 1.549557\t정확도: 94.29%\n", - "21\t검증 세트 손실: 1.876656\t최선의 손실: 1.549557\t정확도: 95.04%\n", - "22\t검증 세트 손실: 2.653104\t최선의 손실: 1.549557\t정확도: 92.03%\n", - "23\t검증 세트 손실: 0.974393\t최선의 손실: 0.974393\t정확도: 95.50%\n", - "24\t검증 세트 손실: 35.773689\t최선의 손실: 0.974393\t정확도: 88.00%\n", - "25\t검증 세트 손실: 11.836556\t최선의 손실: 0.974393\t정확도: 93.24%\n", - "26\t검증 세트 손실: 75.913506\t최선의 손실: 0.974393\t정확도: 90.15%\n", - "27\t검증 세트 손실: 103569440.000000\t최선의 손실: 0.974393\t정확도: 23.46%\n", - "28\t검증 세트 손실: 1477319.375000\t최선의 손실: 0.974393\t정확도: 49.18%\n", - "29\t검증 세트 손실: 97104.210938\t최선의 손실: 0.974393\t정확도: 46.48%\n", - "30\t검증 세트 손실: 486475.656250\t최선의 손실: 0.974393\t정확도: 30.06%\n", - "31\t검증 세트 손실: 549393.812500\t최선의 손실: 0.974393\t정확도: 34.99%\n", - "32\t검증 세트 손실: 147703.484375\t최선의 손실: 0.974393\t정확도: 54.34%\n", - "33\t검증 세트 손실: 129593.156250\t최선의 손실: 0.974393\t정확도: 54.26%\n", - "34\t검증 세트 손실: 276274.625000\t최선의 손실: 0.974393\t정확도: 37.02%\n", - "35\t검증 세트 손실: 330295.593750\t최선의 손실: 0.974393\t정확도: 35.07%\n", - "36\t검증 세트 손실: 148890.562500\t최선의 손실: 0.974393\t정확도: 54.42%\n", - "37\t검증 세트 손실: 80953.992188\t최선의 손실: 0.974393\t정확도: 70.48%\n", - "38\t검증 세트 손실: 117496.015625\t최선의 손실: 0.974393\t정확도: 60.52%\n", - "39\t검증 세트 손실: 22277.861328\t최선의 손실: 0.974393\t정확도: 64.19%\n", - "40\t검증 세트 손실: 38241.214844\t최선의 손실: 0.974393\t정확도: 68.49%\n", - "41\t검증 세트 손실: 54104.230469\t최선의 손실: 0.974393\t정확도: 61.38%\n", - "42\t검증 세트 손실: 77786.648438\t최선의 손실: 0.974393\t정확도: 56.80%\n", - "43\t검증 세트 손실: 121372.570312\t최선의 손실: 0.974393\t정확도: 45.19%\n", - "44\t검증 세트 손실: 74714.835938\t최선의 손실: 0.974393\t정확도: 50.86%\n", + "5\t검증 세트 손실: 42.828224\t최선의 손실: 3.336504\t정확도: 33.27%\n", + "6\t검증 세트 손실: 27.453207\t최선의 손실: 3.336504\t정확도: 38.51%\n", + "7\t검증 세트 손실: 728.224121\t최선의 손실: 3.336504\t정확도: 48.71%\n", + "8\t검증 세트 손실: 102.073303\t최선의 손실: 3.336504\t정확도: 37.61%\n", + "9\t검증 세트 손실: 83.111671\t최선의 손실: 3.336504\t정확도: 34.56%\n", + "10\t검증 세트 손실: 10.676302\t최선의 손실: 3.336504\t정확도: 43.63%\n", + "11\t검증 세트 손실: 50.367958\t최선의 손실: 3.336504\t정확도: 37.02%\n", + "12\t검증 세트 손실: 42.661991\t최선의 손실: 3.336504\t정확도: 39.09%\n", + "13\t검증 세트 손실: 214.337967\t최선의 손실: 3.336504\t정확도: 38.66%\n", + "14\t검증 세트 손실: 1250.690063\t최선의 손실: 3.336504\t정확도: 36.20%\n", + "15\t검증 세트 손실: 99.821220\t최선의 손실: 3.336504\t정확도: 39.13%\n", + "16\t검증 세트 손실: 506.358002\t최선의 손실: 3.336504\t정확도: 35.89%\n", + "17\t검증 세트 손실: 166.469193\t최선의 손실: 3.336504\t정확도: 35.93%\n", + "18\t검증 세트 손실: 200.905365\t최선의 손실: 3.336504\t정확도: 37.72%\n", + "19\t검증 세트 손실: 619.704041\t최선의 손실: 3.336504\t정확도: 32.17%\n", + "20\t검증 세트 손실: 83.844955\t최선의 손실: 3.336504\t정확도: 42.49%\n", + "21\t검증 세트 손실: 39.623634\t최선의 손실: 3.336504\t정확도: 40.62%\n", + "22\t검증 세트 손실: 252.706528\t최선의 손실: 3.336504\t정확도: 33.19%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 5.0s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n", - "0\t검증 세트 손실: 330.006439\t최선의 손실: 330.006439\t정확도: 58.13%\n", - "1\t검증 세트 손실: 16.090376\t최선의 손실: 16.090376\t정확도: 75.33%\n", - "2\t검증 세트 손실: 4.055606\t최선의 손실: 4.055606\t정확도: 81.00%\n", - "3\t검증 세트 손실: 5.508632\t최선의 손실: 4.055606\t정확도: 80.65%\n", - "4\t검증 세트 손실: 3.421844\t최선의 손실: 3.421844\t정확도: 84.05%\n", - "5\t검증 세트 손실: 8.045994\t최선의 손실: 3.421844\t정확도: 76.82%\n", - "6\t검증 세트 손실: 6.168200\t최선의 손실: 3.421844\t정확도: 64.00%\n", - "7\t검증 세트 손실: 2.645014\t최선의 손실: 2.645014\t정확도: 82.49%\n", - "8\t검증 세트 손실: 0.982753\t최선의 손실: 0.982753\t정확도: 92.22%\n", - "9\t검증 세트 손실: 1.234802\t최선의 손실: 0.982753\t정확도: 83.89%\n", - "10\t검증 세트 손실: 2.803602\t최선의 손실: 0.982753\t정확도: 89.48%\n", - "11\t검증 세트 손실: 0.927578\t최선의 손실: 0.927578\t정확도: 93.32%\n", - "12\t검증 세트 손실: 1.208655\t최선의 손실: 0.927578\t정확도: 85.46%\n", - "13\t검증 세트 손실: 2.257218\t최선의 손실: 0.927578\t정확도: 77.29%\n", - "14\t검증 세트 손실: 1.847761\t최선의 손실: 0.927578\t정확도: 84.83%\n", - "15\t검증 세트 손실: 1.096406\t최선의 손실: 0.927578\t정확도: 91.52%\n", - "16\t검증 세트 손실: 1.093610\t최선의 손실: 0.927578\t정확도: 90.89%\n", - "17\t검증 세트 손실: 0.477180\t최선의 손실: 0.477180\t정확도: 94.37%\n", - "18\t검증 세트 손실: 5.944943\t최선의 손실: 0.477180\t정확도: 69.31%\n", - "19\t검증 세트 손실: 1.375362\t최선의 손실: 0.477180\t정확도: 93.98%\n", - "20\t검증 세트 손실: 0.519850\t최선의 손실: 0.477180\t정확도: 95.27%\n", - "21\t검증 세트 손실: 0.647540\t최선의 손실: 0.477180\t정확도: 94.88%\n", - "22\t검증 세트 손실: 0.484415\t최선의 손실: 0.477180\t정확도: 94.96%\n", - "23\t검증 세트 손실: 0.468843\t최선의 손실: 0.468843\t정확도: 94.45%\n", - "24\t검증 세트 손실: 0.374258\t최선의 손실: 0.374258\t정확도: 94.64%\n", - "25\t검증 세트 손실: 0.513686\t최선의 손실: 0.374258\t정확도: 93.78%\n", - "26\t검증 세트 손실: 0.355001\t최선의 손실: 0.355001\t정확도: 94.84%\n", - "27\t검증 세트 손실: 0.413143\t최선의 손실: 0.355001\t정확도: 95.15%\n", - "28\t검증 세트 손실: 0.273239\t최선의 손실: 0.273239\t정확도: 95.70%\n", - "29\t검증 세트 손실: 0.248423\t최선의 손실: 0.248423\t정확도: 95.54%\n", - "30\t검증 세트 손실: 0.714267\t최선의 손실: 0.248423\t정확도: 95.50%\n", - "31\t검증 세트 손실: 0.486230\t최선의 손실: 0.248423\t정확도: 93.82%\n", - "32\t검증 세트 손실: 1.210809\t최선의 손실: 0.248423\t정확도: 88.39%\n", - "33\t검증 세트 손실: 0.655875\t최선의 손실: 0.248423\t정확도: 92.57%\n", - "34\t검증 세트 손실: 0.400567\t최선의 손실: 0.248423\t정확도: 94.29%\n", - "35\t검증 세트 손실: 0.256197\t최선의 손실: 0.248423\t정확도: 95.62%\n", - "36\t검증 세트 손실: 0.261742\t최선의 손실: 0.248423\t정확도: 95.47%\n", - "37\t검증 세트 손실: 0.325446\t최선의 손실: 0.248423\t정확도: 94.45%\n", - "38\t검증 세트 손실: 0.201657\t최선의 손실: 0.201657\t정확도: 96.21%\n", - "39\t검증 세트 손실: 0.233513\t최선의 손실: 0.201657\t정확도: 95.86%\n", - "40\t검증 세트 손실: 0.510566\t최선의 손실: 0.201657\t정확도: 90.30%\n", - "41\t검증 세트 손실: 0.373796\t최선의 손실: 0.201657\t정확도: 94.37%\n", - "42\t검증 세트 손실: 0.287483\t최선의 손실: 0.201657\t정확도: 94.96%\n", - "43\t검증 세트 손실: 0.333200\t최선의 손실: 0.201657\t정확도: 94.92%\n", - "44\t검증 세트 손실: 0.476463\t최선의 손실: 0.201657\t정확도: 92.69%\n", - "45\t검증 세트 손실: 81004536.000000\t최선의 손실: 0.201657\t정확도: 28.89%\n", - "46\t검증 세트 손실: 4395341.000000\t최선의 손실: 0.201657\t정확도: 34.21%\n", - "47\t검증 세트 손실: 1094999.625000\t최선의 손실: 0.201657\t정확도: 37.61%\n", - "48\t검증 세트 손실: 537411.125000\t최선의 손실: 0.201657\t정확도: 32.45%\n", - "49\t검증 세트 손실: 562496.937500\t최선의 손실: 0.201657\t정확도: 31.12%\n", - "50\t검증 세트 손실: 462362.531250\t최선의 손실: 0.201657\t정확도: 35.85%\n", - "51\t검증 세트 손실: 247615.546875\t최선의 손실: 0.201657\t정확도: 38.27%\n", - "52\t검증 세트 손실: 250383.984375\t최선의 손실: 0.201657\t정확도: 49.22%\n", - "53\t검증 세트 손실: 209179.046875\t최선의 손실: 0.201657\t정확도: 37.41%\n", - "54\t검증 세트 손실: 193484.265625\t최선의 손실: 0.201657\t정확도: 53.36%\n", - "55\t검증 세트 손실: 299784.125000\t최선의 손실: 0.201657\t정확도: 37.18%\n", - "56\t검증 세트 손실: 291498.375000\t최선의 손실: 0.201657\t정확도: 36.32%\n", - "57\t검증 세트 손실: 195062.515625\t최선의 손실: 0.201657\t정확도: 54.34%\n", - "58\t검증 세트 손실: 228970.609375\t최선의 손실: 0.201657\t정확도: 38.12%\n", - "59\t검증 세트 손실: 87465.289062\t최선의 손실: 0.201657\t정확도: 57.47%\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.0min\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 4.315180\t최선의 손실: 4.315180\t정확도: 45.86%\n", + "1\t검증 세트 손실: 279.424225\t최선의 손실: 4.315180\t정확도: 23.38%\n", + "2\t검증 세트 손실: 22.204485\t최선의 손실: 4.315180\t정확도: 21.85%\n", + "3\t검증 세트 손실: 122.297707\t최선의 손실: 4.315180\t정확도: 22.01%\n", + "4\t검증 세트 손실: 179.058731\t최선의 손실: 4.315180\t정확도: 33.35%\n", + "5\t검증 세트 손실: 84.075378\t최선의 손실: 4.315180\t정확도: 31.20%\n", + "6\t검증 세트 손실: 55.541561\t최선의 손실: 4.315180\t정확도: 36.00%\n", + "7\t검증 세트 손실: 191.776382\t최선의 손실: 4.315180\t정확도: 30.92%\n", + "8\t검증 세트 손실: 80.756531\t최선의 손실: 4.315180\t정확도: 36.04%\n", + "9\t검증 세트 손실: 34.954994\t최선의 손실: 4.315180\t정확도: 34.60%\n", + "10\t검증 세트 손실: 984.136230\t최선의 손실: 4.315180\t정확도: 34.91%\n", + "11\t검증 세트 손실: 136.228882\t최선의 손실: 4.315180\t정확도: 36.20%\n", + "12\t검증 세트 손실: 213.477570\t최선의 손실: 4.315180\t정확도: 34.95%\n", + "13\t검증 세트 손실: 43.792679\t최선의 손실: 4.315180\t정확도: 34.79%\n", + "14\t검증 세트 손실: 108.457756\t최선의 손실: 4.315180\t정확도: 37.88%\n", + "15\t검증 세트 손실: 247.628647\t최선의 손실: 4.315180\t정확도: 33.74%\n", + "16\t검증 세트 손실: 184.515411\t최선의 손실: 4.315180\t정확도: 33.15%\n", + "17\t검증 세트 손실: 121.392906\t최선의 손실: 4.315180\t정확도: 34.71%\n", + "18\t검증 세트 손실: 113.930252\t최선의 손실: 4.315180\t정확도: 36.90%\n", + "19\t검증 세트 손실: 34.567078\t최선의 손실: 4.315180\t정확도: 47.30%\n", + "20\t검증 세트 손실: 318.453735\t최선의 손실: 4.315180\t정확도: 31.70%\n", + "21\t검증 세트 손실: 117.924156\t최선의 손실: 4.315180\t정확도: 37.88%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 6.1s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160 \n", - "0\t검증 세트 손실: 297.714813\t최선의 손실: 297.714813\t정확도: 47.85%\n", - "1\t검증 세트 손실: 15.103884\t최선의 손실: 15.103884\t정확도: 76.43%\n", - "2\t검증 세트 손실: 7.641291\t최선의 손실: 7.641291\t정확도: 78.89%\n", - "3\t검증 세트 손실: 3.352600\t최선의 손실: 3.352600\t정확도: 86.63%\n", - "4\t검증 세트 손실: 2.153786\t최선의 손실: 2.153786\t정확도: 93.51%\n", - "5\t검증 세트 손실: 1.708294\t최선의 손실: 1.708294\t정확도: 90.93%\n", - "6\t검증 세트 손실: 1.804965\t최선의 손실: 1.708294\t정확도: 90.70%\n", - "7\t검증 세트 손실: 1.646180\t최선의 손실: 1.646180\t정확도: 93.86%\n", - "8\t검증 세트 손실: 1.433139\t최선의 손실: 1.433139\t정확도: 92.81%\n", - "9\t검증 세트 손실: 1.301722\t최선의 손실: 1.301722\t정확도: 92.49%\n", - "10\t검증 세트 손실: 0.768034\t최선의 손실: 0.768034\t정확도: 94.37%\n", - "11\t검증 세트 손실: 0.700226\t최선의 손실: 0.700226\t정확도: 95.47%\n", - "12\t검증 세트 손실: 2.157740\t최선의 손실: 0.700226\t정확도: 94.61%\n", - "13\t검증 세트 손실: 1.267197\t최선의 손실: 0.700226\t정확도: 95.35%\n", - "14\t검증 세트 손실: 0.820139\t최선의 손실: 0.700226\t정확도: 95.39%\n", - "15\t검증 세트 손실: 0.864113\t최선의 손실: 0.700226\t정확도: 95.50%\n", - "16\t검증 세트 손실: 2.671099\t최선의 손실: 0.700226\t정확도: 80.34%\n", - "17\t검증 세트 손실: 0.544908\t최선의 손실: 0.544908\t정확도: 95.35%\n", - "18\t검증 세트 손실: 0.415430\t최선의 손실: 0.415430\t정확도: 95.50%\n", - "19\t검증 세트 손실: 0.563941\t최선의 손실: 0.415430\t정확도: 95.23%\n", - "20\t검증 세트 손실: 0.707338\t최선의 손실: 0.415430\t정확도: 90.38%\n", - "21\t검증 세트 손실: 0.635402\t최선의 손실: 0.415430\t정확도: 94.88%\n", - "22\t검증 세트 손실: 0.699416\t최선의 손실: 0.415430\t정확도: 95.19%\n", - "23\t검증 세트 손실: 1.046321\t최선의 손실: 0.415430\t정확도: 93.28%\n", - "24\t검증 세트 손실: 1.297419\t최선의 손실: 0.415430\t정확도: 91.71%\n", - "25\t검증 세트 손실: 0.314797\t최선의 손실: 0.314797\t정확도: 96.25%\n", - "26\t검증 세트 손실: 0.276362\t최선의 손실: 0.276362\t정확도: 96.40%\n", - "27\t검증 세트 손실: 0.308734\t최선의 손실: 0.276362\t정확도: 95.97%\n", - "28\t검증 세트 손실: 0.639498\t최선의 손실: 0.276362\t정확도: 95.19%\n", - "29\t검증 세트 손실: 0.490015\t최선의 손실: 0.276362\t정확도: 94.76%\n", - "30\t검증 세트 손실: 0.603001\t최선의 손실: 0.276362\t정확도: 96.60%\n", - "31\t검증 세트 손실: 0.854220\t최선의 손실: 0.276362\t정확도: 91.05%\n", - "32\t검증 세트 손실: 0.482940\t최선의 손실: 0.276362\t정확도: 95.07%\n", - "33\t검증 세트 손실: 0.360172\t최선의 손실: 0.276362\t정확도: 95.78%\n", - "34\t검증 세트 손실: 0.426841\t최선의 손실: 0.276362\t정확도: 94.68%\n", - "35\t검증 세트 손실: 0.534144\t최선의 손실: 0.276362\t정확도: 95.62%\n", - "36\t검증 세트 손실: 0.357398\t최선의 손실: 0.276362\t정확도: 94.88%\n", - "37\t검증 세트 손실: 0.292843\t최선의 손실: 0.276362\t정확도: 95.70%\n", - "38\t검증 세트 손실: 0.275793\t최선의 손실: 0.275793\t정확도: 95.27%\n", - "39\t검증 세트 손실: 0.337423\t최선의 손실: 0.275793\t정확도: 94.37%\n", - "40\t검증 세트 손실: 1.331597\t최선의 손실: 0.275793\t정확도: 96.56%\n", - "41\t검증 세트 손실: 0.471213\t최선의 손실: 0.275793\t정확도: 96.72%\n" + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 58.8s\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 14.541661\t최선의 손실: 14.541661\t정확도: 29.01%\n", + "1\t검증 세트 손실: 9.126132\t최선의 손실: 9.126132\t정확도: 47.85%\n", + "2\t검증 세트 손실: 7.027997\t최선의 손실: 7.027997\t정확도: 44.45%\n", + "3\t검증 세트 손실: 12.773747\t최선의 손실: 7.027997\t정확도: 45.70%\n", + "4\t검증 세트 손실: 86.360298\t최선의 손실: 7.027997\t정확도: 34.79%\n", + "5\t검증 세트 손실: 484.314514\t최선의 손실: 7.027997\t정확도: 30.57%\n", + "6\t검증 세트 손실: 37.600903\t최선의 손실: 7.027997\t정확도: 29.20%\n", + "7\t검증 세트 손실: 60.565475\t최선의 손실: 7.027997\t정확도: 41.24%\n", + "8\t검증 세트 손실: 712.458435\t최선의 손실: 7.027997\t정확도: 33.78%\n", + "9\t검증 세트 손실: 38.953209\t최선의 손실: 7.027997\t정확도: 35.14%\n", + "10\t검증 세트 손실: 284.820251\t최선의 손실: 7.027997\t정확도: 32.45%\n", + "11\t검증 세트 손실: 87.951546\t최선의 손실: 7.027997\t정확도: 30.88%\n", + "12\t검증 세트 손실: 44.425266\t최선의 손실: 7.027997\t정확도: 30.88%\n", + "13\t검증 세트 손실: 68.960297\t최선의 손실: 7.027997\t정확도: 32.33%\n", + "14\t검증 세트 손실: 432.774719\t최선의 손실: 7.027997\t정확도: 25.68%\n", + "15\t검증 세트 손실: 52.094532\t최선의 손실: 7.027997\t정확도: 46.40%\n", + "16\t검증 세트 손실: 73.991646\t최선의 손실: 7.027997\t정확도: 40.19%\n", + "17\t검증 세트 손실: 174.052353\t최선의 손실: 7.027997\t정확도: 22.17%\n", + "18\t검증 세트 손실: 148.541779\t최선의 손실: 7.027997\t정확도: 26.43%\n", + "19\t검증 세트 손실: 240.689651\t최선의 손실: 7.027997\t정확도: 40.15%\n", + "20\t검증 세트 손실: 53.552532\t최선의 손실: 7.027997\t정확도: 35.65%\n", + "21\t검증 세트 손실: 220.288681\t최선의 손실: 7.027997\t정확도: 34.36%\n", + "22\t검증 세트 손실: 60.762497\t최선의 손실: 7.027997\t정확도: 40.15%\n", + "23\t검증 세트 손실: 72.441704\t최선의 손실: 7.027997\t정확도: 39.05%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.01, dropout_rate=0.5, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 1.1min\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 69.916145\t최선의 손실: 69.916145\t정확도: 58.01%\n", + "1\t검증 세트 손실: 8.324002\t최선의 손실: 8.324002\t정확도: 69.47%\n", + "2\t검증 세트 손실: 10.599020\t최선의 손실: 8.324002\t정확도: 49.45%\n", + "3\t검증 세트 손실: 9.948830\t최선의 손실: 8.324002\t정확도: 58.72%\n", + "4\t검증 세트 손실: 18.867739\t최선의 손실: 8.324002\t정확도: 56.65%\n", + "5\t검증 세트 손실: 3.742839\t최선의 손실: 3.742839\t정확도: 72.71%\n", + "6\t검증 세트 손실: 3.082945\t최선의 손실: 3.082945\t정확도: 72.28%\n", + "7\t검증 세트 손실: 5.045433\t최선의 손실: 3.082945\t정확도: 59.77%\n", + "8\t검증 세트 손실: 7.919188\t최선의 손실: 3.082945\t정확도: 62.47%\n", + "9\t검증 세트 손실: 8.085376\t최선의 손실: 3.082945\t정확도: 63.10%\n", + "10\t검증 세트 손실: 4.262231\t최선의 손실: 3.082945\t정확도: 75.61%\n", + "11\t검증 세트 손실: 1.347791\t최선의 손실: 1.347791\t정확도: 82.17%\n", + "12\t검증 세트 손실: 0.811535\t최선의 손실: 0.811535\t정확도: 85.73%\n", + "13\t검증 세트 손실: 1.073451\t최선의 손실: 0.811535\t정확도: 84.71%\n", + "14\t검증 세트 손실: 1.217425\t최선의 손실: 0.811535\t정확도: 81.70%\n", + "15\t검증 세트 손실: 1.798988\t최선의 손실: 0.811535\t정확도: 72.05%\n", + "16\t검증 세트 손실: 1.265218\t최선의 손실: 0.811535\t정확도: 75.80%\n", + "17\t검증 세트 손실: 1.396037\t최선의 손실: 0.811535\t정확도: 72.67%\n", + "18\t검증 세트 손실: 1.675873\t최선의 손실: 0.811535\t정확도: 72.91%\n", + "19\t검증 세트 손실: 1.603846\t최선의 손실: 0.811535\t정확도: 76.15%\n", + "20\t검증 세트 손실: 4.932356\t최선의 손실: 0.811535\t정확도: 64.19%\n", + "21\t검증 세트 손실: 1.750157\t최선의 손실: 0.811535\t정확도: 77.37%\n", + "22\t검증 세트 손실: 0.687227\t최선의 손실: 0.687227\t정확도: 86.08%\n", + "23\t검증 세트 손실: 1.188539\t최선의 손실: 0.687227\t정확도: 76.43%\n", + "24\t검증 세트 손실: 1.273352\t최선의 손실: 0.687227\t정확도: 74.00%\n", + "25\t검증 세트 손실: 2.100165\t최선의 손실: 0.687227\t정확도: 82.96%\n", + "26\t검증 세트 손실: 2.769024\t최선의 손실: 0.687227\t정확도: 75.49%\n", + "27\t검증 세트 손실: 1.801868\t최선의 손실: 0.687227\t정확도: 74.59%\n", + "28\t검증 세트 손실: 1.170019\t최선의 손실: 0.687227\t정확도: 78.50%\n", + "29\t검증 세트 손실: 0.554879\t최선의 손실: 0.554879\t정확도: 91.44%\n", + "30\t검증 세트 손실: 0.496753\t최선의 손실: 0.496753\t정확도: 92.89%\n", + "31\t검증 세트 손실: 0.687310\t최선의 손실: 0.496753\t정확도: 92.26%\n", + "32\t검증 세트 손실: 0.714377\t최선의 손실: 0.496753\t정확도: 87.65%\n", + "33\t검증 세트 손실: 2.628824\t최선의 손실: 0.496753\t정확도: 77.76%\n", + "34\t검증 세트 손실: 0.434925\t최선의 손실: 0.434925\t정확도: 91.28%\n", + "35\t검증 세트 손실: 0.395850\t최선의 손실: 0.395850\t정확도: 91.48%\n", + "36\t검증 세트 손실: 0.360583\t최선의 손실: 0.360583\t정확도: 93.43%\n", + "37\t검증 세트 손실: 0.306817\t최선의 손실: 0.306817\t정확도: 93.28%\n", + "38\t검증 세트 손실: 0.701948\t최선의 손실: 0.306817\t정확도: 82.06%\n", + "39\t검증 세트 손실: 1.530816\t최선의 손실: 0.306817\t정확도: 77.68%\n", + "40\t검증 세트 손실: 0.472340\t최선의 손실: 0.306817\t정확도: 92.57%\n", + "41\t검증 세트 손실: 0.540537\t최선의 손실: 0.306817\t정확도: 93.35%\n", + "42\t검증 세트 손실: 0.376082\t최선의 손실: 0.306817\t정확도: 93.39%\n", + "43\t검증 세트 손실: 0.325778\t최선의 손실: 0.306817\t정확도: 94.92%\n", + "44\t검증 세트 손실: 0.544216\t최선의 손실: 0.306817\t정확도: 88.15%\n", + "45\t검증 세트 손실: 0.438557\t최선의 손실: 0.306817\t정확도: 91.01%\n", + "46\t검증 세트 손실: 0.293459\t최선의 손실: 0.293459\t정확도: 95.00%\n", + "47\t검증 세트 손실: 0.698392\t최선의 손실: 0.293459\t정확도: 95.19%\n", + "48\t검증 세트 손실: 0.580361\t최선의 손실: 0.293459\t정확도: 93.75%\n", + "49\t검증 세트 손실: 0.325287\t최선의 손실: 0.293459\t정확도: 93.71%\n", + "50\t검증 세트 손실: 0.277435\t최선의 손실: 0.277435\t정확도: 94.45%\n", + "51\t검증 세트 손실: 0.411622\t최선의 손실: 0.277435\t정확도: 92.42%\n", + "52\t검증 세트 손실: 0.242734\t최선의 손실: 0.242734\t정확도: 94.72%\n", + "53\t검증 세트 손실: 0.232356\t최선의 손실: 0.232356\t정확도: 93.32%\n", + "54\t검증 세트 손실: 0.975696\t최선의 손실: 0.232356\t정확도: 91.71%\n", + "55\t검증 세트 손실: 0.348059\t최선의 손실: 0.232356\t정확도: 95.19%\n", + "56\t검증 세트 손실: 0.516917\t최선의 손실: 0.232356\t정확도: 91.79%\n", + "57\t검증 세트 손실: 0.296816\t최선의 손실: 0.232356\t정확도: 94.14%\n", + "58\t검증 세트 손실: 0.347230\t최선의 손실: 0.232356\t정확도: 93.51%\n", + "59\t검증 세트 손실: 0.332348\t최선의 손실: 0.232356\t정확도: 93.32%\n", + "60\t검증 세트 손실: 0.372687\t최선의 손실: 0.232356\t정확도: 94.68%\n", + "61\t검증 세트 손실: 0.257790\t최선의 손실: 0.232356\t정확도: 95.31%\n", + "62\t검증 세트 손실: 0.276396\t최선의 손실: 0.232356\t정확도: 93.90%\n", + "63\t검증 세트 손실: 0.558626\t최선의 손실: 0.232356\t정확도: 95.62%\n", + "64\t검증 세트 손실: 0.250359\t최선의 손실: 0.232356\t정확도: 94.21%\n", + "65\t검증 세트 손실: 0.294007\t최선의 손실: 0.232356\t정확도: 92.73%\n", + "66\t검증 세트 손실: 0.207824\t최선의 손실: 0.207824\t정확도: 94.61%\n", + "67\t검증 세트 손실: 1.135814\t최선의 손실: 0.207824\t정확도: 94.84%\n", + "68\t검증 세트 손실: 0.458520\t최선의 손실: 0.207824\t정확도: 91.83%\n", + "69\t검증 세트 손실: 0.424829\t최선의 손실: 0.207824\t정확도: 92.42%\n", + "70\t검증 세트 손실: 0.384497\t최선의 손실: 0.207824\t정확도: 94.64%\n", + "71\t검증 세트 손실: 0.311559\t최선의 손실: 0.207824\t정확도: 93.51%\n", + "72\t검증 세트 손실: 0.550813\t최선의 손실: 0.207824\t정확도: 90.42%\n", + "73\t검증 세트 손실: 0.303201\t최선의 손실: 0.207824\t정확도: 95.78%\n", + "74\t검증 세트 손실: 0.202679\t최선의 손실: 0.202679\t정확도: 95.66%\n", + "75\t검증 세트 손실: 0.305480\t최선의 손실: 0.202679\t정확도: 95.35%\n", + "76\t검증 세트 손실: 0.289502\t최선의 손실: 0.202679\t정확도: 95.43%\n", + "77\t검증 세트 손실: 0.173183\t최선의 손실: 0.173183\t정확도: 95.90%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "42\t검증 세트 손실: 1.884585\t최선의 손실: 0.275793\t정확도: 95.19%\n", - "43\t검증 세트 손실: 3.784970\t최선의 손실: 0.275793\t정확도: 94.72%\n", - "44\t검증 세트 손실: 6.618899\t최선의 손실: 0.275793\t정확도: 92.14%\n", - "45\t검증 세트 손실: 4.098688\t최선의 손실: 0.275793\t정확도: 95.47%\n", - "46\t검증 세트 손실: 2.181420\t최선의 손실: 0.275793\t정확도: 94.88%\n", - "47\t검증 세트 손실: 8976683.000000\t최선의 손실: 0.275793\t정확도: 19.27%\n", - "48\t검증 세트 손실: 3912144.250000\t최선의 손실: 0.275793\t정확도: 25.22%\n", - "49\t검증 세트 손실: 343869.781250\t최선의 손실: 0.275793\t정확도: 58.72%\n", - "50\t검증 세트 손실: 184405.359375\t최선의 손실: 0.275793\t정확도: 60.20%\n", - "51\t검증 세트 손실: 95154.617188\t최선의 손실: 0.275793\t정확도: 66.77%\n", - "52\t검증 세트 손실: 73934.328125\t최선의 손실: 0.275793\t정확도: 73.73%\n", - "53\t검증 세트 손실: 41615.125000\t최선의 손실: 0.275793\t정확도: 85.14%\n", - "54\t검증 세트 손실: 56549.464844\t최선의 손실: 0.275793\t정확도: 64.93%\n", - "55\t검증 세트 손실: 43981.636719\t최선의 손실: 0.275793\t정확도: 70.76%\n", - "56\t검증 세트 손실: 30328.919922\t최선의 손실: 0.275793\t정확도: 88.19%\n", - "57\t검증 세트 손실: 72159.523438\t최선의 손실: 0.275793\t정확도: 59.66%\n", - "58\t검증 세트 손실: 129199.937500\t최선의 손실: 0.275793\t정확도: 58.68%\n", - "59\t검증 세트 손실: 125364.562500\t최선의 손실: 0.275793\t정확도: 56.18%\n", + "78\t검증 세트 손실: 0.629444\t최선의 손실: 0.173183\t정확도: 95.70%\n", + "79\t검증 세트 손실: 0.349948\t최선의 손실: 0.173183\t정확도: 95.23%\n", + "80\t검증 세트 손실: 0.281057\t최선의 손실: 0.173183\t정확도: 94.80%\n", + "81\t검증 세트 손실: 0.223339\t최선의 손실: 0.173183\t정확도: 95.82%\n", + "82\t검증 세트 손실: 0.219241\t최선의 손실: 0.173183\t정확도: 95.66%\n", + "83\t검증 세트 손실: 0.186852\t최선의 손실: 0.173183\t정확도: 95.23%\n", + "84\t검증 세트 손실: 0.211037\t최선의 손실: 0.173183\t정확도: 94.02%\n", + "85\t검증 세트 손실: 0.277633\t최선의 손실: 0.173183\t정확도: 95.39%\n", + "86\t검증 세트 손실: 1.099707\t최선의 손실: 0.173183\t정확도: 80.45%\n", + "87\t검증 세트 손실: 25415876.000000\t최선의 손실: 0.173183\t정확도: 26.47%\n", + "88\t검증 세트 손실: 1206900.375000\t최선의 손실: 0.173183\t정확도: 53.09%\n", + "89\t검증 세트 손실: 346866.500000\t최선의 손실: 0.173183\t정확도: 67.32%\n", + "90\t검증 세트 손실: 152439.765625\t최선의 손실: 0.173183\t정확도: 75.49%\n", + "91\t검증 세트 손실: 519147.687500\t최선의 손실: 0.173183\t정확도: 37.14%\n", + "92\t검증 세트 손실: 201270.453125\t최선의 손실: 0.173183\t정확도: 63.29%\n", + "93\t검증 세트 손실: 155810.625000\t최선의 손실: 0.173183\t정확도: 65.64%\n", + "94\t검증 세트 손실: 69095.234375\t최선의 손실: 0.173183\t정확도: 73.96%\n", + "95\t검증 세트 손실: 100305.648438\t최선의 손실: 0.173183\t정확도: 61.49%\n", + "96\t검증 세트 손실: 194712.171875\t최선의 손실: 0.173183\t정확도: 57.70%\n", + "97\t검증 세트 손실: 163297.953125\t최선의 손실: 0.173183\t정확도: 60.48%\n", + "98\t검증 세트 손실: 99298.851562\t최선의 손실: 0.173183\t정확도: 62.08%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=160, total= 6.3s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.271899\t최선의 손실: 0.271899\t정확도: 91.83%\n", - "1\t검증 세트 손실: 0.176052\t최선의 손실: 0.176052\t정확도: 95.15%\n", - "2\t검증 세트 손실: 0.164719\t최선의 손실: 0.164719\t정확도: 95.66%\n", - "3\t검증 세트 손실: 0.160637\t최선의 손실: 0.160637\t정확도: 96.13%\n", - "4\t검증 세트 손실: 0.217903\t최선의 손실: 0.160637\t정확도: 93.35%\n", - "5\t검증 세트 손실: 0.371049\t최선의 손실: 0.160637\t정확도: 91.83%\n", - "6\t검증 세트 손실: 0.342398\t최선의 손실: 0.160637\t정확도: 84.99%\n", - "7\t검증 세트 손실: 0.415715\t최선의 손실: 0.160637\t정확도: 89.60%\n", - "8\t검증 세트 손실: 0.594841\t최선의 손실: 0.160637\t정확도: 89.76%\n", - "9\t검증 세트 손실: 0.717713\t최선의 손실: 0.160637\t정확도: 68.80%\n", - "10\t검증 세트 손실: 0.533684\t최선의 손실: 0.160637\t정확도: 79.98%\n", - "11\t검증 세트 손실: 0.708021\t최선의 손실: 0.160637\t정확도: 68.61%\n", - "12\t검증 세트 손실: 0.614200\t최선의 손실: 0.160637\t정확도: 70.88%\n", - "13\t검증 세트 손실: 0.616901\t최선의 손실: 0.160637\t정확도: 77.83%\n", - "14\t검증 세트 손실: 0.761278\t최선의 손실: 0.160637\t정확도: 70.41%\n", - "15\t검증 세트 손실: 1.262339\t최선의 손실: 0.160637\t정확도: 53.09%\n", - "16\t검증 세트 손실: 0.561974\t최선의 손실: 0.160637\t정확도: 77.68%\n", - "17\t검증 세트 손실: 0.422010\t최선의 손실: 0.160637\t정확도: 87.80%\n", - "18\t검증 세트 손실: 0.353856\t최선의 손실: 0.160637\t정확도: 87.92%\n", - "19\t검증 세트 손실: 0.396002\t최선의 손실: 0.160637\t정확도: 85.93%\n", - "20\t검증 세트 손실: 0.420937\t최선의 손실: 0.160637\t정확도: 80.06%\n", - "21\t검증 세트 손실: 0.424796\t최선의 손실: 0.160637\t정확도: 80.61%\n", - "22\t검증 세트 손실: 1.033505\t최선의 손실: 0.160637\t정확도: 49.92%\n", - "23\t검증 세트 손실: 2.014473\t최선의 손실: 0.160637\t정확도: 49.14%\n", - "24\t검증 세트 손실: 1.070690\t최선의 손실: 0.160637\t정확도: 50.12%\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 8.6s\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 424.839752\t최선의 손실: 424.839752\t정확도: 29.59%\n", + "1\t검증 세트 손실: 80.276695\t최선의 손실: 80.276695\t정확도: 42.65%\n", + "2\t검증 세트 손실: 47.336517\t최선의 손실: 47.336517\t정확도: 46.09%\n", + "3\t검증 세트 손실: 13.604415\t최선의 손실: 13.604415\t정확도: 67.87%\n", + "4\t검증 세트 손실: 5.778104\t최선의 손실: 5.778104\t정확도: 63.88%\n", + "5\t검증 세트 손실: 3.280630\t최선의 손실: 3.280630\t정확도: 66.26%\n", + "6\t검증 세트 손실: 7.307473\t최선의 손실: 3.280630\t정확도: 61.14%\n", + "7\t검증 세트 손실: 7.471757\t최선의 손실: 3.280630\t정확도: 68.10%\n", + "8\t검증 세트 손실: 1.832075\t최선의 손실: 1.832075\t정확도: 86.12%\n", + "9\t검증 세트 손실: 1.787155\t최선의 손실: 1.787155\t정확도: 75.45%\n", + "10\t검증 세트 손실: 2.228889\t최선의 손실: 1.787155\t정확도: 72.83%\n", + "11\t검증 세트 손실: 1.302900\t최선의 손실: 1.302900\t정확도: 80.18%\n", + "12\t검증 세트 손실: 5.629253\t최선의 손실: 1.302900\t정확도: 68.14%\n", + "13\t검증 세트 손실: 1.928521\t최선의 손실: 1.302900\t정확도: 76.78%\n", + "14\t검증 세트 손실: 1.752031\t최선의 손실: 1.302900\t정확도: 87.69%\n", + "15\t검증 세트 손실: 1.438436\t최선의 손실: 1.302900\t정확도: 76.35%\n", + "16\t검증 세트 손실: 1.204585\t최선의 손실: 1.204585\t정확도: 88.62%\n", + "17\t검증 세트 손실: 0.805115\t최선의 손실: 0.805115\t정확도: 88.27%\n", + "18\t검증 세트 손실: 0.642087\t최선의 손실: 0.642087\t정확도: 90.15%\n", + "19\t검증 세트 손실: 1.171946\t최선의 손실: 0.642087\t정확도: 89.68%\n", + "20\t검증 세트 손실: 1.770009\t최선의 손실: 0.642087\t정확도: 77.33%\n", + "21\t검증 세트 손실: 1.661712\t최선의 손실: 0.642087\t정확도: 86.67%\n", + "22\t검증 세트 손실: 0.556141\t최선의 손실: 0.556141\t정확도: 89.41%\n", + "23\t검증 세트 손실: 1.265950\t최선의 손실: 0.556141\t정확도: 76.43%\n", + "24\t검증 세트 손실: 1.422787\t최선의 손실: 0.556141\t정확도: 75.37%\n", + "25\t검증 세트 손실: 0.664202\t최선의 손실: 0.556141\t정확도: 89.41%\n", + "26\t검증 세트 손실: 0.464438\t최선의 손실: 0.464438\t정확도: 91.87%\n", + "27\t검증 세트 손실: 4.146513\t최선의 손실: 0.464438\t정확도: 56.37%\n", + "28\t검증 세트 손실: 1.079256\t최선의 손실: 0.464438\t정확도: 91.59%\n", + "29\t검증 세트 손실: 0.870100\t최선의 손실: 0.464438\t정확도: 86.40%\n", + "30\t검증 세트 손실: 0.453329\t최선의 손실: 0.453329\t정확도: 91.67%\n", + "31\t검증 세트 손실: 0.495391\t최선의 손실: 0.453329\t정확도: 90.27%\n", + "32\t검증 세트 손실: 0.505107\t최선의 손실: 0.453329\t정확도: 88.62%\n", + "33\t검증 세트 손실: 0.382946\t최선의 손실: 0.382946\t정확도: 92.42%\n", + "34\t검증 세트 손실: 0.432533\t최선의 손실: 0.382946\t정확도: 92.61%\n", + "35\t검증 세트 손실: 0.822859\t최선의 손실: 0.382946\t정확도: 89.13%\n", + "36\t검증 세트 손실: 0.409981\t최선의 손실: 0.382946\t정확도: 94.10%\n", + "37\t검증 세트 손실: 0.412686\t최선의 손실: 0.382946\t정확도: 92.10%\n", + "38\t검증 세트 손실: 0.360293\t최선의 손실: 0.360293\t정확도: 93.16%\n", + "39\t검증 세트 손실: 0.347596\t최선의 손실: 0.347596\t정확도: 92.77%\n", + "40\t검증 세트 손실: 0.438490\t최선의 손실: 0.347596\t정확도: 92.46%\n", + "41\t검증 세트 손실: 0.394311\t최선의 손실: 0.347596\t정확도: 92.57%\n", + "42\t검증 세트 손실: 0.475816\t최선의 손실: 0.347596\t정확도: 92.42%\n", + "43\t검증 세트 손실: 1.759736\t최선의 손실: 0.347596\t정확도: 92.30%\n", + "44\t검증 세트 손실: 0.631155\t최선의 손실: 0.347596\t정확도: 92.81%\n", + "45\t검증 세트 손실: 0.495003\t최선의 손실: 0.347596\t정확도: 91.48%\n", + "46\t검증 세트 손실: 0.543182\t최선의 손실: 0.347596\t정확도: 92.06%\n", + "47\t검증 세트 손실: 0.318152\t최선의 손실: 0.318152\t정확도: 94.68%\n", + "48\t검증 세트 손실: 0.323500\t최선의 손실: 0.318152\t정확도: 94.10%\n", + "49\t검증 세트 손실: 0.262142\t최선의 손실: 0.262142\t정확도: 94.41%\n", + "50\t검증 세트 손실: 0.382460\t최선의 손실: 0.262142\t정확도: 93.08%\n", + "51\t검증 세트 손실: 0.464538\t최선의 손실: 0.262142\t정확도: 93.86%\n", + "52\t검증 세트 손실: 0.477551\t최선의 손실: 0.262142\t정확도: 94.76%\n", + "53\t검증 세트 손실: 0.405345\t최선의 손실: 0.262142\t정확도: 94.61%\n", + "54\t검증 세트 손실: 0.262426\t최선의 손실: 0.262142\t정확도: 95.04%\n", + "55\t검증 세트 손실: 0.373734\t최선의 손실: 0.262142\t정확도: 92.89%\n", + "56\t검증 세트 손실: 0.335349\t최선의 손실: 0.262142\t정확도: 95.58%\n", + "57\t검증 세트 손실: 0.339004\t최선의 손실: 0.262142\t정확도: 94.29%\n", + "58\t검증 세트 손실: 0.256731\t최선의 손실: 0.256731\t정확도: 95.43%\n", + "59\t검증 세트 손실: 0.236938\t최선의 손실: 0.236938\t정확도: 95.35%\n", + "60\t검증 세트 손실: 0.337482\t최선의 손실: 0.236938\t정확도: 95.62%\n", + "61\t검증 세트 손실: 0.354575\t최선의 손실: 0.236938\t정확도: 93.82%\n", + "62\t검증 세트 손실: 0.247894\t최선의 손실: 0.236938\t정확도: 95.35%\n", + "63\t검증 세트 손실: 0.251699\t최선의 손실: 0.236938\t정확도: 95.15%\n", + "64\t검증 세트 손실: 0.201464\t최선의 손실: 0.201464\t정확도: 95.19%\n", + "65\t검증 세트 손실: 0.347101\t최선의 손실: 0.201464\t정확도: 93.82%\n", + "66\t검증 세트 손실: 0.318585\t최선의 손실: 0.201464\t정확도: 94.88%\n", + "67\t검증 세트 손실: 45531844.000000\t최선의 손실: 0.201464\t정확도: 30.10%\n", + "68\t검증 세트 손실: 3427083.500000\t최선의 손실: 0.201464\t정확도: 45.74%\n", + "69\t검증 세트 손실: 293703.906250\t최선의 손실: 0.201464\t정확도: 77.29%\n", + "70\t검증 세트 손실: 78874.507812\t최선의 손실: 0.201464\t정확도: 87.37%\n", + "71\t검증 세트 손실: 66089.640625\t최선의 손실: 0.201464\t정확도: 83.82%\n", + "72\t검증 세트 손실: 133784.281250\t최선의 손실: 0.201464\t정확도: 76.08%\n", + "73\t검증 세트 손실: 41857.402344\t최선의 손실: 0.201464\t정확도: 89.72%\n", + "74\t검증 세트 손실: 136180.109375\t최선의 손실: 0.201464\t정확도: 75.06%\n", + "75\t검증 세트 손실: 84919.828125\t최선의 손실: 0.201464\t정확도: 75.61%\n", + "76\t검증 세트 손실: 25995.039062\t최선의 손실: 0.201464\t정확도: 90.34%\n", + "77\t검증 세트 손실: 22852.328125\t최선의 손실: 0.201464\t정확도: 92.06%\n", + "78\t검증 세트 손실: 100016.078125\t최선의 손실: 0.201464\t정확도: 73.10%\n", + "79\t검증 세트 손실: 51838.531250\t최선의 손실: 0.201464\t정확도: 76.47%\n", + "80\t검증 세트 손실: 53437.867188\t최선의 손실: 0.201464\t정확도: 78.77%\n", + "81\t검증 세트 손실: 35774.070312\t최선의 손실: 0.201464\t정확도: 81.47%\n", + "82\t검증 세트 손실: 16072.541016\t최선의 손실: 0.201464\t정확도: 93.90%\n", + "83\t검증 세트 손실: 25554.617188\t최선의 손실: 0.201464\t정확도: 88.51%\n", + "84\t검증 세트 손실: 57954.726562\t최선의 손실: 0.201464\t정확도: 76.90%\n", + "85\t검증 세트 손실: 22930.148438\t최선의 손실: 0.201464\t정확도: 91.99%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 8.0s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.278217\t최선의 손실: 0.278217\t정확도: 93.90%\n", - "1\t검증 세트 손실: 0.186034\t최선의 손실: 0.186034\t정확도: 95.35%\n", - "2\t검증 세트 손실: 0.190940\t최선의 손실: 0.186034\t정확도: 94.92%\n", - "3\t검증 세트 손실: 0.172201\t최선의 손실: 0.172201\t정확도: 95.35%\n", - "4\t검증 세트 손실: 0.277698\t최선의 손실: 0.172201\t정확도: 90.81%\n", - "5\t검증 세트 손실: 0.521482\t최선의 손실: 0.172201\t정확도: 83.39%\n", - "6\t검증 세트 손실: 0.403302\t최선의 손실: 0.172201\t정확도: 82.80%\n", - "7\t검증 세트 손실: 0.375264\t최선의 손실: 0.172201\t정확도: 88.00%\n", - "8\t검증 세트 손실: 0.436595\t최선의 손실: 0.172201\t정확도: 83.82%\n", - "9\t검증 세트 손실: 0.458604\t최선의 손실: 0.172201\t정확도: 88.31%\n", - "10\t검증 세트 손실: 0.477994\t최선의 손실: 0.172201\t정확도: 83.15%\n", - "11\t검증 세트 손실: 0.605498\t최선의 손실: 0.172201\t정확도: 75.53%\n", - "12\t검증 세트 손실: 0.433191\t최선의 손실: 0.172201\t정확도: 81.63%\n", - "13\t검증 세트 손실: 0.462298\t최선의 손실: 0.172201\t정확도: 86.55%\n", - "14\t검증 세트 손실: 0.363577\t최선의 손실: 0.172201\t정확도: 85.03%\n", - "15\t검증 세트 손실: 0.478370\t최선의 손실: 0.172201\t정확도: 85.14%\n", - "16\t검증 세트 손실: 0.815238\t최선의 손실: 0.172201\t정확도: 58.56%\n", - "17\t검증 세트 손실: 1.077014\t최선의 손실: 0.172201\t정확도: 54.30%\n", - "18\t검증 세트 손실: 0.819509\t최선의 손실: 0.172201\t정확도: 67.12%\n", - "19\t검증 세트 손실: 0.715490\t최선의 손실: 0.172201\t정확도: 73.30%\n", - "20\t검증 세트 손실: 0.560053\t최선의 손실: 0.172201\t정확도: 82.68%\n", - "21\t검증 세트 손실: 0.565566\t최선의 손실: 0.172201\t정확도: 83.70%\n", - "22\t검증 세트 손실: 2.730642\t최선의 손실: 0.172201\t정확도: 34.32%\n", - "23\t검증 세트 손실: 2.050656\t최선의 손실: 0.172201\t정확도: 34.52%\n", - "24\t검증 세트 손실: 2.403146\t최선의 손실: 0.172201\t정확도: 43.78%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 8.1s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 0.289664\t최선의 손실: 0.289664\t정확도: 91.91%\n", - "1\t검증 세트 손실: 0.200245\t최선의 손실: 0.200245\t정확도: 94.21%\n", - "2\t검증 세트 손실: 0.209176\t최선의 손실: 0.200245\t정확도: 94.41%\n", - "3\t검증 세트 손실: 0.170197\t최선의 손실: 0.170197\t정확도: 95.00%\n", - "4\t검증 세트 손실: 0.230342\t최선의 손실: 0.170197\t정확도: 91.83%\n", - "5\t검증 세트 손실: 0.316439\t최선의 손실: 0.170197\t정확도: 92.03%\n", - "6\t검증 세트 손실: 0.819766\t최선의 손실: 0.170197\t정확도: 76.47%\n", - "7\t검증 세트 손실: 1.252232\t최선의 손실: 0.170197\t정확도: 53.83%\n", - "8\t검증 세트 손실: 0.897620\t최선의 손실: 0.170197\t정확도: 61.49%\n", - "9\t검증 세트 손실: 0.807157\t최선의 손실: 0.170197\t정확도: 66.97%\n", - "10\t검증 세트 손실: 0.990413\t최선의 손실: 0.170197\t정확도: 52.46%\n", - "11\t검증 세트 손실: 0.802099\t최선의 손실: 0.170197\t정확도: 65.32%\n", - "12\t검증 세트 손실: 0.839288\t최선의 손실: 0.170197\t정확도: 65.87%\n", - "13\t검증 세트 손실: 1.038098\t최선의 손실: 0.170197\t정확도: 60.56%\n", - "14\t검증 세트 손실: 1.021767\t최선의 손실: 0.170197\t정확도: 61.92%\n", - "15\t검증 세트 손실: 1.275287\t최선의 손실: 0.170197\t정확도: 51.52%\n", - "16\t검증 세트 손실: 1.046298\t최선의 손실: 0.170197\t정확도: 60.67%\n", - "17\t검증 세트 손실: 0.857438\t최선의 손실: 0.170197\t정확도: 68.06%\n", - "18\t검증 세트 손실: 1.001685\t최선의 손실: 0.170197\t정확도: 52.31%\n", - "19\t검증 세트 손실: 0.833021\t최선의 손실: 0.170197\t정확도: 65.95%\n", - "20\t검증 세트 손실: 1.060698\t최선의 손실: 0.170197\t정확도: 48.16%\n", - "21\t검증 세트 손실: 1.100361\t최선의 손실: 0.170197\t정확도: 50.86%\n", - "22\t검증 세트 손실: 0.852675\t최선의 손실: 0.170197\t정확도: 56.45%\n", - "23\t검증 세트 손실: 0.866461\t최선의 손실: 0.170197\t정확도: 66.22%\n", - "24\t검증 세트 손실: 0.992497\t최선의 손실: 0.170197\t정확도: 51.92%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 8.0s\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 697759.312500\t최선의 손실: 697759.312500\t정확도: 22.67%\n", - "1\t검증 세트 손실: 169087.343750\t최선의 손실: 169087.343750\t정확도: 19.19%\n", - "2\t검증 세트 손실: 514256.156250\t최선의 손실: 169087.343750\t정확도: 29.83%\n", - "3\t검증 세트 손실: 568136.187500\t최선의 손실: 169087.343750\t정확도: 22.05%\n", - "4\t검증 세트 손실: 69350.031250\t최선의 손실: 69350.031250\t정확도: 32.10%\n", - "5\t검증 세트 손실: 134507.578125\t최선의 손실: 69350.031250\t정확도: 19.35%\n", - "6\t검증 세트 손실: 58350.792969\t최선의 손실: 58350.792969\t정확도: 22.01%\n", - "7\t검증 세트 손실: 96848.078125\t최선의 손실: 58350.792969\t정확도: 18.73%\n", - "8\t검증 세트 손실: 5045.530273\t최선의 손실: 5045.530273\t정확도: 27.83%\n", - "9\t검증 세트 손실: 8396227.000000\t최선의 손실: 5045.530273\t정확도: 20.60%\n", - "10\t검증 세트 손실: 547179.375000\t최선의 손실: 5045.530273\t정확도: 23.38%\n", - "11\t검증 세트 손실: 1672830.000000\t최선의 손실: 5045.530273\t정확도: 19.00%\n", - "12\t검증 세트 손실: 520725.062500\t최선의 손실: 5045.530273\t정확도: 22.79%\n", - "13\t검증 세트 손실: 1002350.375000\t최선의 손실: 5045.530273\t정확도: 28.34%\n", - "14\t검증 세트 손실: 682120.625000\t최선의 손실: 5045.530273\t정확도: 22.05%\n", - "15\t검증 세트 손실: 1059118.375000\t최선의 손실: 5045.530273\t정확도: 41.44%\n", - "16\t검증 세트 손실: 208635.921875\t최선의 손실: 5045.530273\t정확도: 23.96%\n", - "17\t검증 세트 손실: 104550.398438\t최선의 손실: 5045.530273\t정확도: 18.76%\n", - "18\t검증 세트 손실: 98937.226562\t최선의 손실: 5045.530273\t정확도: 15.83%\n", - "19\t검증 세트 손실: 30816.490234\t최선의 손실: 5045.530273\t정확도: 22.05%\n", - "20\t검증 세트 손실: 22796148.000000\t최선의 손실: 5045.530273\t정확도: 18.73%\n", - "21\t검증 세트 손실: 701226.937500\t최선의 손실: 5045.530273\t정확도: 24.67%\n", - "22\t검증 세트 손실: 846334.625000\t최선의 손실: 5045.530273\t정확도: 22.13%\n", - "23\t검증 세트 손실: 1382966.500000\t최선의 손실: 5045.530273\t정확도: 24.55%\n", - "24\t검증 세트 손실: 964862.687500\t최선의 손실: 5045.530273\t정확도: 23.18%\n", - "25\t검증 세트 손실: 891962.125000\t최선의 손실: 5045.530273\t정확도: 19.23%\n", - "26\t검증 세트 손실: 647809.250000\t최선의 손실: 5045.530273\t정확도: 19.90%\n", - "27\t검증 세트 손실: 347656.968750\t최선의 손실: 5045.530273\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1602671.125000\t최선의 손실: 5045.530273\t정확도: 19.08%\n", - "29\t검증 세트 손실: 440695.281250\t최선의 손실: 5045.530273\t정확도: 20.37%\n", - "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 1.3min\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n" + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.7s\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 1440.619873\t최선의 손실: 1440.619873\t정확도: 41.59%\n", + "1\t검증 세트 손실: 41.474064\t최선의 손실: 41.474064\t정확도: 68.14%\n", + "2\t검증 세트 손실: 43.371559\t최선의 손실: 41.474064\t정확도: 72.17%\n", + "3\t검증 세트 손실: 21.233921\t최선의 손실: 21.233921\t정확도: 72.28%\n", + "4\t검증 세트 손실: 9.111915\t최선의 손실: 9.111915\t정확도: 75.76%\n", + "5\t검증 세트 손실: 10.849780\t최선의 손실: 9.111915\t정확도: 75.92%\n", + "6\t검증 세트 손실: 25.337666\t최선의 손실: 9.111915\t정확도: 62.55%\n", + "7\t검증 세트 손실: 11.140130\t최선의 손실: 9.111915\t정확도: 73.61%\n", + "8\t검증 세트 손실: 9.497110\t최선의 손실: 9.111915\t정확도: 75.65%\n", + "9\t검증 세트 손실: 3.850565\t최선의 손실: 3.850565\t정확도: 81.55%\n", + "10\t검증 세트 손실: 2.964120\t최선의 손실: 2.964120\t정확도: 80.41%\n", + "11\t검증 세트 손실: 2.456941\t최선의 손실: 2.456941\t정확도: 90.54%\n", + "12\t검증 세트 손실: 4.514935\t최선의 손실: 2.456941\t정확도: 79.95%\n", + "13\t검증 세트 손실: 5.136635\t최선의 손실: 2.456941\t정확도: 75.33%\n", + "14\t검증 세트 손실: 2.042403\t최선의 손실: 2.042403\t정확도: 86.24%\n", + "15\t검증 세트 손실: 3.130549\t최선의 손실: 2.042403\t정확도: 78.89%\n", + "16\t검증 세트 손실: 3.665968\t최선의 손실: 2.042403\t정확도: 78.11%\n", + "17\t검증 세트 손실: 2.579252\t최선의 손실: 2.042403\t정확도: 86.47%\n", + "18\t검증 세트 손실: 2.984504\t최선의 손실: 2.042403\t정확도: 90.73%\n", + "19\t검증 세트 손실: 2.787921\t최선의 손실: 2.042403\t정확도: 83.11%\n", + "20\t검증 세트 손실: 2.697858\t최선의 손실: 2.042403\t정확도: 78.26%\n", + "21\t검증 세트 손실: 1.160836\t최선의 손실: 1.160836\t정확도: 91.56%\n", + "22\t검증 세트 손실: 0.814963\t최선의 손실: 0.814963\t정확도: 93.00%\n", + "23\t검증 세트 손실: 0.894361\t최선의 손실: 0.814963\t정확도: 92.89%\n", + "24\t검증 세트 손실: 1.019212\t최선의 손실: 0.814963\t정확도: 89.56%\n", + "25\t검증 세트 손실: 1.214315\t최선의 손실: 0.814963\t정확도: 91.71%\n", + "26\t검증 세트 손실: 1.043684\t최선의 손실: 0.814963\t정확도: 91.99%\n", + "27\t검증 세트 손실: 1.639711\t최선의 손실: 0.814963\t정확도: 84.21%\n", + "28\t검증 세트 손실: 1.819773\t최선의 손실: 0.814963\t정확도: 84.44%\n", + "29\t검증 세트 손실: 1.119320\t최선의 손실: 0.814963\t정확도: 93.51%\n", + "30\t검증 세트 손실: 4.305177\t최선의 손실: 0.814963\t정확도: 76.94%\n", + "31\t검증 세트 손실: 0.608110\t최선의 손실: 0.608110\t정확도: 93.94%\n", + "32\t검증 세트 손실: 0.601999\t최선의 손실: 0.601999\t정확도: 94.49%\n", + "33\t검증 세트 손실: 5.681938\t최선의 손실: 0.601999\t정확도: 77.60%\n", + "34\t검증 세트 손실: 1.201758\t최선의 손실: 0.601999\t정확도: 90.07%\n", + "35\t검증 세트 손실: 1.604891\t최선의 손실: 0.601999\t정확도: 87.18%\n", + "36\t검증 세트 손실: 2.068190\t최선의 손실: 0.601999\t정확도: 88.19%\n", + "37\t검증 세트 손실: 1.419556\t최선의 손실: 0.601999\t정확도: 82.84%\n", + "38\t검증 세트 손실: 0.531252\t최선의 손실: 0.531252\t정확도: 94.68%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 1052.432373\t최선의 손실: 1052.432373\t정확도: 20.91%\n", - "1\t검증 세트 손실: 3211.270020\t최선의 손실: 1052.432373\t정확도: 20.91%\n", - "2\t검증 세트 손실: 5823986.000000\t최선의 손실: 1052.432373\t정확도: 19.08%\n", - "3\t검증 세트 손실: 790791.375000\t최선의 손실: 1052.432373\t정확도: 22.05%\n", - "4\t검증 세트 손실: 2834193.500000\t최선의 손실: 1052.432373\t정확도: 19.08%\n", - "5\t검증 세트 손실: 339417.250000\t최선의 손실: 1052.432373\t정확도: 18.88%\n", - "6\t검증 세트 손실: 653892.687500\t최선의 손실: 1052.432373\t정확도: 22.75%\n", - "7\t검증 세트 손실: 584327.750000\t최선의 손실: 1052.432373\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1043625.812500\t최선의 손실: 1052.432373\t정확도: 22.36%\n", - "9\t검증 세트 손실: 160854.687500\t최선의 손실: 1052.432373\t정확도: 22.05%\n", - "10\t검증 세트 손실: 224524.609375\t최선의 손실: 1052.432373\t정확도: 18.73%\n", - "11\t검증 세트 손실: 73235.843750\t최선의 손실: 1052.432373\t정확도: 22.63%\n", - "12\t검증 세트 손실: 333129.343750\t최선의 손실: 1052.432373\t정확도: 20.91%\n", - "13\t검증 세트 손실: 101869.757812\t최선의 손실: 1052.432373\t정확도: 19.08%\n", - "14\t검증 세트 손실: 82989.398438\t최선의 손실: 1052.432373\t정확도: 19.27%\n", - "15\t검증 세트 손실: 236702.343750\t최선의 손실: 1052.432373\t정확도: 18.76%\n", - "16\t검증 세트 손실: 114462.046875\t최선의 손실: 1052.432373\t정확도: 19.23%\n", - "17\t검증 세트 손실: 268354720.000000\t최선의 손실: 1052.432373\t정확도: 18.76%\n", - "18\t검증 세트 손실: 2366265.500000\t최선의 손실: 1052.432373\t정확도: 20.68%\n", - "19\t검증 세트 손실: 1016111.062500\t최선의 손실: 1052.432373\t정확도: 18.73%\n", - "20\t검증 세트 손실: 1897024.875000\t최선의 손실: 1052.432373\t정확도: 18.73%\n", - "21\t검증 세트 손실: 970793.812500\t최선의 손실: 1052.432373\t정확도: 22.01%\n", + "39\t검증 세트 손실: 0.651259\t최선의 손실: 0.531252\t정확도: 94.64%\n", + "40\t검증 세트 손실: 0.596102\t최선의 손실: 0.531252\t정확도: 91.71%\n", + "41\t검증 세트 손실: 1.475881\t최선의 손실: 0.531252\t정확도: 88.86%\n", + "42\t검증 세트 손실: 0.713828\t최선의 손실: 0.531252\t정확도: 95.50%\n", + "43\t검증 세트 손실: 0.893244\t최선의 손실: 0.531252\t정확도: 91.44%\n", + "44\t검증 세트 손실: 0.694972\t최선의 손실: 0.531252\t정확도: 92.57%\n", + "45\t검증 세트 손실: 0.752168\t최선의 손실: 0.531252\t정확도: 95.07%\n", + "46\t검증 세트 손실: 0.665196\t최선의 손실: 0.531252\t정확도: 93.90%\n", + "47\t검증 세트 손실: 0.499453\t최선의 손실: 0.499453\t정확도: 95.11%\n", + "48\t검증 세트 손실: 0.673921\t최선의 손실: 0.499453\t정확도: 91.99%\n", + "49\t검증 세트 손실: 0.573034\t최선의 손실: 0.499453\t정확도: 95.47%\n", + "50\t검증 세트 손실: 0.391758\t최선의 손실: 0.391758\t정확도: 95.54%\n", + "51\t검증 세트 손실: 0.830336\t최선의 손실: 0.391758\t정확도: 91.20%\n", + "52\t검증 세트 손실: 0.798220\t최선의 손실: 0.391758\t정확도: 89.95%\n", + "53\t검증 세트 손실: 1.098674\t최선의 손실: 0.391758\t정확도: 94.21%\n", + "54\t검증 세트 손실: 0.565870\t최선의 손실: 0.391758\t정확도: 95.31%\n", + "55\t검증 세트 손실: 0.387532\t최선의 손실: 0.387532\t정확도: 94.88%\n", + "56\t검증 세트 손실: 0.345474\t최선의 손실: 0.345474\t정확도: 95.39%\n", + "57\t검증 세트 손실: 0.649185\t최선의 손실: 0.345474\t정확도: 92.46%\n", + "58\t검증 세트 손실: 0.323214\t최선의 손실: 0.323214\t정확도: 94.53%\n", + "59\t검증 세트 손실: 0.782842\t최선의 손실: 0.323214\t정확도: 85.03%\n", + "60\t검증 세트 손실: 0.294791\t최선의 손실: 0.294791\t정확도: 95.00%\n", + "61\t검증 세트 손실: 0.627872\t최선의 손실: 0.294791\t정확도: 94.53%\n", + "62\t검증 세트 손실: 0.569999\t최선의 손실: 0.294791\t정확도: 93.71%\n", + "63\t검증 세트 손실: 0.447838\t최선의 손실: 0.294791\t정확도: 95.39%\n", + "64\t검증 세트 손실: 0.623288\t최선의 손실: 0.294791\t정확도: 93.90%\n", + "65\t검증 세트 손실: 2.091578\t최선의 손실: 0.294791\t정확도: 94.41%\n", + "66\t검증 세트 손실: 0.764476\t최선의 손실: 0.294791\t정확도: 95.04%\n", + "67\t검증 세트 손실: 0.653746\t최선의 손실: 0.294791\t정확도: 93.67%\n", + "68\t검증 세트 손실: 0.739260\t최선의 손실: 0.294791\t정확도: 92.73%\n", + "69\t검증 세트 손실: 0.534903\t최선의 손실: 0.294791\t정확도: 92.89%\n", + "70\t검증 세트 손실: 0.279729\t최선의 손실: 0.279729\t정확도: 95.66%\n", + "71\t검증 세트 손실: 0.440655\t최선의 손실: 0.279729\t정확도: 92.53%\n", + "72\t검증 세트 손실: 0.322129\t최선의 손실: 0.279729\t정확도: 95.47%\n", + "73\t검증 세트 손실: 0.317343\t최선의 손실: 0.279729\t정확도: 94.37%\n", + "74\t검증 세트 손실: 0.283883\t최선의 손실: 0.279729\t정확도: 95.90%\n", + "75\t검증 세트 손실: 0.328606\t최선의 손실: 0.279729\t정확도: 95.27%\n", + "76\t검증 세트 손실: 0.667110\t최선의 손실: 0.279729\t정확도: 94.25%\n", + "77\t검증 세트 손실: 0.371683\t최선의 손실: 0.279729\t정확도: 94.10%\n", + "78\t검증 세트 손실: 0.294912\t최선의 손실: 0.279729\t정확도: 95.19%\n", + "79\t검증 세트 손실: 0.257397\t최선의 손실: 0.257397\t정확도: 96.13%\n", + "80\t검증 세트 손실: 0.534215\t최선의 손실: 0.257397\t정확도: 92.89%\n", + "81\t검증 세트 손실: 0.301980\t최선의 손실: 0.257397\t정확도: 95.58%\n", + "82\t검증 세트 손실: 0.242413\t최선의 손실: 0.242413\t정확도: 95.15%\n", + "83\t검증 세트 손실: 0.219960\t최선의 손실: 0.219960\t정확도: 95.78%\n", + "84\t검증 세트 손실: 1.251285\t최선의 손실: 0.219960\t정확도: 88.39%\n", + "85\t검증 세트 손실: 0.381224\t최선의 손실: 0.219960\t정확도: 96.13%\n", + "86\t검증 세트 손실: 0.273959\t최선의 손실: 0.219960\t정확도: 95.23%\n", + "87\t검증 세트 손실: 0.477937\t최선의 손실: 0.219960\t정확도: 93.82%\n", + "88\t검증 세트 손실: 0.217951\t최선의 손실: 0.217951\t정확도: 95.82%\n", + "89\t검증 세트 손실: 0.190251\t최선의 손실: 0.190251\t정확도: 95.90%\n", + "90\t검증 세트 손실: 0.262166\t최선의 손실: 0.190251\t정확도: 95.19%\n", + "91\t검증 세트 손실: 0.211081\t최선의 손실: 0.190251\t정확도: 96.52%\n", + "92\t검증 세트 손실: 0.209909\t최선의 손실: 0.190251\t정확도: 95.82%\n", + "93\t검증 세트 손실: 0.326761\t최선의 손실: 0.190251\t정확도: 96.72%\n", + "94\t검증 세트 손실: 0.596095\t최선의 손실: 0.190251\t정확도: 95.70%\n", + "95\t검증 세트 손실: 0.350375\t최선의 손실: 0.190251\t정확도: 95.62%\n", + "96\t검증 세트 손실: 0.369629\t최선의 손실: 0.190251\t정확도: 94.14%\n", + "97\t검증 세트 손실: 0.384030\t최선의 손실: 0.190251\t정확도: 93.94%\n", + "98\t검증 세트 손실: 0.319906\t최선의 손실: 0.190251\t정확도: 94.72%\n", + "99\t검증 세트 손실: 0.242542\t최선의 손실: 0.190251\t정확도: 96.09%\n", + "100\t검증 세트 손실: 0.215854\t최선의 손실: 0.190251\t정확도: 95.23%\n", + "101\t검증 세트 손실: 0.254408\t최선의 손실: 0.190251\t정확도: 95.66%\n", + "102\t검증 세트 손실: 0.255833\t최선의 손실: 0.190251\t정확도: 95.39%\n", + "103\t검증 세트 손실: 0.214581\t최선의 손실: 0.190251\t정확도: 95.90%\n", + "104\t검증 세트 손실: 0.205946\t최선의 손실: 0.190251\t정확도: 96.25%\n", + "105\t검증 세트 손실: 0.586307\t최선의 손실: 0.190251\t정확도: 95.93%\n", + "106\t검증 세트 손실: 0.583841\t최선의 손실: 0.190251\t정확도: 94.53%\n", + "107\t검증 세트 손실: 0.328407\t최선의 손실: 0.190251\t정확도: 95.82%\n", + "108\t검증 세트 손실: 0.231696\t최선의 손실: 0.190251\t정확도: 96.44%\n", + "109\t검증 세트 손실: 0.206382\t최선의 손실: 0.190251\t정확도: 95.97%\n", + "110\t검증 세트 손실: 0.414146\t최선의 손실: 0.190251\t정확도: 90.42%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 59.0s\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100 \n", - "0\t검증 세트 손실: 1660532.500000\t최선의 손실: 1660532.500000\t정확도: 21.23%\n", - "1\t검증 세트 손실: 148759.953125\t최선의 손실: 148759.953125\t정확도: 44.18%\n", - "2\t검증 세트 손실: 108313.796875\t최선의 손실: 108313.796875\t정확도: 36.32%\n", - "3\t검증 세트 손실: 82903.367188\t최선의 손실: 82903.367188\t정확도: 26.78%\n", - "4\t검증 세트 손실: 19195.408203\t최선의 손실: 19195.408203\t정확도: 28.97%\n", - "5\t검증 세트 손실: 135281.859375\t최선의 손실: 19195.408203\t정확도: 19.43%\n", - "6\t검증 세트 손실: 44092.859375\t최선의 손실: 19195.408203\t정확도: 19.00%\n", - "7\t검증 세트 손실: 55457.671875\t최선의 손실: 19195.408203\t정확도: 19.78%\n", - "8\t검증 세트 손실: 4389.279297\t최선의 손실: 4389.279297\t정확도: 33.58%\n", - "9\t검증 세트 손실: 39505.894531\t최선의 손실: 4389.279297\t정확도: 18.73%\n", - "10\t검증 세트 손실: 5588557.500000\t최선의 손실: 4389.279297\t정확도: 18.73%\n", - "11\t검증 세트 손실: 442717.125000\t최선의 손실: 4389.279297\t정확도: 20.02%\n", - "12\t검증 세트 손실: 950357.437500\t최선의 손실: 4389.279297\t정확도: 18.88%\n", - "13\t검증 세트 손실: 555490.500000\t최선의 손실: 4389.279297\t정확도: 35.93%\n", - "14\t검증 세트 손실: 437504.187500\t최선의 손실: 4389.279297\t정확도: 39.99%\n", - "15\t검증 세트 손실: 11955893.000000\t최선의 손실: 4389.279297\t정확도: 19.27%\n", - "16\t검증 세트 손실: 4195867.000000\t최선의 손실: 4389.279297\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1197060352.000000\t최선의 손실: 4389.279297\t정확도: 20.91%\n", - "18\t검증 세트 손실: 1149824.000000\t최선의 손실: 4389.279297\t정확도: 18.73%\n", - "19\t검증 세트 손실: 804453.625000\t최선의 손실: 4389.279297\t정확도: 18.76%\n", - "20\t검증 세트 손실: 1330099.000000\t최선의 손실: 4389.279297\t정확도: 20.95%\n", - "21\t검증 세트 손실: 725774.750000\t최선의 손실: 4389.279297\t정확도: 22.05%\n", - "22\t검증 세트 손실: 929944256.000000\t최선의 손실: 4389.279297\t정확도: 22.05%\n", - "23\t검증 세트 손실: 33682300.000000\t최선의 손실: 4389.279297\t정확도: 20.91%\n", - "24\t검증 세트 손실: 626012096.000000\t최선의 손실: 4389.279297\t정확도: 24.47%\n", - "25\t검증 세트 손실: 708340288.000000\t최선의 손실: 4389.279297\t정확도: 18.10%\n", - "26\t검증 세트 손실: 700476032.000000\t최선의 손실: 4389.279297\t정확도: 19.35%\n", - "27\t검증 세트 손실: 91523848.000000\t최선의 손실: 4389.279297\t정확도: 28.97%\n", - "28\t검증 세트 손실: 290203.218750\t최선의 손실: 4389.279297\t정확도: 26.51%\n", - "29\t검증 세트 손실: 459605920.000000\t최선의 손실: 4389.279297\t정확도: 20.91%\n", + "[CV] n_neurons=160, learning_rate=0.1, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 9.5s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.180327\t최선의 손실: 0.180327\t정확도: 94.53%\n", + "1\t검증 세트 손실: 0.171733\t최선의 손실: 0.171733\t정확도: 95.19%\n", + "2\t검증 세트 손실: 0.201482\t최선의 손실: 0.171733\t정확도: 94.06%\n", + "3\t검증 세트 손실: 0.247973\t최선의 손실: 0.171733\t정확도: 93.67%\n", + "4\t검증 세트 손실: 0.574289\t최선의 손실: 0.171733\t정확도: 82.99%\n", + "5\t검증 세트 손실: 0.362762\t최선의 손실: 0.171733\t정확도: 86.51%\n", + "6\t검증 세트 손실: 0.334849\t최선의 손실: 0.171733\t정확도: 85.85%\n", + "7\t검증 세트 손실: 0.456649\t최선의 손실: 0.171733\t정확도: 80.49%\n", + "8\t검증 세트 손실: 0.504190\t최선의 손실: 0.171733\t정확도: 81.04%\n", + "9\t검증 세트 손실: 0.562480\t최선의 손실: 0.171733\t정확도: 79.79%\n", + "10\t검증 세트 손실: 0.392402\t최선의 손실: 0.171733\t정확도: 82.80%\n", + "11\t검증 세트 손실: 0.315515\t최선의 손실: 0.171733\t정확도: 89.80%\n", + "12\t검증 세트 손실: 0.333805\t최선의 손실: 0.171733\t정확도: 88.47%\n", + "13\t검증 세트 손실: 0.289408\t최선의 손실: 0.171733\t정확도: 88.31%\n", + "14\t검증 세트 손실: 0.389617\t최선의 손실: 0.171733\t정확도: 87.22%\n", + "15\t검증 세트 손실: 0.456718\t최선의 손실: 0.171733\t정확도: 83.70%\n", + "16\t검증 세트 손실: 2.241842\t최선의 손실: 0.171733\t정확도: 36.55%\n", + "17\t검증 세트 손실: 1.180154\t최선의 손실: 0.171733\t정확도: 43.63%\n", + "18\t검증 세트 손실: 1.136169\t최선의 손실: 0.171733\t정확도: 47.26%\n", + "19\t검증 세트 손실: 1.015307\t최선의 손실: 0.171733\t정확도: 50.70%\n", + "20\t검증 세트 손실: 1.003365\t최선의 손실: 0.171733\t정확도: 56.76%\n", + "21\t검증 세트 손실: 0.706465\t최선의 손실: 0.171733\t정확도: 68.18%\n", + "22\t검증 세트 손실: 0.912895\t최선의 손실: 0.171733\t정확도: 60.24%\n", "조기 종료!\n", - "[CV] batch_size=10, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=100, total= 1.3min\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.442687\t최선의 손실: 1.442687\t정확도: 43.16%\n", - "1\t검증 세트 손실: 1.136909\t최선의 손실: 1.136909\t정확도: 45.00%\n", - "2\t검증 세트 손실: 0.938827\t최선의 손실: 0.938827\t정확도: 61.57%\n", - "3\t검증 세트 손실: 0.840693\t최선의 손실: 0.840693\t정확도: 63.76%\n", - "4\t검증 세트 손실: 0.787588\t최선의 손실: 0.787588\t정확도: 67.20%\n", - "5\t검증 세트 손실: 0.609222\t최선의 손실: 0.609222\t정확도: 74.43%\n", - "6\t검증 세트 손실: 0.468993\t최선의 손실: 0.468993\t정확도: 87.88%\n", - "7\t검증 세트 손실: 0.435015\t최선의 손실: 0.435015\t정확도: 90.07%\n", - "8\t검증 세트 손실: 0.364631\t최선의 손실: 0.364631\t정확도: 91.05%\n", - "9\t검증 세트 손실: 0.290403\t최선의 손실: 0.290403\t정확도: 92.65%\n", - "10\t검증 세트 손실: 0.260335\t최선의 손실: 0.260335\t정확도: 93.82%\n", - "11\t검증 세트 손실: 0.373263\t최선의 손실: 0.260335\t정확도: 85.89%\n", - "12\t검증 세트 손실: 0.268471\t최선의 손실: 0.260335\t정확도: 93.94%\n", - "13\t검증 세트 손실: 0.254349\t최선의 손실: 0.254349\t정확도: 93.82%\n", - "14\t검증 세트 손실: 0.371291\t최선의 손실: 0.254349\t정확도: 88.82%\n", - "15\t검증 세트 손실: 0.231508\t최선의 손실: 0.231508\t정확도: 94.80%\n", - "16\t검증 세트 손실: 0.244010\t최선의 손실: 0.231508\t정확도: 95.70%\n", - "17\t검증 세트 손실: 0.182807\t최선의 손실: 0.182807\t정확도: 96.21%\n", - "18\t검증 세트 손실: 0.178986\t최선의 손실: 0.178986\t정확도: 96.48%\n", - "19\t검증 세트 손실: 0.162436\t최선의 손실: 0.162436\t정확도: 96.01%\n", - "20\t검증 세트 손실: 0.178157\t최선의 손실: 0.162436\t정확도: 96.33%\n", - "21\t검증 세트 손실: 0.146825\t최선의 손실: 0.146825\t정확도: 96.72%\n", - "22\t검증 세트 손실: 0.235295\t최선의 손실: 0.146825\t정확도: 96.05%\n", - "23\t검증 세트 손실: 0.810296\t최선의 손실: 0.146825\t정확도: 89.95%\n", - "24\t검증 세트 손실: 1.644811\t최선의 손실: 0.146825\t정확도: 26.31%\n", - "25\t검증 세트 손실: 1.629160\t최선의 손실: 0.146825\t정확도: 20.91%\n", - "26\t검증 세트 손실: 1.631488\t최선의 손실: 0.146825\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.616873\t최선의 손실: 0.146825\t정확도: 22.01%\n", - "28\t검증 세트 손실: 1.609523\t최선의 손실: 0.146825\t정확도: 20.91%\n", - "29\t검증 세트 손실: 1.626242\t최선의 손실: 0.146825\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.721736\t최선의 손실: 0.146825\t정확도: 19.27%\n", - "31\t검증 세트 손실: 1.656534\t최선의 손실: 0.146825\t정확도: 22.01%\n", - "32\t검증 세트 손실: 2.311941\t최선의 손실: 0.146825\t정확도: 19.27%\n", - "33\t검증 세트 손실: 1.642627\t최선의 손실: 0.146825\t정확도: 19.08%\n", - "34\t검증 세트 손실: 1.666814\t최선의 손실: 0.146825\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.669406\t최선의 손실: 0.146825\t정확도: 19.27%\n", - "36\t검증 세트 손실: 1.638574\t최선의 손실: 0.146825\t정확도: 18.73%\n", - "37\t검증 세트 손실: 1.631664\t최선의 손실: 0.146825\t정확도: 19.27%\n", - "38\t검증 세트 손실: 1.662116\t최선의 손실: 0.146825\t정확도: 22.01%\n", - "39\t검증 세트 손실: 1.627693\t최선의 손실: 0.146825\t정확도: 19.27%\n", - "40\t검증 세트 손실: 1.658662\t최선의 손실: 0.146825\t정확도: 22.01%\n", - "41\t검증 세트 손실: 1.675744\t최선의 손실: 0.146825\t정확도: 18.73%\n", - "42\t검증 세트 손실: 1.660450\t최선의 손실: 0.146825\t정확도: 22.01%\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.4s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.173731\t최선의 손실: 0.173731\t정확도: 95.43%\n", + "1\t검증 세트 손실: 0.154160\t최선의 손실: 0.154160\t정확도: 95.62%\n", + "2\t검증 세트 손실: 0.227060\t최선의 손실: 0.154160\t정확도: 93.32%\n", + "3\t검증 세트 손실: 0.253292\t최선의 손실: 0.154160\t정확도: 90.70%\n", + "4\t검증 세트 손실: 0.692829\t최선의 손실: 0.154160\t정확도: 79.71%\n", + "5\t검증 세트 손실: 0.451889\t최선의 손실: 0.154160\t정확도: 86.86%\n", + "6\t검증 세트 손실: 0.397766\t최선의 손실: 0.154160\t정확도: 88.58%\n", + "7\t검증 세트 손실: 0.346302\t최선의 손실: 0.154160\t정확도: 85.89%\n", + "8\t검증 세트 손실: 0.374977\t최선의 손실: 0.154160\t정확도: 86.94%\n", + "9\t검증 세트 손실: 0.748861\t최선의 손실: 0.154160\t정확도: 63.76%\n", + "10\t검증 세트 손실: 0.803688\t최선의 손실: 0.154160\t정확도: 62.90%\n", + "11\t검증 세트 손실: 0.681222\t최선의 손실: 0.154160\t정확도: 77.99%\n", + "12\t검증 세트 손실: 0.671884\t최선의 손실: 0.154160\t정확도: 81.78%\n", + "13\t검증 세트 손실: 0.860136\t최선의 손실: 0.154160\t정확도: 66.18%\n", + "14\t검증 세트 손실: 0.806293\t최선의 손실: 0.154160\t정확도: 65.72%\n", + "15\t검증 세트 손실: 0.688224\t최선의 손실: 0.154160\t정확도: 73.22%\n", + "16\t검증 세트 손실: 0.739752\t최선의 손실: 0.154160\t정확도: 64.93%\n", + "17\t검증 세트 손실: 0.602708\t최선의 손실: 0.154160\t정확도: 81.82%\n", + "18\t검증 세트 손실: 0.471633\t최선의 손실: 0.154160\t정확도: 83.42%\n", + "19\t검증 세트 손실: 0.586004\t최선의 손실: 0.154160\t정확도: 80.45%\n", + "20\t검증 세트 손실: 0.407301\t최선의 손실: 0.154160\t정확도: 82.29%\n", + "21\t검증 세트 손실: 0.390586\t최선의 손실: 0.154160\t정확도: 85.65%\n", + "22\t검증 세트 손실: 0.352080\t최선의 손실: 0.154160\t정확도: 85.57%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 4.1s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.953720\t최선의 손실: 1.953720\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.617492\t최선의 손실: 1.617492\t정확도: 19.27%\n", - "2\t검증 세트 손실: 1.613540\t최선의 손실: 1.613540\t정확도: 22.01%\n", - "3\t검증 세트 손실: 1.623574\t최선의 손실: 1.613540\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.616062\t최선의 손실: 1.613540\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.612414\t최선의 손실: 1.612414\t정확도: 20.91%\n", - "6\t검증 세트 손실: 1.626306\t최선의 손실: 1.612414\t정확도: 19.08%\n", - "7\t검증 세트 손실: 1.610147\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "8\t검증 세트 손실: 1.616916\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.629183\t최선의 손실: 1.610147\t정확도: 20.91%\n", - "10\t검증 세트 손실: 1.631472\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "11\t검증 세트 손실: 1.612134\t최선의 손실: 1.610147\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.619606\t최선의 손실: 1.610147\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.637333\t최선의 손실: 1.610147\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.616308\t최선의 손실: 1.610147\t정확도: 19.27%\n", - "15\t검증 세트 손실: 1.616049\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.637738\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.655370\t최선의 손실: 1.610147\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.621179\t최선의 손실: 1.610147\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.615914\t최선의 손실: 1.610147\t정확도: 19.27%\n", - "20\t검증 세트 손실: 1.612467\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.676398\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.624750\t최선의 손실: 1.610147\t정확도: 18.73%\n", - "23\t검증 세트 손실: 1.668611\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.613451\t최선의 손실: 1.610147\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.651021\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.612896\t최선의 손실: 1.610147\t정확도: 22.01%\n", - "27\t검증 세트 손실: 1.625595\t최선의 손실: 1.610147\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.631319\t최선의 손실: 1.610147\t정확도: 18.73%\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.4s\n", + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 0.169320\t최선의 손실: 0.169320\t정확도: 95.66%\n", + "1\t검증 세트 손실: 0.166042\t최선의 손실: 0.166042\t정확도: 95.70%\n", + "2\t검증 세트 손실: 0.205436\t최선의 손실: 0.166042\t정확도: 95.62%\n", + "3\t검증 세트 손실: 0.174407\t최선의 손실: 0.166042\t정확도: 95.70%\n", + "4\t검증 세트 손실: 0.277150\t최선의 손실: 0.166042\t정확도: 91.79%\n", + "5\t검증 세트 손실: 0.345415\t최선의 손실: 0.166042\t정확도: 89.25%\n", + "6\t검증 세트 손실: 0.865148\t최선의 손실: 0.166042\t정확도: 66.18%\n", + "7\t검증 세트 손실: 0.512223\t최선의 손실: 0.166042\t정확도: 80.53%\n", + "8\t검증 세트 손실: 0.670879\t최선의 손실: 0.166042\t정확도: 75.61%\n", + "9\t검증 세트 손실: 0.508792\t최선의 손실: 0.166042\t정확도: 78.62%\n", + "10\t검증 세트 손실: 0.784333\t최선의 손실: 0.166042\t정확도: 59.30%\n", + "11\t검증 세트 손실: 1.643002\t최선의 손실: 0.166042\t정확도: 50.59%\n", + "12\t검증 세트 손실: 1.359735\t최선의 손실: 0.166042\t정확도: 42.69%\n", + "13\t검증 세트 손실: 1.224965\t최선의 손실: 0.166042\t정확도: 47.15%\n", + "14\t검증 세트 손실: 1.123492\t최선의 손실: 0.166042\t정확도: 48.98%\n", + "15\t검증 세트 손실: 0.939724\t최선의 손실: 0.166042\t정확도: 55.98%\n", + "16\t검증 세트 손실: 0.876415\t최선의 손실: 0.166042\t정확도: 59.77%\n", + "17\t검증 세트 손실: 0.904548\t최선의 손실: 0.166042\t정확도: 59.38%\n", + "18\t검증 세트 손실: 0.873461\t최선의 손실: 0.166042\t정확도: 57.94%\n", + "19\t검증 세트 손실: 0.754725\t최선의 손실: 0.166042\t정확도: 62.35%\n", + "20\t검증 세트 손실: 0.779598\t최선의 손실: 0.166042\t정확도: 71.34%\n", + "21\t검증 세트 손실: 0.849590\t최선의 손실: 0.166042\t정확도: 61.34%\n", + "22\t검증 세트 손실: 0.952523\t최선의 손실: 0.166042\t정확도: 55.39%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 3.0s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.287118\t최선의 손실: 1.287118\t정확도: 39.37%\n", - "1\t검증 세트 손실: 1.222458\t최선의 손실: 1.222458\t정확도: 40.15%\n", - "2\t검증 세트 손실: 1.141452\t최선의 손실: 1.141452\t정확도: 40.27%\n", - "3\t검증 세트 손실: 1.165868\t최선의 손실: 1.141452\t정확도: 40.42%\n", - "4\t검증 세트 손실: 0.864673\t최선의 손실: 0.864673\t정확도: 66.34%\n", - "5\t검증 세트 손실: 0.701590\t최선의 손실: 0.701590\t정확도: 62.43%\n", - "6\t검증 세트 손실: 0.712377\t최선의 손실: 0.701590\t정확도: 59.11%\n", - "7\t검증 세트 손실: 0.648790\t최선의 손실: 0.648790\t정확도: 68.53%\n", - "8\t검증 세트 손실: 0.632892\t최선의 손실: 0.632892\t정확도: 62.35%\n" + "[CV] n_neurons=100, learning_rate=0.01, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 7.4s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "9\t검증 세트 손실: 0.679165\t최선의 손실: 0.632892\t정확도: 61.85%\n", - "10\t검증 세트 손실: 1.748824\t최선의 손실: 0.632892\t정확도: 35.77%\n", - "11\t검증 세트 손실: 1.648183\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "12\t검증 세트 손실: 1.613602\t최선의 손실: 0.632892\t정확도: 22.01%\n", - "13\t검증 세트 손실: 1.626628\t최선의 손실: 0.632892\t정확도: 19.08%\n", - "14\t검증 세트 손실: 1.613184\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.625922\t최선의 손실: 0.632892\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.655349\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "17\t검증 세트 손실: 1.633805\t최선의 손실: 0.632892\t정확도: 22.01%\n", - "18\t검증 세트 손실: 1.619515\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "19\t검증 세트 손실: 1.623284\t최선의 손실: 0.632892\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.640083\t최선의 손실: 0.632892\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.694457\t최선의 손실: 0.632892\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.653092\t최선의 손실: 0.632892\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.629328\t최선의 손실: 0.632892\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.667496\t최선의 손실: 0.632892\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.682033\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "26\t검증 세트 손실: 1.652347\t최선의 손실: 0.632892\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.636821\t최선의 손실: 0.632892\t정확도: 20.91%\n", - "28\t검증 세트 손실: 1.672009\t최선의 손실: 0.632892\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.691723\t최선의 손실: 0.632892\t정확도: 19.27%\n", + "0\t검증 세트 손실: 593137.562500\t최선의 손실: 593137.562500\t정확도: 18.73%\n", + "1\t검증 세트 손실: 692856.125000\t최선의 손실: 593137.562500\t정확도: 21.03%\n", + "2\t검증 세트 손실: 209959.625000\t최선의 손실: 209959.625000\t정확도: 19.27%\n", + "3\t검증 세트 손실: 528636.750000\t최선의 손실: 209959.625000\t정확도: 19.27%\n", + "4\t검증 세트 손실: 442766.406250\t최선의 손실: 209959.625000\t정확도: 20.88%\n", + "5\t검증 세트 손실: 4908514.000000\t최선의 손실: 209959.625000\t정확도: 18.73%\n", + "6\t검증 세트 손실: 346156.750000\t최선의 손실: 209959.625000\t정확도: 19.12%\n", + "7\t검증 세트 손실: 926042.500000\t최선의 손실: 209959.625000\t정확도: 18.73%\n", + "8\t검증 세트 손실: 375157.281250\t최선의 손실: 209959.625000\t정확도: 25.68%\n", + "9\t검증 세트 손실: 1163890.375000\t최선의 손실: 209959.625000\t정확도: 19.31%\n", + "10\t검증 세트 손실: 636337.250000\t최선의 손실: 209959.625000\t정확도: 22.01%\n", + "11\t검증 세트 손실: 143498.140625\t최선의 손실: 143498.140625\t정확도: 19.08%\n", + "12\t검증 세트 손실: 213058.546875\t최선의 손실: 143498.140625\t정확도: 24.94%\n", + "13\t검증 세트 손실: 97781.265625\t최선의 손실: 97781.265625\t정확도: 22.09%\n", + "14\t검증 세트 손실: 169289.968750\t최선의 손실: 97781.265625\t정확도: 19.70%\n", + "15\t검증 세트 손실: 483929.718750\t최선의 손실: 97781.265625\t정확도: 18.84%\n", + "16\t검증 세트 손실: 332700.250000\t최선의 손실: 97781.265625\t정확도: 20.13%\n", + "17\t검증 세트 손실: 256558.687500\t최선의 손실: 97781.265625\t정확도: 18.88%\n", + "18\t검증 세트 손실: 596379.875000\t최선의 손실: 97781.265625\t정확도: 22.01%\n", + "19\t검증 세트 손실: 550783.875000\t최선의 손실: 97781.265625\t정확도: 22.01%\n", + "20\t검증 세트 손실: 343112.812500\t최선의 손실: 97781.265625\t정확도: 18.73%\n", + "21\t검증 세트 손실: 4736561.000000\t최선의 손실: 97781.265625\t정확도: 18.65%\n", + "22\t검증 세트 손실: 781979.500000\t최선의 손실: 97781.265625\t정확도: 30.06%\n", + "23\t검증 세트 손실: 889133.625000\t최선의 손실: 97781.265625\t정확도: 20.95%\n", + "24\t검증 세트 손실: 1823671.750000\t최선의 손실: 97781.265625\t정확도: 22.17%\n", + "25\t검증 세트 손실: 1184758.125000\t최선의 손실: 97781.265625\t정확도: 20.91%\n", + "26\t검증 세트 손실: 1762977.500000\t최선의 손실: 97781.265625\t정확도: 19.08%\n", + "27\t검증 세트 손실: 218504.687500\t최선의 손실: 97781.265625\t정확도: 21.42%\n", + "28\t검증 세트 손실: 534507.875000\t최선의 손실: 97781.265625\t정확도: 20.95%\n", + "29\t검증 세트 손실: 162993.171875\t최선의 손실: 97781.265625\t정확도: 18.92%\n", + "30\t검증 세트 손실: 1391736.500000\t최선의 손실: 97781.265625\t정확도: 19.08%\n", + "31\t검증 세트 손실: 479322.218750\t최선의 손실: 97781.265625\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1178784.375000\t최선의 손실: 97781.265625\t정확도: 22.01%\n", + "33\t검증 세트 손실: 1556282.125000\t최선의 손실: 97781.265625\t정확도: 22.01%\n", + "34\t검증 세트 손실: 1817999.250000\t최선의 손실: 97781.265625\t정확도: 19.27%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.05, activation=, n_neurons=140, total= 3.3s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70 \n", - "0\t검증 세트 손실: 42.804905\t최선의 손실: 42.804905\t정확도: 87.37%\n", - "1\t검증 세트 손실: 21.015423\t최선의 손실: 21.015423\t정확도: 75.53%\n", - "2\t검증 세트 손실: 23.915388\t최선의 손실: 21.015423\t정확도: 83.46%\n", - "3\t검증 세트 손실: 15.508780\t최선의 손실: 15.508780\t정확도: 87.06%\n", - "4\t검증 세트 손실: 11.973853\t최선의 손실: 11.973853\t정확도: 84.21%\n", - "5\t검증 세트 손실: 28.786091\t최선의 손실: 11.973853\t정확도: 88.90%\n", - "6\t검증 세트 손실: 5216881.500000\t최선의 손실: 11.973853\t정확도: 25.37%\n", - "7\t검증 세트 손실: 94772.781250\t최선의 손실: 11.973853\t정확도: 35.54%\n", - "8\t검증 세트 손실: 12892.193359\t최선의 손실: 11.973853\t정확도: 77.76%\n", - "9\t검증 세트 손실: 45876.082031\t최선의 손실: 11.973853\t정확도: 45.50%\n", - "10\t검증 세트 손실: 49796.812500\t최선의 손실: 11.973853\t정확도: 59.23%\n", - "11\t검증 세트 손실: 8488.335938\t최선의 손실: 11.973853\t정확도: 69.31%\n", - "12\t검증 세트 손실: 9936.710938\t최선의 손실: 11.973853\t정확도: 51.64%\n", - "13\t검증 세트 손실: 123113.992188\t최선의 손실: 11.973853\t정확도: 66.42%\n", - "14\t검증 세트 손실: 14782.869141\t최선의 손실: 11.973853\t정확도: 80.84%\n", - "15\t검증 세트 손실: 2419.840332\t최선의 손실: 11.973853\t정확도: 90.23%\n", - "16\t검증 세트 손실: 3974.697510\t최선의 손실: 11.973853\t정확도: 77.56%\n", - "17\t검증 세트 손실: 2385.449463\t최선의 손실: 11.973853\t정확도: 89.68%\n", - "18\t검증 세트 손실: 1019.522278\t최선의 손실: 11.973853\t정확도: 89.91%\n", - "19\t검증 세트 손실: 1918.482056\t최선의 손실: 11.973853\t정확도: 84.75%\n", - "20\t검증 세트 손실: 848.202881\t최선의 손실: 11.973853\t정확도: 92.03%\n", - "21\t검증 세트 손실: 173324.078125\t최선의 손실: 11.973853\t정확도: 76.97%\n", - "22\t검증 세트 손실: 46487.402344\t최선의 손실: 11.973853\t정확도: 92.03%\n", - "23\t검증 세트 손실: 65489.820312\t최선의 손실: 11.973853\t정확도: 88.62%\n", - "24\t검증 세트 손실: 73682.156250\t최선의 손실: 11.973853\t정확도: 80.88%\n", - "25\t검증 세트 손실: 46883.773438\t최선의 손실: 11.973853\t정확도: 77.25%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.5min\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 865465.625000\t최선의 손실: 865465.625000\t정확도: 27.64%\n", + "1\t검증 세트 손실: 429173.593750\t최선의 손실: 429173.593750\t정확도: 18.92%\n", + "2\t검증 세트 손실: 113051.710938\t최선의 손실: 113051.710938\t정확도: 22.75%\n", + "3\t검증 세트 손실: 870927.187500\t최선의 손실: 113051.710938\t정확도: 19.08%\n", + "4\t검증 세트 손실: 252460.859375\t최선의 손실: 113051.710938\t정확도: 19.16%\n", + "5\t검증 세트 손실: 38640.058594\t최선의 손실: 38640.058594\t정확도: 53.44%\n", + "6\t검증 세트 손실: 60720.343750\t최선의 손실: 38640.058594\t정확도: 21.42%\n", + "7\t검증 세트 손실: 50560.273438\t최선의 손실: 38640.058594\t정확도: 19.08%\n", + "8\t검증 세트 손실: 433342.000000\t최선의 손실: 38640.058594\t정확도: 19.12%\n", + "9\t검증 세트 손실: 103077.109375\t최선의 손실: 38640.058594\t정확도: 35.18%\n", + "10\t검증 세트 손실: 435570.000000\t최선의 손실: 38640.058594\t정확도: 19.35%\n", + "11\t검증 세트 손실: 6946382.000000\t최선의 손실: 38640.058594\t정확도: 34.13%\n", + "12\t검증 세트 손실: 1878051072.000000\t최선의 손실: 38640.058594\t정확도: 26.94%\n", + "13\t검증 세트 손실: 1504965.875000\t최선의 손실: 38640.058594\t정확도: 29.63%\n", + "14\t검증 세트 손실: 2892079.000000\t최선의 손실: 38640.058594\t정확도: 18.73%\n", + "15\t검증 세트 손실: 526578.750000\t최선의 손실: 38640.058594\t정확도: 22.01%\n", + "16\t검증 세트 손실: 350042.562500\t최선의 손실: 38640.058594\t정확도: 22.01%\n", + "17\t검증 세트 손실: 141704.562500\t최선의 손실: 38640.058594\t정확도: 29.05%\n", + "18\t검증 세트 손실: 2469861.250000\t최선의 손실: 38640.058594\t정확도: 20.91%\n", + "19\t검증 세트 손실: 1192553.125000\t최선의 손실: 38640.058594\t정확도: 19.27%\n", + "20\t검증 세트 손실: 544493.062500\t최선의 손실: 38640.058594\t정확도: 21.77%\n", + "21\t검증 세트 손실: 1319091.750000\t최선의 손실: 38640.058594\t정확도: 41.79%\n", + "22\t검증 세트 손실: 589297.312500\t최선의 손실: 38640.058594\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1100228.625000\t최선의 손실: 38640.058594\t정확도: 20.91%\n", + "24\t검증 세트 손실: 310225.437500\t최선의 손실: 38640.058594\t정확도: 24.51%\n", + "25\t검증 세트 손실: 317407.968750\t최선의 손실: 38640.058594\t정확도: 19.27%\n", + "26\t검증 세트 손실: 342887.437500\t최선의 손실: 38640.058594\t정확도: 19.08%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70, total= 15.3s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70 \n", - "0\t검증 세트 손실: 154.754562\t최선의 손실: 154.754562\t정확도: 52.93%\n", - "1\t검증 세트 손실: 352739.000000\t최선의 손실: 154.754562\t정확도: 42.34%\n", - "2\t검증 세트 손실: 36262.281250\t최선의 손실: 154.754562\t정확도: 58.33%\n", - "3\t검증 세트 손실: 10734.582031\t최선의 손실: 154.754562\t정확도: 65.09%\n", - "4\t검증 세트 손실: 1561.189941\t최선의 손실: 154.754562\t정확도: 68.18%\n", - "5\t검증 세트 손실: 1209.182373\t최선의 손실: 154.754562\t정확도: 75.29%\n", - "6\t검증 세트 손실: 887.452881\t최선의 손실: 154.754562\t정확도: 87.84%\n", - "7\t검증 세트 손실: 1545.103882\t최선의 손실: 154.754562\t정확도: 69.43%\n", - "8\t검증 세트 손실: 2442.301270\t최선의 손실: 154.754562\t정확도: 71.03%\n", - "9\t검증 세트 손실: 2405.695312\t최선의 손실: 154.754562\t정확도: 57.74%\n", - "10\t검증 세트 손실: 15200.933594\t최선의 손실: 154.754562\t정확도: 65.64%\n", - "11\t검증 세트 손실: 41357.570312\t최선의 손실: 154.754562\t정확도: 64.78%\n", - "12\t검증 세트 손실: 26145.447266\t최선의 손실: 154.754562\t정확도: 74.59%\n", - "13\t검증 세트 손실: 27661.941406\t최선의 손실: 154.754562\t정확도: 65.36%\n", - "14\t검증 세트 손실: 28442.843750\t최선의 손실: 154.754562\t정확도: 69.00%\n", - "15\t검증 세트 손실: 16544.302734\t최선의 손실: 154.754562\t정확도: 65.21%\n", - "16\t검증 세트 손실: 12494.307617\t최선의 손실: 154.754562\t정확도: 70.80%\n", - "17\t검증 세트 손실: 18613.650391\t최선의 손실: 154.754562\t정확도: 61.81%\n", - "18\t검증 세트 손실: 11672.684570\t최선의 손실: 154.754562\t정확도: 69.74%\n", - "19\t검증 세트 손실: 2412.418701\t최선의 손실: 154.754562\t정확도: 74.59%\n", - "20\t검증 세트 손실: 4003.198975\t최선의 손실: 154.754562\t정확도: 75.76%\n", - "21\t검증 세트 손실: 4533.252441\t최선의 손실: 154.754562\t정확도: 72.36%\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.2min\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 225278160.000000\t최선의 손실: 225278160.000000\t정확도: 19.04%\n", + "1\t검증 세트 손실: 451858112.000000\t최선의 손실: 225278160.000000\t정확도: 19.27%\n", + "2\t검증 세트 손실: 111429.382812\t최선의 손실: 111429.382812\t정확도: 22.20%\n", + "3\t검증 세트 손실: 166806.625000\t최선의 손실: 111429.382812\t정확도: 19.27%\n", + "4\t검증 세트 손실: 271077.125000\t최선의 손실: 111429.382812\t정확도: 27.76%\n", + "5\t검증 세트 손실: 522509.000000\t최선의 손실: 111429.382812\t정확도: 18.73%\n", + "6\t검증 세트 손실: 107705.804688\t최선의 손실: 107705.804688\t정확도: 29.75%\n", + "7\t검증 세트 손실: 203747.234375\t최선의 손실: 107705.804688\t정확도: 19.04%\n", + "8\t검증 세트 손실: 156148.609375\t최선의 손실: 107705.804688\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1478262.250000\t최선의 손실: 107705.804688\t정확도: 19.27%\n", + "10\t검증 세트 손실: 399482.500000\t최선의 손실: 107705.804688\t정확도: 28.34%\n", + "11\t검증 세트 손실: 112483.328125\t최선의 손실: 107705.804688\t정확도: 28.23%\n", + "12\t검증 세트 손실: 12809261.000000\t최선의 손실: 107705.804688\t정확도: 23.06%\n", + "13\t검증 세트 손실: 377926.125000\t최선의 손실: 107705.804688\t정확도: 22.28%\n", + "14\t검증 세트 손실: 1253732.250000\t최선의 손실: 107705.804688\t정확도: 19.00%\n", + "15\t검증 세트 손실: 461862.437500\t최선의 손실: 107705.804688\t정확도: 18.73%\n", + "16\t검증 세트 손실: 258330.015625\t최선의 손실: 107705.804688\t정확도: 21.38%\n", + "17\t검증 세트 손실: 1681676.250000\t최선의 손실: 107705.804688\t정확도: 19.12%\n", + "18\t검증 세트 손실: 178048.890625\t최선의 손실: 107705.804688\t정확도: 21.93%\n", + "19\t검증 세트 손실: 190353.187500\t최선의 손실: 107705.804688\t정확도: 18.73%\n", + "20\t검증 세트 손실: 98859224.000000\t최선의 손실: 107705.804688\t정확도: 20.91%\n", + "21\t검증 세트 손실: 23336798208.000000\t최선의 손실: 107705.804688\t정확도: 18.26%\n", + "22\t검증 세트 손실: 10991185.000000\t최선의 손실: 107705.804688\t정확도: 36.04%\n", + "23\t검증 세트 손실: 1704628.000000\t최선의 손실: 107705.804688\t정확도: 22.56%\n", + "24\t검증 세트 손실: 462529.000000\t최선의 손실: 107705.804688\t정확도: 27.56%\n", + "25\t검증 세트 손실: 719754.062500\t최선의 손실: 107705.804688\t정확도: 31.78%\n", + "26\t검증 세트 손실: 469640.906250\t최선의 손실: 107705.804688\t정확도: 38.62%\n", + "27\t검증 세트 손실: 5291132.000000\t최선의 손실: 107705.804688\t정확도: 35.30%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70, total= 13.2s\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70 \n", - "0\t검증 세트 손실: 152359.546875\t최선의 손실: 152359.546875\t정확도: 18.73%\n", - "1\t검증 세트 손실: 1773.402466\t최선의 손실: 1773.402466\t정확도: 34.60%\n", - "2\t검증 세트 손실: 1393.369263\t최선의 손실: 1393.369263\t정확도: 40.19%\n", - "3\t검증 세트 손실: 143993.796875\t최선의 손실: 1393.369263\t정확도: 23.22%\n", - "4\t검증 세트 손실: 69043.796875\t최선의 손실: 1393.369263\t정확도: 36.08%\n", - "5\t검증 세트 손실: 25586.814453\t최선의 손실: 1393.369263\t정확도: 46.40%\n", - "6\t검증 세트 손실: 13573.019531\t최선의 손실: 1393.369263\t정확도: 53.79%\n", - "7\t검증 세트 손실: 12827.626953\t최선의 손실: 1393.369263\t정확도: 51.99%\n", - "8\t검증 세트 손실: 13322.582031\t최선의 손실: 1393.369263\t정확도: 55.86%\n", - "9\t검증 세트 손실: 7260.292480\t최선의 손실: 1393.369263\t정확도: 54.10%\n", - "10\t검증 세트 손실: 7884.419922\t최선의 손실: 1393.369263\t정확도: 56.41%\n", - "11\t검증 세트 손실: 20506.361328\t최선의 손실: 1393.369263\t정확도: 40.03%\n", - "12\t검증 세트 손실: 1589.922363\t최선의 손실: 1393.369263\t정확도: 58.01%\n", - "13\t검증 세트 손실: 4866.111816\t최선의 손실: 1393.369263\t정확도: 54.50%\n", - "14\t검증 세트 손실: 3763.677490\t최선의 손실: 1393.369263\t정확도: 58.29%\n", - "15\t검증 세트 손실: 1715.946411\t최선의 손실: 1393.369263\t정확도: 57.23%\n", - "16\t검증 세트 손실: 3660.599365\t최선의 손실: 1393.369263\t정확도: 57.47%\n", - "17\t검증 세트 손실: 8011.971191\t최선의 손실: 1393.369263\t정확도: 56.61%\n", - "18\t검증 세트 손실: 2068.136230\t최선의 손실: 1393.369263\t정확도: 56.18%\n", - "19\t검증 세트 손실: 4501.954102\t최선의 손실: 1393.369263\t정확도: 55.59%\n", - "20\t검증 세트 손실: 1214.716064\t최선의 손실: 1214.716064\t정확도: 58.44%\n", - "21\t검증 세트 손실: 1736.499756\t최선의 손실: 1214.716064\t정확도: 50.04%\n", - "22\t검증 세트 손실: 2603691.500000\t최선의 손실: 1214.716064\t정확도: 50.74%\n", - "23\t검증 세트 손실: 105903.500000\t최선의 손실: 1214.716064\t정확도: 59.07%\n", - "24\t검증 세트 손실: 79429.789062\t최선의 손실: 1214.716064\t정확도: 57.31%\n", - "25\t검증 세트 손실: 70508.343750\t최선의 손실: 1214.716064\t정확도: 52.89%\n", - "26\t검증 세트 손실: 40551.070312\t최선의 손실: 1214.716064\t정확도: 51.95%\n", - "27\t검증 세트 손실: 150910.656250\t최선의 손실: 1214.716064\t정확도: 55.75%\n", - "28\t검증 세트 손실: 15901.721680\t최선의 손실: 1214.716064\t정확도: 54.85%\n", - "29\t검증 세트 손실: 15324.173828\t최선의 손실: 1214.716064\t정확도: 56.76%\n", - "30\t검증 세트 손실: 12045.869141\t최선의 손실: 1214.716064\t정확도: 57.74%\n", - "31\t검증 세트 손실: 94424.515625\t최선의 손실: 1214.716064\t정확도: 68.30%\n", - "32\t검증 세트 손실: 19264.191406\t최선의 손실: 1214.716064\t정확도: 61.81%\n", - "33\t검증 세트 손실: 59024.976562\t최선의 손실: 1214.716064\t정확도: 52.27%\n", - "34\t검증 세트 손실: 16083.344727\t최선의 손실: 1214.716064\t정확도: 56.02%\n", - "35\t검증 세트 손실: 172157.500000\t최선의 손실: 1214.716064\t정확도: 56.72%\n", - "36\t검증 세트 손실: 287693.156250\t최선의 손실: 1214.716064\t정확도: 57.66%\n", - "37\t검증 세트 손실: 212830.093750\t최선의 손실: 1214.716064\t정확도: 55.90%\n", - "38\t검증 세트 손실: 163920.234375\t최선의 손실: 1214.716064\t정확도: 61.65%\n", - "39\t검증 세트 손실: 188916.546875\t최선의 손실: 1214.716064\t정확도: 56.25%\n", - "40\t검증 세트 손실: 122132.718750\t최선의 손실: 1214.716064\t정확도: 59.34%\n", - "41\t검증 세트 손실: 114728.343750\t최선의 손실: 1214.716064\t정확도: 56.06%\n", - "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.2, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=70, total= 24.7s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.508427\t최선의 손실: 1.508427\t정확도: 43.20%\n", - "1\t검증 세트 손실: 1.038539\t최선의 손실: 1.038539\t정확도: 53.95%\n", - "2\t검증 세트 손실: 0.813117\t최선의 손실: 0.813117\t정확도: 65.68%\n", - "3\t검증 세트 손실: 0.754268\t최선의 손실: 0.754268\t정확도: 67.40%\n", - "4\t검증 세트 손실: 0.690137\t최선의 손실: 0.690137\t정확도: 66.46%\n", - "5\t검증 세트 손실: 0.565777\t최선의 손실: 0.565777\t정확도: 72.71%\n", - "6\t검증 세트 손실: 0.478596\t최선의 손실: 0.478596\t정확도: 76.97%\n", - "7\t검증 세트 손실: 0.442106\t최선의 손실: 0.442106\t정확도: 77.76%\n", - "8\t검증 세트 손실: 0.403108\t최선의 손실: 0.403108\t정확도: 78.85%\n", - "9\t검증 세트 손실: 0.391004\t최선의 손실: 0.391004\t정확도: 79.12%\n", - "10\t검증 세트 손실: 0.378215\t최선의 손실: 0.378215\t정확도: 79.44%\n", - "11\t검증 세트 손실: 0.369526\t최선의 손실: 0.369526\t정확도: 79.55%\n", - "12\t검증 세트 손실: 0.375639\t최선의 손실: 0.369526\t정확도: 79.44%\n", - "13\t검증 세트 손실: 0.376935\t최선의 손실: 0.369526\t정확도: 79.55%\n", - "14\t검증 세트 손실: 0.370341\t최선의 손실: 0.369526\t정확도: 78.54%\n", - "15\t검증 세트 손실: 0.384165\t최선의 손실: 0.369526\t정확도: 79.48%\n", - "16\t검증 세트 손실: 0.385230\t최선의 손실: 0.369526\t정확도: 79.63%\n", - "17\t검증 세트 손실: 0.392325\t최선의 손실: 0.369526\t정확도: 79.55%\n" + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.2, batch_size=10, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 1.2min\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation= \n", + "0\t검증 세트 손실: 1.653802\t최선의 손실: 1.653802\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.615683\t최선의 손실: 1.615683\t정확도: 22.01%\n", + "2\t검증 세트 손실: 1.611853\t최선의 손실: 1.611853\t정확도: 22.01%\n", + "3\t검증 세트 손실: 1.632865\t최선의 손실: 1.611853\t정확도: 18.73%\n", + "4\t검증 세트 손실: 1.628184\t최선의 손실: 1.611853\t정확도: 18.73%\n", + "5\t검증 세트 손실: 1.613037\t최선의 손실: 1.611853\t정확도: 18.73%\n", + "6\t검증 세트 손실: 1.620914\t최선의 손실: 1.611853\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.624383\t최선의 손실: 1.611853\t정확도: 19.08%\n", + "8\t검증 세트 손실: 1.637136\t최선의 손실: 1.611853\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.614879\t최선의 손실: 1.611853\t정확도: 20.91%\n", + "10\t검증 세트 손실: 1.613863\t최선의 손실: 1.611853\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.629687\t최선의 손실: 1.611853\t정확도: 19.27%\n", + "12\t검증 세트 손실: 1.619745\t최선의 손실: 1.611853\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.662957\t최선의 손실: 1.611853\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.619254\t최선의 손실: 1.611853\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1.662175\t최선의 손실: 1.611853\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1.621470\t최선의 손실: 1.611853\t정확도: 20.91%\n", + "17\t검증 세트 손실: 1.610905\t최선의 손실: 1.610905\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1.622675\t최선의 손실: 1.610905\t정확도: 18.73%\n", + "19\t검증 세트 손실: 1.610713\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.645743\t최선의 손실: 1.610713\t정확도: 20.91%\n", + "21\t검증 세트 손실: 1.623289\t최선의 손실: 1.610713\t정확도: 19.08%\n", + "22\t검증 세트 손실: 1.673679\t최선의 손실: 1.610713\t정확도: 19.27%\n", + "23\t검증 세트 손실: 1.612980\t최선의 손실: 1.610713\t정확도: 19.27%\n", + "24\t검증 세트 손실: 1.640248\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "25\t검증 세트 손실: 1.637608\t최선의 손실: 1.610713\t정확도: 19.08%\n", + "26\t검증 세트 손실: 1.614672\t최선의 손실: 1.610713\t정확도: 18.73%\n", + "27\t검증 세트 손실: 1.631773\t최선의 손실: 1.610713\t정확도: 19.08%\n", + "28\t검증 세트 손실: 1.611395\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "29\t검증 세트 손실: 1.653400\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "30\t검증 세트 손실: 1.678126\t최선의 손실: 1.610713\t정확도: 19.27%\n", + "31\t검증 세트 손실: 1.614995\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.614754\t최선의 손실: 1.610713\t정확도: 20.91%\n", + "33\t검증 세트 손실: 1.622579\t최선의 손실: 1.610713\t정확도: 19.27%\n", + "34\t검증 세트 손실: 1.616036\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "35\t검증 세트 손실: 1.634534\t최선의 손실: 1.610713\t정확도: 19.27%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "18\t검증 세트 손실: 0.382668\t최선의 손실: 0.369526\t정확도: 79.48%\n", - "19\t검증 세트 손실: 0.362519\t최선의 손실: 0.362519\t정확도: 79.67%\n", - "20\t검증 세트 손실: 0.378193\t최선의 손실: 0.362519\t정확도: 79.55%\n", - "21\t검증 세트 손실: 0.366864\t최선의 손실: 0.362519\t정확도: 79.95%\n", - "22\t검증 세트 손실: 0.368651\t최선의 손실: 0.362519\t정확도: 79.95%\n", - "23\t검증 세트 손실: 0.362318\t최선의 손실: 0.362318\t정확도: 78.69%\n", - "24\t검증 세트 손실: 0.368190\t최선의 손실: 0.362318\t정확도: 79.59%\n", - "25\t검증 세트 손실: 0.371508\t최선의 손실: 0.362318\t정확도: 78.26%\n", - "26\t검증 세트 손실: 0.372462\t최선의 손실: 0.362318\t정확도: 79.71%\n", - "27\t검증 세트 손실: 0.377449\t최선의 손실: 0.362318\t정확도: 78.34%\n", - "28\t검증 세트 손실: 0.362222\t최선의 손실: 0.362222\t정확도: 78.62%\n", - "29\t검증 세트 손실: 0.378028\t최선의 손실: 0.362222\t정확도: 79.55%\n", - "30\t검증 세트 손실: 0.369941\t최선의 손실: 0.362222\t정확도: 79.44%\n", - "31\t검증 세트 손실: 0.364783\t최선의 손실: 0.362222\t정확도: 79.67%\n", - "32\t검증 세트 손실: 0.357682\t최선의 손실: 0.357682\t정확도: 79.55%\n", - "33\t검증 세트 손실: 0.364925\t최선의 손실: 0.357682\t정확도: 79.44%\n", - "34\t검증 세트 손실: 0.358505\t최선의 손실: 0.357682\t정확도: 79.98%\n", - "35\t검증 세트 손실: 0.353237\t최선의 손실: 0.353237\t정확도: 79.95%\n", - "36\t검증 세트 손실: 0.359884\t최선의 손실: 0.353237\t정확도: 76.74%\n", - "37\t검증 세트 손실: 0.367772\t최선의 손실: 0.353237\t정확도: 79.55%\n", - "38\t검증 세트 손실: 0.366716\t최선의 손실: 0.353237\t정확도: 79.75%\n", - "39\t검증 세트 손실: 0.364067\t최선의 손실: 0.353237\t정확도: 78.58%\n", - "40\t검증 세트 손실: 0.354377\t최선의 손실: 0.353237\t정확도: 78.69%\n", - "41\t검증 세트 손실: 0.357674\t최선의 손실: 0.353237\t정확도: 79.67%\n", - "42\t검증 세트 손실: 0.374142\t최선의 손실: 0.353237\t정확도: 79.67%\n", - "43\t검증 세트 손실: 0.366323\t최선의 손실: 0.353237\t정확도: 79.75%\n", - "44\t검증 세트 손실: 0.363537\t최선의 손실: 0.353237\t정확도: 79.55%\n", - "45\t검증 세트 손실: 0.357720\t최선의 손실: 0.353237\t정확도: 78.54%\n", - "46\t검증 세트 손실: 0.356259\t최선의 손실: 0.353237\t정확도: 78.81%\n", - "47\t검증 세트 손실: 0.359460\t최선의 손실: 0.353237\t정확도: 77.83%\n", - "48\t검증 세트 손실: 0.354157\t최선의 손실: 0.353237\t정확도: 79.67%\n", - "49\t검증 세트 손실: 0.353567\t최선의 손실: 0.353237\t정확도: 80.02%\n", - "50\t검증 세트 손실: 0.358960\t최선의 손실: 0.353237\t정확도: 79.55%\n", - "51\t검증 세트 손실: 0.363446\t최선의 손실: 0.353237\t정확도: 79.83%\n", - "52\t검증 세트 손실: 0.357550\t최선의 손실: 0.353237\t정확도: 79.83%\n", - "53\t검증 세트 손실: 0.346685\t최선의 손실: 0.346685\t정확도: 78.85%\n", - "54\t검증 세트 손실: 0.349615\t최선의 손실: 0.346685\t정확도: 79.67%\n", - "55\t검증 세트 손실: 0.358104\t최선의 손실: 0.346685\t정확도: 79.87%\n", - "56\t검증 세트 손실: 0.356895\t최선의 손실: 0.346685\t정확도: 78.85%\n", - "57\t검증 세트 손실: 0.351928\t최선의 손실: 0.346685\t정확도: 80.02%\n", - "58\t검증 세트 손실: 0.357900\t최선의 손실: 0.346685\t정확도: 79.75%\n", - "59\t검증 세트 손실: 0.352730\t최선의 손실: 0.346685\t정확도: 79.95%\n", - "60\t검증 세트 손실: 0.352533\t최선의 손실: 0.346685\t정확도: 79.01%\n", - "61\t검증 세트 손실: 0.359196\t최선의 손실: 0.346685\t정확도: 80.02%\n", - "62\t검증 세트 손실: 0.354209\t최선의 손실: 0.346685\t정확도: 79.79%\n", - "63\t검증 세트 손실: 0.362590\t최선의 손실: 0.346685\t정확도: 78.77%\n", - "64\t검증 세트 손실: 0.350940\t최선의 손실: 0.346685\t정확도: 79.75%\n", - "65\t검증 세트 손실: 0.356316\t최선의 손실: 0.346685\t정확도: 78.81%\n", - "66\t검증 세트 손실: 0.348089\t최선의 손실: 0.346685\t정확도: 79.87%\n", - "67\t검증 세트 손실: 0.362302\t최선의 손실: 0.346685\t정확도: 78.85%\n", - "68\t검증 세트 손실: 0.352164\t최선의 손실: 0.346685\t정확도: 78.85%\n", - "69\t검증 세트 손실: 0.359001\t최선의 손실: 0.346685\t정확도: 79.63%\n", - "70\t검증 세트 손실: 0.350099\t최선의 손실: 0.346685\t정확도: 79.63%\n", - "71\t검증 세트 손실: 0.350365\t최선의 손실: 0.346685\t정확도: 79.48%\n", - "72\t검증 세트 손실: 0.355264\t최선의 손실: 0.346685\t정확도: 79.63%\n", - "73\t검증 세트 손실: 0.357646\t최선의 손실: 0.346685\t정확도: 79.48%\n", - "74\t검증 세트 손실: 0.355809\t최선의 손실: 0.346685\t정확도: 79.91%\n", + "36\t검증 세트 손실: 1.613155\t최선의 손실: 1.610713\t정확도: 20.91%\n", + "37\t검증 세트 손실: 1.629317\t최선의 손실: 1.610713\t정확도: 18.73%\n", + "38\t검증 세트 손실: 1.700954\t최선의 손실: 1.610713\t정확도: 22.01%\n", + "39\t검증 세트 손실: 1.627469\t최선의 손실: 1.610713\t정확도: 19.27%\n", + "40\t검증 세트 손실: 1.674507\t최선의 손실: 1.610713\t정확도: 22.01%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30, total= 6.1s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.413666\t최선의 손실: 1.413666\t정확도: 46.44%\n", - "1\t검증 세트 손실: 1.122041\t최선의 손실: 1.122041\t정확도: 44.21%\n", - "2\t검증 세트 손실: 1.080487\t최선의 손실: 1.080487\t정확도: 40.54%\n", - "3\t검증 세트 손실: 0.859669\t최선의 손실: 0.859669\t정확도: 60.48%\n", - "4\t검증 세트 손실: 0.699817\t최선의 손실: 0.699817\t정확도: 72.28%\n", - "5\t검증 세트 손실: 0.721031\t최선의 손실: 0.699817\t정확도: 60.01%\n", - "6\t검증 세트 손실: 0.666032\t최선의 손실: 0.666032\t정확도: 60.87%\n", - "7\t검증 세트 손실: 0.604923\t최선의 손실: 0.604923\t정확도: 72.99%\n", - "8\t검증 세트 손실: 0.481922\t최선의 손실: 0.481922\t정확도: 77.29%\n", - "9\t검증 세트 손실: 0.437629\t최선의 손실: 0.437629\t정확도: 77.56%\n", - "10\t검증 세트 손실: 0.381297\t최선의 손실: 0.381297\t정확도: 79.16%\n", - "11\t검증 세트 손실: 0.401896\t최선의 손실: 0.381297\t정확도: 78.50%\n", - "12\t검증 세트 손실: 0.383612\t최선의 손실: 0.381297\t정확도: 79.55%\n", - "13\t검증 세트 손실: 0.387310\t최선의 손실: 0.381297\t정확도: 79.32%\n", - "14\t검증 세트 손실: 0.394821\t최선의 손실: 0.381297\t정확도: 79.44%\n", - "15\t검증 세트 손실: 0.398791\t최선의 손실: 0.381297\t정확도: 79.52%\n", - "16\t검증 세트 손실: 0.369684\t최선의 손실: 0.369684\t정확도: 79.63%\n", - "17\t검증 세트 손실: 0.382080\t최선의 손실: 0.369684\t정확도: 79.75%\n", - "18\t검증 세트 손실: 0.373074\t최선의 손실: 0.369684\t정확도: 79.48%\n", - "19\t검증 세트 손실: 0.379729\t최선의 손실: 0.369684\t정확도: 79.44%\n", - "20\t검증 세트 손실: 0.359622\t최선의 손실: 0.359622\t정확도: 79.83%\n", - "21\t검증 세트 손실: 0.373740\t최선의 손실: 0.359622\t정확도: 79.36%\n", - "22\t검증 세트 손실: 0.374912\t최선의 손실: 0.359622\t정확도: 79.59%\n", - "23\t검증 세트 손실: 0.359336\t최선의 손실: 0.359336\t정확도: 78.15%\n", - "24\t검증 세트 손실: 0.356343\t최선의 손실: 0.356343\t정확도: 79.55%\n", - "25\t검증 세트 손실: 0.356291\t최선의 손실: 0.356291\t정확도: 80.45%\n", - "26\t검증 세트 손실: 0.372852\t최선의 손실: 0.356291\t정확도: 78.73%\n", - "27\t검증 세트 손실: 0.376793\t최선의 손실: 0.356291\t정확도: 79.55%\n", - "28\t검증 세트 손실: 0.368889\t최선의 손실: 0.356291\t정확도: 79.52%\n", - "29\t검증 세트 손실: 0.382368\t최선의 손실: 0.356291\t정확도: 78.66%\n", - "30\t검증 세트 손실: 0.363004\t최선의 손실: 0.356291\t정확도: 79.63%\n", - "31\t검증 세트 손실: 0.354401\t최선의 손실: 0.354401\t정확도: 79.71%\n", - "32\t검증 세트 손실: 0.361428\t최선의 손실: 0.354401\t정확도: 79.87%\n", - "33\t검증 세트 손실: 0.357523\t최선의 손실: 0.354401\t정확도: 78.66%\n", - "34\t검증 세트 손실: 0.375065\t최선의 손실: 0.354401\t정확도: 78.85%\n", - "35\t검증 세트 손실: 0.353155\t최선의 손실: 0.353155\t정확도: 79.75%\n", - "36\t검증 세트 손실: 0.357860\t최선의 손실: 0.353155\t정확도: 79.55%\n", - "37\t검증 세트 손실: 0.357498\t최선의 손실: 0.353155\t정확도: 79.67%\n", - "38\t검증 세트 손실: 0.359133\t최선의 손실: 0.353155\t정확도: 78.58%\n", - "39\t검증 세트 손실: 0.377964\t최선의 손실: 0.353155\t정확도: 79.40%\n", - "40\t검증 세트 손실: 0.364331\t최선의 손실: 0.353155\t정확도: 78.58%\n", - "41\t검증 세트 손실: 0.357534\t최선의 손실: 0.353155\t정확도: 79.71%\n", - "42\t검증 세트 손실: 0.359216\t최선의 손실: 0.353155\t정확도: 78.58%\n", - "43\t검증 세트 손실: 0.349811\t최선의 손실: 0.349811\t정확도: 79.71%\n", - "44\t검증 세트 손실: 0.357569\t최선의 손실: 0.349811\t정확도: 78.66%\n", - "45\t검증 세트 손실: 0.355176\t최선의 손실: 0.349811\t정확도: 79.71%\n", - "46\t검증 세트 손실: 0.354779\t최선의 손실: 0.349811\t정확도: 79.75%\n", - "47\t검증 세트 손실: 0.370114\t최선의 손실: 0.349811\t정확도: 78.58%\n", - "48\t검증 세트 손실: 0.351141\t최선의 손실: 0.349811\t정확도: 79.71%\n", - "49\t검증 세트 손실: 0.355364\t최선의 손실: 0.349811\t정확도: 80.65%\n", - "50\t검증 세트 손실: 0.367269\t최선의 손실: 0.349811\t정확도: 78.77%\n", - "51\t검증 세트 손실: 0.361093\t최선의 손실: 0.349811\t정확도: 79.63%\n", - "52\t검증 세트 손실: 0.364370\t최선의 손실: 0.349811\t정확도: 79.83%\n", - "53\t검증 세트 손실: 0.349451\t최선의 손실: 0.349451\t정확도: 79.87%\n", - "54\t검증 세트 손실: 0.359972\t최선의 손실: 0.349451\t정확도: 78.54%\n", - "55\t검증 세트 손실: 0.354439\t최선의 손실: 0.349451\t정확도: 79.75%\n", - "56\t검증 세트 손실: 0.369812\t최선의 손실: 0.349451\t정확도: 78.34%\n", - "57\t검증 세트 손실: 0.351944\t최선의 손실: 0.349451\t정확도: 79.91%\n", - "58\t검증 세트 손실: 0.351904\t최선의 손실: 0.349451\t정확도: 79.67%\n", - "59\t검증 세트 손실: 0.350284\t최선의 손실: 0.349451\t정확도: 79.75%\n", - "60\t검증 세트 손실: 0.357565\t최선의 손실: 0.349451\t정확도: 79.71%\n", - "61\t검증 세트 손실: 0.350558\t최선의 손실: 0.349451\t정확도: 79.87%\n", - "62\t검증 세트 손실: 0.351537\t최선의 손실: 0.349451\t정확도: 79.91%\n", - "63\t검증 세트 손실: 0.355300\t최선의 손실: 0.349451\t정확도: 79.71%\n", - "64\t검증 세트 손실: 0.358074\t최선의 손실: 0.349451\t정확도: 78.85%\n", - "65\t검증 세트 손실: 0.354063\t최선의 손실: 0.349451\t정확도: 78.77%\n", - "66\t검증 세트 손실: 0.358219\t최선의 손실: 0.349451\t정확도: 79.71%\n", - "67\t검증 세트 손실: 0.367075\t최선의 손실: 0.349451\t정확도: 78.30%\n", - "68\t검증 세트 손실: 0.355692\t최선의 손실: 0.349451\t정확도: 79.71%\n", - "69\t검증 세트 손실: 0.363143\t최선의 손실: 0.349451\t정확도: 79.55%\n", - "70\t검증 세트 손실: 0.354010\t최선의 손실: 0.349451\t정확도: 78.66%\n", - "71\t검증 세트 손실: 0.352772\t최선의 손실: 0.349451\t정확도: 80.34%\n", - "72\t검증 세트 손실: 0.351087\t최선의 손실: 0.349451\t정확도: 79.79%\n", - "73\t검증 세트 손실: 0.352235\t최선의 손실: 0.349451\t정확도: 78.85%\n", - "74\t검증 세트 손실: 0.354515\t최선의 손실: 0.349451\t정확도: 78.85%\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation=, total= 3.7s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.819937\t최선의 손실: 0.819937\t정확도: 70.64%\n", + "1\t검증 세트 손실: 0.510833\t최선의 손실: 0.510833\t정확도: 79.12%\n", + "2\t검증 세트 손실: 0.387425\t최선의 손실: 0.387425\t정확도: 90.30%\n", + "3\t검증 세트 손실: 0.244518\t최선의 손실: 0.244518\t정확도: 94.29%\n", + "4\t검증 세트 손실: 0.222242\t최선의 손실: 0.222242\t정확도: 95.11%\n", + "5\t검증 세트 손실: 0.209135\t최선의 손실: 0.209135\t정확도: 95.23%\n", + "6\t검증 세트 손실: 0.190666\t최선의 손실: 0.190666\t정확도: 95.86%\n", + "7\t검증 세트 손실: 0.176382\t최선의 손실: 0.176382\t정확도: 95.70%\n", + "8\t검증 세트 손실: 0.188517\t최선의 손실: 0.176382\t정확도: 96.13%\n", + "9\t검증 세트 손실: 0.169658\t최선의 손실: 0.169658\t정확도: 96.48%\n", + "10\t검증 세트 손실: 0.155285\t최선의 손실: 0.155285\t정확도: 96.48%\n", + "11\t검증 세트 손실: 0.170022\t최선의 손실: 0.155285\t정확도: 96.33%\n", + "12\t검증 세트 손실: 0.174694\t최선의 손실: 0.155285\t정확도: 96.33%\n", + "13\t검증 세트 손실: 0.157785\t최선의 손실: 0.155285\t정확도: 96.33%\n", + "14\t검증 세트 손실: 0.130244\t최선의 손실: 0.130244\t정확도: 96.56%\n", + "15\t검증 세트 손실: 0.132777\t최선의 손실: 0.130244\t정확도: 96.87%\n", + "16\t검증 세트 손실: 0.115507\t최선의 손실: 0.115507\t정확도: 97.34%\n", + "17\t검증 세트 손실: 0.112204\t최선의 손실: 0.112204\t정확도: 97.15%\n", + "18\t검증 세트 손실: 0.111410\t최선의 손실: 0.111410\t정확도: 97.50%\n", + "19\t검증 세트 손실: 0.111219\t최선의 손실: 0.111219\t정확도: 97.58%\n", + "20\t검증 세트 손실: 0.101116\t최선의 손실: 0.101116\t정확도: 97.58%\n", + "21\t검증 세트 손실: 0.132812\t최선의 손실: 0.101116\t정확도: 97.58%\n", + "22\t검증 세트 손실: 0.101642\t최선의 손실: 0.101116\t정확도: 97.62%\n", + "23\t검증 세트 손실: 0.102293\t최선의 손실: 0.101116\t정확도: 97.42%\n", + "24\t검증 세트 손실: 0.121147\t최선의 손실: 0.101116\t정확도: 98.01%\n", + "25\t검증 세트 손실: 0.160222\t최선의 손실: 0.101116\t정확도: 97.07%\n", + "26\t검증 세트 손실: 0.115068\t최선의 손실: 0.101116\t정확도: 97.69%\n", + "27\t검증 세트 손실: 2.191484\t최선의 손실: 0.101116\t정확도: 50.70%\n", + "28\t검증 세트 손실: 1.714245\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "29\t검증 세트 손실: 1.623576\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.642350\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.630586\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "32\t검증 세트 손실: 1.635099\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.627680\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "34\t검증 세트 손실: 1.644814\t최선의 손실: 0.101116\t정확도: 18.73%\n", + "35\t검증 세트 손실: 1.657889\t최선의 손실: 0.101116\t정확도: 22.01%\n", + "36\t검증 세트 손실: 1.648091\t최선의 손실: 0.101116\t정확도: 22.01%\n", + "37\t검증 세트 손실: 1.620882\t최선의 손실: 0.101116\t정확도: 22.01%\n", + "38\t검증 세트 손실: 1.616010\t최선의 손실: 0.101116\t정확도: 19.27%\n", + "39\t검증 세트 손실: 1.714259\t최선의 손실: 0.101116\t정확도: 19.27%\n", + "40\t검증 세트 손실: 1.632437\t최선의 손실: 0.101116\t정확도: 19.27%\n", + "41\t검증 세트 손실: 1.622338\t최선의 손실: 0.101116\t정확도: 20.91%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30, total= 6.2s\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30 \n", - "0\t검증 세트 손실: 1.374480\t최선의 손실: 1.374480\t정확도: 48.63%\n", - "1\t검증 세트 손실: 1.119446\t최선의 손실: 1.119446\t정확도: 52.70%\n", - "2\t검증 세트 손실: 1.083313\t최선의 손실: 1.083313\t정확도: 45.39%\n", - "3\t검증 세트 손실: 0.844371\t최선의 손실: 0.844371\t정확도: 58.17%\n", - "4\t검증 세트 손실: 0.727627\t최선의 손실: 0.727627\t정확도: 68.26%\n", - "5\t검증 세트 손실: 0.597883\t최선의 손실: 0.597883\t정확도: 74.55%\n", - "6\t검증 세트 손실: 0.532007\t최선의 손실: 0.532007\t정확도: 74.82%\n", - "7\t검증 세트 손실: 0.435315\t최선의 손실: 0.435315\t정확도: 78.50%\n", - "8\t검증 세트 손실: 0.390704\t최선의 손실: 0.390704\t정확도: 79.12%\n", - "9\t검증 세트 손실: 0.380262\t최선의 손실: 0.380262\t정확도: 78.15%\n", - "10\t검증 세트 손실: 0.379386\t최선의 손실: 0.379386\t정확도: 79.12%\n", - "11\t검증 세트 손실: 0.378397\t최선의 손실: 0.378397\t정확도: 78.15%\n", - "12\t검증 세트 손실: 0.374279\t최선의 손실: 0.374279\t정확도: 78.50%\n", - "13\t검증 세트 손실: 0.378378\t최선의 손실: 0.374279\t정확도: 79.40%\n", - "14\t검증 세트 손실: 0.385741\t최선의 손실: 0.374279\t정확도: 78.42%\n", - "15\t검증 세트 손실: 0.380809\t최선의 손실: 0.374279\t정확도: 79.52%\n", - "16\t검증 세트 손실: 0.371720\t최선의 손실: 0.371720\t정확도: 78.77%\n", - "17\t검증 세트 손실: 0.386045\t최선의 손실: 0.371720\t정확도: 79.52%\n", - "18\t검증 세트 손실: 0.378336\t최선의 손실: 0.371720\t정확도: 79.71%\n", - "19\t검증 세트 손실: 0.368457\t최선의 손실: 0.368457\t정확도: 78.50%\n", - "20\t검증 세트 손실: 0.376790\t최선의 손실: 0.368457\t정확도: 79.59%\n" + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation=, total= 3.7s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation= \n", + "0\t검증 세트 손실: 1.149056\t최선의 손실: 1.149056\t정확도: 55.94%\n", + "1\t검증 세트 손실: 1.031691\t최선의 손실: 1.031691\t정확도: 48.44%\n", + "2\t검증 세트 손실: 0.871322\t최선의 손실: 0.871322\t정확도: 58.33%\n", + "3\t검증 세트 손실: 0.762837\t최선의 손실: 0.762837\t정확도: 65.09%\n", + "4\t검증 세트 손실: 0.712853\t최선의 손실: 0.712853\t정확도: 57.66%\n", + "5\t검증 세트 손실: 0.692225\t최선의 손실: 0.692225\t정확도: 60.63%\n", + "6\t검증 세트 손실: 0.683388\t최선의 손실: 0.683388\t정확도: 59.81%\n", + "7\t검증 세트 손실: 0.688350\t최선의 손실: 0.683388\t정확도: 58.25%\n", + "8\t검증 세트 손실: 0.683325\t최선의 손실: 0.683325\t정확도: 58.09%\n", + "9\t검증 세트 손실: 0.698650\t최선의 손실: 0.683325\t정확도: 59.23%\n", + "10\t검증 세트 손실: 0.640619\t최선의 손실: 0.640619\t정확도: 58.84%\n", + "11\t검증 세트 손실: 0.700529\t최선의 손실: 0.640619\t정확도: 64.97%\n", + "12\t검증 세트 손실: 0.735474\t최선의 손실: 0.640619\t정확도: 65.01%\n", + "13\t검증 세트 손실: 0.624023\t최선의 손실: 0.624023\t정확도: 76.11%\n", + "14\t검증 세트 손실: 0.554785\t최선의 손실: 0.554785\t정확도: 75.72%\n", + "15\t검증 세트 손실: 1.675981\t최선의 손실: 0.554785\t정확도: 57.08%\n", + "16\t검증 세트 손실: 0.708463\t최선의 손실: 0.554785\t정확도: 59.46%\n", + "17\t검증 세트 손실: 0.719484\t최선의 손실: 0.554785\t정확도: 60.40%\n", + "18\t검증 세트 손실: 0.691967\t최선의 손실: 0.554785\t정확도: 58.25%\n", + "19\t검증 세트 손실: 0.708979\t최선의 손실: 0.554785\t정확도: 59.46%\n", + "20\t검증 세트 손실: 0.670290\t최선의 손실: 0.554785\t정확도: 59.46%\n", + "21\t검증 세트 손실: 0.703296\t최선의 손실: 0.554785\t정확도: 60.36%\n", + "22\t검증 세트 손실: 0.752909\t최선의 손실: 0.554785\t정확도: 61.69%\n", + "23\t검증 세트 손실: 0.582226\t최선의 손실: 0.554785\t정확도: 71.89%\n", + "24\t검증 세트 손실: 0.594442\t최선의 손실: 0.554785\t정확도: 76.23%\n", + "25\t검증 세트 손실: 1.113296\t최선의 손실: 0.554785\t정확도: 57.51%\n", + "26\t검증 세트 손실: 0.760272\t최선의 손실: 0.554785\t정확도: 58.64%\n", + "27\t검증 세트 손실: 1.598759\t최선의 손실: 0.554785\t정확도: 27.60%\n", + "28\t검증 세트 손실: 1.651352\t최선의 손실: 0.554785\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.651581\t최선의 손실: 0.554785\t정확도: 20.91%\n", + "30\t검증 세트 손실: 1.626644\t최선의 손실: 0.554785\t정확도: 22.01%\n", + "31\t검증 세트 손실: 1.618420\t최선의 손실: 0.554785\t정확도: 18.73%\n", + "32\t검증 세트 손실: 1.625651\t최선의 손실: 0.554785\t정확도: 18.73%\n", + "33\t검증 세트 손실: 1.669146\t최선의 손실: 0.554785\t정확도: 20.91%\n", + "34\t검증 세트 손실: 1.622727\t최선의 손실: 0.554785\t정확도: 22.01%\n", + "35\t검증 세트 손실: 1.627148\t최선의 손실: 0.554785\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.3, batch_size=500, activation=, total= 3.4s\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 203.375519\t최선의 손실: 203.375519\t정확도: 27.60%\n", + "1\t검증 세트 손실: 130.534409\t최선의 손실: 130.534409\t정확도: 41.13%\n", + "2\t검증 세트 손실: 37.292194\t최선의 손실: 37.292194\t정확도: 38.86%\n", + "3\t검증 세트 손실: 50.835064\t최선의 손실: 37.292194\t정확도: 45.93%\n", + "4\t검증 세트 손실: 15.150852\t최선의 손실: 15.150852\t정확도: 59.15%\n", + "5\t검증 세트 손실: 17.030458\t최선의 손실: 15.150852\t정확도: 52.58%\n", + "6\t검증 세트 손실: 6.338008\t최선의 손실: 6.338008\t정확도: 66.30%\n", + "7\t검증 세트 손실: 4.532752\t최선의 손실: 4.532752\t정확도: 69.35%\n", + "8\t검증 세트 손실: 56.391682\t최선의 손실: 4.532752\t정확도: 47.77%\n", + "9\t검증 세트 손실: 86406.843750\t최선의 손실: 4.532752\t정확도: 19.31%\n", + "10\t검증 세트 손실: 59238.531250\t최선의 손실: 4.532752\t정확도: 24.94%\n", + "11\t검증 세트 손실: 23451.144531\t최선의 손실: 4.532752\t정확도: 18.84%\n", + "12\t검증 세트 손실: 11307.425781\t최선의 손실: 4.532752\t정확도: 31.94%\n", + "13\t검증 세트 손실: 10362.634766\t최선의 손실: 4.532752\t정확도: 35.07%\n", + "14\t검증 세트 손실: 23050.310547\t최선의 손실: 4.532752\t정확도: 22.40%\n", + "15\t검증 세트 손실: 5834.794922\t최선의 손실: 4.532752\t정확도: 46.36%\n", + "16\t검증 세트 손실: 6920.783203\t최선의 손실: 4.532752\t정확도: 38.58%\n", + "17\t검증 세트 손실: 6299.347168\t최선의 손실: 4.532752\t정확도: 31.55%\n", + "18\t검증 세트 손실: 3925.498779\t최선의 손실: 4.532752\t정확도: 35.97%\n", + "19\t검증 세트 손실: 3539.360840\t최선의 손실: 4.532752\t정확도: 33.70%\n", + "20\t검증 세트 손실: 3092.455811\t최선의 손실: 4.532752\t정확도: 35.18%\n", + "21\t검증 세트 손실: 1357.668945\t최선의 손실: 4.532752\t정확도: 55.12%\n", + "22\t검증 세트 손실: 1418.364380\t최선의 손실: 4.532752\t정확도: 35.50%\n", + "23\t검증 세트 손실: 833.711426\t최선의 손실: 4.532752\t정확도: 34.95%\n", + "24\t검증 세트 손실: 730.634583\t최선의 손실: 4.532752\t정확도: 38.66%\n", + "25\t검증 세트 손실: 697.948975\t최선의 손실: 4.532752\t정확도: 53.91%\n", + "26\t검증 세트 손실: 16314523.000000\t최선의 손실: 4.532752\t정확도: 19.19%\n", + "27\t검증 세트 손실: 160567.781250\t최선의 손실: 4.532752\t정확도: 53.67%\n", + "28\t검증 세트 손실: 188302.718750\t최선의 손실: 4.532752\t정확도: 57.08%\n", + "조기 종료!\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 16.7s\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 2439.254395\t최선의 손실: 2439.254395\t정확도: 20.09%\n", + "1\t검증 세트 손실: 200.334885\t최선의 손실: 200.334885\t정확도: 40.46%\n", + "2\t검증 세트 손실: 718148.437500\t최선의 손실: 200.334885\t정확도: 20.88%\n", + "3\t검증 세트 손실: 10779.916992\t최선의 손실: 200.334885\t정확도: 19.16%\n", + "4\t검증 세트 손실: 781.303162\t최선의 손실: 200.334885\t정확도: 28.30%\n", + "5\t검증 세트 손실: 16370.267578\t최선의 손실: 200.334885\t정확도: 22.95%\n", + "6\t검증 세트 손실: 2779.209961\t최선의 손실: 200.334885\t정확도: 41.09%\n", + "7\t검증 세트 손실: 1769.165771\t최선의 손실: 200.334885\t정확도: 19.23%\n", + "8\t검증 세트 손실: 2109.723633\t최선의 손실: 200.334885\t정확도: 21.50%\n", + "9\t검증 세트 손실: 554.815857\t최선의 손실: 200.334885\t정확도: 25.25%\n", + "10\t검증 세트 손실: 842.064575\t최선의 손실: 200.334885\t정확도: 21.31%\n", + "11\t검증 세트 손실: 488.546265\t최선의 손실: 200.334885\t정확도: 32.88%\n", + "12\t검증 세트 손실: 314.169403\t최선의 손실: 200.334885\t정확도: 39.76%\n", + "13\t검증 세트 손실: 157.647705\t최선의 손실: 157.647705\t정확도: 37.02%\n", + "14\t검증 세트 손실: 1228.340942\t최선의 손실: 157.647705\t정확도: 32.13%\n", + "15\t검증 세트 손실: 10049017.000000\t최선의 손실: 157.647705\t정확도: 25.06%\n", + "16\t검증 세트 손실: 240387.859375\t최선의 손실: 157.647705\t정확도: 56.92%\n", + "17\t검증 세트 손실: 95561.117188\t최선의 손실: 157.647705\t정확도: 57.11%\n", + "18\t검증 세트 손실: 104026.679688\t최선의 손실: 157.647705\t정확도: 58.72%\n", + "19\t검증 세트 손실: 50191.238281\t최선의 손실: 157.647705\t정확도: 74.55%\n", + "20\t검증 세트 손실: 53633.507812\t최선의 손실: 157.647705\t정확도: 57.94%\n", + "21\t검증 세트 손실: 120133.804688\t최선의 손실: 157.647705\t정확도: 63.02%\n", + "22\t검증 세트 손실: 31064.279297\t최선의 손실: 157.647705\t정확도: 73.26%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "21\t검증 세트 손실: 0.361580\t최선의 손실: 0.361580\t정확도: 79.59%\n", - "22\t검증 세트 손실: 0.370696\t최선의 손실: 0.361580\t정확도: 79.79%\n", - "23\t검증 세트 손실: 0.375503\t최선의 손실: 0.361580\t정확도: 79.83%\n", - "24\t검증 세트 손실: 0.367775\t최선의 손실: 0.361580\t정확도: 79.48%\n", - "25\t검증 세트 손실: 0.372478\t최선의 손실: 0.361580\t정확도: 78.50%\n", - "26\t검증 세트 손실: 0.363384\t최선의 손실: 0.361580\t정확도: 78.66%\n", - "27\t검증 세트 손실: 0.361154\t최선의 손실: 0.361154\t정확도: 78.54%\n", - "28\t검증 세트 손실: 0.381992\t최선의 손실: 0.361154\t정확도: 79.48%\n", - "29\t검증 세트 손실: 0.368399\t최선의 손실: 0.361154\t정확도: 79.44%\n", - "30\t검증 세트 손실: 0.362182\t최선의 손실: 0.361154\t정확도: 79.52%\n", - "31\t검증 세트 손실: 0.375691\t최선의 손실: 0.361154\t정확도: 78.69%\n", - "32\t검증 세트 손실: 0.372563\t최선의 손실: 0.361154\t정확도: 79.48%\n", - "33\t검증 세트 손실: 0.364225\t최선의 손실: 0.361154\t정확도: 78.69%\n", - "34\t검증 세트 손실: 0.380435\t최선의 손실: 0.361154\t정확도: 78.62%\n", - "35\t검증 세트 손실: 0.366205\t최선의 손실: 0.361154\t정확도: 78.69%\n", - "36\t검증 세트 손실: 0.358919\t최선의 손실: 0.358919\t정확도: 79.71%\n", - "37\t검증 세트 손실: 0.372094\t최선의 손실: 0.358919\t정확도: 79.55%\n", - "38\t검증 세트 손실: 0.371138\t최선의 손실: 0.358919\t정확도: 79.40%\n", - "39\t검증 세트 손실: 0.388013\t최선의 손실: 0.358919\t정확도: 79.40%\n", - "40\t검증 세트 손실: 0.376647\t최선의 손실: 0.358919\t정확도: 78.38%\n", - "41\t검증 세트 손실: 0.371309\t최선의 손실: 0.358919\t정확도: 78.62%\n", - "42\t검증 세트 손실: 0.364993\t최선의 손실: 0.358919\t정확도: 79.63%\n", - "43\t검증 세트 손실: 0.360353\t최선의 손실: 0.358919\t정확도: 78.62%\n", - "44\t검증 세트 손실: 0.358623\t최선의 손실: 0.358623\t정확도: 79.67%\n", - "45\t검증 세트 손실: 0.352394\t최선의 손실: 0.352394\t정확도: 78.50%\n", - "46\t검증 세트 손실: 0.356378\t최선의 손실: 0.352394\t정확도: 78.81%\n", - "47\t검증 세트 손실: 0.367483\t최선의 손실: 0.352394\t정확도: 79.83%\n", - "48\t검증 세트 손실: 0.364350\t최선의 손실: 0.352394\t정확도: 78.81%\n", - "49\t검증 세트 손실: 0.367400\t최선의 손실: 0.352394\t정확도: 79.67%\n", - "50\t검증 세트 손실: 0.365146\t최선의 손실: 0.352394\t정확도: 78.58%\n", - "51\t검증 세트 손실: 0.355932\t최선의 손실: 0.352394\t정확도: 79.71%\n", - "52\t검증 세트 손실: 0.361619\t최선의 손실: 0.352394\t정확도: 79.59%\n", - "53\t검증 세트 손실: 0.370934\t최선의 손실: 0.352394\t정확도: 79.40%\n", - "54\t검증 세트 손실: 0.357847\t최선의 손실: 0.352394\t정확도: 78.58%\n", - "55\t검증 세트 손실: 0.362401\t최선의 손실: 0.352394\t정확도: 78.50%\n", - "56\t검증 세트 손실: 0.366463\t최선의 손실: 0.352394\t정확도: 79.71%\n", - "57\t검증 세트 손실: 0.363646\t최선의 손실: 0.352394\t정확도: 78.66%\n", - "58\t검증 세트 손실: 0.348260\t최선의 손실: 0.348260\t정확도: 79.79%\n", - "59\t검증 세트 손실: 0.357522\t최선의 손실: 0.348260\t정확도: 79.63%\n", - "60\t검증 세트 손실: 0.350266\t최선의 손실: 0.348260\t정확도: 79.59%\n", - "61\t검증 세트 손실: 0.346201\t최선의 손실: 0.346201\t정확도: 79.87%\n", - "62\t검증 세트 손실: 0.356755\t최선의 손실: 0.346201\t정확도: 79.75%\n", - "63\t검증 세트 손실: 0.358153\t최선의 손실: 0.346201\t정확도: 79.83%\n", - "64\t검증 세트 손실: 0.363448\t최선의 손실: 0.346201\t정확도: 78.50%\n", - "65\t검증 세트 손실: 0.356743\t최선의 손실: 0.346201\t정확도: 78.81%\n", - "66\t검증 세트 손실: 0.350304\t최선의 손실: 0.346201\t정확도: 79.95%\n", - "67\t검증 세트 손실: 0.353843\t최선의 손실: 0.346201\t정확도: 78.54%\n", - "68\t검증 세트 손실: 0.359308\t최선의 손실: 0.346201\t정확도: 79.59%\n", - "69\t검증 세트 손실: 0.345122\t최선의 손실: 0.345122\t정확도: 78.97%\n", - "70\t검증 세트 손실: 0.343481\t최선의 손실: 0.343481\t정확도: 79.79%\n", - "71\t검증 세트 손실: 0.345465\t최선의 손실: 0.343481\t정확도: 79.91%\n", - "72\t검증 세트 손실: 0.349714\t최선의 손실: 0.343481\t정확도: 79.44%\n", - "73\t검증 세트 손실: 0.340736\t최선의 손실: 0.340736\t정확도: 79.95%\n", - "74\t검증 세트 손실: 0.350472\t최선의 손실: 0.340736\t정확도: 79.28%\n", - "75\t검증 세트 손실: 0.344571\t최선의 손실: 0.340736\t정확도: 79.16%\n", - "76\t검증 세트 손실: 0.375671\t최선의 손실: 0.340736\t정확도: 79.20%\n", - "77\t검증 세트 손실: 0.346682\t최선의 손실: 0.340736\t정확도: 79.91%\n", - "78\t검증 세트 손실: 0.345636\t최선의 손실: 0.340736\t정확도: 79.91%\n", - "79\t검증 세트 손실: 0.340211\t최선의 손실: 0.340211\t정확도: 79.59%\n", - "80\t검증 세트 손실: 0.347218\t최선의 손실: 0.340211\t정확도: 79.05%\n", - "81\t검증 세트 손실: 0.367157\t최선의 손실: 0.340211\t정확도: 79.79%\n", - "82\t검증 세트 손실: 0.349629\t최선의 손실: 0.340211\t정확도: 79.83%\n", - "83\t검증 세트 손실: 0.349602\t최선의 손실: 0.340211\t정확도: 78.89%\n", - "84\t검증 세트 손실: 0.346377\t최선의 손실: 0.340211\t정확도: 79.95%\n", - "85\t검증 세트 손실: 0.362088\t최선의 손실: 0.340211\t정확도: 79.05%\n", - "86\t검증 세트 손실: 0.349904\t최선의 손실: 0.340211\t정확도: 79.20%\n", - "87\t검증 세트 손실: 0.344509\t최선의 손실: 0.340211\t정확도: 79.91%\n", - "88\t검증 세트 손실: 0.348322\t최선의 손실: 0.340211\t정확도: 79.16%\n", - "89\t검증 세트 손실: 0.345854\t최선의 손실: 0.340211\t정확도: 79.75%\n", - "90\t검증 세트 손실: 0.367974\t최선의 손실: 0.340211\t정확도: 79.67%\n", - "91\t검증 세트 손실: 0.346595\t최선의 손실: 0.340211\t정확도: 78.97%\n", - "92\t검증 세트 손실: 0.350459\t최선의 손실: 0.340211\t정확도: 78.93%\n", - "93\t검증 세트 손실: 0.362182\t최선의 손실: 0.340211\t정확도: 79.16%\n", - "94\t검증 세트 손실: 0.350158\t최선의 손실: 0.340211\t정확도: 80.14%\n", - "95\t검증 세트 손실: 0.345832\t최선의 손실: 0.340211\t정확도: 79.36%\n", - "96\t검증 세트 손실: 0.343908\t최선의 손실: 0.340211\t정확도: 79.91%\n", - "97\t검증 세트 손실: 0.346297\t최선의 손실: 0.340211\t정확도: 80.02%\n", - "98\t검증 세트 손실: 0.342548\t최선의 손실: 0.340211\t정확도: 80.06%\n", - "99\t검증 세트 손실: 0.341764\t최선의 손실: 0.340211\t정확도: 79.98%\n", - "100\t검증 세트 손실: 0.348114\t최선의 손실: 0.340211\t정확도: 80.06%\n", + "23\t검증 세트 손실: 27519.023438\t최선의 손실: 157.647705\t정확도: 64.39%\n", + "24\t검증 세트 손실: 20065.062500\t최선의 손실: 157.647705\t정확도: 67.44%\n", + "25\t검증 세트 손실: 11039.448242\t최선의 손실: 157.647705\t정확도: 71.07%\n", + "26\t검증 세트 손실: 23881.529297\t최선의 손실: 157.647705\t정확도: 63.37%\n", + "27\t검증 세트 손실: 11178.789062\t최선의 손실: 157.647705\t정확도: 58.44%\n", + "28\t검증 세트 손실: 26574.189453\t최선의 손실: 157.647705\t정확도: 67.67%\n", + "29\t검증 세트 손실: 9073.523438\t최선의 손실: 157.647705\t정확도: 70.99%\n", + "30\t검증 세트 손실: 8123.081543\t최선의 손실: 157.647705\t정확도: 68.76%\n", + "31\t검증 세트 손실: 20200.857422\t최선의 손실: 157.647705\t정확도: 65.56%\n", + "32\t검증 세트 손실: 241718.937500\t최선의 손실: 157.647705\t정확도: 51.49%\n", + "33\t검증 세트 손실: 107474.750000\t최선의 손실: 157.647705\t정확도: 65.60%\n", + "34\t검증 세트 손실: 636027.250000\t최선의 손실: 157.647705\t정확도: 64.97%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.6, learning_rate=0.01, activation=, n_neurons=30, total= 8.3s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.170137\t최선의 손실: 0.170137\t정확도: 95.82%\n", - "1\t검증 세트 손실: 0.112223\t최선의 손실: 0.112223\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.107462\t최선의 손실: 0.107462\t정확도: 97.26%\n", - "3\t검증 세트 손실: 0.097415\t최선의 손실: 0.097415\t정확도: 97.69%\n", - "4\t검증 세트 손실: 0.086659\t최선의 손실: 0.086659\t정확도: 97.93%\n", - "5\t검증 세트 손실: 0.093971\t최선의 손실: 0.086659\t정확도: 97.73%\n", - "6\t검증 세트 손실: 0.089811\t최선의 손실: 0.086659\t정확도: 97.58%\n", - "7\t검증 세트 손실: 0.091021\t최선의 손실: 0.086659\t정확도: 97.38%\n", - "8\t검증 세트 손실: 0.090911\t최선의 손실: 0.086659\t정확도: 97.97%\n", - "9\t검증 세트 손실: 0.091018\t최선의 손실: 0.086659\t정확도: 97.73%\n", - "10\t검증 세트 손실: 0.081969\t최선의 손실: 0.081969\t정확도: 97.65%\n", - "11\t검증 세트 손실: 0.086499\t최선의 손실: 0.081969\t정확도: 97.81%\n", - "12\t검증 세트 손실: 0.080836\t최선의 손실: 0.080836\t정확도: 97.89%\n", - "13\t검증 세트 손실: 0.080369\t최선의 손실: 0.080369\t정확도: 98.08%\n", - "14\t검증 세트 손실: 0.082626\t최선의 손실: 0.080369\t정확도: 97.89%\n", - "15\t검증 세트 손실: 0.082561\t최선의 손실: 0.080369\t정확도: 97.97%\n", - "16\t검증 세트 손실: 0.089769\t최선의 손실: 0.080369\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.079732\t최선의 손실: 0.079732\t정확도: 97.85%\n", - "18\t검증 세트 손실: 0.090051\t최선의 손실: 0.079732\t정확도: 97.73%\n", - "19\t검증 세트 손실: 0.096336\t최선의 손실: 0.079732\t정확도: 97.65%\n", - "20\t검증 세트 손실: 0.089754\t최선의 손실: 0.079732\t정확도: 98.08%\n", - "21\t검증 세트 손실: 0.100738\t최선의 손실: 0.079732\t정확도: 97.81%\n", - "22\t검증 세트 손실: 0.100543\t최선의 손실: 0.079732\t정확도: 97.69%\n", - "23\t검증 세트 손실: 0.115126\t최선의 손실: 0.079732\t정확도: 97.30%\n", - "24\t검증 세트 손실: 0.090235\t최선의 손실: 0.079732\t정확도: 97.65%\n", - "25\t검증 세트 손실: 0.091567\t최선의 손실: 0.079732\t정확도: 97.81%\n", - "26\t검증 세트 손실: 0.098280\t최선의 손실: 0.079732\t정확도: 97.62%\n", - "27\t검증 세트 손실: 0.094038\t최선의 손실: 0.079732\t정확도: 97.50%\n", - "28\t검증 세트 손실: 0.109118\t최선의 손실: 0.079732\t정확도: 97.69%\n", - "29\t검증 세트 손실: 0.102614\t최선의 손실: 0.079732\t정확도: 97.07%\n", - "30\t검증 세트 손실: 0.088996\t최선의 손실: 0.079732\t정확도: 97.42%\n", - "31\t검증 세트 손실: 0.092505\t최선의 손실: 0.079732\t정확도: 97.42%\n", - "32\t검증 세트 손실: 0.106500\t최선의 손실: 0.079732\t정확도: 97.50%\n", - "33\t검증 세트 손실: 0.100540\t최선의 손실: 0.079732\t정확도: 97.77%\n", - "34\t검증 세트 손실: 0.163736\t최선의 손실: 0.079732\t정확도: 97.19%\n", - "35\t검증 세트 손실: 0.216090\t최선의 손실: 0.079732\t정확도: 93.75%\n", - "36\t검증 세트 손실: 0.240294\t최선의 손실: 0.079732\t정확도: 93.94%\n", - "37\t검증 세트 손실: 0.294572\t최선의 손실: 0.079732\t정확도: 95.35%\n", - "38\t검증 세트 손실: 0.190992\t최선의 손실: 0.079732\t정확도: 95.43%\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 20.1s\n", + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 23521.603516\t최선의 손실: 23521.603516\t정확도: 38.98%\n", + "1\t검증 세트 손실: 357.172974\t최선의 손실: 357.172974\t정확도: 57.70%\n", + "2\t검증 세트 손실: 461.925537\t최선의 손실: 357.172974\t정확도: 55.12%\n", + "3\t검증 세트 손실: 221.691895\t최선의 손실: 221.691895\t정확도: 56.53%\n", + "4\t검증 세트 손실: 693.235046\t최선의 손실: 221.691895\t정확도: 39.37%\n", + "5\t검증 세트 손실: 351.631226\t최선의 손실: 221.691895\t정확도: 42.06%\n", + "6\t검증 세트 손실: 747.338684\t최선의 손실: 221.691895\t정확도: 56.53%\n", + "7\t검증 세트 손실: 106.037331\t최선의 손실: 106.037331\t정확도: 57.08%\n", + "8\t검증 세트 손실: 240367.312500\t최선의 손실: 106.037331\t정확도: 49.37%\n", + "9\t검증 세트 손실: 20922.882812\t최선의 손실: 106.037331\t정확도: 48.79%\n", + "10\t검증 세트 손실: 21855.970703\t최선의 손실: 106.037331\t정확도: 49.22%\n", + "11\t검증 세트 손실: 35932.699219\t최선의 손실: 106.037331\t정확도: 28.03%\n", + "12\t검증 세트 손실: 3679.747559\t최선의 손실: 106.037331\t정확도: 49.45%\n", + "13\t검증 세트 손실: 3700.005859\t최선의 손실: 106.037331\t정확도: 61.81%\n", + "14\t검증 세트 손실: 6329.749512\t최선의 손실: 106.037331\t정확도: 52.38%\n", + "15\t검증 세트 손실: 3901.501221\t최선의 손실: 106.037331\t정확도: 55.94%\n", + "16\t검증 세트 손실: 9741.711914\t최선의 손실: 106.037331\t정확도: 46.21%\n", + "17\t검증 세트 손실: 3775.770996\t최선의 손실: 106.037331\t정확도: 63.37%\n", + "18\t검증 세트 손실: 8313.662109\t최선의 손실: 106.037331\t정확도: 52.23%\n", + "19\t검증 세트 손실: 4020.666504\t최선의 손실: 106.037331\t정확도: 42.96%\n", + "20\t검증 세트 손실: 3237.791992\t최선의 손실: 106.037331\t정확도: 44.96%\n", + "21\t검증 세트 손실: 1298.370972\t최선의 손실: 106.037331\t정확도: 71.58%\n", + "22\t검증 세트 손실: 10884.546875\t최선의 손실: 106.037331\t정확도: 72.91%\n", + "23\t검증 세트 손실: 10779.496094\t최선의 손실: 106.037331\t정확도: 59.23%\n", + "24\t검증 세트 손실: 9461595.000000\t최선의 손실: 106.037331\t정확도: 68.49%\n", + "25\t검증 세트 손실: 430874.031250\t최선의 손실: 106.037331\t정확도: 88.04%\n", + "26\t검증 세트 손실: 139996.453125\t최선의 손실: 106.037331\t정확도: 75.92%\n", + "27\t검증 세트 손실: 90540.273438\t최선의 손실: 106.037331\t정확도: 90.66%\n", + "28\t검증 세트 손실: 200729.937500\t최선의 손실: 106.037331\t정확도: 82.13%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 4.2s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.146101\t최선의 손실: 0.146101\t정확도: 95.74%\n", - "1\t검증 세트 손실: 0.111128\t최선의 손실: 0.111128\t정확도: 96.99%\n", - "2\t검증 세트 손실: 0.093952\t최선의 손실: 0.093952\t정확도: 97.22%\n", - "3\t검증 세트 손실: 0.094825\t최선의 손실: 0.093952\t정확도: 97.46%\n", - "4\t검증 세트 손실: 0.104640\t최선의 손실: 0.093952\t정확도: 97.50%\n", - "5\t검증 세트 손실: 0.092439\t최선의 손실: 0.092439\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.089593\t최선의 손실: 0.089593\t정확도: 97.65%\n", - "7\t검증 세트 손실: 0.095892\t최선의 손실: 0.089593\t정확도: 97.69%\n", - "8\t검증 세트 손실: 0.082794\t최선의 손실: 0.082794\t정확도: 97.93%\n", - "9\t검증 세트 손실: 0.084162\t최선의 손실: 0.082794\t정확도: 97.93%\n", - "10\t검증 세트 손실: 0.111642\t최선의 손실: 0.082794\t정확도: 97.58%\n", - "11\t검증 세트 손실: 0.090441\t최선의 손실: 0.082794\t정확도: 97.62%\n", - "12\t검증 세트 손실: 0.093313\t최선의 손실: 0.082794\t정확도: 97.50%\n", - "13\t검증 세트 손실: 0.083073\t최선의 손실: 0.082794\t정확도: 98.05%\n", - "14\t검증 세트 손실: 0.085389\t최선의 손실: 0.082794\t정확도: 98.01%\n", - "15\t검증 세트 손실: 0.093172\t최선의 손실: 0.082794\t정확도: 97.54%\n", - "16\t검증 세트 손실: 0.085850\t최선의 손실: 0.082794\t정확도: 98.01%\n", - "17\t검증 세트 손실: 0.090656\t최선의 손실: 0.082794\t정확도: 97.97%\n", - "18\t검증 세트 손실: 0.101822\t최선의 손실: 0.082794\t정확도: 97.73%\n", - "19\t검증 세트 손실: 0.076227\t최선의 손실: 0.076227\t정확도: 98.12%\n", - "20\t검증 세트 손실: 0.118536\t최선의 손실: 0.076227\t정확도: 97.89%\n", - "21\t검증 세트 손실: 0.100835\t최선의 손실: 0.076227\t정확도: 97.81%\n", - "22\t검증 세트 손실: 0.091804\t최선의 손실: 0.076227\t정확도: 98.05%\n", - "23\t검증 세트 손실: 0.091698\t최선의 손실: 0.076227\t정확도: 97.69%\n", - "24\t검증 세트 손실: 0.110993\t최선의 손실: 0.076227\t정확도: 97.73%\n", - "25\t검증 세트 손실: 0.182825\t최선의 손실: 0.076227\t정확도: 97.54%\n", - "26\t검증 세트 손실: 0.220435\t최선의 손실: 0.076227\t정확도: 95.58%\n", - "27\t검증 세트 손실: 0.188933\t최선의 손실: 0.076227\t정확도: 93.86%\n", - "28\t검증 세트 손실: 0.230112\t최선의 손실: 0.076227\t정확도: 94.92%\n", - "29\t검증 세트 손실: 0.166694\t최선의 손실: 0.076227\t정확도: 95.58%\n" + "[CV] n_neurons=70, learning_rate=0.1, dropout_rate=0.2, batch_size=50, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 16.8s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.851422\t최선의 손실: 0.851422\t정확도: 54.81%\n", + "1\t검증 세트 손실: 0.395093\t최선의 손실: 0.395093\t정확도: 79.32%\n", + "2\t검증 세트 손실: 0.367348\t최선의 손실: 0.367348\t정확도: 80.18%\n", + "3\t검증 세트 손실: 0.375093\t최선의 손실: 0.367348\t정확도: 78.34%\n", + "4\t검증 세트 손실: 0.360400\t최선의 손실: 0.360400\t정확도: 79.67%\n", + "5\t검증 세트 손실: 0.370115\t최선의 손실: 0.360400\t정확도: 78.46%\n", + "6\t검증 세트 손실: 0.376696\t최선의 손실: 0.360400\t정확도: 79.44%\n", + "7\t검증 세트 손실: 0.363899\t최선의 손실: 0.360400\t정확도: 79.71%\n", + "8\t검증 세트 손실: 0.367508\t최선의 손실: 0.360400\t정확도: 79.63%\n", + "9\t검증 세트 손실: 0.379138\t최선의 손실: 0.360400\t정확도: 79.48%\n", + "10\t검증 세트 손실: 0.370567\t최선의 손실: 0.360400\t정확도: 78.42%\n", + "11\t검증 세트 손실: 0.373516\t최선의 손실: 0.360400\t정확도: 79.36%\n", + "12\t검증 세트 손실: 0.370364\t최선의 손실: 0.360400\t정확도: 78.34%\n", + "13\t검증 세트 손실: 0.359186\t최선의 손실: 0.359186\t정확도: 79.52%\n", + "14\t검증 세트 손실: 0.358990\t최선의 손실: 0.358990\t정확도: 79.40%\n", + "15\t검증 세트 손실: 0.356374\t최선의 손실: 0.356374\t정확도: 79.83%\n", + "16\t검증 세트 손실: 0.352146\t최선의 손실: 0.352146\t정확도: 79.98%\n", + "17\t검증 세트 손실: 0.358228\t최선의 손실: 0.352146\t정확도: 79.67%\n", + "18\t검증 세트 손실: 0.361987\t최선의 손실: 0.352146\t정확도: 79.40%\n", + "19\t검증 세트 손실: 0.354265\t최선의 손실: 0.352146\t정확도: 79.71%\n", + "20\t검증 세트 손실: 0.350250\t최선의 손실: 0.350250\t정확도: 79.55%\n", + "21\t검증 세트 손실: 0.353328\t최선의 손실: 0.350250\t정확도: 78.58%\n", + "22\t검증 세트 손실: 0.363967\t최선의 손실: 0.350250\t정확도: 79.55%\n", + "23\t검증 세트 손실: 0.364376\t최선의 손실: 0.350250\t정확도: 78.54%\n", + "24\t검증 세트 손실: 0.357876\t최선의 손실: 0.350250\t정확도: 79.67%\n", + "25\t검증 세트 손실: 0.356532\t최선의 손실: 0.350250\t정확도: 78.73%\n", + "26\t검증 세트 손실: 0.362695\t최선의 손실: 0.350250\t정확도: 79.59%\n", + "27\t검증 세트 손실: 0.347330\t최선의 손실: 0.347330\t정확도: 78.97%\n", + "28\t검증 세트 손실: 0.352259\t최선의 손실: 0.347330\t정확도: 80.88%\n", + "29\t검증 세트 손실: 0.348214\t최선의 손실: 0.347330\t정확도: 79.87%\n", + "30\t검증 세트 손실: 0.353726\t최선의 손실: 0.347330\t정확도: 79.59%\n", + "31\t검증 세트 손실: 0.353038\t최선의 손실: 0.347330\t정확도: 79.63%\n", + "32\t검증 세트 손실: 0.346366\t최선의 손실: 0.346366\t정확도: 79.87%\n", + "33\t검증 세트 손실: 0.350113\t최선의 손실: 0.346366\t정확도: 79.79%\n", + "34\t검증 세트 손실: 0.359944\t최선의 손실: 0.346366\t정확도: 79.67%\n", + "35\t검증 세트 손실: 0.351303\t최선의 손실: 0.346366\t정확도: 79.67%\n", + "36\t검증 세트 손실: 0.351810\t최선의 손실: 0.346366\t정확도: 79.63%\n", + "37\t검증 세트 손실: 0.351320\t최선의 손실: 0.346366\t정확도: 79.79%\n", + "38\t검증 세트 손실: 0.351272\t최선의 손실: 0.346366\t정확도: 80.14%\n", + "39\t검증 세트 손실: 0.373251\t최선의 손실: 0.346366\t정확도: 78.77%\n", + "40\t검증 세트 손실: 0.366729\t최선의 손실: 0.346366\t정확도: 78.73%\n", + "41\t검증 세트 손실: 0.355887\t최선의 손실: 0.346366\t정확도: 79.59%\n", + "42\t검증 세트 손실: 0.347724\t최선의 손실: 0.346366\t정확도: 79.87%\n", + "43\t검증 세트 손실: 0.351149\t최선의 손실: 0.346366\t정확도: 79.79%\n", + "44\t검증 세트 손실: 0.353820\t최선의 손실: 0.346366\t정확도: 79.63%\n", + "45\t검증 세트 손실: 0.339426\t최선의 손실: 0.339426\t정확도: 79.01%\n", + "46\t검증 세트 손실: 0.351507\t최선의 손실: 0.339426\t정확도: 78.89%\n", + "47\t검증 세트 손실: 0.347891\t최선의 손실: 0.339426\t정확도: 79.91%\n", + "48\t검증 세트 손실: 0.349170\t최선의 손실: 0.339426\t정확도: 79.83%\n", + "49\t검증 세트 손실: 0.343842\t최선의 손실: 0.339426\t정확도: 78.81%\n", + "50\t검증 세트 손실: 0.351295\t최선의 손실: 0.339426\t정확도: 79.87%\n", + "51\t검증 세트 손실: 0.347003\t최선의 손실: 0.339426\t정확도: 79.79%\n", + "52\t검증 세트 손실: 0.361556\t최선의 손실: 0.339426\t정확도: 79.55%\n", + "53\t검증 세트 손실: 0.353520\t최선의 손실: 0.339426\t정확도: 78.89%\n", + "54\t검증 세트 손실: 0.345927\t최선의 손실: 0.339426\t정확도: 78.93%\n", + "55\t검증 세트 손실: 0.353640\t최선의 손실: 0.339426\t정확도: 79.55%\n", + "56\t검증 세트 손실: 0.350503\t최선의 손실: 0.339426\t정확도: 79.01%\n", + "57\t검증 세트 손실: 0.345373\t최선의 손실: 0.339426\t정확도: 79.75%\n", + "58\t검증 세트 손실: 0.356902\t최선의 손실: 0.339426\t정확도: 79.63%\n", + "59\t검증 세트 손실: 0.355579\t최선의 손실: 0.339426\t정확도: 79.71%\n", + "60\t검증 세트 손실: 0.353995\t최선의 손실: 0.339426\t정확도: 78.97%\n", + "61\t검증 세트 손실: 0.347633\t최선의 손실: 0.339426\t정확도: 80.30%\n", + "62\t검증 세트 손실: 0.344073\t최선의 손실: 0.339426\t정확도: 79.87%\n", + "63\t검증 세트 손실: 0.356822\t최선의 손실: 0.339426\t정확도: 78.50%\n", + "64\t검증 세트 손실: 0.357033\t최선의 손실: 0.339426\t정확도: 79.59%\n", + "65\t검증 세트 손실: 0.348725\t최선의 손실: 0.339426\t정확도: 79.71%\n", + "66\t검증 세트 손실: 0.347320\t최선의 손실: 0.339426\t정확도: 79.75%\n", + "조기 종료!\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation=, total= 5.1s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.446045\t최선의 손실: 0.446045\t정확도: 82.60%\n", + "1\t검증 세트 손실: 0.214724\t최선의 손실: 0.214724\t정확도: 95.11%\n", + "2\t검증 세트 손실: 0.163086\t최선의 손실: 0.163086\t정확도: 95.74%\n", + "3\t검증 세트 손실: 0.152291\t최선의 손실: 0.152291\t정확도: 95.82%\n", + "4\t검증 세트 손실: 0.157457\t최선의 손실: 0.152291\t정확도: 95.70%\n", + "5\t검증 세트 손실: 0.155854\t최선의 손실: 0.152291\t정확도: 95.66%\n", + "6\t검증 세트 손실: 0.146266\t최선의 손실: 0.146266\t정확도: 96.17%\n", + "7\t검증 세트 손실: 0.150540\t최선의 손실: 0.146266\t정확도: 95.97%\n", + "8\t검증 세트 손실: 0.146146\t최선의 손실: 0.146146\t정확도: 95.93%\n", + "9\t검증 세트 손실: 0.143507\t최선의 손실: 0.143507\t정확도: 96.29%\n", + "10\t검증 세트 손실: 0.148004\t최선의 손실: 0.143507\t정확도: 96.09%\n", + "11\t검증 세트 손실: 0.145635\t최선의 손실: 0.143507\t정확도: 96.29%\n", + "12\t검증 세트 손실: 0.145803\t최선의 손실: 0.143507\t정확도: 96.13%\n", + "13\t검증 세트 손실: 0.145607\t최선의 손실: 0.143507\t정확도: 96.36%\n", + "14\t검증 세트 손실: 0.140062\t최선의 손실: 0.140062\t정확도: 96.48%\n", + "15\t검증 세트 손실: 0.137480\t최선의 손실: 0.137480\t정확도: 96.33%\n", + "16\t검증 세트 손실: 0.139849\t최선의 손실: 0.137480\t정확도: 96.36%\n", + "17\t검증 세트 손실: 0.148119\t최선의 손실: 0.137480\t정확도: 96.21%\n", + "18\t검증 세트 손실: 0.144018\t최선의 손실: 0.137480\t정확도: 96.44%\n", + "19\t검증 세트 손실: 0.143529\t최선의 손실: 0.137480\t정확도: 96.33%\n", + "20\t검증 세트 손실: 0.139686\t최선의 손실: 0.137480\t정확도: 96.52%\n", + "21\t검증 세트 손실: 0.141363\t최선의 손실: 0.137480\t정확도: 96.29%\n", + "22\t검증 세트 손실: 0.135843\t최선의 손실: 0.135843\t정확도: 96.52%\n", + "23\t검증 세트 손실: 0.139756\t최선의 손실: 0.135843\t정확도: 96.48%\n", + "24\t검증 세트 손실: 0.138098\t최선의 손실: 0.135843\t정확도: 96.48%\n", + "25\t검증 세트 손실: 0.153462\t최선의 손실: 0.135843\t정확도: 96.25%\n", + "26\t검증 세트 손실: 0.143232\t최선의 손실: 0.135843\t정확도: 96.40%\n", + "27\t검증 세트 손실: 0.140224\t최선의 손실: 0.135843\t정확도: 96.44%\n", + "28\t검증 세트 손실: 0.147500\t최선의 손실: 0.135843\t정확도: 96.44%\n", + "29\t검증 세트 손실: 0.147504\t최선의 손실: 0.135843\t정확도: 96.40%\n", + "30\t검증 세트 손실: 0.129709\t최선의 손실: 0.129709\t정확도: 96.72%\n", + "31\t검증 세트 손실: 0.128541\t최선의 손실: 0.128541\t정확도: 96.83%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "30\t검증 세트 손실: 0.165243\t최선의 손실: 0.076227\t정확도: 95.07%\n", - "31\t검증 세트 손실: 0.182779\t최선의 손실: 0.076227\t정확도: 96.21%\n", - "32\t검증 세트 손실: 0.277647\t최선의 손실: 0.076227\t정확도: 91.75%\n", - "33\t검증 세트 손실: 0.232093\t최선의 손실: 0.076227\t정확도: 92.26%\n", - "34\t검증 세트 손실: 0.209724\t최선의 손실: 0.076227\t정확도: 95.15%\n", - "35\t검증 세트 손실: 0.218149\t최선의 손실: 0.076227\t정확도: 93.47%\n", - "36\t검증 세트 손실: 0.174842\t최선의 손실: 0.076227\t정확도: 96.05%\n", - "37\t검증 세트 손실: 0.127705\t최선의 손실: 0.076227\t정확도: 96.44%\n", - "38\t검증 세트 손실: 0.139084\t최선의 손실: 0.076227\t정확도: 96.01%\n", - "39\t검증 세트 손실: 0.125859\t최선의 손실: 0.076227\t정확도: 96.83%\n", - "40\t검증 세트 손실: 0.131933\t최선의 손실: 0.076227\t정확도: 96.36%\n", + "32\t검증 세트 손실: 0.135360\t최선의 손실: 0.128541\t정확도: 96.52%\n", + "33\t검증 세트 손실: 0.137879\t최선의 손실: 0.128541\t정확도: 96.68%\n", + "34\t검증 세트 손실: 0.141747\t최선의 손실: 0.128541\t정확도: 96.36%\n", + "35\t검증 세트 손실: 0.141991\t최선의 손실: 0.128541\t정확도: 96.64%\n", + "36\t검증 세트 손실: 0.141886\t최선의 손실: 0.128541\t정확도: 96.60%\n", + "37\t검증 세트 손실: 0.134145\t최선의 손실: 0.128541\t정확도: 96.76%\n", + "38\t검증 세트 손실: 0.134043\t최선의 손실: 0.128541\t정확도: 96.60%\n", + "39\t검증 세트 손실: 0.132154\t최선의 손실: 0.128541\t정확도: 96.72%\n", + "40\t검증 세트 손실: 0.129027\t최선의 손실: 0.128541\t정확도: 96.76%\n", + "41\t검증 세트 손실: 0.135704\t최선의 손실: 0.128541\t정확도: 96.48%\n", + "42\t검증 세트 손실: 0.132280\t최선의 손실: 0.128541\t정확도: 96.72%\n", + "43\t검증 세트 손실: 0.145105\t최선의 손실: 0.128541\t정확도: 96.56%\n", + "44\t검증 세트 손실: 0.137657\t최선의 손실: 0.128541\t정확도: 96.68%\n", + "45\t검증 세트 손실: 0.135352\t최선의 손실: 0.128541\t정확도: 96.56%\n", + "46\t검증 세트 손실: 0.138410\t최선의 손실: 0.128541\t정확도: 96.60%\n", + "47\t검증 세트 손실: 0.128217\t최선의 손실: 0.128217\t정확도: 96.87%\n", + "48\t검증 세트 손실: 0.126183\t최선의 손실: 0.126183\t정확도: 96.91%\n", + "49\t검증 세트 손실: 0.136400\t최선의 손실: 0.126183\t정확도: 96.60%\n", + "50\t검증 세트 손실: 0.126593\t최선의 손실: 0.126183\t정확도: 96.83%\n", + "51\t검증 세트 손실: 0.128030\t최선의 손실: 0.126183\t정확도: 96.60%\n", + "52\t검증 세트 손실: 0.132206\t최선의 손실: 0.126183\t정확도: 96.99%\n", + "53\t검증 세트 손실: 0.128973\t최선의 손실: 0.126183\t정확도: 96.48%\n", + "54\t검증 세트 손실: 0.130227\t최선의 손실: 0.126183\t정확도: 96.83%\n", + "55\t검증 세트 손실: 0.130050\t최선의 손실: 0.126183\t정확도: 96.72%\n", + "56\t검증 세트 손실: 0.122768\t최선의 손실: 0.122768\t정확도: 96.83%\n", + "57\t검증 세트 손실: 0.131854\t최선의 손실: 0.122768\t정확도: 96.64%\n", + "58\t검증 세트 손실: 0.129672\t최선의 손실: 0.122768\t정확도: 96.60%\n", + "59\t검증 세트 손실: 0.131350\t최선의 손실: 0.122768\t정확도: 96.68%\n", + "60\t검증 세트 손실: 0.128715\t최선의 손실: 0.122768\t정확도: 96.76%\n", + "61\t검증 세트 손실: 0.126742\t최선의 손실: 0.122768\t정확도: 96.91%\n", + "62\t검증 세트 손실: 0.132445\t최선의 손실: 0.122768\t정확도: 96.64%\n", + "63\t검증 세트 손실: 0.127283\t최선의 손실: 0.122768\t정확도: 96.91%\n", + "64\t검증 세트 손실: 0.133293\t최선의 손실: 0.122768\t정확도: 96.79%\n", + "65\t검증 세트 손실: 0.131478\t최선의 손실: 0.122768\t정확도: 96.64%\n", + "66\t검증 세트 손실: 0.137598\t최선의 손실: 0.122768\t정확도: 96.56%\n", + "67\t검증 세트 손실: 0.123602\t최선의 손실: 0.122768\t정확도: 96.95%\n", + "68\t검증 세트 손실: 0.121427\t최선의 손실: 0.121427\t정확도: 96.87%\n", + "69\t검증 세트 손실: 0.126076\t최선의 손실: 0.121427\t정확도: 96.72%\n", + "70\t검증 세트 손실: 0.125992\t최선의 손실: 0.121427\t정확도: 96.72%\n", + "71\t검증 세트 손실: 0.127722\t최선의 손실: 0.121427\t정확도: 96.68%\n", + "72\t검증 세트 손실: 0.120262\t최선의 손실: 0.120262\t정확도: 96.83%\n", + "73\t검증 세트 손실: 0.120530\t최선의 손실: 0.120262\t정확도: 96.95%\n", + "74\t검증 세트 손실: 0.120752\t최선의 손실: 0.120262\t정확도: 96.87%\n", + "75\t검증 세트 손실: 0.132796\t최선의 손실: 0.120262\t정확도: 96.48%\n", + "76\t검증 세트 손실: 0.129288\t최선의 손실: 0.120262\t정확도: 96.99%\n", + "77\t검증 세트 손실: 0.132018\t최선의 손실: 0.120262\t정확도: 96.48%\n", + "78\t검증 세트 손실: 0.133975\t최선의 손실: 0.120262\t정확도: 96.72%\n", + "79\t검증 세트 손실: 0.122669\t최선의 손실: 0.120262\t정확도: 96.95%\n", + "80\t검증 세트 손실: 0.123596\t최선의 손실: 0.120262\t정확도: 96.95%\n", + "81\t검증 세트 손실: 0.132104\t최선의 손실: 0.120262\t정확도: 96.95%\n", + "82\t검증 세트 손실: 0.123562\t최선의 손실: 0.120262\t정확도: 97.07%\n", + "83\t검증 세트 손실: 0.122163\t최선의 손실: 0.120262\t정확도: 96.87%\n", + "84\t검증 세트 손실: 0.127123\t최선의 손실: 0.120262\t정확도: 96.87%\n", + "85\t검증 세트 손실: 0.120074\t최선의 손실: 0.120074\t정확도: 97.15%\n", + "86\t검증 세트 손실: 0.127308\t최선의 손실: 0.120074\t정확도: 96.72%\n", + "87\t검증 세트 손실: 0.126209\t최선의 손실: 0.120074\t정확도: 97.03%\n", + "88\t검증 세트 손실: 0.118749\t최선의 손실: 0.118749\t정확도: 96.76%\n", + "89\t검증 세트 손실: 0.126771\t최선의 손실: 0.118749\t정확도: 96.76%\n", + "90\t검증 세트 손실: 0.130961\t최선의 손실: 0.118749\t정확도: 96.76%\n", + "91\t검증 세트 손실: 0.118782\t최선의 손실: 0.118749\t정확도: 97.22%\n", + "92\t검증 세트 손실: 0.116017\t최선의 손실: 0.116017\t정확도: 96.87%\n", + "93\t검증 세트 손실: 0.118465\t최선의 손실: 0.116017\t정확도: 97.03%\n", + "94\t검증 세트 손실: 0.120458\t최선의 손실: 0.116017\t정확도: 96.83%\n", + "95\t검증 세트 손실: 0.121414\t최선의 손실: 0.116017\t정확도: 96.99%\n", + "96\t검증 세트 손실: 0.119144\t최선의 손실: 0.116017\t정확도: 96.95%\n", + "97\t검증 세트 손실: 0.121026\t최선의 손실: 0.116017\t정확도: 96.95%\n", + "98\t검증 세트 손실: 0.122135\t최선의 손실: 0.116017\t정확도: 97.03%\n", + "99\t검증 세트 손실: 0.119197\t최선의 손실: 0.116017\t정확도: 97.07%\n", + "100\t검증 세트 손실: 0.127103\t최선의 손실: 0.116017\t정확도: 96.91%\n", + "101\t검증 세트 손실: 0.120150\t최선의 손실: 0.116017\t정확도: 97.11%\n", + "102\t검증 세트 손실: 0.117021\t최선의 손실: 0.116017\t정확도: 97.07%\n", + "103\t검증 세트 손실: 0.124748\t최선의 손실: 0.116017\t정확도: 96.79%\n", + "104\t검증 세트 손실: 0.122778\t최선의 손실: 0.116017\t정확도: 96.76%\n", + "105\t검증 세트 손실: 0.124025\t최선의 손실: 0.116017\t정확도: 96.72%\n", + "106\t검증 세트 손실: 0.130076\t최선의 손실: 0.116017\t정확도: 96.72%\n", + "107\t검증 세트 손실: 0.122534\t최선의 손실: 0.116017\t정확도: 96.91%\n", + "108\t검증 세트 손실: 0.126218\t최선의 손실: 0.116017\t정확도: 96.99%\n", + "109\t검증 세트 손실: 0.126317\t최선의 손실: 0.116017\t정확도: 96.83%\n", + "110\t검증 세트 손실: 0.117541\t최선의 손실: 0.116017\t정확도: 97.22%\n", + "111\t검증 세트 손실: 0.117801\t최선의 손실: 0.116017\t정확도: 97.11%\n", + "112\t검증 세트 손실: 0.118628\t최선의 손실: 0.116017\t정확도: 96.95%\n", + "113\t검증 세트 손실: 0.114987\t최선의 손실: 0.114987\t정확도: 97.30%\n", + "114\t검증 세트 손실: 0.122215\t최선의 손실: 0.114987\t정확도: 96.99%\n", + "115\t검증 세트 손실: 0.117810\t최선의 손실: 0.114987\t정확도: 97.11%\n", + "116\t검증 세트 손실: 0.121218\t최선의 손실: 0.114987\t정확도: 97.15%\n", + "117\t검증 세트 손실: 0.123749\t최선의 손실: 0.114987\t정확도: 96.91%\n", + "118\t검증 세트 손실: 0.118375\t최선의 손실: 0.114987\t정확도: 97.34%\n", + "119\t검증 세트 손실: 0.118441\t최선의 손실: 0.114987\t정확도: 97.03%\n", + "120\t검증 세트 손실: 0.111671\t최선의 손실: 0.111671\t정확도: 97.22%\n", + "121\t검증 세트 손실: 0.115303\t최선의 손실: 0.111671\t정확도: 97.19%\n", + "122\t검증 세트 손실: 0.124184\t최선의 손실: 0.111671\t정확도: 96.95%\n", + "123\t검증 세트 손실: 0.119614\t최선의 손실: 0.111671\t정확도: 97.03%\n", + "124\t검증 세트 손실: 0.116278\t최선의 손실: 0.111671\t정확도: 97.03%\n", + "125\t검증 세트 손실: 0.121437\t최선의 손실: 0.111671\t정확도: 96.87%\n", + "126\t검증 세트 손실: 0.115030\t최선의 손실: 0.111671\t정확도: 97.15%\n", + "127\t검증 세트 손실: 0.117865\t최선의 손실: 0.111671\t정확도: 97.11%\n", + "128\t검증 세트 손실: 0.124424\t최선의 손실: 0.111671\t정확도: 96.83%\n", + "129\t검증 세트 손실: 0.123803\t최선의 손실: 0.111671\t정확도: 96.72%\n", + "130\t검증 세트 손실: 0.126799\t최선의 손실: 0.111671\t정확도: 96.87%\n", + "131\t검증 세트 손실: 0.125613\t최선의 손실: 0.111671\t정확도: 96.95%\n", + "132\t검증 세트 손실: 0.125077\t최선의 손실: 0.111671\t정확도: 96.91%\n", + "133\t검증 세트 손실: 0.124287\t최선의 손실: 0.111671\t정확도: 96.83%\n", + "134\t검증 세트 손실: 0.121943\t최선의 손실: 0.111671\t정확도: 96.87%\n", + "135\t검증 세트 손실: 0.121828\t최선의 손실: 0.111671\t정확도: 96.91%\n", + "136\t검증 세트 손실: 0.124766\t최선의 손실: 0.111671\t정확도: 96.91%\n", + "137\t검증 세트 손실: 0.119825\t최선의 손실: 0.111671\t정확도: 97.03%\n", + "138\t검증 세트 손실: 0.123897\t최선의 손실: 0.111671\t정확도: 97.07%\n", + "139\t검증 세트 손실: 0.123903\t최선의 손실: 0.111671\t정확도: 97.03%\n", + "140\t검증 세트 손실: 0.114672\t최선의 손실: 0.111671\t정확도: 97.11%\n", + "141\t검증 세트 손실: 0.122545\t최선의 손실: 0.111671\t정확도: 96.99%\n", "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 4.3s\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90 \n", - "0\t검증 세트 손실: 0.133605\t최선의 손실: 0.133605\t정확도: 96.60%\n", - "1\t검증 세트 손실: 0.125731\t최선의 손실: 0.125731\t정확도: 97.11%\n", - "2\t검증 세트 손실: 0.098369\t최선의 손실: 0.098369\t정확도: 97.22%\n", - "3\t검증 세트 손실: 0.094542\t최선의 손실: 0.094542\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.094899\t최선의 손실: 0.094542\t정확도: 97.58%\n", - "5\t검증 세트 손실: 0.086981\t최선의 손실: 0.086981\t정확도: 97.65%\n", - "6\t검증 세트 손실: 0.093822\t최선의 손실: 0.086981\t정확도: 97.65%\n", - "7\t검증 세트 손실: 0.083132\t최선의 손실: 0.083132\t정확도: 97.89%\n", - "8\t검증 세트 손실: 0.077384\t최선의 손실: 0.077384\t정확도: 98.16%\n", - "9\t검증 세트 손실: 0.079742\t최선의 손실: 0.077384\t정확도: 97.89%\n", - "10\t검증 세트 손실: 0.078630\t최선의 손실: 0.077384\t정확도: 98.05%\n", - "11\t검증 세트 손실: 0.079036\t최선의 손실: 0.077384\t정확도: 98.01%\n", - "12\t검증 세트 손실: 0.073680\t최선의 손실: 0.073680\t정확도: 98.24%\n", - "13\t검증 세트 손실: 0.081129\t최선의 손실: 0.073680\t정확도: 98.28%\n", - "14\t검증 세트 손실: 0.078268\t최선의 손실: 0.073680\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.069424\t최선의 손실: 0.069424\t정확도: 98.36%\n", - "16\t검증 세트 손실: 0.073173\t최선의 손실: 0.069424\t정확도: 98.32%\n", - "17\t검증 세트 손실: 0.078285\t최선의 손실: 0.069424\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.081530\t최선의 손실: 0.069424\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.071363\t최선의 손실: 0.069424\t정확도: 98.16%\n", - "20\t검증 세트 손실: 0.073508\t최선의 손실: 0.069424\t정확도: 98.24%\n", - "21\t검증 세트 손실: 0.068464\t최선의 손실: 0.068464\t정확도: 98.20%\n", - "22\t검증 세트 손실: 0.085656\t최선의 손실: 0.068464\t정확도: 98.40%\n", - "23\t검증 세트 손실: 0.079807\t최선의 손실: 0.068464\t정확도: 98.32%\n", - "24\t검증 세트 손실: 0.126331\t최선의 손실: 0.068464\t정확도: 97.50%\n", - "25\t검증 세트 손실: 0.109763\t최선의 손실: 0.068464\t정확도: 97.77%\n", - "26\t검증 세트 손실: 0.099613\t최선의 손실: 0.068464\t정확도: 97.73%\n", - "27\t검증 세트 손실: 0.096334\t최선의 손실: 0.068464\t정확도: 97.30%\n", - "28\t검증 세트 손실: 0.129122\t최선의 손실: 0.068464\t정확도: 97.93%\n", - "29\t검증 세트 손실: 0.168285\t최선의 손실: 0.068464\t정확도: 97.69%\n", - "30\t검증 세트 손실: 0.281631\t최선의 손실: 0.068464\t정확도: 95.78%\n", - "31\t검증 세트 손실: 0.261534\t최선의 손실: 0.068464\t정확도: 94.45%\n", - "32\t검증 세트 손실: 0.197331\t최선의 손실: 0.068464\t정확도: 95.82%\n", - "33\t검증 세트 손실: 0.438253\t최선의 손실: 0.068464\t정확도: 93.59%\n", - "34\t검증 세트 손실: 0.178324\t최선의 손실: 0.068464\t정확도: 96.21%\n", - "35\t검증 세트 손실: 0.151387\t최선의 손실: 0.068464\t정확도: 96.17%\n", - "36\t검증 세트 손실: 0.147774\t최선의 손실: 0.068464\t정확도: 97.15%\n", - "37\t검증 세트 손실: 0.146523\t최선의 손실: 0.068464\t정확도: 96.99%\n", - "38\t검증 세트 손실: 0.153242\t최선의 손실: 0.068464\t정확도: 97.89%\n", - "39\t검증 세트 손실: 0.206014\t최선의 손실: 0.068464\t정확도: 97.30%\n", - "40\t검증 세트 손실: 0.245907\t최선의 손실: 0.068464\t정확도: 97.26%\n", - "41\t검증 세트 손실: 0.312969\t최선의 손실: 0.068464\t정확도: 92.26%\n", - "42\t검증 세트 손실: 0.170808\t최선의 손실: 0.068464\t정확도: 96.36%\n", - "조기 종료!\n", - "[CV] batch_size=500, dropout_rate=0.3, learning_rate=0.02, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=90, total= 4.5s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70 \n", - "0\t검증 세트 손실: 0.096926\t최선의 손실: 0.096926\t정확도: 97.19%\n", - "1\t검증 세트 손실: 0.097701\t최선의 손실: 0.096926\t정확도: 97.54%\n", - "2\t검증 세트 손실: 0.077784\t최선의 손실: 0.077784\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.073908\t최선의 손실: 0.073908\t정확도: 98.08%\n", - "4\t검증 세트 손실: 0.064718\t최선의 손실: 0.064718\t정확도: 98.20%\n", - "5\t검증 세트 손실: 0.075204\t최선의 손실: 0.064718\t정확도: 98.16%\n", - "6\t검증 세트 손실: 0.070957\t최선의 손실: 0.064718\t정확도: 98.40%\n", - "7\t검증 세트 손실: 0.085490\t최선의 손실: 0.064718\t정확도: 98.20%\n", - "8\t검증 세트 손실: 0.073187\t최선의 손실: 0.064718\t정확도: 98.36%\n", - "9\t검증 세트 손실: 0.085674\t최선의 손실: 0.064718\t정확도: 97.65%\n", - "10\t검증 세트 손실: 0.114301\t최선의 손실: 0.064718\t정확도: 97.50%\n", - "11\t검증 세트 손실: 0.081393\t최선의 손실: 0.064718\t정확도: 97.69%\n", - "12\t검증 세트 손실: 0.071688\t최선의 손실: 0.064718\t정확도: 98.01%\n", - "13\t검증 세트 손실: 0.085788\t최선의 손실: 0.064718\t정확도: 97.77%\n", - "14\t검증 세트 손실: 0.097490\t최선의 손실: 0.064718\t정확도: 98.08%\n", - "15\t검증 세트 손실: 0.077796\t최선의 손실: 0.064718\t정확도: 98.24%\n", - "16\t검증 세트 손실: 0.091511\t최선의 손실: 0.064718\t정확도: 98.05%\n", - "17\t검증 세트 손실: 0.092200\t최선의 손실: 0.064718\t정확도: 97.89%\n", - "18\t검증 세트 손실: 0.166900\t최선의 손실: 0.064718\t정확도: 98.20%\n", - "19\t검증 세트 손실: 0.085495\t최선의 손실: 0.064718\t정확도: 98.51%\n", - "20\t검증 세트 손실: 0.075939\t최선의 손실: 0.064718\t정확도: 98.44%\n", - "21\t검증 세트 손실: 0.064535\t최선의 손실: 0.064535\t정확도: 98.28%\n", - "22\t검증 세트 손실: 0.065482\t최선의 손실: 0.064535\t정확도: 98.36%\n", - "23\t검증 세트 손실: 0.074349\t최선의 손실: 0.064535\t정확도: 98.12%\n", - "24\t검증 세트 손실: 0.069642\t최선의 손실: 0.064535\t정확도: 98.32%\n", - "25\t검증 세트 손실: 0.076925\t최선의 손실: 0.064535\t정확도: 98.40%\n", - "26\t검증 세트 손실: 0.066892\t최선의 손실: 0.064535\t정확도: 98.48%\n", - "27\t검증 세트 손실: 0.076533\t최선의 손실: 0.064535\t정확도: 98.67%\n", - "28\t검증 세트 손실: 0.069200\t최선의 손실: 0.064535\t정확도: 98.48%\n", - "29\t검증 세트 손실: 0.055739\t최선의 손실: 0.055739\t정확도: 98.67%\n", - "30\t검증 세트 손실: 0.058449\t최선의 손실: 0.055739\t정확도: 98.79%\n", - "31\t검증 세트 손실: 0.060547\t최선의 손실: 0.055739\t정확도: 98.67%\n", - "32\t검증 세트 손실: 0.059313\t최선의 손실: 0.055739\t정확도: 98.63%\n", - "33\t검증 세트 손실: 0.057273\t최선의 손실: 0.055739\t정확도: 98.63%\n", - "34\t검증 세트 손실: 0.061346\t최선의 손실: 0.055739\t정확도: 98.32%\n", - "35\t검증 세트 손실: 0.063653\t최선의 손실: 0.055739\t정확도: 98.44%\n", - "36\t검증 세트 손실: 0.101109\t최선의 손실: 0.055739\t정확도: 96.33%\n", - "37\t검증 세트 손실: 0.111950\t최선의 손실: 0.055739\t정확도: 97.81%\n", - "38\t검증 세트 손실: 0.080212\t최선의 손실: 0.055739\t정확도: 98.55%\n", - "39\t검증 세트 손실: 0.072855\t최선의 손실: 0.055739\t정확도: 98.55%\n", - "40\t검증 세트 손실: 0.062705\t최선의 손실: 0.055739\t정확도: 98.83%\n", - "41\t검증 세트 손실: 0.097229\t최선의 손실: 0.055739\t정확도: 97.93%\n", - "42\t검증 세트 손실: 0.081659\t최선의 손실: 0.055739\t정확도: 98.36%\n", - "43\t검증 세트 손실: 0.092996\t최선의 손실: 0.055739\t정확도: 98.32%\n", - "44\t검증 세트 손실: 0.115519\t최선의 손실: 0.055739\t정확도: 98.16%\n", - "45\t검증 세트 손실: 0.098951\t최선의 손실: 0.055739\t정확도: 97.85%\n", - "46\t검증 세트 손실: 0.074064\t최선의 손실: 0.055739\t정확도: 98.36%\n", - "47\t검증 세트 손실: 0.073955\t최선의 손실: 0.055739\t정확도: 98.63%\n", - "48\t검증 세트 손실: 0.090856\t최선의 손실: 0.055739\t정확도: 98.59%\n", - "49\t검증 세트 손실: 0.066121\t최선의 손실: 0.055739\t정확도: 98.36%\n", - "50\t검증 세트 손실: 0.070816\t최선의 손실: 0.055739\t정확도: 98.55%\n", - "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70, total= 15.7s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70 \n", - "0\t검증 세트 손실: 0.117511\t최선의 손실: 0.117511\t정확도: 96.99%\n", - "1\t검증 세트 손실: 0.092859\t최선의 손실: 0.092859\t정확도: 97.97%\n", - "2\t검증 세트 손실: 0.078944\t최선의 손실: 0.078944\t정확도: 98.01%\n", - "3\t검증 세트 손실: 0.079049\t최선의 손실: 0.078944\t정확도: 98.01%\n", - "4\t검증 세트 손실: 0.106459\t최선의 손실: 0.078944\t정확도: 98.01%\n", - "5\t검증 세트 손실: 0.074311\t최선의 손실: 0.074311\t정확도: 97.89%\n", - "6\t검증 세트 손실: 0.077078\t최선의 손실: 0.074311\t정확도: 98.12%\n", - "7\t검증 세트 손실: 0.074356\t최선의 손실: 0.074311\t정확도: 98.16%\n", - "8\t검증 세트 손실: 0.073231\t최선의 손실: 0.073231\t정확도: 98.40%\n", - "9\t검증 세트 손실: 0.076829\t최선의 손실: 0.073231\t정확도: 98.20%\n", - "10\t검증 세트 손실: 0.080532\t최선의 손실: 0.073231\t정확도: 98.40%\n", - "11\t검증 세트 손실: 0.061409\t최선의 손실: 0.061409\t정확도: 98.44%\n", - "12\t검증 세트 손실: 0.083650\t최선의 손실: 0.061409\t정확도: 97.85%\n", - "13\t검증 세트 손실: 0.059578\t최선의 손실: 0.059578\t정확도: 98.63%\n", - "14\t검증 세트 손실: 0.097606\t최선의 손실: 0.059578\t정확도: 97.85%\n", - "15\t검증 세트 손실: 0.068672\t최선의 손실: 0.059578\t정확도: 97.93%\n", - "16\t검증 세트 손실: 0.085994\t최선의 손실: 0.059578\t정확도: 98.36%\n", - "17\t검증 세트 손실: 0.083038\t최선의 손실: 0.059578\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.100241\t최선의 손실: 0.059578\t정확도: 98.12%\n", - "19\t검증 세트 손실: 0.078024\t최선의 손실: 0.059578\t정확도: 98.63%\n", - "20\t검증 세트 손실: 0.074188\t최선의 손실: 0.059578\t정확도: 98.48%\n", - "21\t검증 세트 손실: 0.072548\t최선의 손실: 0.059578\t정확도: 98.32%\n", - "22\t검증 세트 손실: 0.082939\t최선의 손실: 0.059578\t정확도: 98.28%\n", - "23\t검증 세트 손실: 0.069388\t최선의 손실: 0.059578\t정확도: 98.63%\n", - "24\t검증 세트 손실: 0.081744\t최선의 손실: 0.059578\t정확도: 98.40%\n", - "25\t검증 세트 손실: 0.086303\t최선의 손실: 0.059578\t정확도: 98.28%\n", - "26\t검증 세트 손실: 0.058419\t최선의 손실: 0.058419\t정확도: 98.40%\n", - "27\t검증 세트 손실: 0.105198\t최선의 손실: 0.058419\t정확도: 98.32%\n", - "28\t검증 세트 손실: 0.105461\t최선의 손실: 0.058419\t정확도: 98.16%\n", - "29\t검증 세트 손실: 0.085234\t최선의 손실: 0.058419\t정확도: 97.65%\n", - "30\t검증 세트 손실: 0.078402\t최선의 손실: 0.058419\t정확도: 98.08%\n", - "31\t검증 세트 손실: 0.080891\t최선의 손실: 0.058419\t정확도: 98.01%\n", - "32\t검증 세트 손실: 0.076680\t최선의 손실: 0.058419\t정확도: 98.36%\n", - "33\t검증 세트 손실: 0.076640\t최선의 손실: 0.058419\t정확도: 98.40%\n", - "34\t검증 세트 손실: 0.154137\t최선의 손실: 0.058419\t정확도: 98.16%\n", - "35\t검증 세트 손실: 0.077530\t최선의 손실: 0.058419\t정확도: 98.16%\n", - "36\t검증 세트 손실: 0.071406\t최선의 손실: 0.058419\t정확도: 98.44%\n" + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation=, total= 10.0s\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation= \n", + "0\t검증 세트 손실: 0.588104\t최선의 손실: 0.588104\t정확도: 75.72%\n", + "1\t검증 세트 손실: 0.401926\t최선의 손실: 0.401926\t정확도: 78.50%\n", + "2\t검증 세트 손실: 0.369431\t최선의 손실: 0.369431\t정확도: 79.40%\n", + "3\t검증 세트 손실: 0.374120\t최선의 손실: 0.369431\t정확도: 79.16%\n", + "4\t검증 세트 손실: 0.366710\t최선의 손실: 0.366710\t정확도: 78.34%\n", + "5\t검증 세트 손실: 0.383171\t최선의 손실: 0.366710\t정확도: 79.52%\n", + "6\t검증 세트 손실: 0.364828\t최선의 손실: 0.364828\t정확도: 78.66%\n", + "7\t검증 세트 손실: 0.364195\t최선의 손실: 0.364195\t정확도: 79.63%\n", + "8\t검증 세트 손실: 0.378577\t최선의 손실: 0.364195\t정확도: 79.52%\n", + "9\t검증 세트 손실: 0.357775\t최선의 손실: 0.357775\t정확도: 78.69%\n", + "10\t검증 세트 손실: 0.353630\t최선의 손실: 0.353630\t정확도: 79.28%\n", + "11\t검증 세트 손실: 0.356617\t최선의 손실: 0.353630\t정확도: 78.66%\n", + "12\t검증 세트 손실: 0.366959\t최선의 손실: 0.353630\t정확도: 78.97%\n", + "13\t검증 세트 손실: 0.367018\t최선의 손실: 0.353630\t정확도: 80.30%\n", + "14\t검증 세트 손실: 0.354976\t최선의 손실: 0.353630\t정확도: 86.79%\n", + "15\t검증 세트 손실: 0.349527\t최선의 손실: 0.349527\t정확도: 79.71%\n", + "16\t검증 세트 손실: 0.348058\t최선의 손실: 0.348058\t정확도: 87.22%\n", + "17\t검증 세트 손실: 0.328212\t최선의 손실: 0.328212\t정확도: 89.25%\n", + "18\t검증 세트 손실: 0.291173\t최선의 손실: 0.291173\t정확도: 92.77%\n", + "19\t검증 세트 손실: 0.258607\t최선의 손실: 0.258607\t정확도: 92.69%\n", + "20\t검증 세트 손실: 0.255547\t최선의 손실: 0.255547\t정확도: 93.51%\n", + "21\t검증 세트 손실: 0.234544\t최선의 손실: 0.234544\t정확도: 94.49%\n", + "22\t검증 세트 손실: 0.223636\t최선의 손실: 0.223636\t정확도: 94.18%\n", + "23\t검증 세트 손실: 0.212768\t최선의 손실: 0.212768\t정확도: 95.00%\n", + "24\t검증 세트 손실: 0.202361\t최선의 손실: 0.202361\t정확도: 94.80%\n", + "25\t검증 세트 손실: 0.190360\t최선의 손실: 0.190360\t정확도: 95.23%\n", + "26\t검증 세트 손실: 0.182689\t최선의 손실: 0.182689\t정확도: 95.35%\n", + "27\t검증 세트 손실: 0.188497\t최선의 손실: 0.182689\t정확도: 95.31%\n", + "28\t검증 세트 손실: 0.197967\t최선의 손실: 0.182689\t정확도: 95.27%\n", + "29\t검증 세트 손실: 0.176112\t최선의 손실: 0.176112\t정확도: 95.58%\n", + "30\t검증 세트 손실: 0.157517\t최선의 손실: 0.157517\t정확도: 95.78%\n", + "31\t검증 세트 손실: 0.170863\t최선의 손실: 0.157517\t정확도: 95.66%\n", + "32\t검증 세트 손실: 0.164352\t최선의 손실: 0.157517\t정확도: 95.66%\n", + "33\t검증 세트 손실: 0.159269\t최선의 손실: 0.157517\t정확도: 95.74%\n", + "34\t검증 세트 손실: 0.163143\t최선의 손실: 0.157517\t정확도: 95.93%\n", + "35\t검증 세트 손실: 0.144812\t최선의 손실: 0.144812\t정확도: 96.01%\n", + "36\t검증 세트 손실: 0.148878\t최선의 손실: 0.144812\t정확도: 96.09%\n", + "37\t검증 세트 손실: 0.141624\t최선의 손실: 0.141624\t정확도: 96.13%\n", + "38\t검증 세트 손실: 0.152027\t최선의 손실: 0.141624\t정확도: 95.90%\n", + "39\t검증 세트 손실: 0.162738\t최선의 손실: 0.141624\t정확도: 95.97%\n", + "40\t검증 세트 손실: 0.150959\t최선의 손실: 0.141624\t정확도: 96.44%\n", + "41\t검증 세트 손실: 0.140705\t최선의 손실: 0.140705\t정확도: 96.29%\n", + "42\t검증 세트 손실: 0.147509\t최선의 손실: 0.140705\t정확도: 96.01%\n", + "43\t검증 세트 손실: 0.148842\t최선의 손실: 0.140705\t정확도: 96.13%\n", + "44\t검증 세트 손실: 0.151849\t최선의 손실: 0.140705\t정확도: 95.82%\n", + "45\t검증 세트 손실: 0.143513\t최선의 손실: 0.140705\t정확도: 96.33%\n", + "46\t검증 세트 손실: 0.145474\t최선의 손실: 0.140705\t정확도: 96.25%\n", + "47\t검증 세트 손실: 0.144532\t최선의 손실: 0.140705\t정확도: 96.17%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "37\t검증 세트 손실: 0.063188\t최선의 손실: 0.058419\t정확도: 98.32%\n", - "38\t검증 세트 손실: 0.086095\t최선의 손실: 0.058419\t정확도: 98.40%\n", - "39\t검증 세트 손실: 0.063817\t최선의 손실: 0.058419\t정확도: 98.63%\n", - "40\t검증 세트 손실: 0.098943\t최선의 손실: 0.058419\t정확도: 97.26%\n", - "41\t검증 세트 손실: 0.197769\t최선의 손실: 0.058419\t정확도: 97.73%\n", - "42\t검증 세트 손실: 0.095173\t최선의 손실: 0.058419\t정확도: 97.89%\n", - "43\t검증 세트 손실: 0.081370\t최선의 손실: 0.058419\t정확도: 98.44%\n", - "44\t검증 세트 손실: 0.084116\t최선의 손실: 0.058419\t정확도: 97.85%\n", - "45\t검증 세트 손실: 0.081747\t최선의 손실: 0.058419\t정확도: 98.12%\n", - "46\t검증 세트 손실: 0.072186\t최선의 손실: 0.058419\t정확도: 98.48%\n", - "47\t검증 세트 손실: 0.148782\t최선의 손실: 0.058419\t정확도: 97.46%\n", + "48\t검증 세트 손실: 0.144672\t최선의 손실: 0.140705\t정확도: 96.33%\n", + "49\t검증 세트 손실: 0.152128\t최선의 손실: 0.140705\t정확도: 95.97%\n", + "50\t검증 세트 손실: 0.148879\t최선의 손실: 0.140705\t정확도: 96.09%\n", + "51\t검증 세트 손실: 0.140576\t최선의 손실: 0.140576\t정확도: 96.44%\n", + "52\t검증 세트 손실: 0.140943\t최선의 손실: 0.140576\t정확도: 96.17%\n", + "53\t검증 세트 손실: 0.150475\t최선의 손실: 0.140576\t정확도: 96.05%\n", + "54\t검증 세트 손실: 0.142813\t최선의 손실: 0.140576\t정확도: 96.33%\n", + "55\t검증 세트 손실: 0.140440\t최선의 손실: 0.140440\t정확도: 96.36%\n", + "56\t검증 세트 손실: 0.161409\t최선의 손실: 0.140440\t정확도: 96.17%\n", + "57\t검증 세트 손실: 0.140677\t최선의 손실: 0.140440\t정확도: 96.36%\n", + "58\t검증 세트 손실: 0.135290\t최선의 손실: 0.135290\t정확도: 96.44%\n", + "59\t검증 세트 손실: 0.138385\t최선의 손실: 0.135290\t정확도: 96.56%\n", + "60\t검증 세트 손실: 0.137197\t최선의 손실: 0.135290\t정확도: 96.36%\n", + "61\t검증 세트 손실: 0.141924\t최선의 손실: 0.135290\t정확도: 96.44%\n", + "62\t검증 세트 손실: 0.138264\t최선의 손실: 0.135290\t정확도: 96.17%\n", + "63\t검증 세트 손실: 0.144748\t최선의 손실: 0.135290\t정확도: 96.44%\n", + "64\t검증 세트 손실: 0.134364\t최선의 손실: 0.134364\t정확도: 96.40%\n", + "65\t검증 세트 손실: 0.133954\t최선의 손실: 0.133954\t정확도: 96.44%\n", + "66\t검증 세트 손실: 0.140169\t최선의 손실: 0.133954\t정확도: 96.25%\n", + "67\t검증 세트 손실: 0.134874\t최선의 손실: 0.133954\t정확도: 96.56%\n", + "68\t검증 세트 손실: 0.142555\t최선의 손실: 0.133954\t정확도: 96.25%\n", + "69\t검증 세트 손실: 0.139632\t최선의 손실: 0.133954\t정확도: 96.25%\n", + "70\t검증 세트 손실: 0.145949\t최선의 손실: 0.133954\t정확도: 96.01%\n", + "71\t검증 세트 손실: 0.152107\t최선의 손실: 0.133954\t정확도: 96.13%\n", + "72\t검증 세트 손실: 0.138520\t최선의 손실: 0.133954\t정확도: 96.36%\n", + "73\t검증 세트 손실: 0.150176\t최선의 손실: 0.133954\t정확도: 96.29%\n", + "74\t검증 세트 손실: 0.132627\t최선의 손실: 0.132627\t정확도: 96.40%\n", + "75\t검증 세트 손실: 0.139426\t최선의 손실: 0.132627\t정확도: 96.33%\n", + "76\t검증 세트 손실: 0.140450\t최선의 손실: 0.132627\t정확도: 96.56%\n", + "77\t검증 세트 손실: 0.139097\t최선의 손실: 0.132627\t정확도: 96.52%\n", + "78\t검증 세트 손실: 0.132440\t최선의 손실: 0.132440\t정확도: 96.48%\n", + "79\t검증 세트 손실: 0.135705\t최선의 손실: 0.132440\t정확도: 96.64%\n", + "80\t검증 세트 손실: 0.129988\t최선의 손실: 0.129988\t정확도: 96.64%\n", + "81\t검증 세트 손실: 0.140908\t최선의 손실: 0.129988\t정확도: 96.21%\n", + "82\t검증 세트 손실: 0.147702\t최선의 손실: 0.129988\t정확도: 96.21%\n", + "83\t검증 세트 손실: 0.143581\t최선의 손실: 0.129988\t정확도: 96.40%\n", + "84\t검증 세트 손실: 0.136827\t최선의 손실: 0.129988\t정확도: 96.56%\n", + "85\t검증 세트 손실: 0.141202\t최선의 손실: 0.129988\t정확도: 96.33%\n", + "86\t검증 세트 손실: 0.144618\t최선의 손실: 0.129988\t정확도: 96.29%\n", + "87\t검증 세트 손실: 0.144527\t최선의 손실: 0.129988\t정확도: 96.25%\n", + "88\t검증 세트 손실: 0.141585\t최선의 손실: 0.129988\t정확도: 96.40%\n", + "89\t검증 세트 손실: 0.142945\t최선의 손실: 0.129988\t정확도: 96.33%\n", + "90\t검증 세트 손실: 0.147448\t최선의 손실: 0.129988\t정확도: 96.29%\n", + "91\t검증 세트 손실: 0.139705\t최선의 손실: 0.129988\t정확도: 96.40%\n", + "92\t검증 세트 손실: 0.133128\t최선의 손실: 0.129988\t정확도: 96.60%\n", + "93\t검증 세트 손실: 0.138169\t최선의 손실: 0.129988\t정확도: 96.36%\n", + "94\t검증 세트 손실: 0.134583\t최선의 손실: 0.129988\t정확도: 96.44%\n", + "95\t검증 세트 손실: 0.134850\t최선의 손실: 0.129988\t정확도: 96.48%\n", + "96\t검증 세트 손실: 0.139455\t최선의 손실: 0.129988\t정확도: 96.44%\n", + "97\t검증 세트 손실: 0.137956\t최선의 손실: 0.129988\t정확도: 96.40%\n", + "98\t검증 세트 손실: 0.140636\t최선의 손실: 0.129988\t정확도: 96.44%\n", + "99\t검증 세트 손실: 0.135153\t최선의 손실: 0.129988\t정확도: 96.52%\n", + "100\t검증 세트 손실: 0.143955\t최선의 손실: 0.129988\t정확도: 96.25%\n", + "101\t검증 세트 손실: 0.144592\t최선의 손실: 0.129988\t정확도: 96.36%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70, total= 14.8s\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70 \n", - "0\t검증 세트 손실: 0.107671\t최선의 손실: 0.107671\t정확도: 97.34%\n", - "1\t검증 세트 손실: 0.108100\t최선의 손실: 0.107671\t정확도: 97.54%\n", - "2\t검증 세트 손실: 0.077520\t최선의 손실: 0.077520\t정확도: 97.69%\n", - "3\t검증 세트 손실: 0.075986\t최선의 손실: 0.075986\t정확도: 97.85%\n", - "4\t검증 세트 손실: 0.066901\t최선의 손실: 0.066901\t정확도: 98.28%\n", - "5\t검증 세트 손실: 0.061182\t최선의 손실: 0.061182\t정확도: 98.08%\n", - "6\t검증 세트 손실: 0.069804\t최선의 손실: 0.061182\t정확도: 98.48%\n", - "7\t검증 세트 손실: 0.059013\t최선의 손실: 0.059013\t정확도: 98.59%\n", - "8\t검증 세트 손실: 0.076534\t최선의 손실: 0.059013\t정확도: 98.05%\n", - "9\t검증 세트 손실: 0.061781\t최선의 손실: 0.059013\t정확도: 98.51%\n", - "10\t검증 세트 손실: 0.070417\t최선의 손실: 0.059013\t정확도: 97.77%\n", - "11\t검증 세트 손실: 0.073931\t최선의 손실: 0.059013\t정확도: 98.36%\n", - "12\t검증 세트 손실: 0.063056\t최선의 손실: 0.059013\t정확도: 98.44%\n", - "13\t검증 세트 손실: 0.063985\t최선의 손실: 0.059013\t정확도: 98.48%\n", - "14\t검증 세트 손실: 0.059387\t최선의 손실: 0.059013\t정확도: 98.36%\n", - "15\t검증 세트 손실: 0.072200\t최선의 손실: 0.059013\t정확도: 98.71%\n", - "16\t검증 세트 손실: 0.064265\t최선의 손실: 0.059013\t정확도: 98.59%\n", - "17\t검증 세트 손실: 0.101285\t최선의 손실: 0.059013\t정확도: 98.08%\n", - "18\t검증 세트 손실: 0.138975\t최선의 손실: 0.059013\t정확도: 98.28%\n", - "19\t검증 세트 손실: 0.086943\t최선의 손실: 0.059013\t정확도: 98.55%\n", - "20\t검증 세트 손실: 0.081119\t최선의 손실: 0.059013\t정확도: 98.20%\n", - "21\t검증 세트 손실: 0.077881\t최선의 손실: 0.059013\t정확도: 98.28%\n", - "22\t검증 세트 손실: 0.063355\t최선의 손실: 0.059013\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.093029\t최선의 손실: 0.059013\t정확도: 98.01%\n", - "24\t검증 세트 손실: 0.072233\t최선의 손실: 0.059013\t정확도: 98.36%\n", - "25\t검증 세트 손실: 0.070435\t최선의 손실: 0.059013\t정확도: 98.59%\n", - "26\t검증 세트 손실: 0.087029\t최선의 손실: 0.059013\t정확도: 97.97%\n", - "27\t검증 세트 손실: 0.070104\t최선의 손실: 0.059013\t정확도: 98.28%\n", - "28\t검증 세트 손실: 0.071336\t최선의 손실: 0.059013\t정확도: 98.59%\n", + "[CV] n_neurons=30, learning_rate=0.01, dropout_rate=0.6, batch_size=500, activation=, total= 7.5s\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.128052\t최선의 손실: 0.128052\t정확도: 96.56%\n", + "1\t검증 세트 손실: 0.096453\t최선의 손실: 0.096453\t정확도: 97.46%\n", + "2\t검증 세트 손실: 0.088490\t최선의 손실: 0.088490\t정확도: 97.89%\n", + "3\t검증 세트 손실: 0.081239\t최선의 손실: 0.081239\t정확도: 97.89%\n", + "4\t검증 세트 손실: 0.074362\t최선의 손실: 0.074362\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.082417\t최선의 손실: 0.074362\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.085596\t최선의 손실: 0.074362\t정확도: 98.12%\n", + "7\t검증 세트 손실: 0.078305\t최선의 손실: 0.074362\t정확도: 97.73%\n", + "8\t검증 세트 손실: 0.068286\t최선의 손실: 0.068286\t정확도: 98.36%\n", + "9\t검증 세트 손실: 0.071978\t최선의 손실: 0.068286\t정확도: 98.05%\n", + "10\t검증 세트 손실: 0.075679\t최선의 손실: 0.068286\t정확도: 98.20%\n", + "11\t검증 세트 손실: 0.068861\t최선의 손실: 0.068286\t정확도: 98.40%\n", + "12\t검증 세트 손실: 0.091711\t최선의 손실: 0.068286\t정확도: 97.97%\n", + "13\t검증 세트 손실: 0.084154\t최선의 손실: 0.068286\t정확도: 98.08%\n", + "14\t검증 세트 손실: 0.089516\t최선의 손실: 0.068286\t정확도: 97.77%\n", + "15\t검증 세트 손실: 0.089548\t최선의 손실: 0.068286\t정확도: 97.77%\n", + "16\t검증 세트 손실: 0.092502\t최선의 손실: 0.068286\t정확도: 98.16%\n", + "17\t검증 세트 손실: 0.087235\t최선의 손실: 0.068286\t정확도: 98.05%\n", + "18\t검증 세트 손실: 0.087966\t최선의 손실: 0.068286\t정확도: 98.16%\n", + "19\t검증 세트 손실: 0.162352\t최선의 손실: 0.068286\t정확도: 98.32%\n", + "20\t검증 세트 손실: 0.150150\t최선의 손실: 0.068286\t정확도: 97.42%\n", + "21\t검증 세트 손실: 0.174791\t최선의 손실: 0.068286\t정확도: 97.81%\n", + "22\t검증 세트 손실: 0.109439\t최선의 손실: 0.068286\t정확도: 97.26%\n", + "23\t검증 세트 손실: 0.120971\t최선의 손실: 0.068286\t정확도: 97.58%\n", + "24\t검증 세트 손실: 0.104403\t최선의 손실: 0.068286\t정확도: 97.69%\n", + "25\t검증 세트 손실: 0.117954\t최선의 손실: 0.068286\t정확도: 98.12%\n", + "26\t검증 세트 손실: 0.163729\t최선의 손실: 0.068286\t정확도: 97.19%\n", + "27\t검증 세트 손실: 0.335576\t최선의 손실: 0.068286\t정확도: 96.40%\n", + "28\t검증 세트 손실: 0.167853\t최선의 손실: 0.068286\t정확도: 97.07%\n", + "29\t검증 세트 손실: 0.198155\t최선의 손실: 0.068286\t정확도: 95.04%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.2, learning_rate=0.01, activation=.parametrized_leaky_relu at 0x7f71a6b19840>, n_neurons=70, total= 9.3s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.288140\t최선의 손실: 0.288140\t정확도: 93.63%\n", - "1\t검증 세트 손실: 0.259345\t최선의 손실: 0.259345\t정확도: 93.82%\n", - "2\t검증 세트 손실: 0.267642\t최선의 손실: 0.259345\t정확도: 94.76%\n", - "3\t검증 세트 손실: 0.356388\t최선의 손실: 0.259345\t정확도: 92.89%\n", - "4\t검증 세트 손실: 0.202708\t최선의 손실: 0.202708\t정확도: 95.70%\n", - "5\t검증 세트 손실: 0.423325\t최선의 손실: 0.202708\t정확도: 76.94%\n", - "6\t검증 세트 손실: 0.412105\t최선의 손실: 0.202708\t정확도: 92.69%\n", - "7\t검증 세트 손실: 0.418036\t최선의 손실: 0.202708\t정확도: 89.21%\n", - "8\t검증 세트 손실: 0.665252\t최선의 손실: 0.202708\t정확도: 71.15%\n", - "9\t검증 세트 손실: 1.195449\t최선의 손실: 0.202708\t정확도: 43.67%\n", - "10\t검증 세트 손실: 1.182877\t최선의 손실: 0.202708\t정확도: 41.99%\n", - "11\t검증 세트 손실: 1.206438\t최선의 손실: 0.202708\t정확도: 40.42%\n", - "12\t검증 세트 손실: 1.196858\t최선의 손실: 0.202708\t정확도: 39.56%\n", - "13\t검증 세트 손실: 1.245581\t최선의 손실: 0.202708\t정확도: 37.84%\n", - "14\t검증 세트 손실: 1.197442\t최선의 손실: 0.202708\t정확도: 39.21%\n", - "15\t검증 세트 손실: 1.186861\t최선의 손실: 0.202708\t정확도: 40.03%\n", - "16\t검증 세트 손실: 1.304581\t최선의 손실: 0.202708\t정확도: 36.43%\n", - "17\t검증 세트 손실: 1.178560\t최선의 손실: 0.202708\t정확도: 40.11%\n", - "18\t검증 세트 손실: 1.199150\t최선의 손실: 0.202708\t정확도: 39.48%\n", - "19\t검증 세트 손실: 1.295731\t최선의 손실: 0.202708\t정확도: 36.08%\n", - "20\t검증 세트 손실: 1.507510\t최선의 손실: 0.202708\t정확도: 27.37%\n", - "21\t검증 세트 손실: 1.195219\t최선의 손실: 0.202708\t정확도: 38.94%\n", - "22\t검증 세트 손실: 1.173150\t최선의 손실: 0.202708\t정확도: 39.87%\n", - "23\t검증 세트 손실: 1.167641\t최선의 손실: 0.202708\t정확도: 39.99%\n", - "24\t검증 세트 손실: 1.168985\t최선의 손실: 0.202708\t정확도: 39.72%\n", - "25\t검증 세트 손실: 1.174510\t최선의 손실: 0.202708\t정확도: 39.84%\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 3.0s\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.157104\t최선의 손실: 0.157104\t정확도: 95.58%\n", + "1\t검증 세트 손실: 0.118598\t최선의 손실: 0.118598\t정확도: 96.95%\n", + "2\t검증 세트 손실: 0.099677\t최선의 손실: 0.099677\t정확도: 97.26%\n", + "3\t검증 세트 손실: 0.082617\t최선의 손실: 0.082617\t정확도: 97.62%\n", + "4\t검증 세트 손실: 0.090816\t최선의 손실: 0.082617\t정확도: 97.77%\n", + "5\t검증 세트 손실: 0.083924\t최선의 손실: 0.082617\t정확도: 98.05%\n", + "6\t검증 세트 손실: 0.082971\t최선의 손실: 0.082617\t정확도: 97.73%\n", + "7\t검증 세트 손실: 0.073044\t최선의 손실: 0.073044\t정확도: 97.73%\n", + "8\t검증 세트 손실: 0.083252\t최선의 손실: 0.073044\t정확도: 98.20%\n", + "9\t검증 세트 손실: 0.078976\t최선의 손실: 0.073044\t정확도: 98.01%\n", + "10\t검증 세트 손실: 0.071957\t최선의 손실: 0.071957\t정확도: 98.01%\n", + "11\t검증 세트 손실: 0.075408\t최선의 손실: 0.071957\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.096326\t최선의 손실: 0.071957\t정확도: 97.81%\n", + "13\t검증 세트 손실: 0.077366\t최선의 손실: 0.071957\t정확도: 98.36%\n", + "14\t검증 세트 손실: 0.096716\t최선의 손실: 0.071957\t정확도: 98.05%\n", + "15\t검증 세트 손실: 0.090018\t최선의 손실: 0.071957\t정확도: 97.34%\n", + "16\t검증 세트 손실: 0.084241\t최선의 손실: 0.071957\t정확도: 97.93%\n", + "17\t검증 세트 손실: 0.117660\t최선의 손실: 0.071957\t정확도: 97.93%\n", + "18\t검증 세트 손실: 0.112184\t최선의 손실: 0.071957\t정확도: 97.93%\n", + "19\t검증 세트 손실: 0.116264\t최선의 손실: 0.071957\t정확도: 97.77%\n", + "20\t검증 세트 손실: 0.103063\t최선의 손실: 0.071957\t정확도: 97.58%\n", + "21\t검증 세트 손실: 0.091799\t최선의 손실: 0.071957\t정확도: 98.20%\n", + "22\t검증 세트 손실: 0.083636\t최선의 손실: 0.071957\t정확도: 97.73%\n", + "23\t검증 세트 손실: 0.089469\t최선의 손실: 0.071957\t정확도: 97.58%\n", + "24\t검증 세트 손실: 0.091220\t최선의 손실: 0.071957\t정확도: 97.85%\n", + "25\t검증 세트 손실: 0.086805\t최선의 손실: 0.071957\t정확도: 97.50%\n", + "26\t검증 세트 손실: 0.100105\t최선의 손실: 0.071957\t정확도: 97.97%\n", + "27\t검증 세트 손실: 0.125552\t최선의 손실: 0.071957\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.087809\t최선의 손실: 0.071957\t정확도: 97.22%\n", + "29\t검증 세트 손실: 0.096731\t최선의 손실: 0.071957\t정확도: 97.26%\n", + "30\t검증 세트 손실: 0.205484\t최선의 손실: 0.071957\t정확도: 93.59%\n", + "31\t검증 세트 손실: 0.138650\t최선의 손실: 0.071957\t정확도: 97.07%\n", "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160, total= 13.0s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.293087\t최선의 손실: 0.293087\t정확도: 92.30%\n", - "1\t검증 세트 손실: 0.367762\t최선의 손실: 0.293087\t정확도: 91.99%\n", - "2\t검증 세트 손실: 0.244094\t최선의 손실: 0.244094\t정확도: 94.45%\n", - "3\t검증 세트 손실: 0.269242\t최선의 손실: 0.244094\t정확도: 94.37%\n", - "4\t검증 세트 손실: 0.334240\t최선의 손실: 0.244094\t정확도: 93.43%\n", - "5\t검증 세트 손실: 0.675773\t최선의 손실: 0.244094\t정확도: 75.14%\n", - "6\t검증 세트 손실: 0.397755\t최선의 손실: 0.244094\t정확도: 91.99%\n", - "7\t검증 세트 손실: 0.346652\t최선의 손실: 0.244094\t정확도: 92.65%\n", - "8\t검증 세트 손실: 0.361607\t최선의 손실: 0.244094\t정확도: 91.79%\n", - "9\t검증 세트 손실: 0.661234\t최선의 손실: 0.244094\t정확도: 79.01%\n", - "10\t검증 세트 손실: 0.456520\t최선의 손실: 0.244094\t정확도: 89.37%\n", - "11\t검증 세트 손실: 0.555468\t최선의 손실: 0.244094\t정확도: 85.38%\n", - "12\t검증 세트 손실: 0.785792\t최선의 손실: 0.244094\t정확도: 68.33%\n", - "13\t검증 세트 손실: 0.670652\t최선의 손실: 0.244094\t정확도: 74.82%\n", - "14\t검증 세트 손실: 0.969319\t최선의 손실: 0.244094\t정확도: 54.81%\n", - "15\t검증 세트 손실: 1.036378\t최선의 손실: 0.244094\t정확도: 51.80%\n", - "16\t검증 세트 손실: 0.827170\t최선의 손실: 0.244094\t정확도: 71.07%\n", - "17\t검증 세트 손실: 0.996155\t최선의 손실: 0.244094\t정확도: 54.69%\n", - "18\t검증 세트 손실: 1.163687\t최선의 손실: 0.244094\t정확도: 45.23%\n", - "19\t검증 세트 손실: 1.238955\t최선의 손실: 0.244094\t정확도: 39.01%\n", - "20\t검증 세트 손실: 1.234000\t최선의 손실: 0.244094\t정확도: 38.90%\n", - "21\t검증 세트 손실: 1.225394\t최선의 손실: 0.244094\t정확도: 39.05%\n", - "22\t검증 세트 손실: 1.223978\t최선의 손실: 0.244094\t정확도: 39.25%\n", - "23\t검증 세트 손실: 1.202560\t최선의 손실: 0.244094\t정확도: 39.52%\n", - "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160, total= 12.1s\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160 \n", - "0\t검증 세트 손실: 0.240915\t최선의 손실: 0.240915\t정확도: 93.67%\n", - "1\t검증 세트 손실: 0.210069\t최선의 손실: 0.210069\t정확도: 95.04%\n", - "2\t검증 세트 손실: 0.196012\t최선의 손실: 0.196012\t정확도: 95.04%\n", - "3\t검증 세트 손실: 0.259348\t최선의 손실: 0.196012\t정확도: 94.84%\n", - "4\t검증 세트 손실: 0.223396\t최선의 손실: 0.196012\t정확도: 94.45%\n", - "5\t검증 세트 손실: 0.209319\t최선의 손실: 0.196012\t정확도: 93.98%\n", - "6\t검증 세트 손실: 0.257283\t최선의 손실: 0.196012\t정확도: 93.51%\n", - "7\t검증 세트 손실: 0.254369\t최선의 손실: 0.196012\t정확도: 93.98%\n", - "8\t검증 세트 손실: 0.258320\t최선의 손실: 0.196012\t정확도: 94.96%\n", - "9\t검증 세트 손실: 0.262227\t최선의 손실: 0.196012\t정확도: 93.00%\n", - "10\t검증 세트 손실: 0.244314\t최선의 손실: 0.196012\t정확도: 93.20%\n", - "11\t검증 세트 손실: 0.263238\t최선의 손실: 0.196012\t정확도: 93.24%\n", - "12\t검증 세트 손실: 0.403091\t최선의 손실: 0.196012\t정확도: 88.51%\n", - "13\t검증 세트 손실: 0.298446\t최선의 손실: 0.196012\t정확도: 91.79%\n", - "14\t검증 세트 손실: 0.281315\t최선의 손실: 0.196012\t정확도: 93.98%\n", - "15\t검증 세트 손실: 0.320332\t최선의 손실: 0.196012\t정확도: 91.63%\n", - "16\t검증 세트 손실: 0.271860\t최선의 손실: 0.196012\t정확도: 92.34%\n", - "17\t검증 세트 손실: 0.349187\t최선의 손실: 0.196012\t정확도: 91.71%\n", - "18\t검증 세트 손실: 0.304742\t최선의 손실: 0.196012\t정확도: 91.63%\n", - "19\t검증 세트 손실: 0.293110\t최선의 손실: 0.196012\t정확도: 92.73%\n", - "20\t검증 세트 손실: 0.314301\t최선의 손실: 0.196012\t정확도: 91.48%\n", - "21\t검증 세트 손실: 0.581377\t최선의 손실: 0.196012\t정확도: 85.26%\n", - "22\t검증 세트 손실: 0.483249\t최선의 손실: 0.196012\t정확도: 85.50%\n", - "23\t검증 세트 손실: 0.551061\t최선의 손실: 0.196012\t정확도: 81.82%\n", - "조기 종료!\n", - "[CV] batch_size=50, dropout_rate=0.5, learning_rate=0.01, activation=, n_neurons=160, total= 12.1s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 148336.468750\t최선의 손실: 148336.468750\t정확도: 19.27%\n", - "1\t검증 세트 손실: 14923.139648\t최선의 손실: 14923.139648\t정확도: 18.73%\n", - "2\t검증 세트 손실: 1510.096802\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "3\t검증 세트 손실: 1995.338989\t최선의 손실: 1510.096802\t정확도: 18.73%\n", - "4\t검증 세트 손실: 131054.164062\t최선의 손실: 1510.096802\t정확도: 20.91%\n", - "5\t검증 세트 손실: 5229452.500000\t최선의 손실: 1510.096802\t정확도: 22.01%\n", - "6\t검증 세트 손실: 699802.812500\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "7\t검증 세트 손실: 355929.125000\t최선의 손실: 1510.096802\t정확도: 22.01%\n", - "8\t검증 세트 손실: 13249916.000000\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1371234.875000\t최선의 손실: 1510.096802\t정확도: 22.01%\n", - "10\t검증 세트 손실: 752486.312500\t최선의 손실: 1510.096802\t정확도: 19.08%\n", - "11\t검증 세트 손실: 2587733.750000\t최선의 손실: 1510.096802\t정확도: 18.73%\n", - "12\t검증 세트 손실: 271456.062500\t최선의 손실: 1510.096802\t정확도: 19.08%\n", - "13\t검증 세트 손실: 73412.414062\t최선의 손실: 1510.096802\t정확도: 18.73%\n", - "14\t검증 세트 손실: 266723.187500\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "15\t검증 세트 손실: 126303.265625\t최선의 손실: 1510.096802\t정확도: 18.80%\n", - "16\t검증 세트 손실: 1080778.625000\t최선의 손실: 1510.096802\t정확도: 20.91%\n" + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 3.2s\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.154439\t최선의 손실: 0.154439\t정확도: 95.74%\n", + "1\t검증 세트 손실: 0.125501\t최선의 손실: 0.125501\t정확도: 96.91%\n", + "2\t검증 세트 손실: 0.098885\t최선의 손실: 0.098885\t정확도: 97.30%\n", + "3\t검증 세트 손실: 0.086829\t최선의 손실: 0.086829\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.091108\t최선의 손실: 0.086829\t정확도: 97.65%\n", + "5\t검증 세트 손실: 0.074369\t최선의 손실: 0.074369\t정확도: 98.28%\n", + "6\t검증 세트 손실: 0.077337\t최선의 손실: 0.074369\t정확도: 98.08%\n", + "7\t검증 세트 손실: 0.080434\t최선의 손실: 0.074369\t정확도: 97.81%\n", + "8\t검증 세트 손실: 0.071185\t최선의 손실: 0.071185\t정확도: 98.08%\n", + "9\t검증 세트 손실: 0.077362\t최선의 손실: 0.071185\t정확도: 97.97%\n", + "10\t검증 세트 손실: 0.070922\t최선의 손실: 0.070922\t정확도: 98.36%\n", + "11\t검증 세트 손실: 0.072993\t최선의 손실: 0.070922\t정확도: 98.08%\n", + "12\t검증 세트 손실: 0.065957\t최선의 손실: 0.065957\t정확도: 98.08%\n", + "13\t검증 세트 손실: 0.069388\t최선의 손실: 0.065957\t정확도: 98.48%\n", + "14\t검증 세트 손실: 0.075950\t최선의 손실: 0.065957\t정확도: 98.08%\n", + "15\t검증 세트 손실: 0.056370\t최선의 손실: 0.056370\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.086139\t최선의 손실: 0.056370\t정확도: 98.16%\n", + "17\t검증 세트 손실: 0.079451\t최선의 손실: 0.056370\t정확도: 98.24%\n", + "18\t검증 세트 손실: 0.115196\t최선의 손실: 0.056370\t정확도: 98.01%\n", + "19\t검증 세트 손실: 0.083995\t최선의 손실: 0.056370\t정확도: 97.77%\n", + "20\t검증 세트 손실: 0.123614\t최선의 손실: 0.056370\t정확도: 97.81%\n", + "21\t검증 세트 손실: 0.095427\t최선의 손실: 0.056370\t정확도: 97.81%\n", + "22\t검증 세트 손실: 0.092935\t최선의 손실: 0.056370\t정확도: 97.81%\n", + "23\t검증 세트 손실: 0.202798\t최선의 손실: 0.056370\t정확도: 97.42%\n", + "24\t검증 세트 손실: 0.250732\t최선의 손실: 0.056370\t정확도: 93.75%\n", + "25\t검증 세트 손실: 0.122354\t최선의 손실: 0.056370\t정확도: 97.26%\n", + "26\t검증 세트 손실: 0.109510\t최선의 손실: 0.056370\t정확도: 97.22%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "17\t검증 세트 손실: 79076.789062\t최선의 손실: 1510.096802\t정확도: 19.08%\n", - "18\t검증 세트 손실: 59026.332031\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "19\t검증 세트 손실: 63334.492188\t최선의 손실: 1510.096802\t정확도: 20.91%\n", - "20\t검증 세트 손실: 111498.335938\t최선의 손실: 1510.096802\t정확도: 19.08%\n", - "21\t검증 세트 손실: 29015.423828\t최선의 손실: 1510.096802\t정확도: 18.73%\n", - "22\t검증 세트 손실: 453222.468750\t최선의 손실: 1510.096802\t정확도: 19.27%\n", - "23\t검증 세트 손실: 79364.593750\t최선의 손실: 1510.096802\t정확도: 18.73%\n", + "27\t검증 세트 손실: 0.141686\t최선의 손실: 0.056370\t정확도: 96.87%\n", + "28\t검증 세트 손실: 0.121504\t최선의 손실: 0.056370\t정확도: 97.11%\n", + "29\t검증 세트 손실: 0.135222\t최선의 손실: 0.056370\t정확도: 97.38%\n", + "30\t검증 세트 손실: 0.129288\t최선의 손실: 0.056370\t정확도: 97.69%\n", + "31\t검증 세트 손실: 0.111852\t최선의 손실: 0.056370\t정확도: 97.34%\n", + "32\t검증 세트 손실: 0.092887\t최선의 손실: 0.056370\t정확도: 97.58%\n", + "33\t검증 세트 손실: 0.098768\t최선의 손실: 0.056370\t정확도: 97.50%\n", + "34\t검증 세트 손실: 0.163069\t최선의 손실: 0.056370\t정확도: 95.93%\n", + "35\t검증 세트 손실: 0.145810\t최선의 손실: 0.056370\t정확도: 97.11%\n", + "36\t검증 세트 손실: 0.122207\t최선의 손실: 0.056370\t정확도: 97.38%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 7.8s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 1634.575806\t최선의 손실: 1634.575806\t정확도: 22.01%\n", - "1\t검증 세트 손실: 993.710632\t최선의 손실: 993.710632\t정확도: 22.36%\n", - "2\t검증 세트 손실: 62547.664062\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1548086.500000\t최선의 손실: 993.710632\t정확도: 19.27%\n", - "4\t검증 세트 손실: 2377654.000000\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "5\t검증 세트 손실: 361640.562500\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "6\t검증 세트 손실: 2904230.250000\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "7\t검증 세트 손실: 164768.718750\t최선의 손실: 993.710632\t정확도: 18.73%\n", - "8\t검증 세트 손실: 202717.125000\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "9\t검증 세트 손실: 55561.042969\t최선의 손실: 993.710632\t정확도: 18.73%\n", - "10\t검증 세트 손실: 65999.640625\t최선의 손실: 993.710632\t정확도: 18.73%\n", - "11\t검증 세트 손실: 1350428.000000\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "12\t검증 세트 손실: 272320.437500\t최선의 손실: 993.710632\t정확도: 22.01%\n", - "13\t검증 세트 손실: 547282.187500\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "14\t검증 세트 손실: 64083.503906\t최선의 손실: 993.710632\t정확도: 19.08%\n", - "15\t검증 세트 손실: 76598.945312\t최선의 손실: 993.710632\t정확도: 20.91%\n", - "16\t검증 세트 손실: 56487.003906\t최선의 손실: 993.710632\t정확도: 18.73%\n", - "17\t검증 세트 손실: 34009.578125\t최선의 손실: 993.710632\t정확도: 20.91%\n", - "18\t검증 세트 손실: 111138.179688\t최선의 손실: 993.710632\t정확도: 22.01%\n", - "19\t검증 세트 손실: 72397.695312\t최선의 손실: 993.710632\t정확도: 19.27%\n", - "20\t검증 세트 손실: 65485.660156\t최선의 손실: 993.710632\t정확도: 20.91%\n", - "21\t검증 세트 손실: 47633.843750\t최선의 손실: 993.710632\t정확도: 20.91%\n", - "22\t검증 세트 손실: 15381.926758\t최선의 손실: 993.710632\t정확도: 18.73%\n", + "[CV] n_neurons=90, learning_rate=0.02, dropout_rate=0.3, batch_size=500, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 3.6s\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.099153\t최선의 손실: 0.099153\t정확도: 97.58%\n", + "1\t검증 세트 손실: 0.078592\t최선의 손실: 0.078592\t정확도: 98.01%\n", + "2\t검증 세트 손실: 0.075328\t최선의 손실: 0.075328\t정확도: 98.05%\n", + "3\t검증 세트 손실: 0.073642\t최선의 손실: 0.073642\t정확도: 98.01%\n", + "4\t검증 세트 손실: 0.061251\t최선의 손실: 0.061251\t정확도: 98.51%\n", + "5\t검증 세트 손실: 0.061085\t최선의 손실: 0.061085\t정확도: 98.32%\n", + "6\t검증 세트 손실: 0.063432\t최선의 손실: 0.061085\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.060074\t최선의 손실: 0.060074\t정확도: 98.20%\n", + "8\t검증 세트 손실: 0.059489\t최선의 손실: 0.059489\t정확도: 98.55%\n", + "9\t검증 세트 손실: 0.068156\t최선의 손실: 0.059489\t정확도: 98.24%\n", + "10\t검증 세트 손실: 0.064002\t최선의 손실: 0.059489\t정확도: 98.12%\n", + "11\t검증 세트 손실: 0.058416\t최선의 손실: 0.058416\t정확도: 98.59%\n", + "12\t검증 세트 손실: 0.063539\t최선의 손실: 0.058416\t정확도: 98.16%\n", + "13\t검증 세트 손실: 0.127775\t최선의 손실: 0.058416\t정확도: 98.12%\n", + "14\t검증 세트 손실: 0.067319\t최선의 손실: 0.058416\t정확도: 98.20%\n", + "15\t검증 세트 손실: 0.060446\t최선의 손실: 0.058416\t정확도: 98.36%\n", + "16\t검증 세트 손실: 0.075690\t최선의 손실: 0.058416\t정확도: 98.20%\n", + "17\t검증 세트 손실: 0.083372\t최선의 손실: 0.058416\t정확도: 98.16%\n", + "18\t검증 세트 손실: 0.080073\t최선의 손실: 0.058416\t정확도: 98.40%\n", + "19\t검증 세트 손실: 0.074771\t최선의 손실: 0.058416\t정확도: 98.20%\n", + "20\t검증 세트 손실: 0.078361\t최선의 손실: 0.058416\t정확도: 97.85%\n", + "21\t검증 세트 손실: 0.074925\t최선의 손실: 0.058416\t정확도: 98.44%\n", + "22\t검증 세트 손실: 0.089523\t최선의 손실: 0.058416\t정확도: 97.89%\n", + "23\t검증 세트 손실: 0.077509\t최선의 손실: 0.058416\t정확도: 98.24%\n", + "24\t검증 세트 손실: 0.071166\t최선의 손실: 0.058416\t정확도: 98.24%\n", + "25\t검증 세트 손실: 0.067352\t최선의 손실: 0.058416\t정확도: 98.44%\n", + "26\t검증 세트 손실: 0.063854\t최선의 손실: 0.058416\t정확도: 98.63%\n", + "27\t검증 세트 손실: 0.061735\t최선의 손실: 0.058416\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.069365\t최선의 손실: 0.058416\t정확도: 98.51%\n", + "29\t검증 세트 손실: 0.071186\t최선의 손실: 0.058416\t정확도: 98.48%\n", + "30\t검증 세트 손실: 0.069371\t최선의 손실: 0.058416\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.059680\t최선의 손실: 0.058416\t정확도: 98.24%\n", + "32\t검증 세트 손실: 0.075582\t최선의 손실: 0.058416\t정확도: 98.40%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 7.4s\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100 \n", - "0\t검증 세트 손실: 62633.558594\t최선의 손실: 62633.558594\t정확도: 18.73%\n", - "1\t검증 세트 손실: 149185.875000\t최선의 손실: 62633.558594\t정확도: 18.73%\n", - "2\t검증 세트 손실: 301049.000000\t최선의 손실: 62633.558594\t정확도: 20.91%\n", - "3\t검증 세트 손실: 25600.945312\t최선의 손실: 25600.945312\t정확도: 19.27%\n", - "4\t검증 세트 손실: 64718.929688\t최선의 손실: 25600.945312\t정확도: 20.91%\n", - "5\t검증 세트 손실: 93476.343750\t최선의 손실: 25600.945312\t정확도: 18.73%\n", - "6\t검증 세트 손실: 17584.511719\t최선의 손실: 17584.511719\t정확도: 19.27%\n", - "7\t검증 세트 손실: 453031.468750\t최선의 손실: 17584.511719\t정확도: 22.01%\n", - "8\t검증 세트 손실: 15926.215820\t최선의 손실: 15926.215820\t정확도: 18.73%\n", - "9\t검증 세트 손실: 36573.203125\t최선의 손실: 15926.215820\t정확도: 19.08%\n", - "10\t검증 세트 손실: 19708.011719\t최선의 손실: 15926.215820\t정확도: 20.91%\n", - "11\t검증 세트 손실: 23944.326172\t최선의 손실: 15926.215820\t정확도: 20.91%\n", - "12\t검증 세트 손실: 203592.781250\t최선의 손실: 15926.215820\t정확도: 19.08%\n", - "13\t검증 세트 손실: 27150.943359\t최선의 손실: 15926.215820\t정확도: 19.27%\n", - "14\t검증 세트 손실: 6073.775391\t최선의 손실: 6073.775391\t정확도: 20.91%\n", - "15\t검증 세트 손실: 8380.060547\t최선의 손실: 6073.775391\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1788.519531\t최선의 손실: 1788.519531\t정확도: 18.73%\n", - "17\t검증 세트 손실: 3313.307373\t최선의 손실: 1788.519531\t정확도: 20.91%\n", - "18\t검증 세트 손실: 8580.680664\t최선의 손실: 1788.519531\t정확도: 22.01%\n", - "19\t검증 세트 손실: 4109.913574\t최선의 손실: 1788.519531\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1494.192017\t최선의 손실: 1494.192017\t정확도: 19.27%\n", - "21\t검증 세트 손실: 880.820984\t최선의 손실: 880.820984\t정확도: 19.27%\n", - "22\t검증 세트 손실: 48032.054688\t최선의 손실: 880.820984\t정확도: 19.08%\n", - "23\t검증 세트 손실: 30884.037109\t최선의 손실: 880.820984\t정확도: 20.91%\n", - "24\t검증 세트 손실: 94710.789062\t최선의 손실: 880.820984\t정확도: 20.91%\n", - "25\t검증 세트 손실: 8881772.000000\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "26\t검증 세트 손실: 3622079.000000\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "27\t검증 세트 손실: 331837.000000\t최선의 손실: 880.820984\t정확도: 19.08%\n", - "28\t검증 세트 손실: 462966.687500\t최선의 손실: 880.820984\t정확도: 19.27%\n", - "29\t검증 세트 손실: 3674574.250000\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "30\t검증 세트 손실: 496754.343750\t최선의 손실: 880.820984\t정확도: 19.27%\n", - "31\t검증 세트 손실: 212056.140625\t최선의 손실: 880.820984\t정확도: 19.27%\n", - "32\t검증 세트 손실: 141196.046875\t최선의 손실: 880.820984\t정확도: 19.08%\n", - "33\t검증 세트 손실: 30411.705078\t최선의 손실: 880.820984\t정확도: 22.36%\n", - "34\t검증 세트 손실: 73475.976562\t최선의 손실: 880.820984\t정확도: 20.91%\n", - "35\t검증 세트 손실: 163519.593750\t최선의 손실: 880.820984\t정확도: 22.01%\n", - "36\t검증 세트 손실: 162622.750000\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "37\t검증 세트 손실: 318713.906250\t최선의 손실: 880.820984\t정확도: 19.27%\n", - "38\t검증 세트 손실: 95623.031250\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "39\t검증 세트 손실: 268601.812500\t최선의 손실: 880.820984\t정확도: 20.91%\n", - "40\t검증 세트 손실: 179693.203125\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "41\t검증 세트 손실: 215762.343750\t최선의 손실: 880.820984\t정확도: 18.73%\n", - "42\t검증 세트 손실: 76865.101562\t최선의 손실: 880.820984\t정확도: 19.08%\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 10.2s\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.120692\t최선의 손실: 0.120692\t정확도: 96.87%\n", + "1\t검증 세트 손실: 0.105130\t최선의 손실: 0.105130\t정확도: 97.77%\n", + "2\t검증 세트 손실: 0.064965\t최선의 손실: 0.064965\t정확도: 98.24%\n", + "3\t검증 세트 손실: 0.069651\t최선의 손실: 0.064965\t정확도: 98.05%\n", + "4\t검증 세트 손실: 0.072090\t최선의 손실: 0.064965\t정확도: 98.40%\n", + "5\t검증 세트 손실: 0.060816\t최선의 손실: 0.060816\t정확도: 98.55%\n", + "6\t검증 세트 손실: 0.063535\t최선의 손실: 0.060816\t정확도: 98.36%\n", + "7\t검증 세트 손실: 0.061944\t최선의 손실: 0.060816\t정확도: 98.67%\n", + "8\t검증 세트 손실: 0.072541\t최선의 손실: 0.060816\t정확도: 97.89%\n", + "9\t검증 세트 손실: 0.137791\t최선의 손실: 0.060816\t정확도: 97.77%\n", + "10\t검증 세트 손실: 0.088153\t최선의 손실: 0.060816\t정확도: 97.97%\n", + "11\t검증 세트 손실: 0.066421\t최선의 손실: 0.060816\t정확도: 98.32%\n", + "12\t검증 세트 손실: 0.059391\t최선의 손실: 0.059391\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.053126\t최선의 손실: 0.053126\t정확도: 98.51%\n", + "14\t검증 세트 손실: 0.071700\t최선의 손실: 0.053126\t정확도: 98.67%\n", + "15\t검증 세트 손실: 0.059260\t최선의 손실: 0.053126\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.117224\t최선의 손실: 0.053126\t정확도: 98.32%\n", + "17\t검증 세트 손실: 0.144925\t최선의 손실: 0.053126\t정확도: 97.58%\n", + "18\t검증 세트 손실: 0.084886\t최선의 손실: 0.053126\t정확도: 97.97%\n", + "19\t검증 세트 손실: 0.075827\t최선의 손실: 0.053126\t정확도: 98.48%\n", + "20\t검증 세트 손실: 0.081062\t최선의 손실: 0.053126\t정확도: 98.20%\n", + "21\t검증 세트 손실: 0.084236\t최선의 손실: 0.053126\t정확도: 98.36%\n", + "22\t검증 세트 손실: 0.076776\t최선의 손실: 0.053126\t정확도: 98.51%\n", + "23\t검증 세트 손실: 0.060679\t최선의 손실: 0.053126\t정확도: 98.67%\n", + "24\t검증 세트 손실: 0.069338\t최선의 손실: 0.053126\t정확도: 98.51%\n", + "25\t검증 세트 손실: 0.063139\t최선의 손실: 0.053126\t정확도: 98.75%\n", + "26\t검증 세트 손실: 0.074769\t최선의 손실: 0.053126\t정확도: 98.51%\n", + "27\t검증 세트 손실: 0.081518\t최선의 손실: 0.053126\t정확도: 98.36%\n", + "28\t검증 세트 손실: 0.076703\t최선의 손실: 0.053126\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.070815\t최선의 손실: 0.053126\t정확도: 98.55%\n", + "30\t검증 세트 손실: 0.060953\t최선의 손실: 0.053126\t정확도: 98.79%\n", + "31\t검증 세트 손실: 0.070411\t최선의 손실: 0.053126\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.061829\t최선의 손실: 0.053126\t정확도: 98.48%\n", + "33\t검증 세트 손실: 0.064573\t최선의 손실: 0.053126\t정확도: 98.28%\n", + "34\t검증 세트 손실: 0.066051\t최선의 손실: 0.053126\t정확도: 98.51%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.6, learning_rate=0.1, activation=.parametrized_leaky_relu at 0x7f71a6b19a60>, n_neurons=100, total= 13.5s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.738489\t최선의 손실: 1.738489\t정확도: 19.27%\n", - "1\t검증 세트 손실: 1.886513\t최선의 손실: 1.738489\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.740264\t최선의 손실: 1.738489\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.664359\t최선의 손실: 1.664359\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.706610\t최선의 손실: 1.664359\t정확도: 22.01%\n", - "5\t검증 세트 손실: 1.775695\t최선의 손실: 1.664359\t정확도: 22.01%\n", - "6\t검증 세트 손실: 2.010352\t최선의 손실: 1.664359\t정확도: 18.73%\n", - "7\t검증 세트 손실: 1.718218\t최선의 손실: 1.664359\t정확도: 19.27%\n", - "8\t검증 세트 손실: 1.717083\t최선의 손실: 1.664359\t정확도: 19.27%\n", - "9\t검증 세트 손실: 1.722362\t최선의 손실: 1.664359\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.648281\t최선의 손실: 1.648281\t정확도: 20.91%\n", - "11\t검증 세트 손실: 1.672289\t최선의 손실: 1.648281\t정확도: 19.08%\n", - "12\t검증 세트 손실: 1.755730\t최선의 손실: 1.648281\t정확도: 18.73%\n", - "13\t검증 세트 손실: 1.873558\t최선의 손실: 1.648281\t정확도: 19.27%\n", - "14\t검증 세트 손실: 1.799527\t최선의 손실: 1.648281\t정확도: 18.73%\n", - "15\t검증 세트 손실: 1.818024\t최선의 손실: 1.648281\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.859969\t최선의 손실: 1.648281\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.640647\t최선의 손실: 1.640647\t정확도: 22.01%\n", - "18\t검증 세트 손실: 2.133803\t최선의 손실: 1.640647\t정확도: 19.27%\n", - "19\t검증 세트 손실: 1.917773\t최선의 손실: 1.640647\t정확도: 20.91%\n", - "20\t검증 세트 손실: 1.629715\t최선의 손실: 1.629715\t정확도: 22.01%\n", - "21\t검증 세트 손실: 1.719257\t최선의 손실: 1.629715\t정확도: 19.27%\n", - "22\t검증 세트 손실: 1.626234\t최선의 손실: 1.626234\t정확도: 22.01%\n", - "23\t검증 세트 손실: 1.855303\t최선의 손실: 1.626234\t정확도: 22.01%\n", - "24\t검증 세트 손실: 1.674440\t최선의 손실: 1.626234\t정확도: 20.91%\n", - "25\t검증 세트 손실: 1.844959\t최선의 손실: 1.626234\t정확도: 19.27%\n", - "26\t검증 세트 손실: 1.717187\t최선의 손실: 1.626234\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.754613\t최선의 손실: 1.626234\t정확도: 19.27%\n", - "28\t검증 세트 손실: 1.867256\t최선의 손실: 1.626234\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.730222\t최선의 손실: 1.626234\t정확도: 18.73%\n", - "30\t검증 세트 손실: 1.732871\t최선의 손실: 1.626234\t정확도: 18.73%\n", - "31\t검증 세트 손실: 1.664956\t최선의 손실: 1.626234\t정확도: 19.27%\n", - "32\t검증 세트 손실: 1.915380\t최선의 손실: 1.626234\t정확도: 18.73%\n", - "33\t검증 세트 손실: 1.714958\t최선의 손실: 1.626234\t정확도: 22.01%\n", - "34\t검증 세트 손실: 1.672569\t최선의 손실: 1.626234\t정확도: 22.01%\n", - "35\t검증 세트 손실: 1.803263\t최선의 손실: 1.626234\t정확도: 19.08%\n", - "36\t검증 세트 손실: 1.877122\t최선의 손실: 1.626234\t정확도: 22.01%\n", - "37\t검증 세트 손실: 1.873342\t최선의 손실: 1.626234\t정확도: 19.27%\n", - "38\t검증 세트 손실: 1.798923\t최선의 손실: 1.626234\t정확도: 19.08%\n", - "39\t검증 세트 손실: 1.683498\t최선의 손실: 1.626234\t정확도: 20.91%\n", - "40\t검증 세트 손실: 1.685015\t최선의 손실: 1.626234\t정확도: 19.27%\n", - "41\t검증 세트 손실: 1.896602\t최선의 손실: 1.626234\t정확도: 20.91%\n", - "42\t검증 세트 손실: 1.791105\t최선의 손실: 1.626234\t정확도: 18.73%\n", - "43\t검증 세트 손실: 1.759725\t최선의 손실: 1.626234\t정확도: 20.91%\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 11.0s\n", + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8> \n", + "0\t검증 세트 손실: 0.100982\t최선의 손실: 0.100982\t정확도: 97.34%\n", + "1\t검증 세트 손실: 0.104660\t최선의 손실: 0.100982\t정확도: 97.65%\n", + "2\t검증 세트 손실: 0.067126\t최선의 손실: 0.067126\t정확도: 98.51%\n", + "3\t검증 세트 손실: 0.079672\t최선의 손실: 0.067126\t정확도: 98.24%\n", + "4\t검증 세트 손실: 0.066397\t최선의 손실: 0.066397\t정확도: 98.44%\n", + "5\t검증 세트 손실: 0.074011\t최선의 손실: 0.066397\t정확도: 97.89%\n", + "6\t검증 세트 손실: 0.074367\t최선의 손실: 0.066397\t정확도: 98.24%\n", + "7\t검증 세트 손실: 0.076254\t최선의 손실: 0.066397\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.093936\t최선의 손실: 0.066397\t정확도: 98.08%\n", + "9\t검증 세트 손실: 0.081542\t최선의 손실: 0.066397\t정확도: 97.93%\n", + "10\t검증 세트 손실: 0.080742\t최선의 손실: 0.066397\t정확도: 98.16%\n", + "11\t검증 세트 손실: 0.098970\t최선의 손실: 0.066397\t정확도: 98.28%\n", + "12\t검증 세트 손실: 0.066568\t최선의 손실: 0.066397\t정확도: 98.48%\n", + "13\t검증 세트 손실: 0.107146\t최선의 손실: 0.066397\t정확도: 97.11%\n", + "14\t검증 세트 손실: 0.077869\t최선의 손실: 0.066397\t정확도: 98.24%\n", + "15\t검증 세트 손실: 0.089186\t최선의 손실: 0.066397\t정확도: 98.01%\n", + "16\t검증 세트 손실: 0.087513\t최선의 손실: 0.066397\t정확도: 98.08%\n", + "17\t검증 세트 손실: 0.150674\t최선의 손실: 0.066397\t정확도: 97.38%\n", + "18\t검증 세트 손실: 0.084663\t최선의 손실: 0.066397\t정확도: 98.24%\n", + "19\t검증 세트 손실: 0.095945\t최선의 손실: 0.066397\t정확도: 98.20%\n", + "20\t검증 세트 손실: 0.071617\t최선의 손실: 0.066397\t정확도: 98.59%\n", + "21\t검증 세트 손실: 0.064683\t최선의 손실: 0.064683\t정확도: 98.51%\n", + "22\t검증 세트 손실: 0.092999\t최선의 손실: 0.064683\t정확도: 98.44%\n", + "23\t검증 세트 손실: 0.113513\t최선의 손실: 0.064683\t정확도: 97.97%\n", + "24\t검증 세트 손실: 0.078476\t최선의 손실: 0.064683\t정확도: 98.05%\n", + "25\t검증 세트 손실: 0.084561\t최선의 손실: 0.064683\t정확도: 98.24%\n", + "26\t검증 세트 손실: 0.086875\t최선의 손실: 0.064683\t정확도: 98.28%\n", + "27\t검증 세트 손실: 0.058870\t최선의 손실: 0.058870\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.058370\t최선의 손실: 0.058370\t정확도: 98.59%\n", + "29\t검증 세트 손실: 0.061932\t최선의 손실: 0.058370\t정확도: 98.59%\n", + "30\t검증 세트 손실: 0.056163\t최선의 손실: 0.056163\t정확도: 98.75%\n", + "31\t검증 세트 손실: 0.054828\t최선의 손실: 0.054828\t정확도: 98.51%\n", + "32\t검증 세트 손실: 0.066662\t최선의 손실: 0.054828\t정확도: 98.75%\n", + "33\t검증 세트 손실: 0.057518\t최선의 손실: 0.054828\t정확도: 98.59%\n", + "34\t검증 세트 손실: 0.065665\t최선의 손실: 0.054828\t정확도: 98.32%\n", + "35\t검증 세트 손실: 0.059533\t최선의 손실: 0.054828\t정확도: 98.40%\n", + "36\t검증 세트 손실: 0.067189\t최선의 손실: 0.054828\t정확도: 98.59%\n", + "37\t검증 세트 손실: 0.067471\t최선의 손실: 0.054828\t정확도: 98.59%\n", + "38\t검증 세트 손실: 0.074742\t최선의 손실: 0.054828\t정확도: 98.71%\n", + "39\t검증 세트 손실: 0.089170\t최선의 손실: 0.054828\t정확도: 98.01%\n", + "40\t검증 세트 손실: 0.076499\t최선의 손실: 0.054828\t정확도: 98.24%\n", + "41\t검증 세트 손실: 0.123013\t최선의 손실: 0.054828\t정확도: 98.01%\n", + "42\t검증 세트 손실: 0.078369\t최선의 손실: 0.054828\t정확도: 97.69%\n", + "43\t검증 세트 손실: 0.081015\t최선의 손실: 0.054828\t정확도: 98.12%\n", + "44\t검증 세트 손실: 0.068281\t최선의 손실: 0.054828\t정확도: 98.32%\n", + "45\t검증 세트 손실: 0.072560\t최선의 손실: 0.054828\t정확도: 98.28%\n", + "46\t검증 세트 손실: 0.067520\t최선의 손실: 0.054828\t정확도: 98.48%\n", + "47\t검증 세트 손실: 0.077636\t최선의 손실: 0.054828\t정확도: 98.59%\n", + "48\t검증 세트 손실: 0.065667\t최선의 손실: 0.054828\t정확도: 98.48%\n", + "49\t검증 세트 손실: 0.132593\t최선의 손실: 0.054828\t정확도: 97.97%\n", + "50\t검증 세트 손실: 0.067454\t최선의 손실: 0.054828\t정확도: 98.24%\n", + "51\t검증 세트 손실: 0.067693\t최선의 손실: 0.054828\t정확도: 98.51%\n", + "52\t검증 세트 손실: 0.062762\t최선의 손실: 0.054828\t정확도: 98.59%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140, total= 11.6s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.777285\t최선의 손실: 1.777285\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.877205\t최선의 손실: 1.777285\t정확도: 19.08%\n", - "2\t검증 세트 손실: 1.655244\t최선의 손실: 1.655244\t정확도: 20.91%\n", - "3\t검증 세트 손실: 1.656599\t최선의 손실: 1.655244\t정확도: 22.01%\n", - "4\t검증 세트 손실: 1.784726\t최선의 손실: 1.655244\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.647859\t최선의 손실: 1.647859\t정확도: 19.08%\n", - "6\t검증 세트 손실: 1.735571\t최선의 손실: 1.647859\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.765946\t최선의 손실: 1.647859\t정확도: 19.08%\n", - "8\t검증 세트 손실: 1.792578\t최선의 손실: 1.647859\t정확도: 22.01%\n", - "9\t검증 세트 손실: 2.019326\t최선의 손실: 1.647859\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.733482\t최선의 손실: 1.647859\t정확도: 22.01%\n" + "[CV] n_neurons=70, learning_rate=0.01, dropout_rate=0.2, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99ae8>, total= 16.1s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.216354\t최선의 손실: 0.216354\t정확도: 93.98%\n", + "1\t검증 세트 손실: 0.172999\t최선의 손실: 0.172999\t정확도: 94.96%\n", + "2\t검증 세트 손실: 0.195788\t최선의 손실: 0.172999\t정확도: 95.31%\n", + "3\t검증 세트 손실: 0.190557\t최선의 손실: 0.172999\t정확도: 95.00%\n", + "4\t검증 세트 손실: 0.290701\t최선의 손실: 0.172999\t정확도: 91.91%\n" ] }, { "name": "stdout", "output_type": "stream", "text": [ - "11\t검증 세트 손실: 1.740877\t최선의 손실: 1.647859\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.627548\t최선의 손실: 1.627548\t정확도: 20.91%\n", - "13\t검증 세트 손실: 1.635174\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "14\t검증 세트 손실: 1.826577\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "15\t검증 세트 손실: 1.642616\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "16\t검증 세트 손실: 1.749894\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.757566\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "18\t검증 세트 손실: 1.765425\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "19\t검증 세트 손실: 1.670449\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "20\t검증 세트 손실: 1.741396\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "21\t검증 세트 손실: 1.758625\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.925994\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "23\t검증 세트 손실: 1.695911\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "24\t검증 세트 손실: 2.082557\t최선의 손실: 1.627548\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.833698\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.727754\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "27\t검증 세트 손실: 1.806315\t최선의 손실: 1.627548\t정확도: 20.91%\n", - "28\t검증 세트 손실: 2.157050\t최선의 손실: 1.627548\t정확도: 20.91%\n", - "29\t검증 세트 손실: 1.776897\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "30\t검증 세트 손실: 1.756456\t최선의 손실: 1.627548\t정확도: 18.73%\n", - "31\t검증 세트 손실: 1.987076\t최선의 손실: 1.627548\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.830609\t최선의 손실: 1.627548\t정확도: 19.08%\n", - "33\t검증 세트 손실: 1.762762\t최선의 손실: 1.627548\t정확도: 18.73%\n", + "5\t검증 세트 손실: 0.176103\t최선의 손실: 0.172999\t정확도: 96.25%\n", + "6\t검증 세트 손실: 0.240481\t최선의 손실: 0.172999\t정확도: 93.51%\n", + "7\t검증 세트 손실: 0.263329\t최선의 손실: 0.172999\t정확도: 92.22%\n", + "8\t검증 세트 손실: 0.283924\t최선의 손실: 0.172999\t정확도: 88.55%\n", + "9\t검증 세트 손실: 0.294334\t최선의 손실: 0.172999\t정확도: 92.18%\n", + "10\t검증 세트 손실: 0.305160\t최선의 손실: 0.172999\t정확도: 89.68%\n", + "11\t검증 세트 손실: 0.301023\t최선의 손실: 0.172999\t정확도: 87.69%\n", + "12\t검증 세트 손실: 0.451975\t최선의 손실: 0.172999\t정확도: 83.54%\n", + "13\t검증 세트 손실: 0.395747\t최선의 손실: 0.172999\t정확도: 87.72%\n", + "14\t검증 세트 손실: 0.410365\t최선의 손실: 0.172999\t정확도: 89.01%\n", + "15\t검증 세트 손실: 0.399047\t최선의 손실: 0.172999\t정확도: 87.72%\n", + "16\t검증 세트 손실: 0.364000\t최선의 손실: 0.172999\t정확도: 88.62%\n", + "17\t검증 세트 손실: 0.398263\t최선의 손실: 0.172999\t정확도: 88.00%\n", + "18\t검증 세트 손실: 0.393991\t최선의 손실: 0.172999\t정확도: 88.98%\n", + "19\t검증 세트 손실: 1.279213\t최선의 손실: 0.172999\t정확도: 76.90%\n", + "20\t검증 세트 손실: 0.496106\t최선의 손실: 0.172999\t정확도: 82.64%\n", + "21\t검증 세트 손실: 0.443642\t최선의 손실: 0.172999\t정확도: 89.13%\n", + "22\t검증 세트 손실: 0.417561\t최선의 손실: 0.172999\t정확도: 86.51%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140, total= 9.2s\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140 \n", - "0\t검증 세트 손실: 1.899494\t최선의 손실: 1.899494\t정확도: 20.91%\n", - "1\t검증 세트 손실: 1.684400\t최선의 손실: 1.684400\t정확도: 18.73%\n", - "2\t검증 세트 손실: 1.717962\t최선의 손실: 1.684400\t정확도: 19.08%\n", - "3\t검증 세트 손실: 1.710994\t최선의 손실: 1.684400\t정확도: 19.27%\n", - "4\t검증 세트 손실: 1.690144\t최선의 손실: 1.684400\t정확도: 20.91%\n", - "5\t검증 세트 손실: 1.880843\t최선의 손실: 1.684400\t정확도: 20.91%\n", - "6\t검증 세트 손실: 2.032708\t최선의 손실: 1.684400\t정확도: 19.27%\n", - "7\t검증 세트 손실: 1.885430\t최선의 손실: 1.684400\t정확도: 18.73%\n", - "8\t검증 세트 손실: 1.670620\t최선의 손실: 1.670620\t정확도: 22.01%\n", - "9\t검증 세트 손실: 1.742793\t최선의 손실: 1.670620\t정확도: 19.08%\n", - "10\t검증 세트 손실: 1.685296\t최선의 손실: 1.670620\t정확도: 19.08%\n", - "11\t검증 세트 손실: 1.829634\t최선의 손실: 1.670620\t정확도: 22.01%\n", - "12\t검증 세트 손실: 1.756803\t최선의 손실: 1.670620\t정확도: 19.08%\n", - "13\t검증 세트 손실: 1.658075\t최선의 손실: 1.658075\t정확도: 22.01%\n", - "14\t검증 세트 손실: 2.057945\t최선의 손실: 1.658075\t정확도: 22.01%\n", - "15\t검증 세트 손실: 1.689310\t최선의 손실: 1.658075\t정확도: 22.01%\n", - "16\t검증 세트 손실: 1.868093\t최선의 손실: 1.658075\t정확도: 22.01%\n", - "17\t검증 세트 손실: 1.635349\t최선의 손실: 1.635349\t정확도: 18.73%\n", - "18\t검증 세트 손실: 1.609725\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "19\t검증 세트 손실: 1.755853\t최선의 손실: 1.609725\t정확도: 22.01%\n", - "20\t검증 세트 손실: 1.770261\t최선의 손실: 1.609725\t정확도: 19.27%\n", - "21\t검증 세트 손실: 1.723042\t최선의 손실: 1.609725\t정확도: 22.01%\n", - "22\t검증 세트 손실: 1.806255\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "23\t검증 세트 손실: 1.663087\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "24\t검증 세트 손실: 1.815744\t최선의 손실: 1.609725\t정확도: 18.73%\n", - "25\t검증 세트 손실: 1.701659\t최선의 손실: 1.609725\t정확도: 22.01%\n", - "26\t검증 세트 손실: 1.868236\t최선의 손실: 1.609725\t정확도: 18.73%\n", - "27\t검증 세트 손실: 1.662011\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "28\t검증 세트 손실: 1.966487\t최선의 손실: 1.609725\t정확도: 19.08%\n", - "29\t검증 세트 손실: 1.959482\t최선의 손실: 1.609725\t정확도: 19.08%\n", - "30\t검증 세트 손실: 1.924305\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "31\t검증 세트 손실: 1.864602\t최선의 손실: 1.609725\t정확도: 22.01%\n", - "32\t검증 세트 손실: 1.724891\t최선의 손실: 1.609725\t정확도: 19.08%\n", - "33\t검증 세트 손실: 1.641151\t최선의 손실: 1.609725\t정확도: 18.73%\n", - "34\t검증 세트 손실: 1.777585\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "35\t검증 세트 손실: 1.657573\t최선의 손실: 1.609725\t정확도: 19.27%\n", - "36\t검증 세트 손실: 1.645926\t최선의 손실: 1.609725\t정확도: 20.91%\n", - "37\t검증 세트 손실: 1.715135\t최선의 손실: 1.609725\t정확도: 19.08%\n", - "38\t검증 세트 손실: 1.829035\t최선의 손실: 1.609725\t정확도: 18.73%\n", - "39\t검증 세트 손실: 1.640036\t최선의 손실: 1.609725\t정확도: 18.73%\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 11.4s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.201232\t최선의 손실: 0.201232\t정확도: 94.61%\n", + "1\t검증 세트 손실: 0.163822\t최선의 손실: 0.163822\t정확도: 96.05%\n", + "2\t검증 세트 손실: 0.163277\t최선의 손실: 0.163277\t정확도: 95.86%\n", + "3\t검증 세트 손실: 0.198430\t최선의 손실: 0.163277\t정확도: 94.21%\n", + "4\t검증 세트 손실: 0.172584\t최선의 손실: 0.163277\t정확도: 95.15%\n", + "5\t검증 세트 손실: 0.186447\t최선의 손실: 0.163277\t정확도: 95.04%\n", + "6\t검증 세트 손실: 0.151810\t최선의 손실: 0.151810\t정확도: 95.62%\n", + "7\t검증 세트 손실: 0.322149\t최선의 손실: 0.151810\t정확도: 94.68%\n", + "8\t검증 세트 손실: 0.264976\t최선의 손실: 0.151810\t정확도: 92.34%\n", + "9\t검증 세트 손실: 0.292673\t최선의 손실: 0.151810\t정확도: 91.20%\n", + "10\t검증 세트 손실: 0.506449\t최선의 손실: 0.151810\t정확도: 84.75%\n", + "11\t검증 세트 손실: 0.323058\t최선의 손실: 0.151810\t정확도: 91.83%\n", + "12\t검증 세트 손실: 0.392047\t최선의 손실: 0.151810\t정확도: 87.45%\n", + "13\t검증 세트 손실: 0.559693\t최선의 손실: 0.151810\t정확도: 77.29%\n", + "14\t검증 세트 손실: 0.650728\t최선의 손실: 0.151810\t정확도: 70.37%\n", + "15\t검증 세트 손실: 0.660911\t최선의 손실: 0.151810\t정확도: 73.10%\n", + "16\t검증 세트 손실: 0.612007\t최선의 손실: 0.151810\t정확도: 73.81%\n", + "17\t검증 세트 손실: 0.623828\t최선의 손실: 0.151810\t정확도: 73.26%\n", + "18\t검증 세트 손실: 0.416826\t최선의 손실: 0.151810\t정확도: 85.69%\n", + "19\t검증 세트 손실: 0.521724\t최선의 손실: 0.151810\t정확도: 78.93%\n", + "20\t검증 세트 손실: 0.395096\t최선의 손실: 0.151810\t정확도: 85.30%\n", + "21\t검증 세트 손실: 0.476891\t최선의 손실: 0.151810\t정확도: 81.39%\n", + "22\t검증 세트 손실: 0.488039\t최선의 손실: 0.151810\t정확도: 79.87%\n", + "23\t검증 세트 손실: 0.570189\t최선의 손실: 0.151810\t정확도: 79.95%\n", + "24\t검증 세트 손실: 0.688773\t최선의 손실: 0.151810\t정확도: 69.78%\n", + "25\t검증 세트 손실: 0.842477\t최선의 손실: 0.151810\t정확도: 64.46%\n", + "26\t검증 세트 손실: 0.504929\t최선의 손실: 0.151810\t정확도: 79.44%\n", + "27\t검증 세트 손실: 0.615856\t최선의 손실: 0.151810\t정확도: 76.31%\n", "조기 종료!\n", - "[CV] batch_size=100, dropout_rate=0.5, learning_rate=0.05, activation=, n_neurons=140, total= 10.6s\n" + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 13.9s\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation= \n", + "0\t검증 세트 손실: 0.201726\t최선의 손실: 0.201726\t정확도: 94.68%\n", + "1\t검증 세트 손실: 0.293243\t최선의 손실: 0.201726\t정확도: 92.57%\n", + "2\t검증 세트 손실: 0.159233\t최선의 손실: 0.159233\t정확도: 96.56%\n", + "3\t검증 세트 손실: 0.233707\t최선의 손실: 0.159233\t정확도: 95.00%\n", + "4\t검증 세트 손실: 0.290267\t최선의 손실: 0.159233\t정확도: 93.82%\n", + "5\t검증 세트 손실: 0.361172\t최선의 손실: 0.159233\t정확도: 92.53%\n", + "6\t검증 세트 손실: 0.367248\t최선의 손실: 0.159233\t정확도: 90.89%\n", + "7\t검증 세트 손실: 0.433057\t최선의 손실: 0.159233\t정확도: 90.07%\n", + "8\t검증 세트 손실: 0.570509\t최선의 손실: 0.159233\t정확도: 82.53%\n", + "9\t검증 세트 손실: 0.492316\t최선의 손실: 0.159233\t정확도: 87.37%\n", + "10\t검증 세트 손실: 0.551107\t최선의 손실: 0.159233\t정확도: 85.30%\n", + "11\t검증 세트 손실: 0.392007\t최선의 손실: 0.159233\t정확도: 87.80%\n", + "12\t검증 세트 손실: 0.369050\t최선의 손실: 0.159233\t정확도: 89.41%\n", + "13\t검증 세트 손실: 0.379371\t최선의 손실: 0.159233\t정확도: 87.10%\n", + "14\t검증 세트 손실: 1.104605\t최선의 손실: 0.159233\t정확도: 53.60%\n", + "15\t검증 세트 손실: 0.642605\t최선의 손실: 0.159233\t정확도: 78.69%\n", + "16\t검증 세트 손실: 0.430663\t최선의 손실: 0.159233\t정확도: 85.46%\n", + "17\t검증 세트 손실: 0.387218\t최선의 손실: 0.159233\t정확도: 90.54%\n", + "18\t검증 세트 손실: 0.375715\t최선의 손실: 0.159233\t정확도: 87.84%\n", + "19\t검증 세트 손실: 0.505309\t최선의 손실: 0.159233\t정확도: 84.56%\n", + "20\t검증 세트 손실: 0.461731\t최선의 손실: 0.159233\t정확도: 87.49%\n", + "21\t검증 세트 손실: 0.345881\t최선의 손실: 0.159233\t정확도: 90.27%\n", + "22\t검증 세트 손실: 0.510204\t최선의 손실: 0.159233\t정확도: 85.14%\n", + "23\t검증 세트 손실: 0.500204\t최선의 손실: 0.159233\t정확도: 84.01%\n", + "조기 종료!\n", + "[CV] n_neurons=160, learning_rate=0.01, dropout_rate=0.5, batch_size=50, activation=, total= 11.9s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 96516.804688\t최선의 손실: 96516.804688\t정확도: 19.27%\n", + "1\t검증 세트 손실: 58143.968750\t최선의 손실: 58143.968750\t정확도: 19.08%\n", + "2\t검증 세트 손실: 39620.652344\t최선의 손실: 39620.652344\t정확도: 18.73%\n", + "3\t검증 세트 손실: 23772.779297\t최선의 손실: 23772.779297\t정확도: 19.27%\n", + "4\t검증 세트 손실: 11083.156250\t최선의 손실: 11083.156250\t정확도: 18.73%\n", + "5\t검증 세트 손실: 2056.580566\t최선의 손실: 2056.580566\t정확도: 17.71%\n", + "6\t검증 세트 손실: 14581.440430\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "7\t검증 세트 손실: 7614.465820\t최선의 손실: 2056.580566\t정확도: 22.01%\n", + "8\t검증 세트 손실: 7114.353516\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "9\t검증 세트 손실: 31255.837891\t최선의 손실: 2056.580566\t정확도: 22.01%\n", + "10\t검증 세트 손실: 15327.077148\t최선의 손실: 2056.580566\t정확도: 20.91%\n", + "11\t검증 세트 손실: 7607.992188\t최선의 손실: 2056.580566\t정확도: 22.01%\n", + "12\t검증 세트 손실: 46258.140625\t최선의 손실: 2056.580566\t정확도: 20.91%\n", + "13\t검증 세트 손실: 9899.358398\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "14\t검증 세트 손실: 4665.687012\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "15\t검증 세트 손실: 9862.700195\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "16\t검증 세트 손실: 7067.560547\t최선의 손실: 2056.580566\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1343.698730\t최선의 손실: 1343.698730\t정확도: 19.27%\n", + "18\t검증 세트 손실: 1479.994995\t최선의 손실: 1343.698730\t정확도: 19.27%\n", + "19\t검증 세트 손실: 3651.500000\t최선의 손실: 1343.698730\t정확도: 18.73%\n", + "20\t검증 세트 손실: 409.863037\t최선의 손실: 409.863037\t정확도: 19.08%\n", + "21\t검증 세트 손실: 728.969666\t최선의 손실: 409.863037\t정확도: 22.01%\n", + "22\t검증 세트 손실: 3107.735352\t최선의 손실: 409.863037\t정확도: 19.27%\n", + "23\t검증 세트 손실: 518.002197\t최선의 손실: 409.863037\t정확도: 19.08%\n", + "24\t검증 세트 손실: 1360.398804\t최선의 손실: 409.863037\t정확도: 22.01%\n", + "25\t검증 세트 손실: 42249.691406\t최선의 손실: 409.863037\t정확도: 18.73%\n", + "26\t검증 세트 손실: 16151993.000000\t최선의 손실: 409.863037\t정확도: 19.27%\n", + "27\t검증 세트 손실: 11247446.000000\t최선의 손실: 409.863037\t정확도: 19.08%\n", + "28\t검증 세트 손실: 2483005.000000\t최선의 손실: 409.863037\t정확도: 20.91%\n", + "29\t검증 세트 손실: 1701498.875000\t최선의 손실: 409.863037\t정확도: 20.91%\n", + "30\t검증 세트 손실: 3214945.750000\t최선의 손실: 409.863037\t정확도: 20.91%\n", + "31\t검증 세트 손실: 788278.812500\t최선의 손실: 409.863037\t정확도: 18.73%\n", + "32\t검증 세트 손실: 479521.625000\t최선의 손실: 409.863037\t정확도: 22.01%\n", + "33\t검증 세트 손실: 812821.187500\t최선의 손실: 409.863037\t정확도: 19.27%\n", + "34\t검증 세트 손실: 210281.328125\t최선의 손실: 409.863037\t정확도: 19.08%\n", + "35\t검증 세트 손실: 102006.851562\t최선의 손실: 409.863037\t정확도: 18.73%\n", + "36\t검증 세트 손실: 741730.250000\t최선의 손실: 409.863037\t정확도: 18.73%\n", + "37\t검증 세트 손실: 489610.312500\t최선의 손실: 409.863037\t정확도: 22.01%\n", + "38\t검증 세트 손실: 189317.328125\t최선의 손실: 409.863037\t정확도: 19.08%\n", + "39\t검증 세트 손실: 388358.906250\t최선의 손실: 409.863037\t정확도: 19.27%\n", + "40\t검증 세트 손실: 728502.812500\t최선의 손실: 409.863037\t정확도: 18.73%\n", + "41\t검증 세트 손실: 394598.312500\t최선의 손실: 409.863037\t정확도: 19.27%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 12.9s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 69004.679688\t최선의 손실: 69004.679688\t정확도: 20.91%\n", + "1\t검증 세트 손실: 115725.000000\t최선의 손실: 69004.679688\t정확도: 19.08%\n", + "2\t검증 세트 손실: 17824.353516\t최선의 손실: 17824.353516\t정확도: 19.27%\n", + "3\t검증 세트 손실: 43745.656250\t최선의 손실: 17824.353516\t정확도: 19.27%\n", + "4\t검증 세트 손실: 11980.769531\t최선의 손실: 11980.769531\t정확도: 22.01%\n", + "5\t검증 세트 손실: 2603.423828\t최선의 손실: 2603.423828\t정확도: 19.86%\n", + "6\t검증 세트 손실: 1596.177856\t최선의 손실: 1596.177856\t정확도: 22.05%\n", + "7\t검증 세트 손실: 3936.635742\t최선의 손실: 1596.177856\t정확도: 18.57%\n", + "8\t검증 세트 손실: 3874.198975\t최선의 손실: 1596.177856\t정확도: 18.73%\n", + "9\t검증 세트 손실: 7315.442383\t최선의 손실: 1596.177856\t정확도: 19.27%\n", + "10\t검증 세트 손실: 5996.986816\t최선의 손실: 1596.177856\t정확도: 20.91%\n", + "11\t검증 세트 손실: 8097.714844\t최선의 손실: 1596.177856\t정확도: 22.01%\n", + "12\t검증 세트 손실: 2167.190430\t최선의 손실: 1596.177856\t정확도: 19.27%\n", + "13\t검증 세트 손실: 1754.513672\t최선의 손실: 1596.177856\t정확도: 22.01%\n", + "14\t검증 세트 손실: 2978.496826\t최선의 손실: 1596.177856\t정확도: 22.01%\n", + "15\t검증 세트 손실: 1741.670776\t최선의 손실: 1596.177856\t정확도: 19.27%\n", + "16\t검증 세트 손실: 1548.394531\t최선의 손실: 1548.394531\t정확도: 18.73%\n", + "17\t검증 세트 손실: 1120.599365\t최선의 손실: 1120.599365\t정확도: 20.91%\n", + "18\t검증 세트 손실: 1140.475220\t최선의 손실: 1120.599365\t정확도: 22.01%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "19\t검증 세트 손실: 1960.858276\t최선의 손실: 1120.599365\t정확도: 22.01%\n", + "20\t검증 세트 손실: 529.818604\t최선의 손실: 529.818604\t정확도: 19.08%\n", + "21\t검증 세트 손실: 16937.744141\t최선의 손실: 529.818604\t정확도: 19.08%\n", + "22\t검증 세트 손실: 21347910.000000\t최선의 손실: 529.818604\t정확도: 19.08%\n", + "23\t검증 세트 손실: 627584.937500\t최선의 손실: 529.818604\t정확도: 31.04%\n", + "24\t검증 세트 손실: 1681942.875000\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "25\t검증 세트 손실: 10850211.000000\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "26\t검증 세트 손실: 943786.312500\t최선의 손실: 529.818604\t정확도: 19.27%\n", + "27\t검증 세트 손실: 642613.125000\t최선의 손실: 529.818604\t정확도: 19.27%\n", + "28\t검증 세트 손실: 608126.625000\t최선의 손실: 529.818604\t정확도: 19.08%\n", + "29\t검증 세트 손실: 318157.312500\t최선의 손실: 529.818604\t정확도: 19.08%\n", + "30\t검증 세트 손실: 528691.125000\t최선의 손실: 529.818604\t정확도: 22.01%\n", + "31\t검증 세트 손실: 1329548.500000\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "32\t검증 세트 손실: 484733.062500\t최선의 손실: 529.818604\t정확도: 20.91%\n", + "33\t검증 세트 손실: 384946.500000\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "34\t검증 세트 손실: 160622.406250\t최선의 손실: 529.818604\t정확도: 19.19%\n", + "35\t검증 세트 손실: 274046.843750\t최선의 손실: 529.818604\t정확도: 22.01%\n", + "36\t검증 세트 손실: 173433.093750\t최선의 손실: 529.818604\t정확도: 19.27%\n", + "37\t검증 세트 손실: 231370.390625\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "38\t검증 세트 손실: 71038.710938\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "39\t검증 세트 손실: 66080.757812\t최선의 손실: 529.818604\t정확도: 19.27%\n", + "40\t검증 세트 손실: 570742.562500\t최선의 손실: 529.818604\t정확도: 18.73%\n", + "41\t검증 세트 손실: 758695.625000\t최선의 손실: 529.818604\t정확도: 19.27%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 12.8s\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70> \n", + "0\t검증 세트 손실: 119250.710938\t최선의 손실: 119250.710938\t정확도: 19.27%\n", + "1\t검증 세트 손실: 22202.716797\t최선의 손실: 22202.716797\t정확도: 19.27%\n", + "2\t검증 세트 손실: 2349.246582\t최선의 손실: 2349.246582\t정확도: 18.76%\n", + "3\t검증 세트 손실: 1821.579590\t최선의 손실: 1821.579590\t정확도: 19.08%\n", + "4\t검증 세트 손실: 594.168701\t최선의 손실: 594.168701\t정확도: 30.57%\n", + "5\t검증 세트 손실: 27920.591797\t최선의 손실: 594.168701\t정확도: 19.27%\n", + "6\t검증 세트 손실: 4424606.000000\t최선의 손실: 594.168701\t정확도: 20.91%\n", + "7\t검증 세트 손실: 2419459.250000\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "8\t검증 세트 손실: 991693.375000\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "9\t검증 세트 손실: 137428.140625\t최선의 손실: 594.168701\t정확도: 19.27%\n", + "10\t검증 세트 손실: 317418.468750\t최선의 손실: 594.168701\t정확도: 21.07%\n", + "11\t검증 세트 손실: 512973.156250\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "12\t검증 세트 손실: 98130.781250\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "13\t검증 세트 손실: 118602.367188\t최선의 손실: 594.168701\t정확도: 19.27%\n", + "14\t검증 세트 손실: 172931.625000\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "15\t검증 세트 손실: 216942.609375\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "16\t검증 세트 손실: 92925.976562\t최선의 손실: 594.168701\t정확도: 20.91%\n", + "17\t검증 세트 손실: 85859.515625\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "18\t검증 세트 손실: 21128.890625\t최선의 손실: 594.168701\t정확도: 19.08%\n", + "19\t검증 세트 손실: 41319.144531\t최선의 손실: 594.168701\t정확도: 20.91%\n", + "20\t검증 세트 손실: 25423.765625\t최선의 손실: 594.168701\t정확도: 19.08%\n", + "21\t검증 세트 손실: 172358.390625\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "22\t검증 세트 손실: 68408.703125\t최선의 손실: 594.168701\t정확도: 22.01%\n", + "23\t검증 세트 손실: 64007.812500\t최선의 손실: 594.168701\t정확도: 19.27%\n", + "24\t검증 세트 손실: 10872.456055\t최선의 손실: 594.168701\t정확도: 18.73%\n", + "25\t검증 세트 손실: 2968.148682\t최선의 손실: 594.168701\t정확도: 19.08%\n", + "조기 종료!\n", + "[CV] n_neurons=100, learning_rate=0.1, dropout_rate=0.6, batch_size=100, activation=.parametrized_leaky_relu at 0x7fc08bb99b70>, total= 8.3s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.732024\t최선의 손실: 1.732024\t정확도: 19.27%\n", + "1\t검증 세트 손실: 1.889198\t최선의 손실: 1.732024\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.849896\t최선의 손실: 1.732024\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.673410\t최선의 손실: 1.673410\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.701612\t최선의 손실: 1.673410\t정확도: 22.01%\n", + "5\t검증 세트 손실: 1.782465\t최선의 손실: 1.673410\t정확도: 19.08%\n", + "6\t검증 세트 손실: 1.909999\t최선의 손실: 1.673410\t정확도: 22.01%\n", + "7\t검증 세트 손실: 1.671626\t최선의 손실: 1.671626\t정확도: 19.27%\n", + "8\t검증 세트 손실: 1.673350\t최선의 손실: 1.671626\t정확도: 19.27%\n", + "9\t검증 세트 손실: 1.702589\t최선의 손실: 1.671626\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.624379\t최선의 손실: 1.624379\t정확도: 20.91%\n", + "11\t검증 세트 손실: 1.667334\t최선의 손실: 1.624379\t정확도: 19.08%\n", + "12\t검증 세트 손실: 1.770518\t최선의 손실: 1.624379\t정확도: 18.73%\n", + "13\t검증 세트 손실: 1.931316\t최선의 손실: 1.624379\t정확도: 19.27%\n", + "14\t검증 세트 손실: 1.773841\t최선의 손실: 1.624379\t정확도: 18.73%\n", + "15\t검증 세트 손실: 1.773805\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.854868\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.642824\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "18\t검증 세트 손실: 2.254674\t최선의 손실: 1.624379\t정확도: 19.27%\n", + "19\t검증 세트 손실: 1.829595\t최선의 손실: 1.624379\t정확도: 20.91%\n", + "20\t검증 세트 손실: 1.628441\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "21\t검증 세트 손실: 1.731097\t최선의 손실: 1.624379\t정확도: 19.27%\n", + "22\t검증 세트 손실: 1.635668\t최선의 손실: 1.624379\t정확도: 18.73%\n", + "23\t검증 세트 손실: 1.942868\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "24\t검증 세트 손실: 1.660627\t최선의 손실: 1.624379\t정확도: 20.91%\n", + "25\t검증 세트 손실: 1.846920\t최선의 손실: 1.624379\t정확도: 19.27%\n", + "26\t검증 세트 손실: 1.731403\t최선의 손실: 1.624379\t정확도: 19.08%\n", + "27\t검증 세트 손실: 1.741586\t최선의 손실: 1.624379\t정확도: 19.27%\n", + "28\t검증 세트 손실: 1.745976\t최선의 손실: 1.624379\t정확도: 19.08%\n", + "29\t검증 세트 손실: 1.750023\t최선의 손실: 1.624379\t정확도: 18.73%\n", + "30\t검증 세트 손실: 1.717811\t최선의 손실: 1.624379\t정확도: 18.73%\n", + "31\t검증 세트 손실: 1.726458\t최선의 손실: 1.624379\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation=, total= 8.6s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.716475\t최선의 손실: 1.716475\t정확도: 22.01%\n", + "1\t검증 세트 손실: 1.846668\t최선의 손실: 1.716475\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.708996\t최선의 손실: 1.708996\t정확도: 19.27%\n", + "3\t검증 세트 손실: 1.750072\t최선의 손실: 1.708996\t정확도: 22.01%\n", + "4\t검증 세트 손실: 1.637698\t최선의 손실: 1.637698\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.646151\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "6\t검증 세트 손실: 1.749026\t최선의 손실: 1.637698\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.839884\t최선의 손실: 1.637698\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.878435\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.978733\t최선의 손실: 1.637698\t정확도: 18.73%\n", + "10\t검증 세트 손실: 1.715617\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "11\t검증 세트 손실: 1.706255\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.647529\t최선의 손실: 1.637698\t정확도: 20.91%\n", + "13\t검증 세트 손실: 1.642851\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "14\t검증 세트 손실: 1.815865\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.654446\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "16\t검증 세트 손실: 1.755818\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.742239\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "18\t검증 세트 손실: 1.813747\t최선의 손실: 1.637698\t정확도: 19.27%\n", + "19\t검증 세트 손실: 1.707779\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "20\t검증 세트 손실: 1.774071\t최선의 손실: 1.637698\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.831480\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.826289\t최선의 손실: 1.637698\t정확도: 19.08%\n", + "23\t검증 세트 손실: 1.691486\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "24\t검증 세트 손실: 2.036640\t최선의 손실: 1.637698\t정확도: 19.27%\n", + "25\t검증 세트 손실: 1.847294\t최선의 손실: 1.637698\t정확도: 22.01%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation=, total= 7.1s\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation= \n", + "0\t검증 세트 손실: 1.757978\t최선의 손실: 1.757978\t정확도: 20.91%\n", + "1\t검증 세트 손실: 1.677432\t최선의 손실: 1.677432\t정확도: 19.08%\n", + "2\t검증 세트 손실: 1.652631\t최선의 손실: 1.652631\t정확도: 19.08%\n", + "3\t검증 세트 손실: 1.675677\t최선의 손실: 1.652631\t정확도: 19.27%\n", + "4\t검증 세트 손실: 1.830862\t최선의 손실: 1.652631\t정확도: 20.91%\n", + "5\t검증 세트 손실: 1.796611\t최선의 손실: 1.652631\t정확도: 20.91%\n", + "6\t검증 세트 손실: 2.014866\t최선의 손실: 1.652631\t정확도: 19.27%\n", + "7\t검증 세트 손실: 1.761794\t최선의 손실: 1.652631\t정확도: 18.73%\n", + "8\t검증 세트 손실: 1.650866\t최선의 손실: 1.650866\t정확도: 22.01%\n", + "9\t검증 세트 손실: 1.687599\t최선의 손실: 1.650866\t정확도: 19.08%\n", + "10\t검증 세트 손실: 1.666588\t최선의 손실: 1.650866\t정확도: 19.08%\n", + "11\t검증 세트 손실: 1.833313\t최선의 손실: 1.650866\t정확도: 22.01%\n", + "12\t검증 세트 손실: 1.725519\t최선의 손실: 1.650866\t정확도: 19.08%\n", + "13\t검증 세트 손실: 1.656504\t최선의 손실: 1.650866\t정확도: 22.01%\n", + "14\t검증 세트 손실: 2.035211\t최선의 손실: 1.650866\t정확도: 19.08%\n", + "15\t검증 세트 손실: 1.717891\t최선의 손실: 1.650866\t정확도: 22.01%\n", + "16\t검증 세트 손실: 1.891732\t최선의 손실: 1.650866\t정확도: 22.01%\n", + "17\t검증 세트 손실: 1.684456\t최선의 손실: 1.650866\t정확도: 18.73%\n", + "18\t검증 세트 손실: 1.610872\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "19\t검증 세트 손실: 1.806903\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "20\t검증 세트 손실: 1.776420\t최선의 손실: 1.610872\t정확도: 19.27%\n", + "21\t검증 세트 손실: 1.732556\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "22\t검증 세트 손실: 1.781090\t최선의 손실: 1.610872\t정확도: 20.91%\n", + "23\t검증 세트 손실: 1.668432\t최선의 손실: 1.610872\t정확도: 20.91%\n", + "24\t검증 세트 손실: 1.834074\t최선의 손실: 1.610872\t정확도: 18.73%\n", + "25\t검증 세트 손실: 1.727901\t최선의 손실: 1.610872\t정확도: 22.01%\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "26\t검증 세트 손실: 1.807984\t최선의 손실: 1.610872\t정확도: 18.73%\n", + "27\t검증 세트 손실: 1.690888\t최선의 손실: 1.610872\t정확도: 20.91%\n", + "28\t검증 세트 손실: 1.931571\t최선의 손실: 1.610872\t정확도: 19.08%\n", + "29\t검증 세트 손실: 2.067400\t최선의 손실: 1.610872\t정확도: 19.08%\n", + "30\t검증 세트 손실: 1.866081\t최선의 손실: 1.610872\t정확도: 20.91%\n", + "31\t검증 세트 손실: 1.888979\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "32\t검증 세트 손실: 1.705462\t최선의 손실: 1.610872\t정확도: 19.08%\n", + "33\t검증 세트 손실: 1.625712\t최선의 손실: 1.610872\t정확도: 19.08%\n", + "34\t검증 세트 손실: 1.759400\t최선의 손실: 1.610872\t정확도: 18.73%\n", + "35\t검증 세트 손실: 1.669668\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "36\t검증 세트 손실: 1.640507\t최선의 손실: 1.610872\t정확도: 20.91%\n", + "37\t검증 세트 손실: 1.684650\t최선의 손실: 1.610872\t정확도: 22.01%\n", + "38\t검증 세트 손실: 1.845927\t최선의 손실: 1.610872\t정확도: 18.73%\n", + "39\t검증 세트 손실: 1.651078\t최선의 손실: 1.610872\t정확도: 18.73%\n", + "조기 종료!\n", + "[CV] n_neurons=140, learning_rate=0.05, dropout_rate=0.5, batch_size=100, activation=, total= 10.5s\n" ] }, { @@ -20289,52 +20330,41 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.118236\t최선의 손실: 0.118236\t정확도: 96.99%\n", - "1\t검증 세트 손실: 0.093091\t최선의 손실: 0.093091\t정확도: 97.73%\n", - "2\t검증 세트 손실: 0.066741\t최선의 손실: 0.066741\t정확도: 98.24%\n", - "3\t검증 세트 손실: 0.068239\t최선의 손실: 0.066741\t정확도: 97.93%\n", - "4\t검증 세트 손실: 0.084212\t최선의 손실: 0.066741\t정확도: 98.40%\n", - "5\t검증 세트 손실: 0.061941\t최선의 손실: 0.061941\t정확도: 98.51%\n", - "6\t검증 세트 손실: 0.066682\t최선의 손실: 0.061941\t정확도: 98.44%\n", - "7\t검증 세트 손실: 0.075863\t최선의 손실: 0.061941\t정확도: 98.28%\n", - "8\t검증 세트 손실: 0.060383\t최선의 손실: 0.060383\t정확도: 98.44%\n", - "9\t검증 세트 손실: 0.060800\t최선의 손실: 0.060383\t정확도: 98.67%\n", - "10\t검증 세트 손실: 0.060890\t최선의 손실: 0.060383\t정확도: 98.55%\n", - "11\t검증 세트 손실: 0.063054\t최선의 손실: 0.060383\t정확도: 98.24%\n", - "12\t검증 세트 손실: 0.056856\t최선의 손실: 0.056856\t정확도: 98.59%\n", - "13\t검증 세트 손실: 0.071873\t최선의 손실: 0.056856\t정확도: 98.05%\n", - "14\t검증 세트 손실: 0.075582\t최선의 손실: 0.056856\t정확도: 98.20%\n", - "15\t검증 세트 손실: 0.058859\t최선의 손실: 0.056856\t정확도: 98.67%\n", - "16\t검증 세트 손실: 0.096720\t최선의 손실: 0.056856\t정확도: 98.32%\n", - "17\t검증 세트 손실: 0.077195\t최선의 손실: 0.056856\t정확도: 98.24%\n", - "18\t검증 세트 손실: 0.064093\t최선의 손실: 0.056856\t정확도: 98.55%\n", - "19\t검증 세트 손실: 0.066197\t최선의 손실: 0.056856\t정확도: 98.40%\n", - "20\t검증 세트 손실: 0.055566\t최선의 손실: 0.055566\t정확도: 98.51%\n", - "21\t검증 세트 손실: 0.059392\t최선의 손실: 0.055566\t정확도: 98.44%\n", - "22\t검증 세트 손실: 0.050597\t최선의 손실: 0.050597\t정확도: 98.51%\n", - "23\t검증 세트 손실: 0.053956\t최선의 손실: 0.050597\t정확도: 98.48%\n", - "24\t검증 세트 손실: 0.047114\t최선의 손실: 0.047114\t정확도: 98.87%\n", - "25\t검증 세트 손실: 0.058926\t최선의 손실: 0.047114\t정확도: 98.71%\n", - "26\t검증 세트 손실: 0.052567\t최선의 손실: 0.047114\t정확도: 98.48%\n", - "27\t검증 세트 손실: 0.084408\t최선의 손실: 0.047114\t정확도: 98.40%\n", - "28\t검증 세트 손실: 0.095611\t최선의 손실: 0.047114\t정확도: 98.48%\n", - "29\t검증 세트 손실: 0.077153\t최선의 손실: 0.047114\t정확도: 98.16%\n", - "30\t검증 세트 손실: 0.094049\t최선의 손실: 0.047114\t정확도: 98.05%\n", - "31\t검증 세트 손실: 0.078699\t최선의 손실: 0.047114\t정확도: 98.59%\n", - "32\t검증 세트 손실: 0.094053\t최선의 손실: 0.047114\t정확도: 97.50%\n", - "33\t검증 세트 손실: 0.078904\t최선의 손실: 0.047114\t정확도: 98.20%\n", - "34\t검증 세트 손실: 0.073573\t최선의 손실: 0.047114\t정확도: 98.20%\n", - "35\t검증 세트 손실: 0.071339\t최선의 손실: 0.047114\t정확도: 98.48%\n", - "36\t검증 세트 손실: 0.068395\t최선의 손실: 0.047114\t정확도: 98.55%\n", - "37\t검증 세트 손실: 0.068394\t최선의 손실: 0.047114\t정확도: 98.36%\n", - "38\t검증 세트 손실: 0.063651\t최선의 손실: 0.047114\t정확도: 98.63%\n", - "39\t검증 세트 손실: 0.065632\t최선의 손실: 0.047114\t정확도: 98.36%\n", - "40\t검증 세트 손실: 0.065360\t최선의 손실: 0.047114\t정확도: 98.63%\n", - "41\t검증 세트 손실: 0.062944\t최선의 손실: 0.047114\t정확도: 98.59%\n", - "42\t검증 세트 손실: 0.070905\t최선의 손실: 0.047114\t정확도: 98.51%\n", - "43\t검증 세트 손실: 0.061176\t최선의 손실: 0.047114\t정확도: 98.55%\n", - "44\t검증 세트 손실: 0.067180\t최선의 손실: 0.047114\t정확도: 98.71%\n", - "45\t검증 세트 손실: 0.054086\t최선의 손실: 0.047114\t정확도: 98.59%\n", + "0\t검증 세트 손실: 0.126765\t최선의 손실: 0.126765\t정확도: 97.15%\n", + "1\t검증 세트 손실: 0.089468\t최선의 손실: 0.089468\t정확도: 97.38%\n", + "2\t검증 세트 손실: 0.091059\t최선의 손실: 0.089468\t정확도: 97.65%\n", + "3\t검증 세트 손실: 0.092818\t최선의 손실: 0.089468\t정확도: 97.85%\n", + "4\t검증 세트 손실: 0.071162\t최선의 손실: 0.071162\t정확도: 98.08%\n", + "5\t검증 세트 손실: 0.074262\t최선의 손실: 0.071162\t정확도: 98.20%\n", + "6\t검증 세트 손실: 0.077584\t최선의 손실: 0.071162\t정확도: 98.28%\n", + "7\t검증 세트 손실: 0.082001\t최선의 손실: 0.071162\t정확도: 97.97%\n", + "8\t검증 세트 손실: 0.074002\t최선의 손실: 0.071162\t정확도: 98.24%\n", + "9\t검증 세트 손실: 0.059292\t최선의 손실: 0.059292\t정확도: 98.48%\n", + "10\t검증 세트 손실: 0.071866\t최선의 손실: 0.059292\t정확도: 98.24%\n", + "11\t검증 세트 손실: 0.062155\t최선의 손실: 0.059292\t정확도: 98.20%\n", + "12\t검증 세트 손실: 0.086198\t최선의 손실: 0.059292\t정확도: 98.67%\n", + "13\t검증 세트 손실: 0.050644\t최선의 손실: 0.050644\t정확도: 98.63%\n", + "14\t검증 세트 손실: 0.053772\t최선의 손실: 0.050644\t정확도: 98.55%\n", + "15\t검증 세트 손실: 0.071156\t최선의 손실: 0.050644\t정확도: 98.55%\n", + "16\t검증 세트 손실: 0.056132\t최선의 손실: 0.050644\t정확도: 98.79%\n", + "17\t검증 세트 손실: 0.078162\t최선의 손실: 0.050644\t정확도: 98.75%\n", + "18\t검증 세트 손실: 0.070786\t최선의 손실: 0.050644\t정확도: 98.67%\n", + "19\t검증 세트 손실: 0.101599\t최선의 손실: 0.050644\t정확도: 97.97%\n", + "20\t검증 세트 손실: 0.060545\t최선의 손실: 0.050644\t정확도: 98.20%\n", + "21\t검증 세트 손실: 0.073197\t최선의 손실: 0.050644\t정확도: 98.32%\n", + "22\t검증 세트 손실: 0.077536\t최선의 손실: 0.050644\t정확도: 98.32%\n", + "23\t검증 세트 손실: 0.070188\t최선의 손실: 0.050644\t정확도: 98.63%\n", + "24\t검증 세트 손실: 0.060472\t최선의 손실: 0.050644\t정확도: 98.40%\n", + "25\t검증 세트 손실: 0.065211\t최선의 손실: 0.050644\t정확도: 98.63%\n", + "26\t검증 세트 손실: 0.096388\t최선의 손실: 0.050644\t정확도: 98.05%\n", + "27\t검증 세트 손실: 0.116622\t최선의 손실: 0.050644\t정확도: 98.63%\n", + "28\t검증 세트 손실: 0.079645\t최선의 손실: 0.050644\t정확도: 97.85%\n", + "29\t검증 세트 손실: 0.084023\t최선의 손실: 0.050644\t정확도: 98.55%\n", + "30\t검증 세트 손실: 0.086612\t최선의 손실: 0.050644\t정확도: 98.67%\n", + "31\t검증 세트 손실: 0.081033\t최선의 손실: 0.050644\t정확도: 98.44%\n", + "32\t검증 세트 손실: 0.073291\t최선의 손실: 0.050644\t정확도: 98.40%\n", + "33\t검증 세트 손실: 0.073513\t최선의 손실: 0.050644\t정확도: 98.48%\n", + "34\t검증 세트 손실: 0.070453\t최선의 손실: 0.050644\t정확도: 98.59%\n", "조기 종료!\n" ] }, @@ -20342,14 +20372,14 @@ "data": { "text/plain": [ "RandomizedSearchCV(cv=None, error_score='raise',\n", - " estimator=DNNClassifier(activation=,\n", + " estimator=DNNClassifier(activation=,\n", " batch_norm_momentum=None, batch_size=20, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=5, n_neurons=100,\n", " optimizer_class=,\n", " random_state=42),\n", " fit_params=None, iid=True, n_iter=50, n_jobs=1,\n", - " param_distributions={'batch_size': [10, 50, 100, 500], 'activation': [, , .parametrized_leaky_relu at 0x7f71a6b19840>, .parametrized_leaky_relu at 0x7f71a6b19a60>], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'dropout_rate': [0.2, 0.3, 0.4, 0.5, 0.6], 'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160]},\n", + " param_distributions={'n_neurons': [10, 30, 50, 70, 90, 100, 120, 140, 160], 'batch_size': [10, 50, 100, 500], 'learning_rate': [0.01, 0.02, 0.05, 0.1], 'activation': [, , .parametrized_leaky_relu at 0x7fc08bb99ae8>, .parametrized_leaky_relu at 0x7fc08bb99b70>], 'dropout_rate': [0.2, 0.3, 0.4, 0.5, 0.6]},\n", " pre_dispatch='2*n_jobs', random_state=42, refit=True,\n", " return_train_score='warn', scoring=None, verbose=2)" ] @@ -20387,11 +20417,11 @@ { "data": { "text/plain": [ - "{'activation': .parametrized_leaky_relu(z, name=None)>,\n", - " 'batch_size': 100,\n", - " 'dropout_rate': 0.2,\n", + "{'n_neurons': 160,\n", " 'learning_rate': 0.01,\n", - " 'n_neurons': 70}" + " 'dropout_rate': 0.2,\n", + " 'batch_size': 100,\n", + " 'activation': }" ] }, "execution_count": 28, @@ -20605,39 +20635,78 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_best_mnist_model_0_to_4\n", - "0\t검증 세트 손실: 1.262913\t최선의 손실: 1.262913\t정확도: 64.67%\n", - "1\t검증 세트 손실: 0.907002\t최선의 손실: 0.907002\t정확도: 71.33%\n", - "2\t검증 세트 손실: 0.886537\t최선의 손실: 0.886537\t정확도: 69.33%\n", - "3\t검증 세트 손실: 0.962119\t최선의 손실: 0.886537\t정확도: 72.00%\n", - "4\t검증 세트 손실: 0.932307\t최선의 손실: 0.886537\t정확도: 70.67%\n", - "5\t검증 세트 손실: 0.843027\t최선의 손실: 0.843027\t정확도: 75.33%\n", - "6\t검증 세트 손실: 0.904979\t최선의 손실: 0.843027\t정확도: 75.33%\n", - "7\t검증 세트 손실: 0.831989\t최선의 손실: 0.831989\t정확도: 73.33%\n", - "8\t검증 세트 손실: 0.791916\t최선의 손실: 0.791916\t정확도: 78.67%\n", - "9\t검증 세트 손실: 0.871919\t최선의 손실: 0.791916\t정확도: 76.00%\n", - "10\t검증 세트 손실: 0.890289\t최선의 손실: 0.791916\t정확도: 74.67%\n", - "11\t검증 세트 손실: 0.869197\t최선의 손실: 0.791916\t정확도: 74.67%\n", - "12\t검증 세트 손실: 0.883039\t최선의 손실: 0.791916\t정확도: 75.33%\n", - "13\t검증 세트 손실: 0.901014\t최선의 손실: 0.791916\t정확도: 76.67%\n", - "14\t검증 세트 손실: 0.958109\t최선의 손실: 0.791916\t정확도: 75.33%\n", - "15\t검증 세트 손실: 0.960675\t최선의 손실: 0.791916\t정확도: 72.67%\n", - "16\t검증 세트 손실: 0.894816\t최선의 손실: 0.791916\t정확도: 76.67%\n", - "17\t검증 세트 손실: 0.886800\t최선의 손실: 0.791916\t정확도: 78.67%\n", - "18\t검증 세트 손실: 0.925755\t최선의 손실: 0.791916\t정확도: 77.33%\n", - "19\t검증 세트 손실: 0.894577\t최선의 손실: 0.791916\t정확도: 76.00%\n", - "20\t검증 세트 손실: 0.976480\t최선의 손실: 0.791916\t정확도: 76.00%\n", - "21\t검증 세트 손실: 1.023342\t최선의 손실: 0.791916\t정확도: 76.67%\n", - "22\t검증 세트 손실: 1.009959\t최선의 손실: 0.791916\t정확도: 73.33%\n", - "23\t검증 세트 손실: 0.935665\t최선의 손실: 0.791916\t정확도: 76.67%\n", - "24\t검증 세트 손실: 1.023280\t최선의 손실: 0.791916\t정확도: 74.00%\n", - "25\t검증 세트 손실: 0.962913\t최선의 손실: 0.791916\t정확도: 78.67%\n", - "26\t검증 세트 손실: 0.991648\t최선의 손실: 0.791916\t정확도: 78.00%\n", - "27\t검증 세트 손실: 1.018240\t최선의 손실: 0.791916\t정확도: 76.00%\n", - "28\t검증 세트 손실: 1.026909\t최선의 손실: 0.791916\t정확도: 76.00%\n", + "0\t검증 세트 손실: 1.117179\t최선의 손실: 1.117179\t정확도: 52.67%\n", + "1\t검증 세트 손실: 1.102100\t최선의 손실: 1.102100\t정확도: 54.00%\n", + "2\t검증 세트 손실: 1.038559\t최선의 손실: 1.038559\t정확도: 57.33%\n", + "3\t검증 세트 손실: 0.986886\t최선의 손실: 0.986886\t정확도: 57.33%\n", + "4\t검증 세트 손실: 0.945037\t최선의 손실: 0.945037\t정확도: 65.33%\n", + "5\t검증 세트 손실: 0.971299\t최선의 손실: 0.945037\t정확도: 64.67%\n", + "6\t검증 세트 손실: 0.947149\t최선의 손실: 0.945037\t정확도: 64.67%\n", + "7\t검증 세트 손실: 0.888537\t최선의 손실: 0.888537\t정확도: 68.00%\n", + "8\t검증 세트 손실: 0.941804\t최선의 손실: 0.888537\t정확도: 60.00%\n", + "9\t검증 세트 손실: 0.892495\t최선의 손실: 0.888537\t정확도: 68.00%\n", + "10\t검증 세트 손실: 0.908351\t최선의 손실: 0.888537\t정확도: 67.33%\n", + "11\t검증 세트 손실: 0.852326\t최선의 손실: 0.852326\t정확도: 64.00%\n", + "12\t검증 세트 손실: 0.880539\t최선의 손실: 0.852326\t정확도: 66.00%\n", + "13\t검증 세트 손실: 0.881514\t최선의 손실: 0.852326\t정확도: 68.00%\n", + "14\t검증 세트 손실: 0.907693\t최선의 손실: 0.852326\t정확도: 60.00%\n", + "15\t검증 세트 손실: 0.965582\t최선의 손실: 0.852326\t정확도: 61.33%\n", + "16\t검증 세트 손실: 0.837774\t최선의 손실: 0.837774\t정확도: 70.00%\n", + "17\t검증 세트 손실: 0.877294\t최선의 손실: 0.837774\t정확도: 64.67%\n", + "18\t검증 세트 손실: 0.811664\t최선의 손실: 0.811664\t정확도: 68.67%\n", + "19\t검증 세트 손실: 0.794189\t최선의 손실: 0.794189\t정확도: 69.33%\n", + "20\t검증 세트 손실: 0.908385\t최선의 손실: 0.794189\t정확도: 63.33%\n", + "21\t검증 세트 손실: 0.841553\t최선의 손실: 0.794189\t정확도: 70.00%\n", + "22\t검증 세트 손실: 0.843286\t최선의 손실: 0.794189\t정확도: 65.33%\n", + "23\t검증 세트 손실: 0.842952\t최선의 손실: 0.794189\t정확도: 65.33%\n", + "24\t검증 세트 손실: 0.900992\t최선의 손실: 0.794189\t정확도: 61.33%\n", + "25\t검증 세트 손실: 0.928672\t최선의 손실: 0.794189\t정확도: 68.00%\n", + "26\t검증 세트 손실: 0.805541\t최선의 손실: 0.794189\t정확도: 68.67%\n", + "27\t검증 세트 손실: 0.845090\t최선의 손실: 0.794189\t정확도: 70.00%\n", + "28\t검증 세트 손실: 0.837528\t최선의 손실: 0.794189\t정확도: 67.33%\n", + "29\t검증 세트 손실: 0.798478\t최선의 손실: 0.794189\t정확도: 69.33%\n", + "30\t검증 세트 손실: 0.839019\t최선의 손실: 0.794189\t정확도: 65.33%\n", + "31\t검증 세트 손실: 0.863081\t최선의 손실: 0.794189\t정확도: 68.00%\n", + "32\t검증 세트 손실: 0.799080\t최선의 손실: 0.794189\t정확도: 68.67%\n", + "33\t검증 세트 손실: 0.839356\t최선의 손실: 0.794189\t정확도: 68.00%\n", + "34\t검증 세트 손실: 0.857430\t최선의 손실: 0.794189\t정확도: 68.67%\n", + "35\t검증 세트 손실: 0.822898\t최선의 손실: 0.794189\t정확도: 70.00%\n", + "36\t검증 세트 손실: 0.790150\t최선의 손실: 0.790150\t정확도: 72.00%\n", + "37\t검증 세트 손실: 0.792884\t최선의 손실: 0.790150\t정확도: 71.33%\n", + "38\t검증 세트 손실: 0.845058\t최선의 손실: 0.790150\t정확도: 66.00%\n", + "39\t검증 세트 손실: 0.898912\t최선의 손실: 0.790150\t정확도: 62.67%\n", + "40\t검증 세트 손실: 0.848474\t최선의 손실: 0.790150\t정확도: 66.00%\n", + "41\t검증 세트 손실: 0.806368\t최선의 손실: 0.790150\t정확도: 66.67%\n", + "42\t검증 세트 손실: 0.854296\t최선의 손실: 0.790150\t정확도: 65.33%\n", + "43\t검증 세트 손실: 0.989627\t최선의 손실: 0.790150\t정확도: 60.67%\n", + "44\t검증 세트 손실: 0.872456\t최선의 손실: 0.790150\t정확도: 64.67%\n", + "45\t검증 세트 손실: 0.936047\t최선의 손실: 0.790150\t정확도: 63.33%\n", + "46\t검증 세트 손실: 0.787367\t최선의 손실: 0.787367\t정확도: 72.00%\n", + "47\t검증 세트 손실: 0.768036\t최선의 손실: 0.768036\t정확도: 71.33%\n", + "48\t검증 세트 손실: 0.846667\t최선의 손실: 0.768036\t정확도: 66.00%\n", + "49\t검증 세트 손실: 0.813861\t최선의 손실: 0.768036\t정확도: 66.67%\n", + "50\t검증 세트 손실: 0.805465\t최선의 손실: 0.768036\t정확도: 66.67%\n", + "51\t검증 세트 손실: 0.827549\t최선의 손실: 0.768036\t정확도: 66.67%\n", + "52\t검증 세트 손실: 0.873188\t최선의 손실: 0.768036\t정확도: 64.67%\n", + "53\t검증 세트 손실: 0.839172\t최선의 손실: 0.768036\t정확도: 71.33%\n", + "54\t검증 세트 손실: 0.882376\t최선의 손실: 0.768036\t정확도: 64.00%\n", + "55\t검증 세트 손실: 0.836164\t최선의 손실: 0.768036\t정확도: 70.00%\n", + "56\t검증 세트 손실: 0.787453\t최선의 손실: 0.768036\t정확도: 67.33%\n", + "57\t검증 세트 손실: 0.795795\t최선의 손실: 0.768036\t정확도: 71.33%\n", + "58\t검증 세트 손실: 0.872381\t최선의 손실: 0.768036\t정확도: 67.33%\n", + "59\t검증 세트 손실: 0.913926\t최선의 손실: 0.768036\t정확도: 64.67%\n", + "60\t검증 세트 손실: 0.824037\t최선의 손실: 0.768036\t정확도: 69.33%\n", + "61\t검증 세트 손실: 0.782528\t최선의 손실: 0.768036\t정확도: 71.33%\n", + "62\t검증 세트 손실: 0.892686\t최선의 손실: 0.768036\t정확도: 64.67%\n", + "63\t검증 세트 손실: 0.808694\t최선의 손실: 0.768036\t정확도: 68.00%\n", + "64\t검증 세트 손실: 0.818559\t최선의 손실: 0.768036\t정확도: 72.67%\n", + "65\t검증 세트 손실: 0.808771\t최선의 손실: 0.768036\t정확도: 70.00%\n", + "66\t검증 세트 손실: 0.847586\t최선의 손실: 0.768036\t정확도: 67.33%\n", + "67\t검증 세트 손실: 0.798369\t최선의 손실: 0.768036\t정확도: 72.00%\n", "조기 종료!\n", - "전체 훈련 시간: 0.7s\n", + "전체 훈련 시간: 1.7s\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_five_frozen\n", - "최종 테스트 정확도: 74.02%\n" + "최종 테스트 정확도: 69.70%\n" ] } ], @@ -20740,39 +20809,81 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_best_mnist_model_0_to_4\n", - "0\t검증 세트 손실: 1.202295\t최선의 손실: 1.202295\t정확도: 65.33%\n", - "1\t검증 세트 손실: 0.933995\t최선의 손실: 0.933995\t정확도: 68.67%\n", - "2\t검증 세트 손실: 0.814186\t최선의 손실: 0.814186\t정확도: 70.00%\n", - "3\t검증 세트 손실: 0.781698\t최선의 손실: 0.781698\t정확도: 78.00%\n", - "4\t검증 세트 손실: 0.921291\t최선의 손실: 0.781698\t정확도: 67.33%\n", - "5\t검증 세트 손실: 0.994272\t최선의 손실: 0.781698\t정확도: 72.67%\n", - "6\t검증 세트 손실: 0.882180\t최선의 손실: 0.781698\t정확도: 72.00%\n", - "7\t검증 세트 손실: 0.910248\t최선의 손실: 0.781698\t정확도: 75.33%\n", - "8\t검증 세트 손실: 0.774129\t최선의 손실: 0.774129\t정확도: 78.00%\n", - "9\t검증 세트 손실: 0.906837\t최선의 손실: 0.774129\t정확도: 73.33%\n", - "10\t검증 세트 손실: 0.952088\t최선의 손실: 0.774129\t정확도: 73.33%\n", - "11\t검증 세트 손실: 0.873378\t최선의 손실: 0.774129\t정확도: 78.00%\n", - "12\t검증 세트 손실: 0.791198\t최선의 손실: 0.774129\t정확도: 78.67%\n", - "13\t검증 세트 손실: 0.890449\t최선의 손실: 0.774129\t정확도: 79.33%\n", - "14\t검증 세트 손실: 0.851787\t최선의 손실: 0.774129\t정확도: 77.33%\n", - "15\t검증 세트 손실: 1.054000\t최선의 손실: 0.774129\t정확도: 76.00%\n", - "16\t검증 세트 손실: 0.786068\t최선의 손실: 0.774129\t정확도: 78.00%\n", - "17\t검증 세트 손실: 0.916792\t최선의 손실: 0.774129\t정확도: 76.67%\n", - "18\t검증 세트 손실: 0.884020\t최선의 손실: 0.774129\t정확도: 76.67%\n", - "19\t검증 세트 손실: 1.136296\t최선의 손실: 0.774129\t정확도: 75.33%\n", - "20\t검증 세트 손실: 1.066115\t최선의 손실: 0.774129\t정확도: 74.00%\n", - "21\t검증 세트 손실: 0.982818\t최선의 손실: 0.774129\t정확도: 75.33%\n", - "22\t검증 세트 손실: 0.961077\t최선의 손실: 0.774129\t정확도: 77.33%\n", - "23\t검증 세트 손실: 0.991658\t최선의 손실: 0.774129\t정확도: 78.00%\n", - "24\t검증 세트 손실: 0.941197\t최선의 손실: 0.774129\t정확도: 76.00%\n", - "25\t검증 세트 손실: 1.032557\t최선의 손실: 0.774129\t정확도: 76.00%\n", - "26\t검증 세트 손실: 1.006461\t최선의 손실: 0.774129\t정확도: 78.00%\n", - "27\t검증 세트 손실: 1.063901\t최선의 손실: 0.774129\t정확도: 74.67%\n", - "28\t검증 세트 손실: 0.962244\t최선의 손실: 0.774129\t정확도: 79.33%\n", + "0\t검증 세트 손실: 1.133319\t최선의 손실: 1.133319\t정확도: 57.33%\n", + "1\t검증 세트 손실: 1.038633\t최선의 손실: 1.038633\t정확도: 57.33%\n", + "2\t검증 세트 손실: 0.954434\t최선의 손실: 0.954434\t정확도: 57.33%\n", + "3\t검증 세트 손실: 1.010136\t최선의 손실: 0.954434\t정확도: 57.33%\n", + "4\t검증 세트 손실: 0.957268\t최선의 손실: 0.954434\t정확도: 64.00%\n", + "5\t검증 세트 손실: 0.916835\t최선의 손실: 0.916835\t정확도: 61.33%\n", + "6\t검증 세트 손실: 1.009500\t최선의 손실: 0.916835\t정확도: 60.00%\n", + "7\t검증 세트 손실: 0.958824\t최선의 손실: 0.916835\t정확도: 63.33%\n", + "8\t검증 세트 손실: 0.969825\t최선의 손실: 0.916835\t정확도: 60.67%\n", + "9\t검증 세트 손실: 1.040594\t최선의 손실: 0.916835\t정확도: 58.00%\n", + "10\t검증 세트 손실: 0.860193\t최선의 손실: 0.860193\t정확도: 63.33%\n", + "11\t검증 세트 손실: 0.865115\t최선의 손실: 0.860193\t정확도: 62.00%\n", + "12\t검증 세트 손실: 0.874050\t최선의 손실: 0.860193\t정확도: 70.00%\n", + "13\t검증 세트 손실: 0.866513\t최선의 손실: 0.860193\t정확도: 69.33%\n", + "14\t검증 세트 손실: 0.833598\t최선의 손실: 0.833598\t정확도: 68.00%\n", + "15\t검증 세트 손실: 0.914013\t최선의 손실: 0.833598\t정확도: 64.67%\n", + "16\t검증 세트 손실: 0.824240\t최선의 손실: 0.824240\t정확도: 68.67%\n", + "17\t검증 세트 손실: 0.835781\t최선의 손실: 0.824240\t정확도: 70.67%\n", + "18\t검증 세트 손실: 0.892799\t최선의 손실: 0.824240\t정확도: 64.67%\n", + "19\t검증 세트 손실: 0.840990\t최선의 손실: 0.824240\t정확도: 66.00%\n", + "20\t검증 세트 손실: 0.867702\t최선의 손실: 0.824240\t정확도: 66.00%\n", + "21\t검증 세트 손실: 0.869900\t최선의 손실: 0.824240\t정확도: 65.33%\n", + "22\t검증 세트 손실: 0.828137\t최선의 손실: 0.824240\t정확도: 70.00%\n", + "23\t검증 세트 손실: 0.977556\t최선의 손실: 0.824240\t정확도: 63.33%\n", + "24\t검증 세트 손실: 0.899792\t최선의 손실: 0.824240\t정확도: 65.33%\n", + "25\t검증 세트 손실: 0.860684\t최선의 손실: 0.824240\t정확도: 73.33%\n", + "26\t검증 세트 손실: 0.841344\t최선의 손실: 0.824240\t정확도: 68.67%\n", + "27\t검증 세트 손실: 0.811253\t최선의 손실: 0.811253\t정확도: 70.00%\n", + "28\t검증 세트 손실: 0.850620\t최선의 손실: 0.811253\t정확도: 66.67%\n", + "29\t검증 세트 손실: 0.822820\t최선의 손실: 0.811253\t정확도: 64.67%\n", + "30\t검증 세트 손실: 0.999073\t최선의 손실: 0.811253\t정확도: 62.00%\n", + "31\t검증 세트 손실: 0.790372\t최선의 손실: 0.790372\t정확도: 68.67%\n", + "32\t검증 세트 손실: 0.946333\t최선의 손실: 0.790372\t정확도: 62.00%\n", + "33\t검증 세트 손실: 0.818141\t최선의 손실: 0.790372\t정확도: 70.00%\n", + "34\t검증 세트 손실: 0.796121\t최선의 손실: 0.790372\t정확도: 67.33%\n", + "35\t검증 세트 손실: 0.838307\t최선의 손실: 0.790372\t정확도: 68.67%\n", + "36\t검증 세트 손실: 0.820068\t최선의 손실: 0.790372\t정확도: 68.67%\n", + "37\t검증 세트 손실: 0.845709\t최선의 손실: 0.790372\t정확도: 68.00%\n", + "38\t검증 세트 손실: 0.818253\t최선의 손실: 0.790372\t정확도: 70.00%\n", + "39\t검증 세트 손실: 0.791283\t최선의 손실: 0.790372\t정확도: 71.33%\n", + "40\t검증 세트 손실: 0.786049\t최선의 손실: 0.786049\t정확도: 69.33%\n", + "41\t검증 세트 손실: 0.791418\t최선의 손실: 0.786049\t정확도: 72.00%\n", + "42\t검증 세트 손실: 0.838558\t최선의 손실: 0.786049\t정확도: 67.33%\n", + "43\t검증 세트 손실: 0.854713\t최선의 손실: 0.786049\t정확도: 68.00%\n", + "44\t검증 세트 손실: 0.827846\t최선의 손실: 0.786049\t정확도: 66.67%\n", + "45\t검증 세트 손실: 0.797987\t최선의 손실: 0.786049\t정확도: 72.00%\n", + "46\t검증 세트 손실: 0.801638\t최선의 손실: 0.786049\t정확도: 69.33%\n", + "47\t검증 세트 손실: 0.798178\t최선의 손실: 0.786049\t정확도: 69.33%\n", + "48\t검증 세트 손실: 0.865676\t최선의 손실: 0.786049\t정확도: 68.00%\n", + "49\t검증 세트 손실: 0.859277\t최선의 손실: 0.786049\t정확도: 69.33%\n", + "50\t검증 세트 손실: 0.761724\t최선의 손실: 0.761724\t정확도: 72.67%\n", + "51\t검증 세트 손실: 0.816502\t최선의 손실: 0.761724\t정확도: 70.67%\n", + "52\t검증 세트 손실: 0.763986\t최선의 손실: 0.761724\t정확도: 74.00%\n", + "53\t검증 세트 손실: 0.889304\t최선의 손실: 0.761724\t정확도: 66.67%\n", + "54\t검증 세트 손실: 0.794766\t최선의 손실: 0.761724\t정확도: 70.00%\n", + "55\t검증 세트 손실: 0.810960\t최선의 손실: 0.761724\t정확도: 69.33%\n", + "56\t검증 세트 손실: 0.811083\t최선의 손실: 0.761724\t정확도: 68.67%\n", + "57\t검증 세트 손실: 0.883424\t최선의 손실: 0.761724\t정확도: 66.00%\n", + "58\t검증 세트 손실: 0.864697\t최선의 손실: 0.761724\t정확도: 68.00%\n", + "59\t검증 세트 손실: 0.842568\t최선의 손실: 0.761724\t정확도: 71.33%\n", + "60\t검증 세트 손실: 0.787195\t최선의 손실: 0.761724\t정확도: 72.00%\n", + "61\t검증 세트 손실: 0.786869\t최선의 손실: 0.761724\t정확도: 71.33%\n", + "62\t검증 세트 손실: 0.805889\t최선의 손실: 0.761724\t정확도: 70.67%\n", + "63\t검증 세트 손실: 0.854403\t최선의 손실: 0.761724\t정확도: 70.00%\n", + "64\t검증 세트 손실: 0.807188\t최선의 손실: 0.761724\t정확도: 70.00%\n", + "65\t검증 세트 손실: 0.793749\t최선의 손실: 0.761724\t정확도: 69.33%\n", + "66\t검증 세트 손실: 0.858277\t최선의 손실: 0.761724\t정확도: 67.33%\n", + "67\t검증 세트 손실: 0.786502\t최선의 손실: 0.761724\t정확도: 73.33%\n", + "68\t검증 세트 손실: 0.810413\t최선의 손실: 0.761724\t정확도: 70.00%\n", + "69\t검증 세트 손실: 0.786005\t최선의 손실: 0.761724\t정확도: 70.00%\n", + "70\t검증 세트 손실: 0.822015\t최선의 손실: 0.761724\t정확도: 68.67%\n", "조기 종료!\n", - "전체 훈련 시간: 0.6s\n", + "전체 훈련 시간: 1.5s\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_five_frozen\n", - "최종 테스트 정확도: 74.90%\n" + "최종 테스트 정확도: 69.49%\n" ] } ], @@ -20909,39 +21020,48 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_best_mnist_model_0_to_4\n", - "0\t검증 세트 손실: 1.161074\t최선의 손실: 1.161074\t정확도: 68.67%\n", - "1\t검증 세트 손실: 0.825706\t최선의 손실: 0.825706\t정확도: 76.00%\n", - "2\t검증 세트 손실: 0.849399\t최선의 손실: 0.825706\t정확도: 68.00%\n", - "3\t검증 세트 손실: 0.799384\t최선의 손실: 0.799384\t정확도: 77.33%\n", - "4\t검증 세트 손실: 0.702611\t최선의 손실: 0.702611\t정확도: 78.67%\n", - "5\t검증 세트 손실: 0.735079\t최선의 손실: 0.702611\t정확도: 76.67%\n", - "6\t검증 세트 손실: 0.882863\t최선의 손실: 0.702611\t정확도: 75.33%\n", - "7\t검증 세트 손실: 0.683173\t최선의 손실: 0.683173\t정확도: 80.67%\n", - "8\t검증 세트 손실: 0.674991\t최선의 손실: 0.674991\t정확도: 81.33%\n", - "9\t검증 세트 손실: 0.635016\t최선의 손실: 0.635016\t정확도: 82.67%\n", - "10\t검증 세트 손실: 0.741493\t최선의 손실: 0.635016\t정확도: 77.33%\n", - "11\t검증 세트 손실: 0.689587\t최선의 손실: 0.635016\t정확도: 78.67%\n", - "12\t검증 세트 손실: 0.741480\t최선의 손실: 0.635016\t정확도: 78.00%\n", - "13\t검증 세트 손실: 0.710071\t최선의 손실: 0.635016\t정확도: 79.33%\n", - "14\t검증 세트 손실: 0.785275\t최선의 손실: 0.635016\t정확도: 77.33%\n", - "15\t검증 세트 손실: 0.890523\t최선의 손실: 0.635016\t정확도: 76.67%\n", - "16\t검증 세트 손실: 0.776709\t최선의 손실: 0.635016\t정확도: 80.00%\n", - "17\t검증 세트 손실: 0.672425\t최선의 손실: 0.635016\t정확도: 82.00%\n", - "18\t검증 세트 손실: 0.682453\t최선의 손실: 0.635016\t정확도: 80.67%\n", - "19\t검증 세트 손실: 0.753956\t최선의 손실: 0.635016\t정확도: 80.67%\n", - "20\t검증 세트 손실: 0.707569\t최선의 손실: 0.635016\t정확도: 82.67%\n", - "21\t검증 세트 손실: 0.730020\t최선의 손실: 0.635016\t정확도: 80.67%\n", - "22\t검증 세트 손실: 0.738284\t최선의 손실: 0.635016\t정확도: 78.67%\n", - "23\t검증 세트 손실: 0.821101\t최선의 손실: 0.635016\t정확도: 77.33%\n", - "24\t검증 세트 손실: 0.807012\t최선의 손실: 0.635016\t정확도: 80.00%\n", - "25\t검증 세트 손실: 0.714766\t최선의 손실: 0.635016\t정확도: 81.33%\n", - "26\t검증 세트 손실: 0.733857\t최선의 손실: 0.635016\t정확도: 81.33%\n", - "27\t검증 세트 손실: 0.827937\t최선의 손실: 0.635016\t정확도: 80.00%\n", - "28\t검증 세트 손실: 0.845062\t최선의 손실: 0.635016\t정확도: 79.33%\n", - "29\t검증 세트 손실: 0.836772\t최선의 손실: 0.635016\t정확도: 80.00%\n", + "0\t검증 세트 손실: 1.058097\t최선의 손실: 1.058097\t정확도: 54.67%\n", + "1\t검증 세트 손실: 0.986344\t최선의 손실: 0.986344\t정확도: 60.00%\n", + "2\t검증 세트 손실: 0.879379\t최선의 손실: 0.879379\t정확도: 71.33%\n", + "3\t검증 세트 손실: 0.848715\t최선의 손실: 0.848715\t정확도: 69.33%\n", + "4\t검증 세트 손실: 0.789357\t최선의 손실: 0.789357\t정확도: 76.00%\n", + "5\t검증 세트 손실: 0.829997\t최선의 손실: 0.789357\t정확도: 73.33%\n", + "6\t검증 세트 손실: 0.789344\t최선의 손실: 0.789344\t정확도: 76.00%\n", + "7\t검증 세트 손실: 0.722976\t최선의 손실: 0.722976\t정확도: 77.33%\n", + "8\t검증 세트 손실: 0.769287\t최선의 손실: 0.722976\t정확도: 75.33%\n", + "9\t검증 세트 손실: 0.714860\t최선의 손실: 0.714860\t정확도: 77.33%\n", + "10\t검증 세트 손실: 0.733341\t최선의 손실: 0.714860\t정확도: 73.33%\n", + "11\t검증 세트 손실: 0.703054\t최선의 손실: 0.703054\t정확도: 73.33%\n", + "12\t검증 세트 손실: 0.710888\t최선의 손실: 0.703054\t정확도: 70.67%\n", + "13\t검증 세트 손실: 0.694500\t최선의 손실: 0.694500\t정확도: 74.67%\n", + "14\t검증 세트 손실: 0.683009\t최선의 손실: 0.683009\t정확도: 73.33%\n", + "15\t검증 세트 손실: 0.729439\t최선의 손실: 0.683009\t정확도: 76.00%\n", + "16\t검증 세트 손실: 0.679116\t최선의 손실: 0.679116\t정확도: 75.33%\n", + "17\t검증 세트 손실: 0.666774\t최선의 손실: 0.666774\t정확도: 75.33%\n", + "18\t검증 세트 손실: 0.618812\t최선의 손실: 0.618812\t정확도: 77.33%\n", + "19\t검증 세트 손실: 0.641281\t최선의 손실: 0.618812\t정확도: 77.33%\n", + "20\t검증 세트 손실: 0.754076\t최선의 손실: 0.618812\t정확도: 71.33%\n", + "21\t검증 세트 손실: 0.673741\t최선의 손실: 0.618812\t정확도: 76.67%\n", + "22\t검증 세트 손실: 0.629462\t최선의 손실: 0.618812\t정확도: 76.00%\n", + "23\t검증 세트 손실: 0.648917\t최선의 손실: 0.618812\t정확도: 77.33%\n", + "24\t검증 세트 손실: 0.675767\t최선의 손실: 0.618812\t정확도: 78.00%\n", + "25\t검증 세트 손실: 0.711284\t최선의 손실: 0.618812\t정확도: 72.67%\n", + "26\t검증 세트 손실: 0.630091\t최선의 손실: 0.618812\t정확도: 74.67%\n", + "27\t검증 세트 손실: 0.675472\t최선의 손실: 0.618812\t정확도: 76.00%\n", + "28\t검증 세트 손실: 0.679580\t최선의 손실: 0.618812\t정확도: 74.67%\n", + "29\t검증 세트 손실: 0.632825\t최선의 손실: 0.618812\t정확도: 76.00%\n", + "30\t검증 세트 손실: 0.651072\t최선의 손실: 0.618812\t정확도: 76.00%\n", + "31\t검증 세트 손실: 0.645271\t최선의 손실: 0.618812\t정확도: 78.67%\n", + "32\t검증 세트 손실: 0.625446\t최선의 손실: 0.618812\t정확도: 78.67%\n", + "33\t검증 세트 손실: 0.658134\t최선의 손실: 0.618812\t정확도: 76.67%\n", + "34\t검증 세트 손실: 0.689654\t최선의 손실: 0.618812\t정확도: 75.33%\n", + "35\t검증 세트 손실: 0.631268\t최선의 손실: 0.618812\t정확도: 76.00%\n", + "36\t검증 세트 손실: 0.654526\t최선의 손실: 0.618812\t정확도: 79.33%\n", + "37\t검증 세트 손실: 0.653837\t최선의 손실: 0.618812\t정확도: 76.67%\n", + "38\t검증 세트 손실: 0.632422\t최선의 손실: 0.618812\t정확도: 76.00%\n", "조기 종료!\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_four_frozen\n", - "최종 테스트 정확도: 79.53%\n" + "최종 테스트 정확도: 72.68%\n" ] } ], @@ -21028,43 +21148,33 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_four_frozen\n", - "0\t검증 세트 손실: 0.953523\t최선의 손실: 0.953523\t정확도: 70.67%\n", - "1\t검증 세트 손실: 0.638675\t최선의 손실: 0.638675\t정확도: 82.67%\n", - "2\t검증 세트 손실: 0.691755\t최선의 손실: 0.638675\t정확도: 85.33%\n", - "3\t검증 세트 손실: 0.575561\t최선의 손실: 0.575561\t정확도: 80.67%\n", - "4\t검증 세트 손실: 0.647800\t최선의 손실: 0.575561\t정확도: 84.00%\n", - "5\t검증 세트 손실: 0.710496\t최선의 손실: 0.575561\t정확도: 86.67%\n", - "6\t검증 세트 손실: 0.541074\t최선의 손실: 0.541074\t정확도: 88.67%\n", - "7\t검증 세트 손실: 0.734961\t최선의 손실: 0.541074\t정확도: 83.33%\n", - "8\t검증 세트 손실: 0.712958\t최선의 손실: 0.541074\t정확도: 84.67%\n", - "9\t검증 세트 손실: 0.964374\t최선의 손실: 0.541074\t정확도: 82.00%\n", - "10\t검증 세트 손실: 0.768984\t최선의 손실: 0.541074\t정확도: 83.33%\n", - "11\t검증 세트 손실: 0.677497\t최선의 손실: 0.541074\t정확도: 86.67%\n", - "12\t검증 세트 손실: 1.016240\t최선의 손실: 0.541074\t정확도: 83.33%\n", - "13\t검증 세트 손실: 0.494356\t최선의 손실: 0.494356\t정확도: 91.33%\n", - "14\t검증 세트 손실: 0.667182\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "15\t검증 세트 손실: 1.004836\t최선의 손실: 0.494356\t정확도: 84.67%\n", - "16\t검증 세트 손실: 0.716796\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "17\t검증 세트 손실: 0.763375\t최선의 손실: 0.494356\t정확도: 87.33%\n", - "18\t검증 세트 손실: 0.865802\t최선의 손실: 0.494356\t정확도: 84.67%\n", - "19\t검증 세트 손실: 0.653018\t최선의 손실: 0.494356\t정확도: 88.00%\n", - "20\t검증 세트 손실: 0.717652\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "21\t검증 세트 손실: 0.667797\t최선의 손실: 0.494356\t정확도: 87.33%\n", - "22\t검증 세트 손실: 0.599092\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "23\t검증 세트 손실: 0.577316\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "24\t검증 세트 손실: 0.598384\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "25\t검증 세트 손실: 0.612967\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "26\t검증 세트 손실: 0.624086\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "27\t검증 세트 손실: 0.633187\t최선의 손실: 0.494356\t정확도: 88.67%\n", - "28\t검증 세트 손실: 0.640782\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "29\t검증 세트 손실: 0.646566\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "30\t검증 세트 손실: 0.651718\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "31\t검증 세트 손실: 0.657348\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "32\t검증 세트 손실: 0.662439\t최선의 손실: 0.494356\t정확도: 89.33%\n", - "33\t검증 세트 손실: 0.665647\t최선의 손실: 0.494356\t정확도: 89.33%\n", + "0\t검증 세트 손실: 0.609747\t최선의 손실: 0.609747\t정확도: 82.67%\n", + "1\t검증 세트 손실: 0.554420\t최선의 손실: 0.554420\t정확도: 82.67%\n", + "2\t검증 세트 손실: 0.599087\t최선의 손실: 0.554420\t정확도: 83.33%\n", + "3\t검증 세트 손실: 0.517014\t최선의 손실: 0.517014\t정확도: 82.00%\n", + "4\t검증 세트 손실: 0.559620\t최선의 손실: 0.517014\t정확도: 84.00%\n", + "5\t검증 세트 손실: 0.676117\t최선의 손실: 0.517014\t정확도: 80.67%\n", + "6\t검증 세트 손실: 0.566348\t최선의 손실: 0.517014\t정확도: 86.00%\n", + "7\t검증 세트 손실: 0.664439\t최선의 손실: 0.517014\t정확도: 81.33%\n", + "8\t검증 세트 손실: 0.635780\t최선의 손실: 0.517014\t정확도: 87.33%\n", + "9\t검증 세트 손실: 0.637940\t최선의 손실: 0.517014\t정확도: 86.00%\n", + "10\t검증 세트 손실: 0.794338\t최선의 손실: 0.517014\t정확도: 88.00%\n", + "11\t검증 세트 손실: 0.821203\t최선의 손실: 0.517014\t정확도: 84.00%\n", + "12\t검증 세트 손실: 0.646594\t최선의 손실: 0.517014\t정확도: 86.67%\n", + "13\t검증 세트 손실: 0.639778\t최선의 손실: 0.517014\t정확도: 86.67%\n", + "14\t검증 세트 손실: 0.652251\t최선의 손실: 0.517014\t정확도: 88.67%\n", + "15\t검증 세트 손실: 0.725173\t최선의 손실: 0.517014\t정확도: 86.00%\n", + "16\t검증 세트 손실: 0.884562\t최선의 손실: 0.517014\t정확도: 83.33%\n", + "17\t검증 세트 손실: 0.927739\t최선의 손실: 0.517014\t정확도: 81.33%\n", + "18\t검증 세트 손실: 0.814894\t최선의 손실: 0.517014\t정확도: 84.00%\n", + "19\t검증 세트 손실: 0.861197\t최선의 손실: 0.517014\t정확도: 85.33%\n", + "20\t검증 세트 손실: 0.753590\t최선의 손실: 0.517014\t정확도: 86.67%\n", + "21\t검증 세트 손실: 0.680946\t최선의 손실: 0.517014\t정확도: 88.67%\n", + "22\t검증 세트 손실: 0.725705\t최선의 손실: 0.517014\t정확도: 88.67%\n", + "23\t검증 세트 손실: 0.686537\t최선의 손실: 0.517014\t정확도: 89.33%\n", "조기 종료!\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_two_frozen\n", - "최종 테스트 정확도: 86.09%\n" + "최종 테스트 정확도: 80.27%\n" ] } ], @@ -21136,31 +21246,32 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_two_frozen\n", - "0\t검증 세트 손실: 0.504682\t최선의 손실: 0.504682\t정확도: 84.00%\n", - "1\t검증 세트 손실: 0.284745\t최선의 손실: 0.284745\t정확도: 90.00%\n", - "2\t검증 세트 손실: 0.759620\t최선의 손실: 0.284745\t정확도: 86.67%\n", - "3\t검증 세트 손실: 0.656060\t최선의 손실: 0.284745\t정확도: 90.00%\n", - "4\t검증 세트 손실: 0.565989\t최선의 손실: 0.284745\t정확도: 93.33%\n", - "5\t검증 세트 손실: 0.577863\t최선의 손실: 0.284745\t정확도: 89.33%\n", - "6\t검증 세트 손실: 0.464893\t최선의 손실: 0.284745\t정확도: 93.33%\n", - "7\t검증 세트 손실: 1.100843\t최선의 손실: 0.284745\t정확도: 86.00%\n", - "8\t검증 세트 손실: 0.726544\t최선의 손실: 0.284745\t정확도: 90.00%\n", - "9\t검증 세트 손실: 0.344886\t최선의 손실: 0.284745\t정확도: 88.67%\n", - "10\t검증 세트 손실: 1.287486\t최선의 손실: 0.284745\t정확도: 83.33%\n", - "11\t검증 세트 손실: 1.087181\t최선의 손실: 0.284745\t정확도: 92.67%\n", - "12\t검증 세트 손실: 1.025764\t최선의 손실: 0.284745\t정확도: 93.33%\n", - "13\t검증 세트 손실: 1.098690\t최선의 손실: 0.284745\t정확도: 94.67%\n", - "14\t검증 세트 손실: 1.095670\t최선의 손실: 0.284745\t정확도: 92.67%\n", - "15\t검증 세트 손실: 0.986212\t최선의 손실: 0.284745\t정확도: 94.67%\n", - "16\t검증 세트 손실: 1.058280\t최선의 손실: 0.284745\t정확도: 92.67%\n", - "17\t검증 세트 손실: 1.054618\t최선의 손실: 0.284745\t정확도: 92.00%\n", - "18\t검증 세트 손실: 1.820109\t최선의 손실: 0.284745\t정확도: 74.67%\n", - "19\t검증 세트 손실: 3.740706\t최선의 손실: 0.284745\t정확도: 34.00%\n", - "20\t검증 세트 손실: 1.123489\t최선의 손실: 0.284745\t정확도: 62.67%\n", - "21\t검증 세트 손실: 0.711121\t최선의 손실: 0.284745\t정확도: 88.00%\n", + "0\t검증 세트 손실: 0.950649\t최선의 손실: 0.950649\t정확도: 76.00%\n", + "1\t검증 세트 손실: 0.764507\t최선의 손실: 0.764507\t정확도: 86.00%\n", + "2\t검증 세트 손실: 0.382899\t최선의 손실: 0.382899\t정확도: 90.00%\n", + "3\t검증 세트 손실: 0.671207\t최선의 손실: 0.382899\t정확도: 92.00%\n", + "4\t검증 세트 손실: 2.003127\t최선의 손실: 0.382899\t정확도: 84.00%\n", + "5\t검증 세트 손실: 0.777415\t최선의 손실: 0.382899\t정확도: 86.00%\n", + "6\t검증 세트 손실: 1.021818\t최선의 손실: 0.382899\t정확도: 93.33%\n", + "7\t검증 세트 손실: 0.952083\t최선의 손실: 0.382899\t정확도: 88.00%\n", + "8\t검증 세트 손실: 0.529393\t최선의 손실: 0.382899\t정확도: 89.33%\n", + "9\t검증 세트 손실: 0.542790\t최선의 손실: 0.382899\t정확도: 90.67%\n", + "10\t검증 세트 손실: 0.667644\t최선의 손실: 0.382899\t정확도: 92.00%\n", + "11\t검증 세트 손실: 0.661233\t최선의 손실: 0.382899\t정확도: 93.33%\n", + "12\t검증 세트 손실: 0.646480\t최선의 손실: 0.382899\t정확도: 92.00%\n", + "13\t검증 세트 손실: 0.625405\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "14\t검증 세트 손실: 0.629862\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "15\t검증 세트 손실: 0.633734\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "16\t검증 세트 손실: 0.646128\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "17\t검증 세트 손실: 0.650129\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "18\t검증 세트 손실: 0.657117\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "19\t검증 세트 손실: 0.662594\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "20\t검증 세트 손실: 0.667548\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "21\t검증 세트 손실: 0.671132\t최선의 손실: 0.382899\t정확도: 92.67%\n", + "22\t검증 세트 손실: 0.674427\t최선의 손실: 0.382899\t정확도: 92.67%\n", "조기 종료!\n", "INFO:tensorflow:Restoring parameters from ./my_mnist_model_5_to_9_no_frozen\n", - "최종 테스트 정확도: 84.98%\n" + "최종 테스트 정확도: 87.49%\n" ] } ], @@ -21216,41 +21327,38 @@ "name": "stdout", "output_type": "stream", "text": [ - "0\t검증 세트 손실: 0.803557\t최선의 손실: 0.803557\t정확도: 71.33%\n", - "1\t검증 세트 손실: 0.966743\t최선의 손실: 0.803557\t정확도: 85.33%\n", - "2\t검증 세트 손실: 1.158968\t최선의 손실: 0.803557\t정확도: 78.00%\n", - "3\t검증 세트 손실: 0.615957\t최선의 손실: 0.615957\t정확도: 88.00%\n", - "4\t검증 세트 손실: 0.612616\t최선의 손실: 0.612616\t정확도: 92.00%\n", - "5\t검증 세트 손실: 0.686550\t최선의 손실: 0.612616\t정확도: 89.33%\n", - "6\t검증 세트 손실: 0.804601\t최선의 손실: 0.612616\t정확도: 89.33%\n", - "7\t검증 세트 손실: 0.748599\t최선의 손실: 0.612616\t정확도: 88.00%\n", - "8\t검증 세트 손실: 0.926196\t최선의 손실: 0.612616\t정확도: 84.67%\n", - "9\t검증 세트 손실: 3.339839\t최선의 손실: 0.612616\t정확도: 86.67%\n", - "10\t검증 세트 손실: 1.365345\t최선의 손실: 0.612616\t정확도: 88.00%\n", - "11\t검증 세트 손실: 0.812454\t최선의 손실: 0.612616\t정확도: 90.00%\n", - "12\t검증 세트 손실: 1.740148\t최선의 손실: 0.612616\t정확도: 94.00%\n", - "13\t검증 세트 손실: 1.940180\t최선의 손실: 0.612616\t정확도: 86.67%\n", - "14\t검증 세트 손실: 1.698517\t최선의 손실: 0.612616\t정확도: 90.67%\n", - "15\t검증 세트 손실: 0.935869\t최선의 손실: 0.612616\t정확도: 90.67%\n", - "16\t검증 세트 손실: 1.254556\t최선의 손실: 0.612616\t정확도: 93.33%\n", - "17\t검증 세트 손실: 1.633356\t최선의 손실: 0.612616\t정확도: 90.00%\n", - "18\t검증 세트 손실: 1.094478\t최선의 손실: 0.612616\t정확도: 89.33%\n", - "19\t검증 세트 손실: 1.890037\t최선의 손실: 0.612616\t정확도: 86.67%\n", - "20\t검증 세트 손실: 1.789462\t최선의 손실: 0.612616\t정확도: 91.33%\n", - "21\t검증 세트 손실: 1.306313\t최선의 손실: 0.612616\t정확도: 86.67%\n", - "22\t검증 세트 손실: 2.218063\t최선의 손실: 0.612616\t정확도: 88.67%\n", - "23\t검증 세트 손실: 2.017678\t최선의 손실: 0.612616\t정확도: 92.00%\n", - "24\t검증 세트 손실: 2.062834\t최선의 손실: 0.612616\t정확도: 92.00%\n", - "25\t검증 세트 손실: 2.049384\t최선의 손실: 0.612616\t정확도: 92.00%\n", + "0\t검증 세트 손실: 0.647535\t최선의 손실: 0.647535\t정확도: 77.33%\n", + "1\t검증 세트 손실: 0.495272\t최선의 손실: 0.495272\t정확도: 87.33%\n", + "2\t검증 세트 손실: 0.523581\t최선의 손실: 0.495272\t정확도: 87.33%\n", + "3\t검증 세트 손실: 0.561857\t최선의 손실: 0.495272\t정확도: 90.00%\n", + "4\t검증 세트 손실: 0.751635\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "5\t검증 세트 손실: 0.563084\t최선의 손실: 0.495272\t정확도: 82.00%\n", + "6\t검증 세트 손실: 0.992202\t최선의 손실: 0.495272\t정확도: 82.00%\n", + "7\t검증 세트 손실: 1.391701\t최선의 손실: 0.495272\t정확도: 89.33%\n", + "8\t검증 세트 손실: 1.910461\t최선의 손실: 0.495272\t정확도: 89.33%\n", + "9\t검증 세트 손실: 2.660743\t최선의 손실: 0.495272\t정확도: 86.00%\n", + "10\t검증 세트 손실: 1.351259\t최선의 손실: 0.495272\t정확도: 88.00%\n", + "11\t검증 세트 손실: 2.427444\t최선의 손실: 0.495272\t정확도: 93.33%\n", + "12\t검증 세트 손실: 4.159881\t최선의 손실: 0.495272\t정확도: 89.33%\n", + "13\t검증 세트 손실: 4.037936\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "14\t검증 세트 손실: 3.652078\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "15\t검증 세트 손실: 4.141694\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "16\t검증 세트 손실: 3.796974\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "17\t검증 세트 손실: 2.558161\t최선의 손실: 0.495272\t정확도: 92.00%\n", + "18\t검증 세트 손실: 2.041668\t최선의 손실: 0.495272\t정확도: 89.33%\n", + "19\t검증 세트 손실: 1.586171\t최선의 손실: 0.495272\t정확도: 88.67%\n", + "20\t검증 세트 손실: 1.977139\t최선의 손실: 0.495272\t정확도: 94.00%\n", + "21\t검증 세트 손실: 2.183485\t최선의 손실: 0.495272\t정확도: 90.67%\n", + "22\t검증 세트 손실: 1.893641\t최선의 손실: 0.495272\t정확도: 92.00%\n", "조기 종료!\n" ] }, { "data": { "text/plain": [ - "DNNClassifier(activation=,\n", + "DNNClassifier(activation=,\n", " batch_norm_momentum=None, batch_size=20, dropout_rate=None,\n", - " initializer=._initializer at 0x7f737fbd3d90>,\n", + " initializer=,\n", " learning_rate=0.01, n_hidden_layers=4, n_neurons=100,\n", " optimizer_class=,\n", " random_state=42)" @@ -21274,7 +21382,7 @@ { "data": { "text/plain": [ - "0.8996091339230611" + "0.843859288212302" ] }, "execution_count": 47, @@ -21787,126 +21895,126 @@ "name": "stdout", "output_type": "stream", "text": [ - "0 훈련 손실: 0.4924257\n", - "0 테스트 정확도: 0.7861\n", - "1 훈련 손실: 0.33481342\n", - "2 훈련 손실: 0.29043424\n", - "3 훈련 손실: 0.25343397\n", - "4 훈련 손실: 0.21784273\n", - "5 훈련 손실: 0.17126976\n", - "5 테스트 정확도: 0.9185\n", - "6 훈련 손실: 0.20712842\n", - "7 훈련 손실: 0.17227527\n", - "8 훈련 손실: 0.16678247\n", - "9 훈련 손실: 0.16109405\n", - "10 훈련 손실: 0.12513137\n", - "10 테스트 정확도: 0.9425\n", - "11 훈련 손실: 0.1598237\n", - "12 훈련 손실: 0.124751955\n", - "13 훈련 손실: 0.11223439\n", - "14 훈련 손실: 0.11450212\n", - "15 훈련 손실: 0.09500929\n", - "15 테스트 정확도: 0.9532\n", - "16 훈련 손실: 0.11929634\n", - "17 훈련 손실: 0.0754429\n", - "18 훈련 손실: 0.11229495\n", - "19 훈련 손실: 0.13370793\n", - "20 훈련 손실: 0.11354699\n", - "20 테스트 정확도: 0.9596\n", - "21 훈련 손실: 0.06740806\n", - "22 훈련 손실: 0.0936298\n", - "23 훈련 손실: 0.09864689\n", - "24 훈련 손실: 0.111874945\n", - "25 훈련 손실: 0.073562324\n", - "25 테스트 정확도: 0.9675\n", - "26 훈련 손실: 0.07903241\n", - "27 훈련 손실: 0.04876441\n", - "28 훈련 손실: 0.086907074\n", - "29 훈련 손실: 0.06944222\n", - "30 훈련 손실: 0.06008898\n", - "30 테스트 정확도: 0.9663\n", - "31 훈련 손실: 0.10390249\n", - "32 훈련 손실: 0.053595282\n", - "33 훈련 손실: 0.031067856\n", - "34 훈련 손실: 0.05362943\n", - "35 훈련 손실: 0.046265054\n", - "35 테스트 정확도: 0.9701\n", - "36 훈련 손실: 0.067982085\n", - "37 훈련 손실: 0.032665566\n", - "38 훈련 손실: 0.035747916\n", - "39 훈련 손실: 0.0333373\n", - "40 훈련 손실: 0.041511502\n", - "40 테스트 정확도: 0.9719\n", - "41 훈련 손실: 0.057797644\n", - "42 훈련 손실: 0.034278143\n", - "43 훈련 손실: 0.043965083\n", - "44 훈련 손실: 0.059725434\n", - "45 훈련 손실: 0.05886952\n", - "45 테스트 정확도: 0.9721\n", - "46 훈련 손실: 0.055682115\n", - "47 훈련 손실: 0.06395601\n", - "48 훈련 손실: 0.030128464\n", - "49 훈련 손실: 0.040267788\n", - "50 훈련 손실: 0.04891246\n", - "50 테스트 정확도: 0.9751\n", - "51 훈련 손실: 0.03945277\n", - "52 훈련 손실: 0.023304101\n", - "53 훈련 손실: 0.06487805\n", - "54 훈련 손실: 0.051019\n", - "55 훈련 손실: 0.031261932\n", - "55 테스트 정확도: 0.9742\n", - "56 훈련 손실: 0.02441569\n", - "57 훈련 손실: 0.040908184\n", - "58 훈련 손실: 0.03468958\n", - "59 훈련 손실: 0.045572672\n", - "60 훈련 손실: 0.04882686\n", - "60 테스트 정확도: 0.9751\n", - "61 훈련 손실: 0.015425295\n", - "62 훈련 손실: 0.035887476\n", - "63 훈련 손실: 0.0290556\n", - "64 훈련 손실: 0.017214358\n", - "65 훈련 손실: 0.037799176\n", - "65 테스트 정확도: 0.9751\n", - "66 훈련 손실: 0.03607863\n", - "67 훈련 손실: 0.024027776\n", - "68 훈련 손실: 0.031424373\n", - "69 훈련 손실: 0.041208133\n", - "70 훈련 손실: 0.043910515\n", - "70 테스트 정확도: 0.9763\n", - "71 훈련 손실: 0.0169656\n", - "72 훈련 손실: 0.018130578\n", - "73 훈련 손실: 0.021422774\n", - "74 훈련 손실: 0.041830193\n", - "75 훈련 손실: 0.037862215\n", - "75 테스트 정확도: 0.9759\n", - "76 훈련 손실: 0.019981772\n", - "77 훈련 손실: 0.014583788\n", - "78 훈련 손실: 0.01991766\n", - "79 훈련 손실: 0.022659792\n", - "80 훈련 손실: 0.011981454\n", - "80 테스트 정확도: 0.9779\n", - "81 훈련 손실: 0.017783236\n", - "82 훈련 손실: 0.009815705\n", - "83 훈련 손실: 0.027909378\n", - "84 훈련 손실: 0.023781892\n", - "85 훈련 손실: 0.015777819\n", - "85 테스트 정확도: 0.978\n", - "86 훈련 손실: 0.00950592\n", - "87 훈련 손실: 0.022622295\n", - "88 훈련 손실: 0.022659939\n", - "89 훈련 손실: 0.018500542\n", - "90 훈련 손실: 0.011896701\n", - "90 테스트 정확도: 0.976\n", - "91 훈련 손실: 0.020905944\n", - "92 훈련 손실: 0.018115235\n", - "93 훈련 손실: 0.0131696435\n", - "94 훈련 손실: 0.017605018\n", - "95 훈련 손실: 0.019385973\n", - "95 테스트 정확도: 0.976\n", - "96 훈련 손실: 0.015653247\n", - "97 훈련 손실: 0.013604076\n", - "98 훈련 손실: 0.0074303597\n", - "99 훈련 손실: 0.02671894\n" + "0 훈련 손실: 0.6923601\n", + "0 테스트 정확도: 0.5031\n", + "1 훈련 손실: 0.6937517\n", + "2 훈련 손실: 0.6889615\n", + "3 훈련 손실: 0.6279487\n", + "4 훈련 손실: 0.52220035\n", + "5 훈련 손실: 0.53943956\n", + "5 테스트 정확도: 0.7317\n", + "6 훈련 손실: 0.540305\n", + "7 훈련 손실: 0.4539397\n", + "8 훈련 손실: 0.4506486\n", + "9 훈련 손실: 0.46825838\n", + "10 훈련 손실: 0.35033748\n", + "10 테스트 정확도: 0.8226\n", + "11 훈련 손실: 0.41334054\n", + "12 훈련 손실: 0.36943886\n", + "13 훈련 손실: 0.3761535\n", + "14 훈련 손실: 0.3200155\n", + "15 훈련 손실: 0.32761735\n", + "15 테스트 정확도: 0.8599\n", + "16 훈련 손실: 0.31543648\n", + "17 훈련 손실: 0.34082982\n", + "18 훈련 손실: 0.28993767\n", + "19 훈련 손실: 0.3072752\n", + "20 훈련 손실: 0.3542515\n", + "20 테스트 정확도: 0.8762\n", + "21 훈련 손실: 0.2317312\n", + "22 훈련 손실: 0.29069823\n", + "23 훈련 손실: 0.2473632\n", + "24 훈련 손실: 0.2669435\n", + "25 훈련 손실: 0.2391796\n", + "25 테스트 정확도: 0.8854\n", + "26 훈련 손실: 0.25618118\n", + "27 훈련 손실: 0.30616865\n", + "28 훈련 손실: 0.26199123\n", + "29 훈련 손실: 0.2588208\n", + "30 훈련 손실: 0.26606965\n", + "30 테스트 정확도: 0.8996\n", + "31 훈련 손실: 0.26256463\n", + "32 훈련 손실: 0.23858151\n", + "33 훈련 손실: 0.21879897\n", + "34 훈련 손실: 0.2566312\n", + "35 훈련 손실: 0.22745407\n", + "35 테스트 정확도: 0.9138\n", + "36 훈련 손실: 0.19570504\n", + "37 훈련 손실: 0.14133596\n", + "38 훈련 손실: 0.15163466\n", + "39 훈련 손실: 0.18004763\n", + "40 훈련 손실: 0.16298905\n", + "40 테스트 정확도: 0.9302\n", + "41 훈련 손실: 0.1804936\n", + "42 훈련 손실: 0.15887736\n", + "43 훈련 손실: 0.15886799\n", + "44 훈련 손실: 0.12125091\n", + "45 훈련 손실: 0.18510292\n", + "45 테스트 정확도: 0.9405\n", + "46 훈련 손실: 0.122681946\n", + "47 훈련 손실: 0.14962152\n", + "48 훈련 손실: 0.12870207\n", + "49 훈련 손실: 0.09850228\n", + "50 훈련 손실: 0.099581726\n", + "50 테스트 정확도: 0.9488\n", + "51 훈련 손실: 0.111092106\n", + "52 훈련 손실: 0.08176405\n", + "53 훈련 손실: 0.10849511\n", + "54 훈련 손실: 0.108516425\n", + "55 훈련 손실: 0.07292969\n", + "55 테스트 정확도: 0.9566\n", + "56 훈련 손실: 0.09244445\n", + "57 훈련 손실: 0.08704179\n", + "58 훈련 손실: 0.1310904\n", + "59 훈련 손실: 0.12440958\n", + "60 훈련 손실: 0.086115524\n", + "60 테스트 정확도: 0.9614\n", + "61 훈련 손실: 0.082663044\n", + "62 훈련 손실: 0.094981275\n", + "63 훈련 손실: 0.09882157\n", + "64 훈련 손실: 0.10263479\n", + "65 훈련 손실: 0.048608802\n", + "65 테스트 정확도: 0.9659\n", + "66 훈련 손실: 0.07576437\n", + "67 훈련 손실: 0.06883093\n", + "68 훈련 손실: 0.06142955\n", + "69 훈련 손실: 0.0748428\n", + "70 훈련 손실: 0.0776401\n", + "70 테스트 정확도: 0.9649\n", + "71 훈련 손실: 0.072713986\n", + "72 훈련 손실: 0.05115261\n", + "73 훈련 손실: 0.04703341\n", + "74 훈련 손실: 0.087207906\n", + "75 훈련 손실: 0.068333216\n", + "75 테스트 정확도: 0.9695\n", + "76 훈련 손실: 0.035827752\n", + "77 훈련 손실: 0.053966686\n", + "78 훈련 손실: 0.058661837\n", + "79 훈련 손실: 0.047542\n", + "80 훈련 손실: 0.040017664\n", + "80 테스트 정확도: 0.9695\n", + "81 훈련 손실: 0.05559223\n", + "82 훈련 손실: 0.027666904\n", + "83 훈련 손실: 0.08333354\n", + "84 훈련 손실: 0.033757403\n", + "85 훈련 손실: 0.047926597\n", + "85 테스트 정확도: 0.97\n", + "86 훈련 손실: 0.024719493\n", + "87 훈련 손실: 0.05639548\n", + "88 훈련 손실: 0.048691146\n", + "89 훈련 손실: 0.044244304\n", + "90 훈련 손실: 0.03131803\n", + "90 테스트 정확도: 0.9714\n", + "91 훈련 손실: 0.06015032\n", + "92 훈련 손실: 0.033373535\n", + "93 훈련 손실: 0.03225179\n", + "94 훈련 손실: 0.024528533\n", + "95 훈련 손실: 0.026843322\n", + "95 테스트 정확도: 0.9724\n", + "96 훈련 손실: 0.028708356\n", + "97 훈련 손실: 0.02547311\n", + "98 훈련 손실: 0.028308624\n", + "99 훈련 손실: 0.029124813\n" ] } ], @@ -22005,16 +22113,16 @@ "output_type": "stream", "text": [ "INFO:tensorflow:Restoring parameters from ./my_digit_comparison_model.ckpt\n", - "0 테스트 정확도: 0.9269\n", - "10 테스트 정확도: 0.9676\n", - "20 테스트 정확도: 0.9675\n", - "30 테스트 정확도: 0.9673\n", - "40 테스트 정확도: 0.9672\n", - "50 테스트 정확도: 0.9674\n", - "60 테스트 정확도: 0.9674\n", - "70 테스트 정확도: 0.9673\n", - "80 테스트 정확도: 0.9673\n", - "90 테스트 정확도: 0.9673\n" + "0 테스트 정확도: 0.9308\n", + "10 테스트 정확도: 0.9596\n", + "20 테스트 정확도: 0.963\n", + "30 테스트 정확도: 0.9637\n", + "40 테스트 정확도: 0.9635\n", + "50 테스트 정확도: 0.9634\n", + "60 테스트 정확도: 0.9634\n", + "70 테스트 정확도: 0.9634\n", + "80 테스트 정확도: 0.9633\n", + "90 테스트 정확도: 0.9632\n" ] } ], @@ -22089,21 +22197,21 @@ "name": "stdout", "output_type": "stream", "text": [ - "0 테스트 정확도: 0.8893\n", - "10 테스트 정확도: 0.9402\n", - "20 테스트 정확도: 0.9481\n", - "30 테스트 정확도: 0.9483\n", - "40 테스트 정확도: 0.9484\n", - "50 테스트 정확도: 0.9482\n", - "60 테스트 정확도: 0.9483\n", - "70 테스트 정확도: 0.9485\n", - "80 테스트 정확도: 0.9481\n", - "90 테스트 정확도: 0.9481\n", - "100 테스트 정확도: 0.9479\n", - "110 테스트 정확도: 0.9478\n", - "120 테스트 정확도: 0.9478\n", - "130 테스트 정확도: 0.9477\n", - "140 테스트 정확도: 0.9479\n" + "0 테스트 정확도: 0.8623\n", + "10 테스트 정확도: 0.9184\n", + "20 테스트 정확도: 0.9385\n", + "30 테스트 정확도: 0.9398\n", + "40 테스트 정확도: 0.9402\n", + "50 테스트 정확도: 0.9402\n", + "60 테스트 정확도: 0.9401\n", + "70 테스트 정확도: 0.94\n", + "80 테스트 정확도: 0.9401\n", + "90 테스트 정확도: 0.9401\n", + "100 테스트 정확도: 0.94\n", + "110 테스트 정확도: 0.9399\n", + "120 테스트 정확도: 0.9397\n", + "130 테스트 정확도: 0.9395\n", + "140 테스트 정확도: 0.9396\n" ] } ],