evaluate_stoi_without_ref_with_ave.ipynb

{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": 1,
   "metadata": {},
   "outputs": [],
   "source": [
    "import os,sys\n",
    "import librosa\n",
    "import IPython\n",
    "import random\n",
    "import math\n",
    "import librosa\n",
    "import time\n",
    "import logging\n",
    "import numpy as np\n",
    "import soundfile as sf\n",
    "from pesq import pesq\n",
    "import torch\n",
    "import  torch.nn as nn\n",
    "from torch.utils.data import Dataset, DataLoader\n",
    "from torch.autograd import Variable\n",
    "import matplotlib.pyplot as plt\n",
    "import json\n",
    "import warnings\n",
    "warnings.filterwarnings(\"ignore\")\n",
    "from Ushape_model_without_ref import CNN_BLSTM, Ushape_Backbone, Ushape_Att_Backbone, Ushape_Att_Backbone_With_Ave, Dense_Ushape_CNN_Backbone, Stoi_net, Dense_Ushape_CNN_Backbone_With_Ave, Blstm_With_Ave\n",
    "\n",
    "def create_logger(title=\"\", dir_path='.'):\n",
    "    logger = logging.getLogger()\n",
    "    logger.setLevel(logging.INFO)\n",
    "\n",
    "    timestamp = time.time()  # 当前时间戳\n",
    "    strtime = time.strftime(\"%m-%d %H-%M-%S\", time.localtime(timestamp))\n",
    "    logfile = '%s.txt' % (title+strtime)\n",
    "    logfile_path = os.path.join(dir_path, logfile)\n",
    "    fh = logging.FileHandler(logfile_path, mode='a')\n",
    "    ch = logging.StreamHandler()\n",
    "    # formatter = logging.Formatter(\"%(asctime)s -  %(message)s\")\n",
    "    # fh.setFormatter(formatter)\n",
    "    # ch.setFormatter(formatter)\n",
    "    logger.addHandler(fh)\n",
    "    logger.addHandler(ch)\n",
    "    return logger\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 2,
   "metadata": {},
   "outputs": [],
   "source": [
    "num_epoch = 2\n",
    "\n",
    "model_layer = 3 #dense: 1-774 2-1170 3-1782    更新：cnn:1-516 2-520 3-528 dense: 1-645 2-975 3-1485 blstm：1-257\n",
    "neurons_num = 1485\n",
    "\n",
    "use_dataset = 3\n",
    "rand_seed = 9987\n",
    "evalu_target = 'stoi'\n",
    "select_model = \"dense_cnn_with_ave\" # \"cnn\" or \"dense_cnn\"or \"mosnet\" or \"stoinet\" or \"cnn_with_ave\" or \"dense_cnn_with_ave\" or \"blstm_with_ave\"\n",
    "\n",
    "if use_dataset == 1:\n",
    "    wav_path = '/data/gwx/musan/speech_librivox_slice_8s'\n",
    "    file_dir = '/data/gwx/musan/speech_librivox_slice_8s_add_noise'\n",
    "    ref_npy_path = '/data/gwx/musan/speech_librivox_slice_8s_npy'\n",
    "\n",
    "elif use_dataset == 2:\n",
    "    wav_path = '/data/gwx/musan/speech_librivox_slice_8s'\n",
    "    file_dir = '/data/gwx/musan/speech_artificial_8s_noise_dataset/'\n",
    "    ref_npy_path = '/data/gwx/musan/speech_librivox_slice_8s_npy'\n",
    "    \n",
    "elif use_dataset == 3:\n",
    "    wav_path = '/data/gwx/musan/Version_2_speech_librivox_slice_8s'\n",
    "    file_dir = '/data/gwx/musan/Version_2_speech_artificial_8s_noise_dataset'\n",
    "    ref_npy_path = '/data/gwx/musan/Version_2_speech_librivox_slice_8s_npy'\n",
    "\n",
    "log_dir = './output_without_reference'\n",
    "\n",
    "\n",
    "if select_model is 'cnn':\n",
    "    log_sub_dir_name = 'CNN%.1d_LSTM_FC-' % model_layer + \"data_%1d\" % use_dataset\n",
    "elif select_model is 'mosnet':\n",
    "    log_sub_dir_name = \"MosNet-dataset_%1d\" % use_dataset\n",
    "elif select_model is 'stoinet':\n",
    "    log_sub_dir_name = \"StoiNet_With_Ave_Without_dayu0.4-dataset_%1d\" % use_dataset\n",
    "elif select_model is 'dense_cnn_with_ave':\n",
    "    log_sub_dir_name = 'Dense_CNN%.1d_LSTM_FC_With_Ave_Without0_dayu0.4-' % model_layer + \"dataset_%1d\" % use_dataset\n",
    "elif select_model is 'blstm_with_ave':\n",
    "    log_sub_dir_name = 'BLSTM_FC_With_Ave_Without_dayu0.40-' + \"dataset_%1d\" % use_dataset\n",
    "\n",
    "\n",
    "log_model_save_path = os.path.join(log_dir, evalu_target, log_sub_dir_name)\n",
    "if not os.path.exists(log_model_save_path):\n",
    "    os.makedirs(log_model_save_path)\n",
    "    \n",
    "logger = create_logger('rand_seed_%d-'%rand_seed, log_model_save_path)    \n",
    "model_ckpt_save_path = os.path.join(log_model_save_path, \"best_epoch.ckpt\")\n",
    "\n",
    "class speech_Dataset(Dataset):\n",
    "    def __init__(self, file_dir, file_list, evalu_target, wav_path, ref_npy_path):\n",
    "        self.file_dir = file_dir\n",
    "        self.file_list = file_list\n",
    "        self.wav_path = wav_path\n",
    "        self.ref_npy_path = ref_npy_path\n",
    "        self.target = evalu_target\n",
    "        \n",
    "\n",
    "    def __len__(self):\n",
    "        return len(self.file_list)\n",
    "\n",
    "    def __getitem__(self,idx):\n",
    "#         file_index = idx // 1000\n",
    "#         frame_index = idx % 1000 + 1\n",
    "#         frame_name = 'iter_%.4d' % frame_index\n",
    "#         file_data = np.load(os.path.join(self.file_dir, self.file_list[file_index]), allow_pickle=True).item()\n",
    "        file_path = self.file_list[idx]\n",
    "        file_data = np.load(file_path, allow_pickle=True).item()\n",
    "        ref_name = file_path.split('/')[-2]\n",
    "        \n",
    "        if not os.path.exists(os.path.join(self.ref_npy_path, ref_name+'.npy')):\n",
    "            ref_dict = {}\n",
    "            ref_data, _ = librosa.load(os.path.join(self.wav_path, ref_name+'.wav'), 16000)\n",
    "            ref_stft = librosa.stft(ref_data, n_fft=512, hop_length=256)\n",
    "            ref_dict[\"raw_data\"] = ref_data\n",
    "            ref_dict[\"stft_transf\"] = ref_stft\n",
    "#             print(self.ref_npy_path, ref_name)\n",
    "            np.save(os.path.join(self.ref_npy_path, ref_name), ref_dict)\n",
    "            ref_stft = np.abs(ref_stft)\n",
    "        else:\n",
    "            ref_dict = np.load(os.path.join(self.ref_npy_path, ref_name+'.npy'), allow_pickle=True).item()\n",
    "            ref_data = ref_dict['raw_data']\n",
    "            ref_stft = np.abs(ref_dict[\"stft_transf\"])\n",
    "            \n",
    "\n",
    "        system_data = file_data['raw_data']\n",
    "        frame_score = file_data['frame_score']\n",
    "        \n",
    "        if self.target is 'pesq':\n",
    "            system_score = file_data['system_score']\n",
    "        elif self.target is 'stoi':\n",
    "            system_score = file_data['stoi_system_score']\n",
    "            \n",
    "        system_stft = np.abs(file_data['stft_transf'])\n",
    "#         system_stft = librosa.amplitude_to_db(np.abs(librosa.stft(system_data, n_fft=512, hop_length=256)), ref=np.max)\n",
    "\n",
    "        frame_score = frame_score.repeat(8, axis=0)\n",
    "        frame_score.resize(1, system_stft.shape[1])\n",
    "        frame_score = np.expand_dims(frame_score.repeat(system_stft.shape[0], axis=0), 0)\n",
    "        system_stft = np.expand_dims(system_stft, 0)\n",
    "        ref_stft = np.expand_dims(ref_stft, 0)\n",
    "        frame_feature = np.concatenate((system_stft, ref_stft), axis=0) # 2 * STFT 点数 * 时间\n",
    "        return frame_score, system_score, np.expand_dims(frame_feature[0,:,:], 0)\n",
    "\n",
    "def set_seed(seed):\n",
    "    np.random.seed(seed)\n",
    "    random.seed(seed)\n",
    "    torch.manual_seed(seed)  # cpu\n",
    "    torch.cuda.manual_seed_all(seed)  # gpu\n",
    "    torch.backends.cudnn.deterministic = True  # consistent results on the cpu and gpu\n",
    "    torch.backends.cudnn.benchmark = False\n",
    "\n",
    "set_seed(rand_seed)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 3,
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "183380\n",
      "['/data/gwx/musan/Version_2_speech_artificial_8s_noise_dataset/guassian-rand_1s/speech-slice-004884/guassian-rand_1s-0009-bg_snr_26db-snr_-10db.npy', '/data/gwx/musan/Version_2_speech_artificial_8s_noise_dataset/guassian-rand_1s/speech-slice-000097/guassian-rand_1s-0008-bg_snr_24db-snr_12db.npy']\n"
     ]
    }
   ],
   "source": [
    "file_list = []\n",
    "\n",
    "def print_list_dir(doc, path, suffix='.npy'):\n",
    "    #遍历文件夹下面所有以某一后缀结尾的文件\n",
    "    temp_list = os.listdir(path)\n",
    "    for file in temp_list:\n",
    "        temp_path = os.path.join(path, file)\n",
    "        if os.path.isdir(temp_path):\n",
    "            print_list_dir(doc, temp_path, suffix)\n",
    "        elif temp_path.endswith(suffix):\n",
    "            doc.append(temp_path)\n",
    "\n",
    "if use_dataset == 1:\n",
    "    sub_file_dir = os.listdir(file_dir)       \n",
    "    for sub_dir in sub_file_dir:\n",
    "        root_path = os.path.join(file_dir, sub_dir)\n",
    "        file_temp = os.listdir(root_path)\n",
    "        file_temp = [os.path.join(root_path, file_name) for file_name in file_temp]\n",
    "        file_list.extend(file_temp)\n",
    "        \n",
    "    file_list.sort()\n",
    "    random.shuffle(file_list)\n",
    "    \n",
    "    train_list = file_list[0:100000]\n",
    "    test_list = file_list[100000: 110000]\n",
    "    val_list = file_list[110000:]\n",
    "elif use_dataset == 2:\n",
    "    bg_gaus_datalist = []\n",
    "    rand_gaus_1s_datalist = []\n",
    "    file_gs_dir = 'guassian-bg_only/'\n",
    "    file_1s_dir = 'guassian-rand_1s/'\n",
    "    \n",
    "    with open(\"dataset_gaussian_bg_only.txt\", \"r\") as f:\n",
    "        for line in f.readlines():\n",
    "            data_path_pre = line.strip('\\n')\n",
    "            data_path = data_path_pre.replace(\"bg_guassian\", \"guassian-bg\")\n",
    "            bg_gaus_datalist.append(os.path.join(file_dir, file_gs_dir, data_path))\n",
    "    \n",
    "    with open(\"dataset_gaussian_rand_1s.txt\", \"r\") as f:\n",
    "        for line in f.readlines():\n",
    "            data_path = line.strip('\\n')\n",
    "            rand_gaus_1s_datalist.append(os.path.join(file_dir, file_1s_dir, data_path))\n",
    "            \n",
    "elif use_dataset == 3:    \n",
    "    bg_only_list = []\n",
    "    path = \"/data/gwx/musan/Version_2_speech_artificial_8s_noise_dataset/guassian-bg_only\"\n",
    "    print_list_dir(bg_only_list, path)\n",
    "\n",
    "    rand_1s_list = []\n",
    "    path = \"/data/gwx/musan/Version_2_speech_artificial_8s_noise_dataset/guassian-rand_1s\"\n",
    "    print_list_dir(rand_1s_list, path)\n",
    "            \n",
    "#     file_list = bg_gaus_datalist + rand_gaus_1s_datalist\n",
    "    file_list = bg_only_list + rand_1s_list\n",
    "    file_list.sort()\n",
    "    random.shuffle(file_list)\n",
    "    \n",
    "    train_list = file_list[0:160000]\n",
    "    test_list = file_list[160000: 175000]\n",
    "    val_list = file_list[175000:]\n",
    "\n",
    "train_list.sort()\n",
    "test_list.sort()\n",
    "val_list.sort()\n",
    "\n",
    "print(len(file_list))\n",
    "print(file_list[:2])\n",
    "            \n",
    "# train_dataset = speech_Dataset(file_dir, train_list, evalu_target)\n",
    "train_dataset = speech_Dataset('', train_list, evalu_target, wav_path, ref_npy_path)\n",
    "train_loader = DataLoader(train_dataset,batch_size=1, num_workers=16, shuffle=True)\n",
    "# sys.exit(0)\n",
    "\n",
    "# val_dataset = speech_Dataset(file_dir, val_list, evalu_target)\n",
    "val_dataset = speech_Dataset('', val_list, evalu_target, wav_path, ref_npy_path)\n",
    "val_loader = DataLoader(val_dataset, batch_size=1, num_workers=8, shuffle=False)\n",
    "\n",
    "# test_dataset = speech_Dataset(file_dir, test_list, evalu_target)\n",
    "test_dataset = speech_Dataset('', test_list, evalu_target, wav_path, ref_npy_path)\n",
    "test_loader = DataLoader(test_dataset, batch_size=1, num_workers=8, shuffle=False)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 4,
   "metadata": {},
   "outputs": [],
   "source": [
    "# encoder_layer_1 = nn.TransformerEncoderLayer(d_model=64, nhead=1, batch_first=True, dim_feedforward=128)\n",
    "# model = nn.TransformerEncoder(encoder_layer_1, num_layers=2)\n",
    "# model = CNN_ATT_FC()\n",
    "\n",
    "if select_model is 'cnn':\n",
    "    model = Ushape_Att_Backbone(input_channels=1, out_channels=4, Ushape_layers=model_layer, att_dims=neurons_num)\n",
    "elif select_model is 'mosnet':    \n",
    "    model = CNN_BLSTM()\n",
    "elif select_model is 'stoinet':    \n",
    "    model = Stoi_net()\n",
    "elif select_model is 'dense_cnn_with_ave': \n",
    "    model = Dense_Ushape_CNN_Backbone_With_Ave(input_channels=1, out_channels=4, Ushape_layers=model_layer, att_dims=neurons_num)\n",
    "elif select_model is 'blstm_with_ave': \n",
    "    model = Blstm_With_Ave(input_channels=1, out_channels=4, Ushape_layers=model_layer, att_dims=neurons_num)\n",
    "\n",
    "# pe = PositionalEncoding(64, 0, 10)\n",
    "#output = model(src, n)\n",
    "if torch.cuda.is_available():\n",
    "    model = model.cuda()\n",
    "\n",
    "optimizer = torch.optim.Adam(model.parameters(), lr=0.0001)\n",
    "# scheduler = torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, mode='min', patience=10, verbose=True)\n",
    "# loss_fcn = nn.MSELoss()\n",
    "loss_fcn1 = nn.MSELoss()\n",
    "loss_fcn2 = nn.MSELoss()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "scrolled": true
   },
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 0, loss: 1.094027\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 500, loss: 0.022052, mean loss: 0.097172\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 1000, loss: 0.003681, mean loss: 0.013507\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 2000, loss: 0.015167, mean loss: 0.013406\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 2500, loss: 0.017649, mean loss: 0.012226\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 3000, loss: 0.001009, mean loss: 0.013221\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 3500, loss: 0.001615, mean loss: 0.015303\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 4000, loss: 0.015907, mean loss: 0.012616\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 4500, loss: 0.005936, mean loss: 0.013037\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 5000, loss: 0.003914, mean loss: 0.012574\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 5500, loss: 0.016130, mean loss: 0.013756\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 7000, loss: 0.000940, mean loss: 0.010781\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 7500, loss: 0.004043, mean loss: 0.011480\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 8000, loss: 0.020296, mean loss: 0.011277\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 8500, loss: 0.002802, mean loss: 0.010039\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 9000, loss: 0.003396, mean loss: 0.011451\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 9500, loss: 0.017642, mean loss: 0.011381\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 10000, loss: 0.024113, mean loss: 0.009658\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 10500, loss: 0.051786, mean loss: 0.010114\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 11000, loss: 0.004038, mean loss: 0.010216\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 11500, loss: 0.001003, mean loss: 0.009872\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 12000, loss: 0.003904, mean loss: 0.010751\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 12500, loss: 0.008464, mean loss: 0.007385\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 13000, loss: 0.006190, mean loss: 0.011751\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 13500, loss: 0.010398, mean loss: 0.009320\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 14000, loss: 0.002133, mean loss: 0.007573\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 14500, loss: 0.000432, mean loss: 0.008688\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 15000, loss: 0.001081, mean loss: 0.005495\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 15500, loss: 0.002185, mean loss: 0.007631\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 16500, loss: 0.005742, mean loss: 0.007165\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 17000, loss: 0.008852, mean loss: 0.006300\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 17500, loss: 0.001818, mean loss: 0.006466\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 18000, loss: 0.074556, mean loss: 0.007752\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 18500, loss: 0.002502, mean loss: 0.006771\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 19000, loss: 0.001352, mean loss: 0.007412\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 19500, loss: 0.012594, mean loss: 0.007318\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 20000, loss: 0.008281, mean loss: 0.006532\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 20500, loss: 0.005709, mean loss: 0.006680\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 21000, loss: 0.005451, mean loss: 0.007783\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 21500, loss: 0.003458, mean loss: 0.005566\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 22000, loss: 0.004438, mean loss: 0.006674\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 22500, loss: 0.006430, mean loss: 0.007195\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 23000, loss: 0.007531, mean loss: 0.006901\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 23500, loss: 0.002180, mean loss: 0.006421\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 24000, loss: 0.032970, mean loss: 0.005585\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 24500, loss: 0.006913, mean loss: 0.006331\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 25000, loss: 0.000689, mean loss: 0.007567\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 25500, loss: 0.000958, mean loss: 0.010595\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 26000, loss: 0.006230, mean loss: 0.009233\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 27500, loss: 0.003886, mean loss: 0.007637\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 28500, loss: 0.024734, mean loss: 0.005981\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 29000, loss: 0.000806, mean loss: 0.005491\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 29500, loss: 0.016241, mean loss: 0.006336\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 30000, loss: 0.019286, mean loss: 0.006164\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 30500, loss: 0.001277, mean loss: 0.007223\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 31500, loss: 0.001489, mean loss: 0.006376\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 32000, loss: 0.157698, mean loss: 0.006753\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 32500, loss: 0.000717, mean loss: 0.006399\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 33000, loss: 0.005118, mean loss: 0.005957\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 33500, loss: 0.009963, mean loss: 0.005976\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 34000, loss: 0.000893, mean loss: 0.005600\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 34500, loss: 0.003199, mean loss: 0.006088\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 35000, loss: 0.001341, mean loss: 0.005959\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 35500, loss: 0.002314, mean loss: 0.006661\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 36000, loss: 0.004245, mean loss: 0.007701\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 36500, loss: 0.004969, mean loss: 0.005686\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 37000, loss: 0.000276, mean loss: 0.004506\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 37000, epoch 0, mean loss is 0.00602747, min_val_loss is 0.00602747, min_train_loss is 0.00450560\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 37500, loss: 0.000821, mean loss: 0.006078\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 38000, loss: 0.004479, mean loss: 0.005940\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 38500, loss: 0.001514, mean loss: 0.006549\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 39000, loss: 0.019804, mean loss: 0.005031\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 39500, loss: 0.005965, mean loss: 0.006287\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 40000, loss: 0.012204, mean loss: 0.005331\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 40500, loss: 0.001304, mean loss: 0.004674\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 41000, loss: 0.002016, mean loss: 0.006246\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 41500, loss: 0.007918, mean loss: 0.004572\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 42000, loss: 0.003638, mean loss: 0.004308\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 42000, epoch 0, mean loss is 0.00514835, min_val_loss is 0.00514835, min_train_loss is 0.00430805\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 42500, loss: 0.002234, mean loss: 0.004787\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 43000, loss: 0.011699, mean loss: 0.006268\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 43500, loss: 0.002010, mean loss: 0.005680\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 44000, loss: 0.005184, mean loss: 0.005640\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 44500, loss: 0.021257, mean loss: 0.006243\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 45000, loss: 0.007802, mean loss: 0.005839\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 45500, loss: 0.000676, mean loss: 0.004864\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 46000, loss: 0.008496, mean loss: 0.006020\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 46500, loss: 0.001269, mean loss: 0.005562\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 47000, loss: 0.001500, mean loss: 0.004873\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 47500, loss: 0.000451, mean loss: 0.005553\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 48000, loss: 0.001500, mean loss: 0.004258\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 48000, epoch 0, mean loss is 0.00434339, min_val_loss is 0.00434339, min_train_loss is 0.00425781\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 48500, loss: 0.004018, mean loss: 0.005190\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 49000, loss: 0.002686, mean loss: 0.005154\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 49500, loss: 0.004109, mean loss: 0.003858\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 49500, epoch 0, mean loss is 0.00469960, min_val_loss is 0.00434339, min_train_loss is 0.00425781\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 50000, loss: 0.001473, mean loss: 0.004220\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 50000, epoch 0, mean loss is 0.00399923, min_val_loss is 0.00399923, min_train_loss is 0.00421966\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 50500, loss: 0.003697, mean loss: 0.003521\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 50500, epoch 0, mean loss is 0.00370614, min_val_loss is 0.00370614, min_train_loss is 0.00352058\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 51500, loss: 0.003697, mean loss: 0.004246\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 52500, loss: 0.000776, mean loss: 0.005461\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 53000, loss: 0.001245, mean loss: 0.004104\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 53500, loss: 0.000691, mean loss: 0.004276\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 54000, loss: 0.000751, mean loss: 0.003935\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 54500, loss: 0.002093, mean loss: 0.004048\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 55000, loss: 0.000670, mean loss: 0.004598\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 55500, loss: 0.000727, mean loss: 0.005074\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 56000, loss: 0.001322, mean loss: 0.004836\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 57000, loss: 0.000426, mean loss: 0.004935\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 57500, loss: 0.018444, mean loss: 0.004664\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 58500, loss: 0.001794, mean loss: 0.003663\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 59000, loss: 0.001757, mean loss: 0.003129\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 59000, epoch 0, mean loss is 0.00579344, min_val_loss is 0.00370614, min_train_loss is 0.00352058\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 59500, loss: 0.000755, mean loss: 0.003886\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 60000, loss: 0.003943, mean loss: 0.003607\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 60500, loss: 0.001685, mean loss: 0.003716\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 61000, loss: 0.000672, mean loss: 0.003914\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 62500, loss: 0.001258, mean loss: 0.003904\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 63000, loss: 0.003459, mean loss: 0.003383\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 63000, epoch 0, mean loss is 0.00348427, min_val_loss is 0.00348427, min_train_loss is 0.00338267\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 63500, loss: 0.001493, mean loss: 0.003339\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 63500, epoch 0, mean loss is 0.00358000, min_val_loss is 0.00348427, min_train_loss is 0.00338267\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 64000, loss: 0.000942, mean loss: 0.003276\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 64000, epoch 0, mean loss is 0.00370160, min_val_loss is 0.00348427, min_train_loss is 0.00338267\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 64500, loss: 0.000550, mean loss: 0.003657\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 65000, loss: 0.002839, mean loss: 0.002803\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 65000, epoch 0, mean loss is 0.00365106, min_val_loss is 0.00348427, min_train_loss is 0.00338267\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 66000, loss: 0.000216, mean loss: 0.003713\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 66500, loss: 0.000309, mean loss: 0.002689\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "val in iter 66500, epoch 0, mean loss is 0.00327362, min_val_loss is 0.00327362, min_train_loss is 0.00268865\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 67000, loss: 0.000200, mean loss: 0.003312\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 67500, loss: 0.002718, mean loss: 0.002985\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 68000, loss: 0.000276, mean loss: 0.003608\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 69000, loss: 0.017226, mean loss: 0.002993\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 69500, loss: 0.000266, mean loss: 0.003632\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 70000, loss: 0.002541, mean loss: 0.003586\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 70500, loss: 0.000202, mean loss: 0.002778\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 71000, loss: 0.000649, mean loss: 0.003462\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 71500, loss: 0.004681, mean loss: 0.003893\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 72000, loss: 0.000395, mean loss: 0.003540\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 72500, loss: 0.000297, mean loss: 0.003102\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 73000, loss: 0.004407, mean loss: 0.004384\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 73500, loss: 0.001533, mean loss: 0.002755\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 74000, loss: 0.001124, mean loss: 0.004654\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 74500, loss: 0.009011, mean loss: 0.003064\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 75000, loss: 0.000762, mean loss: 0.002741\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 75500, loss: 0.003063, mean loss: 0.003083\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 76500, loss: 0.001693, mean loss: 0.003025\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 77000, loss: 0.000286, mean loss: 0.003364\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 77500, loss: 0.000341, mean loss: 0.003066\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 78000, loss: 0.000901, mean loss: 0.003394\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 78500, loss: 0.003107, mean loss: 0.004354\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 79000, loss: 0.026423, mean loss: 0.003033\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 79500, loss: 0.006487, mean loss: 0.003098\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 80000, loss: 0.018479, mean loss: 0.004240\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 81000, loss: 0.000738, mean loss: 0.002857\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "iter: 81500, loss: 0.001231, mean loss: 0.002516\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n",
      "pass 0\n"
     ]
    }
   ],
   "source": [
    "min_train_loss = 0.0004 * 3 * 2 * 2\n",
    "min_val_loss = 0.0006 * 3 * 2 * 2\n",
    "\n",
    "for iter_epoch in range(num_epoch):\n",
    "    model.train()\n",
    "#     loss_np = np.zeros(0)\n",
    "    loss_np_500 = np.zeros(0)\n",
    "    for num, data in enumerate(train_loader):\n",
    "#         frame_score = data[0].unsqueeze(1).type(torch.float32)\n",
    "#         frame_score = pe(frame_score)\n",
    "#         print(frame_score[0,:,:])\n",
    "#         frame_score, indices = torch.sort(frame_score)\n",
    "        system_score = data[1].type(torch.float32)\n",
    "#         print(system_score)\n",
    "        if system_score < 0.4:   # 0.4\n",
    "            print('pass 0')\n",
    "            continue\n",
    "            \n",
    "        frame_feature = data[2].type(torch.float32)\n",
    "\n",
    "        if torch.cuda.is_available():\n",
    "#             frame_score = frame_score.cuda()\n",
    "            system_score = system_score.cuda()\n",
    "            frame_feature = frame_feature.cuda()\n",
    "        \n",
    "#         output = model(frame_feature)\n",
    "        avg_score, frame_score = model(frame_feature)\n",
    "\n",
    "#         loss = loss_fcn(output, system_score)\n",
    "        loss = loss_fcn1(system_score, avg_score) + loss_fcn2(system_score, frame_score)\n",
    "\n",
    "        optimizer.zero_grad()\n",
    "        loss.backward()\n",
    "        optimizer.step()\n",
    "#         loss_np = np.append(loss_np, loss.cpu().detach().item())\n",
    "        loss_np_500 = np.append(loss_np_500, loss.cpu().detach().item())\n",
    "    \n",
    "            \n",
    "#         print(loss.item())\n",
    "        if num % 500 == 0:\n",
    "            if num // 500 == 0:\n",
    "                mean_loss = float(\"inf\") \n",
    "                logger.info(\"iter: %d, loss: %f\"%(num, loss.item()))\n",
    "            \n",
    "            if num // 500 >= 1:\n",
    "#                 mean_loss = loss_np[(num//500-1)*500:num//500*500].mean()\n",
    "                mean_loss = loss_np_500.mean()\n",
    "                logger.info(\"iter: %d, loss: %f, mean loss: %f\"%(num, loss.item(), mean_loss))\n",
    "                loss_np_500 = np.zeros(0)\n",
    "            \n",
    "            if mean_loss < min_train_loss:\n",
    "                model.eval()\n",
    "                val_loss_list = np.zeros(0)\n",
    "                for val_num, val_data in enumerate(val_loader):\n",
    "                    val_system_score = val_data[1].type(torch.float32)\n",
    "                    if val_system_score < 0.4:   # 0.4\n",
    "                        print('pass 0')\n",
    "                        continue\n",
    "                        \n",
    "                    val_frame = val_data[2].type(torch.float32)\n",
    "\n",
    "                    if torch.cuda.is_available():\n",
    "                        val_system_score = val_system_score.cuda()\n",
    "                        val_frame = val_frame.cuda()\n",
    "\n",
    "#                         val_output = model(val_frame)\n",
    "                    val_avg_score, val_frame_score = model(val_frame)\n",
    "\n",
    "#                         val_loss = loss_fcn(val_output, val_system_score)\n",
    "                    val_loss = loss_fcn1(val_system_score, val_avg_score) + loss_fcn2(val_system_score, val_frame_score)\n",
    "\n",
    "\n",
    "                    val_loss_list = np.append(val_loss_list, val_loss.cpu().detach().item())\n",
    "\n",
    "                if val_loss_list.mean() < min_val_loss:\n",
    "                    min_train_loss = mean_loss.copy()\n",
    "                    min_val_loss = val_loss_list.mean().copy()\n",
    "                    torch.save(model.state_dict(), model_ckpt_save_path)\n",
    "                logger.info(\"val in iter %d, epoch %d, mean loss is %.8f, min_val_loss is %.8f, min_train_loss is %.8f\"\n",
    "                            %(num, iter_epoch, val_loss_list.mean(), min_val_loss, min_train_loss))\n",
    "                model.train()\n",
    "#     break"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "model.eval()\n",
    "pred_list = np.zeros(0)\n",
    "gt_list = np.zeros(0)\n",
    "model.load_state_dict(torch.load(model_ckpt_save_path))\n",
    "\n",
    "for num, data in enumerate(test_loader):\n",
    "#         frame_score = data[0].unsqueeze(1).type(torch.float32)\n",
    "#         frame_score = pe(frame_score)\n",
    "#         print(frame_score[0,:,:])\n",
    "#         frame_score, indices = torch.sort(frame_score)\n",
    "        system_score = data[1].type(torch.float32)\n",
    "        if system_score < 0.4:   # 0.4\n",
    "            print('pass 0')\n",
    "            continue\n",
    "            \n",
    "        frame_feature = data[2].type(torch.float32)\n",
    "        \n",
    "        if torch.cuda.is_available():\n",
    "#             frame_score = frame_score.cuda()\n",
    "            system_score = system_score.cuda()\n",
    "            frame_feature = frame_feature.cuda()\n",
    "        \n",
    "#         output = model(frame_feature)\n",
    "        avg_score, frame_score = model(frame_feature)\n",
    "        \n",
    "#         pred = output.cpu().detach().numpy()[0, 0]\n",
    "        pred = avg_score.cpu().detach().numpy()[0, 0]\n",
    "    \n",
    "        gt = system_score.cpu().detach().numpy()[0]\n",
    "        pred_list = np.append(pred_list, pred)\n",
    "        gt_list = np.append(gt_list, gt)\n",
    "        logger.info(\"iter: %d, pred: %f, gt: %f\"%(num, pred, gt))"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "np.save(os.path.join(log_model_save_path, \"prediction of testset\"), pred_list)\n",
    "np.save(os.path.join(log_model_save_path, \"GT of testset\"), gt_list)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "# pred_x = [0, 1, 2, 3, 4, 5, 6]#预测得分\n",
    "# gt_y = [0, 1, 2, 3, 4, 5, 6]#真实得分\n",
    "fig1 = plt.figure()\n",
    "title_name = \"Pred_GT-Relationship\"\n",
    "a1 = fig1.add_axes([0,0,1,1])\n",
    "\n",
    "plt.title(title_name)\n",
    "plt.grid(color = 'b', linestyle = '--', linewidth = 0.1)\n",
    "plt.scatter(pred_list,gt_list, alpha=0.5)#预测得分和真实得分的关系图\n",
    "\n",
    "a1.set_ylim(0,1.1)\n",
    "a1.set_xlim(0,1.1)\n",
    "\n",
    "plt.plot()\n",
    "plt.show()\n",
    "\n",
    "fig1.savefig(os.path.join(log_model_save_path, title_name+'.png'), dpi = 350, bbox_inches='tight')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "title_name = 'Testset-GT_score-Distribution'\n",
    "fig2 = plt.figure()\n",
    "plt.hist(gt_list,\n",
    "        bins = 50,\n",
    "        color = 'steelblue',\n",
    "        edgecolor = 'black'\n",
    "        )\n",
    "plt.xlabel(title_name)\n",
    "plt.ylabel('number')\n",
    "plt.show()\n",
    "fig2.savefig(os.path.join(log_model_save_path, title_name+'.png'), dpi = 350, bbox_inches='tight')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "scrolled": false
   },
   "outputs": [],
   "source": [
    "title_name = 'Testset-Prediction_score-Distribution'\n",
    "fig3 = plt.figure()\n",
    "plt.hist(pred_list,\n",
    "        bins = 50,\n",
    "        color = 'steelblue',\n",
    "        edgecolor = 'black'\n",
    "        )\n",
    "plt.xlabel('Pred score')\n",
    "plt.ylabel('number')\n",
    "plt.show()\n",
    "fig3.savefig(os.path.join(log_model_save_path, title_name+'.png'), dpi = 350, bbox_inches='tight')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "scrolled": true
   },
   "outputs": [],
   "source": [
    "from scipy.stats.stats import pearsonr\n",
    "from scipy.stats import spearmanr\n",
    "\n",
    "MSE = np.square(pred_list-gt_list).mean()\n",
    "print(\"MSE: \", MSE)\n",
    "\n",
    "LCC = pearsonr(pred_list, gt_list)\n",
    "print(\"LCC: \", LCC[0])\n",
    "\n",
    "SRCC = spearmanr(pred_list, gt_list)\n",
    "print(\"SRCC: \", SRCC[0])\n",
    "\n",
    "indicators_name = 'result.txt'\n",
    "with open(os.path.join(log_model_save_path, indicators_name), 'w') as writer:\n",
    "    writer.write(\"MSE: %f\\n\" %MSE)\n",
    "    writer.write(\"LCC: %f\\n\" %LCC[0])\n",
    "    writer.write(\"SRCC: %f\\n\" %SRCC[0])"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": []
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# 去除误差过大的不正常值"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "scrolled": false
   },
   "outputs": [],
   "source": [
    "error = abs(gt_list-pred_list)\n",
    "print(\"Mean Error: \", error.mean())\n",
    "\n",
    "wash_pred = pred_list[abs(gt_list-pred_list)<0.1]\n",
    "wash_gt = gt_list[abs(gt_list-pred_list)<0.1]\n",
    "\n",
    "title_name = \"Pred_GT-Relationship(remove_error_more_than_0.1)\"\n",
    "fig_remve = plt.figure()\n",
    "a1 = fig_remve.add_axes([0,0,1,1])\n",
    "\n",
    "plt.title(title_name)\n",
    "plt.grid(color = 'b', linestyle = '--', linewidth = 0.1)\n",
    "plt.scatter(wash_pred, wash_gt, alpha=0.5)#预测得分和真实得分的关系图\n",
    "\n",
    "a1.set_ylim(0,1.1)\n",
    "a1.set_xlim(0,1.1)\n",
    "\n",
    "plt.plot()\n",
    "plt.show()\n",
    "fig_remve.savefig(os.path.join(log_model_save_path, title_name+'.png'), dpi = 350, bbox_inches='tight')\n",
    "\n",
    "\n",
    "\n",
    "from scipy.stats.stats import pearsonr\n",
    "from scipy.stats import spearmanr\n",
    "\n",
    "MSE = np.square(wash_pred-wash_gt).mean()\n",
    "print(\"MSE: \", MSE)\n",
    "\n",
    "LCC = pearsonr(wash_pred, wash_gt)\n",
    "print(\"LCC: \", LCC[0])\n",
    "\n",
    "SRCC = spearmanr(wash_pred, wash_gt)\n",
    "print(\"SRCC: \", SRCC[0])\n",
    "\n",
    "indicators_name = 'result(remove_error_more_than_0.1).txt'\n",
    "with open(os.path.join(log_model_save_path, indicators_name), 'w') as writer:\n",
    "    writer.write(\"Mean Error: %f\\n\" %error.mean())\n",
    "    writer.write(\"MSE: %f\\n\" %MSE)\n",
    "    writer.write(\"LCC: %f\\n\" %LCC[0])\n",
    "    writer.write(\"SRCC: %f\\n\" %SRCC[0])\n",
    "    writer.write(\"out of range number: %d\\n\" %error[error>0.08].shape[0])"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "title_name = 'GT_Pred-Error-Distribution'\n",
    "fig4 = plt.figure()\n",
    "plt.hist(error,\n",
    "        bins = 50,\n",
    "        color = 'steelblue',\n",
    "        edgecolor = 'black'\n",
    "        )\n",
    "# plt.xlim((0,0.08))\n",
    "plt.xlabel('PESQ score')\n",
    "plt.ylabel('number')\n",
    "plt.show()\n",
    "\n",
    "fig4.savefig(os.path.join(log_model_save_path, title_name+'.png') , dpi = 350, bbox_inches='tight')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "title_name = 'GT_Pred-Error-Distribution'\n",
    "fig4 = plt.figure()\n",
    "plt.hist(error[error<0.1],\n",
    "        bins = 50,\n",
    "        color = 'steelblue',\n",
    "        edgecolor = 'black'\n",
    "        )\n",
    "plt.xlim((0,0.1))\n",
    "plt.xlabel('error')\n",
    "plt.ylabel('number')\n",
    "plt.show()\n",
    "\n",
    "remain_num = error[error>0.08].shape[0]\n",
    "fig4.savefig(os.path.join(log_model_save_path, title_name+'(remove_error_more_than_0.1).png') , dpi = 350, bbox_inches='tight')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "error[error>0.1].shape[0]"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": []
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.8.5"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}