【毕设进行时-工业大数据,数据挖掘】划分训练集,测试集并且验证准确率

正文之前

昨天好不容易心气爆发,肝了一会儿的毕业设计,也算是初步走上了正轨,很是期待后面完成之后我自己回首会是怎样一般场景了!不过昨天那个对半划分数据集,一半作为训练集,一半作为验证集的划分方式效果实在是令人不敢恭维。。。我是死了心这么分了。到时候毕设答辩的时候拿这个去说简直就是丢死人了。

正文

我这次采用的是以前的那一拨钢板的数据集,清洗数据后剩下六个属性,分类也分为六类。这就构成了这个1940条记录的数据集。但是因为数据的分类过于集中。很是让人烦恼!

诸君请看,前面的这些异常分类都是0,也就是对应的故障列表的第一项:

String[] Fault = new String[]{"Pastry","Z_Scratch","K_Scatch","Stains","Dirtiness","Bumps","Other_Faults"};
mysql> select min(id) from steelplate where Fault=1;
+---------+
| min(id) |
+---------+
|     158 |
+---------+
1 row in set (0.01 sec)

分类为1 的最小的记录编号都已经到了158了。所以我选择交叉获取数据的方式分配训练集和数据集。即第一条到训练集,第二条到验证集。这样下来尚且算是分配均匀了。

不过各位看看最终的实验效果就知道。。我这个分配均匀到底有多坑了!

准确率0.51。。。。堪堪过半!!简直无敌自容了好吗?!!!!所以今天我准备修改训练集和验证集 的比例,调成4:1左右的话会不会好一点呢?肯定会的好吗?这时候训练集有1552,测试集388。而且继续采用交叉办法,肯定能有较好的效果了!

不过,我还没开始呢。。。所以先放0.51的代码。然后下面再来一篇放另外的吧!!

//读取测试集和验证集的方法
   public Object[][] readTrainData() {
        int columnCount=0;
        try {
            mysql.Connect();
            Statement statement=mysql.getStatement();
            String GETCOLUMN="select max(id) from steelplate";
            String getDataQuery="";
            Object[][] DataTrain;
            ResultSet answer = statement.executeQuery(GETCOLUMN);
            if(answer.next())
                columnCount  = answer.getInt(1);
            DataTrain = new Object[columnCount/2][7];
            for (int  i = 0;i<columnCount/2;++i) {
                getDataQuery = getSelectQuery(Name,"steelplate",i*2);
                ResultSet select_ok;
                select_ok = statement.executeQuery(getDataQuery);
                select_ok.next();
                for (int j = 0; j<7;++j){
                    DataTrain[i][j]=select_ok.getObject((String) Name[j]);
                }
            }
            statement.close();
            mysql.Dis_Connect();
            return DataTrain;
        } catch (SQLException e) {
            e.printStackTrace();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return new Object[1][1];
    }

    public Object[][] readTestData() {
        int columnCount=0;
        try {
            mysql.Connect();
            Statement statement=mysql.getStatement();
            String GETCOLUMN="select max(id) from steelplate";
            Object[][] DataTest;
            ResultSet answer = statement.executeQuery(GETCOLUMN);
            if(answer.next())
                columnCount  = answer.getInt(1);
            DataTest = new Object[columnCount/2][7];
            for (int  i = 0 ;i<columnCount/2-1;++i) {
                String getDataQuery = getSelectQuery(Name,"steelplate",i*2+1);
                ResultSet select_ok;
                select_ok = statement.executeQuery(getDataQuery);
                select_ok.next();
                for (int j = 0; j<7;++j){
                    DataTest[i][j]=select_ok.getObject((String) Name[j]);
                }
            }
            statement.close();
            mysql.Dis_Connect();
            return DataTest;
        } catch (SQLException e) {
            e.printStackTrace();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return new Object[1][1];
    }

下面是读取验证集并且计算正确率的函数

else if(command.toLowerCase().equals("autotest")){
            if (TData.isEmpty()){
                jl12.setText(Space+"Please Open the Test File to load the Data!");
                return;
            }
            else {
                for (int i=0;i<TData.size();++i) {
                    Object[] test = TData.get(i).split(" ");
                    String res="";
                    res=TestData.TestData(tree, Test_Names,test,res);
                    if (res.contains(":")){
                        String Fault = res.substring(res.indexOf(":")+1);
                        Fault = Fault.trim();
                        String Fa = FaultMap.get(Fault);
                        if(Fa.equals((String) test[test.length-1])){
                            RightCount++;
                        }
                        else {
                            FaultCount++;
                        }
                    }
                    else {
                        FaultCount++;
                    }
                }
                System.out.println(RightCount+" "+FaultCount);
                jl12.setText(Space+"准确率: "+((float)RightCount/(float)(RightCount+FaultCount)));
                RightCount = 0;
                FaultCount = 0;
            }
        }

另外还有一个故障编号Map

    public  Map<String,String> FaultMap = new HashMap<String,String>();
        FaultMap.put("Pastry","0");
        FaultMap.put("Z_Scratch","1");
        FaultMap.put("K_Scatch","2");
        FaultMap.put("Stains","3");
        FaultMap.put("Dirtiness","4");
        FaultMap.put("Bumps","5");
        FaultMap.put("Other_Faults","6");

正文之后

溜了溜了。。。我室友借我车去吃饭,结果半路上跟外卖小哥来了段相爱相杀,求问这种时候我室友还垫付了200+的医药费,万一外卖小哥纠缠报警的话会吃亏不?外卖小哥的车技一向是。。。生死时速的!

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 162,306评论 4 370
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,657评论 2 307
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 111,928评论 0 254
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,688评论 0 220
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 53,105评论 3 295
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 41,024评论 1 225
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,159评论 2 318
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,937评论 0 212
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,689评论 1 250
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,851评论 2 254
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,325评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,651评论 3 263
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,364评论 3 244
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,192评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,985评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,154评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,955评论 2 279

推荐阅读更多精彩内容