驾驶员状态以及驾驶行为相结合的疲劳驾驶检测系统

【论文】:Fatigue Driver Detection System Using a Combination of Blinking Rate and Driving Inactivity

提出的方法

使用驾驶员状态以及驾驶员行为指标的组合,构建疲劳驾驶检测系统。

  • 驾驶员状态:系统监控眨眼频率和眨眼持续时间。疲劳驾驶的眨眼频率以及持续时间相对高于正常水平。
  • 驾驶行为:从惯性测量单元(IMU)和油门踏板传感器获取车辆状态。
    使用主成分分析(PCA)挑选高方差的成分。方差值用于区分疲劳驾驶员,认为这些驾驶员比正常驾驶员具有较高的驾驶活动。

系统概述

系统主要基于驾驶员状态和驾驶行为两个指标设计的。系统由两部分组成:1)检测眼部动作,2)检测驾驶员行为。如图1:


图1. 疲劳检测系统概述图

A.基于眼部动作的疲劳检测

眨眼检测处理流程包括一下几个步骤:

  1. 面部和眼部检测
  2. 眼部追踪
  3. 闭眼检测以及计算眨眼频率
图2. 提出的算法框架

眨眼检测以及眨眼持续时间分析

我们利用颜色特征检测眼睛闭合,将眼睛ROI(Region of Interest)图像的颜色空间由RGB转换为HSV,然后将图像分割为V通道,检测ROI图像亮度的变化。当用户的眼睛从睁开状态变为闭合状态时,会导致亮度增加,因为闭眼状态下黑眼的大小小于开眼状态,所以开眼状态下的亮度值小于闭眼状态。如图3:


图3. 在不同状态下的眼部图像(上面RGB,下面HSV颜色空间)

将眼睛ROI图像的颜色空间从RGB转换为HSV后,我们可以得到亮度值(HSV中的V值),并将其绘制在时间轴上,如图4:


图4. V值随时间的变化

根据图4中的亮度值,我们可以通过图5中的流程图检测眨眼并计算眨眼持续时间。该算法的目标是寻找V值的陡坡,并将其定义为转折点。首先,我们会找到爬坡(斜率为正),如果斜率大于“Th_close”,系统将把他判定为闭眼状态,并增加闭眼持续时间,直到下坡(斜率为负)的斜率大于“Th_open”,系统将停止增加闭眼持续时间。然后,系统将会继续寻找闭眼以及V值的陡坡。

图5. 检测眨眼以及计算眨眼持续时间的算法流程

对于眼睛状态,是通过用阈值与测试的“V值”相比较来定义的,判定眼睛状态的公式如下:


B.基于驾驶行为的疲劳检测

基于驾驶行为的疲劳驾驶检测处理过程包含以下几个步骤:
i) 从传感器获取数据;
ii) 按照图6的步骤分析驾驶员的驾驶行为。

图6. 基于驾驶行为的疲劳驾驶检测

1) 获取传感器数据
力阻传感器安装在加速踏板上。传感器根据接收到的力输出电压值。当驾驶员不踩踏板时,输出电压为0V,当驾驶员对踏板施加全部力时,输出电压为3.3V,电压的变化反映了踏板的运动。我们将其作为输入来构建驾驶行为模型。


图7. 力阻传感器以及在踏板上的位置

汽车的运动是由FreeIMU模块测量的。FreeIMU模块由加速度计、陀螺仪以及罗盘组成,其信号包括以下9个参数:i) 陀螺仪的三轴参数;ii) 加速度计的三轴参数;iii)磁场的三轴参数。传感器数据划分为两组:训练数据和测试数据。

2) 分析驾驶员驾驶行为

图8. 计算均值、标准差以及系数

根据从电阻传感器和FreeIMU模块(采样率为1ms)采集的数据,采用主成分分析法对数据进行简化,建立疲劳驾驶识别模型,对驾驶员的驾驶行为进行分析。为了分析驾驶员的驾驶行为,包括两个步骤:i)从训练数据中计算平均值、标准偏差和系数值,用于对驾驶员陈述进行建模;ii)使用训练数据的平均值、标准偏差和系数计算测试数据的方差。我们可以通过图8中的流程图计算平均值、标准差和系数值。


图9. 驾驶状态识别算法

疲劳驾驶识别如图9所示。首先,利用z-score对来自传感器和FreeIMU模块的数据进行归一化,然后通过主成分分析对数据进行分析,以减少数据的维数。然后,利用训练数据的均值、标准差和系数值,计算主成分分析(PCA)的变量得分方差。最后,选择5列的组合方差。当组合方差大于阈值时,该算法将驾驶状态判断为正常状态。但是,当组合方差小于阈值时,该算法把驾驶状态判断为疲劳状态。

实验和结果

图10显示了在60s的测试视频中检测到眼睛闭上和睁开的时间间隔。图中只显示峰值的时刻。
眨眼检测结果如图11所示,其中高值表示检测到眼睛闭合,低值表示检测到眼睛睁开。眨眼的持续时间也可以计算出来。在视频捕捉过程中,由21次眨眼,其中一次在21s到25s之间,眨眼持续4s。

图10. 闭眼和睁眼时间间隔
图11. 检测到的眨眼

在相同位置和驾驶模拟视频中,眨眼检测结果如表1所示:

表1. 眨眼检测结果
表2. 驾驶行为结果
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,373评论 4 361
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,732评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,163评论 0 238
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,700评论 0 202
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,036评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,425评论 1 211
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,737评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,421评论 0 194
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,141评论 1 239
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,398评论 2 243
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,908评论 1 257
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,276评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,907评论 3 233
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,018评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,772评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,448评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,325评论 2 261

推荐阅读更多精彩内容