amazon access代码分析和记录
admin
2023-07-31 01:44:13
0

这是一个kaggle项目的冠军代码
看起来还是比较麻烦,这里记录一下这个冠军代码的一些处理方法
这部分使用了集成学习的方法
主要使用了LR、RF、GB这三种学习方法
每一种学习方法大概使用了四五次,也就是对数据集也进行了各种处理

\"LR:tuples_sf\",
\"LR:greedy_sfl\",
\"LR:greedy2_sfl\",
\"LR:greedy3_sf\",
\"RFC:basic_b\",
\"RFC:tuples_f\",
\"RFC:tuples_fd\",
\"RFC:greedy_f\",
\"RFC:greedy2_f\",
\"GBC:basic_f\",
\"GBC:tuples_f\",
\"LR:greedy_sbl\",
\"GBC:greedy_c\",
\"GBC:tuples_cf\"
上面左边是算法名字,右边的是数据集代号

左边的分类方法比较好理解,不过右边的不好理解
这里记录一下右边是如何处理数据的

数据的情况:
共有十列:
      ACTION                      是否有权限
      RESOURCE                    资源id
      MGR_ID                      经理id
      ROLE_ROLLUP_1               
      ROLE_ROLLUP_2
      ROLE_DEPTNAME
      ROLE_TITLE
      ROLE_FAMILY_DESC
      ROLE_FAMILY
      ROLE_CODE
bsfeats:
   去掉ROLE_CODE和ACTION这两列
   X_all[\'ROLE_TITLE\'] = X_all[\'ROLE_TITLE\'] + (1000 * X_all[\'ROLE_FAMILY\'])
   X_all[\'ROLE_ROLLUPS\'] = X_all[\'ROLE_ROLLUP_1\'] + (10000 * X_all[\'ROLE_ROLLUP_2\'])
   X_all = X_all.drop([\'ROLE_ROLLUP_1\', \'ROLE_ROLLUP_2\', \'ROLE_FAMILY\'],axis=1)
   到现在就剩下六列:
       RESOURCE,MGR_ID,ROLE_DEPTNAME,ROLE_TITLE,ROLE_FAMILY_DESC,ROLE_ROLLUPS
   对每一列添加cnt列:
       此步骤是为了对前六列做处理,生成新的六列,过程如下
          对每列进行分组,然后把组数的log值填充到相应的位置
   再添加Duse列:
       还是先按列各自进行分组,然后再按照resource分组
       用每组RESOURCE的个数除以总个数
   添加mdept列:
       主要是添加相同经理的个数,按照经理先对数据进行分组
       填充该经理组中资源的种类数
   处理完后把前六列的数据删除
greedy:
   这个处理过程就比较重量级了,由于数据都是类别型的,所以都使用了编码
   首先把特征中的ACTION和ROLE_CODE两个特征去掉
   然后让剩下的特征两两组合
   这样就生成了很多新的特征,每一列的值用组合数据的hash值填充
   下一步要给所有的特征做onehot编码
   然后要选取比较好的feature选择过程是使用auc的得分来算
       使用n-cv的方式,对选取的特征使用logisticReg的方法来判断auc计算得分
       最终获取得分高的几个特征
       基本思想就是这样
   
   
   
       
   

上一篇:彩色进度条

下一篇:微博爬虫

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
项目管理和工程管理的区别 项目管理 项目管理,顾名思义就是专注于开发和完成项目的管理,以实现目标并满足成功标准和项目要求。 工...