几个有用的R小函数

逃离我推掉我的手 2022-09-20 12:35 364阅读 0赞

最近写的代码基本是R脚本了,越发感到R的强大。现在用它做一些数据分析以及进行一些模拟。

收几个常的函数在这里。

1. 批次替换data frame中的数据

  1. i. 将所有为0的数据替换为100
  2. res2$valueX\[res2$valueX %in% 0\]<-100
  3. ii.将NA替换为0
  4. res2$valueX\[is.na(res2$valueX)\]<-0

2. CDF line

CDF(累积分布函数)是一个好工具,可以清楚的了解数据的分布情况。

showCDF<-function(data,field){

res_cdf=ecdf(data)

plot(res_cdf,main=paste(‘CDF of’,field))

#显示中位数、上四分位,最大值,以及最大值的2倍(视情况,可以去掉)

summaryData=boxplot.stats(data)$stats

summaryData[6]=summaryData[5]*2

for(index in 3:length(summaryData)){

  1. tempV=as.numeric(summaryData\[index\])
  2. R\_value=floor(res\_cdf(tempV)\*10000)/100
  3. lines(c(tempV,tempV),c(R\_value/100,0),col='red',lwd=2,lty=3)
  4. label=paste('<-',floor(tempV\*100)/100,':',R\_value,'%',sep='')
  5. text(tempV,index\*0.15,label,cex=0.8,adj=c(0,1))

}

}

效果:

SouthEast

*配合下面的语句可以显示出占具体概率值的分位点, 如:

  1. y<-quantile(data,c(0.5,0.99))

将取出data中占50%及99%的分位点。

3. 从MySQL中读取数据

library(‘RMySQL’)

readDataFromMySQL<-function(tableName,targetDate){

drv<-dbDriver(‘MySQL’)

con<-dbConnect(drv,host=’xxx.xxx.xxx.xxx’,port=3006,username=’xx’,password=’xxxx’,dbname=’xxxx’)

sqlStatement=paste(“select * from “,tableName)

if(nchar(targetDate)>0){

  1. sqlStatement = paste(sqlStatement," where date='",targetDate,"'",sep='')

}

print(sqlStatement)

data=dbGetQuery(con, sqlStatement)

dbDisconnect(con)

return(data)

}

*对于SQLite或其它的Database可以对应变换。

4. 问题求解

对于Header First数据分析中第3章最优化问题的求解, 需要在系统上安装lpsolve包及R的工具包:lpSolve和lpSolveAPI。

library(lpSolve)

f2.obj<-c(5,4)

f2.con<-matrix(c(1,0,0,1,100,125),nrow=3,byrow=T)

f2.dir<-c(‘<=’,’<=’,’<=’)

f2.rhs<-c(400,300,50000)

lp(‘max’,f2.obj,f2.con,f2.dir,f2.rhs)$solution

参考:http://lpsolve.sourceforge.net/5.5/R.htm

5. 从命令行执行时获取参数

#main entry

args <- commandArgs(trailingOnly = TRUE)

if(length(args)<1) {

print(“Wrong parameters, please specify the target date!”,quote = F)

} else {

callProcessFunction(args[1])

}

这样在执行时可以类似如下方式:

  1. Rscript xxx.R 2014-01-13

6. 通过箱形图(BoxPlot)去除异常数据

removeOutData<-function(data){

result = data[!data %in% boxplot.stats(data)$out]

return (result)

}

7.使用字串过滤数据

filterData<-function(data,url){

rows=grep(url,data$url)

return(data[c(rows),])

}

8. 使用ggplot2绘图

ggplot2提供非常强大的功能,如果plot系列需要多次绘制,ggplot2基本可以一句搞定,非常值得学习应用。

放一张在这里供参考:

SouthEast 1

9. Bars

drawBars<-function(data,xlab) {
labels <- c(“A”, “B”, “C”,”D”)

maxValue=max(max(data$A),max(data$B),max(data$C),max(data$D))
ylim<-c(0,maxValue*1.1)

datax<-rbind(data$A,data$B,data$C,data$D)
barplot(t(datax),beside=TRUE,col=terrain.colors(length(data$t0)),offset=0,names.arg = labels,ylim=ylim,xlab=xlab)
box()
}

效果:

SouthEast 2

10.分类

dataCluster<-function(data,col,clusterNum) {
require(“fpc”)
require(cluster)

z2<-na.omit(data[,col])

km <- kmeans(z2, clusterNum)

clusplot(data, km$cluster, color=TRUE, shade=TRUE, labels=2, lines=0)
}

效果:

SouthEast 3

*数据可视化可以帮助分析问题,比如分析加载流程:

SouthEast 4

11. 将Factor数列转为Numeric

一些从文件加载的frame, 其数列可能是factors, 不能直接转换为numeric, 这时就需要下面的函数了:

asNumeric <- function(x) as.numeric(as.character(x))

factorsNumeric <- function(d) modifyList(d, lapply(d[, sapply(d, is.factor)], asNumeric))

上面的函数使用比较简单:

  1. data.x = asNumeric(data.x)

关键在于要先转为字串,才能转为正确的数字。

*转换前,如果有一些异常值,比如NULL, 记得要用第一条转换一下,或者过滤掉。

如果数据中含有逗号千分位,可以试下这个:

asNumeric2 <- function(x) as.numeric(gsub(‘![[:alnum:]]*[[:space:]]|[[:punct:]]‘, ‘’, as.character(x)))

12. 以列的名称进行操作

以字段名的取值会提高应用的灵活性,如下所示:

as.matrix(res[c(‘data’)]) 等价于res$data

这种用法可以解决以列号指定数据时无法应对数据变化的问题。比如:

keys<-c(‘data_sum’,’data1’,’data2’)

for(key in keys){
data[c(key)]<-asNumeric(as.matrix(data[c(key)])) #转为数值型
data[c(key)][is.na(data[c(key)]),1]<-0 #将所有NA赋为0
}

13. 观察数据分布类型

  1. datadistribution<-function(x,na.omit=F){
  2. if(na.omit){
  3. x<-x[!is.na(x)]
  4. }
  5. m<-mean(x)
  6. n<-length(x)
  7. s<-sd(x)
  8. skew<-sum((x-m)^3/s^3)/n
  9. kurt<-sum((x-m)^4/s^4)/n-3
  10. return(c(n=n,mean=m,stdev=s,skew=skew,kurtosis=kurt))
  11. }

使用方法:

  1. sapply(base_data[c('a','b')],datadistribution)

14. 分组计数

使用aggregate函数可以出色地完成一些分组统计的工作,可惜无法直接使用length。下面是通过自定义一个函数来实现只对唯一值计数。

fun<-function(x){return(length(unique(x)))}

res<-aggregate(values~groupby,data=data, FUN=fun)

另一个比较好用的是plyr工具包的summarise函数:

  1. library(plyr)
  2. sdata<-ddply(data,c('field2'),summarise,N=length(rt),mean=mean(rt),sd=sd(rt),se=sd/sqrt(N))
  3. print('Result of ddply function:')
  4. print(sdata)

15. 字串操作

R中的字串操作常常是使用正则表达式完成。 去除字串首尾的空格:

trim <- function (x) gsub(“^\\s+|\\s+$”, “”, x)

下面是使用grep查找字串和分隔字串的示例:

strVal<-trim(temp[j])
if(length(grep(‘^max-age’,strVal))>0){
values<-strsplit(strVal,’=’)
data$cache_max_age[i]<-as.numeric(values[[1]][2])
}

16. 日期转换

下面是一个转换GMT日期字串为一个POSIX日期数值,以秒为单位:

  1. dateToNum<-function(x) as.numeric(as.POSIXct(strptime(trim(x), "%a,%d %b %Y %H:%M:%S GMT")))

后面的格式化字串必须和传入字串相符。

发表评论

表情:
评论列表 (有 0 条评论,364人围观)

还没有评论,来说两句吧...

相关阅读