фрейм данных Sparklyr Pivot

В настоящее время sparklyr (0.5.1) не имеет pivot реализации для Spark.

Итак, мне интересно, как я могу реализовать это с помощью invoke функций.

Пока я здесь.

iris_tbl <- copy_to(sc, iris)
spark_dataframe(iris_tbl) %>% 
  invoke("groupBy", "Species", list()) %>% 
  invoke("pivot", "Sepal.Width", list()) %>% 
  invoke(  ... ) # <-  how to create aggregate expression?

И застряли на том, как мне написать агрегатное выражение?


r apache-spark sparklyr pivot
person Vadym B.    schedule 25.01.2017    source источник
comment
Искал что-то похожее и тоже не уверен. Кажется, это несоответствие типа на конце Java, т.е. нет метода agg для передаваемого типа (который, предположительно, установлен list()?). Что делает аргумент list()?   -  person Akhil Nair    schedule 19.02.2017

Ответы (1)


arrow_upward
4
arrow_downward

Это приведет вас к середине пути:

library(stringi)

sc <- spark_connect("local[*]")
df <- data.frame(A = c("a", "b", "c"), B = c(1, 3, 5), C = c(2, 4, 6))
sdf <- copy_to(sc, df, overwrite =TRUE)

Вспомогательные функции:

#' Given name, return corresponding SQL function
sqlf <- function(f) function(x, ...) {
  invoke_static(sc, "org.apache.spark.sql.functions", f, x, ...)
}

Функция плавления:

#' @param df tbl_spark
#' @param sc spark_connection
#' @param id_vars id columns
#'
melt <- function(df, sc, id_vars, value_vars = NULL, 
    var_name = "key", value_name = "value") {
  # Alias for the output view
  alias <- paste(deparse(substitute(df)), stri_rand_strings(1, 10), sep = "_")
  # Get session and JVM object
  spark <- spark_session(sc)
  jdf <- spark_dataframe(df)

  # Convert characters to JVM Columns
  j_id_vars <- lapply(id_vars, sqlf("col"))

  # Combine columns into array<struct<key,value>> and explode
  exploded <- sqlf("explode")(sqlf("array")(lapply(value_vars, function(x) {
    key <- sqlf("lit")(x) %>% invoke("alias", var_name)
    value <- sqlf("col")(x) %>% invoke("alias", value_name)
    sqlf("struct")(list(key, value))
  })))

  # expand struct<..., struct<key, value>> into struct<..., key, value>
  exprs <- lapply(
    c(id_vars, paste("col", c(var_name, value_name), sep = ".")),
    sqlf("col"))

  # Explode and register as temp table
  jdf %>% 
    invoke("withColumn", "col", exploded) %>% 
    invoke("select", exprs) %>% 
    invoke("createOrReplaceTempView", alias)

  dplyr::tbl(sc, alias)
}

Пример использования:

melt(sdf, sc, "A", c("B", "C"))

## Source:   query [6 x 3]
## Database: spark connection master=local[*] app=sparklyr local=TRUE
## 
## # A tibble: 6 x 3
##       A   key value
##   <chr> <chr> <dbl>
## 1     a     B     1
## 2     a     C     2
## 3     b     B     3
## 4     b     C     4
## 5     c     B     5
## 6     c     C     6
person Zafar    schedule 25.06.2017