Spark局部套用和部分应用方法是什么

本篇内容主要讲解“Spark局部套用和部分应用方法是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Spark局部套用和部分应用方法是什么”吧!

创新互联公司是一家专业提供鸡西梨树企业网站建设,专注与成都网站设计、做网站、成都外贸网站建设公司H5场景定制、小程序制作等业务。10年已为鸡西梨树众多企业、政府机构等服务。创新互联专业的建站公司优惠进行中。

    局部套用 和部分应用 是来源于数学的语言技术(基于 20 世纪数学家 Haskell Curry 和其他人的工作成果)。这两种技术存在于各种类型的语言中,可以单独或同时存在于函数式语言中。局部套用和部分应用使您能够处理函数或方法的参数数量,通常的方法是为一些参数提供一个或多个默认值(称为修正 参数)。所有 Java 下一代语言都包括局部套用和部分应用,但以不同的方式实现它们。在本文中,我将介绍这两种技术的不同之处,并展示它们在 Scala、Groovy 和 Clojure 中的实现细节,以及实际应用。

注意术语

    出于本部分的目的,方法(method) 和 函数(function) 是可互换的。支持局部套用和部分应用的面向对象语言使用方法。同样,函数参数(function parameter) 和 函数参数(function argument) 也是可互换的。由于这些概念起源于数学,因此我自始至终使用的是 函数(function) 和 参数(argument),但这并不意味着这两种技术对方法不起作用。

定义和区别

对于业余人士来说,局部套用和部分应用具有相同的效果。使用这两种技术时,都可以创建一个一些参数具有预先提供值的函数版本:

  • 局部套用是将多参数函数转换为一系列单参数函数。它描述了转换过程,而不是转换函数的调用。调用方可以确定应用了多少参数,从而创建一个参数更少的导出函数。

  • 部分应用将多参数函数转换为一个参数更少的多参数函数,其值为提前提供的省略参数的值。本技术的名称非常恰当:它将一些参数部分应用到函数,并返回一个具有签名(由剩余参数组成)的函数。

使用局部套用和部分应用,可以提供参数值并返回一个可使用缺少参数调用的函数。但是,对函数应用局部套用会返回链中的下一个函数,而部分应用会将参数值绑到在运算期间提供的值上,生成一个具有更少 元数(参数的数量)的函数。当考虑具有两个以上元数的函数时,这一区别会更加明显。例如,process(x, y, z) 函数的完全套用版本是process(x)(y)(z),其中 process(x) 和 process(x)(y) 都是接受一个参数的函数。如果只对第一个参数应用了局部套用,那么 process(x) 的返回值将是接受一个参数的函数,因此仅接受一个参数。与此相反,在使用部分应用时,会剩下一个具有更少元数的函数。对 process(x, y, z) 的一个参数使用部分应用会生成接受两个参数的函数:process(y, z)

这两种技术的结果通常是相同的,但二者的区别也很重要,人们通常会对它们之间的区别产生误解。更复杂的是,Groovy 可以实现部分应用和局部套用,但都将它们称为 currying。而 Scala 具有偏应用函数(partially applied function)和 PartialFunction,尽管它们的名称类似,但它们却是两个不同的概念。

在 Scala 中

Scala 支持局部套用和部分应用,还支持特征(trait),特征可以定义约束函数(constrained function)。

局部套用

在 Scala 中,函数可以将多个参数列表定义为括号组。调用参数数量比其定义数量少的函数时,会返回一个将缺少参数列表作为其参数的函数。请考虑 Scala 文档的示例,如清单 1 所示。

清单 1. Scala 的参数局部套用
def filter(xs: List[Int], p: Int => Boolean): List[Int] =
    if (xs.isEmpty) xs
    else if (p(xs.head)) xs.head :: filter(xs.tail, p)
    else filter(xs.tail, p)

def modN(n: Int)(x: Int) = ((x % n) == 0)

val nums = List(1, 2, 3, 4, 5, 6, 7, 8)
println(filter(nums, modN(2)))
println(filter(nums, modN(3)))

在清单 1 中,filter() 函数递归地应用传递的过滤条件。modN() 函数定义了两个参数列表。在我使用 filter() 调用 modN 时,我传递了一个参数。filter() 函数被作为函数的第二个参数,具有一个 Int 参数和一个 Boolean 返回值,这与我传递的局部套用函数的签名相匹配。

偏应用函数

在 Scala 中还可以部分应用函数,如清单 2 所示。

清单 2. Scala 中部分应用的函数
def price(product : String) : Double =
  product match {
    case "apples" => 140
    case "oranges" => 223
}

def withTax(cost: Double, state: String) : Double =
  state match {
    case "NY" => cost * 2
    case "FL" => cost * 3
}val locallyTaxed = withTax(_: Double, "NY")val costOfApples = locallyTaxed(price("apples"))

assert(Math.round(costOfApples) == 280)

在清单 2 中,我首先创建了一个 price 函数,它返回了产品和价格之间的映射。然后我创建了一个 withTax() 函数,其参数为 cost 和state。但是,在特殊的源文件中,我知道要专门处理一个国家的税收。我没有对每次调用的额外参数应用局部套用,而是部分应用了 state参数,并返回一个 state 值固定的函数。locallyTaxed 函数接受一个参数,即 cost

偏(约束)函数

Scala PartialFunction 特征可以与模式无缝地配合使用(请阅读函数式思维 系列的 "Either 树和模式匹配" 部分中的模式匹配)。尽管名称类似,但此特征不会创建偏应用函数。相反,可以使用它定义仅适用于值和类型定义子集的函数。

Case 块是应用偏函数(partial function)的一种方式。清单 3 使用了 Scala 的 case,没有传统对应的 match 操作符。

清单 3. 使用不带 match 的 case
val cities = Map("Atlanta" -> "GA", "New York" -> "New York",
  "Chicago" -> "IL", "San Francsico " -> "CA", "Dallas" -> "TX")

cities map { case (k, v) => println(k + " -> " + v) }

在清单 3 中,我创建了一个城市和该城市所对应的州的映射。然后,我对该集合调用了 map 函数,map 会拆开键值对以输出它们。在 Scala 中,包含 case 声明的代码块是定义匿名函数的一种方式。不使用 case 可以更简洁地定义匿名函数,但是,case 语法提供了如清单 4 所示的额外好处。

清单 4. map 和 collect 之间的区别
List(1, 3, 5, "seven") map { case i: Int ? i + 1 } // won't work
// scala.MatchError: seven (of class java.lang.String)

List(1, 3, 5, "seven") collect { case i: Int ? i + 1 }
// verify
assert(List(2, 4, 6) == (List(1, 3, 5, "seven") collect { case i: Int ? i + 1 }))

在清单 4 中,我不能在具有 case 的异构集合上使用 map:我收到了 MatchError,因为函数试图增加 seven 字符串。但是 collect 工作正常。为什么会出现这种不同?什么地方出错了?

Case 块定义的是偏函数,而不是偏应用函数。偏函数 具有有限的允许值。例如,数学函数 1/x 是无效的,如果 x = 0。偏函数提供了一种定义允许值约束的方式。在 清单 4 的 collect 示例中,定义了 Int 而不是 String 的约束,因此没有收集 seven 字符串。

要定义偏函数,还可以使用 PartialFunction 特征,如清单 5 所示。

清单 5. 在 Scala 中定义偏函数
val answerUnits = new PartialFunction[Int, Int] {
    def apply(d: Int) = 42 / d
    def isDefinedAt(d: Int) = d != 0
}

assert(answerUnits.isDefinedAt(42))
assert(! answerUnits.isDefinedAt(0))

assert(answerUnits(42) == 1)
//answerUnits(0)
//java.lang.ArithmeticException: / by zero

在清单 5 中,我从 PartialFunction 特征导出了 answerUnits,并提供了两个函数:apply() 和 isDefinedAt()apply() 函数计算值。我使用了 isDefinedAt()PartialFunction 的必要方法)来定义确定参数适用性的约束。

还可以使用 case 块实现偏函数,清单 5 的answerUnits 可以采用更简洁的方式编写,如清单 6 所示。

清单 6. answerUnits 的另一种定义
def pAnswerUnits: PartialFunction[Int, Int] =
    { case d: Int if d != 0 => 42 / d }

assert(pAnswerUnits(42) == 1)
//pAnswerUnits(0)
//scala.MatchError: 0 (of class java.lang.Integer)

在清单 6 中,我结合使用了 case 和保卫条件来约束值并同时提供值。与 清单 5 的一个明显区别是 MatchError(而不是ArithmeticException),因为清单 6 使用了模式匹配。

偏函数并不仅局限于数值类型。它可以使用所有类型的数值,包括 Any。可以考虑增量器(incrementer)的实现,如清单 7 所示。

清单 7. 在 Scala 中定义增量器
def inc: PartialFunction[Any, Int] =
    { case i: Int => i + 1 }

assert(inc(41) == 42)
//inc("Forty-one")
//scala.MatchError: Forty-one (of class java.lang.String)

assert(inc.isDefinedAt(41))
assert(! inc.isDefinedAt("Forty-one"))

assert(List(42) == (List(41, "cat") collect inc))

在清单 7 中,我定义了一个偏函数来接受任意类型的输入 (Any),但选择对类型子集做出反应。请注意,我还可以调用偏函数的isDefinedAt() 函数。使用 case 的 PartialFunction 特征的实现者可以调用 isDefinedAt(),它是隐式定义的。在 清单 4 中,我说明了 map 和 collect 的表现不同。偏函数的行为解释了它们的区别:collect 旨在接受偏函数,并调用元素的 isDefinedAt() 函数,会忽略那些不匹配的函数。

在 Scala 中,偏函数和偏应用函数的名称类似,但是它们提供了不同的正交特性集。例如,没有什么可以阻止您部分地应用偏函数。

在 Groovy 中

在我的函数式思维 系列的 "运用函数式思维,第 3 部分" 中详细介绍了 Groovy 中的局部套用和部分应用。Groovy 通过 curry() 函数实现了局部套用,该函数来自 Closure 类。尽管名称如此,但 curry() 实际上通过处理其下面的闭包块来实现部分应用。但是,您可以模拟局部套用,方法是使用部分应用将函数减少为一系列部分应用的单参数函数,如清单 8 所示。

清单 8. Groovy 的部分应用和局部套用
def volume = { h, w, l -> return h * w * l }
def area = volume.curry(1)
def lengthPA = volume.curry(1, 1) //partial application
def lengthC = volume.curry(1).curry(1) // currying

println "The volume of the 2x3x4 rectangular solid is ${volume(2, 3, 4)}"
println "The area of the 3x4 rectangle is ${area(3, 4)}"
println "The length of the 6 line is ${lengthPA(6)}"
println "The length of the 6 line via curried function is ${lengthC(6)}"

在清单 8 中,在两种 length 情况下,我使用 curry() 函数部分应用了参数。但是,在使用 lengthC 时,通过部分地应用参数,直到出现一连串的单参数函数为止,我制造了一种使用局部套用的幻觉。

在 Clojure 中

Clojure 包含 (partial f a1 a2 ...) 函数,它具有函数 f 以及比所需数量更少的参数,而且返回一个在提供剩余参数时调用的部分应用函数。清单 9 显示了两个示例。

清单 9. Clojure 的部分应用
(def subtract-from-hundred (partial - 100))

(subtract-from-hundred 10)      ; same as (- 100 10)
; 90

(subtract-from-hundred 10 20)   ; same as (- 100 10 20)
; 70

在清单 9 中,我将 subtract-from-hundred 函数定义为部分应用的 - 运算符(Clojure 中的运算符与函数无法区分),并提供 100 作为部分应用的参数。Clojure 中的部分应用适用于单参数函数和多参数函数,如清单 9 中的两个示例所示。

由于 Clojure 是动态类型的,并且支持可变参数列表,因此局部套用并不能作为一种语言功能来实现。部分应用将会处理必要的情况。但是,Clojure 被添加到 reducers 库(参见 参考资料)的命名空间私有 (defcurried ...) 函数,支持在该库中更轻松地定义一些函数。鉴于 Clojure 的 Lisp 传承的灵活特点,可以轻松扩大 (defcurried ...) 的使用范围。

常见用法

尽管局部套用和部分应用具有复杂的定义和大量实现细节,但是它们在实际编程中都占有一席之地。

函数工厂

局部套用(和部分应用)适合在传统的面向对象语言中实现工厂函数的位置使用。作为一个示例,清单 10 在 Groovy 中实现了一个简单的adder 函数。

清单 10. Groovy 中的加法器和增量器
def adder = { x, y -> x + y}
def incrementer = adder.curry(1)

println "increment 7: ${incrementer(7)}" // 8

在清单 10 中,我使用 adder() 函数来导出 incrementer 函数。同样,在 清单 2 中,我使用部分应用创建了一个更简洁的本地函数版本。

Template Method 设计模式

Gang of Four 设计模式之一是 Template Method 模式。它的用途是帮助定义算法 shell,使用内部抽象方法来实现稍后的实现灵活性。部分应用和局部套用可以解决相同的问题。使用部分应用提供已知行为,并让其他参数免费用于实现细节,这模拟了此面向对象设计模式的实现。

隐含值

与 清单 2 类似,一种常见的情况是您有一系列使用相似参数值调用的函数。例如,当与持久性框架交互时,必须将数据源作为第一个参数进行传递。通过使用部分应用,可以隐式地提供值,如清单 11 所示。

清单 11. 使用部分应用提供隐含值
(defn db-connect [data-source query params]
      ...)

(def dbc (partial db-connect "db/some-data-source"))

(dbc "select * from %1" "cust")

在清单 11 中,我使用了便利的 dbc 函数来访问数据函数,无需提供数据源,就可以自动提供数据源。面向对象编程的精髓(隐含 this 上下文似乎出现在所有函数中)可以通过使用局部套用为所有函数提供 this 来实现,这使得它对用户不可见。

到此,相信大家对“Spark局部套用和部分应用方法是什么”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!


本文题目:Spark局部套用和部分应用方法是什么
网页链接:http://myzitong.com/article/ggdgcd.html