ThinkChat2.0新版上线,更智能更精彩,支持会话、画图、阅读、搜索等,送10W Token,即刻开启你的AI之旅 广告
[Xunsearch PHP-SDK](http://www.xunsearch.com) v1.4.8 API 参考文档 # XSTokenizerSplit [All Packages](#)| [方法(函数)](#) | 包 | [XS.tokenizer](#) | |-----|-----| | 继承关系 | class XSTokenizerSplit | | 实现接口 | [XSTokenizer](#) | | 版本 | 1.0.0 | | 源代码 | [sdk/php/lib/XSTokenizer.class.php](https://github.com/hightman/xunsearch/blob/master/sdk/php/lib/XSTokenizer.class.php) | 内置的分割分词器 ### Public 方法 [隐去继承来的方法](#) | 名称 | 描述 | 定义于 | |-----|-----|-----| | [__construct()](#) | | XSTokenizerSplit | | [getTokens()](#) | | XSTokenizerSplit | ### 方法明细 __construct()方法 <table class="summaryTable"><tr><td colspan="3"><div class="signature2">public void <b>__construct</b>($arg=NULL)</div></td></tr><tr><td class="paramNameCol">$arg</td> <td class="paramTypeCol"></td> <td class="paramDescCol"></td></tr></table> **源码:**[sdk/php/lib/XSTokenizer.class.php#L79](https://github.com/hightman/xunsearch/blob/master/sdk/php/lib/XSTokenizer.class.php#L79) (**[显示](#)**) `public function __construct($arg = null) {     if ($arg !== null && $arg !== '') {         $this->arg = $arg;     } }` getTokens()方法 <table class="summaryTable"><tr><td colspan="3"><div class="signature2">public void <b>getTokens</b>($value, $doc=NULL)</div></td></tr><tr><td class="paramNameCol">$value</td> <td class="paramTypeCol"></td> <td class="paramDescCol"></td></tr><tr><td class="paramNameCol">$doc</td> <td class="paramTypeCol"></td> <td class="paramDescCol"></td></tr></table> **源码:**[sdk/php/lib/XSTokenizer.class.php#L86](https://github.com/hightman/xunsearch/blob/master/sdk/php/lib/XSTokenizer.class.php#L86) (**[显示](#)**) `public function getTokens($value, XSDocument $doc = null) {     if (strlen($this->arg) > 2 && substr($this->arg, 0, 1) == '/' && substr($this->arg, -1, 1) == '/') {         return preg_split($this->arg, $value);     }     return explode($this->arg, $value); }` Copyright © 2008-2011 by [杭州云圣网络科技有限公司](http://www.xunsearch.com) All Rights Reserved.