it-swarm.com.ru

Оптимальный способ объединения / агрегирования строк

Я нахожу способ объединить строки из разных строк в одну строку. Я хочу сделать это во многих разных местах, поэтому было бы неплохо иметь функцию для облегчения этого. Я пробовал решения, использующие COALESCE и FOR XML, но они просто не помогают мне.

Агрегация строк будет делать что-то вроде этого:

id | Name                    Result: id | Names
-- - ----                            -- - -----
1  | Matt                            1  | Matt, Rocks
1  | Rocks                           2  | Stylus
2  | Stylus

Я рассмотрел определяемые CLR агрегатные функции как замену COALESCE и FOR XML, но, видимо, SQL Azure не поддерживает определенные CLR вещи, что является для меня болью, потому что я знаю, что возможность использовать это решит для меня много проблем.

Есть ли возможный обходной путь или такой же оптимальный метод (который может быть не таким оптимальным, как CLR, но эй я возьму то, что могу получить), который я могу использовать для агрегирования своих материал?

87
matt

РЕШЕНИЕ

Определение оптимального может варьироваться, но здесь показано, как объединить строки из разных строк с помощью обычного языка Transact SQL, который должен хорошо работать в Azure.

;WITH Partitioned AS
(
    SELECT 
        ID,
        Name,
        ROW_NUMBER() OVER (PARTITION BY ID ORDER BY Name) AS NameNumber,
        COUNT(*) OVER (PARTITION BY ID) AS NameCount
    FROM dbo.SourceTable
),
Concatenated AS
(
    SELECT 
        ID, 
        CAST(Name AS nvarchar) AS FullName, 
        Name, 
        NameNumber, 
        NameCount 
    FROM Partitioned 
    WHERE NameNumber = 1

    UNION ALL

    SELECT 
        P.ID, 
        CAST(C.FullName + ', ' + P.Name AS nvarchar), 
        P.Name, 
        P.NameNumber, 
        P.NameCount
    FROM Partitioned AS P
        INNER JOIN Concatenated AS C 
                ON P.ID = C.ID 
                AND P.NameNumber = C.NameNumber + 1
)
SELECT 
    ID,
    FullName
FROM Concatenated
WHERE NameNumber = NameCount

ОБЪЯСНЕНИЕ

Подход сводится к трем шагам:

  1. Пронумеруйте строки, используя OVER и PARTITION, сгруппировав их и упорядочив по мере необходимости для объединения. Результат Partitioned CTE. Мы ведем подсчет строк в каждом разделе, чтобы отфильтровать результаты позже.

  2. С помощью рекурсивного CTE (Concatenated) перебирайте номера строк (столбец NameNumber), добавляя значения Name в столбец FullName.

  3. Отфильтруйте все результаты, кроме самых высоких с NameNumber.

Пожалуйста, имейте в виду, что для того, чтобы сделать этот запрос предсказуемым, необходимо определить как группирование (например, в сценарии строки с одинаковым ID объединяются), так и сортировку (я предполагал, что вы просто сортируете строку по алфавиту перед объединением).

Я быстро протестировал решение на SQL Server 2012 со следующими данными:

INSERT dbo.SourceTable (ID, Name)
VALUES 
(1, 'Matt'),
(1, 'Rocks'),
(2, 'Stylus'),
(3, 'Foo'),
(3, 'Bar'),
(3, 'Baz')

Результат запроса:

ID          FullName
----------- ------------------------------
2           Stylus
3           Bar, Baz, Foo
1           Matt, Rocks
60
Serge Belov

Методы, использующие FOR XML PATH, как показано ниже, действительно так медленны? Ицик Бен-Ган пишет, что этот метод имеет хорошую производительность в своей книге запросов к T-SQL (на мой взгляд, Бен-Ган является заслуживающим доверия источником).

create table #t (id int, name varchar(20))

insert into #t
values (1, 'Matt'), (1, 'Rocks'), (2, 'Stylus')

select  id
        ,Names = stuff((select ', ' + name as [text()]
        from #t xt
        where xt.id = t.id
        for xml path('')), 1, 2, '')
from #t t
group by id
43
slachterman

Для тех из нас, кто нашел это и не используете базу данных SQL Azure:

STRING_AGG() в PostgreSQL, SQL Server 2017 и Azure SQL
https://www.postgresql.org/docs/current/static/functions-aggregate.html
https://docs.Microsoft.com/en-us/sql/t-sql/functions/string-agg-transact-sql

GROUP_CONCAT() в MySQL
http://dev.mysql.com/doc/refman/5.7/en/group-by-functions.html#function_group-concat

(Спасибо @Brianjorden и @milanio за обновление Azure)

Пример кода:

select Id
, STRING_AGG(Name, ', ') Names 
from Demo
group by Id

SQL Fiddle: http://sqlfiddle.com/#!18/89251/1

27
Hrobky

Хотя ответ @serge верен, но я сравнил затраты времени на его пути с xmlpath и обнаружил, что xmlpath намного быстрее. Я напишу код сравнения, и вы можете проверить его самостоятельно. Это способ @serge:

DECLARE @startTime datetime2;
DECLARE @endTime datetime2;
DECLARE @counter INT;
SET @counter = 1;

set nocount on;

declare @YourTable table (ID int, Name nvarchar(50))

WHILE @counter < 1000
BEGIN
    insert into @YourTable VALUES (ROUND(@counter/10,0), CONVERT(NVARCHAR(50), @counter) + 'CC')
    SET @counter = @counter + 1;
END

SET @startTime = GETDATE()

;WITH Partitioned AS
(
    SELECT 
        ID,
        Name,
        ROW_NUMBER() OVER (PARTITION BY ID ORDER BY Name) AS NameNumber,
        COUNT(*) OVER (PARTITION BY ID) AS NameCount
    FROM @YourTable
),
Concatenated AS
(
    SELECT ID, CAST(Name AS nvarchar) AS FullName, Name, NameNumber, NameCount FROM Partitioned WHERE NameNumber = 1

    UNION ALL

    SELECT 
        P.ID, CAST(C.FullName + ', ' + P.Name AS nvarchar), P.Name, P.NameNumber, P.NameCount
    FROM Partitioned AS P
        INNER JOIN Concatenated AS C ON P.ID = C.ID AND P.NameNumber = C.NameNumber + 1
)
SELECT 
    ID,
    FullName
FROM Concatenated
WHERE NameNumber = NameCount

SET @endTime = GETDATE();

SELECT DATEDIFF(millisecond,@startTime, @endTime)
--Take about 54 milliseconds

И это способ xmlpath:

DECLARE @startTime datetime2;
DECLARE @endTime datetime2;
DECLARE @counter INT;
SET @counter = 1;

set nocount on;

declare @YourTable table (RowID int, HeaderValue int, ChildValue varchar(5))

WHILE @counter < 1000
BEGIN
    insert into @YourTable VALUES (@counter, ROUND(@counter/10,0), CONVERT(NVARCHAR(50), @counter) + 'CC')
    SET @counter = @counter + 1;
END

SET @startTime = GETDATE();

set nocount off
SELECT
    t1.HeaderValue
        ,STUFF(
                   (SELECT
                        ', ' + t2.ChildValue
                        FROM @YourTable t2
                        WHERE t1.HeaderValue=t2.HeaderValue
                        ORDER BY t2.ChildValue
                        FOR XML PATH(''), TYPE
                   ).value('.','varchar(max)')
                   ,1,2, ''
              ) AS ChildValues
    FROM @YourTable t1
    GROUP BY t1.HeaderValue

SET @endTime = GETDATE();

SELECT DATEDIFF(millisecond,@startTime, @endTime)
--Take about 4 milliseconds
22
QMaster

Обновление: MS SQL Server 2017+, база данных SQL Azure

Вы можете использовать: STRING_AGG .

Использование довольно просто для запроса OP:

SELECT id, STRING_AGG(name, ', ') AS names
FROM some_table
GROUP BY id

Читать дальше

Ну, мой старый не-ответ был по праву удален (оставлен в такте ниже), но если кто-то попадет сюда в будущем, есть хорошие новости. Они также реализовали STRING_AGG () в базе данных SQL Azure. Это должно обеспечить точную функциональность, первоначально запрошенную в этом посте, с встроенной и встроенной поддержкой. @hrobky упоминал об этом ранее как функцию SQL Server 2016 в то время.

--- Старый пост: репутации здесь недостаточно, чтобы напрямую отвечать на @hrobky, но STRING_AGG выглядит великолепно, однако в настоящее время он доступен только в SQL Server 2016 vNext. Надеемся, что в скором времени он также будет реализован в базе данных Azure SQL.

5
Brian Jorden

Вы можете использовать + = для объединения строк, например:

declare @test nvarchar(max)
set @test = ''
select @test += name from names

если вы выберете @test, он объединит все имена

2
jvc

Я нашел ответ Сержа очень многообещающим, но я также столкнулся с проблемами производительности в том виде, в каком он был написан. Однако когда я реструктурировал его, чтобы использовать временные таблицы и не включать двойные таблицы CTE, производительность возросла с 1 минуты 40 секунд до 1 секунды для 1000 объединенных записей. Вот для тех, кому нужно сделать это без FOR XML на старых версиях SQL Server:

DECLARE @STRUCTURED_VALUES TABLE (
     ID                 INT
    ,VALUE              VARCHAR(MAX) NULL
    ,VALUENUMBER        BIGINT
    ,VALUECOUNT         INT
);

INSERT INTO @STRUCTURED_VALUES
SELECT   ID
        ,VALUE
        ,ROW_NUMBER() OVER (PARTITION BY ID ORDER BY VALUE) AS VALUENUMBER
        ,COUNT(*) OVER (PARTITION BY ID)    AS VALUECOUNT
FROM    RAW_VALUES_TABLE;

WITH CTE AS (
    SELECT   SV.ID
            ,SV.VALUE
            ,SV.VALUENUMBER
            ,SV.VALUECOUNT
    FROM    @STRUCTURED_VALUES SV
    WHERE   VALUENUMBER = 1

    UNION ALL

    SELECT   SV.ID
            ,CTE.VALUE + ' ' + SV.VALUE AS VALUE
            ,SV.VALUENUMBER
            ,SV.VALUECOUNT
    FROM    @STRUCTURED_VALUES SV
    JOIN    CTE 
        ON  SV.ID = CTE.ID
        AND SV.VALUENUMBER = CTE.VALUENUMBER + 1

)
SELECT   ID
        ,VALUE
FROM    CTE
WHERE   VALUENUMBER = VALUECOUNT
ORDER BY ID
;
1
Tom Halladay